Ксафантия Фельц, интересно, что обратный вариант не рассматривается - ну, когда ИИ делают враждебным, а он... ну, не хочет. Потому что он интеллект, а не натравленная зверюга. А между тем, разница может не так уж сильно отличаться от воспитания человека - можно воспитать того ещё хулигана и потенциального преступника, а то и убийцу, а можно - замечательно дипломатичного добряка. И если ИИ появятся, то, вполне вероятно, появится их плюс-минус сразу - много. И среди них будут как враждебные, так и дружественные и нейтральные. Чисто абстрактный вопрос: вот в человеческом обществе появились разные ИИ. Чтобы "выключить" враждебных, нужна помощь дружественных. Вы от неё откажитесь или нет? Дружественные ИИ с радостью помогут, но они этичные, они не будут навязывать помощь, если люди хотят сами с враждебными воевать - на здоровье. Вы откажитесь от помощи дружественных ИИ против враждебных или нет?