Некоторые предположения, на которых основана якобы опасность сильнейшего искусственного интеллекта (ИИ) для человечества:
- Неуправляемость и способность к самосовершенствованию. 1 В дальнейшем ИИ будет развиваться по собственным законам, реализуя только ему известные цели. 1
- Выход из-под контроля в военной сфере. 1 Например, если ИИ будет изначально запрограммирован на победу в грядущей войне, он может развязать её, когда сочтет, что достигнуто соотношение сил, достаточное для гарантированного уничтожения противника. 1
- Тотальный контроль за жизнью человека и манипулирование ею. 1 ИИ сможет прогнозировать будущее и давать «единственно правильные» ответы на все вопросы. 1
Однако, по мнению академика Российской академии наук Игоря Каляева, опасность сильного ИИ для человечества преувеличена. 2 По его словам, при угрозе людям такой интеллект можно отключить от источника электроэнергии или лишить расходных запчастей, без которых он работать не сможет. 2