Некоторые философские проблемы, которые возникают при создании искусственного интеллекта (ИИ):

• Проблема сознания. 2 Можно ли считать машины сознательными и могут ли они воспринимать вещи так же, как это делают люди? 2 Если да, то как с ними следует обращаться? 2
• Проблема свободы воли. 2 Способны ли машины принимать решения, которые определяются не внешними факторами, а их собственными внутренними состояниями и желаниями? 2 Если нет, то как они могут нести ответственность за свои действия в ситуациях, когда причиняют вред? 2
• Проблема выравнивания ценностей. 2 Системы ИИ должны быть согласованы с человеческими ценностями и целями, но неясно, могут ли они действительно понимать эти ценности и действовать в соответствии с ними. 2

Некоторые этические проблемы, которые возникают при создании ИИ:

• Долгосрочная безопасность интеллектуальных систем. 5 Вероятность создания машин с интеллектуальными возможностями, превосходящими человеческие, ставит под вопрос безопасность не только для отдельных людей, но и для человечества в целом. 5
• Побочные эффекты внедрения ИИ. 1 При внедрении любых новых технологий, созданных вроде бы для улучшения жизни человека, возникает много отрицательных или негативных побочных эффектов. 1
• Этика экспертных систем. 1 Она связана с программами, которые заменяют живого эксперта, например, в медицинской диагностике. 1