Почему генеративные модели ИИ могут вызвать тревожные состояния у людей?

Генеративные модели ИИ могут вызывать тревожные состояния у людей по нескольким причинам:

• Чувствительность к эмоциональному контенту. 1 Алгоритмы ИИ обучались на человеческом языке и, подобно людям, перенимают не только информацию, но и когнитивные искажения. 1 Некоторые истории провоцируют у алгоритма реакции, которые можно сравнить со страхом. 1 Особенно эмоциональны реакции ИИ на автокатастрофы, стихийные бедствия, насилие. 1
• Неопределённость в работе ИИ. 23 Процесс обработки данных и вынесения суждения от ИИ часто остаётся человеку непонятным. 3 Пользователь не может проверить, насколько этот процесс был объективным и недискриминационным. 3 Когда ИИ выглядит как «чёрная коробка», которая получает данные на входе и выдаёт решения на выходе, возникает чувство потери контроля и сильной тревожности. 3
• Восприятие ИИ как эксперта. 5 Некоторые пользователи начинают испытывать в себе сомнения, наделяя нейросети экспертными, немного даже волшебными качествами. 5 В итоге человек начинает воспринимать искусственный интеллект как психолога или гуру, после чего наделяет его мистическими функциями. 5

Важно понимать ограничения ИИ и не возлагать на него функции, для которых он не предназначен. 4 Особенно когда речь идёт о ментальном здоровье. 4