Почему искусственный интеллект в реальных жизненных приложениях столь жалок?

Несколько причин, по которым искусственный интеллект в реальных жизненных приложениях может быть несовершенным:

• Эффект «зловещей долины». www.securitylab.ru Чем больше разработчики стараются приблизить поведение ИИ к человеческому, тем чаще пользователи сталкиваются с этим явлением. www.securitylab.ru Мозг распознаёт небольшие несовершенства, нарушающие иллюзию живого образа, и воспринимает их как тревожные и странные. www.securitylab.ru
• Недостаточный учёт психологии пользователей. www.securitylab.ru Разработчики ИИ не всегда учитывают ожидания, страхи и предубеждения людей. www.securitylab.ru
• Отсутствие эмпатии. www.mn.ru Согласно исследованию Кембриджского университета, чат-боты с ИИ плохо справляются с эмоциональными и абстрактными аспектами разговора. www.mn.ru
• Фактические ошибки. www.mn.ru Например, в начале 2024 года аналитики отметили фактические ошибки в ответах чат-бота Microsoft Copilot на вопросы о медицинских препаратах и диагнозах: неправильные советы в 22% случаев могут привести к смерти. www.mn.ru

Чтобы преодолеть эти проблемы, профессор Пенсильванского университета Итан Молик предлагает воспринимать системы ИИ не как совершенное программное обеспечение, а как «достаточно компетентных людей» со всеми присущими им особенностями и ограничениями. www.securitylab.ru