Что такое галлюцинации нейросетей и чем они отличаются от обычных галлюцинаций?

Галлюцинации нейросетей — это неточная и ложная информация, которую ИИ выдаёт, генерируя результат. journal.tinkoff.ru Проявляться это может по-разному: от ошибок и искажения фактов в тексте до откровенного выдумывания. journal.tinkoff.ru

От обычных галлюцинаций галлюцинации нейросетей отличаются следующим:

• Искусственный интеллект не пытается сознательно обмануть человека. blog.rt.ru Такие ситуации обусловлены самой сутью нейросетей. blog.rt.ru
• Галлюцинации связаны с ошибочными реакциями, а не с опытом восприятия. en.wikipedia.org Например, чат-бот, работающий на больших языковых моделях, может встраивать в свой генерируемый контент правдоподобно звучащую случайную ложь. en.wikipedia.org

Пользователь

Время добавления