Галлюцинации нейросетей — это неточная и ложная информация, которую ИИ выдаёт, генерируя результат. 5 Проявляться это может по-разному: от ошибок и искажения фактов в тексте до откровенного выдумывания. 5

От обычных галлюцинаций галлюцинации нейросетей отличаются следующим:

• Искусственный интеллект не пытается сознательно обмануть человека. 2 Такие ситуации обусловлены самой сутью нейросетей. 2
• Галлюцинации связаны с ошибочными реакциями, а не с опытом восприятия. 1 Например, чат-бот, работающий на больших языковых моделях, может встраивать в свой генерируемый контент правдоподобно звучащую случайную ложь. 1