Некоторые недостатки фразовой формы общения в системах искусственного интеллекта:

• Сложность понимания динамизма речи. 1 В разговоре используют наполнители, паузы, фрагменты предложений и неразборчивые звуки. 1 Система ИИ не способна определять смысл разговора, используя жизненный опыт человека. 1
• Неустойчивость процесса языковой генерации. 2 Небольшие изменения в словах могут приводить к существенным искажениям смыслов и фактов, особенно в отрыве от первоисточников. 2
• Неспособность отличать истинные факты от ложных. 2 Генеративные языковые модели излагают информацию в утвердительной форме, потому что такого рода тексты преобладали в обучающей выборке. 2
• Влияние социокультурных стереотипов. 3 Программы ИИ передают социокультурный опыт своих разработчиков, но нормы и ценности целевой аудитории могут не совпадать с ними, а в ряде случаев и серьёзно противоречить им. 3
• Отсутствие смысловых фильтров. 3 Системы ИИ не обладают фильтрами, которые могут принять во внимание этические, моральные и прочие социокультурные особенности человека. 3