Как работает система проверки фактов в современных ИИ-ассистентах?

Система проверки фактов в современных ИИ-ассистентах работает по следующему алгоритму: 1

1. Поиск подходящих текстовых фрагментов для утверждения пользователя. 1 Для этого используются алгоритмы машинного обучения, которые просматривают тысячи источников данных, включая структурированные базы знаний и неструктурированные текстовые массивы. 3
2. Сравнение найденных фрагментов с утверждением. 1
3. Принятие окончательного решения о верности утверждения. 1 Результатом работы программы является итоговое решение, вероятность этого решения и подтверждающие или опровергающие текстовые фрагменты. 1

Например, в Центре ИИ НИУ ВШЭ разработали ассистента по проверке фактов, который автоматически проверяет факты на основе данных «Википедии». 1 Программа работает для любых утверждений, сформулированных в виде текста длиннее пяти слов. 1 Если факта нет в «Википедии», система говорит, что для проверки «не хватает информации». 1

Важно отметить, что ИИ-ассистенты пока не заменяют профессионального фактчекинга, а область их применения ограничена. 1