Процесс машинного обучения в чат-ботах для обработки запросов включает несколько этапов: 1

1. Предварительная обработка текста. 1 Токенизация (разбиение на слова), исправление опечаток, лемматизация и стемминг (определение нормальной формы слов и частей речи), отбрасывание стоп-слов (артикли, междометия, союзы и пр.). 1
2. Расширение запроса. 1 С помощью словарей синонимов, дополнение информацией о значимости отдельных слов, расширение запроса деревом синтаксического разбора и результатами разрешения местоимений, а также определение именованных сущностей. 1
3. Классификация запроса. 1 На основе примеров фраз и ML-алгоритмов или формальных правил (шаблонов), ранжирование гипотез классификации в соответствии с текущим контекстом беседы. 1
4. Извлечение параметров запроса из фразы пользователя. 1

Для обучения чат-бота используются датасеты — наборы данных, которые содержат примеры с правильными ответами: тегами, классами, показателями. 2 Такие датасеты называют размеченными. 2 При обучении нейронная сеть на основе входных данных предсказывает выходные данные, которые сравниваются с правильными ответами. 2 Расхождение между выходными данными и правильным ответом используется для улучшения параметров нейросети. 2

Также используется «обучение без учителя» (unsupervised learning). 2 В этом случае у сети есть набор данных, но нет правильных ответов. 2 Нейронная сеть извлекает полезные признаки, анализирует их и пытается самостоятельно найти корреляции. 2