Как работает GigaSearch — технология обработки информации из Интернета для повышения точности ответов?

GigaSearch работает на основе метода RAG (Retrieval-Augmented Generation), который позволяет языковым моделям использовать внешние данные. www.ferra.ru

Процесс происходит так: habr.com

1. Запрос пользователя может проходить через классификатор, обученный выявлять фактологические вопросы. habr.com Если да, то GigaSearch используется только для них, на остальные запросы можно отвечать напрямую с помощью GigaChat без поиска. habr.com
2. В промпт GigaChat подкладывают топ-3 документа из поисковой системы, построенной поверх закрытой базы знаний. habr.com
3. Таким образом, GigaChat «видит» не только диалог с пользователем, но и релевантные документы с фактами, которые помогают ответить точно и учесть последние события в мире. habr.com

Качество ответов GigaSearch складывается из работы нескольких компонентов: habr.com

• качество поисковой системы; habr.com
• количество, корректность и актуальность данных в базе знаний; habr.com
• умение GigaChat использовать релевантный материал; habr.com
• умение GigaChat отвечать из параметрической памяти в случае нерелевантной выдачи. habr.com