Как устроены современные LLM-агенты?

Современные LLM-агенты, несмотря на разнообразие реализаций, часто строятся на основе схожих архитектурных принципов. systems-analysis.ru Обычно они состоят из четырёх основных компонентов: www.superannotate.com

1. Модуль рассуждения (мозг). systems-analysis.ru Ядром агента является большая языковая модель, которая выполняет роль центрального процессора. systems-analysis.ru Она отвечает за: systems-analysis.ru

• Интерпретацию. systems-analysis.ru Понимание инструкций пользователя, входящих данных и результатов наблюдений. systems-analysis.ru
• Рассуждение. systems-analysis.ru Применение логики и знаний для анализа ситуации. systems-analysis.ru
• Планирование. systems-analysis.ru Генерация пошагового плана действий для достижения поставленной цели. systems-analysis.ru

1. Модуль памяти. systems-analysis.ru Включает: systems-analysis.ru

• Краткосрочную память. systems-analysis.ru Историю недавних сообщений и действий, которая передаётся в LLM с каждым новым запросом в пределах контекстного окна. systems-analysis.ru
• Долгосрочную память. systems-analysis.ru Для хранения информации на длительный срок используются внешние хранилища, чаще всего векторные базы данных. systems-analysis.ru

1. Модуль планирования. systems-analysis.ru Этот модуль наделяет агента способностью к стратегическому мышлению. systems-analysis.ru Планирование может осуществляться двумя основными способами: systems-analysis.ru

• Планирование без обратной связи. systems-analysis.ru Агент генерирует полный план действий заранее и затем последовательно его выполняет. systems-analysis.ru
• Планирование с обратной связью (ReAct). systems-analysis.ru Агент создаёт начальный план, выполняет первый шаг, анализирует результат, а затем корректирует или дополняет оставшуюся часть плана. systems-analysis.ru

1. Модуль действий (инструменты). systems-analysis.ru Этот модуль является «руками и глазами» агента, позволяя ему взаимодействовать с внешним миром. systems-analysis.ru Действия обычно представляют собой вызовы внешних инструментов (tools) — это API или функции, которые агент может вызывать для выполнения задач, выходящих за рамки возможностей LLM. systems-analysis.ru

В совокупности получается гибкая система, способная на сложные многошаговые операции — от поиска и агрегирования данных до выполнения пользовательских команд в реальном мире. habr.com