Трансферное обучение в создании чат-ботов работает следующим образом: предварительно обученная языковая модель адаптируется к конкретным задачам чат-бота. 3 Это происходит благодаря тому, что знания, накопленные в модели, подготовленной для выполнения одной задачи, переносятся на другую модель, чтобы помочь в решении родственной задачи. 13

Один из подходов к трансферному обучению — тонкая настройка (finetuning). 1 При нём команда берёт предварительно обученную модель и удаляет или переучивает последние слои этой модели, чтобы сфокусироваться на новой, схожей задаче. 1

Пример: чат-бот по юридическим вопросам может использовать понимание юридического жаргона предварительно обученной моделью и адаптировать его для анализа контрактов. 3