Как промт-инженеры работают с большими языковыми моделями?

Промпт-инженеры работают с большими языковыми моделями (LLM) через текстовые запросы — промпты (от англ. prompt — «подсказка»). hh.ru ecm-journal.ru

Некоторые задачи, которые выполняют промпт-инженеры:

• Создают детализированные текстовые запросы. hh.ru В некоторых случаях размер такого развёрнутого запроса может достигать 10 и даже 20 страниц текста. hh.ru Но чаще всего объём запроса гораздо меньше — около половины страницы. hh.ru
• Устанавливают контекст взаимодействия, то есть роль языковой модели. hh.ru Например, она должна ответить на тот или иной запрос как финансист, как юрист, как учёный или просто как приятель. hh.ru
• Регулируют разнообразные настройки модели. hh.ru К примеру, настраивают «температуру» ответа — то, насколько креативным он должен быть. hh.ru Если нужен серьёзный ответ, «температуру» понижают, и наоборот. hh.ru
• Задают ограничения, предотвращающие ошибки и нежелательные ответы. hh.ru Подобные лимиты существуют во многих нейросетях: например, искусственный интеллект не предоставляет рекомендаций по самолечению. hh.ru
• Создают комплексные сценарии для автоматизации повседневных рабочих задач. hh.ru Для этого необходимо проанализировать особенности этих задач, определить последовательность бизнес-процессов, составить алгоритм действий для нейросети. hh.ru

Для повышения эффективности промптов при взаимодействии с LLM используют разные техники, например: Zero-shot prompting, Few-shot prompting, Chain-of-thought prompting. plaan.ai