Возможно, имелись в виду малые языковые модели (SLM), которые могут заменить большие языковые модели (LLM). trends.rbc.ru figure.media
Некоторые из них:
- GPT-Neo и GPT-J — уменьшенные версии моделей GPT от OpenAI, которые достаточно универсальны и при этом работают с ограниченными вычислительными ресурсами. trends.rbc.ru
- DistilBERT, BERT Mini, Small, Medium и Tiny — мини-версии большой модели BERT для обработки естественного языка (NLP) с разным количеством параметров: от 4,4 до 41 млн. trends.rbc.ru
- Orca 2 — малая модель от Microsoft, которая базируется на большой Orca с 13 млрд параметров, но с оптимизированными и улучшенными данными, а также тонкой настройкой Llama 2. trends.rbc.ru
- Phi 3 — разработка Microsoft с 3,8 млрд параметров, которая легко адаптируется для развёртывания как в облаке, так и на локальных ресурсах. trends.rbc.ru
- T5-Small — модель на базе Text-to-Text Transfer Transformer (T5) от Google. trends.rbc.ru
- RecurrentGemma — SLM от Google с 2,2 млрд параметров, которая генерирует текст в режиме онлайн на устройствах с ограниченными ресурсами, включая смартфоны, ПК и IoT. trends.rbc.ru
Малые модели предназначены для решения узкоспециализированных задач, с которыми справляются заметно лучше. trends.rbc.ru