Для написания софта наподобие Hugging Face можно использовать следующие инструменты:
- Hugging Face и Transformers. 2 Платформа предлагает множество моделей с открытым исходным кодом. 2 Для локального запуска LLM можно использовать библиотеку Transformers на Python. 2 Например, с её помощью можно запустить модель GPT-2 microsoft/DialoGPT-medium. 2 Для сценария также потребуется установить PyTorch. 2
- LangChain. 2 Это фреймворк на Python для построения приложений на основе искусственного интеллекта. 2 Он предоставляет абстракции и промежуточное ПО для разработки приложения на базе одной из поддерживаемых моделей. 2
Ещё несколько альтернатив Hugging Face: Civitai, Gradio.app, Replicate, Run:ai и Kuki. 3
Для разработки софта рекомендуется обратиться к специалисту.