Самый популярный фреймворк для создания LLM-приложений: цепочки, инструменты, память и множество интеграций.
Mosec
A high-performance ML model serving framework, offers dynamic batching and CPU/GPU pipelines to fully exploit your compute machine
- Категория
- 🛠️ Фреймворки и SDK
- Репозиторий
- mosecorg/mosec
- Звёзды
- ★ 902
- Форки
- 80
- Язык
- Python
- Лицензия
- Apache-2.0
- Последнее обновление
- 2026-10-12
- Переходы
- 0
LLM
Похожие проекты
Фреймворк данных для LLM-приложений: подключает приватные данные и строит RAG и агентов.
Программируйте вместо написания промптов: декларативно стройте и автоматически оптимизируйте LLM-конвейеры.
用几行 Python 构建机器学习模型的 Web 演示界面。
The Frontend Stack for Agents & Generative UI. React, Angular, Mobile, Slack, and more. Makers of the AG-UI Protocol
为智能体提供数百个工具集成与认证管理的平台。