最流行的 LLM 应用开发框架，提供链、工具、记忆与大量集成。
Mosec
A high-performance ML model serving framework, offers dynamic batching and CPU/GPU pipelines to fully exploit your compute machine
- 仓库
- mosecorg/mosec
- Stars
- ★ 902
- Forks
- 74
- 最近更新
- 2026-10-12
- 访问次数
- 0
LLM
同类项目
面向 LLM 应用的数据框架，连接私有数据并构建 RAG 与智能体。
用编程代替提示词：声明式地构建并自动优化大模型流水线。
用几行 Python 构建机器学习模型的 Web 演示界面。
The Frontend Stack for Agents & Generative UI. React, Angular, Mobile, Slack, and more. Makers of the AG-UI Protocol
为智能体提供数百个工具集成与认证管理的平台。