AI RoadProjetos de IA de código aberto

Mosec

A high-performance ML model serving framework, offers dynamic batching and CPU/GPU pipelines to fully exploit your compute machine

Categoria
🛠️ Frameworks e SDKs
Repositório
mosecorg/mosec
Estrelas
★ 902
Forks
80
Linguagem
Python
Licença
Apache-2.0
Última atualização
2026-10-12
Visitas
0

LLM

Visitar projeto ↗GitHub ↗

Projetos semelhantes

DSPy

Destaque

Programe em vez de escrever prompts: construa de forma declarativa e otimize automaticamente pipelines de LLM.

🛠️ Frameworks e SDKsPythonPrompts programáticosOtimização★ 39k