Moteur d’inférence LLM en C/C++ pur, compatible CPU, GPU et Apple Silicon avec quantification GGUF, et serveur compatible OpenAI intégré.
Ollama Sélection
Exécutez Llama, Qwen, DeepSeek et d’autres grands modèles en local avec une commande, avec bibliothèque de modèles et API compatible OpenAI intégrées.
- Catégorie
- 🖥️ Inférence et déploiement en local
- Dépôt
- ollama/ollama
- Étoiles
- ★ 183 592
- Forks
- 18 353
- Langage
- Go
- Licence
- MIT
- Dernière mise à jour
- 2026-10-17
- Visites
- 6
OllamaDéploiement local
Projets similaires
Moteur d’inférence et de serving LLM à haut débit et faible empreinte mémoire, dont PagedAttention est la technique centrale.
Never stop coding. Free MIT AI gateway: one endpoint, 375 providers (150+ free), 1,400+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aw
OpenAI 兼容的本地自托管 AI 引擎，一个服务同时支持文本、图像、语音与向量。
用家里闲置的手机、电脑和平板组成集群，一起运行大模型。
Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦