एक कमांड से Llama, Qwen, DeepSeek जैसे बड़े मॉडल लोकल चलाएँ, अपनी मॉडल लाइब्रेरी और OpenAI-संगत API के साथ।
Magnitude
Open source inference engine that tunes its kernels on your hardware to find the fastest way to run each model. 2x faster than Ollama. Works on Apple Silicon, NVIDIA, AMD, or just a CPU.
- रिपॉज़िटरी
- magnitudedev/magnitude
- स्टार
- ★ 7,164
- फ़ोर्क
- 492
- अंतिम अपडेट
- 2026-10-19
- विज़िट
- 0
मिलते-जुलते प्रोजेक्ट
शुद्ध C/C++ में लिखा LLM इन्फ़रेंस इंजन, CPU/GPU/Apple Silicon और GGUF क्वांटाइज़ेशन का समर्थन, OpenAI-संगत सर्वर के साथ।
उच्च-थ्रूपुट, कम मेमोरी वाला LLM इन्फ़रेंस और सर्विंग इंजन, जिसकी मुख्य तकनीक PagedAttention है।
Never stop coding. Free MIT AI gateway: one endpoint, 375 providers (150+ free), 1,400+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aw
OpenAI 兼容的本地自托管 AI 引擎，一个服务同时支持文本、图像、语音与向量。
用家里闲置的手机、电脑和平板组成集群，一起运行大模型。