Дообучение LLM в 2 раза быстрее при на 70% меньшем расходе VRAM: хватит и одной видеокарты.
KServe
Standardized Distributed Generative and Predictive AI Inference Platform for Scalable, Multi-Framework Deployment on Kubernetes
- Категория
- 🏋️ Обучение, дообучение и MLOps
- Репозиторий
- kserve/kserve
- Звёзды
- ★ 6 130
- Форки
- 1 741
- Язык
- Go
- Лицензия
- Apache-2.0
- Последнее обновление
- 2026-10-17
- Переходы
- 0
Похожие проекты
Единое и эффективное дообучение более 100 LLM с веб-интерфейсом без кода; самый популярный в Китае инструмент дообучения.
Единый вычислительный движок для ИИ: распределённое обучение, подбор параметров, инференс и сервинг.
机器学习与 GenAI 生命周期管理平台，含追踪与评测。
🧠 Train a 64M-parameter LLM from scratch in just 2h!
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.