大模型微调速度提升 2 倍、显存减少 70%,单卡也能训练。
ai-infra-book
《深入理解 AI Infra:量化分析与系统设计》(李博杰 著)开源书稿:从硬件约束和模型架构出发,量化推导 LLM 推理与训练系统设计。含全书正文、PDF、配套计算工具与实验
- 仓库
- bojieli/ai-infra-book
- Stars
- ★ 6,294
- Forks
- 475
- 语言
- Python
- 许可证
- Apache-2.0
- 最近更新
- 2026-10-01
- 访问次数
- 0
DeepSeekLLM
同类项目
统一高效微调 100+ 大模型,零代码 Web 界面,国内最流行的微调工具。
统一的 AI 计算引擎,用于分布式训练、调参、推理与服务。
机器学习与 GenAI 生命周期管理平台,含追踪与评测。
🧠 Train a 64M-parameter LLM from scratch in just 2h!
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.