LLM のファインチューニングを 2 倍速、VRAM 70% 減で実行。GPU 1 枚でも学習できる。
ai-infra-book
《深入理解 AI Infra:量化分析与系统设计》(李博杰 著)开源书稿:从硬件约束和模型架构出发,量化推导 LLM 推理与训练系统设计。含全书正文、PDF、配套计算工具与实验
- リポジトリ
- bojieli/ai-infra-book
- スター
- ★ 6,633
- フォーク
- 513
- 言語
- Python
- ライセンス
- Apache-2.0
- 最終更新
- 2026-10-01
- アクセス数
- 0
DeepSeekLLM
関連プロジェクト
100 以上の LLM を統一的かつ効率的にファインチューニング。ノーコードの Web UI を備え、中国で最も人気のチューニングツール。
分散学習、チューニング、推論、サービングを一つにまとめた AI コンピュートエンジン。
机器学习与 GenAI 生命周期管理平台,含追踪与评测。
🧠 Train a 64M-parameter LLM from scratch in just 2h!
微软的深度学习优化库,让分布式训练与推理简单高效。