LLM のファインチューニングを 2 倍速、VRAM 70% 減で実行。GPU 1 枚でも学習できる。
Megatron-LM
NVIDIA 的大规模 Transformer 训练框架。
- リポジトリ
- NVIDIA/Megatron-LM
- スター
- ★ 18,191
- フォーク
- 4,636
- 言語
- Python
- 最終更新
- 2026-10-19
- アクセス数
- 0
大規模学習
関連プロジェクト
100 以上の LLM を統一的かつ効率的にファインチューニング。ノーコードの Web UI を備え、中国で最も人気のチューニングツール。
分散学習、チューニング、推論、サービングを一つにまとめた AI コンピュートエンジン。
机器学习与 GenAI 生命周期管理平台,含追踪与评测。
🧠 Train a 64M-parameter LLM from scratch in just 2h!
DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.