Open-source MoE-модель DeepSeek: по качеству сопоставима с лучшими закрытыми моделями при очень низкой стоимости обучения.
GPT-NeoX
An implementation of model parallel autoregressive transformers on GPUs, based on the Megatron and DeepSpeed libraries
- Категория
- 🧠 Большие языковые модели
- Репозиторий
- EleutherAI/gpt-neox
- Звёзды
- ★ 7 471
- Форки
- 1 127
- Последнее обновление
- 2026-10-11
- Переходы
- 0
Transformers
Похожие проекты
Модель рассуждений DeepSeek: длинные цепочки мыслей формируются обучением с подкреплением; также опубликованы дистиллированные малые модели.
阿里通义千问第三代开源模型，涵盖稠密与 MoE，支持思考/非思考模式切换。
xAI 开放的 Grok-1 权重与示例代码。
Hugging Face 对 DeepSeek-R1 的完全开源复现，含训练数据与脚本。
The official repo of Qwen (通义千问) chat & pretrained large language model proposed by Alibaba Cloud.