AI RoadProjets IA open source

tiktoken

OpenAI 模型使用的快速 BPE 分词器。

Catégorie
⚙️ Bibliothèques de deep learning
Dépôt
openai/tiktoken
Étoiles
★ 19 476
Forks
1 647
Langage
Python
Licence
MIT
Dernière mise à jour
2026-08-17
Visites
0

Tokenisation

Visiter le projet ↗GitHub ↗

Projets similaires