AI RoadProjetos de IA de código aberto

tiktoken

OpenAI 模型使用的快速 BPE 分词器。

Categoria
⚙️ Bibliotecas de deep learning
Repositório
openai/tiktoken
Estrelas
★ 19.476
Forks
1.647
Linguagem
Python
Licença
MIT
Última atualização
2026-08-17
Visitas
0

Tokenização

Visitar projeto ↗GitHub ↗

Projetos semelhantes