AI RoadProyectos de IA de código abierto

tiktoken

OpenAI 模型使用的快速 BPE 分词器。

Categoría
⚙️ Bibliotecas de aprendizaje profundo
Repositorio
openai/tiktoken
Estrellas
★ 19.476
Forks
1647
Lenguaje
Python
Licencia
MIT
Última actualización
2026-08-17
Visitas
0

Tokenización

Visitar proyecto ↗GitHub ↗

Proyectos similares