Retour à Glossary

Tokenisation

MLTransformer

Conversion de données continues ou structurées en jetons discrets pour le traitement par des modèles Transformer. Dans les VLA, la tokenisation s'applique à : le texte (tokenisation BPE en jetons de sous-mots), les images (tokenisation par patchs en jetons visuels) et les actions (discrétisation en bacs d'actions ou regroupement en jetons d'actions). Le schéma de tokenisation a un impact significatif sur la capacité du modèle et la vitesse d'inférence.

Related terms