Zurück zu Glossary

Tokenisierung

MLTransformer

Umwandlung kontinuierlicher oder strukturierter Daten in diskrete Token zur Verarbeitung durch Transformer-Modelle. In VLAs gilt die Tokenisierung für: Text (BPE-Tokenisierung in Subwort-Token), Bilder (Patch-Tokenisierung in visuelle Token) und Aktionen (Diskretisierung in Aktionsbins oder Clustering in Aktions-Token). Das Tokenisierungsschema hat erhebliche Auswirkungen auf Modellkapazität und Inferenzgeschwindigkeit.

Related terms