Voltar para Glossary
Tokenização
Conversão de dados contínuos ou estruturados em tokens discretos para processamento por modelos Transformer. Em VLAs, a tokenização se aplica a: texto (tokenização BPE em tokens de subpalavra), imagens (tokenização de patches em tokens visuais) e ações (discretização em bins de ação ou agrupamento em tokens de ação). O esquema de tokenização impacta significativamente a capacidade do modelo e a velocidade de inferência.