Retour à Glossary
Normalisation de couche
Une technique de normalisation qui normalise selon la dimension des caractéristiques de chaque échantillon individuel (plutôt que selon le lot, comme dans la normalisation par lot). La normalisation de couche est la norme dans les architectures Transformer car elle fonctionne de manière identique pendant l'entraînement et l'inférence et gère les longueurs de séquence variables. Elle est utilisée dans presque tous les modèles VLA et de politique Transformer.