Volver a Glossary
Normalización por Lotes
Una técnica que normaliza las entradas de capas en el mini-lote para tener media cero y varianza unitaria, luego aplica una transformación afín aprendida. La normalización por lotes estabiliza el entrenamiento, permite tasas de aprendizaje más altas y actúa como regularizador. Es estándar en CNNs pero menos común en Transformers, que típicamente utilizan normalización de capas en su lugar.