Voltar para Glossary

Normalização de Camada

MLArchitecture

Uma técnica de normalização que normaliza através da dimensão de características de cada amostra individual (em vez de através do lote, como em normalização de lote). Normalização de camada é o padrão em arquiteturas Transformer porque funciona identicamente durante treinamento e inferência e lida com comprimentos de sequência variáveis. É usada em praticamente todos os modelos VLA e políticas Transformer.

Related terms