返回Glossary
层归一化
一种归一化技术，在每个单独样本的特征维度上进行归一化（而不是像批归一化那样在批次上进行）。层归一化是 Transformer 架构的标准，因为它在训练和推理期间的工作方式相同，并能处理可变序列长度。它用于几乎所有 VLA 和控制策略 Transformer 模型中。
一种归一化技术，在每个单独样本的特征维度上进行归一化（而不是像批归一化那样在批次上进行）。层归一化是 Transformer 架构的标准，因为它在训练和推理期间的工作方式相同，并能处理可变序列长度。它用于几乎所有 VLA 和控制策略 Transformer 模型中。