層正規化
各個別サンプルの特徴次元全体を正規化する正規化技術(バッチ正規化のようにバッチ全体ではなく)。層正規化はTransformerアーキテクチャの標準です。学習と推論で同じように動作し、可変長シーケンスを処理できるためです。ほぼすべてのVLAおよび制御ポリシーTransformerモデルで使用されます。
各個別サンプルの特徴次元全体を正規化する正規化技術(バッチ正規化のようにバッチ全体ではなく)。層正規化はTransformerアーキテクチャの標準です。学習と推論で同じように動作し、可変長シーケンスを処理できるためです。ほぼすべてのVLAおよび制御ポリシーTransformerモデルで使用されます。