Glossaryに戻る

LoRA

MLTraining

Low-Rank Adaptation — 事前学習済みモデルの重みを凍結し、各層に訓練可能な低ランク行列を注入するパラメータ効率的なファインチューニング手法です。LoRA は訓練可能なパラメータ数を劇的に削減し(通常、完全なファインチューニングの 1~10%)、同等のパフォーマンスを達成します。大規模 VLA モデルを特定のロボット実装体またはタスクに適応させるために、ますます使用されています。

Related terms