Glossaryに戻る
知識蒸留
より大きな教師モデルの出力（ソフトロジット）に一致するようにより小さい学生モデルを訓練します。学生は教師の知識の圧縮版を学習します。ロボット工学では、蒸留は以下に使用されます：大規模VLAモデルをリアルタイム推論用に圧縮する、特権情報教師をビジョンのみの学生に転送する、および効率的なエッジ展開可能な知覚モデルを作成する。
より大きな教師モデルの出力（ソフトロジット）に一致するようにより小さい学生モデルを訓練します。学生は教師の知識の圧縮版を学習します。ロボット工学では、蒸留は以下に使用されます：大規模VLAモデルをリアルタイム推論用に圧縮する、特権情報教師をビジョンのみの学生に転送する、および効率的なエッジ展開可能な知覚モデルを作成する。