返回Glossary

知识蒸馏

MLTraining

训练一个较小的学生模型以匹配较大教师模型的输出(软逻辑)。学生学习教师知识的压缩版本。在机器人学中,蒸馏用于:压缩大型VLA模型以实现实时推理,将特权信息教师转移到仅视觉学生,以及创建高效的边缘可部署感知模型。

Related terms