Glossary(으)로 돌아가기

지식 증류

MLTraining

더 작은 학생 모델을 더 큰 교사 모델의 출력(소프트 로짓)과 일치하도록 훈련합니다. 학생은 교사의 지식의 압축된 버전을 학습합니다. 로봇 공학에서 증류는 다음을 위해 사용됩니다: 실시간 추론을 위해 대규모 VLA 모델 압축, 특권 정보 교사를 비전 전용 학생으로 전이, 효율적인 엣지 배포 가능 인식 모델 생성.

Related terms