Volver a Glossary
Destilación de Conocimiento
Entrenar un modelo estudiante más pequeño para que coincida con las salidas (logits suaves) de un modelo maestro más grande. El estudiante aprende una versión comprimida del conocimiento del maestro. En robótica, la destilación se utiliza para: comprimir modelos VLA grandes para inferencia en tiempo real, transferir maestros con información privilegiada a estudiantes solo de visión, y crear modelos de percepción eficientes desplegables en dispositivos periféricos.