Zurück zu Glossary
Wissensdestillation
Training eines kleineren Schülermodells, um die Ausgaben (weiche Logits) eines größeren Lehrermodells zu reproduzieren. Der Schüler lernt eine komprimierte Version des Wissens des Lehrers. In der Robotik wird Destillation verwendet, um: große VLA-Modelle für Echtzeitinferenz zu komprimieren, privilegierte Lehrermodelle auf reine Visions-Schüler zu übertragen und effiziente, am Rand einsetzbare Wahrnehmungsmodelle zu erstellen.