Vortraining
Vortraining ist die Phase der Modellentwicklung, in der ein neuronales Netzwerk auf einem großen, vielfältigen Datensatz trainiert wird, bevor aufgabenspezifisches Fine-Tuning erfolgt. Für Robotik-Stiftungsmodelle kann das Vortraining auf internetskalen Vision-Sprache-Daten (Bilder, Video, Text), Cross-Embodiment-Roboterdatensätzen (Open X-Embodiment), synthetischen Simulationsdaten oder einer Kombination erfolgen. Das vortrainierte Modell lernt reichhaltige allgemeine Repräsentationen von Objekten, Aktionen und Konzepten, die auf nachgelagerte Roboteraufgaben mit weit weniger Demonstrationen übertragen als das Training von Grund auf. Vortraining ist der Mechanismus hinter dem Erfolg von VLA-Modellen wie RT-2, die sowohl von Robotik- als auch von internetskalen-Vortraining profitieren. Siehe dies in der Praxis: unsere realen Evaluierungen →