사전 훈련
신경망이 작업별 미세 조정 전에 크고 다양한 데이터셋에서 훈련되는 모델 개발 단계. 로보틱스 기초 모델의 경우, 사전 훈련은 인터넷 규모의 시각-언어 데이터(이미지, 비디오, 텍스트), 교차 구현 로봇 데이터셋(Open X-Embodiment), 합성 시뮬레이션 데이터 또는 이들의 조합에서 발생할 수 있다. 사전 훈련된 모델은 객체, 동작, 개념에 대한 풍부한 일반 표현을 학습하여 처음부터 훈련하는 것보다 훨씬 적은 시연으로 다운스트림 로봇 작업으로 전이된다. 사전 훈련은 RT-2와 같은 VLA 모델의 성공 뒤에 있는 메커니즘이며, 로보틱스 및 인터넷 규모의 사전 훈련 모두로부터 이점을 얻는다. 실제로 보기: 우리의 실제 평가 →







