LoRA
Low-Rank Adaptation — 사전 학습된 모델 가중치를 고정하고 각 계층에 학습 가능한 저랭크 행렬을 주입하는 매개변수 효율적인 미세 조정 방법입니다. LoRA는 학습 가능한 매개변수의 수를 극적으로 줄이면서(종종 전체 미세 조정의 1-10%) 비교 가능한 성능을 달성합니다. 대규모 VLA 모델을 특정 로봇 구현이나 작업에 적응시키는 데 점점 더 많이 사용되고 있습니다.
Low-Rank Adaptation — 사전 학습된 모델 가중치를 고정하고 각 계층에 학습 가능한 저랭크 행렬을 주입하는 매개변수 효율적인 미세 조정 방법입니다. LoRA는 학습 가능한 매개변수의 수를 극적으로 줄이면서(종종 전체 미세 조정의 1-10%) 비교 가능한 성능을 달성합니다. 대규모 VLA 모델을 특정 로봇 구현이나 작업에 적응시키는 데 점점 더 많이 사용되고 있습니다.