חזרה לGlossary

LoRA

MLTraining

Low-Rank Adaptation — שיטת fine-tuning יעילה בפרמטרים המקפיאה את משקלי המודל המאומן מראש ומזריקה מטריצות trainable בדרגה נמוכה לכל שכבה. LoRA מקטינה בצורה דרמטית את מספר הפרמטרים הניתנים לאימון (לעתים קרובות 1-10% מ-fine-tuning מלא) תוך השגת ביצועים דומים. היא משמשת יותר ויותר להתאמת מודלי VLA גדולים לגופנויות רובוט ספציפיות או משימות.

Related terms