חזרה לGlossary
Cosine Annealing
לוח זמנים של קצב למידה המקטין את קצב הלמידה בעקומת קוסינוס מערך התחלתי לקרוב לאפס על פני תקופת ההדרכה. Cosine annealing עם warm restarts (SGDR) מאפס מחדש את קצב הלמידה בתקופות, מה שיכול לעזור להימלט מינימום מקומי. זהו לוח הזמנים ברירת המחדל להדרכת vision transformers ומודלי למידה רובוטיים רבים.