Retour à Glossary
Recuit cosinus
Un calendrier de taux d'apprentissage qui diminue le taux d'apprentissage selon une courbe cosinus d'une valeur initiale à près de zéro sur la période d'entraînement. Le recuit cosinus avec redémarrages chauds (SGDR) réinitialise périodiquement le taux d'apprentissage, ce qui peut aider à échapper aux minima locaux. C'est le calendrier par défaut pour l'entraînement des vision Transformers et de nombreux modèles d'apprentissage robotique.