Retour à Glossary
Descente de gradient stochastique
Un algorithme d'optimisation itératif qui met à jour les paramètres du modèle en utilisant des gradients calculés sur des mini-lots aléatoires de données. La SGD est le fondement de l'entraînement du deep learning. L'inertie, les taux d'apprentissage adaptatifs (Adam, RMSProp) et la planification du taux d'apprentissage améliorent la convergence. En apprentissage robotique, la descente de gradient par mini-lots sur des ensembles de démonstrations entraîne les politiques d'apprentissage par imitation.