Zurück zu Glossary
Stochastischer Gradientenabstieg
Ein iterativer Optimierungsalgorithmus, der Modellparameter mithilfe von Gradienten aktualisiert, die auf zufälligen Mini-Batches von Daten berechnet werden. SGD ist die Grundlage des Deep-Learning-Trainings. Momentum, adaptive Lernraten (Adam, RMSProp) und Lernraten-Scheduling-Varianten verbessern die Konvergenz. Beim Roboter-Lernen trainiert Mini-Batch-Gradientenabstieg auf Demonstrationsdatensätzen Imitationslern-Kontrollrichtlinien.