Volver a Glossary
Optimizador Adam
Un algoritmo de optimización con tasa de aprendizaje adaptativa que mantiene estimaciones de primer y segundo momento de gradientes por parámetro. Adam combina los beneficios de AdaGrad (tasas de aprendizaje por parámetro) y RMSProp (promedio móvil exponencial de gradientes al cuadrado). Es el optimizador predeterminado para entrenar la mayoría de modelos de aprendizaje robótico, siendo AdamW (decoupled weight decay) la variante más común.