Retropropagación
El algoritmo para calcular gradientes de una función de pérdida con respecto a los parámetros de la red neuronal aplicando la regla de la cadena capa por capa desde la salida hacia la entrada. La retropropagación permite la optimización basada en gradientes de redes profundas. Requiere almacenar activaciones intermedias durante la pasada hacia adelante, lo que domina el consumo de memoria durante el entrenamiento.







