Descida de Gradiente Estocástica

Um algoritmo de otimização iterativo que atualiza os parâmetros do modelo usando gradientes calculados em mini-lotes aleatórios de dados. SGD é a base do treinamento de aprendizado profundo. Momentum, taxa de aprendizado adaptativa (Adam, RMSProp) e variantes de agendamento de taxa de aprendizado melhoram a convergência. No aprendizado robótico, a descida de gradiente em mini-lotes em conjuntos de demonstrações treina políticas de aprendizado por imitação.

Related terms