随机梯度下降
一种迭代优化算法,使用在随机小批量数据上计算的梯度来更新模型参数。SGD 是深度学习训练的基础。动量法、自适应学习率(Adam、RMSProp)和学习率调度变体可以改进收敛性。在机器人学习中,在演示数据集上进行小批量梯度下降来训练模仿学习策略。
一种迭代优化算法,使用在随机小批量数据上计算的梯度来更新模型参数。SGD 是深度学习训练的基础。动量法、自适应学习率(Adam、RMSProp)和学习率调度变体可以改进收敛性。在机器人学习中,在演示数据集上进行小批量梯度下降来训练模仿学习策略。