经验回放缓冲区
经验回放缓冲区(或经验回放内存)是强化学习智能体在环境交互过程中收集的过去(状态、动作、奖励、下一状态、完成标志)转移的数据集。在每个训练步骤中,从缓冲区随机采样小批次来训练价值函数或控制策略,打破会使梯度更新不稳定的时间相关性。在离线强化学习和机器人学习中,回放缓冲区被替换为人类演示或先前收集的轨迹的固定数据集。优先经验回放根据时间差分误差对采样进行加权,以将训练集中在信息丰富的转移上。 参见实践应用:我们的真实世界评估 →
经验回放缓冲区(或经验回放内存)是强化学习智能体在环境交互过程中收集的过去(状态、动作、奖励、下一状态、完成标志)转移的数据集。在每个训练步骤中,从缓冲区随机采样小批次来训练价值函数或控制策略,打破会使梯度更新不稳定的时间相关性。在离线强化学习和机器人学习中,回放缓冲区被替换为人类演示或先前收集的轨迹的固定数据集。优先经验回放根据时间差分误差对采样进行加权,以将训练集中在信息丰富的转移上。 参见实践应用:我们的真实世界评估 →