Glossaryに戻る
コサイン焼きなまし
学習率スケジュール。初期値からほぼゼロまで、訓練期間全体にわたってコサイン曲線に従って学習率を減少させます。ウォームリスタート付きコサイン焼きなまし（SGDR）は学習率を周期的にリセットし、局所最小値から脱出するのに役立ちます。これはVision Transformerおよび多くのロボット学習モデルの訓練における標準的なスケジュールです。
学習率スケジュール。初期値からほぼゼロまで、訓練期間全体にわたってコサイン曲線に従って学習率を減少させます。ウォームリスタート付きコサイン焼きなまし（SGDR）は学習率を周期的にリセットし、局所最小値から脱出するのに役立ちます。これはVision Transformerおよび多くのロボット学習モデルの訓練における標準的なスケジュールです。