Назад к Glossary
Косинусное отжигание
График скорости обучения, который уменьшает скорость обучения по косинусной кривой от начального значения к нулю в течение периода обучения. Косинусное отжигание с теплыми перезагрузками (SGDR) периодически сбрасывает скорость обучения, что может помочь избежать локальных минимумов. Это график по умолчанию для обучения видео-трансформаторов и многих моделей обучения роботов.