Glossary(으)로 돌아가기
코사인 어닐링
학습률을 초기값에서 훈련 기간 동안 거의 0에 가까워질 때까지 코사인 곡선을 따라 감소시키는 학습률 스케줄. 따뜻한 재시작을 포함한 코사인 어닐링(SGDR)은 학습률을 주기적으로 재설정하여 국소 최솟값을 벗어나는 데 도움이 될 수 있다. 비전 Transformer와 많은 로봇 학습 모델 훈련의 기본 스케줄이다.
학습률을 초기값에서 훈련 기간 동안 거의 0에 가까워질 때까지 코사인 곡선을 따라 감소시키는 학습률 스케줄. 따뜻한 재시작을 포함한 코사인 어닐링(SGDR)은 학습률을 주기적으로 재설정하여 국소 최솟값을 벗어나는 데 도움이 될 수 있다. 비전 Transformer와 많은 로봇 학습 모델 훈련의 기본 스케줄이다.