Glossary(으)로 돌아가기
Adam 최적화기
기울기의 1차 및 2차 모멘트 추정값을 매개변수별로 유지하는 적응형 학습률 최적화 알고리즘. Adam은 AdaGrad(매개변수별 학습률)와 RMSProp(제곱 기울기의 지수 이동 평균)의 장점을 결합합니다. 이는 대부분의 로봇 학습 모델 훈련을 위한 기본 최적화기이며, AdamW(분리된 가중치 감쇠)가 가장 일반적인 변형입니다.
기울기의 1차 및 2차 모멘트 추정값을 매개변수별로 유지하는 적응형 학습률 최적화 알고리즘. Adam은 AdaGrad(매개변수별 학습률)와 RMSProp(제곱 기울기의 지수 이동 평균)의 장점을 결합합니다. 이는 대부분의 로봇 학습 모델 훈련을 위한 기본 최적화기이며, AdamW(분리된 가중치 감쇠)가 가장 일반적인 변형입니다.