Glossary(으)로 돌아가기
배치 크기
한 번의 순전파-역전파 과정에서 처리되는 훈련 예제의 개수. 배치 크기가 클수록 더 안정적인 그래디언트 추정값을 제공하지만 더 많은 메모리가 필요하며 더 날카로운 극솟값으로 수렴할 수 있다. 로봇 학습에서는 특히 고해상도 이미지로 훈련할 때 GPU 메모리에 의해 배치 크기가 제한되는 경우가 많다. 그래디언트 누적(gradient accumulation)을 사용하면 제한된 하드웨어에서도 효과적으로 큰 배치를 구현할 수 있다.