Glossary(으)로 돌아가기
배치 정규화
미니배치 전체에서 계층 입력을 영평균과 단위 분산으로 정규화한 후 학습된 아핀 변환을 적용하는 기법입니다. 배치 정규화는 훈련을 안정화하고, 더 높은 학습률을 가능하게 하며, 정규화기로 작용합니다. CNN에서는 표준이지만 Transformer에서는 덜 일반적이며, 일반적으로 계층 정규화를 대신 사용합니다.
미니배치 전체에서 계층 입력을 영평균과 단위 분산으로 정규화한 후 학습된 아핀 변환을 적용하는 기법입니다. 배치 정규화는 훈련을 안정화하고, 더 높은 학습률을 가능하게 하며, 정규화기로 작용합니다. CNN에서는 표준이지만 Transformer에서는 덜 일반적이며, 일반적으로 계층 정규화를 대신 사용합니다.