Glossary(으)로 돌아가기

혼합 정밀도 훈련

MLTraining

16비트(FP16 또는 BF16)와 32비트(FP32) 부동소수점 산술을 혼합하여 신경망을 훈련하여 메모리 사용량을 줄이고 처리량을 증가시키면서 훈련 안정성을 유지한다. 혼합 정밀도는 GPU에서 대규모 로봇 학습 모델을 훈련하기 위한 표준이며, 전체 FP32 훈련에 비해 메모리 소비를 대략 절반으로 줄이고 처리량을 두 배로 증가시킨다.

Related terms