역전파

출력에서 입력으로 계층별로 연쇄 법칙을 적용하여 손실 함수의 신경망 매개변수에 대한 기울기를 계산하는 알고리즘입니다. 역전파는 심층 신경망의 기울기 기반 최적화를 가능하게 합니다. 순전파 중에 중간 활성화를 저장해야 하며, 이는 훈련 중 메모리 소비를 지배합니다.

Related terms