Glossaryに戻る
重み初期化
訓練前にニューラルネットワークパラメータの初期値を設定する戦略。適切な初期化（Xavier/Glorot、Kaiming/He）は、訓練開始時に活性化と勾配が層全体で適切な大きさを保つことを保証します。不適切な初期化は勾配消失または勾配爆発を引き起こす可能性があります。事前訓練済み初期化（基礎モデルから）は転移学習の一形態です。
訓練前にニューラルネットワークパラメータの初期値を設定する戦略。適切な初期化（Xavier/Glorot、Kaiming/He）は、訓練開始時に活性化と勾配が層全体で適切な大きさを保つことを保証します。不適切な初期化は勾配消失または勾配爆発を引き起こす可能性があります。事前訓練済み初期化（基礎モデルから）は転移学習の一形態です。