返回Glossary

权重初始化

MLTraining

在训练前设置神经网络参数初始值的策略。适当的初始化(Xavier/Glorot、Kaiming/He)确保在训练开始时激活和梯度在各层保持适当的量级。不当的初始化可能导致梯度消失或爆炸。预训练初始化(来自基础模型)是迁移学习的一种形式。

Related terms