Volver a Glossary
Inicialización de Pesos
La estrategia para establecer valores iniciales de parámetros de redes neuronales antes del entrenamiento. La inicialización adecuada (Xavier/Glorot, Kaiming/He) asegura que las activaciones y gradientes mantengan magnitud apropiada a través de capas al inicio del entrenamiento. La inicialización deficiente puede causar gradientes que se desvanecen o explotan. La inicialización preentrenada (de modelos fundamentales) es una forma de aprendizaje por transferencia.