Ландшафт оптимизации
Форма поверхности целевой функции в пространстве параметров. Понимание ландшафта оптимизации — его локальных минимумов, седловых точек и кривизны — важно для робототехнического обучения. Глубокие нейронные сети имеют сложные, высокомерные ландшафты оптимизации; инициализация, архитектура и выбор оптимизатора влияют на то, какой регион ландшафта исследуется.







