العودة إلى Glossary
معدل التعلم
حجم الخطوة المستخدم بواسطة الانحدار التدريجي لتحديث معاملات النموذج. المعدل العالي جداً يسبب الاختلاف؛ المعدل المنخفض جداً يسبب تقارباً بطيئاً. جدولة معدل التعلم (الإحماء + الاضمحلال) حاسمة للتدريب المستقر. معدلات التعلم الأولية النموذجية: 1e-4 لضبط النماذج المدربة مسبقاً، 3e-4 للتدريب من الصفر باستخدام Adam. معدل التعلم غالباً ما يكون أهم معامل يجب ضبطه.