Glossary पर वापस जाएं
बैच सामान्यीकरण
एक तकनीक जो मिनी-बैच में परत इनपुट को शून्य माध्य और इकाई विचरण के लिए सामान्यीकृत करती है, फिर एक सीखा हुआ affine परिवर्तन लागू करती है। बैच सामान्यीकरण प्रशिक्षण को स्थिर करता है, उच्च शिक्षण दरों को सक्षम करता है, और एक नियमितकर्ता के रूप में कार्य करता है। यह CNN में मानक है लेकिन Transformer में कम सामान्य है, जो आमतौर पर इसके बजाय परत सामान्यीकरण का उपयोग करते हैं।