חזרה לGlossary
נורמליזציה של אצווה
טכניקה המנרמלת קלטי שכבה על פני המיני-אצווה כדי שיהיו בעלי ממוצע אפס ושונות יחידה, ואז מיישמת טרנספורמציה אפינית שנלמדה. נורמליזציה של אצווה מייצבת הדרכה, מאפשרת קצבי למידה גבוהים יותר, ופועלת כמסדיר. היא סטנדרטית ב-CNNs אך פחות נפוצה ב-Transformers, המשתמשים בדרך כלל בנורמליזציה של שכבה במקום זאת.