נורמליזציה של שכבה
טכניקת נורמליזציה שמנרמלת על פני ממד התכונה של כל דגימה בודדת (במקום על פני הקבוצה, כמו בנורמליזציה של קבוצה). נורמליזציה של שכבה היא התקן בארכיטקטורות Transformer מכיוון שהיא עובדת זהה במהלך הדרכה והסקה ומטפלת באורכי רצף משתנים. היא משמשת כמעט בכל מודלי VLA ומדיניות transformer.







