العودة إلى Glossary
الترميز الموضعي
آلية تحقن معلومات حول موضع الرمز في مدخلات Transformer، حيث أن الانتباه الذاتي ثابت تحت التبديل ولا يمكنه التمييز بين ترتيب الرموز. الترميزات الجيبية والمطلقة المتعلمة شائعة؛ الترميز الموضعي الدوراني (RoPE) هو المعيار الحديث. في تعلم الروبوتات، يقوم الترميز الموضعي أيضاً بترميز الموضع الزمني ضمن تسلسلات العمل.