Glossary पर वापस जाएं
स्थितीय एन्कोडिंग
एक तंत्र जो Transformer इनपुट में टोकन स्थिति के बारे में जानकारी इंजेक्ट करता है, क्योंकि स्व-ध्यान क्रमपरिवर्तन-अपरिवर्तनीय है और टोकन क्रम को अलग नहीं कर सकता। साइनसॉइडल और सीखे गए निरपेक्ष एन्कोडिंग सामान्य हैं; घूर्णी स्थितीय एन्कोडिंग (RoPE) आधुनिक मानक है। रोबोट सीखने में, स्थितीय एन्कोडिंग क्रिया अनुक्रमों के भीतर अस्थायी स्थिति को भी एन्कोड करते हैं।