الانتباه متعدد الرؤوس
آلية انتباه تشغل عمليات انتباه متعددة بالتوازي، كل منها بإسقاطات مختلفة مكتسبة، ثم تدمج مخرجاتها. يسمح الانتباه متعدد الرؤوس للنموذج بالانتباه إلى أنواع مختلفة من المعلومات (الموضع، اللون، الشكل) في نفس الوقت. وهو البدائي الحسابي الأساسي لمعماريات Transformer المستخدمة في VLAs وسياسات Transformer.







