العودة إلى Glossary

الانتباه متعدد الرؤوس

MLTransformer

آلية انتباه تشغل عمليات انتباه متعددة بالتوازي، كل منها بإسقاطات مختلفة مكتسبة، ثم تدمج مخرجاتها. يسمح الانتباه متعدد الرؤوس للنموذج بالانتباه إلى أنواع مختلفة من المعلومات (الموضع، اللون، الشكل) في نفس الوقت. وهو البدائي الحسابي الأساسي لمعماريات Transformer المستخدمة في VLAs وسياسات Transformer.

Related terms