معمارية Transformer
معمارية شبكة عصبية قائمة على آليات الانتباه الذاتي، صُممت في الأصل لمعالجة اللغة الطبيعية لكنها الآن سائدة عبر جميع الأنماط. تعالج Transformers تسلسلات من الرموز بالتوازي، وتحسب الانتباه بين جميع الأزواج. في الروبوتات، تُستخدم Transformers لـ: شبكات سياسة التحكم (Decision Transformer، ACT)، ومشفرات الرؤية (ViT)، ونماذج VLA التي توحد الرؤية واللغة والعمل.







