Understanding Transformers and Attention Mechanisms: An Introduction for Applied Mathematicians
تقدم هذه الورقة مقدمة لهيكلية "ترانسفورمر" (Transformer) وآليات الانتباه للرياضيين التطبيقيين، حيث تغطي ترميز النصوص، والانتباه متعدد الرؤوس، والمتغيرات الهيكلية، وتقنيات التحسين الحديثة مثل تخزين مفتاح-قيمة المخبأ (KV caching) وانتباه الاستعلام المجموعاتي (Grouped Query attention).