ملخص تقني: توجيه الانتباه الموجه بالمنوع (MAGS)

بيان المشكلة

غالبًا ما تمتلك النماذج اللغوية الكبيرة (LLMs) المعرفة الأساسية اللازمة لمهام الاستدلال المعقدة، لكنها تفشل في كثير من الأحيان في التعبير عن هذه القدرة بشكل موثوق أثناء التوليد. وبينما يمكن أن يؤدي تكرار أخذ العينات من نفس النموذج والمطالبة (Prompt) إلى حلول صحيحة وخاطئة على حد سواء، تشير التعليقات التوضيحية على مستوى العمليات إلى أن الأخطاء تنشأ عادةً من خطوات الاستدلال المتوسطة وليس من نقص نهائي في المعرفة.

تحاول طرق توجيه التنشيط الحالية أثناء الاستنتاج تصحيح هذه السلوكيات عن طريق تطبيق متجهات تصحيح ثابتة ومحسوبة مسبقًا على مسار التدفق (Residual Stream) أو مخرجات الانتباه. ومع ذلك، تعاني هذه النهج من عدم تطابق هيكلي حرج مع مهام الاستدلال:

1. الاضطراب غير التمييزي: فهي تطبق التصحيحات بشكل موحد، بغض النظر عن حالة النموذج الحالية. وهذا يخاطر بإفساد الخطوات الصحيحة بالفعل بينما يفشل في اعتراض الأخطاء التي لم تظهر بعد.
2. الطبيعة الاستاتيكية: تفتقر هذه الطرق إلى آليات لاكتشاف متى ينحرف مسار الاستدلال نحو حالة الخطأ، حيث تعامل جميع خطوات التوليد على أنها متساوية في الحاجة إلى التصحيح.

الفرضية الجوهرية لهذا العمل هي أن أخطاء الاستدلال تظهر كإزاحة مهيكلة في فضاء فرعي منخفض الأبعاد في مساحات مخرجات رؤوس الانتباه الفردية. تشغل المسارات الصحيحة والخاطئة مناطق منفصلة هندسيًا، ويتبع الانتقال من السلوك الصحيح إلى الخاطئ اتجاهًا محددًا منخفض الرتبة.

المنهجية: توجيه الانتباه الموجه بالمنوع (MAGS)

إن MAGS هو تدخل تكيفي واعٍ للمسار يتم استخدامه أثناء الاستنتاج لتوجيه مخرجات رؤوس الانتباه فقط عند اكتشاف انحراف عن "منوع الصحة". تعمل الطريقة عبر ثلاث مراحل:

1. بناء منوع الخطأ التبايني

خلال مرحلة التدريب، يحلل النظام أزواجًا تباينية من آثار الاستدلال (نفس المشكلة، حل صحيح واحد، وحل خاطئ واحد) لتعلم الهيكل الهندسي للأخطاء.

• متجهات الفرق لكل رأس: لكل رأس انتباه $(l, h)$، يحسب النظام متوسط التنشيط للآثار الصحيحة ($\mu_c$) والآثار الخاطئة ($\mu_e$). يعزل متجه الفرق $\delta = \mu_e - \mu_c$ الإزاحة الاتجاهية المنسوبة للأخطاء، مما يلغي الميزات الخاصة بالمشكلة.
• تعلم الفضاء الفرعي: من خلال تجميع متجهات الفرق هذه عبر عدة مشكلات وإجراء تحليل المكونات الرئيسية (PCA)، يستخرج MAGS أساسًا منخفض الأبعاد $B$ (أكثر المتجهات المفردة $k$ بروزًا). يمتد هذا الأساس عبر "الفضاء الفرعي للخطأ" — وهي الاتجاهات التي يظهر فيها أكبر تباين للانحراف من الصحيح إلى الخاطئ.
• المرجع العالمي: يتم حساب مركز عالمي $\mu_c$ من جميع الآثار الصحيحة ليعمل كنقطة مرجع أثناء الاستنتاج.

2. اكتشاف الخطأ القائم على القرب

أثناء الاستنتاج، يراقب MAGS مخرجات رؤوس انتباه مختارة في الوقت الفعلي.

• درجة القرب: لكل خطوة توكن $t$، يحسب النظام النورم المربع لإسقاط مخرجات الرأس الممركزة على الفضاء الفرعي للخطأ المتعلم:
  $$d_t = \| B(a_t - \mu_c) \|^2$$
  تشير الدرجة العالية إلى أن تنشيط الرأس قد انحرف بشكل كبير نحو منوع الخطأ.
• التحفيز الديناميكي: يتم معايرة عتبة لكل رأس $\tau$ بناءً على الآثار الصحيحة (على سبيل المثال، ضبطها على مئوية عالية من الدرجات من المسارات الصحيحة). يتم تطبيق التصحيح فقط إذا كان $d_t > \tau$. يضمن هذا بقاء الخطوات الموجودة بالفعل على المسار الصحيح دون تشويش.

3. التصحيح المستهدف

عندما يتم تفعيل المحفز، يطبق MAGS تصحيحًا في المكان لمخرجات رأس الانتباه قبل تمريرها إلى إسقاط طبقة المخرجات:
$$\tilde{a}_t = a_t - \alpha B^\top B (a_t - \mu_c)$$
حيث أن $\alpha \in (0, 1]$ هو معامل قوة التوجيه.

• التفسير الهندسي: تقوم هذه العملية بإسقاط الانحراف $(a_t - \mu_c)$ على الفضاء الفرعي للخطأ وطرحه، مما يؤدي فعليًا إلى التخلص من مكون الخطأ مع الحفاظ على جميع المعلومات في المكمل المتعامد (الأبعاد $d_h - k$ غير المرتبطة بمنوع الخطأ).
• الحفاظ على المعلومات: تضمن الطريقة الحفاظ على المعلومات غير المرتبطة بمنوع الخطأ، مما يتجنب "التصحيح الزائد" الذي تسببه الطرق الاستاتيكية.

التوسع متعدد الأهداف (MAGSu)

للتعامل مع الأهداف المتضاربة (مثل الصلاحية النحوية مقابل ألفة الارتباط الكيميائي)، يقترح المؤلفون MAGSu، الذي يتعلم مناوعات مستقلة لكل هدف ويطبق التصحيحات من خلال مجموعات منفصلة من الرؤوس، مما يمنع التداخل بين أهداف التوجيه.

المساهمات الرئيسية

1. التحقق من الفرضية: يقدم البحث دليلًا تجريبيًا على أن أخطاء الاستدلال تظهر كإزاحة مهيكلة في فضاءات فرعية منخفضة الأبعاد في رؤوس انتباه محددة. تظهر التجارب التشخيصية أن المسارات الصحيحة والخاطئة قابلة للفصل بدرجة عالية بواسطة هذه الفضاءات الفرعية، مع كون إشارات الخطأ متفرقة ومركزة في رؤوس معينة.
2. آلية التدخل التكيفية: يقدم MAGS محفزًا ديناميكيًا قائمًا على القرب يطبق التصحيحات فقط عندما ينحرف الرأس إلى الفضاء الفرعي للخطأ. وهذا يتناقض مع الطرق الاستاتيكية التي تطبق متجهات ثابتة بغض النظر عن حالة التنشيط الحالية.
3. التفوق التجريبي: يتفوق MAGS باستمرار على النماذج المرجعية غير الموجهة والأساليب الاستاتيكية الموجودة (ITI، والتوجيه الزاوي) عبر مختلف الاختبارات المعيارية.

النتائج التجريبية

قيم المؤلفون MAGS على ثلاث عائلات من النماذج (Llama-3.1-8B-Instruct، وGemma-4-E4b-it، وGPT-OSS-20B) عبر ثلاثة مجالات:

• الاستدلال الرياضي (MATH-500, GSM8K): حقق MAGS أكبر المكاسب في MATH-500، محققًا تحسنًا بنسبة +5.2% فوق نموذج Llama غير الموجه و+3.4% فوق نموذج Gemma غير الموجه. كان التحسن أكثر وضوحًا في المهام ذات الاشتقاقات متعددة الخطوات حيث يرجح تراكم الأخطاء.
• توليد الكود (HumanEval, MBPP): حسن MAGS من نتيجة HumanEval pass@1 بنحو 4 نقاط تقريبًا مقارنة بالنماذج غير الموجهة. ومن الجدير بالذكر أن الطرق الاستاتيكية (ITI، والتوجيه الزاوي) أدت إلى تدهور الأداء في توليد الكود، ربًا بسبب تعطيل التماسك النحوي، بينما تجنب MAGS ذلك من خلال كبح التصحيحات في الخطوات الصحيحة.
• توليد الجزيئات (SMILES): في مهمة متعددة الأهداف تتطلب كلاً من الصلاحية النحوية وألفة ارتباط عالية، نجح MAGSu في تحسين كلا المقياسين في آن واحد. في المقابل، حسن ITI الصلاحية ولكنه أدى بشكل كبير إلى تدهور ألفة الارتباط، مما أظهر التداخل الناتج عن الأهداف المتشابكة في التوجيه الاستاتيكي.
• الطلاقة والتكلفة الإضافية: حافظ MAGS على مستويات التشتت (Perplexity) مقاربة للنماذج غير الموجهة، مما يشير إلى أنه لا يشوه توزيع التوليد. التكلفة الحسابية الإضافية ضئيلة، حيث تهيمن عليها عمليات $O(K \cdot k \cdot d_h)$ لكل خطوة، حيث $K$ هو عدد الرؤوس المراقبة.

الأهمية والادعاءات

يزعم البحث أن MAGS يعيد صياغة توجيه التنشيط كـ مشكلة اكتشاف انحراف بدلاً من مهمة تصحيح مستمرة. ومن خلال تحديد أساس منخفض الرتبة يتنبأ ببدء الخطأ، يوفر MAGS بنية هندسية قابلة للتفسير تفتقر إليها طرق المقدار القياسي.

يؤكد المؤلفون أن:

1. مناوعات الصحة عامة: يبدو أن وجود فضاءات فرعية منخفضة الأبعاد تفصل بين السلوكيات الصحيحة والخاطئة هو سمة عامة لهندسة انتباه النماذج اللغوية الكبيرة، وهي قابلة للتطبيق عبر مجالات الاستدلال، والبرمجة، والتوليد العلمي.
2. الوعي بالمسار أمر بالغ الأهمية: التصحيح غير التمييزي يعطل خطوات الاستدلال الصحيحة. إن القدرة على التدخل فقط عند اكتشاف الانحراف هي المحرك الرئيسي لتفوق أداء MAGS ومتانته تجاه حساسية المعلمات الفائقة.
3. القيود الهندسية تمنع التصحيح الزائد: من خلال إسقاط التنشيطات مرة أخرى على مكمل الفضاء الفرعي للخطأ، يحافظ MAGS على القدرات الجوهرية للنموذج مع إزالة المكونات الخاصة بالخطأ فقط.

يخلص العمل إلى أنه بينما يتطلب MAGS مجموعة من الآثار التباينية لضبط المنوع، فإنه يقدم حلاً قويًا ومنخفض التكلفة لتحسين اتساق الاستدلال في النماذج اللغوية الكبيرة، متفوقًا على التدخلات الاستاتيكية التي تفشل في مراعاة الطبيعة الديناميكية لمسار التوليد.