ملخص تقني: إيجاد دوائر قابلة للتفسير خاصة بالنماذج اللغوية (Prompt-Specific Circuits)

بيان المشكلة

لا يزال فهم الآليات الحسابية الداخلية للنماذج اللغوية الكبيرة (LLMs) يمثل تحديًا مركزيًا في التفسير الآلي (mechanistic interpretability). وبينما أثبتت الأعمال السابقة أن النماذج تعمل عبر "دوائر" — وهي مسارات سببية للمكونات التي تكتب وتقرأ المعلومات من المجرى المتبقي (residual stream) — تواجه الطرق الحالية لتتبع هذه الدوائر قيودًا كبيرة. تعتمد الأساليب التقليدية غالبًا على استبدال التنشيط (activation patching)، أو المدخلات المقابلة للواقع (counterfactual inputs)، أو نماذج الاستبدال، وهي عمليات مكلفة حاسوبيًا، وتتطلب تمريرات أمامية متعددة، ويمكن أن تؤدي إلى ضوضاء أو آثار اصطناعية. علاوة على ذلك، غالبًا ما تنتج طرق تتبع الدوائر السابقة رسومًا بيانية ضخمة ومليئة بالضوضاء تحجب الإشارات منخفضة الأبعاد المستخدمة للتواصل، مما يجعل من الصعب استخلاص تفسيرات مفهومة بشريًا لسلوك النموذج بناءً على كل "برومبت" (prompt) على حدة.

المنهجية: ++ACC

يقدم البحث ++ACC (Attention-Causal Communication++)، وهو طريقة محسنة لتتبع الدوائر تبني على مبدأ التواصل السببي للانتباه (ACC). تم تصميم ++ACC لتحديد الإشارات المحددة (محتويات الفضاءات الفرعية منخفضة الأبعاد) التي تجعل رأس انتباه معين ينتبه لزوج محدد من الرموز (tokens).

الآلية الجوهرية

يعمل ++ACC في تمريرة أمامية واحدة دون الحاجة إلى نماذج استبدال، أو استبدال (patching)، أو مدخلات مقابلة للواقع. تتبع الطريقة أربع خطوات لـ رأس انتباه معين $(\ell, a)$ ينتبه لزوج من الرموز (مصدر-وجهة) $(d, s)$:

1. التفكيك (Decomposition): يتم تفكيك المجرى المتبقي للوجهة $x_d$ إلى مجموع مخرجات المكونات الصاعدة (التمثيلات/embeddings، رؤوس الانتباه السابقة، الـ MLPs).
2. بناء الإشارة المرشحة (Candidate Signal Construction): باستخدام تحليل القيمة المفردة (SVD) لمصفوفة الاستعلام-المفتاح (Query-Key) الخاصة بالرأس $\Omega = W_Q W_K^\top$، تقوم الطريقة بإسقاط مخرجات المكونات الصاعدة على اتجاهات المتجهات المفردة. وهذا ينشئ مجموعة من الإشارات المرشحة، حيث تقابل كل إشارة اتجاهًا مفردًا محددًا لمكون صاعد معين يكتب في اتجاه مفرد معين (مرشح من الرتبة 1).
   • التقدم التقني: للتعامل مع عدم تجانس النماذج (مثل حدود التحيز وRotary Positional Embeddings/RoPE)، يقوم ++ACC بتوحيد حساب الانتباه في شكل ثنائي الخطية واحد $\tilde{x}_d^\top \Omega \tilde{x}_s$ عن طريق دمج التحيز وتدويرات RoPE في تمثيلات الرموز. وهذا يسمما لإجراء تحليل SVD واحد لكل رأس بغض النظر عن البنية المعمارية.
3. الإسناد والتقييم (Attribution and Scoring): يتم تقييم مساهمة كل إشارة مرشحة في وزن الانتباه بعد عملية Softmax (أي $A_{ds}$) باستخدام التدرج المتكامل (Integrated Gradients - IG). وعلى عكس العمل السابق الذي استخدم بدائل خطية لدرجات ما قبل Softmax، يقيم ++ACC صراحةً التأثير غير الخطي لإزالة الإشارة على توزيع Softmax الكامل.
4. البحث الجشع المقابل للواقع (Greedy Counterfactual Search): بدءًا من المجموعة الكاملة للمرشحين، تقوم الخوارزمية بإزالة الإشارات ذات التقييم الأعلى بشكل جشع حتى ينخفض وزن الانتباه $A_{ds}$ عن عتبة معينة $\tau$. وتُشكل المجموعة المزالة الدائرة السببية لذلك القرار المحدد للانتباه.

بناء الدائرة

يتم بناء دائرة كاملة لـ "برومبت" معين عن طريق تطبيق ++ACC بشكل متكرر: بدءًا من المكونات التي لها تأثير مباشر على الـ logit المستهدف، تتبع الطة الإشارات الصاعدة لانفجارات الانتباه، وتحدد الإشارات السببية لكل منها، حتى لا يتبقى المزيد من المكونات الصاعدة.

المساهمات الرئيسية

1. التطورات المفاهيمية والتقنية

• تحديد دقيق للإشارات: يحدد ++ACC الإشارات كحاصل الضرب التقاطعي للمكونات الصاعدة واتجاهات المتجهات المفردة، بدلاً من تحديد المكونات والقنوات بشكل مستقل. وهذا ينتج إشارات أكثر دقة ومنخفضة الأبعاد.
• محاسبة الانتباه غير الخطية: من خلال تعريف الهدف المقابل للواقع مباشرة على وزن الانتباه بعد Softmax (بدلاً من بديل خطي)، يتجنب ++ACC المكونات الزائفة ويحدد دوائر أصغر وأكثر دقة.
• تحليل QK الموحد: يتعامل مع التحيز وRoPE عن طريق تحويل الرموز، مما يتيح تحليلًا متسقًا يعتمد على SVD عبر بنيات نماذج مختلفة (مثل GPT-2، Pythia، Gemma).

2. التفسير الآلي

يوضح المؤلفون أن جزءًا كبيرًا من إشارات ++ACC قابل للتفسير. يستخدمون مسارًا آليًا (مقتبس من [18]) يقوم بـ:

• استرجاع السياقات ذات التنشيط العالي لكل إشارة من مجموعة بيانات (The Pile).
• استخدام نموذج لغوي كبير (LLM) لإنشاء وصف قصير باللغة الطبيعية للإشارة.
• التحقق من الوصف باستخدام بروتوكول "النموذج اللغوي كحكم" (LLM-as-a-judge) للتمييز بين الإشارة والضوضاء.
  تظهر النتائج أن العديد من الإشارات تسمح بأوصاف قصيرة ومتماسكة باللغة الطبيعية (مثل "العنصر الثاني في زوج متوازي"، "اسم علم"، "فاصل هيكلي").

3. تحليل الدائرة الخاص بالبرومبت

يتيح ++ACC تحليل الدوائر على أساس كل "برومبت"، مما يكشف أن سلوك النموذج ليس ثابتًا بل يتغير بشكل كبير مع بنية البرومبت واللغة.

النتائج والرؤى

1. إحكام وجودة الدائرة

عبر ثلاثة نماذج (GPT-2 Small، Pythia-160M، Gemma-2 2B) وثلاث مهام (تحديد المفعول به غير المباشر - IOI، أكبر من - Greater-Than، ضمير النوع الاجتماعي - Gender Pronoun)، تعد دوائر ++ACC أصغر بمقدار 2 إلى 10 مرات من تلك التي تنتجها طريقة ACC الأصلية.

• الأبعاد: غالبية إشارات ++ACC هي من الرتبة 1 (تستخدم اتجاهًا مفردًا واحدًا)، مقارنة بإشارات ذات أبعاد أعلى في الأعمال السابقة.
• الصلاحية السببية: تؤكد دراسات الاستئصال (ablation) أن إزالة إشارات ++ACC تؤثر بشكل كبير على أداء النموذج في المهمة المستهدفة بينما لا تسبب اضطرابًا طفيفًا في المجرى المتبقي (تشابه جيب التمام $\approx 0.99$)، مما يؤكد دورها السببي.

2. الحساسية لبنية البرومبت (مهمة IOI)

في مهمة تحديد المفعول به غير المباشر (IOI)، يجد البحث أن الدوائر حساسة للغاية لقوالب البرومبت:

• GPT-2: تتجمع الدوائر بدقة حسب بنية القالب عالية المستوى (ترتيب الأسماء ABBA مقابل BABA). تستخدم نفس الرأس "ناقل الاسم" (9,9) إشارات واردة مختلفة جوهريًا اعتمادًا على القالب (مثل "العنصر الثاني في زوج" مقابل إشارات هيكلية عامة).
• Pythia: تتجمع الدوائر حسب التغييرات في الصياغة منخفضة المستوى (مثل "While" مقابل "Then")، مما يشير إلى الحساسية تجاه الصياغة السطحية وليس فقط الترتيب الهيكلي.
• Gemma-2: تظهر تكتلًا أكثر تعقيدًا وأقل اعتمادًا على القالب، مما يشير إلى الاعتماد على تفاصيل البرومبت الأكثر دقة.

3. الآليات متعددة اللغات (مهمة mIOI)

في إعداد IOI متعدد اللغات (الإنجليزية، الإسبانية، الفرنسية، البرتغالية):

• إعادة استخدام المكونات: تعيد النماذج استخدام نفس رؤوس الانتباه والـ MLPs عبر اللغات.
• إشارات خاصة باللغة: بينما المكونات مشتركة، فإن الإشارات التي تتدفق من خلالها غالبًا ما تكون خاصة بكل لغة.
• الارتباط اللغوي: ترتبط المسافة بين دوائر اللغات المختلفة بقوة مع المسافة التصنيفية (typological distance) بين تلك اللغات (المسافات النحوية والجينية). على سبيل المثال، دوائر الإسبانية والبرتغالية أكثر تشابهًا مع بعضها البعض مما هي عليه مع الإنجليزية أو الفرنسية.

الأهمية والادعاءات

يزعم البحث أن ++ACC يوفر أداة عملية وقابلة للتوسع للتفسير الآلي لا تعتمد على تدخلات مقابلة للواقع مكلفة. تكمن أهميته الأساسية في:

1. القابلية للتوسع: جعل تحليل الدائرة لكل برومبت أمرًا ممكنًا على نطاق واسٍ عبر اشتراط تمريرة أمامية واحدة فقط.
2. القابلية للتفسير: توفير رابط مباشر بين قنوات التواصل منخفضة الأبعاد والأوصاف المفهومة بشريًا باللغة الطبيعية، مما يسد الفجوة بين الآليات الرياضية والفهم الدلالي.
3. الفهم الدقيق: الكشف عن أن "دوائر" النموذج ليست كتلة واحدة بل هي تجمعات ديناميكية من المكونات والإشارات التي تتكيف مع بنية البرومبت واللغة. وهذا يتحدى فكرة وجود دائرة عالمية واحدة لمهمة ما، مظهرًا بدلاً من ذلك طيفًا من الآليات الخاصة بكل برومبت.

يشير المؤلفون إلى وجود قيود، بما في ذلك الطبيعة التجريبية للعتبة $\tau$، وعدم تتبع الإشارات الناجمة عن FFN، وحقيقة أن التفسيرات الآلية هي استنتاجية وليست نهائية. كما يؤكدون أن النتائج متعددة اللغات تستند إلى عدد صغير من أزواج اللغات ويجب اعتبارها مؤشرًا لاتجاه أوسع وليس دليلًا قاطعًا.