CIRCUS: Circuit Consensus under Uncertainty via Stability Ensembles

1. بيان المشكلة

يهدف اكتشاف الدوائر الميكانيكية (Mechanistic circuit discovery) إلى تحديد الأنظمة الفرعية المتفرقة (sparse subgraphs) داخل الشبكات العصبية التي تدعم سلوكيات محددة بشكل سببي. تتضمن خطوط العمل الحالية عادةً ما يلي:

1. استبدال طبقات MLP بنماذج ميزات قابلة للتفسير (مثل نماذج الـ cross-layer transcoders).
2. بناء رسوم بيانية للاستدلال (attribution graphs) حيث تمثل العقد الميزات، والرموز (tokens)، واللوجيتس (logits)، وتمثل الحواف التأثيرات المباشرة.
3. تقليم (Pruning) الرسم البياني بناءً على عتبات التأثير التراكمي للاحتفاظ بدائرة مدمجة.

المشكلة الجوهرية: إن خطوط العمل هذه حساسة للغاية لخيارات المحلل التعسفية، وتحديداً:

• عتبات التقليم: تؤدي التغييرات الطفيفة في عتبات العقد/الحواف إلى مجموعات حواف مختلفة تماماً.
• قواميس الميزات: تنتج نقاط تفتيش (checkpoints) الـ transcoders المختلفة تمثيلات ميزات مختلفة.

بناءً على ذلك، فإن التفسيرات القياسية "ذات الخطوة الواحدة" (one-shot) هي تفسيرات هشة وتفتقر إلى مفهوم مبني على أسس للشك (uncertainty). لا توجد طريقة راسخة للتمييز بين الرؤى الهيكلية المستقرة وبين الآثار الاصطناعية (artifacts) الناتجة عن خيارات معلمات محددة.

2. المنهجية: CIRCUS

يقترح المؤلفون CIRCUS (إجماع الدوائر تحت عدم اليقين عبر مجموعات الاستقرار)، والذي يعيد صياغة اكتشاف الدوائر كمسألة تقدير كمي لعدم اليقين (uncertainty quantification) عبر درجات الحرية التحليلية. بدلاً من تقديم رسم بياني واحد، يقوم CIRCUS بتجميع رؤى متعددة لتحديد "جوهر" قوي.

الخطوات الرئيسية:

1. تجميع التكوينات (Config-Bagging):

   • إجراء تشغيل استدلال خام واحد.
   • تطبيق $B$ من تكوينات التقليم المختلفة (تغيير العتبات وربما القواميس) لإنشاء $B$ من الرسوم البيانية المقلمة المتميزة (رؤى).
   • ملاحظة: هذا لا يتطلب إعادة تدريب النموذج ويضيف عبئاً حسابياً ضئيلاً.

2. تسجيل الاستقرار (Stability Scoring):

   • لكل حافة $e$ في الرسم البياني الكامل، احسب درجة الاستقرار $s(e)$:
     $$s(e) = \frac{1}{B} \sum_{b=1}^{B} \mathbb{I}[e \in E(b)]$$
   • تمثل $s(e)$ كسر التكوينات التي احتفظت بالحافة. وهي تقيس الاتفاق عبر خيارات المحلل، وليس بالضرورة الصحة السببية.

3. استخراج الإجماع (Consensus Extraction):

   • تعريف رسم بياني إجماعي $C_\tau$ يحتوي على الحواف حيث $s(e) \geq \tau$.
   • الإجماع الصارم ($\tau = 1$): الحواف التي تظهر في جميع الرؤى. يشكل هذا "الجوهر" (core) للدائرة.
   • الإجماع الاستكشافي ($\tau < 1$): الحواف التي تظهر في أغلبية الرؤى، وتُستخدم لإظهار البدائل المشروطة.

4. تفكيك عدم اليقين والتصنيف:
   يصنف المنهج الحواف إلى ثلاث فئات:

   • الجوهر (Core): $s(e) = 1$. هيكل مستقر وعالي الثقة تجاه العتبات.
   • المشروط (Contingent): استقرار متوسط ($0 < s(e) < 1$) ولكن تأثير هامشي عالٍ. تمثل هذه المسارات البديلة المعتمدة على خيارات تكوين محددة.
   • الضجيج (Noise): استقرار منخفض وتأثير منخفض. يمكن رفض هذه الحواف.

5. التعزيز (Boosting - تحليل البواقي):

   • إذا احتفظ الإجماع الصارم ($C_1$) بتأثير إجمالي منخفض، يتم إجراء خطوة تعزيز.
   • يتم إنشاء رسم بياني متبقٍ (residual graph) عن طريق تصفير حواف $C_1$.
   • يتم استخراج دائرة ثانية ($C_2$) من الرسم البيفي المتبقي لالتقاط التأثير المفقود، مما يخلق تفسيراً متعدد الطبقات ($C_1 \cup C_2$).

3. المساهمات الرئيسية

• ابتكار منهجي: يقدم خط عمل استدلال "حقيبة" (bagged) يعامل عتبات التقليم كمجموعة تصميم، ويقيس عدم اليقين الهيكلي عبر درجات استقرار الحواف.
• القدرة على تحمل العتبات: يثبت أن دوائر الإجماع الصارم أصغر بكثير من اتحاد جميع التكوينات مع الاحتفاظ بقدرة تفسيرية مماثلة.
  ள்ளது
• تصنيف قابل للتنفيذ: يوفر إطاراً للإبلاع عن الحواف "الجوهرية" (المستقرة)، و"المشروطة" (المتنازع عليها ولكن المؤثرة)، و"الضجيج" (غير الموثوقة)، مما يسمح للمستخدمين برفض الهياكل ذات الاتفاق المنخفض.
• الكفاءة: يقوم المنهج بتجميع الهيكل من الرسوم البيانية المقلمة الموجودة، مما يضيف تكلفة ضئيلة (أجزاء من الثانية) مقارنة بحساب الاستدلال الأولي.

4. النتائج التجريبية

تم تقييم المنهج على نماذج Gemma-2-2B و Llama-3.2-1B باستخدام نماذج cross-layer transcoders.

• المفاضلة بين الحجم والتأثير:

  • كانت دوائر الإجماع الصارم ($\tau=1$) أصغر بـ ~40 ضعفاً من اتحاد جميع التكوينات (على سبيل المثال، 625 حافة مقابل 25,478 حافة) مع الاحتفاظ بدرجات مشابهة من التأثير المستعاد (IR) (0.78 مقابل 0.93).
  • تفوق الإجماع على خط الأساس "نفس ميزانية الحواف" (الاتحاد الذي تم تقليمه ليتناسب مع حجم الإجماع)، محققاً IR أعلى (0.78 مقابل 0.73).

• التحقق السببي (Activation Patching):

  • تم اختبار العقد التي حددها الإجماع عبر تقنية "الترقيع بالتنشيط" (activation patching) (استبدال التنشيطات الفاسدة بأخرى سليمة).
  • تفوقت عقد الإجماع باستمرار على الضوابط غير الإجماعية المطابقة بفارق إحصائي كبير ($p = 0.0004$).
  • يؤكد هذا أن حواف الإجماع ليست مجرد آثار اصطناعية مستقرة بل هي ذات صلة سببية بتنبؤات النموذج.

• القدرة على التحمل (Robustness):

  • عبر 20 مطالبة (prompt) مختلفة، حافظ الإجماع على IR عالٍ (متوسط 0.83، أدنى حد 0.77)، محققاً فحوصات السلامة في 100% من الحالات.
  • أدى الاختيار المرجح بالاستقرار (إعطاء الأولوية للحواف عبر $stability \times influence$) إلى تحسين المتانة في أسوأ السيناريوهات مقارنة بالاختيار بناءً على التأثير فقط.

• الارتباط بين الاستقرار والتأثير:

  • الحواف الموجودة في جميع التكوين كانت تمتلك تأثيراً متوسطاً أعلى بـ ~70 ضعفاً من الحواف الموجودة في تكوين واحد فقط، مما يؤكد أن الحواف عالية الاستقرار هي أيضاً ذات تأثير كبير.

5. الأهمية والأثر

• التفسير الموثوق: ينقل CIRCUS المجال من التفسيرات "ذات الخطوة الواحدة" إلى تقارير قابلة للتدقيق ومعتمدة على قياس عدم اليقين. فهو يفصل صراحةً بين الآليات المستقرة والآثار الناتجة عن خيارات المحلل.
• الفائدة العملية: من خلال توفير تفكيك (جوهر/مشروط/ضجيج)، فإنه يمنح الباحثين طريقة مبنية على أسس لرفض الهياكل غير الموثوقة والتركيز على الجوهر القوي للعمليات الحسابية للنموذج.
• تكلفة منخفضة: بما أنه يعمل على عمليات الاستدلال الموجودة دون إعادة تدريب، فإنه قابل للتطبيق الفوري في سير عمل التفسير الميكانيكي الحالي.
• الاتجاه المستقبلي: يضع البحث أساساً للعمل المستقبلي في مجال قناع نماذج الاستبدال (replacement-model masking) ومحاذاة multi-CLT، لمعالجة فجوة "الأمانة" (faithfulness) في التفسير.

باختصار، يوفر CIRCUS إطاراً إحصائياً صارماً للتعامل مع التباين المتأصل في اكتشاف الدوائر الميكانيكية، مما يضمن أن الدوائر المُبلغ عنها قوية تجاه خيارات المعلمات التعسفية ومثبتة سببياً.