💬 NLP

How Much Do Circuits Tell Us? Measuring the Consistency and Specificity of Language Model Circuits

تُظهر هذه الورقة أنه بينما تُعد دوائر النماذج اللغوية المُحددة متسقة للغاية وضرورية لأداء المهام، إلا أنها تفتقر إلى خصوصية المهمة بسبب التداخل الكبير بين المهام، مما يتحدى فائدة هذا الإطار للتدخل المستهدف والفهم.

المؤلفون الأصليون: Michael Li, Nishant Subramani

نُشر 2026-05-12

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Michael Li, Nishant Subramani

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل مصنعاً ضخماً ومعقداً (نموذج لغوي كبير) يمكنه حل أنواع مختلفة من المشكلات، من إجراء العمليات الحسابية إلى إلقاء النكات. لفترة طويلة، حاول العلماء معرفة أي الآلات داخل هذا المصنع مسؤولة عن أي وظائف بالضبط. هم يسمون هذه المجموعات المحددة من الآلات "الدوائر" (circuits).

يسأل هذا البحث سؤالين بسيطين حول هذه الدوائر:

الاتساق (Consistency): إذا قام المصنع بنفس الوظيفة (مثل جمع الأرقام) عشر مرات، هل يستخدم نفس الآلات تماماً في كل مرة؟
الخصوصية (Specificity): إذا قام المصنع بوظيفة رياضية، هل يستخدم آلات مختلفة عما يستخدمه عند القيام بوظيفة تاريخية؟

إليك ما وجده الباحثون، باستخدام تشبيهات بسيطة:

1. اختبار "الاتساق": نعم، إنها موثوقة.

تحقق الباحثون مما إذا كان المصنع يستخدم نفس الأدوات لنفس الوظيفة.

النتيجة: نعم! إذا طُلب من المصنع جمع الأرقام، فإنه يستخدم بشكل موثوق مجموعة محددة من الآلات (معظمها "طبقات MLP"، والتي تشبه طاولات العمل الثقيلة في المصنع) لكل مسألة رياضية تقريباً.
التشبيه: الأمر يشبه طباخاً يصنع كعكة معينة. في كل مرة يصنع فيها تلك الكعكة، يستخدم نفس الخلاط ونفس الفرن. هو لا ينتقل إلى الخلاط أو المحمصة في منتصف الطريق. وجد الباحثون أنه إذا قاموا بـ "فصل التيار" عن هذه الآلات المحددة، يتوقف المصنع عن العمل على تلك المهمة تماماً تقريباً. وهذا يثبت أن هذه الآلات هي التي تقوم بالعمل فعلياً، وليست مجرد آلات تبدو مشغولة فحسب.

2. اختبار "الخصوصية": لا، إنها ليست فريدة.

هذا هو الجزء المفاجئ. توقع الباحثون أن الآلات المستخدمة لـ "الرياضيات" ستكون مختلفة تماماً عن الآلات المستخدمة لـ "التاريخ" أو "المنطق".

النتيجة: لقد كانوا مخطئين. الآلات المستخدمة للرياضيات هي تقريباً نفس الآلات المستخدمة للتاريخ والمنطق وفهم المقروء.
التشبيه: تخيل أن لديك صندوق أدوات. ظننت أن "صندوق الرياضيات" يحتوي فقط على أدوات رياضية (مساطر، آلات حاسبة) وأن "صندوق التاريخ" يحتوي على أدوات تاريخية (خرائط، كتب). ولكن عندما فتحت الصندوقين، وجدت أن كلا الصندوقين يحتويان على نفس الـ 90% من الأدوات.
- إذا أخذت "أدوات الرياضيات" من صندوق الأدوات، فلن يتمكن المصنع من إجراء الرياضيات.
- ولكن إذا أخذت تلك الأدوات نفسها، فلن يتمكن المصنع أيضاً من إجراء التاريخ أو المنطق.
- اتضح أن المصنع يعتمد على "بنية تحتية" ضخمة ومشتركة (طاولات العمل/طبقات MLP) للقيام بكل شيء. هذه الأدوات هي الأساس لجميع المهام، وليست لمهمة واحدة فقط.

3. "الجواهر الخفية": قدر ضئيل جداً من التميز.

هل هناك أي اختلاف بين المهام؟

النتيجة: نعم، ولكن بنسبة ضئيلة جداً. داخل كومة الأدوات المشتركة الكبيرة، توجد مجموعة صغيرة ومتخصصة من الأدوات (حوالي 10-30% من الإجمالي) فريدة من نوعها لكل مهمة محددة.
التشبيه: بالعودة إلى صندوق الأدوات: بينما تشترك 90% من الأدوات، فإن "صندوق الرياضيات" يحتوي على آلة حاسبة خاصة وصغيرة بالداخل لا توجد في "صندوق التاريخ". إذا أزلت تلك الآلة الحاسبة فقط، ستفشل عملية الرياضيات، لكن التاريخ سيستمر في العمل. ومع ذلك، ولأن الـ 90% المشتركة ضخمة ومهمة جداً، فإن إزالة "صندوق الرياضيات" بالكامل يؤدي إلى تعطل كل شيء، مما يجعلك تظن أن أدوات الرياضيات كانت هي الشيء الوحيد المهم.

الصورة الكبيرة

يخلص البحث إلى أنه عندما ننظر إلى النماذج اللغوية على مستوى "رؤوس الانتباه" (attention heads) و"طبقات MLP" (الأجزاء الكبيرة والمرئية من المصنع)، فإننا نرى في الغالب البنية التحتية العامة للمبنى، وليس المخططات التفصيلية لكل مهمة.

ما يعنيه هذا للفهم: يمكننا بسهولة العثور على "طاولات العمل" التي يستخدمها النموذج، ولكن لا يمكننا بسهولة تحديد أي طاولة عمل مخصصة فقط للرياضيات وأيها مخصصة فقط للتاريخ، لأنها جميعاً تُستخدم لكليهما.
التنبيه: يقترح الباحثون أنه لكي نجد "الأدوات المتخصصة" الحقيقية (الـ 10% الصغيرة)، قد نحتاج إلى النظر عن كثب أكثر، ربما إلى البراغي أو الأسلاك الفردية (النيورونات أو السمات) بدلاً من طاولة العمل بأكملها.

باختاًصر: النموذج متسق (يستخدم نفس الأدوات لنفس المهمة)، ولكنه ليس متخصصاً (يستخدم نفس الأدوات لكل مهمة). "الدوائر" التي نجدها هي في الغلب الأساس المشترك للنموذج، وليست التعليمات الفريدة لمهمة واحدة.

ملخص تقني: قياس اتساق وخصوصية دوائر النماذج اللغوية

بيان المشكلة

يهدف مجال التفسير الآلي (Mechanistic Interpretability) إلى الهندسة العكسية للشبكات العصبية من خلال تحديد "الدوائر" (Circuits): وهي رسوم بيانية متفرقة من مكونات النموذج (عادةً ما تكون رؤوس الانتباه وطبقات MLP) المسؤلة سببياً عن سلوكيات محددة. وبينما أرست الأعمال الحالية طرقاً لاستخراج هذه الدوائر وتقييم ضرورتها (إزالة الدائرة تؤدي إلى تدهور الأداء) وكفايتها (الدائرة وحدها تعيد إنتاج السلوك)، إلا أن هناك خاصيتين حيويتين لا تزالان غير مستكشفتين بشكل كافٍ: الاتساق والخصوصية.

الاتساق (Consistency): إذا كانت الدائرة تلتقط حقاً خوارزمية النموذج لمهمة ما، فيجب أن تتكرر المكونات نفسها عبر مدخلات مختلفة لتلك المهمة. بدون الاتساق، قد تكون الدائرة مجرد نتاج لمدخل معين بدلاً من كونها آلية قابلة للتعميم.
الخصوصية (Specificity): يجب أن تكون دائرة مهمة ما متميزة بشكل معنوي عن دوائر المهام غير المرتبطة بها. بدون الخصوصية، لا يمكن استخدام الدائرة لفهم أو التدخل في سلوك متعلق بمهمة محددة، إذ قد تعكس مجرد بنية تحتية عامة للنموذج.

يبحث هذا البحث فيما إذا كانت الدوائر المكتشفة على مستوى رؤوس الانتباه وطبقات MLP تظهر هذه الخصائص عبر مهام وعائلات نماذج متنوعة.

المنهجية

الإعداد التجريبي

قيم المؤلفون ست مهام تشمل الاستدلال الخوارزمي (الجمع، المنطق البولياني)، واسترجاع المعلومات (تحديد المفعول به غير المباشر [IOI]، CopyColors MCQA)، واختبارات المعرفة المكثفة (ARC Easy، ARC Challenge). تم اختبار هذه المهام عبر سبعة نماذج من أربع عائلات معمارية: Gemma 2 (2B, 2B IT)، Llama 3.2 (3B, 3B Instruct)، Qwen3 (4B, 8B)، وOLMo-2 (1B، استُخدم لديناميكيات ما قبل التدريب).

استخراج الدوائر

استخدمت الدراسة تعديل الإسناد للحواف (Edge Attribution Patching - EAP) لاستخراج دوائر لكل مثال على حدة. يقرب EAP التأثيرات السببية باستخدام معلومات التدرج (gradient)، حيث يتم ترتيب المكونات حسب درجات إسنادها المطلقة. لكل مهمة، تم استخراج الدوائر لـ $n=1000$ مثال، مع مسح أحجام الدوائر ( $K$ ) من 1% إلى 30% من أعلى المكونات.

مقاييس التقييم

الاتساق (إعادة الاستخدام - Reuse): عرّف المؤلفون "مجموعة المكونات المشتركة" ( $S_P$ ) التي تحتوي على المكونات التي تظهر في جزء لا يقل عن الكسر $P$ من دوائر كل مثال. وقاسوا معدل إعادة الاستخدام عند P (reuse@P)، وهو نسبة الدائرة لكل مثال التي يغطيها هذا الطقم المشترك.
الضرورة: للتأكد من أن المكونات المشتركة مهمة سببياً، أجرى المؤلفون عمليات استئصال (ablations) (تصفير التنشيطات) على المجموعة المشتركة $S_P$ . وقارنوا انخفاض الدقة مقابل مجموعة تحكم محافظة على السعة (C3)، حيث تم استئصال مجموعة عشوائية من المكونات بنفس الحجم. تشير درجة الضرورة الإيجابية إلى أن المجموعة المشتركة حيوية وظيفياً بما يتجاوز مجرد تقليل السعة.
الخصوصية (التداخل عبر المهام - Cross-Task Overlap):
- الاستئصال عبر المهام: قام المؤلفون باستئصال دائرة المهمة (أ) وقاسوا الأداء على المهمة (ب). إذا كانت الدوائر متخصصة، فإن استئصال دائرة المهمة (أ) يجب أن يضر بالمهمة (أ) بشكل أكبر بكثير من المهمة (ب).
- التفكيك (Decomposition): بالنسبة لأزواج المهام، تم تقسيم الدوائر إلى ثلاث مجموعات منفصلة: النواة المشتركة ( $C_A \cap C_B$ )، المخصصة للمهمة ( $C_A \setminus C_B$ )، والمكملة ( $C_B \setminus C_A$ ). تم استئصال كل مجموعة بشكل مستقل لقياس تأثيرها السببي على المهمة المستهدفة مقابل المهام الأخرى.

النتائج الرئيسية

1. الدوائر متسقة داخل المهمة الواحدة

عبر جميع النماذج والمهام، يمثل جزء كبير من دوائر كل مثال مجموعة من المكونات المشتركة.

إعادة استخدام عالية: عند $K=10\%$ ، تراوحت معدلات إعادة الاستخدام بين 40% و70% عبر معظم تركيبات المهام والنماذج. على سبيل المثال، في نماذج Llama وQwen، كان نصف أي دائرة لأي مثال تقريباً يتكون من مكونات مشتركة بين معظم الأمثلة.
الأهمية السببية: تسبب استئصال هذه المكونات المشتركة في انخفاضات أكبر بكثير في الدقة مقارنة باستئصال مجموعة عشوائية مطابقة في السعة. على سبيل المثال، في مهام الجمع، تسبب إزالة المجموعة المشتركة في انخفاضات زائدة في الدقة قدرها 0.8–1.0 مقارنة بالضوابط العشوائية، مما يؤكد أن هذه المكونات ضرورية وظيفياً.
ديناميكيات التدريب: ظهر الاتساق في OLMo-2-1B في مرحلة مبكرة من ما قبل التدريب (بلغ ذروته عند 76 مليار توكن) ولكنه تدهور في المراحل اللاحقة. ومع ذلك، أصبحت الضرورة (الأهمية السببية) قابلة للقياس بوضوح فقط خلال مرحلة التبريد (anneal phase) عندما تحسنت الدقة الأساسية.

2. الدوائر ليست متخصصة عبر المهام

خلافاً للتوقعات بأن المهام المختلفة تعتمد على آليات متميزة، وجدت الدراسة تداخلاً واسع النطاق بين دوائر المهام غير المرتبطة.

انخفاضات أداء غير متمايزة: عند استئصال دائرة المهمة (أ) وتقييم المهمة (ب)، كان انخفاض الأداء مشابهاً لاستئصال دائرة المهمة (ب) نفسها. على سبيل المثال، في Llama-3.2-3B، أدت إزالة دائرة الجمع إلى انخفاض بنسبة 99% في عملية الجمع، كما أدت إزالة دوائر المهام الأخرى إلى انخفاض متوسط بنسبة 99% في عملية الجمع أيضاً.
تداخل عالٍ: عند $K=10\%$ ، تراوح تداخل جارد (Jaccard overlap) بين أزواج المهام بين 0.46 و0.89، وهو ما يتجاوز بكثير نسبة الـ ~5% المتوقعة للدوائر العشوائية. كان هذا التداخل مدفوعاً بشكل أساسي بـ طبقات MLP، التي هيمنت على الدوائر الصغيرة ( $K \le 10\%$ ) وشكلت الغالبية العظمى من النواة المشتركة.
المكونات المخصصة للمهمة موجودة ولكنها ثانوية: بينما تم تحديد مجموعة صغيرة من المكونات المخصصة للمهمة (تمثل 15–30% من الدائرة عند $K=10\%$ )، إلا أن إزالتها تسببت في ضرر إضافي طفيف فقط مقارنة بالتأثير الهائل لإزالة النواة المشتركة. كانت النواة المشتركة هي المسؤولة عن الجزء الأكبر من تأثير الأداء.

3. التركيب والتحبيب (Granularity)

هيمنة MLP: عند أحجام الدوائر الصغيرة، تتكون الدوائر بالكامل تقريباً من طبقات MLP (على سبيل المثال، 95–100% في Gemma 2 2B-IT عند $K \le 10\%$ ). وتصبح رؤوس الانتباه أكثر بروزاً فقط مع زيادة حجم الدائرة ( $K \ge 20\%$ ).
توزيع الطبقات: في عائلات Llama وQwen، تتركز الدوائر الصغيرة في الطبقات المبكرة، بينما أظهرت نماذج Gemma تبايناً أكثر اعتماداً على المهمة.

الأهمية والادعاءات

يجادل البحث بأنه عند مستوى الحبيبات الخاص برؤوس الانتباه وطبقات MLP، فإن اكتشاف الدوائر فعال في تحديد ما هي المكونات المهمة (الاتساق) ولكنه يفشل في عزل كيف يؤدي النموذج مهمة محددة متميزة عن غيرها (الخصوصية).

البنية التحتية العامة مقابل آليات المهمة: تشير النتائج إلى أن الدوائر المكتشفة تحدد في المقام الأول البنية التحتية العامة للنموذج (وتحديداً طبقات MLP المشتركة) بدلاً من الخوارزميات الخاصة بالمهمة. ويُفسر التداخل العالي بأن هذه الطبقات تؤدي عمليات تأسيسية (مثل تخزين المعرفة البارامترية، ورسم خرائط الرموز/Tokens) التي تعتمد عليها جميع المهام اللاحقة.
الآثار المترتبة على التفسير الآلي: تثير قلة الخصوصية تساؤلات حول فائدة طرق اكتشاف الدوائر الحالية للفهم المستهدف أو التدخل. إذا كانت "دائرة" المهمة (أ) متطابقة إلى حد كبير مع دائرة المهمة (ب)، فإن تحديدها يكشف المزيد عن الوظائف العامة للنموذ_ج أكثر مما يكشف عن سلوكه المحدد تجاه المهمة (أ).
الاتجاهات المستقبلية: يقترح المؤلفون أن استعادة الهيكل الخاص بالمهمة قد يتطلب:
1. وحدات تحليل أكثر دقة: تجاوز طبقات MLP إلى دوائر السمات المتفرقة (على سبيل المثال، باستخدام المشفرات التلقائية المتفرقة/Sparse Autoencoders) لفك الارتباط بين المكونات متعددة المعاني (polysemantic).
2. الإسناد التبايني (Contrastive attribution): تحديد المكونات ذات الإسناد العالي لمهمة واحدة نسبةً إلى المهام الأخرى، بدلاً من النظر إليها من حيث القيم المطلقة.

يخلص البحث إلى أنه بينما تعد النواة المشتركة للدوائر موضوعاً ذا معنى للدراسة (قد يقود التعميم والتعلم في السياق)، فإن الافتراض بوجود نمطية على مستوى المهمة عند مستوى المكونات غير مدعوم إلى حد كبير بالأدلة الحالية.