💬 NLP

Sparse Feature Coactivation Reveals Causal Semantic Modules in Large Language Models

تُثبت هذه الورقة أن تحليل التنشيط المشترك لميزات المشفّر التلقائي المتناثر في النماذج اللغوية الكبيرة يكشف عن وحدات سببية متماسكة دلاليًا ومتسقة سياقيًا للمفاهيم والعلاقات، مما يتيح تلاعبًا يمكن التنبؤ به ومستهدفًا بمخرجات النموذج من خلال استئصال المكونات وتضخيمها.

المؤلفون الأصليون: Ruixuan Deng, Xiaoyang Hu, Miles Gilberti, Shane Storks, Aman Taxali, Mike Angstadt, Chandra Sripada, Joyce Chai

نُشر 2026-04-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ruixuan Deng, Xiaoyang Hu, Miles Gilberti, Shane Storks, Aman Taxali, Mike Angstadt, Chandra Sripada, Joyce Chai

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نموذج لغة ضخم (LLM) كأنه مدينة صاخبة وعظيمة. داخل هذه المدينة، هناك مليارات العمال الصغار (النيورونات/الخلايا العصبية) يتحدثون باستمرار مع بعضهم البعض للإجابة على أسئلتك. لفترة طويلة، اعتقد العلماء أن هؤلاء العمال كانوا جميعاً مختلطين معاً في كومة ضخمة وفوضوية، مما جعل من المستحيل معرفة من يفعل ماذا.

هذه الورقة البحثية تشبه خريطة جديدة تكشف أن المدينة ليست فوضى، بل هي منظمة في أحياء متخصصة (أو وحدات/modules) تتولى مهام محددة، مثل "حقائق عن الدول" أو "ترجمة الكلمات".

إليك تفصيل اكتشافهم باستخدام تشبيهات بسيطة:

1. المشكلة: مدينة "الصندوق الأسود"

في السابق، إذا سألت الذكاء الاصطناعي: "ما هي عاصمة الصين؟"، كان يعطيك الإجابة فحسب. لم نكن نعرف كيف قرر ذلك. كان الأمر يشبه مشاهدة ساحر يخرج أرنباً من قبعة دون معرفة أين كان يخبئ الأرنب.

2. الأداة: "المشفّر التلقائي المتناثر" (Sparse Autoencoder - SAE)

استخدم الباحثون أداة خاصة تسمى المشفّر التلقائي المتناثر (SAE). فكر في هذا كـ نظام كاميرات مراقبة عالي التقنية، لا يكتفي بتسجيل المدينة بأكملها، بل يسلط الضوء تحديداً على العمال النادرين والمحددين الذين يظهر نشاطهم عند مناقشة موضوع معين.

التشبيه: تخيل ملعباً مليئاً بالناس. معظم الناس يهتفون بشكل عام. ولكن عندما يصبح الموضوع عن "الصين"، يقف عدد قليل من المشجعين المحددين فقط ويلوحون بأعلام حمراء. الـ SAE يجد هؤلاء المشجعين المحددين.

3. الاكتشاف: "التنشيط المشترك" (الأحياء)

لاحظ الباحثون أن هؤلاء المشجعين المحددين لا يقفون بمفردهم فحسب؛ بل يقفون في مجموعات مرتبطة ببعضها عبر أجزاء مختلفة من الملعب (طبقات مختلفة من الذكاء الاصطناعي).

التشبيه: وجدوا أنه عندما تسأل عن "الصين"، تضيء مجموعة محددة من العمال في "الطبقات المبكرة" (البوابات الأمامية) لتقول "الصين"، وتضيء مجموعة أخرى في "الطبقات المتأخرة" (المكاتب الخلفية) لتقول "العاصمة".
النتيجة: رسموا هذه المجموعات في وحدات دلالية (semantic modules). هناك وحدة لـ "حي الصين"، ووحدة لـ "حي العاصمة"، ووحدة لـ "حي اللغة".

4. التجربة: "جهاز التحكم عن بعد"

الجزء الأكثر إثارة هو ما فعلوه بهذه الخرائط. أدركوا أنه يمكنهم استخدام هذه الأحياء كـ جهاز تحكم عن بعد للذكاء الاصطناعي.

التعطيل/الإزالة (إطفاء الأنوار): إذا "أطفأوا" الأنوار في "حي الصين"، ينسى الذكاء الاصطناعي أنه كان يتحدث عن الصين.
التضخيم (رفع مستوى الصوت): إذا "رفعوا مستوى الصوت" في "حي نيجيريا"، يبدأ الذكاء الاصطناعي فجأة في التفكير في نيجيريا.

الخدعة السحرية:
استطاعوا مزج وتوفيق هذه الأحياء لإنشاء واقعيات مضادة (counterfactuals) (واقعيات وهمية).

المطالبة العادية: "ما هي عاصمة الصين؟" -> الذكاء الاصطناعي يقول: "بكين".
الاختراق: قاموا بإطفاء أنوار "الصين" ورفع صوت أنوار "نيجيريا".
النتيجة: قال الذكاء الاصطناعي بثقة: "أبوجا" (عاصمة نيجيريا)، رغم أنك سألته عن الصين!

حتى استطاعوا تبديل نوع السؤال. إذا سألوا عن عاصمة الصين ولكنهم قاموا بتشغيل أنوار "اللغة"، سيقول الذكال الاصطناعي "الصينية" بدلاً من اسم مدينة.

5. مخطط المدينة (الطبقات)

اكتشفوا أيضاً تسلسلاً هرمياً في كيفية بناء المدينة:

الأشياء الملموسة (الطبقات المبكرة): يتم معالجة "الماهية" (مثل دول محددة، كلمات، أو أفعال) في وقت مبكر جداً، بالقرب من البوابات الأمامية.
القواعد المجردة (الطبقات المتأخرة): يتم معالجة "الكيفية" (مثل "عاصمة لـ"، "الزمن الماضي"، أو "الترجمة") في أعماق المدينة، في المكاتب الخلفية.
التشبيه: يشبه الأمر مصنعاً. تصل المواد الخام (كلمة "الصين") إلى المقدمة. ثم تُطبق تعليمات التجميع (القاعدة "ابحث عن العاصمة") لاحقاً في الخطوط لتغليف المنتج النهائي.

6. لماذا يهم هذا الأمر؟

قبل هذا، كانت محاولة تغيير رأي الذكاء الاصطناعي تشبه محاولة إصلاح ساعة عن طريق ضربها بمطرقة — قد تصيب الهدف بالصدفة، أو قد تكسرها.

الدقة: هذه الطريقة تشبه استخدام المشرط. يمكنك استئصال مفهوم "الصين" جراحياً دون كسر مفهوم "العاصمة".
السلامة والتحكم: يساعدنا هذا على فهم كيف "يفكر" الذكاء الاصطناعي ويعطينا طريقة لتوجيهه بأمان. إذا بدأ الذكاء الاصطناعي في الهلوسة أو تقديم معلومات خاطئة، فقد نتمكن من "إطفاء" الوحدة المعيبة المحددة التي تسبب الخطأ دون إعادة تدريب النموذج بالكامل.

ملخص

تظهر الورقة البحثية أن الذكاء الاصطناعي ليس عقلاً سحرياً غير قابل للتفسير. إنه آلة مهيكلة مكونة من فرق متخصصة ومترابطة. من خلال العثور على هذه الفرق وتعلم كيفية تشغيلها أو إطفائها، يمكننا فهم كيفية عمل الذكاء الاصطناعي بالضبط وحتى إعادة كتابة إجاباته أثناء التشغيل. إنه الفرق بين التخمين عما يوجد داخل الصندوق وبين امتلاك خريطة واضحة ومصنفة لكل عنصر بداخله.

إليك ملخص تقني مفصل لورقة البحث بعنوان "كشف الوحدات الدلالية السببية عبر التنشيط المشترك للميزات المتفرقة" (Sparse Feature Coactivation Reveals Causal Semantic Modules in Large Language Models).

1. بيان المشكلة

تُظهر النماذج اللغوية الكبيرة (LLMs) كفاءة ملحوما في الاستدلال العلاقاتي (مثل معرفة عاصمة دولة ما أو ترجمة كلمة)، ومع ذلك، فإن الآليات الداخلية التي تمكن ذلك تظل غامضة. واجهت جهود التفسير الميكانيكي السابقة عائقين رئيسيين:

التجريد على مستوى الطبقة: غالبًا ما كانت الأعمال السابقة تنمذج القدرات كتحويلات خطية بسيطة أو عمليات حسابية للمتجهات على مستوى الطبقة، مما يفتقر إلى الرؤية الدقيقة للميزات المحددة وتفاعلاتها.
تعقيد تتبع الدوائر: يمكن لطرق مثل "المحولات عبر الطبقات" (cross-layer transcoders) تتبع تدفق المعلومات، لكنها غالبًا ما تنتج رسومًا بيانية حسابية كثيفة ومعقدة تحتوي على مئات العقد التي يصعب تفسيرها دون تجميع يدوي.

يهدف المؤلفون إلى تحديد مكونات شبكية متسقة دلاليًا ومتسقة سياقيًا (وحدات) داخل النماذج اللغوية الكبيرة، والتي تدفع مفاهيم معينة (مثل "الصين") وعلاقات معينة (مثل "العاصمة") بشكل سببي، وإثبات أن التلاعب بهذه الوحدات يسمح بالتحكم الدقيق والمستهدف في مخرجات النموذج.

2. المنهجية

يقترح المؤلفون مسار عمل لاستخراج والتحقق من صحة الوحدات الدلالية السببية باستخدام المشفرات التلقائية المتفرقة (SAEs) والتنشيط المشترك للميزات. تتضمن العملية الخطوات التالية:

أ. جمع البيانات واختيار الميزات

النموذج: تُجري التجارب بشكل أساسي على نموذج Gemma 2 2B (مع بعض التحقق على Gemma 2 9B).
تكامل SAE: يتم دمج مشفرات SAE مدربة مسبقًا (بعرض 16 ألف) في النموذج. لكل مطالبة (prompt)، يتم رسم خرائط تنشيطات تيار البقايا (residual stream) عند كل طبقة $\ell$ إلى رموز متفرقة $\phi_\ell$ .
تصفية Top-k: لضمان القدرة على المعالجة، يتم اختيار أعلى $k=5$ ميزات منشطة لكل رمز (token) لكل طبقة.

ب. بناء الرسم البياني

العقد: تمثل كل عقدة ميزة محددة في طبقة معينة $(\ell, i)$ .
الحواف: يتم رسم حواف موجهة بين الميزات في الطبقات المتجاورة إذا أظهرت أنماط تنشيطها عبر رموز المطالبة ارتباطًا زمنيًا عاليًا (ارتباط بيرسون $\rho > 0.9$ ). وهذا ينشئ شبكة ميزات بين الطبقات.

ج. التقليم وتحديد المكونات

تقليم الكثافة: لإزالة الميزات متعددة المعاني العامة، يتم تقليم الرسم البياني باستخدام درجات كثافة التنشيط من Neuronpedia. يتم إزالة الميزات التي تزيد كثافة تنشيطها عن $0.01$ (أي أنها متكررة جدًا).
المكونات المتصلة: يتم تحليل الرسم البياني المتفرق المتبقي للعثور على المكونات المتصلة ضعيفًا. تمثل هذه المكونات مجموعات من الميزات التي تتنشط بشكل مشترك ومتسق لمهمة معينة.
التحقق الدلالي: يتم التحقق من المكونات عبر فحص ما إذا كانت تعطي مخرجات مضادة للواقع يمكن التنبؤ بها عند التلاعب بها. يختار المؤلفون يدويًا أو يجمعون المكونات التي تزيد من التغييرات التركيبية في مخرجات النموذج (على سبيل المثال، إزالة مكون "الصين" يؤدي إلى تحويل الإجابة إلى عاصمة دولة أخرى).

د. التدخل السببي (التوجيه)

الإزالة (Ablation): يتم ضبط تنشيطات الميزات داخل مكون محدد لتكون صفرًا أثناء عملية التمرير الأمامي.
التضخيم (Amplification): يتم تعزيز تنشيطات الميزات في مكون مستهدف بقوة توجيه $\alpha$ .
التقييم: يتم قياس التأثير عبر تباعد KL بين توزيعات الرموز الأصلية والمعدلة، ومن خلال التحقق مما إذا كان النموذج يولد إجابات مضادة للواقع (مثل الإجابة بـ "أبوجا" عند السؤال عن عاصمة الصين).

3. المساهمات الرئيسية

اكتشاف الوحدات الدلالية الجزئية: تحدد الورقة أن النماذج اللغوية الكبيرة تنظم المعرفة في مكونات متفرقة ومتميزة تمثل المفاهيم (الكيانات/الكلمات) والعلاقات (الخصائص/التحويلات). هذه المكونات ثابتة عبر سياقات مختلفة.
التحكم السببي عبر التركيب: يوضح المؤلفون أن هذه الوحدات قابلة للتركيب. من خلال إزالة مفهوم/علاقة من داخل المطالبة وتضخيم مفهوم/علاقة مستهدف، يمكنهم توجيه النموذج لتوليد مخرجات مركبة مضادة للواقع (على سبيل المثال، تغيير "عاصمة الصين" إلى "عملة نيجيريا").
التنظيم الهرمي: يكشف التحليل عن توزيع متميز عبر الطبقات:
- المفاهيم: تظهر الكيانات الملموسة (مثل "الصين"، "الحب") بشكل أساسي في الطبقات الأولى.
- العلاقات: تتركز العلاقات المجردة (مثل "العاصمة"، "لغة الترجمة") في الطبقات الأعمق.
التفوق على الميزات الفردية: تظهر الدراسة أن التوجيه بناءً على مجموعة من الميزات المتنشطة بشكل مشترك (مكون) أكثر فعالية وقوة بكثير من التوجيه بناءً على ميزة واحدة "الأكثر سببية".

4. النتائج التجريبية

قيم المؤلفون طريقتهم على ثلاث مهام تنبؤ متعددة العلاقات:

حقائق الدول: (العاصمة، العملة، اللغة) لـ 10 دول.
ترجمة الكلمات: ترجمة 11 كلمة إنجليزية إلى الإسبانية والفرنسية والألمانية.
تحويل الأفعال: المرادف، التضاد، الماضي، حالة الأحرف، والحرف الأول لـ 8 أفعال.

النتائج الرئيسية:

نجاح التوجيه العالي:
- توجيه المفاهيم: نسبة نجاح 48–96% (على سبيل المثال، تغيير الدولة الموضوع مع الحفاظ على العلاقة).
- توجيه العلاقات: نسبة نجاح 23–98% (على سبيل المثال، تغيير العلاقة مع الحفاظ على الموضوع).
- التوجيه المركب: نسبة نجاح 19–90% (تغيير كل من الموضوع والعلاقة في آن واحد).
الخصوصية: أدت إزالة المكونات لمهمة واحدة (مثل حقائق الدول) عمومًا إلى الحفاظ على الأداء في المهام الأخرى (مثل ترجمة الكلمات)، مما يشير إلى الخصوصية العالية للوحدات المستخرجة.
أنماط الفشل:
- تحويلات الأفعال: أظهرت هذه المهمة معدلات نجاح أقل (خاصة للمرادفات/الأضداد)، ويرجع ذلك على الأرجكن إلى أن هذه العلاقات أقل موضوعية وأكثر اعتمادًا على السياق من الحقائق مثل العواصم أو العملات.
- الميزات عالية الكثافة: أشارت التجارب الأولية إلى أن إزالة الميزات عالية الكثافة تؤدي إلى مخرجات غير متماسكة، مما يعني أنها تؤدي وظائف حسابية حاسمة وغير مستكشفة بعد.

5. الأهمية والآثار المترتبة

التفسير الميكانيكي: تتقدم هذه الورقة بالمجال من خلال تجاوز تحليل الطبقة "الصندوق الأسود" إلى تحديد وحدات وظيفية محددة، قابلة للتفسير، وقابلة للتلاعب. وهي توفر بديلًا خفيف الوزن لتتبع الدوائر الشامل.
التحكم في النموذج: إن القدرة على توجيه النماذج اللغوية الكبيرة بشكل موثوق نحو استجابات مضادة للواقع عبر التلاعب بمكونات داخلية محددة تقدم نموذجًا جديدًا لـ تعديل النماذج المستهدف ومحاذاة السلامة دون الحاجة لإعادة التدريب.
تمثيل المعرفة: تدعم النتائج الفرضية القائلة بأن النماذج اللغوية الكبيرة تخزن المعرفة بطريقة هرمية ونمطية، حيث يتم تأسيس الحقائق الملموسة في مراحل مبكرة من الشبكة ويتم تطبيق المنطق العلاقاتي المجرد في المراحل اللاحقة.
القابلية للتوسع: تعتمد الطريقة على مشفرات SAE مدربة مسبقًا وتقليم الرسم البياني الآلي، مما يجعلها نهجًا قابلًا للتوسع لتحليل والتحكم في النماذج المستقبلية الأكبر حجمًا.

في الختام، تثبت الورقة أن التنشيط المشترك للميزات المتفرقة أداة قوية وفعالة للكشف عن البنية السببية للاستدلال في النماذج اللغوية الكبيرة، مما يسمح بالتلاعب الدقيق بسلوك النموذج من خلال تحديد الوحدات الدلالية.