🤖 machine learning

ReSAE: Residualized Sparse Autoencoders for Multi-Layer Transformer Interventions

تقدم هذه الورقة المشفّرات التلقائية المتناثرة المتبقية (ReSAEs)، وهي طريقة تدرب مشفرات تلقائية متناثرة متعددة الطبقات على البواقي غير المفسرة بين طبقات المحولات المقترنة لتقليل تكرار فك التشفير وتحسين فعالية التدخلات متعددة الطبقات بشكل كبير مقارنة بالنهج التقليدي لكل طبقة على حدة.

المؤلفون الأصليون: Prathyush Poduval, Calvin Yeung, Neel Desai, Mohsen Imani

نُشر 2026-05-28

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Prathyush Poduval, Calvin Yeung, Neel Desai, Mohsen Imani

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "المشفِّقات التلقائية المتفرقة المتبقية للتدخل في نماذج المحولات متعددة الطبقات" (Residualized Sparse Autoencoders for Multi-Layer Transformer Interventions) باستخدام لغة بسيطة وتشبيهات.

المشكلة الكبرى: "غرفة الصدى" في طبقات الذكاء الاصطناى

تخيل نموذج لغة ضخم (مثل تلك التي تشغل روبوتات الدردشة) كمصنع ضخم يحتوي على العديد من خطوط التجميع (الطبقات). بينما تتحرك قطعة من المعلومات (جملة مثلاً) عبر الخط، تضيف كل محطة شيئاً جديداً قليلاً إلى عملها.

ومع ذلك، هناك عقبة: المحطات هي غرف صدى.
لأن المعلومات تتدفق في تيار مستمر، فإن المحطة العاشرة تسمع تقريباً كل ما قالته المحطة التاسعة، بالإضافة إلى القليل من الأشياء الجديدة. المحطة الحادية عشرة تسمع كل ما قالته المحطتان التاسعة والعاشرة، بالإضافة إلى المزيد قليلاً.

يستخدم الباحثون أدوات تسمى المشفِّقات التلقائية المتفرقة (Sparse Autoencoders - SAEs) لـ "التنصت" على هذه المحطات لفهم ما يفكر فيه الذكاء الاصطناعي. إنهم يريدون العثور على "المفاهيم" المحددة (مثل "اللباقة" أو "منطق البرمجة") التي تعمل عليها كل محطة.

الطريقة القديمة (المشكلة):
في السابق، كان الباحثون يدربون أداة تنصت منفصلة لكل محطة على حدة.

المشكلة: إذا كانت المحطة 9 تتحدث عن "اللباقة"، وكانت المحطة 10 تكرر فقط نفس "اللباقة" (لأنها منقولة من المحطة السابقة)، فإن أدوات التنصت القديمة ستحاول تعلم "اللباقة" مرتين.
النتيجة: عندما حاول الباحثون إصلاح أو تغيير الذكاء الاصطناعي عن طريق استبدال عمل عدة محطات في وقت واحد، ساءت الأمور. كانت الأدوات مكررة (تستهلك مساحة على نفس المعلومات)، ولم تكن التغييرات تتراكم بشكل جيد. كان الأمر يشبه محاولة تحرير فيلم عبر قص نفس المشهد من ثلاث كاميرات مختلفة؛ كانت النتيجة فوضوية وغير متوقعة.

الحل الجديد: المشفِّقات التلقائية "المتبقية" (ReSAEs)

يقترح المؤلفون طريقة أذكى للاستماع، يطلقون عليها اسم المشفِّقات التلقائية المتفرقة المتبقية (Residualized Sparse Autoencoders - ReSAEs).

التشبيه: فلتر "ما هو الجديد؟"
تخيل أنك تدون ملاحظات خلال اجتماع طويل.

الطريقة القديمة: تكتب كل شيء قاله المتحدث السابق، ثم تكتب كل شيء قاله المتحدث الحالي. ملاحظاتك ستكون ضخمة ومليئة بالتكرار.
طريقة ReSAE: تستمع إلى المتحدث الحالي وتسأل: "ما الذي قاله ولم يغطّه المتحدث السابق بالفعل؟" أنت تكتب فقط المعلومات الجديدة (المتبقية/الزيادة).

كيف يعمل ذلك:

التنبؤ بالصدى: قبل تدريب أداة الاستماع لمحطة لاحقة، يستخدم النظام صيغة رياضية بسيطة للتنبؤ بما يجب أن تقوله تلك المحطة بالضبط بناءً على المحطة السابقة.
طرح الصدى: يقوم النظام بطرح هذا التنبؤ من البيانات الفعلية.
التدريب على البقايا: يتم الآن تدريب أداة الاستماع فقط على "البقايا" — أي المعلومات الفريدة والجديدة التي لم تغطها المحطة السابقة بالفعل.
إعادة بناء الفيلم: عندما يريدون رؤية النتيجة، يأخذون "الملاحظات الجديدة" ويعيدون دمجها رياضياً مع "الملاحظات القديمة" لإعادة بناء الصورة الكاملة.

ما وجدوه (النتائج)

اختبر الباحثون هذا على نموذجين مختلفين من الذكاء الاصطناعي (Pythia و Gemma) ووجدوا نتائج مفاجئة:

1. "ضجيج" أقل، و"إشارة" أكثر
على الرغم من أن أدوات ReSAE كانت تقنياً "أسوأ" في إعادة بناء البيانات الخام (لأنها أغفلت بعض الصدى المتكرر)، إلا أنها كانت أفضل بكثير في التقاط الأجزاء المفيدة من تفكير الذكاء الاصطناعي.

التشبيه: الأمر يشبه جهاز ضبط الترددات في الراديو. حاولت الأدوات القديمة التقاط البث بأكمله، بما في ذلك الضجيج والإعلانات المتكررة. أما الأدوات الجديدة فقد ضبطت التردد لتجاهل الضجيج والتركيز فقط على الموسيقى. كان إجمالي مستوى الصوت أقل، لكن الموسيقى كانت أوضح.

2. تدخلات مجموعات أكثر سلاسة
عندما حاول الباحثون تغيير سلوك الذكاء الاصطناعي عن طريق تعديل عدة طبقات في وقت واحد، عملت أدوات ReSAE معاً بشكل أفضل بكثير.

النتيجة: كانت التغييرات متوقعة. إذا قاموا بتغيير الطبقة (أ) والطبقة (ب)، كانت النتيجة هي بالضبط ما توقعوه. مع الأدوات القديمة، كان تغيير طبقتين غالباً ما يؤدي إلى حدوث خلل أو سلوك غريب في الذكاء الاصطناعي لأن الطبقات كانت تتداخل مع بعضها البعض.

3. قدرة أفضل على إيجاد مفاهيم محددة
عندما استخدموا هذه الأدوات للعث "على مواضيع معينة (مثل "التحيز" في النص) أو لإزالتها، كانت أدوات ReSAE أكثر دقة بشكل عام. لقد تمكنت من تحديد الأفكار "الجديدة" التي يشكلها الذكاء الاصطناعي دون أن ترتبك بالأفكار القديمة التي كانت تحملها فحسب.

الخلاصة

تجادل الورقة البحثية بأنه عندما نحاول فهم أو إصلاح نماذج الذكاء الاصطناعي طبقة تلو الأخرى، لا ينبغي لنا معاملة كل طبقة كجزيرة معزولة. نظرًا لأن المعلومات تتدفق باستمرار، فنحن بحاجة إلى تجريد "المعلومات المنقولة" أولاً.

من خلال تدريب أدواتنا للتركيز فقط على ما هو جديد في كل خطوة، بدلاً مما هو متكرر، نحصل على خريطة أنظف وأكثر موثوقية لكيفية تفكير الذكاء الاصطناعي. وهذا يجعل من السهل جداً التدخل بأمان وإصلاح الذكاء الاصطناعي عندما نحتاج إلى ذلك.

تنويه واحد: تشير الورقة إلى أن هذا ليس حلاً سحرياً لكل مهمة. في بعض الحالات المحددة (مثل إزالة بعض الارتباطات السيئة)، كانت الأدوات "الخام" القديمة تعمل بشكل أفضل قليلاً. ولكن لفهم منطق الذكاء الاصطناعي الأساسي وإجراء تغييرات متعددة الطبقات، يعد النهج "المتبقي" (Residualized) ترقية كبيرة.

ملخص تقني: المشفرات التلقائية المتفرقة المتبقية (ReSAEs) للتدخلات متعددة الطبقات في المحولات (Transformers)

بيان المشكلة

تُعد المشفرات التلقائية المتفرقة (SAEs) أداة رئيسية في التفسير الآلي، حيث تعمل على تفكيك الحالات الخفية للمحول إلى سمات متفرقة وقابلة للتفسير. ومع ذلك، فإن الممارسة القياسية تقتضي تدريب المشفرات التلقائية (SAEs) بشكل مستقل على تنشيطات كل طبقة الخام. يتجاهل هذا النهج خاصية هيكلية جوهرية في المحولات: وهي أن التدفق المتبقي (residual stream) مرتبط بقوة عبر العمق. إذ يشكل جزء كبير من تنشيط أي طبقة معلوماتًا تم نقلها أو تحويلها بشكل طفيف من الطبقات السابقة.

إن تدريب مشفرات (SAEs) مستقلة على التنشيطات الخام يخلق مشكلتين عمليتين للتدخلات متعددة الطبقات:

تكرار السعة (Capacity Redundancy): تستهلك القواميس المختلفة لكل طبقة سعةً في إعادة تعلم نفس المعلومات المتوقعة والمنقولة مسبقًا.
التفاعلات غير المتوقعة (Unpredictable Interactions): عندما يتم استبدال عدة طبقات في آن واحد (مثل الاستئصال الميزي للسمات أو إعادة البناء)، فإن التفاعلات بين الطبقات لا تكون تراكمية. فإذا كانت المعلومة نفسها ممثلة في قواميس متعددة، فإن الاستبدال المتزامن يمكن أن يؤدي إلى تكرار السمات، أو إلغائها، أو دفع التنشيطات خارج نطاق التوزيع التدريبي، مما يؤدي إلى أخطاء مركبة وتدهور في أداء النموذج (الاعتلاج المتقاطع/cross-entropy).

المنهجية: المشفرات التلقائية المتفرقة المتبقية (ReSAEs)

يقترح المؤلفون المشفرات التلقائية المتفرقة المتبقية (ReSAEs) لفصل المعلومات الخاصة بالطبقة عن البنية المتوقعة عبر الطبقات. تتضمن الطريقة ثلاث مراحل رئيسية:

1. التبقية التآلفية الزوجية (Pairwise Affine Residualization)

لمجموعة فرعية مختارة من الطبقات $L = (\ell_1, \ell_2, \dots, \ell_M)$ ، تقوم الطريقة بملاءمة خريطة تآلفية (affine map) بين الطبقات المختارة المتتالية. بالنسبة للزوج $(\ell_m, \ell_{m+1})$ ، يتم تعلم تحويل تآلفي $A_m h^{(\ell_m)} + c_m$ عبر انحدار المربعات الصغرى المنتظم (ridge-regularized OLS) للتنبؤ بتنشيط الطبقة اللاحقة من الطبقة السابقة.
يتم تعريف التنشيط المتبقي $r^{(\ell_{m+1})}$ بعد ذلك كالمكون من تنشيط الطبقة اللاحقة الذي لا يمكن تفسيره بواسطة هذه الخريطة التآلفية:
$r^{(\ell_{m+1})} = h^{(\ell_{m+1})} - (A_m h^{(\ell_m)} + c_m)$
يتم توسيط الطبقة المرجعية الأولى باستخدام متوسطها التجريبي.

2. تدريب مستقل لكل طبقة (Independent Per-Layer SAE Training)

يتم تدريب كل (SAE) على المتبقي بدلاً من التنشيط الخام.

المدخلات: يتم تطبيع التنشيط المتبقي (عبر تطبيع RMS لكل كتلة) ويُغذى في نموذج BatchTopK SAE قياسي.
الهدف: يقلل الـ SAE من خسارة إعادة البناء للمتبقي المستهدف.
الاستقلالية: لا تتدفق التدرجات بين الـ SAEs الخاصة بالكتل المختلفة؛ حيث يتعلم كل SAE فقط المعلومات "الجديدة" التي تم تقديمها في طبقته المحددة.

3. إعادة البناء في الفضاء الأصلي والتدخل المباشر (Original-Space Reconstruction and Online Intervention)

لتقييم ReSAEs باستخدام البروتوكولات القياسية، يتم رسم المتبقي المعاد بناؤه مرة أخرى إلى فضاء التنشيط الأصلي من خلال السلسلة التآلفية الملائمة.

إعادة البناء: $\hat{h}^{(\ell_{m+1})} = A_m \hat{h}^{(\ell_m)} + c_m + S^{-1}_{m+1} \hat{z}^{(m+1)}$ ، حيث $\hat{z}$ هو إعادة بناء الـ SAE للمتبقي.
التدخل المباشر (Online Intervention): أثناء المرور الأمامي (forward pass) باستخدام الخطافات (hooks)، يتم حساب مدخل المتبقي لطبقة $\ell_m$ عن طريق طرح المساهمة المتوقعة من الطبقة $\hat{h}^{(\ell_{m-1})}$ المعاد بناؤها سابقًا من التنشيط الوارد الحالي. يضمن هذا أن يرى الـ SAE في الطبقة $\ell_m$ توزيع مدخلات مشابهًا لهدف التدريب الخاص به، حتى لو تم تعديل الطبقات السابقة.

المساهمات الرئيسية

بنية ReSAE: تقديم نموذج تدريبي حيث تُدرب الـ SAEs على مكون التنشيط غير القابل للتنبؤ خطيًا من الطبقة السابقة، مع إعادة بناء المكونات عبر سلسلة تآلفية.
تحسين التدخل متعدد الطبقات: إثبات أنه رغم إعادة بناء تباين أقل، فإن ReSAEs تستعيد الاعتلاج المتقاطع (cross-entropy) للمحول بشكل أكثر دقة مقارنة بالـ SAEs الخام عند الاستبدال المتزامن لعدة طبقات.
تقليل التكرار: توضح النتائج أن عملية التبقية تنتج اتجاهات فك تشفير (decoder directions) أكثر تعامدًا، مما يشير إلى أن السعة موجهة نحو المعلومات المحلية للطبقة بدلاً من البنية المكررة عبر الطبقات.
تقييم شامل: اختبارات واسعة النطاق على Pythia-1.4B و Gemma-2-9B تغطي جودة إعادة البناء، وتدهور الاعتلاج المتقاطع، وتشابه فك التشفير، والمسح المتفرق (sparse probing)، واختبار اضطراب المسبار المستهدف (TPP)، وإزالة الارتباط الزائف (SCR).

النتائج

أُجريت التجارب على Pythia-1.4B (الطبقات 0، 6، 12، 18) و Gemma-2-9B (فجوات طبقية مختلفة).

إعادة البناء مقابل الوظيفية: تظهر ReSAEs تباينًا مفسرًا (EV) أقل في فضاء التنشيط الأصلي مقارنة بالـ SAEs الخام، لأنها تتخلص عمدًا من البنية القابلة للتنبؤ خطيًا. ومع ذلك، يرتبط هذا الـ EV المنخفض بـ تشابه جيب تمام (cosine similarity) أقل في فك التشفير (تكرار أقل).
استعادة الاعتلاج المتقاطع (Cross-Entropy Recovery): تحت ظروف الاستبدال المتسلسل المباشر متعدد الطبقات (حيث تنتشر الأخطاء)، تتفوق ReSAEs بشكل كبير على الـ SAEs الخام في استعادة الاعتلاج المتقاطع للنموذج، خاصة عند مستويات التفرق العالية ( $k \ge 160$ ). وفي حالات التدريس القسري (teacher-forced) (حيث لا تنتشر الأخطاء)، تحقق ReSAEs باستمرار أفضل استعادة للاعتلاج المتقاطع.
التفاعل الزائد (Overinteraction): تظهر الـ SAEs الخام "تفاعلًا زائدًا" سالبًا كبيرًا (تدهور غير تراكمي) عند استبدال عدة طبقات. تقلل ReSAEs من هذا المقياس باتجاه الصفر، مما يشير إلى أن استبدالاتها لكل طبقة تتكون بشكل أكثر قابلية للتنبؤ.
جودة السمات:
- المسح المتفرق (Sparse Probing) و TPP: تتفوق ReSAEs عمومًا على الـ SAEs الخام في دقة المسح المتفرق واضطراب المسبار المستهدف، مما يشير إلى أن السمات المتعلمة أكثر فائدة للقراءة الخطية والاستئصال الانتقائي.
- إزالة الارتباط الزائف (SCR): لا تتفوق ReSAEs بشكل موحد على الـ SAEs هنا؛ ففي بعض الإعدادات (خاصة عمليات الاستئصال المشترك لكل طبقة في Pythia)، تسجل الـ SAEs الخام درجات أعلى. يشير هذا إلى أن السمات المتبقية قد تكون أقل انتقائية في إزالة سمات معينة دون الإضرار بإشارات المهمة.
النطاق والتباعد: تستمر فوائد ReSAEs في نموذج Gemma-2-9B الأكبر عبر فجوات طبقية مختلفة، مع تقليل ثابت في تكرار فك التشفير وتحسين في استعادة الاعتلاج المتقاطع.

الأهمية والادعاءات

يجادل البحث بأن التعامل مع التدفق المتبقي للمحول كـ كائن مترابط وليس كمجموعة من الطبقات المعزولة أمر بالغ الأهمية لفعالية التدخلات متعددة الطبقات.

تخصيص السعة: من خلال إزالة البنية المتوقعة خطيًا عبر الطبقات، تجبر ReSAEs القاموس المتفرق على التركيز على مكونات التنشيط الأكثر صلة بالحسابات اللاحقة للنموذج في تلك الطبقة المحددة.
استقرار التدخل: توفر الطريقة نموذجًا افتراضيًا أكثر استقرارًا للتدخلات متعددة الطبقات، مما يقلل من الأخطاء المركبة والتفاعلات غير المتوقعة التي تعاني منها عمليات نشر الـ SAE القياسية.
المقايضة: يقر المؤلفون بأن ReSAEs ليست تحسنًا عالميًا لجميع مهام التفسير (على سبيل المثال، نتائج SCR مختلطة). ومع ذلك، بالنسبة لهدف إعادة البناء متعدد الطبقات والتدخل القائم على السمات، فإن المقايضة بين التباين الخام الأقل وبين الدقة الوظيفية العالية وتقليل التكرار هي مقايضة مفيدة.

يشير العمل إلى أن إزالة البنية المتوقعة عبر الانحدار التآلفي يعد خطوة معالجة مسبقة مفيدة للـ SAEs في الإعدادات متعددة الطبقات، وإن كان الخيار الأمثل للمتنبئ (تآلفي مقابل غير خطي) واختيار الطبقات يظل مجالًا تصميميًا مفتوحًا.