Weights to Code: Extracting Interpretable Algorithms from the Discrete Transformer

ملخص تقني لورقة بحثية: "من الأوزان إلى الكود: استخراج خوارزميات قابلة للتفسير من المحول المنفصل (Discrete Transformer)"

1. بيان المشكلة

تتناول الورقة البحثية تحدي استخراج الخوارزميات (Algorithm Extraction): وهو توليف برامج قابلة للتنفيذ وقابلة للقراءة من قبل البشر مباشرة من الشبكات العصبية المدربة دون الاعتماد على كود مسبق الكتابة من قِبل البشر.

• الفجوة: أظهرت الشبكات العصبية المتكررة (RNNs) نجاحاً في هذا المجال (عبر إطار عمل MIPS مثلاً)، ولكن توسيع ذلك ليشمل بنية المحول (Transformer) المهيمنة يعد أمراً صعباً.
• العقبة الجوهرية: تعاني المحولات القياسية من تشابك التمثيلات (representation entanglement) (وتحديداً "التراكب" أو superposition)، حيث تُشفر الميزات في اتجاهات متداخلة وغير متعامدة. هذه الطبيعة متعددة الدلالات (polysemantic) تجعل من المستحيل استعادة التعبيرات الرمزية أو المنطق المنفصل مباشرة من مصفوفات الأوزان عالية الأبعاد والمستمرة.
• الهدف: سد الفجوة بين تمثيلات المحول المستمرة والمنطق الرمزي المنفصل لتمكين استخراج خوارزميات مستحدثة (de novo).

2. المنهجية: المحول المنفصل (The Discrete Transformer)

يقترح المؤلفون بنية متخصصة تسمى المحول المنفصل، صُممت لفرض فك الارتباط الوظيفي والربط بين التحسين المستمر والمنطق المنفصل.

أ. التصميم المعماري

بُني النموذج على نموذج الحوسبة RASP (معالجة التسلسل ذات الوصول المقيد) ويتكون من ثلاثة مكونات متميزة:

1. المجرى المتبقي العددي (Numerical Residual Stream): على عكس المحولات القياسية التي تستخدم ناقلات كامنة كثيفة، فإن المجرى المتبقي هو مجموعة من المتغيرات القياسية الصريحة. هذا يمنع تداخل المعلومات والتراكب.
2. الانتباه العددي (الموجه/Router):
   • يعمل حصرياً كمشغل لتوجيه المعلومات، وليس كخلاط للميزات.
   • يستخدم الترميز الخطي القطعي (Piecewise Linear Encoding - PLE) لإسقاط الاستعلامات/المفاتلات القياسية في فضاء أعلى أبعاد للمقارنة.
   • يستخدم آلية انتباه حاد (hard attention) عبر أخذ عينات محكومة بدرجة الحرارة لاختيار قيم تاريخية محددة (مثل "نسخ القيمة من $t-1$").
3. MLP العددي (المُشغل/Operator):
   • مخصص فقط للعمليات الحسابية والتحويلات المنطقية لكل عنصر على حدة.
   • يتم تفكيكه إلى وحدات فرعية متوازية ومستقلة (sub-MLPs) تقوم بعمليات حسابية بسيطة أساسية على عدد ثابت وصغير من المدخلات (عادةً $k=2$).
   • التحيز الاستقرائي (Inductive Bias): من خلال تقييد أبعاد المدخلات وعروض الطبقات المخفية، تُجبر البنية الشبكة على تفكيك الوظائف المعقدة إلى خطوات حسابية بسيطة، مما يجعلها قابلة للانطباق عبر الانحدار الرمزي.
4. رأس المخرجات الخطي (Linear Output Head): يجمع الخطوات الحسابية المنفصلة في تنبؤ نهائي.

ب. آلية التدريب: تبريد درجة الحرارة (Temperature Annealing)

للانتقال من التعلم المستمر إلى المنطق المنفصل، يستخدم النموذج أخذ عينات مع تبريد درجة الحرارة:

• يتحكم معامل درجة الحرارة $\tau$ في دالة أخذ العينات $S(\cdot, \tau)$ المستخدمة في آليات القراءة ورؤوس الانتباه.
• عملية التبريد: يبدأ التدريب بدرجة حرارة $\tau$ عالية (مما يسمح باستكشاف احتمالي ناعم) ثم تنخفض تدريجياً حتى $\tau \to 0$.
• النتيجة: يستقر النموذج في مخطط حوسبة منفصل تماماً حيث يتم تشفير الحل ضمنياً في الأوزان.

ج. مسار الاستخراج (من الأوزان إلى الكود)

بمجرد تقارب النموذج إلى حالة منفصلة، يقوم مسار استخراج معياري باستعادة الخوارزمية:

1. اختبار الفرضيات (بالنسبة للانتباه): تحليل أنماط الانتباه لتحديد منطق التوجيه. يفترض المؤلفون ويتحققون من نمطين رئيسيين:
   • الإزاحة الثابتة (Fixed Offset): الانتباه إلى موقع نسبي محدد (مثل $i - \delta$).
   • القيم القصوى للنافذة (Windowed Extrema): الانتباه إلى القيمة العظمى أو الصغرى ضمن نافذة منزلقة.
2. الانحدار الرمزي (بالنسبة لـ MLP): يعامل كل وحدة فرعية من MLP كدالة سوداء (black-box) تربط $f: \mathbb{R}^k \to \mathbb{R}$. تُستخدم أدوات مثل PySR (المعتمدة على الخوارزميات الجينية) لإيجاد تعبيرات جبرية مغلقة ودقيقة (مثل $y = x_1 + x_2$) تناسب البيانات المدخلة والمخرجة.
3. التجميع العالمي (Global Assembly): يتم دمج أنماط التوجकी المستخرجة والتعبيرات الحسابية عبر انتقال عكسي في مخطط الحوسبة لإنشاء برنامج Python موجز.

3. المساهمات الرئيسية

1. بنية المحول المنفصل: بنية متوافقة مع RASP تفرض فك الارتباط الوظيفي (التوجيه مقابل الحساب) وتستخدم مجرى متبقي يعتمد على القيم القياسية للقضاء على التراكب.
2. مسار استخراج معياري: طريقة مبتكرة تجمع بين اختبار الفرضيات (للتوجيه) والانحدار الرمزي (للحساب) لاستخراج برامج قابلة للتفسير من المتغيرات المستمرة، مما يوسع التفسير الآلي (mechanistic interpretability) إلى ما وراء التقريبات الكامنة المنفصلة.
3. التحيزات الاستقرائية القابلة للتحكم: يوضح أن القيود المعمارية (مثل تحديد الـ sub-MLPs) تعمل كتحيزات استقرائية قوية، مما يسمح للباحثين بتوجيه النموذج نحو نماذج خوارزمية محددة (مثل إجبار النموذج على استخدام الانتباه لإيجاد القيمة العظمى بدلاً من الحساب).

4. النتائج التجريبية

قيم المؤلفون الإطار عبر مجموعة متنوعة من الاختبارات تشمل الحساب الخطي، التركيب غير الخطي، والديناميكيات المستمرة.

• الأداء: يحقق المحول المنفصل أداءً مقارناً بطرق RNN (مثل MIPS)، مع وصول متوسط الخطأ التربيعي (MSE) إلى الصفر ودقة استخراج تصل إلى 1.00 في معظم المهام ذات القيم الصحيحة.
• الدقة (Fidelity): البرامج المستخرجة ليست مجرد تقريبات؛ بل تستعيد هويات جبرية دقيقة.
  • مثال: لمهمة parity_last2 استخرج النموذج الصيغة الجبرية الدقيقة $y_t = x_t + x_{t-1} - 2x_t x_{t-1}$، وهي مكافئة رياضياً لعملية XOR.
  • مثال: لمهمة maximum_prev2 استعاد النموذج الهوية الخطية الجزئية باستخدام ReLU: $\max(a, b) = b + \text{ReLU}(a - b)$.
• الديناميكيات المستمرة: على عكس MIPS (التي تعتمد على حالات كامنة منفصلة)، يتعامل المحول المنفصل أصلياً مع المتغيرات العشرية (floating-point)، حيث نجح في استخراج خوارزميات لمهام مثل المتوسط المتحرك الأسي (Exponential Moving Average) وارتفاع السقوط الحر (Free Fall Height).
• ديناميكيات التدريب: يكشف التحليل عن مرحلة انتقال مميزة حيث يسبق التقارب الوظيفي (تعلم الخريطة) التقطيع الهيكلي (الاستقرار في أوزان منفصلة)، مما يضمن انتقالاً قوياً من الاستكشاف إلى الاستغلال.

5. الأهمية والأثر

• سد الفجوة: نجح هذا العمل في التغلب على حاجز "التراكب" في المحولات، مثبتاً أن الخوارزميات الرمزية القابلة للتفسير يمكن استخراجها من أوزان المحول.
• الاكتشاف المستحدث (De Novo Discovery): يتيح اكتشاف خوارزميات مبتكرة مستقلة عن الكود الذي كتبه البشر، مما قد يكشف عن حلول جديدة للمشكلات الفيزيائية أو المنطقية.
• الاكتشاف العلمي: من خلال دعم المتغيرات المستمرة وتوفير القدرة على التحكم عبر التحيزات الاستدرائية، يعمل الإطار كأداة قوية للاكتشاف العلمي، مما يسمح للباحثين بإيجاد أشكال محددة من الخوارزميات التي تتوافق مع المعرفة بالمجال.
• القابلية للتفسير: يضع هذا العمل نموذجاً جديداً لتفسير المحولات، منتقلاً من تحليل "ماذا" يفعل النموذج إلى استعادة "كيف" يفعل ذلك صراحةً في شكل كود قابل للتنفيذ.