Finding Usable Weight Mechanisms with Tiled SVD

ملخص تقني: إيجاد آليات الأوزان القابلة للاستخدام باستخدام SVD المبلط (Tiled SVD)

بيان المشكلة
تعتمد النهج السائدة الحالية في التفسير الآلي (mechanistic interpretability) على تدريب قواميس وسيطة، مثل المشفرات التلقائية المتفرقة (SAEs)، لتسمية الميزات بناءً على النص الأكثر تفعيلاً. وبينما تنجح هذه الأطالس في تحديد المفاهيم، فإن "هوية" الميزة تكمن في القاموس المتعلم وليس في أوزان الشبكة نفسها. وبناءً على ذلك، تظل قواعد الأوزان المحددة التي تكتب فعلياً في المسار المتبقي (residual stream) ضمنية. علاوة على ذلك، غالباً ما تستخدم الطرق الحالية تحليل القيم المفردة (SVD) كمجرد عدسة أو أداة أولية للدائرة، بدلاً من كونه اختباراً صارماً لتحديد أي تقسيم محدد لمصفوفة الأوزان ($W$) ينتج آليات قابلة للاستخدام ومتوافقة مع التوزيع.

المنهجية
يقترح المؤلفون استخراج "ركائز الآليات" (mechanism mounts) مباشرة من المواقع الخطية داخل الشبكة باستخدام SVD المبلط بالأعمدة (column-tiled SVD).

• ركائز الآليات (Mechanism Mounts): تُعرف الركيزة بأنها ثلاثية $(v, u, \sigma)$ تمثل المحفز (trigger)، واتجاه الكتابة، والقوة. هوية الآلية هي قاعدة الوزن نفسها، وليس تسمية لفظية.
• استراتيجية التبليط (Tiling Strategy): بدلاً من إجراء SVD على مصفوفة الأوزان $W$ بأكملها، يتم تقسيم أعمدة المدخلات لـ $W$ إلى بلاطات (tiles). يتم تحليل كل بلاطة بشكل مستقل ($B_t = U_t \Sigma_t V_t^\top$). ويتم الاحتفاظ بالأنماط (modes) الأعلى-$k$ من كل بلاطة لتشكيل الركائز.
• مقاييس التقييم: يقدم المؤلفون حزمة قياس تُحكم بناءً على رفع طاقة الكتابة الكاملة (full-write energy lift) بدلاً من الرفع المحلي للبلاطة.
  • رفع طاقة الكتابة الكاملة ($L_{full}$): يقيس مدى قدرة الاتجاه $u$ على تفسير طاقة تنسور الكتابة الفعلي $\Delta h_t$ عبر مجموعة البيانات. يتجنب هذا المقياس الميزة التكرارية (tautological advantage) للبلاطات ذات العمود الواحد التي تضخم المقاييس المحلية.
  • تشبع التغطية (Coverage Saturation): يقيم جزء من معيار فروبينيوس (Frobenius norm) لـ $W$ الذي يتم استرداده بواسطة إعادة بناء الرتبة-$k$ لكل بلاطة. يتطلب ذلك أن يتشبع الرفع مبكراً (خلال 1-2 من الأنماط) وألا ينهار بشكل كبير.
  • فحص التوجيه السببي (Causal Steer Check - التجربة C): بالنسبة للكتابات المتبقية، يقوم المؤلفون بحقن اتجاه التوجيه بعد عملية post-sublayer RMSNorm ويقيسون ارتباط سبيرمان ($\rho$) بين تغيرات اللوجيت (logit changes) الناتجة وبين عدم التضمين (unembedding) لاتجاه الكتابة.
• ركائز المسار الفعال (Effective-Path Mounts): بالنسبة للمواقع غير المتبقية مثل mlp.up و attn.v ، غالباً ما تفشل أوزان الوحدات الخام في اجتياز الفحوص السببية. تقوم الطريقة ببناء "خرائط فعالة" (مثل وزن mlp.up بمتوسط تنشيطات البوابة أو استخدام انحدار ريج (ridge least-squares) لـ attn.v) لالتقاط الاستخدام الفعلي على التوزيع.

الإعداد التجريبي

• النموذج: Google Gemma-2-2B (26 طبقة).
• البيانات: بيانات تدريب WikiText-2 الخام، مع أخذ عينة فرعية مكونة من 16,384 رمزاً (token).
• المواقع: يتم تقييم جميع الخرائط الخطية السبعة لكل طبقة:
  • الكتابات المتبقية (فحوص A/B/C): mlp.down و attn.o.
  • غير المتبقية (فحوص A/B فقط): mlp.gate و mlp.up و attn.q و attn.k و attn.v.
• المقارنات المرجعية (Baselines): تتم مقارنة نهج SVD المبلط مع SVD المصفوفة الكاملة، وأخذ عينات الأعمدة، والأسس العشوائية.

النتائج الرئيسية
طُبقت المجموعة المقترحة على جميع المواقع الطبقية الـ 182 (7 مواقع $\times$ 26 طبقة).

1. التجربة A (التقسيم/Chunking): حقق SVD المبلط باستمرار رفع طاقة كتابة كاملة أعلى من SVD المصفوفة الكاملة، وأخذ عينات الأعمدة، والأسس العشوائية عبر جميع الأعماق بالنسبة للكتابات المتبقية. يشير هذا إلى أن البنية العمودية المحلية في $W$ لا يمكن تلخيصها جيداً بواسطة SVD عالمي واحد.
2. التجربة B (التغطية): تشبع رفع التغطية بسرعة، محققاً ذروة الأداء مع نمط واحد أو اثنين فقط لكل بلاطة. أضافت الأنماط الإضافية مجرد تكرار.
3. التجربة C (العمق السببي): بالنسبة للكتابات المتبقية، زاد التوافق بين اللوجيتات الموجهة وعدم التضمين لاتجاه الكتابة مع زيادة العمق. أظهرت الطبقات المبكرة (0–5) توافقاً ضعيفاً (مما يبرر التنازل عن فحص C1)، بينما وصلت الطبقات النهائية إلى ارتباطات عالية ($\rho \approx 0.91$ لـ mlp.down و $\rho \approx 0.75$ لـ attn.o).
4. الحكم الإجمالي: اجتازت المجموعة المقترحة 182/182 موقعاً طبقياً.
   • المواقع المتبقية (mlp.down, attn.o) اجتازت فحوص A و B و C (52/52).
   • المواقع غير المتبقية اجتازت فحوص A و B (130/130)، بشرط استخدام ركائز المسار الفعال لـ mlp.up و attn.v.

الأهمية والادعاءات
يضع المؤلفون هذا العمل ليس كبديل للمشفرات التلقائية المتفرقة في اكتشاف المفاهيم، ولا كوسيلة لتوليد أسماء مفاهيم قابلة للقراءة من قبل البشر. بدلاً من ذلك، تكمن الأهمية في:

• التقسيم العادل (Fair Chunking): إثبات أن SVD المبلط هو طريقة متفوقة لاستخراج آليات الأوزان القابلة للاستخدام مقارنة بـ SVD العالمي أو أخذ عينات الأعمدة تحت ميزانية متساوية.
• النتيجة السلبية على المقاييس المحلية: تسليط الضوء على أن مقاييس رفع الطاقة المحلية للبلاطة هي مقاييس تكرارية (tautological)، وأن رفع طاقة الكتابة الكاملة هو معيار ضروري للقابلية للاستخدام.
• بروتوكول قابل لإعادة الإنتاج: توفير "بروتوكول متعدد المواقع صادق" يتحقق من استخراج الآليات عبر جميع الخرائط الخطية في كتلة الترانسفورمر، بما في ذلك فحص سببي مشروط بالعمق.
• تعريف الهوية: ترسيخ أن "هوية" الآلية هي قاعدة الوزن نفسها، بشكل مستقل عن القواميس الخارجية.

يخلص البحث إلى أنه باستخدام ركائز المسار الفعال لطبقات محددة، يمكن لمجموعة بسيطة وقابلة لإعادة الإنتاج من الفحوص التحقق من الآليات القابلة للاستخدام عبر بنية النموذج بأكملها. يطلق المؤلفون مكتبة الكود، وباني المتون (corpus builder)، ونقاط دخول التجارب لدعم هذا البروتوكول.