Symmetry Breaking in Transformers for Efficient and Interpretable Training

إليك ملخص تقني مفصل لورقة البحث بعنوان "كسر التماثل في نماذج المحولات (Transformers) من أجل تدريب أكثر كفاءة وقابلية للتفسير" لـ Silverstein وآخرون.

1. بيان المشكلة

تتناول الورقة تحديين رئيسيين في تدريب نماذج المحولات (Transformers):

1. عدم كفاءة المُحسِّن (Optimizer Inefficiency): بينما تُعد المُحسّنات التكيفية مثل AdamW وSOAP فعالة للغاية في تدريب المحولات، إلا أنها تستهلك ذاكرة كبيرة (تتطلب حوالي $3N$ من المتغيرات المساعدة). وفي المقابل، أظهرت المُحسّنات المستوحاة من الفيزياء والموفرة للذاكرة، مثل النزول الحافظ للطاقة (ECD)، نتائج واعدة في التطبيقات العلمية، لكنها تفشل في مضاهاة أداء الطرق التكيفية عند تطبيقها على المحولات.
2. الفجوة النظرية: يفترض المؤلفون أن فشل ECD في المحولات يعود إلى التماثلات الدورانية (Rotational Symmetries) المتأصلة في آلية الانتباه (Attention). تخلق هذه التماثلات اتجاهات "متدهورة" (Degenerate) في فضاء المعلمات لا تؤثر على مخرجات النموذج، ولكنها تشكل ديناميكيات التحسين.

الرؤية الجوهرية: في آلية الانتباه، تؤدي الدورانات المشتركة لمصفوفات الاستعلام ($W_Q$) والمفتاح ($W_K$)، أو مصفوفات القيمة ($W_V$) ومخرجات المصفوفة ($W_O$)، إلى الحفاظ على درجات الانتباه (الضرب الداخلي). ووفقاً لنظرية نويتر (Noether's theorem)، فإن هذه التماثلات المستمرة تستحث زخماً زاوياً محفوظاً. في نظام ECD، الذي يعتمد على ديناميكيات هاميلتون الفوضوية مع حفظ الطاقة الكلية، يؤدي هذا الحفظ إلى حبس الطاقة الحركية في حركة دورانية، مما يمنع المُحسِّن من استكشاف مسارات النزول في مشهد الخسارة (Loss Landscape) بفعالية.

2. المنهجية

يقترح المؤلفون تعديلاً معمارياً بسيطاً ومبنياً على أسس متينة لكسر هذه التماثلات دون التضحية بكفاءة الذاكرة.

أ. بروتوكول كسر التماثل

قدموا انحيازات غير متعلمة (Unlearned Biases) يتم أخذ عينات منها على مستوى الدفعة (Batchwise-sampled) في إسقاطات الاستعلام والقيمة لرؤوس الانتباه:

• الآلية: أثناء التدريب، يتم أخذ عينات من انحيازات عشوائية من توزيعات طبيعية $N(\mu, \sigma^2)$ وإضافتها إلى متجهات الاستعلام والقيمة لكل دفعة:
  $$q \leftarrow W_Q x + b_Q(\text{batch})$$
  $$v \leftarrow W_V x + b_V(\text{batch})$$
• الاستنتاج (Inference): يتم تطبيق متوسط الانحيازات ($\mu_Q, \mu_V$).
• كسر التماثل: يعمل التباين العشوائي في أخذ العينات على مستوى الدفعة على كسر التماثل الدوراني المستمر $O(d)$ وتحويله إلى مجموعة منفصلة، مما يلغي الزخم الزاوي المحفوظ الذي يعيق عمل ECD. كما يوفر المتوسط الثابت $\mu_Q$ "اتجاهاً مفضلاً" في الفضاء الدوراني.

ب. الإطار النظري (ديناميكيات هاميلتون)

تنمذج الورقة عملية التحسين باستخدام ميكانيكا هاميلتون:

• SGDM/Adam: أنظمة تبددية (Dissipative systems) حيث تعمل الاحتكاك على إزالة الطاقة الحركية، مما يسمح بالتقارب بغض النظر عن الكميات المحفوظة.
• ECD: نظام محافظ (Conservative system) حيث تظل الطاقة الكلية ثابتة. إذا كان الزخم الزاوي محفوظاً (بسبب التماثل)، فلا يمكن للنظام تحويل الطاقة الحركية بكفاءة إلى تقليل الخسارة. كسر التماثل يسمح بإعادة توجيه الطاقة الدورانية "المهدورة" إلى مسار نزول منتج.

ج. آلية التفسير

يخلق متوسط الانحياز الثابت $\mu_Q$ محوراً مفضلاً. يتعلم النموذج محاذاة متجهات المفتاح ($W_K x$) لفئات معينة من الرموز (Tokens) مع هذا الانحياز. يتم تعديل درجة الانتباه بعامل $e^{k \cdot b_Q}$، مما يسمح للنموذج بتضخيم أو كبح فئات رموز معينة بشكل أسي بناءً على محاذاتها مع الانحياز.

3. المساهمات الرئيسية

1. تفسير فشل ECD عبر هاميلتون: قدم المؤلفون برهاناً نظرياً على أن التماثلات الدورانية في رؤوس الانتباه تستحث زخماً زاوياً محفوظاً، مما يعيق الخلط الفوضوي المطلوب لعمل ECD بفعالية.
2. تدخل كسر التماثل: اقترحوا تغييراً معمارياً ضئيلاً (انحيازات غير متعلمة على مستوى الدفعة) يستعيد أداء ECD مع الحفاظ على كفاءة الذاكرة ($2N$ من المتغيرات مقابل $3N$ للطرق التكيفية).
3. التحقق التجريبي: أثبتوا أن ECD المكسور التماثل يضاهي أو يتجاوز أداء المُحسّنات التكيفية (AdamW, SOAP) في نموذج GPT-2 (124M) من حيث خسارة التحقق (Validation Loss).
4. القابلية للتفسير: أظهروا أن آلية كسر التماثل تسمح بتحليل مباشر لكيفية تعلم النماذج لتضخيم الرموز ذات المعنى الدلالي (مثل بدايات الجمل وعلامات الترقيم) وكبح الضجيج (مثل آثار الترميز).

4. النتائج التجريبية

قام المؤلفون بتدريب مسبق لنماذج GPT-2 (124M) باستخدام 500 مليون رمز باستخدام أربعة مُحسّنات: ECD, SGDM, AdamW, وSOAP، تحت ظروف متماثلة وظروف مكسورة التماثل.

• خسارة التحقق (Validation Loss):
  • ECD: بدون كسر التماثل، كان أداء ECD ضعيفاً (خسارة التحقق $\approx 3.93$). ومع كسر التماثل ($b_Q + b_V$)، تحسن ECD بشكل كبير ليصل إلى 3.35، مقارباً جداً أداء SOAP (3.33) ومتفوقاً على خط الأساس الخاص به بفارق كبير.
  • SGDM: تحسن أيضاً مع كسر التماثل (3.84 $\to$ 3.67).
  • AdamW: لم يستفد (تراجع الأداء قليلاً)، غالباً لأن المعالجة المسبقة التكيفية لـ Adam تكسر التماثل ضمنياً بالفعل.
• الاستدلال اللاحق (الألغاز المنطقية):
  • كان أداء 14 مهمة منطقية متبايناً. وبينما تحسنت خسارة التحقق باستمرار، تباينت مكاسب المنطق حسب البذرة (Seed).
  • متنبئ النجاح: وجدت الدراسة أن المحاذاة الدلالية (مدى نجاح النموذج في محاذاة الرموز الهيكلية مثل علامات الترقيم وبدايات الجمل مع الانحياز) كانت متنبئاً أفضل لنجاح ألغاز المنطق من خسارة التحقق وحدها.
  • النماذج التي نجحت في تعلم تضخيم العلامات الهيكلية وكبح آثار اليونيكود/الضجيج أظهرت تحسناً في الاستدلال.
• دوال التنشيط: كان التأثير أكثر وضوحاً مع تنشيط PReLU مقارنة بـ GELU، مما يشير إلى أن عدم التماثل المتأصل في GELU يخفف جزئياً من الحاجة إلى كسر التماثل الصريح.

5. الأهمية والآثار المترتبة

• سد الفجوة: نجح هذا العمل في سد الفجوة بين المُحسّنات الموفرة للذاكرة والمستوحاة من الفيزياء وبين المُحسّنات التكيفية عالية الأداء التي تهيمن حالياً على المجال. وهذا يجعل ECD مرشحاً قابلاً للتطبيق للتدريب واسع النطاق حيث تكون الذاكرة قيداً.
• تصميم معماري مبني على أسس: يوضح العمل أن فهم البنية الهندسية والتماثل في الشبكات العصبية يمكن أن يؤدي إلى تعديلات معمارية بسيطة وفعالة.
• عدسة جديدة للتفسير: توفر هذه الطريقة وسيلة جديدة لتفسير انتباه المحولات (Transformer Attention). من خلال تحليل المحاذاة بين متجهات المفتاح المتعلمة والانحياز الثابت، يمكن للباحثين ملاحظة الرموز التي يعتبرها النموذج "مهمة" للاستدلال بشكل مباشر، مما يفتح نافذة على المنطق الداخلي للنموذج.
• القابلية للتوسع: لا تتطلب هذه الطريقة أي معاملات إضافية قابلة للتعلم (الانحيازات غير متعلمة)، مما يجعلها قابلة للتوسع بشكل كبير ومتوافقة مع النماذج مفتوحة المصدر الحالية (مثل Llama وGemma) التي تفتقر إلى انحيازات الانتباه.

في الختام، تجادل الورقة بأن كسر التماثلات الدورانية ليس مجرد ضرورة نظرية لبعض المُحسّنات فحسب، بل هو أداة عملية تعزز كل من كفاءة التدريب وقابلية التفسير للنماذج الناتجة.