ملخص تقني: الاتصال النمطي الناجم عن المُحسِّن: من AdamW إلى Muon

بيان المشكلة

لقد تمت دراسة "الاتصال النمطي" (Mode connectivity) -وهي الظاهرة التي يمكن فيها ربط نماذج الشبكات العصبية المدربة بشكل مستقل عبر مسار منخفض الخسارة- بشكل مكثف. ومع ذلك، فإن الأدبيات الحالية تتعامل مع مجموعة الحلول في الغالب ككيان متجانس، وغالباً ما تفترض أن الاتصال مستقل عن ديناميكيات التحسين المحددة المستخدمة للوصول إلى تلك الحلول. تفترض هذه الورقة أن المُحسِّنات المختلفة تفرض "تحيزات ضمنية" (Implicit biases) متميزة (تنظيم)، مما يقيد الحلول فعلياً في مناطق مختلفة من مشهد الخسارة (Loss landscape). السؤال المركزي الذي تعالجه الورقة هو: كيف يتصرف الاتصال النمطي عندما يكون مقيداً بحلول تتوافق مع التحيز الضمني لمُحسِّن معين؟ وتحديداً، يبحث المؤلفون فيما إذا كانت الحلول التي يجدها نفس المُحسِّن تشكل مجموعة متصلة (الاتصال داخل المُحسِّن الواحد - intra-optimizer connectivity)، وما إذا كان يمكن ربط الحلول التي تجدها مُحسِّنات مختلفة دون التسبب في حاجز خسارة (الاتصال بين المُحسِّنات - inter-optimizer connectivity).

المنهجية

الإطار النظري

يصيغ المؤلفون مفهوم مجموعات الحلول المنظمة بواسطة المُحسِّن. وبالاستناد إلى التوصيفات النظرية الحديثة للمُحسِّنات التكيفية (مثل AdamW وعائلة Lion-K)، يعرّفون النقاط الحدية لهذه المُحسِّنات كحلول لمشكلات تحسين مقيدة:

• AdamW: يتقارب نحو حلول تحقق قيد معيار $\ell_\infty$ (أي $\|\theta\|_{\max} \leq 1/\lambda$).
• Muon (و Lion-K مع المعيار النووي): يتقارب نحو حلول تحقق قيد المعيار العملياتي (أي $\|\theta\|_{\text{op}} \leq 1/\lambda$).

تقدم الورقة تعريفين:

1. الاتصال داخل المُحسِّن (Intra-optimizer connectivity): مجموعة الحلول $O_A(\lambda)$ لمُحسِّن محدد $A$ هي مجموعة متصلة.
2. الاتصال بين المُحسِّنات (Inter-optimizer connectivity): اتحاد مجموعات الحلول $O_{A_1}(\lambda_1) \cup O_{A_2}(\lambda_2)$ هو مجموعة متصلة.

يتم إجراء التحليل النظري على شبكات ReLU ذات الطبقتين في نظام الاستيفاء (Interpolation regime) (حيث يمكن تحقيق خسارة تدريب صفرية). ويحلل المؤلفون هندسة هذه المجموعات المنظمة تحت عروض عرض شبكة متغيرة ($m$).

الإعداد التجريبي

يتم التحقق التجريبي من مهام التدريب المسبق لـ GPT-2 عبر خمس مجموعات بيانات (enwik نماذج enwik8، WikiText-103، Stories، BookCorpus، One Billion Word) باستخدام مقاييس نموذجين (~30 مليون و ~50 مليون معلمة).

• المُحسِّنات: AdamW و Muon.
• بناء المسار: يستخدم المؤلفون خوارزمية استيفاء متعدد السلاسل (polychain interpolation) معدلة مدمجة مع المحاذاة المتماثلة (symmetric alignment) (تبديل ومحاذاة متعامدة لرؤوس الانتباه وعصبونات MLP). تبني هذه الطريقة مساراً خطياً مجزأً مع نقطة انحناء قابلة للتعلم لتقليل حواجز الخسارة بين النماذج.
• المقاييس: تتبع الدراسة حواجز خسارة التحقق وتطور أطياف القيم المفردة (تحديداً الرتبة المستقرة - stable rank) على طول مسارات الاستيفاء.

المساهمات الرئيسية

1. البراهين النظرية للاتصال داخل المُحسِّن

تثبت الورقة أنه بالنسبة لشبكات ReLU ذات الطبقتين واسعة العرض بما يكفي، فإن مجموعات الحلول المستحثة بواسطة مُحسِّنات محددة هي مجموعات متصلة:

• النظرية 3.1: الاتصال داخل المُحسِّن يتحقق لـ Muon (و Normalized GD مع الزخم) عندما يكون عرض الشبكة $m \geq 4P$، حيث $P$ هو عدد أنماط ترتيب المستويات الفائقة المتميزة.
• النظرية 3.2: الاتصال داخل المُحسِّن يتحقق لـ AdamW (و Signum) عندما يكون $m \geq m^*$، حيث $m^*$ هو عرض حرج يتم تحديده بواسطة البيانات ومعلمات التنظيم.
• الآلية: تتضمن البراهين اختزال الحلول التعسفية إلى أشكال نموذجية "متفرقة" أو "متساوية" ضمن المجموعة المنظمة، وإثبات إمكانية ربط هذه الأشكال عبر مسارات مستمرة تحافظ على قيود المعيار الضمنية.

2. توصيف الاتصال بين المُحسِّنات

يحدد المؤلفون أن الاتصال بين مناطق المُحسِّنات المختلفة يعتمد بشكل حاسم على عرض الشبكة وقوة التنظيم:

• نظام العرض الكبير: يكون اتحاد مجموعتين منظمتين متصلاً إذا وفقط إذا كانت المجموعتان تتداخلان (أي أن مجموعة الخسارة الصفرية تمر عبر تقاطع كرات المعيار الخاصة بهما). يمكن لعدد المكونات المتصلة أن ينتقل من واحد إلى اثنين مع زيادة قوة التنظيم.
• بناء العرض المحدود: تبني الورقة مجموعة بيانات وعرضاً محدداً ($m=2$) حيث تتحلل مجموعة حلول الخسارة الصفرية إلى مكونات متعددة غير متصلة. والأهم من ذلك، يثبتون أنه يمكن إجبار AdamW و Muon على التواجد في مكونات مختلفة باختيار معلمات تنظيم مناسبة. في هذا السيناريو، لا يوجد مسار خسارة صفرية بين حل AdamW وحل Muon؛ وأي مسار يربط بينهما يجب أن يتكبد حاجز خسارة مثبت (على الأقل $1/2$ للخسارة التربيعية).

3. التحولات الطيفية التجريبية

تكشف التجارب على GPT-2 عن سلوكيات طيفية متميزة:

• مسارات نفس المُحسِّن: يؤدي الاستيفاء بين نموذجين تم تدريبهما باستخدام نفس المُحسِّن (مثل AdamW-AdamW) إلى الحفاظ على طيف القيم المفردة (على سبيل المثال، يحتفظ AdamW بالقيم المتطرفة، بينما يظل Muon متماثلاً/isotropic) ويحافظ على خسارة منخفضة.
• مسارات اختلاف المُحسِّن: يؤدي الاستيفاء بين مُحسِّنات مختلفة (مثل AdamW-Muon) إلى تحول طوري طيفي سلس. يتطور الطيف من بصمة AdamW إلى بصمة Muon على طول المسار. وبينما تظل الخسارة منخفضة نسبياً، تظهر النماذج المتوسطة ملفات تعريف طيفية متميزة عن كل من طرفي المسار.

4. التعميم خارج التوزيع (OOD)

تظهر الورقة أن مسارات الاستيفاء بين المُحسِّنات المختلفة يمكن أن تحسن التعميم خارج التوزيع. النماذج التي يتم أخذ عينات منها على طول مسار AdamW-Muon تظهر حواجز خسارة سالبة في مجموعات البيانات خارج التوزيع (تؤدي أداءً أفضل من الاستيفاء الخطي لنقاط النهاية)، مما يشير إلى أن عبور الفضاء بين التحيزات المختلفة للمُحسِّنات ينتج نماذج متنوعة هيكلياً ذات خصائص تعميم فائقة.

النتائج والأهمية

ملخص النتالئج

• البنية المعتمدة على المُحسِّن: مشهد الخسارة ليس مجرد كتلة واحدة متصلة من الحلول منخفضة الخسارة؛ بل يحتوي على "أحواض" أو مناطق محددة بالمُحسِّن والتعريف بالتحيز الضمني.
• الاتصال مشروط: بينما تكون الحلول الناتجة عن نفس المُحسِّن متصلة في الشبكات الواسعة، قد تتقارب المُحسِّنات المختلفة إلى مكونات منفصلة في حالات العرض المحدود، ويفصل بينها حواجز خسارة.
• البصمة الطيفية: يعمل طيف القيم المفردة كوكيل قوي للمنطقة التي يحددها المُحسِّن. تحافظ مسارات نفس المُحسِّن على هذه البصمة؛ بينما تعبر مسارات اختلاف المُحسِّن عبر مرحلة انتقالية.

الأهمية المزعومة

تدعي الورقة أنها تكشف عن بنية تعتمد على المُحسِّن تكون غير مرئية لأدبيات الاتصال النمطي الكلاسيكية. ومن خلال تنقيح تعريف الاتصال النمطي ليأخذ في الاعتبار التحيز الضمني، يوضح المؤلفون أن:

1. اختيار المُحسِّن يشكل بشكل أساسي طوبولوجيا فضاء الحلول الممكن الوصول إليها.
2. الاستيفاء بين المُحسِّنات هو آلية قابلة للتطبيق لدمج النماذج (model merging) تتيح الوصول إلى مناطق متنوعة من فضاء الحلول، مما قد يحسن الخصائص اللاحقة مثل التكميم (quantization) والتعميم.
3. الضمانات النظرية للاتصال يجب أن تأخذ في الاعتبار الآن المنظم المحدد الذي يستحثه المُحسِّن، وليس فقط بنية الشبكة.

يصل هذا العمل الفجوة بين تحليل التحيز الضمني النظري ودمج النماذج العملي، مما يشير إلى أن "أفضل" مسار بين النماذج قد يعتمد على عبور حدود التنظيمات المختلفة المستحثة بواسطة المُحسِّنات.