How does the optimizer implicitly bias the model merging loss landscape?

إليك ملخص تقني مفصل للورقة البحثية بعنوان "كيف يوجه المحسن (Optimizer) بشكل ضمني مشهد خسارة دمج النماذج؟" (ICLR 2026).

1. بيان المشكلة

يهدف دمج النماذج (Model merging) إلى الجمع بين نماذج تم تدريبها بشكل مستقل في نموذج واحد يحتفظ بقدرات مكوناته دون تكاليف إضافية عند الاستنتاج. وبينما تحظى طرق مثل الاستيفاء الخطي (Linear Interpolation - متوسط الأوزان) وحساب المهام (Task Arithmetic - دمج متجهات المهام) بشعبية واسعة، إلا أن نجاحها غير قابل للتنبؤ به بشكل كبير.

• السؤال الجوهري: لماذا تنجح بعض النماذج المدربة بشكل مستقل في الاندماج بينما تفشل أخرى، حتى لو حققت أداءً فرديًا مماثلاً؟
• الفجوة: تربط الأدبيات الحالية ضجيج المحسن (Optimizer noise) بـ "تسطح" (Flatness) أو "التعميم" (Generalization) لـ "أدنى نقطة" (Minimum) واحدة. ومع ذلك، لا يزال من غير الواضح كيف تشكل ديناميكيات التحسين (معدل التعلم، حجم الدفعة، إلخ) هندسة مشهد الخسارة العالمي (Global loss landscape geometry) بين الحلول المستقلة، وهو ما يحدد مدى قابلية الدمج (Mergeability).

2. المنهجية والإطار العملي

يقترح المؤلفون أن مقياس الضجيج الفعال ($\tilde{S}$) هو العامل الموحد الذي يتحكم في نجاح دمج النماذج.

الأساس النظري

تنمذج الورقة خوارزمية الانحدار الاشتقاقي العشوائي (SGD) كمعادلة تفاضلية عشوائية (SDE) منفصلة. وتُحكم قوة الانتشار (الضجيج) لمسار التحسين بواسطة:
$$\tilde{S} \propto \frac{\eta}{B(1 - \mu)}$$
حيث أن:

• $\eta$: معدل التعلم (Learning rate).
• $B$: حجم الدفعة (Batch size).
• $\mu$: الزخم (Momentum).
• يتضمن المصطلح أيضًا بشكل ضمني تعزيز البيانات ($\Sigma_A$) واضمحلال الوزن (عبر تأثيره على معدل التعلم الفعال في الشبكات ثابتة القياس/Scale-invariant).

الإعداد التجريبي

أجرى المؤلفون تجارب مكثفة عبر:

• البنيات المعمارية (Architectures): MLP، ResNet-18، DenseNet-121، Vision Transformers (ViT)، وTransformers من طراز GPT-2.
• مجموعات البيانات: SVHN، CIFAR-10/100، TinyImageNet، WILDS-FMoW، RESISC45، وTinyStories (لنمذجة اللغة).
• طرق الدمج:
  1. الاستيفاء الخطي: $\theta_{merge} = (1-\alpha)\theta_A + \alpha\theta_B$.
  2. حساب المهام: $\theta_{merge} = \theta_{base} + \sum \alpha_i (\theta_{task_i} - \theta_{base})$.
  3. دمج TIES: وهي طريقة لحل التداخل عند دمج مهام مختلفة.
• المقياس: كسب الدقة (أو كسب الخسارة بالنسبة لنماذج اللغة الكبيرة) ويُعرف بأنه تحسن أداء النموذج المدمج مقارنة بمتوسط النماذج الفردية.

3. المساهمات والنتائج الرئيسية

أ. "النقطة الحرجة" غير الرتيبة لمقياس الضجيج الفعال

النتيجة الأكثر أهمية هي أن نجاح الدمج هو دالة غير رتيبة لمقياس الضجيج الفعال ($\tilde{S}$):

1. الضجيج المنخفض: تكون الحلول "حادة" (Sharp) للغاية أو محصورة؛ مما يجعل الدمج لا يحقق أي فائدة تذكر.
2. الضجيج العالي: تصبح الحلول غير مستقرة أو تتباعد؛ مما يؤدي لفشل الدمج.
3. الضجيج المتوسط (الحرج): يوجد نظام أمثل حيث يحقق الدمج أقصى قدر من مكاسب الأداء.

• الاستنتاج: زيادة الضجيج (مثل زيادة معدلات التعلم) ليست دائمًا أفضل؛ بل يجب ضبطها لتصل إلى "نقطة مثالية" معينة.

ب. توحيد مكونات المحسن

توضح الورقة أن المعلمات الفائقة (Hyperparameters) المتميزة كلها تعدل نجاح الدمج عبر التحكم في $\tilde{S}$:

• معدل التعلم ($\eta$): معدلات التعلم الأكبر (حتى الوصول للنقطة الحرجة) تحدد حلولاً أكثر توافقًا للدمج. وهذا ينطبق حتى عندما يكون أداء النموذج الفردي متماثلاً مع معدلات التعلم الأصغر.
• اضمحلال الوزن ($\lambda$): في الشبكات ثابتة القياس (مثل تلك التي تستخدم BatchNorm/LayerNorm)، يمنع اضمحلال الوزن الكبير تلاشي معدل التعلم الفعال، مما يزيد الضجيج الفعال ويحسن قابلية الدمج.
• حجم الدفعة ($B$): أحجام الدفعات الأصغر تضخ المزيد من ضجيج التدرج، مما يؤدي إلى توافق أفضل في الدمج.
• الزخم ($\mu$): يقلل الزخم العالي من التذبذبات ولكنه يشكل المشهد نحو مناطق أكثر اتساعًا، مما يحسن قابلية الدمج.
• تعزيز البيانات: يعمل كمصدر إضافي للضجيج، مكملاً لضجيج الدفعة ومعدل التعلم.

ج. التأثير على هندسة مشهد الخسارة

• الاستيفاء الخطي: يخلق الضجيج الفعال الأعلى حوضًا (Basin) "أكثر تسطحًا" وأوسع بين الحلول، مما يقلل حاجز الخسارة على طول مسار الاستيفاء.
• حساب المهام: تعتمد الهندسة بشكل كبير على التهيئة (Initialization).
  • التعلم بنقل الخبرة (Pretrained Base): تؤدي معدلات التعلم الأكبر إلى مساحات أكثر سلاسة وتسطحًا، مما يحسن عملية الدمج.
  • غير المنقول (من الصفر - Scratch): قد تؤدي معدلات التعلم الأكبر إلى نقاط صغرى حادة، مما يجعل الدمج أصعب.
• التماثل بالتبديل (Permutation Symmetry): يسهل الضجيج العالي عملية "إعادة التأسيس" (Re-basing) (أي محاذاة الخلايا العصبية عبر التبديل)، مما يجعل الحلول المستقلة أسهل في المحاذاة الخطية.
• محاذاة الميزات: من المثير للاهتمام أن الضجيج العالي يقلل من محاذاة الميزات (Linear CKA) بين الفروع. هذا يشير إلى أن تنوع الميزات (الناتج عن الضجيج) مفيد للدمج، بينما التقديرات الممثلة (Representations) عالية المحاذاة تقدم فائدة ضئيلة.

د. نمذجة اللغة والتعلم بنقل الخبرة

• النماذج اللغوية الكبيرة (LLMs): تمتد النتائج إلى نماذج Transformer اللغوية (TinyStories). معدلات التعلم واضمحلال الوزن الأكبر يحسنان الدمج (مقاسًا بتقليل الخسارة).
• التعلم بنقل الخبرة (Transfer Learning): في سيناريوهات الضبط الدقيق (مثل CLIP على FMoW)، يحدد معدل التعلم المتوسط إلى الكبير حلولاً أسهل في الدمج. ومع ذلك، فإن "أفضل" نموذج مدمج مطلق غالبًا ما يأتي من معدل تعلم متوسط، مما يوازن بين قابلية الدمج وأداء النموذج الفردي.

4. الأهمية والآثار المترتبة

1. التوحيد النظري: تجسر الورقة الفجوة بين ديناميكيات التحسين ودمج النماذج، وتظهر أن آليات الضجيج نفسها التي تؤثر على تعميم النموذج الواحد هي أيضًا التي تحدد توافق الحلول المستقلة.
2. الإرشاد العملي: تشير إلى أنه يمكن للممارسين تحسين دمج النماذج ليس فقط بتجربة بنيات مختلفة، بل عبر ضبط مقياس الضجيج الفعال.
   • الاستراتيجية: استخدم معدل تعلم وحجم دفعة يولدان نظام ضجيج "متوسط إلى كبير" لإيجاد حلول قابلة للدمج.
   • التبسيط: يمكن تبسيط البحث عن المعلمات الفائقة للدمج من خلال التركيز على $\tilde{S}$ بدلاً من المعلمات الفردية.
3. ما وراء المتوسط الحسابي: تشير النتائج إلى أنه يجب التلاعب بديناميكيات التدريب خصيصًا لإنتاج نماذج "قابلة للدمج"، مما قد يؤدي إلى مجموعات (Ensembles) أكثر قوة وتوليفات متخصصة من النماذج (مثل Mixture of Experts).

5. القيود

• النطاق: أُجريت التجارب على نماذج ذات نطاق صغير نسبيًا (مثل ResNet-18، وGPT-2 صغير) بسبب القيود الحسابية، رغم أن الاتجاهات ثابتة عبر البنيات المختلفة.
• البرهان النظري: تقدم الورقة أدلة تجريبية قوية وحدسًا نظريًا (عبر SDEs)، لكنها تفتقر إلى البراهين الرياضية الصارمة للعلاقة غير الرتيبة في السياقات غير المحدبة (Non-convex) العامة.

الخاتمة

تؤسس هذه الورقة أن ضجيج التحسين هو المحدد الرئيسي لنجاح دمج النماذج. من خلال التحكم في مقياس الضجيج الفعال عبر معدل التعلم، واضمحلال الوزن، وحجم الدفعة، وتعزيز البيانات، يمكن للمرء توجيه هندسة مشهد الخسارة لخلق مناطق تكون فيها الحلول المستقلة متوافقة طبيعيًا، مما يفتح الآفاق الكاملة لتقنيات دمج النماذج.