InfiGFusion: Graph-on-Logits Distillation via Efficient Gromov-Wasserstein for Model Fusion

ملخص تقني: InfiGFusion

بيان المشكلة
اعتمدت الجهود الأخيرة لدمج النماذج اللغوية الكبيرة (LLMs) غير المتجانسة في أنظمة موحدة بشكل كبير على طرق التقطير القائمة على الـ "logits". وبينما تحافظ هذه النهج على كفاءة الاستدلال، إلا أنها تتعامل عادةً مع أبعاد المفردات (vocabulary dimensions) بشكل مستقل، حيث تقوم بمحاذاة توزيعات الرموز (tokens) عبر أهداف مثل تباعد KL أو مسافة Wasserstein. وتغفل عملية المحاذاة هذه لكل رمز على حدة عن الاعتمادات الدلالية (semantic dependencies) — أي التفاعلات بين الأبعاد وأنماط التنشيط المشترك التي تشفر عمليات الاستدلال الداخلي للنموذج. ونتيجة لذلك، تواجه الطرق الحالية صعوبة في محاذاة النماذح ذات سلوكيات التوليد المتباعدة، لا سيما في المهام التي تتطلب استدلالاً متعدد الخطوات، واستدلالاً علاقيًا، ومحاذاة دلالية دقيقة.

المنهجية: InfiGFusion
يقترح المؤلفون InfiGFusion، وهو إطار عمل للدمج مدرك للبنية يعمل صراحةً على نمذجة هذه الاعتمادات الدلالية. والابتكار الجوهري هو فقدان تقطير الرسم البياني للـ logits (GLD)، والذي يعمل كالتالي:

1. بناء رسم بياني للـ logits: بدلاً من التعامل مع الـ logits كمتجهات مستقلة، تقوم الطريقة ببناء رسم بياني عالمي للتنشيط المشترك. لكل مخرج، يتم الاحتفاظ بأعلى $k$ من الـ logits لضمان التناثر (sparsity). ويتم تجميع نواتج الضرب الخارجي لهذه الـ logits عبر مواضع التسلسل لتشكيل رسم بياني تمثل فيه العقد قنوات المفردات وتمثل فيه الحواف مقدار تنشيطها المشترك (التشابه).
2. المحاذاة المدركة للبنية: لمحاذاة رسوم الـ logits البيانية للنماذج المصدر مع نموذج مرجعي (pivot model)، يستخدم إطار العمل مسافة Gromov-Wasserstein (GW). وقد تم اختيار GW لقدرتها على مطابقة التوزيعات بناءً على التشابه الهيكلي الداخلي بدلاً من المراسلة المباشرة بين العقد.
3. التقريب الفعال: تعاني حسابات مسافة GW القياسية من تعقيد باهظ يصل إلى $O(n^4)$، مما يجعلها غير قابلة للتنفيذ للمفردات الكبيرة ($n > 10^5$). لذا قدم المؤلفون تقريباً مغلق الصيغة يعتمد على الترتيب (sorting-based closed-form approximation) يقلل التعقيد إلى $O(n \log n)$.
   • ضغط ميزات الرسم البياني: يتم ضغط مصفوفة التشابه إلى ميزات عقدية قياسية (تحديداً المتوسطات الصفية أو ميزات نمط الدرجة).
   • المطابقة القائمة على الترتيب: تتم عملية المحاذاة عن طريق ترتيب هذه الميزات ومطابقة المدخل رقم $i$ الأكبر من المصدر مع المدخل رقم $i$ الأكبر من الهدف.
   • الضمانات النظرية: تقدم الورقة حداً تقريبياً قابلاً للإثبات للخطأ قدره $\frac{n-1}{n^2} + \frac{m-1}{m^2}$، والذي يتلاشى بمعدل $O(1/n)$. بالإضافة إلى ذلك، أظهر المؤلفون أن فقدان GLD الموجه بـ GW يمتلك ثابت ليبشيتز (Lipschitz constant) أقل بكثير مقارنة بـ KL وفقدان Wasserstein القياسي، مما يشير إلى حدود تعميم أكثر إحكاماً وتدريب أكثر استقراراً.
4. الهدف الموحد: يجمع هدف التدريب النهائي بين فقدان GLD المدرك للبنية وفقدان تقطير الـ logits العالمي (ULD) خشن الحبيبات (للمحاذاة على مستوى الرمز) وإشارات الضبط الدقيق الخاضع للإشراف (SFT) القياسية.

المساهمات الرئيسية

• أول إطار عمل للدمج مدرك للبنية: يعد InfiGFusion أول طريقة لنمذجة الاعتمادات الدلالية عبر رسوم بيانية لميزات الـ logits وتحاذيها باستخدام فقدان GLD مبتكر، متجاوزاً بذلك مجرد المحاذاة المستقلة للرموز.
• تقريب GW قابل للتوسع: اقترح المؤلفون تقريباً مغلق الصيغة لمسافة Gromos-Wasserstein يقلل التعقيد الحسابي من $O(n^4)$ إلى $O(n \log n)$ مع حدود خطأ قابلة للإثبات، مما يجعل المحاذاة القائمة على الرسم البياني ممكنة لمفردات بمقياس النماذج اللغوية الكبيرة.
• التفوق التجريبي في الاستدلال: أظهرت التجارలు الواسعة عبر 11 اختباراً معيارياً أن InfiGFusion يتفوق باستمرار على خطوط الأساس لدمج النماذج (مثل MiniLogit و FuseLLM و FuseChat) وعلى خطوط الأساس لـ SFT.

النتائج
تم تقييم الطريقة على 11 اختباراً معيارياً تغطي الاستدلال، والبرمجة، والرياضيات، واتباع التعليمات، من خلال دمج نماذج مصدر متعددة (Qwen2.5, Mistral, Qwen2.5-Coder) في نموذج مرجعي من نوع Phi-4.

• مكاسب الاستدلال المعقد: أظهر InfiGFusion تحسينات كبيرة في المهام التي تتطلب استدلالاً متعدد الخطوات وعلاقياً. ومن الجدير بالذكر أنه حقق تحسناً قدره +35.6 نقطة في الحساب متعدد الخطوات و +37.06 نقطة في الحكم السببي (Causal Judgement) مقارنة بخطوط أساس SFT.
• الأداء العام: تفوق النموذج على النماذج المرجعية والمصدرية عبر مجالات متنوعة، محققاً متوسط درجة 83.85 مقارنة بـ 79.54 للنموذج المرجعي.
• الكفاءة: رغم المحاذاة الهيكلية، حافظت الطراف على كفاءة تنافسية، حيث تطلبت 195 ساعة GPU فقط للتدريب، وهو أقل بكثير من خطوط أنابيب الدمج متعددة الخطوات مثل FuseChat (650 ساعة GPU).
• دراسات الاستئصال (Ablation Studies): أكدت التجارب أن كلا المكونين، ULD (المحاذاة الخشنة) و GLD (المحاذاة الهيكلية)، ضروريان، حيث يقود GLD تحديداً المكاسب في مهام الاستدلال.

الأهمية
تزعم الورقة أن InfiGFusion يعالج فجوة حرجة في دمج النماذج: وهي عدم قدرة أهداف مستوى الرمز على التقاط الهياكل العلاقية الكامنة وراء استدلال النموذج. ومن خلال محاذاة "شكل" مساحة الـ logits صراحةً بدلاً من مجرد التوزيعات الهامشية، يتيح إطار العمل دمج النماذج اللغوية الكبيرة غير المتجانسة دون زيادة تكاليف الاستدلال. ويرى المؤلفون أن هذه المحاذاة الحافظة للبنية ضرورية لتعزيز القدرات الجماعية للنماذج اللغوية الكبيرة، خاصة في سيناريوهات الاستدلال المعقدة حيث تكون الاتساق المنطقي والاستدلال متعدد القفزات أمراً بالغ الأهمية. ويشير العمل إلى أن التقدم المستقبلي في دمج النماذج يعتمد على الانتقال من مجرد مطابقة الرموز السطحية إلى الحفاظ على الاعتمادات الدلالية الداخلية التي تقود الاستدلال المتماسك.