💻 computer science

DRIFT: Transferring Reasoning Priors for Efficient MLLM Fine-Tuning

تقترح الورقة البحثية طريقة DRIFT، وهي طريقة ضبط دقيق خفيفة الوزن تنقل قدرات الاستنتاج من النماذج اللغوية الكبيرة النصية فقط إلى النماذج متعددة الوسائط بكفاءة عبر حقن سابق استنتاجي محسوب مسبقاً في فضاء التدرج، مما يتغلب على عدم استقرار الدمج البارامتري الساذج مع تحقيق أداء متفوق بتكاليف حوسبة أقل بكثير.

المؤلفون الأصليون: Chao Huang, Zeliang Zhang, Jiang Liu, Ximeng Sun, Jialian Wu, Xiaodong Yu, Ze Wang, Chenliang Xu, Emad Barsoum, Zicheng Liu

نُشر 2026-04-28

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Chao Huang, Zeliang Zhang, Jiang Liu, Ximeng Sun, Jialian Wu, Xiaodong Yu, Ze Wang, Chenliang Xu, Emad Barsoum, Zicheng Liu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك خبيرين مختلفين تماماً:

ساحر النصوص: عالم رياضيات عبقري يمكنه حل الألغاز المنطقية المعقدة وكتابة الحلول خطوة بخطوة، لكنه لم يرَ صورة في حياته قط.
الفنان البصري: فنان موهوب يمكنه وصف صورة بدقة، وتحديد الأشياء، وفهم المخططات، لكنه يعاني في حل المسائل الرياضية المخبأة داخل تلك الصور.

الهدف من هذه الورقة البحثية هو تعليم الفنان البصري كيف يفكر مثل ساحر النصوص دون الحاجة لإعادته إلى المدرسة لسنوات من التدريب المكلف.

المشكلة: محاولة "الزواج السيئ"

في السابق، حاول الباحثون دمج هذين الخبيرين عن طريق "دمج" عقولهما (أوزان الحاسوب الخاصة بهما) معاً ببساطة. ظنوا قائلين: "إذا مزجنا 50% من عقل ساحر الرياضيات مع 50% من عقل الفنان، سنحصل على (فنان-رياضيات) مثالياً".

تسمي الورقة هذه الطريقة الدمج الساذج (naive merging). وقد وجد المؤلفون أن هذا غالباً ما يفشل. الأمر يشبه محاولة لصق محرك نفاث فوق دراجة هوائية؛ أحياناً ينجح الأمر قليلاً، ولكن في كثير من الأحيان يحطم الدراجة تماماً. الجزء "الرياضي" يصاب بالارتباك بسبب جزء "الفن"، وجزء "الفن" ينسى كيف يرى. والنتيجة هي نموذج أسوأ في الرياضيات وأسوأ في الرؤية مما كان عليه من قبل.

الحل: DRIFT (البوصلة)

يقترح المؤلفون طريقة جديدة تسمى DRIFT (حقن الاستدلال الاتجاهي للضبط الدقيق). بدلاً من لصق العقلين معاً فعلياً، هم يستخدمون بوصلة.

إليك كيف يعمل التشبيه:

رسم خريطة الاختلاف: أولاً، ينظر الباحثون إلى الفرق بين ساحر النصوص والفنان البصري. يقومون بحساب "متجه" (سهم اتجاه) يشير بدقة من "كيف يفكر الفنان" إلى "كيف يفكر الساحر". هذا السهم يمثل الأولوية الاستدلالية (Reasoning Prior).
رحلة التدريب: يأخذون الفنان البصري ويبدأون بتعليمه باستخدام مجموعة صغيرة من مسائل الرياضيات المصورة (4,000 مثال فقط، وهو عدد ضئيل جداً مقارنة بالملايين المطلوبة عادةً).
توجيه البوصلة: بينما يتعلم الفنان، يقوم الحاسوب بحساب الطريقة المعتادة لتحديث عقل الفنان. ولكن، قبل إجراء التحديث، ينظر إلى البوصلة (الأولوية الاستدلالية). إنه يدفع مسار تعلم الفنان بلطف نحو طريقة تفكير الساحر.
- هو لا يجبر الفنان على أن يصبح الساحر.
- هو فقط يقول له: "مهلاً، عندما تقوم بحل هذا، حاول أن تفكر في هذا الاتجاه المحدد الذي يستخدمه الساحر".

لماذا يعد هذا أمراً كبيراً؟

السرعة: الطرق التقليدية لتعليم الذكاء الاصطناعي كيفية الاستدلال تتطلب كميات هائلة من البيانات وتستغرق أياماً أو أسابيع من تدريب الحواسيب الفائقة. أما DRIFT فينجز ذلك في حوالي ساعتين.
الكفاءة: لا يحتاج إلى مكتبة ضخمة من مسائل الرياضيات المصورة؛ فهو يحتاج فقط إلى مجموعة صغيرة وعالية الجودة لأن "البوصلة" (الاتجاه المحسوب مسبقاً) تقوم بمعظم العمل الشاق.
الأمان: على عكس طريقة "اللصق"، فإن DRIFT لا يكسر قدرة الفنان على الرؤية. توضح الورقة أن النموذج يصبح أفضل في الرياضيات دون أن ينسى كيفية وصف الصور.

النتيجة

من خلال استخدام هذه "البوصلة" لتوجيه التدريب، يتعلم الفنان البصري كيفية ربط المعلومات معاً بشكل منطقي، تماماً مثل ساحر النصوص. تثبت الورقة أن هذه الطريقة تعمل بشكل أفضل من محاولة لصق النموذجين معاً، وهي أسرع وأرخص بكثير من التدريب من الصفر باستخدام مجموعات بيانات ضخمة.

باختصار: بدلاً من إجبار عقلين مختلفين على الاندماج في كتلة واحدة فوضوية، يقوم DRIFT بتوجيه أحد العقلين بلطف في الاتجاه الصحيح باستخدام خريطة تم إنشاؤها من الآخر.

إليك ملخص تقني مفصل لورقة البحث بعنوان "DRIFT: نقل أولويات الاستدلال من أجل ضبط دقيق فعال للنماذج اللغوية الكبيرة متعددة الوسائط (MLLM)".

1. بيان المشكلة

حققت النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) خطوات كبيرة في الإدراك والمواءمة، لكنها لا تزال تتخلف باستمرار عن النماذج اللغوية الكبيرة (LLMs) المعتمدة على النصوص فقط في قدرات الاستدلال (مثل الاستدلال الرياضي والمنطقي).

الاختناقات الحالية: يتطلب سد هذه الفجوة عادةً:
1. الضبط الدقيق الخاضع للإشراف (SFT) متعدد الوسائط واسع النطاق: جمع بيانات سلسلة الأفكال (CoT) عالية الجودة للصور أمر مكلف ومجهد للعمالة.
2. التعلم التعزيزي (RL): يضيف أعباء حوسبية وعدم استقرار في التدريب.
قصور دمج النماذج: هناك بديل واعد وهو دمج النماذج في فضاء المعلمات (استيفاء الأوزان بين خبير استدلال نصي فقط ونموذج MLLM). ومع ذلك، يوضح المؤلفون أن الدمج الساذج هو عملية هشة؛ إذ غالبًا ما يفشل في نقل الاستدلال بفعالية ويمكن أن يؤدي إلى تدهور شديد في الإدراك والمواءمة متعددة الوسائط، خاصة عندما تكون النماذج الأساسية (مثل سلسلة Qwen) ذات توزيعات معلمات متباعدة.

2. المنهجية: DRIFT

يقترح المؤلفون DRIFT (حقن الاستدلال الاتجاهي للضبط الدقيق)، وهي طريقة خفيفة الوزن تعتمد على التدرج (gradient-based) لنقل معرفة الاستدلال دون زعزعة استقرار النموذج.

المفهوم الجوهري

بدلاً من استيفاء الأوزان مباشرة في فضاء المعلمات، تعمل DRIFT في فضاء التدرج. فهي تعامل الفرق بين خبير استدلال نصي فقط ونموذج متعدد الوسائط كـ "اتجاه استدلال" (أولوية)، وتستخدم هذا الاتجاه لتوجيه مسار التحسين أثناء عملية SFT القياسية.

الخطوات الرئيسية

الحساب المسبق لأولوية الاستدلال ( $\Delta$ ):
- حساب فرق المعلمات بين نموذج استدلال نصي فقط ( $\phi_{reason}$ ) والنموذج متعدد الوسائط المستهدف ( $\phi_{VL}$ ):
  $\Delta = \phi_{reason} - \phi_{VL}$
- يتم قصر هذا الفرق على الوحدات ذات الصلة بالاستدلال (إسقاطات MLP، وإسقاطات الانتباه، وطبقات التطبيع).
- يتم حساب $\Delta$ مرة واحدة وتخزينه على وحدة المعالجة المركزية (CPU).
حقن التدرج أثناء SFT:
- أثناء الضبط الدقيق الخاضع للإشراف للنموذج MLLM على كمية صغيرة من البيانات متعددة الوسائط، يتم تعديل التدرج القياسي ( $g$ ).
- يتم حساب التدرج الموجه ( $\tilde{g}$ ) كالتالي:
  $\tilde{g} = g + \alpha \cdot \text{scale}(g, \Delta)$
- استراتيجيات القياس (Scaling): يستكشف البحث ثلاثة متغيرات:
  - المطلق (Absolute): يضيف $\Delta$ مباشرة.
  - معيار التدرج (Grad-Norm): يحاذي اتجاه التحديث مع $\Delta$ مع الحفاظ على مقدار $g$ .
  - معيار التدرج مع $\alpha$ التكيفي (Grad-Norm w/ Adaptive $\alpha$ ): يضبط قوة الحقن ديناميكيًا بناءً على تشابه جيب التمام (cosine similarity) بين التدرج الحالي والأولوية ( $\Delta$ ).
الكفاءة:
- لا تقدم DRIFT أي معلمات قابلة للتدريب إضافية.
- هي تقوم فقط بتعديل المسار الخلفي (حساب التدرج)، مما يترك المسار الأمامي دون تغيير.
- تتطلب فقط مجموعة بيانات منسقة صغيرة (4 آلاف مثال) مقارنة بالمجموعات الضخمة المطلوبة لـ SFT القياسي أو RL.

3. المساهمات الرئيسية

التحليل التجريبي للدمج: يثبت المؤلفون بصرامة أن دمج فضاء المعلمات ليس "وجبة مجانية". فهو حساس للغاية لعائلات النماذج؛ فبينما يعمل مع بعضها (مثل LLaMA/Mistral)، فإنه غالبًا ما يؤدي إلى تدهور الأداء في نماذج أخرى (مثل Qwen) بسبب عدم محاذاة المعلمات.
إطار عمل DRIFT: تقديم طريقة مبتكرة وخفيفة الوزن تحقن أولويات الاستدلال عبر توجيه التدرج بدلاً من استيفاء الأوزان، مما يحافظ على المواءمة متعددة الوسائط مع تعزيز الاستدلال.
الكفاءة والأداء: أثبتت DRIFT أنها تحقق قدرات استدلال تضاهي الطرق كثيفة التدريب (SFT + RL) ولكن مع أقل بمراحل من حيث البيانات ووقت الحوسبة (حوالي ساعتين مقابل أكثر من يوم واحد).

4. النتائج التجريبية

تم تقييم الطريقة على اختبارات مرجعية تشمل MathVista، وMathVision، وMathVerse، وWeMath، وLogicVista.

مقابل دمج المعلمات: تفوقت DRIFT باستمرار على الدمج الساذج وتقنيات الدمج المتقدمة (Task Arithmetic, TIES, DARE). وبينما أدى الدمج غالبًا إلى خفض الدرجات (مثل -2.1 في MathVista لنموذج Qwen2.5-VL)، فإن DRIFT حسنتها (+2.0).
مقابل SFT القياسي: تتفوق DRIFT على SFT القياسي المدرب على نفس مجموعة البيانات الصغيرة، مما يثبت أن أولوية الاستدلال توفر إشارات تكميلية قيمة.
مقابل الطرق كثيفة التدريب: تضاهي DRIFT أو تتفوق على الطرق الثقيلة مثل R1-OneVision وX-Reasoner (التي تتطلب أيامًا من التدريب ومجموعات بيانات CoT ضخمة) بينما تكتمل في ~ساعتين باستخدام 4 آلاف مثال عالي الجودة فقط.
التعميم:
- الإدراك: على عكس SFT القياسي الذي قد يضعف أحيانًا الإدراك العام (مثل RealWorldQA)، حافظت DRIFT على القدرات الإدراكية متعددة الوسائط أو حسنتها قليلاً.
- المتانة: أظهرت DRIFT متانة أفضل تجاه البيانات المشوشة مقارلة بـ SFT القياسي.
- العمومية: نجحت الطريقة عبر مختلف أزواج النماذج الأساسية/الخبراء (مثل LLaVA + DART، وQwen + DeepSeek-R1).

5. الأهمية

ديمقراطية الاستدلال: تخفض DRIFT حاجز الدخول لإنشاء نماذج MLLM قادرة على الاستدلال. فهي تلغي الحاجة إلى جمع بيانات CoT متعددة الوسائط واسعة النطلة ومكلفة، وإلى تدريب RL الذي يستمر لعدة أيام.
الاستقرار: تعالج مشكلات عدم الاستقرار المرتبطة بدمج النماذج الساذج، مما يوفر طريقة قوية للجمع بين "الرؤية" في نماذج MLLM و"الاستدلال" في الخبراء النصيين فقط.
العملية: تتكامل الطة بسلاسة مع خطوط أنابيب SFT الحالية (مثل عبر LLaMA-Factory) مع تكلفة إضافية ضئيلة، مما يجعلها قابلة للتوسع بشكل كبير لكل من البحث والنشر الصناعي.

في الختام، تثبت DRIFT أن الأولويات في فضاء التدرج هي آلية متفوقة لنقل قدرات الاستدلال مقارنة بدمج فضاء المعلمات، مما يوفر مسارًا عالي الكفاءة والاستقرار والفعالية لسد فجوة الاستدلال في النماذج متعددة الوسائط.