ملخص تقني: من الرؤية إلى التفكير: فك الارتباط بين الإدراك والاستنتاج يحسن التدريب اللاحق لنماذج الرؤية واللغة

1. بيان المشكلة

ركزت التطورات الأخيرة في نماذج الرؤية واللغة (VLMs) بشكل كبير على استنتاج "سلسلة الأفكط" (Chain-of-Thought - CoT) الطويلة، والتي تُقاد غالباً عبر تقنيات التعلم التعزيزي (RL). ومع ذلك، يحدد هذا العمل عقبة حرجة: الأداء في المهام البصرية المعقدة (مثل الرياضيات البصرية، الهندسة، وفهم المخططات) غالباً ما يكون محدوداً ليس بالقدرات الاستنتاجية، بل بـ الإدراك البصري.

لاحظ المؤلفون أنه عندما يرتكب نموذج الرؤية واللغة خطأً أولياً في إدراك التفاصيل البصرية (مثل الخطأ في تحديد زاوية هندسية أو عدد الأجسام)، فإن خطوات الاستنتاج اللاحقة نادراً ما تصحح هذا الخطأ. بدلاً من ذلك، يقوم النموذج بتراكم الخطأ بناءً على افتراضات إدراكية غير صحيحة، مما يؤدي إلى مسارات استنتاج طويلة ومعقدة تفشل في الوصول إلى النتيجة الصحيحة. وعلى العكس من ذلك، عندما يكون الإدراك دقيقاً، يميل الاستنتاج إلى أن يكون موجزاً ويصل إلى النتيجة بسرعة. ويجادل البحث بأن نماذج التدريب اللاحق الحالية، التي غالباً ما تدمج بيانات الإدراك والاستنتاج معاً أو تعطي الأولوية للاستنتاج، تفشل في معالجة هذا العجز الأساسي.

2. المنهجية

الحل المقترح هو إطار عمل للتدريب اللاحق المرحلي يقوم بفك ارتباط قدرات نماذج الرؤية واللغة إلى ثلاث مراحل متمايزة ومتتالية، تستخدم كل منها مجموعات بيانات واستراتيجيات تدريب متخصصة:

2.1. تفكيك القدرات

يتم تقسيم مسار التدريب إلى ثلاث مراحل:

1. الإدراك البصري: يركز على التعرف على التفاصيل البصرية الدقيقة والعلاقات المكانية دون الحاجة إلى استنتاج متعدد الخطوات.
2. الاستنتاج النصي: يركز على الاستدلال المنطقي باستخدام مدخلات نصية فقط.
3. الاستنتاج البصري: يركز على المهام متعددة الوسائط المعقدة التي تتطلب كلاً من الإدراك الدقيق والاستنتاج متعدد الخطوات.

2.2. توليد وتنسيق البيانات

• بيانات الإدراك ($D_{perc}$): تم توليدها من مجموعة بيانات DOCCI (وصف الصور الدقيق). يقوم نموذج لغوي كبير (LLM) بتوليد أسئلة تركز على الإدراك بناءً على الأوصاف. وتعمل آلية تصفية على الاحتفاظ فقط بالعينات التي يفشل فيها نموذج الرؤية واللغة الأساسي في الإجابة بشكل صحيح باستخدام الصورة وحدها، ولكنه ينجح عند تزويده بالوصف النصي. هذا يعزل العينات التي يكون القصور فيها إدراكياً بحتاً.
• بيانات الاستنتاج النصي ($D_{text}$): مستمدة من ORZ-Math-13k، والتي تحتوي على مسائل رياضية صعبة يمكن حلها بدون مدخلات بصرية.
• بيانات الاستنتاج البصري ($D_{vis}$): تم تنسيقها من مصادر مفتوحة متعددة (مثل CLEVR-Math، وGeoQA170K، وMath PUMA، إلخ)، والتي تتطلب كلاً من الإدراك والاستنتاج.

2.3. استراتيجيات التدريب

• التدريب المرحلي: يتم تدريب النموذج بالتتابع ($D_{perc} \rightarrow D_{text} \rightarrow D_{vis}$) باستخدام تحسين السياسة النسبية الجماعية (GRPO).
  • المرحلة 1 (الإدراك): قارن المؤلفون بين الضبط الدقيق الخاضع للإشراف (SFT) وبين التعلم التعزيزي مع المكافآت القابلة للتحقق (RLVR). ووجدوا أن RLVR أكثر فعالية بشكل ملحوظ للإدراك، حيث يعاقب التفسيرات الهلوسية بشكل أكثر قوة من SFT المعتمد على مستوى الرموز (tokens).
  • المرحلتان 2 و3: تستخدمان GRPO لصقل قدرات الاستنتاج.
• التعامل مع مشفر الرؤية: في مرحلة الإدراك، يكون مشفر الرؤية نشطاً. وفي المراحل اللاحقة، تختلف الاستراتيجيات (مثل تجميد المشفر في مراحل الاستنتاج النصي)، ولكن المحرك الرئيسي للنجاح هو ترتيب البيانات المرحلي.
• التكامل المنهجي (Curriculum Integration): أظهر المؤلفون أن هذا التدرج القائم على القدرة هو أمر متعامد مع المناهج التقليدية القائمة على الصعوبة. ودمج الاثنين معاً (ترتيب البيانات حسب الصعوبة ضمن كل مرحلة قدرة) يحقق مكاسب إضافية.

3. المساهمات الرئيسية

1. فك الارتباط بين الإدراك والاستنتاج: يثبت البحث أن الإدراك البصري هو قدرة متميزة وأساسية يجب ترسيخها قبل صقل الاستنتاج البصري، وأن معاملة الاثنين كمهمة مدمجة يؤدي إلى أداء دون المستوى.
2. نموذج التدريب المرحلي: يقترح المؤلفون ترتيباً محدداً للتدريب (الإدراك $\rightarrow$ الاستنتاج النصي $\rightarrow$ الاستنتاج البصري) يتفوق باستمرار على التدريب المدمج. كما أن عكس هذا الترتيب (التدريب على الاستنتاج قبل الإدراك) يؤدي إلى تراجع الأداء.
3. استخدام RLVR للإدراك: يوضح العمل أن RLVR يتفوق على SFT المعتمد على الوصف النصي في تدريب الإدراك البصري، مما يوفر إشارة تدريب أقوى تقلل من الهلوسة.
4. مكاسب الكفاءة: تحقق النماذج المدربة بهذا النهج دقة أعلى مع مسارات استنتاج أقصر بكثير (أقصر بنسبة 20.8%)، مما يشير إلى أن الإدراك الدقيق يقلل من الحاجة إلى "تفكير" مفرط لتصحيح الأخطاء الأولية.
5. بعد جديد للمنهج الدراسي: يقدم البحث "التعلم المنهجي القائم على بُعد القدرة" كنهج متعامد مع المناهج القائمة على الصعوبة، موضحاً أن الجمع بينهما يحقق تحسينات إضافية.

4. النتائج التجريبية

أُجريت التجارب على نماذج Qwen2.5-VL-7B وQwen3-VL-8B، مع مقارنة التدريب المرحلي بالتدريب المدمج وبالنماذج الأساسية مفتوحة الأوزان (مثل OneThinker وGThinker).

• مكاسب الأداء:
  • الرياضيات البصرية: حسن التدريب المرحلي دقة WeMath بنسبة 5.2% (لقياس Qwen2.5-VL-7B) و1.5% (لقياس Qwen3-VL-8B) مقارنة بالتدريب المدمج. وفي MathVista، حقق نموذج Qwen3-VL-8B المرحلي نسبة 75.9%.
  • الإدراك: حسن هذا النهج دقة RealWorldQA بنسبة 3.7% (لقياس Qwen3-VL-8B) وحافظ على أداء عالٍ في A-OKVQA وPOPE، متجنباً "ضريبة الإدراك" التي غالباً ما تظهر في التدريب المخصص للاستنتاج فقط.
  • الإجمالي: حقق نموذج Qwen3-VL-8B المرحلي متوسطاً عاماً قياسياً قدره 65.8%، متفوقاً على النموذج الأساسي ونموذج OneThinker-8B المتخصص في الاستنتاج.
• الكفاءة: أنتجت النماذج المرحلية مسارات استنتاج أقصر بنسبة 20.8% من النماذج المدمجة مع تحقيق دقة أعلى.
• تحليل الخطأ: باستخدام حكم خارجي (Claude-Haiku-4.5)، وجد المؤلفون أن التدريب المرحلي قلل من معدل أخطاء الإدراك في مسارات الاستنتاج من 857 إلى 781 (من أصل 3044 عينة) مقارنة بالتدريب المدمج.
• التعميم: تم تأكيد فوائد التدريب المرحلي عبر بنيات مختلفة، بما في ذلك InternVL3-8B وInternVL3.5-8B.

5. الأهمية والادعاءات

يدعي البحث أن العامل المحدد المهيمن للاستنتاج البصري في نماذج الرؤية واللغة الحالية هو الإدراك البصري، وليس القدرة الاستنتاجية نفسها. وبالتالي، فإن "التفكير الأطول" لا يمكنه تعويض الإدراك الخاطئ.

تكمن أهمية هذا العمل في:

• التحول في النموذج الفكري: الانتقال من التدريب المدمج إلى نهج مرحلي مفكك القدرات.
• الرؤية المنهجية: إثبات أن ترتيب التدريب مهم؛ إذ يجب أن يكون الإدراك هو الركيزة الأساسية للاستنتاج.
• كفاءة التدريب: إثبات أن الإدراك الأفضل يؤدي إلى استنتاج أكثر كفاءة (مسارات أقصر)، مما يقلل التكاليف الحسابية.
• تصميم المنهج الدراسي: تأسيس التدرج القائم على القدرة كبُعد جديد ومتعامد مع المناهج القائمة على الصعوبة، والذي يمكن دمجه لتحقيق مكاسب تراكمية.

يخلص المؤلفون إلى أن دمج بيانات الإدراك المتخصصة مع نهج التدريب المرحلي أمر ضروري لتطوير نماذج رؤية ولغة متقدمة وعامة الأغراض يمكنها حل المهام البصرية المعقدة بموثوقية.