ملخص تقني: التقطير بالاستناد إلى العزو البصري (VAD) للتقطير متعدد الوسائط في وضع السياسة (On-Policy)

1. بيان المشكلة

غالبًا ما تفشل النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) بسبب أخطاء إدراكية طفيفة (مثل إغفال كلمة أو قراءة خاطئة لعلاقة مكانية)، مما قد يؤدي إلى عرقلة مسار التوليد بأكمده. يعالج التقطير في وضع السياسة (On-Policy Distillation - OPD) هذه المشكلة من خلال الإشراف على مسارات الطالب باستخدام "رؤية مميزة" للمعلم (نموذج لديه إمكانية الوصول إلى أدلة بصرية أفضل، مثل عمليات القص عالية الدقة).

ومع ذلك، تعاني طرق التقطير الحالية ذات الرؤية المميزة من التصحيحات المختلطة المصدر. فعندما يقوم المعلم بتصحيح رمز (token) خاص بالطالب، يكون التصحيح مزيجًا من:

1. الإشارات البصرية: الأدلة المستمدة من الرؤية المميزة.
2. النماذج اللغوية المسبقة: الأنماط اللغوية العامة.
3. تأثيرات خاصة بالمعلم: الخصائص النوعية لنموذج المعلم.

تفشل النهج الحالية في التمييز بين أي جزء من تصحيح المعلم يعود في الواقع إلى الدليل البصري.

• Vision-OPD يقوم بتقطير التوزيع الكامل للمعلم مباشرة، مما ينقل الضجيج مختلط المصدر.
• تستخدم VA-OPD و V-Zero "الميزة البصرية" لوزن الرموز أو المسارات، لكنها تفشل في إعادة بناء الهدف صراحةً بناءً على ما يدعمه الدليل. والأهم من ذلك، أن مقاييس الميزة البصرية الإيجابية قد تغفل عن التفنيد (refutation): أي أن كشف الأدلة قد يؤدي إلى كبح رمز خاطٍ دون أن يؤدي بالضرورة إلى تعزيز الرمز الصحيح، وهي ديناميكية تفشل مقاييس الميزة القياسية في التقاطها بفعالية.

التحدي الجوهري يكمكم في تقدير أي مكون من تصحيح المعلم يعزى إلى تدخل بصري محكوم، بدلاً من مجرد تحديد أين أو مدى قوة التقطير.

2. المنهجية: التقطير بالاستناد إلى العزو البصري (VAD)

يقدم VAD خوارزمية إعادة بناء الهدف عبر الواقع المضاد (counterfactual target-reconstruction) التي تعزل الجزء المنسوب بصريًا لتصحيح المعلم. تعمل الطريقة أثناء التدريب باستخدام معلم ثابت وسياسة طالب، ولكنها لا تتطلب رؤى مساعدة أثناء الاستنتاج.

2.1 الرؤى الواقعية المضادة في وضع السياسة

لكل بادئة مولدة من الطالب $y_{<t}$، يستعلم VAD من نفس المعلم الثابت تحت ثلاث حالات:

1. رؤية الطالب ($p^0_S$): توزيع الطالب المعطى للصورة الكاملة $x^0$.
2. رؤية وجود الدليل ($p^+_T$): توزيع المعلم المعطى لرؤية مقصوصة غنية بالأدلة $x^+$.
3. رؤية غياب الدليل ($p^-_T$): توزيع المعلم المعطى لرؤية متدهورة أو منزوعة $x^-$.

2.2 الوكيل الاستدلالي للعزو

يعرف VAD متجهين في فضاء احتمالات اللوغاريتم المركزية:

• تصحيح المعلم ($r_t$): الفرق بين المعلم ذي الرؤية المميزة ($p^+_T$) والطالب ($p^0_S$).
• وكيل الدليل البصري ($u_t$): الفرق بين رؤى المعلم في حالة وجود الدليل وحالة غيابه ($p^+_T - p^-_T$).

يعمل المتجه $u_t$ كـ وكيل إشاري لاتجاه الدليل البصري. القيمة الموجبة تعني أن الدليل يدعم رمزًا ما؛ والقيمة السالبة تعني أن الدليل يفند هذا الرمز.

2.3 إعادة بناء الهدف

بدلاً من مطابقة توزيع المعلم الكامل، يقوم VAD بإعادة بناء هدف جديد عن طريق إسقاط التصحيح الأصلي $r_t$ على الوكيل البصري $u_t$:

1. التفكيك: يتم تقسيم التصحيح إلى مكون منسوب بصريًا ($r^{vis}_t$) ومتبقٍ ($r^{res}_t$).
   • $r^{vis}_t = \beta_t u_t$، حيث $\beta_t$ هو معامل غير سالب يضمن الحفاظ فقط على الاتفاق مع الاتجاه البصري.
   • $r^{res}_t = r_t - r^{vis}_t$ (يُعامل كمتبقٍ مختلط، وليس لغويًا بحتًا).
2. تفرع الدعم والتفنيد: تفصل الطريقة بين فرع الدعم (القيم الموجبة لـ $u_t$) وفرع التفنيد (القيم السالبة لـ $u_t$). وتقوم بتخصيص "ميزانية تصحيح بصرية" لهذه الفروع، مع وضع حد أقصى لحصة الدعم لمنع سيطرة الأدلة غير المؤكدة.
3. هدف مرتكز على الطالب: يتم بناء الهدف النهائي $q^{VAD}_{T,t}$ عن طريق تطبيق الإزاحة البصرية الموقعة والمعدلة على توزيع الطالب الحالي ($p^0_S$)، بدلاً من توزيع المعلم. يضمن ذلك بقاء الهدف مرتكزًا على حالة الطالب مع تصحيح الرموز المدعومة بالدليل فقط.

2.4 هدف التدريب

إشارة الإشراف الأساسية هي تباعد جينسن-شانون (JSD) بين الطالب والهدف المعاد بناؤه ($q^{VAD}_{T,t}$).

• المنظم الضعيف: لمنع الانحراف اللغوي (مثل عدم استقرار التنسيق أو الطول) الناتج عن التركيز فقط على التصحيحات البصرية، يتم إضافة منظم ضعيف مستمد من توزيع المعلم ذي الرؤية المميزة الأصلي. يعمل هذا على تثبيت الدلالات والتنسيق دون تجاوز إعادة البناء البصري.

3. المساهمات الرئيسية

1. تحديد قيود المصادر المختلطة: يحدد البحث أن التقطير المباشر لمطابقة المعلم وتوزين الميزة البصرية الإيجابية يفشلان في تقدير أي مكونات التصحيح المدعومة من خلال التدخلات البصرية المحكومة بشكل صريح.
2. خوارزمية VAD: تقديم طريقة تستخدم التدخلات البصرية الواقعية المضادة من أجل:
   • إنشاء اتجاه وكيل للدليل البصري.
   • تفكيك تصحيح المعلم إلى مكونات منسوبة بصريًا ومكونات متبقية.
   • إعادة بناء هدف مرتكز على الطالب يفصل بين الدعم والتفنيد.
3. التحقق التجريبي: إثبات مكاسب متسقة عبر ستة معايضات بصرية دقيقة عند مقاييس 4 مليار و9 مليار معلمة.

4. النتائج التجريبية

قام المؤلفون بتقييم VAD على نماذج Qwen3.5-4B و Qwen3.5-9B عبر ستة معايضات.

• مكاسب الأداء: حقق VAD أعلى متوسط دقة (Avg6) في كلا المقياسين، متفوقًا على أفضل النماذج المناظرة في الحجم بمقدار 2.40 نقطة (4B) و 2.80 نقطة (9B).
• المقارنة مع SOTA: تفوق نسخة VAD بحجم 4B بشكل كبير على نماذج أكبر بكثير، بما في ذلك Gemini 3 Flash و Gemini 3.1 Pro و Qwen3.5 بحجم 397 مليار معلمة.
• التحليل الدلالي: أكد تحليل التفكيك أن المكون المنسوب ($r^{vis}_t$) غني بالسمات البصرية، والأشياء، ورموز القرار (مثل "رأسي"، "معدني"، "أ/ب/ج/د")، بينما يحتوي المكون المتبقي ($r^{res}_t$) على الهياكل اللغوية والمحتوى الميتافيزيقي.
• التعميم: على عكس طرق ما بعد التدريب الأخرى التي قد تضعف التعميم في المهام الأخرى، حافظ VAD على الأداء أو حسنه قليلاً في المهام غير المدرجة في التدريب (MMVP, CV-Bench, MMStar, POPE)، مما يظهر أن التخصص البصري لم يضحِ بالقدرات الأوسع.
• دراسات الاستئصال (Ablation Studies):
  • إعادة بناء الهدف: وفرت إعادة البناء الواعية للفروع أكبر مكسب (+1.00 نقطة فوق الإسقاط أحادي الجانب بدون تنظيم).
  • التنظيم: كان مرساة المعلم الضعيفة حاسمة لاستقرار تنسيق المخرجات وطولها.
    ما وجد أن JSD هو الأكثر توازنًا كافتراضي مقارنة بـ Forward أو Reverse KL.

5. الأهمية والادعاءات

يزعم البحث أن إعادة بناء الهدف عبر الواقع المضاد يعد بديلاً أكثر فعالية للإشراف مختلط المصدر في التقطير متعدد الوسائط (OPD). من خلال عزو التصحيحات صراحةً إلى الدليل البصري وإعادة بناء هدف التعلم حول توزيع الطالب، يضمن VAD أن النموذج يتعلم ما يدعمه الإطار البصري بدلاً من التقليد الأعمى لإشارات المعلم المختلطة.

يضع المؤلفون VAD كوسيلة لتحسين كفاءة المعلمات (نماذج صغيرة تتفوق على نماذج أكبر بكثير) والتأسيس الإدراكي دون الحاجة إلى بحث معقد في وقت الاستنتاج أو استخدام الأدوات. تُقدم الطريقة كحل قوي لـ "مشكلة عزو التصحيح البصري"، مما يوفر طريقة منهجية لتصفية الضجيج من الإشراف ذي الرؤية المميزة.

القيود التي أقر بها المؤلفون:

• يتم تمثيل الدليل البصري بواسطة متجه تبايني واحد من زوج رؤى واحد، مما قد ينحاز نحو الأدلة التركيبية.
• عملية الإسقاط الحالية تنتج إثراءً دلاليًا بدلاً من فصل مثالي تمامًا؛ فقد يظل المكون المنسوب محتفظًا ببعض تأثيرات المعلم غير البصرية.