ملخص تقني: الاستدلال القائم على مبدأ "فرق تسد" للتعرف البصري واسع النطاق باستخدام النماذج اللغوية الكبيرة متعددة الوسائط

1. بيان المشكلة: انهيار الأداء في التعرف على التسلسلات الطويلة (PC-LSR)

تحدد الورقة البحثية قيداً حرجاً في تطبيق النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) على مهام تصنيف الصور واسعة النطاق. فبينما تتفوق هذه النماذج في مهام الرؤية واللغة العامة، يتدهور أداؤها بشكل حاد مع توسع مساحة الملصقات (Labels). وقد وصف المؤلفون هذه الظاهرة بأنها انهيار الأداء في التعرف على التسلسلات الطويلة (PC-LSR).

من خلال اختبارات مرجعية تجريبية على ImageNet-1K، أظهر المؤلفون أن الدقة تنخفض بشكل كبير مع زيادة عدد الفئات المرشحة (على سبيل المثال، ينخفض نموذج LLaMA 3.2-11B-Vision من 88.60% لـ 20 فئة إلى 0.53% لـ 1,000 فئة). ويحدث هذا التدهور بغض النظر عن حجم النموذج أو بنيته.

وتفترض الورقة أن العائق الأساسي ليس نقص بيانات التدريب الخاصة بالمجال، بل هو الصراع الجوهري بين تصاعد الإنتروبيا المعلوماتية وتخفيف الانتباه (Attention Dilution) داخل بنية الـ Transformer. فكلما زادت قائمة المرشحين:

1. توسع عدم اليقين: تزدلاد الإنتروبيا المعلوماتية المطلوبة لحل الملصق الصحيح لوغاريتمياً مع حجم مساحة الملصقات ($K$).
2. تخفيف الانتباه: تقوم آلية الانتباه الذاتي بتوزيع الكتلة الاحتمالية عبر جميع المرشحين. ومع زيادة $K$، يتلاشى وزن الانتباه المخصص للمرشح الصحيح بمعدل $O(1/K)$، مما يؤدي إلى تلاشي نسبة الإشارة إلى الضجيج (SNR).

وقد صاغ المؤلفون ذلك عبر نظرية العجز المعلوماتي، حيث أثبتوا أنه في نموذج الاستدلال المسطح (معالجة جميع الـ $N$ من الملصقات في تمريرة واحدة)، يقترب احتمال خطأ التصنيف تقاربياً من 1 مع توسع مساحة الملصقات، لأن "عرض نطاق الانتباه" الثابت للنموذج لا يمكنه الحفاظ على كثافة المعلومات المطلوبة.

2. المنهجية: الاستدلال القائم على مبدأ "فرق تسد" (DCI)

للتخفيف من حدة ظاهرة PC-LSR دون الحاجة إلى تدريب إضافي أو تعديلات هيكلية، يقترح المؤلفون الاستدلال القائم على مبدأ "فرق تسد" (DCI). وهي استراتيجية لتوسيع النطاق في وقت الاختبار (Test-time scaling) تحول مهمة التصنيف العالمية المعقدة إلى سلسلة من المشكلات الفرعية المحلية الأبسط.

سير العمل الأساسي

يعمل إطار عمل DCI من خلال ثلاث مراحل تكرارية:

1. التقسيم (Divide): يتم تقسيم مجموعة الملصقات المرشحة الحالية $C_t$ إلى $M$ من التسلسلات الفرعية المنفصلة (مجموعات) بحجم $K$ (حيث $K$ هو معلمة فائقة/Hyperparameter). يقلل هذا من طول السياق المحلي، مما يزيد من كثافة الانتباه المحلي ونسبة الإشارة إلى الضجيج (SNR).
2. الغزو/الحل (Conquer): يقوم النموذج (MLLM) بإجراء استدلال متوازٍ على كل تسلسل فرعي. تُستخدم قالب مطالبة (Prompt template) مهيكل لفرض قيود مخرجات صارمة: يجب على النموذج اختيار الفئة الأكثر احتمالاً من المجموعة الفرعية المحددة أو إخراج "لا شيء" (None) إذا لم تنتمِ الصورة إلى أي فئة في تلك المجموعة. وتعمل آلية "مكافحة الكسل" هذه على منع النموذج من اللجوء إلى خيار "لا شيء" بشكل عشوائي.
3. الدمج (Combine - تقليم الفروع): يتم تجميع المخرجات من المهام الفرعية المتوازية. يتم تصفية الاستجابات التي تحمل قيمة "لا شيء"، وتشكل الفئات المرشحة المتبقية مجموعة المدخلات $C_{t+1}$ للدورة التالية. يؤدي هذا فعلياً إلى تقليم مساحة البحث.

الإنهاء والتعقيد

يستمر التكرار حتى يصبح حجم مجموعة المرشحين أقل من أو يساوي $K$، وعندها يتم إجراء استدلال مباشر نهائي.

• التعقيد الحسابي: بينما يتسبب الاستدلال المسطح القياسي في تعقيد $O(N^2)$ بسبب الانتباه الذاتي العالمي، يحقق DCI سلوك توسع أكثر ملاءمة. تشير التحليلات النظرية إلى أن التعقيد يتوسع تقريباً بمعدل $O(\frac{N}{K} \cdot K^2) = O(NK)$ في أسوأ الحالات، ولكن مع التقليم الفعال، غالباً ما يعمل بمعدل يقترب من $O(N \log_K N)$ من حيث خطوات الاستدلال، مما يقلل بشكل كبير من الأعباء الإضافية لـ $N$ الضخمة.
• التوازي: تسمح مرحلة "الغزو" بالتنفيذ المتزامن للمهام الفرعية، مما يسرع عملية الاستدلال في مجموعات البيانات واسعة النطاق.

3. المساهمات الرئيسية

• التحليل المنهجي لـ PC-LSR: تقدم الورقة تفسيراً معلوماتياً نظرياً لسبب فشل النماذج (MLLMs) في التصنيف واسع النطاق، من خلال صياغة العلاقة بين إنتروبيا مساحة الملصقات وتخفيف الانتباه عبر نظرية العجز المعلوماتي.
• إطار عمل DCI: تقديم استراتيجية استدلال جاهزة للاستخدام، لا تتطلب تدريباً، ومستقلة عن نوع النموذج، تعمل على تفكيك مهام التصنيف تكرارياً للحفاظ على نسبة عالية من الإشارة إلى الضجيج (SNR) محلياً.
• التحقق النظري والتجريبي: أثبت المؤلفون أن DCI يقلل من التعقيد الحسابي مقارنة بالاستدلال المسطح في السيناريوهات فائقة النطاق، وتحقق من ذلك عبر اختبارات متنوعة (ImageNet-1K, ImageNet-21K, CIFAR-100, CUB-200, Food-101).

4. النتائج التجريبية

قيم المؤلفون نظام DCI عبر نماذج متعددة (بما في ذلك سلسلة Qwen و LLaMA و Gemma و GLM) ومجموعات بيانات مختلفة.

• تحسينات الدقة:
  • في ImageNet-1K، حسن DCI متوسط دقة نموذج Qwen2.5-VL-7B بمقدار +6.93% (من 59.57% إلى 66.50%).
  • في ImageNet-21K (21,000 فئة)، كانت المكاسب هائلة. فقد تحسن نموذج Qwen2.5-VL-7B من 0.21% إلى 37.87% (+37.66%). حتى النماذج الخفيفة مثل Qwen3-VL-2B حققت مكاسب كبيرة (+18.81%).
  • والجدير بالذكر أن Qwen3-VL-8B المزود بـ DCI حقق متوسط دقة قدره 71.32% على الاختبارات القياسية، متفوقاً على النموذج المملوك GPT-4(v4.1) الذي حقق (70.43%).
• الكفاءة والكمون (Latency):
  • خلافاً للاعتقاد السائد بأن الاستدلال متعدد الخطوات يزيد من زمن التأخير، قلل DCI من وقت الاستدلال في ImageNet-21K لنموذج Qwen3-VL-2B. فمع حجم مجموعة مثالي ($K=500$)، انخفض زمن التأخير من 7.96 ثانية (الأساس) إلى 5.99 ثانية، بينما ارتفعت الدقة من 0.48% إلى 18.86%.
  • يُعزى هذا التسريع إلى تقليل طول السياق في كل تمريرة أمامية، مما يتجنب التعقيد التربيعي لمعالجة قائمة الـ 21 ألف ملصق في نافذة انتباه واحدة.
• المتانة: نجح DCI باستمرار في الحد من انهيار الأداء عبر أحجام مجموعات الملصقات المتفاوتة (من 10 إلى 1,000 فئة)، محافظاً على دقة مستقرة حيث فشلت النماذج الأساسية.
• الحساسية للمعلمات الفائقة: توازن حجم المجموعة $K$ بين عمق الاستدلال وقوة التمييز المحلية. وُجد أن $K$ الأمثل (مثل 10 لـ ImageNet-1K) يعظم الدقة، بينما كان لاستراتيجية التجميع الدلالي (العشوائي مقابل التجميع الدلالي) تأثير ضئيل على الأداء.

5. الأهمية والادعاءات

تدعي الورقة أن DCI يوفر نموذجاً عملياً لتوسيع قدرات النماذج (MLLMs) دون التكاليف الباهظة لإعادة التدريب أو تغيير البنية. وتكمن أهميته في:

1. إطلاق القدرات الكامنة: يوضح أن فشل النماذج مفتوحة المصدر الخفيفة في المهام واسعة النطاق غالباً ما يكون ناتجاً عن قيود هيكلية في الاستدلال (تخفيف الانتباه) وليس نقصاً في المعرفة البصرية. يقوم DCI بإطلاق هذه القدرة الكامنة في وقت الاختبار.
2. منافسة العمالقة المغلقين: من خلال تطبيق DCI، يمكن للنماذج مفتوحة المصدر الخفيفة أن تضاهي أو تتفوق على العمالقة المغلقين (مثل GPT-4 و Qwen3-VL-PLUS) في التصنيف واسع النطاق، مما يساهم في دمقرطة الوصول إلى أنظمة رؤية عالية الأداء.
3. مقايضة الكفاءة والدقة: يكسر DCI المقايضة التقليدية في التعرف واسع النطاق، حيث يحسن الدقة ويقلل زمن التأخير الحسابي في آن واحد لمساحات الملصقات الضخمة.
4. التعميم المستقل عن النموذج: كاستراتيجية جاهزة للتركيب (Plug-and-play)، يمكن تطبيقها على أي نموذج Transformer-based MLLM، مما يشير إلى أن تخفيف الانتباه هو تحدٍ معماري جوهري وليس خللاً خاصاً بنموذج معين.

يخلص المؤلفون إلى أن DCI يمثل تحولاً من التوسع أثناء التدريب إلى التوسع أثناء الاختبار، مما يوفر نهجاً فعالاً للتعامل مع "انهيار الأداء" المتأصل في التعرف على التسلسلات الطويلة للنماذج متعددة الوسائط.