ملخص تقني: ما مقدار المعلومات التي يمكن أن يحملها رمز الرؤية (Vision Token)؟

بيان المشكلة

إن الطلب المتزايد على فهم السياق الطويل في النماذج اللغوية الكبيرة (LLMs) مقيد بالتعقيد الحسابي التربيعي لآليات الانتباه الذاتي (self-attention). وبينما توجد تقنيات ضغط السياق، فإن الاعتماد حصرياً على الوسائط النصية فقط يؤدي إلى إهمال الدلالات المكانية والهيكلية الحرجة (مثل المحاذاة الجدولية، والتخطيط الهرمي). وتعمل النهج الحديثة المتمحورة حول الرؤية، مثل DeepSeek-OCR، على تشفير صور النصوص المصورة إلى رموز رؤية مستمرة للحفاظ على هذه الدلالات مع تقليل عدد الرموز.

ومع ذلك، فإن النظر إلى مشفر الرؤية كقناة ذات سعة محدودة وفاقدة للمعلومات يثير سؤالاً جوهرياً لم يُستكشف بعد: ما هو الحد الأقصى لكمية المعلومات الدلالية التي يمكن ضغطها في رموز الرؤية؟ بخلاف التجزئة النصية المنفصلة (مثل BPE) التي تضمن إعادة بناء خالية من الفقد، تواجه مشفرات الرؤية مقايضة بين الكفاءة الحسابية (تقليل عدد الرموز) والقدرة التمثيلية. فإذا تجاوزت كثافة المعلومات لكل رمز حد المشفر، يفشل الإدراك. يبحث هذا البحث في العلاقة الكمية بين كمية المعلومات داخل الصورة وعدد رموز الرؤية المستخدمة لتشفيرها، بهدف تحديد حدود السعة لرموز الرؤية.

المنهجية

الإعداد التجريبي

لعزل حدود سعة رموز الرؤية عن المعارف اللغوية المسبقة، صمم المؤلفون اختبار جهد محكم:

• تخليق البيانات: تم جمع نصوص من ستة مجالات متنوعة (روايات، قوانين، اقتصاد، طب، صحف، رسائل). تم استخدام استراتيجية الخلط القائم على الكتل (Block-wise Shuffling)، حيث تم تقسيم النص إلى كتل، وأخذ عينات منها عشوائياً، ثم دمجها. هذا يجبر النموذج على الاعتماد على الإدراك البصري بدلاً من التنبؤ بالرمز التالي بناءً على السياق الدلالي.
• التحكم في الطباعة: تم ضبط معاياي الطباعة (حجم الخط، المسافات بين الأسطر/الحروف) لمحاكاة كثافات متغيرة. وضمنت خوارزمية تخطيط ديناميكية الحفاظ على نسبة العرض إلى الارتفاع بين 0.9 و1.1.
• النماذج: كان النموذج الأساسي هو DeepSeek-OCR، الذي اختير لقدرته على التحكم في ميزانيات رموز الرؤية عبر دقة الإدخال. وللتحقق من القدرة على التعميم، قيمت الدراسة أيضاً InternVL3.5-8B (استراتيجية الدقة العالية القائمة على البلاطات/Tiles) و Qwen2.5-VL-8B (استراتيجية NaViT الديناميكية الأصلية).
• المقاييس: تم قياس جودة التعرف باستخدام مسافة التحرير (Edit Distance - ED) بين التسلسل المتوقع والحقيقة الأرضية (ground truth).

استقصاء آليات الفشل

حلل المؤلفون الأداء عبر أطوال نصية متزايدة (كمية المعلومات) عند أربع دقات (Resolutions) حيث ($R \in \{512, 640, 1024, 1280\}$) لتوصيف الانتقال من الاستقرار إلى الانهيار.

1. حساسية المحاذاة المكانية (المنطقة الأولى): لاختبار ما إذا كانت الأخطاء ناتجة عن عدم محاذاة رقع (patches) محول الرؤية (ViT)، أُجريت تجربة اضطراب إزاحة البكسل (Pixel-Shift Perturbation). تم إزاحة الصور بمسافات فرعية من خطوة الرقعة لإيجاد المحاذاة المثلى.
2. السعة مقابل الوضوح (المنطقة الثانية): للتمييز بين حدود الوضوح البصري (عندما تصبح الحروف صغيرة جداً) وحدود سعة المعلومات، أُجريت تجربة محاذاة الكثافة البصرية. تم تغيير حجم الصور من مراحل الاستقرار والانهيار لتوضع على مساحة ثابتة لضمان تطابق كثافة بكسلات الحروف، مما يعزل متغير إجمالي كمية المعلومات.

قانون القياس الاحتمالي

صاغ المؤلفون نموذجاً يوحد متوسط حمل رمز الرؤية ($G$) (الحروف لكل رمز) والكثافة البصرية ($V$) (الأسطر لكل رقعة ViT) في مقياس الصعوبة الكامنة ($Z$):
$$Z = w_0 + a \log V + \alpha \log G$$
استُخدم نموذج مختلط للتنبؤ باحتمالية دخول "آلية الانهيار" بناءً على $Z$، مع معاملة الانتقال كعملية احتمالية.

النتائج الرئيسية

1. ظاهرة انتقال الطور

حددت الدراسة سلوكاً متميزاً ذا ثلاث مناطق في أداء التعرف مع زيادة كمية المعلومات:

• مرحلة الاستقرار: مسافة تحرير (ED) تقترب من الصفر. ينجح النموذج في إعادة بناء النص.
• مرحلة عدم الاستقرار: منطقة ذات تباين عالٍ حيث تتذبذب مسافة التحرير بشكل كبير لأطوال نصية متطابقة.
• مرحلة الانهيار: "جدار صلب" حيث تقفز مسافة التحرير فجأة (>0.6)، مما يشير إلى فشل تام في إعادة بناء المحتوى.

2. آليات الفشل

• عدم الاستقرار قابل للانعكاس: أكدت تجربة إزاحة البكسل أن الأخطاء في مرحلة عدم الاستقرار ناتجة عن حساسية المحاذاة المكانية في تقسيم رقع ViT. غالباً ما أدت إزاحة الصورة لمحاذاة الحروف مع حدود الرقع إلى استعادة الأداء إلى مسافة خطأ تقترب من الصفر.
• الانهيار غير قابل للانعكاس: دحضت تجربة محاذاة الكثافة البصرية "فرضية الوضوح البصري". حتى عندما تم رسم الحروف بنفس المقياس البصري، فشلت العينات في مرحلة الانهيار بينما نجحت عينات مرحلة الاستقرار. وهذا يؤكد أن الانهيار مدفوع بـ حد سعة المعلومات، حيث لا تستطيع العدد الثابت من رموز الرؤية تشفير الحمولة الدلالية.

3. قانون القياس العالمي

• استقلال الدقة: عرض مرحلة عدم الاستقرار مستقل عن المقياس، حيث يمتد باستمرار عبر نطاق تقريبي قدره 2.2 ضعف في طول النص عبر جميع الدقات.
• هيمنة الحمل: أس ي (exponent) تحميل الرموز ($\alpha \approx 5.53$) هو ضعف أس الكثافة البصرية ($a \approx 2.91$) تقريباً، مما يشير إلى أن إجمالي طول النص (كمية المعلومات) هو متنبئ أقوى بالفشل من الكثافة المحلية للحروف.
• القدرة على التعميم: نجح قانون القياس الاحتمالي، بأسس القياس الثابتة المستمدة من DeepSeek-OCR، في التنبؤ بانتقالات الطور في InternVL3.5-8B و Qwen2.5-VL-8B، مما يشير إلى أن هذه الحدود متأصلة في عمليات تجزئة رموز الرؤية القائمة على ViT الحالية.

الأهمية والادعاءات

يدعي البحث أنه يقدم أول دراسة منهجية حول حدود سعة المعلومات لرموز الرؤية. وتتمثل مساهماته الرئيسية في:

1. تحديد "الجدار الصلب": إثبات أن رموز الرؤية لها سعة معلومات محدودة، يتجاوزها التعرف بشكل غير قابل للانعكاس، وهو أمر متميز عن مجرد الضبابية البصرية أو مشاكل المحاذاة.
2. التمييز الآلي: الفصل بين الأخطاء القابلة للانعكاس (الناتجة عن عدم محاذاة شبكة ViT) والأخطاء غير القابلة للانعكاس (الناتجة عن استنفاد السعة).
3. التوجيه العملي: يوفر قانون القياس الاحتمالي المقترح أداة لتقدير أقصى كمية معلومات يمكن أن تتحملها ميزانية رمز الرؤية. وهذا يتيح الاستدلال "المدرك للمحتوى"، حيث يمكن تعديل ميزانيات الرموز أو الدقة ديناميكياً بناءً على كثافة المستند لتحسين المقايضة بين الكفاءة والدقة.

خلص المؤلفون إلى أنه بينما يعد الضغط المتمحور حول الرؤية نموذجاً واعداً لنمذجة السياق الطويل، فإنه مقيد بحدود معلوماتية جوهرية يجب نمذجتها وتحسينها صراحة في بنيات VLM المستقبلية. وتشير الدراسة إلى قيود تتعلق بتركيزها على النصوص الإنجليزية وبنيات ViT، مما يوحي بأن اللغات ذات الكثافة الحرفية الأعلى أو آليات التجزئة المختلفة جذرياً قد تظهر حدود سعة مختلفة.