ملخص تقني: فرضية فيتجنشتاين للتمثيل (The Wittgensteinian Representation Hypothesis)

1. بيان المشكلة

ثمة سؤال جوهري في تعلم التمثيل متعدد الوسائط (multimodal representation learning) وهو: لماذا تتقارب الشبكات العصبية المدربة بشكل مستقل من وسائط مختلفة (مثل الرؤية، السحب النقطية، اللغة) نحو بنيات تمثيلية مشتركة؟ بينما تفترض فرضية بلاتو للتمثيل (PRH) أن هذا التقارب يحدث نحو "بنية إحصائية مشتركة للواقع"، إلا أنها تظل محايدة تجاه اتجاه هذا التقارب والطبيعة المحددة للنقطة النهائية.

تعتمد الأدلة التجريبية الحالية على التقارب حصرياً على مقاييس التشابه المتماثلة (مثل CKA، وmutual kNN، وRSA). وبحكم بنائها، تحقق هذه المقاييس خاصية $s(X, Y) = s(Y, X)$، مما يسمح لها برصد وجود التقارب، لكنه يجعلها عاجزة بنيوياً عن تحديد أين أو في أي اتجاه يتجه هذا التقارب. بناءً على ذلك، ظل السؤال حول ما إذا كان التقارب متبادلاً أم اتجاهياً، وإذا كان اتجاهياً، فأي وسيط يعمل كـ "جاذب" (attractor)، دون فحص.

2. المنهجية

قدم المؤلفون تحليل التقارب الاتجاهي (Directional Convergence Analysis) لمعالجة أوجه القصور في المقاييس المتماثلة.

2.1 مقياس المحاذاة غير المتماثل: CYCLE-KNN

الابتكار المنهجي الجوهري هو تطبيق CYCLE-KNN، وهو مقياس محاذاة غير متماثل بطبيعته، لاستقصاء اتجاه التقارب.

• الآلية: يقوم CYCLE-KNN بحساب المحاذاة عبر دورة أقرب جار ثنائية الخطوات. بالنسبة للتمثيلات $X$ و $Y$، فإنه يجد أقرب $k$ جار لنقطة $i$ في الفضاء $Y$، ثم يجد أقرب $k$ جار لتلك النقاط في الفضاء $X$ مرة أخرى. والنتيجة هي نسبة النقاط $i$ التي تعود إلى نفسها (أو إلى جيرانها الأصليين) بعد هذه الدورة.
• عدم التماثل: المقياس غير متماثل عندما يكون $k \ge 2$. إذا كان $CYCLE\text{-}KNN(X \to Y) > CYCLE\text{-}KNN(Y \to X)$، فهذا يعني أن البنية المجاورة لـ $Y$ أكثر تماسكاً (أكثر إحكاماً) من $X$، مما يجعل عملية العودة أكثر نجاحاً.
• الفجوة الاتجاهية ($\Delta$): يعرّف المؤلفون $\Delta(X, Y) = CYCLE\text{-}KNN(X \to Y) - CYCLE\text{-}KNN(Y \to X)$. ويشير وجود $\Delta$ موجب باستمرار إلى أن $Y$ يعمل كإطار مرجعي أكثر استقراراً (جاذب) لـ $X$.

2.2 الإعداد التجريبي

• النماذج: تقيم الدراسة 58 نموذجاً مستقلاً تم تدريبها أحادية الوسيط تغطي ثلاث وسائط مرتبة وفق تسلسل هرمي للتجريد:
  • السحب النقطية ثلاثية الأبعاد (3D Point Clouds): 7 نماذج (مثل PointMAE، PointBERT، PointGPT).
  • الرؤية ثنائية الأبعاد (2D Vision): 22 نموذجاً (مثل ViT، MAE، DINOv2، DINOv3، CLIP).
  • اللغة (Language): 29 نموذجاً (مثل BLOOMZ، LLaMA، Qwen2.5/3، InternLM).
  • ملاحظة: باستثناء نماذج التحكم عبر الوسائط (CLIP، ReCon++)، لم يتم تدريب أي نموذج على بيانات من وسائط أخرى.
• مجموعات البيانات:
  • WiT: 1,024 زوجاً من الصور والنصوص لمحاذاة الرؤية واللغة.
  • ShapeNet55: كائنات ثلاثية الأبعاد، وصور مُصورة، وأوصاف نصية متطابقة لمحاذاة السحب النقطية والرؤية واللغة.
• التحليل: يحسب المؤلفون $\Delta$ عبر جميع أزواج الوسائط المتقاطعة، مع تحليل كثافة الطبقات، والتوافق داخل الوسيط الواحد، والثبات عبر المقاييس (عدد المعلمات يتراوح من 5.7 مليون إلى 72 مليار).

3. النتائج الرئيسية

3.1 عدم التماثل الاتجاهي

يكشف البحث عن عدم تماثل اتجاهي ثابت كان غير مرئي للمقاييس المتماثلة:

• وسائط الرؤية والسحب النقطية تتقارب نحو اللغة: تتماشى تمثيلات الرؤية والسحب النقطية بشكل ملحوظ نحو اللغة أكثر مما تتماشى اللغة نحوها.
  • $\Delta(\text{Vision} \to \text{Language}) = +0.010$ ($p < 0.05$).
  • $\Delta(\text{Point Cloud} \to \text{Language}) = +0.030$ ($p < 0.01$).
  • $\Delta(\text{Point Cloud} \to \text{Vision}) = +0.046$ ($p < 0.01$).
• القوة (Robustness): هذا عدم التماثل صامد عبر 638 زوجاً من النماذج، و10 عائلات نماذج، وأربعة مراتب من حجم المعلمات. كما أنه ثابت بغض النظر عن اختيار قيمة $k$ (التي اختُبرت من 1 إلى 50).

3.2 التوافق داخل الوسيط الواحد

تظهر النماذج اللغوية أعلى توافق تمثيلي داخل الوسيط الواحد (متوسط CKA = 0.904)، تليها الرؤية (0.857)، ثم السحب النقطية (0.440). هذا الاتفاق العالي بين النماذج اللغوية المدربة بشكل مستقل يشير إلى أنها تشغل حوضاً (basin) عميقاً ومستقراً في الفضاء التمثيلي، وهو ما يتفق مع فرضية "الجاذب".

3.3 الآلية الهندسية: كثافة الميزات

يُفسَّر الاتجاه عبر عدم تماثل كثافة الميزات:

• الإحكام (Compactness): تشغل التمثيلات اللغوية المناطق الأكثر إحكاماً في الفضاء التمثيلي (أدنى متوسط مسافة زوجية $D$)، لا سيما في الطبقات المتوسطة والمتأخرة.
• المسار: تُظهر نماذج الرؤية زيادة رتيبة في الكثافة (تشتت) مع العمق، بينما تتبع النماذج اللغوية مساراً على شكل حرف U مقلوب، حيث تصل إلى أقصى درجات الإحكام عند الطبقات التي تبلغ فيها المحاذاة عبر الوسائط ذروتها.
• الآلية: تسهل الجوارات المدمجة في اللغة عملية "قفزة العودة" في CYCLE-KNN، مما يدفع بالانحياز الاتجاهي المرصود.

3.4 تفسير عنق زجاجة المعلومات (Information Bottleneck)

يفسر المؤلفون هذه النتائج من خلال إطار عمل "عنق زجاجة المعلومات" (IB). بموجب هذا الإطار، يدفع التحسين (optimization) التمثيلات نحو أقصى قدر من ضغط المعلومات غير المتعلقة بالمهمة. وتعمل اللغة الطبيعية، باعتبارها بنية مضغوطة، منفصلة، وتركيبية للتجربة الإدراكية، كهدف ضغط مثالي. ومع قيام النماذج بضغط المعلومات، تتقارب تمثيلاتها طبيعياً نحو الهندسة الهيكلية للغة.

4. فرضية فيتجنشتاين للتمثيل (WRH)

بناءً على هذه النتائج، تقترح الورقة فرضية فيتجنشتاين للتمثيل:

"البنية الدلالية للغة تشكل الجاذب التقاربي (asymptotic attractor) للتقارب التمثيلي متعدد الوسائط."

تفترض هذه الفرضية أنه كلما أصبحت النماذج المستقلة أكثر قوة، فإن تمثيلاتها المتعلمة — بغض النظر عن وسيط المدخلات — تتقارب نحو الهندسة التمثيلية التي تحددها البنية الدلالية للغة. وهذا يعيد صياغة مقولة فيتجنشتاين ("حدود لغتي تعني حدود عالمي") كبيان حول تعلم التمثيل: تفرض اللغة قيوداً هيكلية تحدد الحدود التي تتقارب نحوها جميع التمثيلات الإدراكية تحت ظل التحسين الكافي.

5. الأهمية والادعاءات

يدعي الورقة المساهمات والأهمية التالية:

1. التصحيح المنهجي: حددت الورقة نقطة عمياء منهجية في تعلم التمثيل: الاعتماد الحصري على المقاييس المتماثلة ترك اتجاه التقارب دون فحص. أثبت المؤلفون أن عدم تماثل CYCLE-KNN، الذي كان مصنفاً سابقاً ولكن لم يُحلل، يشفر بنية اتجاهية حاسمة.
2. حل معضلة PRH: بينما أثبتت فرضية PRH أن التقارب يحدث، فإن فرضية WRH تجيب على السؤال: إلى أين يذهب؟ النهاية ليست "بنية إحصائية للواقع" عامة، بل هي بنية محددة، منفصلة، وتركيبية: وهي اللغة.
3. الشمولية: هذه الظاهرة ثابتة عبر المقاييس، وقوية عبر مختلف البنيات (المحولات/Transformers، المشفرات التلقائية/Autoencoders) ونماذج التدريب (التعلم الخاضع للإشراف، التعلم الذاتي، التعلم التبايني)، مما يشير إلى أنها خاصية أساسية لتمثيلات الوسائط وليست مجرد نتاج لأهداف تدريب أو أحجام نماذج معينة.
4. التأسيس النظري: تقدم الورقة تفسيراً مبدئياً عبر إطار عمل "عنق زجاجة المعلومات"، حيث تربط بين الإحكام الهندسي وضغط التجربة الإدراكية في لغة رمزية.

يصرح المؤلفون صراحةً بأن WRH هي فرضية قابلة للتفنيد، وقد تم تأكيدها تجريبياً عبر 58 نموذجاً. كما ينبهون إلى أن هذا يصف نزعة هيكلية في تدريب الشبكات العصبية الحالية، وليس ادعاءً معيارياً بأن اللغة هي التمثيل "الصحيح" أو "الكامل" للواقع، مشيرين إلى المخاطر المحتملة المتعلقة بالتحيزات الثقافية المتأصلة في البيانات اللغوية.