🔬 physics

A quantitative analysis of semantic information in deep representations of text and images

تستخدم هذه الورقة البحثية "عدم توازن المعلومات" (Information Imbalance) لتوضيح أن المعلومات الدلالية تتقارب عبر اللغات والوسائط والبنيات في النماذج العميقة، مما يكشف أن القدرة على التنبؤ تكون في أقوى حالاتها في طبقات مركزية أو نهائية محددة، وأن النماذج الأكبر والمدربة بشكل مستقل يمكن أن تتفوق على النماذج متعددة الوسائط المدربة بشكل مشترك في عملية المحاذاة عبر الوسائط.

المؤلفون الأصليون: Santiago Acevedo, Andrea Mascaretti, Riccardo Rende, Matéo Mahaut, Marco Baroni, Alessandro Laio

نُشر 2026-03-19

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Santiago Acevedo, Andrea Mascaretti, Riccardo Rende, Matéo Mahaut, Marco Baroni, Alessandro Laio

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الفكرة الكبرى: البحث عن "المترجم العالمي" في عقول الذكاء الاصطناعي

تخيل أن لديك شخصين مختلفين: أحدهما يتحدث الإنجليزية فقط، والآخر يتحدث الإيطالية فقط. إذا عرضت عليهما نفس صورة القطة، فكلاهما سيفكر في "قطة". لكن داخل عقولهما، قد تبدو الإشارات الكهربائية التي تعمل مختلفة تماماً.

يطرح هذا البحث سؤالاً رائعاً: هل تبدأ "عقول" نماذج الذكاء الاصطناعي المختلفة (حتى تلك التي تدربت على لغات أو أنواع مختلفة من البيانات) في التفكير بنفس الطريقة في نهاية المطاف؟

يطلق المؤلفون على هذا اسم "فرضية التمثيل الأفلاطوني" (Platonic Representation Hypothesis). الأمر يشبه القول بأن جميع الأنظمة الذكية، في أعماقها، تحاول رسم خريطة للعالم بناءً على مخطط مثالي وغير مرئي واحد. إذا نظرت إلى المكان الصحيح في "عقولهم"، فإن كلمة "cat" بالإنجليزية وكلمة "gatto" بالإيطالية يجب أن تبدوا متطابقتين تقريباً.

لاختبار ذلك، لم يكتفِ الباحثون بالسؤال: "هل هما متشابهان؟" بل سألوا: "من يستطيع التنبؤ بمن؟"

الأداة: "عدم توازن المعلومات" (اختبار الكرة البلورية)

عادةً ما يقيس العلماء التشابه من خلال النظر إلى شيئين جنباً إلى جنب ورؤية مدى تداخلهما (مثل مقارنة بصمتين). لكن المؤلفين استخدموا أداة أكثر ذكاءً تسمى "عدم توازن المعلومات" (Information Imbalance).

فكر في الأمر كأنه كرة بلورية:

إذا عرضت عليك خريطة لمدينة ما (التمثيل أ)، هل يمكنك تخمين كيف يبدو تقرير حركة المرور (التمثيل ب)؟
إذا استطعت التخمين بشكل مثالي، فإن "عدم التوازن" يكون منخفضاً.
إذا لم يكن لديك أدنى فكرة عن شكل تقرير حركة المرور، فإن "عدم التوازن" يكون مرتفعاً.

الأمر الجوهعي هو أن هذا الاختبار أحادي الاتجاه. فربما تساعدك معرفة الخريطة في تخمين حركة المرور، لكن معرفة حركة المرور لا تساعد في تخمين الخريطة. يستخدم هذا البحث هذه الطريقة لمعرفة أي نموذج ذكاء اصطناعي هو "الأذكى" أو الأكثر "إفادة بالمعلومات" من الآخر.

النتائج الرئيسية (تطور القصة)

1. "النقطة المثالية" في المنتصف

نماذج الذكاء الاصطناعي تشبه المباني متعددة الطوابق (الطبقات).

الطابق الأرضي: حيث تدخل البيانات الخام. إنها فوضوية ومحددة (مثلاً: "هذا هو الحرف A").
الطابق العلوي: حيث يعطي النموذج إجابته النهائية (مثلاً: "هذه قطة").
الطوابق الوسطى: وجد المؤلفون أن الطوابق الوسطى هي حيث يحدث السحر. هنا يقوم الذكاء الاصطناعي بتجريد تفاصيل اللغة المحددة والوصول إلى "المعنى" الصافي.

تشبيه: تخيل ترجمة كتاب. الصفحات الأولى الأولى هي مجرد أبجدية. الصفحات الأخيرة هي الخاتمة. لكن الفصول الوسطى هي حيث تعيش القصة الفعلية، بغض النظر عما إذا كان الكتاب بالإنجليزية أو الإيطالية. "معنى" الذكاء الاصطناعي يعيش في المنتة.

2. الإنجليزية هي "ملك" القدرة على التنبؤ

وجدت الدراسة أن التمثيلات الإنجليزية تشبه نسخة أصلية عالية الدقة، بينما اللغات الأخرى تشبه نسخاً أقل دقة.

إذا أخذت النسخة الإنجليزية من جملة ما وحاولت تخمين النسخة الإيطالية، فستقوم بعمل رائع.
إذا أخذت النسخة الإيطالية وحاولت تخمين النسخة الإنجليزية، فستواجه صعوبة أكبر قليلاً.
لماذا؟ لأن الإنجليزية تمتلك بيانات تدريب أكثر على الإنترنت. لقد تعلم الذكاء الاصطناائي الإنجليزية بشكل جيد جداً لدرجة أنها أصبحت "المحور العالمي" لفهم اللغات الأخرى.

3. النماذج الأكبر هي الأفضل في "الترجمة"

قارن الباحثون بين ذكاء اصطناعي ضخم (DeepSeek-V3) وواحد أصغر (Llama3).

تشبيه: تخيل مكتبة ضخمة (DeepSeek) ورف كتب صغير (Llama3).
المكتبة الضخمة يمكنها التنبؤ بما يوجد على رف الكتب الصغير بشكل مثالي.
لكن رف الكتب الصغير غالباً ما يفشل في التنبؤ بما يوجد في المكتبة الضخمة لأنه يفتقر إلى الكثير من الكتب.
الخلاسة: الحجم مهم. النماذج الأكبر تلتقط "المعنى العالمي" بشكل أفضل من النماذج الأصغر.

4. توزيع الثروة (الرموز/Tokens)

عندما يقرأ الذكاء الاصطناعي جملة، فإنه يقسمها إلى قطع تسمى "رموز" (tokens).

الفكرة القديمة: ربما يكمن المعنى الكامل للجملة في آخر كلمة فقط.
الاكتشاف الجديد: لا! المعنى موزع عبر العديد من الكلمات.
تشبيه: إذا أردت فهم نكتة، لا يمكنك قراءة الخاتمة فقط (الرمز الأخير). يجب أن تقرأ التمهيد، والشخصيات، والسياق. يحتاج الذكاء الاصطناعي إلى النظر في متوسط العديد من الكلمات للحصول على الصورة الكاملة.

5. مفاجأة الصور مقابل النصوص

نظر الباحثون أيضاً في كيفية تعامل الذكاء الاصطناعي مع الصور مقابل النصوص.

التوقعات: قد تعتقد أن النموذج المدرب خصيصاً لمطابقة الصور مع النصوص (مثل CLIP) سيكون الأفضل في فهم كليهما.
المفاجأة: نموذجان تم تدريبهما بشكل منفصل (أحدهما للنصوص فقط، والآخر للصور فقط) فهما في الواقع يفهمان بعضهما البعض بشكل أفضل من النموذج الذي تم تدريبه لمطابقتهما معاً!
تشبيه: تخيل شخصين لم يلتقيا أبداً، لكن كلاهما درس نفس الموسوعة. يمكنهما إجراء محادثة رائعة. لكن الشخص الثالث الذي أُجبر على حفظ قائمة محددة من "أزواج الصور والنصوص" واجه في الواقع صعوبة أكبر في ربط النقاط.
لماذا؟ يبدو أنه إذا كان النموذج كبيراً بما يكفي، فإنه يكتشف بشكل طبيعي كيفية ربط الصور والكلمات من تلقاء نفسه. لا تحتاج إلى إجباره على تعلم هذا الاتصال بشكل صريح.

الخلاصة النهائية

يخبرنا هذا البحث أنه رغم كل الاختلافات في كيفية بناء نماذج الذكاء الاصطناعي (لغات مختلفة، أحجام مختلفة، نصوص مقابل صور)، إلا أنها جميعاً تتقارب نحو خريطة عالمية واحدة للمعنى.

أين؟ في الطبقات الوسطى من الشبكة.
كيف؟ من خلال توزيع المعلومات عبر العديد من الكلمات، وليس مجرد كلمة واحدة.
من يفوز؟ النماذج الأكبر واللغة الإنجليزية يميلان لأن يكونا "القادة" في هذه اللغة العالمية.

يشير هذا إلى أن الذكاء، سواء كان بشرياً أو اصطناعياً، يقوم في النهاية بتجريد الضجيج (مثل كلمات محددة أو ألوان بكسلات) للعثور على الهيكل النقي والمشترك للواقع الكامن تحتها.

إليك ملخص تقني مفصل للورقة البحثية بعنوان: "تحليل كمي للمعلومات الدلالية في التمثيلات العميقة للنصوص والصور."

1. بيان المشكلة

تُشفّر نماذج المحولات (Transformer) الضخمة المعلومات في فضاءات عالية الأبعاد. تشير فرضية التمثيل الأفلاطوني (Platonic Representation Hypothesis) إلى أنه مع زيادة أحجام النماذج، تتقارب تمثيلات المدخلات ذات الصلة دلاليًا (مثل ترجمات لنفس الجملة، أو صور لنفس الفئة) نحو بنيات متشابهة، بغض النظر عن بنية النموذج المحدد أو الوسيط (modality).

ومع ذلك، تعاني الطرق الحالية لقياس هذا التقارب من قيود:

التماثل (Symmetry): المقاييس القياسية مثل محاذاة النواة المركزية (CKA) وتداخل الجوار (NO) هي مقاييس متماثلة. فهي تقيس التشابه ولكنها لا تستطيع قياس القدرة التنبؤية الاتجاهية (أي ما إذا كان التمثيل $A$ يحتوي على معلومات عن $B$ أكثر مما يحتوي $B$ عن $A$ ).
التكلفة الحسابية: الإنتروبيا المتقاطعة (Cross-entropy)، وهي المقياس المثالي لفقدان المعلومات، هي عملية غير قابلة للتطبيق حسابيًا في الفضاءات عالية الأبعاد (آلاف الأبعاد).
حبيبية التمثيل (Representation Granularity): من غير الواضح كيف تتوزع المعلومات الدلالية عبر الرموز (tokens) (على سبيل المثال، هل تتركز في الرمز الأخير أم تنتشر عبر التسلسل؟) وكيف تختلف عبر طبقات الشبكة.

تهدف الورقة إلى قياس محتوى المعلومات النسبي بين تمثيلات اللغات والوسائط ونطاقات النماذج المختلفة، مع معالجة عدم تماثل المعلومات (Information Asymmetry) والتوزيع المكاني للمعلومات الدلالية داخل الشبكات العميقة.

2. المنهجية

المقياس الأساسي: عدم توازن المعلومات (Information Imbalance - II)

استخدم المؤلفون عدم توازن المعلومات (II)، وهو مقي de إحصائي قائم على الرتب وغير متماثل، يعمل كبديل فعال حسابيًا للإنتروبيا المتقاطعة في الفضاءات عالية الأبعاد.

التعريف: بالنسبة لفضاءين تمثيليين $X$ و $Y$ ، فإن $\Delta(X \to Y)$ هو متوسط الرتبة المعياري في $Y$ لأقرب الجيران للنقاط في $X$ .
التفسير:
- إذا كان $\Delta(X \to Y) \approx 0$ ، فإن $X$ يتنبأ بـ $Y$ بشكل جيد (الجيران في $X$ هم جيران في $Y$ ).
- إذا كان $\Delta(X \to Y) \approx 1$ ، فإن $X$ لا يوفر أي معلومات عن $Y$ .
- عدم التماثل: $\Delta(X \to Y) \neq \Delta(Y \to X)$ يحدد تدفق المعلومات الاتجاهي (على سبيل المثال، نموذج أكبر يتنبأ بنموذج أصغر).
التحقق من الصحة: أظهر المؤلفون في بيانات غاوسية اصطناعية أن II يتفوق على CKA و NO في الأبعاد العالية، خاصة في اكتشاف الإشارات الضعيفة والعلاقات الاتجاهية حيث تفشل المقاييس المتماثلة.

الإعداد التجريبي

البيانات النصية: جمل متوازية من مجموعة بيانات Opus Books (الإنجليزية مقترنة بالإسبانية، الإيطالية، الألمانية، الفرنسية، الهولندية، المجرية).
بيانات الصور: ImageNet-1k (أزواج من نفس الفئة) و Flickr30k (أزواج صورة-وصف).
النماذج التي تم تحليلها:
- النصوص: DeepSeek-V3 (671 مليار معلمة، MoE)، Llama3 (1B, 3B, 8B).
- الرؤية: DinoV2-large (المشفر)، Image-gpt-large (توليدي تلقائي)، CLIP (مدرب بشكل مشترك).
تجميع التمثيل (Representation Aggregation): تقارن الدراسة ثلاث طرق لتمثيل الجملة:
1. الرمز الأخير فقط.
2. دمج (Concatenation) آخر $T$ من الرموز.
  ως متوسط (Average) آخر $T$ من الرموز.

3. المساهمات الرئيسية والنتائج

أ. توزيع المعلومات الدلالية في النصوص (LLMs)

عمق الطبقة: المعلومات الدلالية ليست مركزة في طبقة واحدة، بل تكون الأكثر قدرة على التنبؤ في الطبقات المركزية (حوالي 40-60% من العمق). هذا "اللب الدلالي" قوي عبر ستة أزواج لغوية.
تجميع الرموز:
- المتوسط مقابل الرمز الأخير: تعطي تمثيلات الرموز المتوسطة عدم توازن معلومات أقل بكثير (قدرة تنبؤية أفضل) من تمثيلات الرمز الواحد أو التجميع بالدمج.
- الاستنتاج: المعلومات الدلالية منتشرة عبر العديد من الرموز في الطبقات العميقة، وليس فقط الرمز النهائي. المتوسط يزيل الضوضاء الموضعية غير ذات الصلة، مما يعزز الإشارة الدلالية.
عدم تماثل المعلومات:
- اللغة: تمثيلات اللغة الإنجليزية أكثر قدرة على التنبؤ باللغات الأخرى بشكل منهجي من العكس، خاصة في الطبقات المبكرة والمتأخرة. تُظهر الطبقات الوسطى أكبر قدر من التماثل (الاستقلال اللغوي).
- حجم النموذج: تمثيلات DeepSeek-V3 (671B) أكثر قدرة على التنبؤ بـ Llama3-8b من العكس. وتتسع هذه الفجوة في النصف الأخير من الشبكة.

ب. توزيع المعلومات الدلالية في الرؤية

الاعتماد على البنية: يعتمد موقع ذروة التركيز الدلالي على هدف التدريب:
- النماذج التوليدية التلقائية (Image-gpt): تبلغ المعلومات الدلالية ذروتها في الطبقات الوسطى (مشابهة لـ LLMs).
- نماذج المشفر (DinoV2): تتركز المعلومات الدلالية في الطبقات النهائية، المصممة لمهام مثل التجزئة (segmentation).
المحاذاة عبر الوسائط (Cross-Modal Alignment):
- الطبقات التي تمتلك أقوى تركيز دلالي داخل الوسيط نفسه (الوسطى للنماذج التوليدية، والنهائية للمشفرات) هي أيضًا التي تحقق أقوى محاذاة عبر الوسائط مع أوصاف النصوص.
- عدم التماثل: تمثيلات النصوص (DeepSeek-V3) هي عمومًا أكثر قدرة على التنبؤ بتمثيلات الصور من العكس.

ج. دور التدريب المشترك مقابل حجم النموذج

نتيجة مفاجئة: حقق نموذجان مدربان بشكل مستقل (DeepSeek-V3 و DinoV2) محاذاة أقوى عبر الوسائط (II أقل) من نموذج CLIP المدرب بشكل مشترك.
الاستنتاج: التدريب التبايني متعدد الوسائط الصريح ليس ضروريًا تمامًا لتحقيق محاذاة قوية. يبدو أن حجم النموذج هو العامل المهيمن؛ حيث قد يتقارب التدريب أحادي الوسيط واسع النطاق طبيعيًا نحو "متشعب دلالي" (semantic manifold) مشترك.
التشبع: زيادة حجم نماذج الرؤية (متغيرات DinoV2) يقلل من II، لكن التحسن يتشبع بمجرد الوصول إلى سعة معينة.

4. الأهمية والخاتمة

تنقيح الفرضية الأفلاطونية: تدعم الورقة فكرة وجود متشعب دلالي مشترك، لكنها توضح أن التقارب هو خاص بالطبقات وغير متماثل. يكون التقارب أقوى في مراحل المعالجة المتوسطة، بينما تحتفظ الطبقات المبكرة/المتأخرة بالميزات الخاصة بالوسيط أو اللغة.
تقدم منهجي: يوفر استخدام "عدم توازن المعلومات" رؤية دقيقة لجودة التمثيل لا تدركها المقاييس المتماثلة (CKA, NO)، وتكشف تحديدًا عن تدفق المعلومات الاتجاهي وتأثير حجم النموذج.
الآثار العملية:
- استخراج التمثيل: للمهام التي تتطلب محاذاة دلالية، يعد استخدام تمثيلات الرموز المتوسطة من الطبقات المركزية أمرًا متفوقًا على استخدام الرمز الأخير.
- تصميم النماذج: تشير النتائج إلى أن الحجم الهائل وحده يمكن أن يدفع نحو التقارب عبر الوسائط، مما قد يقلل من الاعتماد على التدريب المشترك متعدد الوسائط المكلف لمهام المحاذاة المعينة.
- التحيز اللغوي: يسلط عدم التماثل المنهجي الذي يفضل الإنجليزية الضوء على تحيز محتمل في نماذج LLM الحالية، حيث تعمل الإنجليزية كـ "محور" (pivot) ذي قدرة تمثيلية أغنى.

باختصار، تقدم الورقة إطارًا كميًا صارمًا لفهم كيفية ترميز المعلومات الدلالية وتوزيعها ومحاذاتها عبر الوسائط وهياكل النماذج المختلفة، متحديةً مفهوم التقارب الموحد ومسلطةً الضوء على الأدوار الحاسمة لعمق الطبقة، وتجميع الرموز، وحجم النموذج.