🤖 machine learning

The Predictive-Causal Gap: An Impossibility Theorem and Large-Scale Neural Evidence

تُرسخ هذه الورقة البحثية "فجوة تنبؤية-سببية" هيكلية باعتبارها مبرهنة استحالة تُثبت أن تقليل خطأ التنبؤ في الشبكات العصبية يتسبب بشكل منهجي في جعل النماذج تشفر ديناميكيات البيئة بدلاً من البنية السببية للنظام المستهدف، مما يؤدي إلى فشل كارثي في التعميم خارج نطاق التوزيع.

المؤلفون الأصليون: Kejun Liu

نُشر 2026-05-07

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Kejun Liu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت فهم آلة معقدة، مثل محرك سيارة. هذه الآلة تتكون من جزأين: المحرك (وهو "النظام" الذي تهتم به) والطقس في الخارج (وهو "البيئة").

هدف الروبوت هو التنبؤ بما سيحدث لاحقاً. تجادل الورقة البحثية بأنه إذا أخبرت الروبوت فقط: "قلل أخطاء تنبؤك إلى أدنى حد"، فإنه سيفشل في تعلم خصائص المحرك. بدلاً من ذلك، سيصبح مهووساً بالطقس.

إليك تفصيل نتائج الورقة البحثية بأسلوب مبسط:

١. مشكلة "الهدف السهل"

تخيل أن المحرك شيء جامح ومضطرب يتغير رأيه كل ثانية. أما الطقس في الخارج، فهو بطيء ومستقر؛ إذ يستغرق وقتاً طويلاً ليتغير.

إذا طلبت من طالب التنبؤ بالمستقبل، فسوف يركز بشكل طبيعي على الشيء الأسهل في التخمين. الطقس يمكن التنبؤ به؛ أما المحرك فهو فوضوي. لذا، فإن الطالب (الذكاء الاصطناعي) سيتعلم نموذجاً مثالياً للطقس ويتجاهل المحرك تماماً.

تطلق الورقة البحثية على هذا اسم الفجوة التنبؤية-السببية (Predictive-Causal Gap). إن الذكاء الاصطناعي يفعل بالضبط ما طلبته منه (التنبؤ بالمستقبل بدقة)، لكنه يجيب على السؤال الخاطئ. إنه يتتبع البيئة، وليس النظام الذي كنت تريد منه فهمه بالفعل.

٢. "الإجابة الخاطئة" هي في الواقع "الإجابة الصحيحة"

قد تعتقد: "ربدما يحتاج الذكاء الاصطناعي فقط إلى قدرة عقلية أكبر أو تدريب أفضل". تقول الورقة البحثية: لا.

لقد أثبت المؤلفون رياضياً أن هذا ليس خطأً أو خللاً برمجياً. بل هو الحل الصحيح للمشكلة التي أعطيتها للذكاء الاصطناعي. إذا كانت البيئة أبطأ أو أقل ضجيجاً من النظام، فإن الطريقة المثالية رياضياً للتنبؤ بالمستقبل هي تجاهل النظام والتركيز على البيئة.

مثال تشبيهي: إذا طلبت من محقق حل جريمة عبر البحث عن الأدلة الأكثر وضوحاً، فسوف يتجاهل الأدلة الدقيقة داخل المنزل ويركز على حركة المرور في الخارج لأن أنماط المرور أكثر وضوحاً. المحقق ليس "سيئاً"؛ هو فقط يتبع التعليمات بدقة شديدة.

٣. النماذج الأكبر تزيد الأمر سوءاً

عادةً، في مجال الذكاء الاصطناعي، نؤمن بأن النماذج الأكبر (بيانات أكثر، قوة حوسبة أكبر) تؤدي إلى فهم أفضل. وجدت هذه الورقة العكس.

عندما جعلوا نماذج الذكاء الاصطناعي أكبر ومنحوها مهاماً أكثر تعقيداً:

أصبحت النماذج أفضل في التنبؤ بالمستقبل (معدلات خطأ أقل).
لكنها أصبحت أسوأ في فهم النظام (أصبحت "عمياء سببياً").

في الاختبارات عالية الأبعاد (حيث تكون البيئة ضخمة)، أصبحت أفضل نماذج الذكاء الاصطناعي مركزة جداً على البيئة لدرجة أنها أصبحت تفتقر تماماً للحساسية تجاه النظام الذي كان من المفترض نمذجه. لقد أصبحت بارعة في التنبؤ بالطقس، لكنها لم تكن تعرف شيئاً عن المحرك.

٤. حل "التجذير" (Grounding)

حاول الباحثون حيلة تسمى التجذير التشغيلي (Operational Grounding). بدلاً من ترك الذكاء الاصطناعي يتنبأ بـ كل شيء، أجبروه على التنبؤ فقط بالأجزاء المحددة من النظام التي تهمه (المحرك).

النتيجة: ساعد ذلك. توقف الذكاء الاصطناعي عن تجاهل المحرك كما كان يفعل.
القصور: لم يحل هذا المشكلة تماماً. فما دام للبيئة تأثير على النظام، فسيظل لدى الذكاء الاصطناعي دافع للنظر إلى البيئة. ولحل المشكلة حقاً، يجب عليك أن تخبر الذكاء الاصطناعي صراحةً: "هذا هو النظام، وهذا هو المحيط. لا تخلط بينهما". يجب عليك رسم خط فاصل وصارم.

٥. لماذا يهم هذا "نماذج العالم" (World Models)؟

تُبنى العديد من أنظمة الذكاء الاصطناعي الحديثة (مثل النماذج اللغوية الكبيرة أو "نماذج العالم") على فكرة أنه إذا تنبأت بالكلمة التالية أو الإطار التالي للفيديو بشكل مثالي، فسيتعلم الذكاء الاصطناعي "البنية السببية" للعالم (كيف تعمل الأشياء حقاً) بشكل سحري.

تقول هذه الورقة: هذا الافتراض خاطئ.

إذا قمت فقط بتقليل خطأ التنبؤ، فسيتعلم الذكاء الاصطناعي تتبع أي شيء يسهل التنبؤ به، وليس ما هو مهم سببياً. سيصبح بارعاً في الارتباط (ما يحدث معاً) ولكنه فاشل في السببية (ما الذي يسبب ماذا).

ملخص

المشكلة: الذكاء الاصطناعي المدرب فقط على التنبؤ بالمستقبل سيتجاهل الأشياء المعقدة التي تهمك إذا كانت هناك أشياء أبسط وأبطأ (مثل البيئة) يمكنه التنبؤ بها بدلاً منها.
السبب: ليس هذا خطأً برمجياً؛ بل هو قانون أساسي لكيفية عمل التنبؤ. المسار "الأسهل" ليس هو المسار "السببي".
المقياس: جعل الذكاء الاصطناعي أكبر لا يحل هذه المشكلة؛ بل يجعل الذكاء الاصطناعي أفضل في تجاهل الأشياء الصحيحة.
الحل: لا يمكنك "التنبؤ طريقك" نحو الفهم. يجب عليك تحديد ما هو "النظام" صراحةً وتقييد انتباه الذكاء الاصطناعي إليه.

تخلص الورقة إلى أننا حالياً "نصقل الإجابة على السؤال الخاطئ". نحن نبني ذكاءً اصطناعياً بارعاً للغاية في التنبؤ بالضجيج، ولكنه أعمى عن الإشارة الحقيقية.

ملخص تقني: الفجوة التنبؤية-السببية

بيان المشكلة

تتناول الورقة البحثية نمط فشل جوهري في تعلم التمثيل التنبئي، وهو نموذج مهيمن في مجالات تتراوح من نماذج العالم والنماذج الفراغية العصبية إلى النماذج اللغوية الكبيرة (LLMs) المدربة عبر التنبؤ بالرمز التالي. الافتراض السائد هو أن تقليل خطأ التنبؤ في الملاحظات سيؤدي طبيعيًا إلى جعل التمثيل المتعلم يلتقط البنية السببية للنظام الأساسي.

يتحدى المؤلفون هذا الافتراض عبر تعريف "النظام" ( $s$ ) بأنه درجات الحرية التي يهتم بها المنمذج، و"البيئة" ( $e$ ) بأنها جميع المتغيرات الأخرى. ويوضحون أنه عندما تكون أنماط البيئة أبطأ أو أقل ضجيجًا من أنماط النظام، فإن التمثيل التنبئي الأمثل لا يتتبع النظام، بل يتتبع البيئة. تُسمى هذه الظاهرة بـ الفجوة التنبؤية-السببية: وهي تدهور الدقة السببية (نسبة حساسية المشفر المخصصة لدرجات حرية النظام) التي تحدث عند تحسين هدف تنبئي بدلاً من هدف سببي.

المنهجية

يستخدم المؤلفون نهجًا تحليليًا ثلاثي المستويات لتوصيف هذه الفجوة:

البرهان النظري (مبرهنة الاستحالة):
- يثبت المؤلفون المبرهنة 1، التي تؤكد أنه لأي فئة نموذج تحتوي على جميع المشفرات الخطية، توجد ديناميكيات خطية-غاوسية مستقرة حيث يكون كل مُقلل لمخاطر التنبؤ السكانية غير متوافق تمامًا مع الفضاء الفرعي للنظام.
- يوضحون أن مجموعة الديناميكيات التي تظهر هذه الخاصية هي مجموعة مفتوحة وذات قياس إيجابي في فضاء المعلمات، مما يعني أنها ليست حالة استثنائية نادرة، بل هي خاصية عامة.
- تثبت النتيجة 2 أن زيادة سعة النموذج (توسيع فئة النموذج) لا يمكنها حل هذه المشكلة؛ بل يمكنها فقط تقليل المخاطر بشكل أكبر، مما يعزز الالتزام بالمشفر غير السببي (المهيمن بيئيًا).
تجارب خطية-غاوسية واسعة النطاق:
- تم إجراء مسح للمعلمات على 539 تكوينًا من الديناميكيات الخطية-الغاوسية، مما نتج عنه 2,695 عملية تدريب مستقلة باستخدام مشفرات MLP ثنائية الطبقات.
- قاست التجارب الدقة السببية ( $|\partial \phi / \partial s| / (|\partial \phi / \partial s| + |\partial \phi / \partial e|)$ ) وخطأ التنبؤ.
- تم تحليل الامتدادات عالية الأبعاد ( $N=10, 50, 100$ للأنماط البيئية) لاختبار تأثيرات القياس.
التحقق من الديناميكيات غير الخطية:
- تم تدريب متنبئات GRU أحادية الطبقة على متذبذب دوفينج (Duffing oscillator) مقترن ببيئة أورنستين-أولينبيك (Ornstein–Uhlenbeck) خفية.
- تمت مقارنة حالتي تدريب: غير مقيدة (التنبؤ بالحالة الكاملة) والتأسيس التشغيلي (تقييد الخسارة بالملاحظات الخاصة بالنظام فقط).
- تم اختبار المتانة تحت تقييم خارج التوزيع (OOD) في ظل تحولات توزيع البيئة.

النتائج الرئيسية

1. الفشل المنهجي في الأنظمة الخطية

في مسح لـ 160 تكوينًا خطيًا حتميًا، كان المشفر الأمثل المتوافق مع النظام (مشفر نيوزيلندا/NZ) متوافقًا في 25% فقط من الحالات (الحالات القطرية، المنفصلة).
في 75% من الحالات (أي اقتران غير صفري خارج القطر)، ابتعد المشفر الأمثل عن محور النظام.
تم اختبار تنظيم عنق الزجاجة للمعلومات (IB) ولكن وُجد أنه يفشل؛ حيث اتجه الاتجاه الأمثل للضغط نحو الاتجاه الأمثل للتنبؤ، مما عزز الانحياز البيئي بدلاً من تصحيحه.

2. أدلة الشبكة العصبية

عبر 2,695 عملية تدريب، بلغ متوسط الدقة السببية للمشفر العصبي الأمثل 0.49، مع 2.5% فقط من التكوينات التي تجاوزت 0.70.
حققت الشبكة العصبية خطأ تنبؤ أقل بنسبة 99.3% من المشفر الخطي الأمثل، ومع ذلك، ارتبط هذا التحسن في الأداء التنبئي بتمثيل أبعد عن الترميز السببي.
الانهيار عالي الأبعاد: مع زيادة عدد الأبعاد البيئية ( $N$ ) إلى 100، انهارت الدقة السببية إلى $\sim 10^{-8}$ (صفر فعليًا)، بينما نمت فجوة خطأ التنبؤ بنسبة 92%. أصبح المشفر الأمثل "أعمى سببيًا".

3. التأكيد غير الخطي والتأسيس التشغيلي

في مهام (Duffing–GRU) غير الخطية، تعلمت المتنبئات المهيمنة بيئيًا في 55% من المهام، مقارنة بـ 24% تحت التأسيس التشغيلي.
المتانة خارج التوزيع (OOD): تحت تحولات توزيع البيئة، عانت النماذج غير المقيدة من تضخم وسيط في متوسط مربع الخطأ (MSE) بمقدار 1.82 $\times$ ، بينما ظلت النماذج المؤسسة مستقرة عند 1.00 $\times$ .
تشير الورقة إلى أن التأسيس التشغيلي (تقييد الخسارة بملاحظات النظام فقط) يقلل جزئيًا من الفجوة، لكنه لا يمكنه استعادة الدقة السببية بالكامل دون وجود حد فاصل صريح بين النظام والبيئة في البمارة.

الأهمية والادعاءات

تدعي الورقة أنها حددت الفجوة التنبؤية-السببية كـ حد هيكلي للتعلم، وليس نتاجًا لعملية التحسين، أو مشكلة نقص بيانات، أو مشكلة يمكن حلها عبر التوسع.

قوانين القياس: يجادل المؤلفون بأن قوانين القياس التجريبية (التناقص السلس لقوة القانون مع المعلمات/البيانات) تقيس "الكمية الخاطئة". فهي تقيس تقليل المخاطر التنبؤية، وهو ما قد يصاحبه حركة بعيدًا عن البنية السببية. إن التوسع "يصقل الإجابة على السؤال الخاطئ".
أهداف التعلم الذاتي: الفشل متأصل في أي هدف يحسب الخسارة على مساحة ملاحظات غير مقسمة. سواء تم استخدام الترميز التلقائي المقنع، أو بنى التضمين المشترك التنبؤي (JEPA)، أو التعلم التبايني، فإن غياب التمييز الصريح بين النظام والبيئة في دالة الخسية يسمح بظهور مُقللات مهيمنة بيئيًا.
الواجهة التشغيلية: تفترض الورقة أن استعادة البنية السببية تتطلب "واجهة تشغيلية" — وهي تحديد درجات الحرية التي تنتمي إلى النظام والمسموح بها كمدخلات للمشفر. يتم تأطير تقنيات مثل RLHF، وضبط التعليمات، والتدريب اللاحق القائم على المكافأة القابلة للتحقق، ليس كطبقات محاذاة، بل كواجهات تشغيلية ضرورية تحول المشكلات التنبؤية غير محددة الحل إلى مشكلات تحديد جيدة التحديد.

في الختام، تؤكد الورقة أن النموذج المدرب للتنبؤ بالخطوة التالية في نظام مركب سيتعلم تتبع ما هو الأسهل تنبؤًا (غالبًا البيئة)، وليس ما هو ذو صلة سببية. ويُوصف هذا بأنه "الإجابة الصحيحة للسؤال الخاطئ".