🤖 machine learning

Interventional Time Series Priors for Causal Foundation Models

تقدم هذه الورقة CausalTimePrior، وهو إطار عمل مبتكر لتوليد نماذج سببية هيكلية زمنية اصطناعية مع بيانات رصدية وتدخلية مقترنة لتمكين تدريب شبكات البيانات المسبقة الملائمة (PFNs) لتقدير الأثر السببي في السياق ضمن السلاسل الزمنية.

المؤلفون الأصليون: Dennis Thumm, Ying Chen

نُشر 2026-03-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Dennis Thumm, Ying Chen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت فائق الذكاء كيف يفهم السبب والنتيجة في العالم الحقيقي.

في الوقت الحالي، لدينا روبوتات بارعة في النظر إلى جداول البيانات الرقمية وتخمين ما سيحدث تالياً (مثل التنبؤ بسعر السهم غداً بناءً على سعر اليوم). لكن هذه الروبوتات سيئة جداً في الإجابة على السؤال: "ماذا سيحدث لو غيرت شيئاً ما؟"

على سبيل المثال، إذا سألت روبوتاً عادياً: "ماذا يحدث لمبيعات الآيس كريم إذا أطفأت مكيف الهواء؟"، فقد يقول لك فقط: "حسناً، عادةً عندما يكون الجو حاراً، يشتري الناس المزيد من الآيس كريم". هو لا يفهم أن قيامك أنت بإطفاء المكيف هو فعل جديد يكسر النمط الطبيعي. إنه لم يتعلم الفرق بين مشاهدة العالم وتغيير العالم.

تقدم هذه الورقة أداة جديدة تسمى CausalTimePrior لحل هذه المشكلة، وتحديداً للأشياء التي تتغير بمرور الوقت (مثل الطقس، أو أسواق الأسهم، أو معدل ضربات القلب).

إليك تفصيل الأمر بكلمات بسيطة:

1. المشكلة: الروبوت لم يرَ قط سيناريو "ماذا لو"

لتعليم الروبوت فهم السبب والنتيجة، تحتاج إلى إظهار أمثلة على التدخلات (Interventions).

الملاحظة (Observation): مشاهدة كرة تتدحرج من فوق تلة.
التدخل (Intervention): ركل الكرة أثناء تدحرجها.

معظم مجموعات بيانات السلاسل الزمنية الموجودة حالياً تشبه لقطات كاميرا المراقبة. هي تريك ما حدث بالفعل، لكنها لا تريك أبداً ماذا كان سيحدث لو قمت بركل الكرة. بدون أمثلة "الركل" هذه، لا يمكن للروبوت تعلم التنبؤ بالمستقبل بعد حدوث تغيير.

2. الحل: "مصنع المحاكاة"

قام المؤلفون ببناء CausalTimePrior، وهو في الأساس مصنع لتصنيع سيناريوهات زمنية مزيفة.

بدلاً من انتظار تجارب حقيقية في العالم الواقعي (والتي قد تكون مكلفة أو خطيرة)، يقوم هذا المصنع بتوليد ملايين من مجموعات البيانات الزمنية الاصطناعية. إنه يصنع نسختين من كل قصة:

النسخة "الطبيعية": كيف يتصرف العالم من تلقاء نفسه.
نسخة "التدخل": ماذا يحدث عندما نفرض تغييراً معيناً (مثل "ماذا لو انخفضت درجة الحرارة فجأة؟").

هذا المصنع مميز لأنه يستطيع إنشاء قصص معقدة للغاية:

غير خطية (Non-linear): الأشياء لا ترتفع وتنخفض في خطوط مستقيمة فحسب؛ بل يمكن أن تنحني، أو تقفز قفزات حادة، أو تتصرف بجنون.
تبديل الأنظمة (Regime-Switching): تخيل سيارة تسير على طريق وفجأة يتحول الطريق إلى مستنقع. قواعد القيادة تتغير هنا. هذا المصنع يمكنه محاكاة تلك التغييرات المفاجئة في القواعد (تبديل الأنظمة).
أنواع مختلفة من "الركلات": يمكنك أن تطلب من المصنع "إيقافاً حاداً" لمتغير ما (إجباره على الصفر)، أو "دفعة ناعمة"، أو تغييره تدريجياً بمرور الوقت.

3. "النموذج التأسيسي" (الطالب)

بمجرد أن يولد هذا المصنع ملايين القصص من نوع "الطبيعي مقابل التدخل"، يتم تدريب نموذج تأسيسي (Foundation Model) (وهو نوع من أنواع الذكاء الاصطناعي، وتحديداً شبكة ملائمة للبيانات المسبقة - PFN) على هذه القصات.

فكر في هذا الذكاء الاصطناعي كأنه طالب طب قرأ ملايين الكتب الطبية (البيانات الاصطناعية) لكنه لم يرَ مريضاً حقيقياً قط.

الاختبار: تعطي الذكاء الاصطناعي مجموعة بيانات حقيقية جديدة لم يرها من قبل.
السؤال: "إليك تاريخ معدل ضربات قلب مريض. الآن، تخيل أننا أعطيناه دواءً معيناً في الساعة 2:00 ظهراً. ماذا سيكون معدل ضربات قلبه في الساعة 2:30 ظهراً؟"
النتيجة: لأن هذا الذكاء الاصطناعي درس سيناريوهات "ماذا لو" في المصنع، يمكنه الإجابة على هذا السؤال دون الحاجة لإعادة التدريب على المريض المحدد. إنه يستخدم "التعلم في السياق" (In-context learning)، مما يعني أنه يستنتج القواعد فورياً، تماماً كما يفعل الخبير البشري.

4. لماذا يهم هذا الأمر (التشبيه)

تخيل أنك تتعلم القيادة.

الطريقة القديمة: تجلس في سيارة وتشاهد فيديو لشخص آخر يقود لمدة 10 سنوات. أنت تعرف كيف تتصرف السيارة عادةً. لكن إذا جلست في السيارة وصاح أحدهم "انعطف يساراً!" (تدخل)، فقد تصاب بالذعر لأنك لم تتدرب على هذا السيناريو المحدد.
الطريقة الجديدة (CausalTimePrior): تقضي 10 سنوات في محاكي قيادة يلقي عليك عقبات عشوائية، ويغير ظروف الطريق، ويجبرك على القيام بانعطافات مفاجئة.
النتيجة: عندما تدخل السيارة الحقيقية أخيراً، لا تحتاج للتدرب على تلك السيارة تحديداً. أنت تعرف بالفعل كيف تتعامل مع مواقف "ماذا لو" لأن تدريبك في المحاكي غطى كل التواء وكل منعطف ممكن.

ملخص إنجازات الورقة البحثية

الأول من نوعه: إنها أول أداة تولد بيانات سلاسل زمنية تتضمن سيناريوهات "المشاهدة" و"التغيير" معاً، بما في ذلك تغيرات القواعد المعقدة (تبديل الأنظمة).
أثبتت نجاحها: قاموا بتدريب ذكاء اصطناعي بسيط على هذه البيانات. وعند اختبارهم على بيانات جديدة لم يروها من قبل، استطاع الذكاء الاصطناعي التنبؤ بنجاح بنتائج التدخلات، مفرقاً بين الأشياء المرتبطة حقاً (سببية) والأشياء التي تتحرك معاً بالصدفة فقط (ارتباط).
المستقبل: هذا يمهد الطريق لـ "النماذج التأسيسية للسببية". في المستقبل، قد يكون لدينا ذكاء اصطناعي ضخم واحد يفهم السبب والنتيجة لأي نظام يعتمد على الوقت (التمويل، المناخ، البيولوجيا) دون الحاجة لإعادة تدريبه لكل مشكلة جديدة.

باخت مختصر: لقد صنع المؤلفون محاكياً للسفر عبر الزمن يعلم الذكاء الاصطناعي الفرق بين مشاهدة العالم وتغييره، لكي يتمكن الذكاء الاصطناعي من تقديم تنبؤات أفضل للمستقبل عندما نتدخل في مساره.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "Interventional Time Series Priors for Causal Foundation Models" المقدمة في مؤتمر ICLR 2026.

1. بيان المشكلة

تتناول الورقة البحثية عقبة حرجة في تطبيق شبكات البيانات المسبقة المتوافقة مع الأنماط (PFNs) — وهي فئة من النماذج التأسيسية القادرة على التعلم داخل السياق — على الاستدلال السببي للسلاسل الزمنية.

الفجوة: بينما حققت نماذج PFN نجاحاً في الاستدلال السببي للبيانات الجدولية (مثل Do-PFN و CausalFM) عبر التدريب على نماذج هيكلية سببية (SCMs) اصطناعية باستخدام بيانات تدخلية، إلا أن هذا النهج لم يمتد ليشمل السلاسل الزمنية.
العائق: توفر معايير قياس السلاسل الزمنية السببية الحالية (مثل CausalTime و TimeGraph و CauseMe) بيانات رصدية مع رسوم بيانية سببية حقيقية، لكنها تفتقر إلى البيانات التدخلية. وبدون أزواج من مجموعات البيانات الرصدية والتدخلية، لا يمكن للنماذج تعلم التنبؤ بالنتائج المضادة للواقع (أي "ماذا سيحدث إذا تدخلنا؟")، وهو جوهر مهمة الاستدلال السببي.
قصور المولدات الحالية: تقتصر المولدات الحالية التي تدعم التدخل (مثل CAnDOIT و TECDI و CaTSG) على التدخلات الثابتة، أو الآليات الخطية، أو الاعتماد على تدريب نماذج توليدية منفصلة (مثل نماذج الانتشار/Diffusion) بدلاً من أخذ العينات التحليلية. ولا يدعم أي منها ديناميكيات تغيير الأنظمة (Regime-switching dynamics) (تغير الهياكل السببية بمرور الوقت) بالتزامن مع أهداف تدخلية متنوعة.

2. المنهجية: CausalTimePrior

يقترح المؤلفون إطار عمل CausalTimePrior، وهو إطار عمل مبدئي لأخذ عينات من النماذج الهيكلية السببية الزمنية (TSCMs) لتوليد سلاسل زمنية رصدية وتدخلية مزدوجة مناسبة لتدريب النماذج التأسيسية.

أ. تعريف النموذج الهيكلي السببي الزمني (TSCM)

يعمل إطار العمل على نمذجة نماذج TSCM ذات زمن منفصل غير حلقية (acyclic) محددة بـ:

الهيكل البياني ( $G$ ): رسم بياني موجه غير حلقي (DAG) يتأخر زمنياً، يتكون من حواف لحظية ( $G_0$ ) وحواف متأخرة ( $G_k$ ) حتى التأخير $K$ .
المعادلات الهيكلية ( $F$ ): آليات ذاتية الانحدار غير خطية حيث $X_t^{(i)} = f_i(Pa(X_t^{(i)})) + \epsilon_t^{(i)}$ .
الضجيج ( $\epsilon$ ): يتم أخذ عينات منه من توزيعات متنوعة (غاوسية، منتظمة، لابلاس).

ب. التوزيع المسبق ( $\Pi$ )

يقوم إطار العمل بأخذ عينات من TSCMs من توزيع مسبق يغطي:

المسبق البياني (Graph Prior): يأخذ عينات من عدد المتغيرات ( $N$ )، والحد الأقصى للتأخير ( $K$ )، واحتمالات الحواف. يتم أخذ عينات من الحواف اللحظية عبر نماذج Erdős-Rényi مع ترتيب طوبولوجي لضمان عدم الحلقية؛ بينما تتلاشى احتمالية الحواف المتأخرة بمرور الوقت.
المسبق الآلي (Mechanism Prior): يدعم وظائف غير خطية متنوعة (sin, cos, tanh, identity, absolute value, square, exponential) مع أوزان وانحيازات عشوائية.
توسعة تغيير الأنظمة (Regime-Switching Extension): ابتكار رئيسي حيث يتغير الهيكل السببي ( $G$ ) والآليات ( $F$ ) بين $R$ من الأنظمة بناءً على سلسلة ماركوف ( $d_t$ ). وهذا يسمح للنموذج بتعلم الاستدلال السببي تحت ظروف الانكسارات الهيكلية.

ج. أنواع التدخلات

يولد إطار العمل بيانات لثلاثة أنواع متميزة من التدخلات، مع تعديل المعادلات الهيكلية وفقاً لذلك:

التدخلات القوية (Hard Interventions - $do$-operator): تضبط $X_t^{(i)} = c$ ، مما يؤدي إلى قطع الحواف الواردة.
التدخلات الناعمة (Soft Interventions): تزعزع الآلية عن طريق إضافة إزاحة $\delta$ إلى المعادلة الهيكلية.
التدخلات متغيرة الوقت (Time-Varying Interventions): تضبط $X_t^{(i)} = c(t)$ ، حيث يتبع $c(t)$ ملفاً ديناميكياً (درجة، منحدر، أو موجة جيبية).

د. مسار توليد البيانات

لكل حالة تدريب:

أخذ عينة من TSCM ( $S$ ) من المسبق.
أخذ عينة من مواصفات التدخل (الأهداف، الأوقات، النوع، القيم).
توليد سلسلة رصدية ( $X_{1:T}^{obs}$ ) عبر المحاكاة الأمامية.
توليد سلسلة تدخلية ( $X_{1:T}^{int}$ ) عبر محاكاة النظام تحت تأثير عامل $do$.
تكوين زوج تدريبي: $(X_{1:T}^{obs}, \text{intervention spec}, Y_{\tau}^{int})$ .

3. المساهمات الرئيسية

إطار عمل CausalTimePrior: أول مولد بيانات اصطناعي للسلاسل الزمنية ينتج بيانات رصدية وتدخلية مزدوجة مع ديناميكيات تغيير الأنظمة.
دعم شامل للتدخلات: يدعم التدخلات القوية، والناعمة، والمتغيرة زمنياً ضمن هياكل سببية متأخرة وغير خطية، متجاوزاً قيود المولدات السابقة.
مسار للنماذج التأسيسية: يثبت أن نماذج PFN المدربة على هذا المسبق يمكنها إجراء تقدير الأثر السببي داخل السياق على نماذج TSCMs محجوزة دون الحاجة لضبط دقيق خاص بالمهمة.
مفتوح المصدر: تم إصدار إطار العمل كمكتبة مفتوحة المصدر لتسهيل الأبحاث المستقبلية في النماذج التأسيسية السببية للسلاسل الزمنية.

4. النتائج التجريبية

قام المؤلفون بتدريب نموذج إثبات مفهوم (proof-of-concept) يعتمد على GRU بطبقتين من نوع PFN على 100,000 من TSCMs المولدة بواسطة CausalTimePrior، وتم تقييمه على 1,000 من TSCMs المحجوزة.

الفهم السببي: نجح النموذج في التمييز بين الاستعلامات السببية وغير السببية.
- الاستعلامات المتدخل فيها: نسبة التنبؤ/الحقيقة هي 0.95 (دقة عالية).
- الاستعلامات اللاحقة (Downstream): نسبة التنبؤ/الحقيقة هي 0.85.
- الاستعلامات غير السببية: نسبة التنبؤ/الحقيقة هي 0.46، مما يشير إلى أن النموذج تنبأ بشكل صحيح بآثار قريبة من الصفر رغم وجود ارتباطات زائفة.
المقارنة مع النماذج المرجعية:
- حقق نموذج PFN خطأً تربيعياً متوسطاً (RMSE) مماثلاً لنموذج (VAR-OLS) المرجعي (176.4 مقابل 176.5)، ولكنه لم يتطلب ضبطاً لكل مجموعة بيانات، بينما يتطلب VAR التدريب على كل مجموعة بيانات جديدة.
- بينما كان نموذج PCMCI+ (الذي يكتشف الرسوم البيانية لكل عينة) يمتلك RMSE أقل، إلا أنه مكلف حاسوبياً وليس متعلمًا داخل السياق.
دراسات الاستئصال (Ablation Studies):
- تنوع التدخلات: أدى التدريب على أنواع مختلطة من التدخلات (قوية، ناعمة، متغيرة زمنياً) إلى تحسين دقة اتجاه الأثر (70.4%) وارتباط الحجم مقارنة بالتدريب على التدخلات القوية فقط.
- البيانات خارج التوزيع (OOD): أظهر النموذج تراجعاً في البيانات خارج التوزيع (رسوم بيانية أكبر/أكثر كثافة، آليات معقدة) ولكنه احتفظ بالقدرة على التمييز بين المسارات السببية وغير السببية.
التعامل مع الارتباط الزائف: في حالات محددة ذات ارتباط سلبي عالٍ ولكن بدون مسار سببي، تنبأ نموذج PFN بشكل صحيح بآثار سببية قريبة من الصفر، بينما فشل VAR-OLS بشكل كبير (خطأ أكبر بـ 177 مرة)، مما يثبت أن النموذج تعلم الهيكل السببي وليس مجرد الارتباط.

5. الأهمية والعمل المستقبلي

الأهمية: يجسّر هذا العمل الفجوة بين النماذج التأسيسية السببية وتحليل السلاسل الزمنية. من خلال توفير طريقة قابلة للتوسع ومنهجية لتوليد بيانات السلاسل الزمنية التدخلية، فإنه يتيح تدريب نماذج يمكنها التفكير في سيناريوهات "ماذا لو" في البيئات الديناميكية دون إعادة تدريب.
الاتجاهات المستقبلية:
- التوسع إلى الديناميكيات المستمرة زمنياً (مثلاً عبر Neural SDEs) للتعامل مع البيانات ذات العينات غير المنتظمة.
- دمج المربكات غير الماركوفية (non-Markovian confounding).
- التصنيف الصريح للموتيفات السببية المعيارية (المربكات، الوسائط، المجمعات/colliders) لتحسين التغطية.
- التحقق من الصحة باستخدام مجموعات بيانات شبه اصطناعية مستمدة من بيانات رصدية.

في الختام، يضع CausalTimePrior خطوة تأسيسية نحو النماذج التأسيسية السببية للسلاسل الزمنية، مما يتيح التعلم داخل السياق للاستدلال السببي في البيئات المعقدة والديناميكية والمتغيرة الأنظمة.