ملخص تقني: التدريب الواعي بالاستدلال للتنبؤ بالسلاسل الزمنية (STRIDE)

1. بيان المشكلة

لقد أرست نماذج التأسيس للسلاسل الزمنية (TSFMs) معايير مرجعية جديدة في التنبؤ العددي من خلال الاستفادة من التدريب المسبق واسع النطاق. ومع ذلك، فإن هذه النماذج تعمل كـ "صناديق سوداء"، حيث تعمل كمجرد أدوات استقراء رياضية تفتقر إلى الاستدلال النوعي. فهي تقرب التوزيع الشرطي $P(Y|X)$ باستخدام التمثيلات العددية المستمرة فقط، مما يجعلها عمياء عن السياق الدلالي، والمتغيرات الخارجية (مثل العطلات، أو التحولات الاقتصادية)، والقدرة على صياغة المنطق التنبئي.

في المقابل، يؤدي التطبيق المباشر لنماذج اللغات الكبيرة (LLMs) على التنبؤ بالسلاسل الزمنية إلى إدخال "فجوة نمطية" كبيرة. فإجبار الإشارات الزمنية المستمرة على المرور عبر أجهزة ترميز النصوص المنفصلة (discrete tokenizers) يؤدي إلى تفتيت القيم العددية، مما يضعف الدقة الرياضية ويؤدي إلى انفجار في طول التسلسل، وهو ما يتسبب في اختناقات حوسبية وفقدان للمعلومات. وتشير الدراسات الحديثة إلى أن استخدام نماذج اللغات الكبيرة وحدها للتنبؤ غالباً ما يفشل في التفوق بشكل ملموس على نماذج (TSFMs) بسبب هذه القيود الهيكلية.

التحدي الجوهري الذي يعالجه هذا العمل هو كيفية دمج قدرات الاستدلال الدلالي لنماذج اللغات الكبيرة مع الدقة العددية لنماذج (TSFMs) دون التسبب في فقدان المعلومات المرتبط بالترميز المنفصل، أو العبء الحوسبي الناتج عن التوليد العددي ذاتي الانحدار (autoregressive generation).

2. المنهجية: إطار عمل STRIDE

يقترح المؤلفون إطار عمل STRIDE (الاستدلال الاستراتيجي للسلاسل الزمنية المحقون عبر التضمينات المقطرة)، وهو إطار يدمج استدلال نماذج اللغات الكبيرة بشكل أصيل في فضاء التضمين المستمر لنماذج (TSFMs). يتجنب هذا النهج الترميز المنفصل تماماً، وبدلاً من ذلك يستخدم آلية إسقاط كامن عابر للأنماط (cross-modal latent projection).

البنية الأساسية

يتكون إطار العمل من فرعين أساسيين يتم دمجهما عبر إسقاط كامن معمّم:

1. فرع الاستدلال النصي: يقوم نموذج لغوي "طالب" (Student) خفيف الوزن بتوليد استراتيجيات تحليلية.
2. فرع التنبؤ العددي: يقوم نموذج (TSFM) مستهدف (مثل Chronos-2 أو Timer-S1) بإجراء التنبؤ العددي الفعلي.

مسار التدريب

ينقسم عملية التدريب إلى مرحلتين:

المرحلة الأولى: توليد الاستدلال المثالي (خارج الخط - Offline)

• يقوم نموذج لغوي "معلم" (Teacher) قوي (مثل Gemini-3.1-Pro) بتوليد استدلال "مثالي" ($R_{ref}$) عالي الجودة وخطوة بخطوة.
• يستخدم هذا التوليد السياق التاريخي ($X$)، والحقيقة الأرضية المستقبلية الزائفة ($Y$)، والأحداث الخارجية المسترجعة ($E$) لإنشاء أثر استدلالي ملموس ومنظم يفصل الاتجاهات المتوقعة، والموسمية، والآثار المتبقية.

المرحلة الثانية: التحسين المشترك (أثناء التشغيل - Online)

• تقطير الاستدلال: يتم تدريب نموذج لغوي "طالب" خفيف الوزن لتوليد رؤى تحليلية مكافئة ($\hat{R}$) باستخدام السياق التاريخي ($X$) فقط ومسودة استدلال أساسية، دون الوصول إلى الحقيقة الأرضية المستقبلية.
• الإسقاط الكامن العابر للأنماط: بدلاً من تمرير رموز نصية إلى المتنبئ، يستخرج إطار العمل حالات التخفي المستمرة (continuous hidden states) المجمعة عبر المتوسط ($h_R$) من النموذج اللغوي الطالب. يتم إسقاط هذه الحالات عبر مصفوفة خطية قابلة للتدريب ($W_{proj}$) إلى نفس أبعاد فضاء تضمين الـ (TSFM) المستهدف، مما يخلق سابق استدلال مستمر ($e_R$).
• الدمج الكامن: يتم دمج سابق الاستدلال ($e_R$) مع تضمينات السلسلة الزمنية الأصلية ($E_{TS}$) باستخدام عامل معمّم (إما عبر سوابق التسلسل أو استبدال الحالة الأولية).
• دالة الخسارة المشتركة: يتم تحسين المسار بأكمله بشكل طرفي (end-to-end) باستخدام هدف مشترك:
  $$L_{total} = \alpha L_{CE} + \beta L_{Quantile}$$
  حيث تمثل $L_{CE}$ خسارة الإنتروبيا المتقاطعة لتوليد الاستدلال النصي، وتمثل $L_{Quantile}$ خسارة المئينات (quantile loss) للتنبؤ العددي.

الاستدلال

أثناء التقييم، يقوم النموذج اللغوي الطالب بتوليد استدلال دلالي صريح ($\hat{R}$)، ويتم إسقاط حالاته الخفية في آن واحد إلى نموذج (TSFM). يقوم (TSFM)، بناءً على هذا التوجيه الاستراتيجي المحقون، بإخراج المئينات المستقبلية. وهذا يسمي النظام بإنتاج استدلال قابل للتفسير بشرياً وتنبؤات عددية مستمرة في تمريرة أمامية واحدة.

3. المساهمات الرئيسية

يوضح البحث ثلاث مساهمات رئيسية:

1. إطار عمل جديد عابر للأنماط: يستخدم STRIDE آلية إسقاط كامن معممة لحقن استدلال نماذج اللغات الكبيرة مباشرة في فضاءات تضمين (TSFMs). يتجاوز هذا الأمر عنق زجاجة الترميز المنفصل، مما يحافظ على الدقة الرياضية مع تمكين التوجيه الدلالي.
2. مسار تقطير الاستدلال: يتيح إطار العمل لنموذج لغوي "طالب" خفيف الوزن توليد استراتيجيات تحليلية عالية الجودة ومستندة إحصائياً باستخدام السياق التاريخي الصرف، والمقطرة من نموذج "معلم" لديه إمكانية الوصول إلى الحقيقة الأرضية المستقبلية.
3. أداء عددي واستدلالي متفوق: أظهر إطار العمل أداءً رائداً (state-of-the-art) في كل من دقة الأرقام ومعايير جودة الاستدلال، حيث يعمل كتحسين قابل للتركيب (plug-and-play) ومستقل عن النموذج.

4. النتائج التجريبية

تم تقييم إطار العمل على اثنين من الاختبارات المعيارية واسعة النطاق: GIFT-Eval (للدقة العددية) و TFRBench (للتعميم وجودة الاستدلال).

أداء التنبؤ العددي

• GIFT-Eval: حقق STRIDE نتائج رائدة بمعدل خطأ مطلق مقياس (MASE) قدره 0.674 ودرجة تصنيف مستمر (CRPS) قدرها 0.454، متفوقاً على نماذج (TSFMs) الرائدة مثل Chronos-2 و Timer-S1. أدى دمج STRIDE مع Timer-S1 إلى تقليل MASE الخاص به من 0.693 إلى 0.674.
• TFRBench:
  • داخل النطاق (In-Domain): حقق متوسط MASE قدره 0.615، متفوقاً على أفضل خط مرجعي (Chronos-2.0 بنسبة 0.765).
  • خارج النطاق (Out-of-Domain): حقق متوسط MASE قدره 0.724، متفوقاً على أفضل خط مرجعي (Chronos-2.0 بنسبة 0.778).
  • حقق إطار العمل تحسيناً مستمراً لمختلف نماذج (TSFMs) (مثل Chronos-2 و Timer-S1) عبر مختلف الإعدادات.

أداء الاستدلال

تم التقييم عبر بروتوكول "النموذج اللغوي كحكم" (LLM-as-a-Judge) على TFRBench عبر أربعة مقاييس (الصلة بالمجال، صحة التنبؤ، الصلة بالحدث، والاتساق بين المنطق والأرقام):

• حقق STRIDE باستمرار أعلى الدرجات المتوسطة عبر كل من إعدادات داخل النطاق وخارج النطاق.
• أظهر "اتساقاً فائقاً بين المنطق والأرقام"، مما يضمن أن السرد المولد يتوافق بدقة مع التنبؤ العددي، متجنباً الهلوسة الشائعة في نماذج التنبؤ التي تعمل بنمط (zero-shot).
• أكدت دراسات الاستئصال (Ablation studies) أن مكاسب الأداء قوية عبر مختلف النماذج الطلاب (مثل Gemma-3-4B-it و Qwen3-4B-Instruct) والنماذج المعلمين (مثل Gemini-3.1-Pro و Claude-Sonnet-4.5).

5. الأهمية والادعاءات

يزعم المؤلفون أن STRIDE يجسّر الفجوة بين الاستدلال النوعي والتنبؤ العددي المستمر بشكل جوهري. من خلال معاملة استدلال نماذج اللغات الكبيرة كإشارة تحكم محقونة في الفضاء الكامن، فإن إطار العمل:

• يقلل من التباين التنبئي: تشير التحليلات النظرية إلى أن حقن سوابق الاستدلال يساعد في عزل النمط المستقبلي الحقيقي من بين مسارات متعددة محتملة، مما يقلل من تباين التنبؤ.
• يوفر قابلية تفسير متأصلة: على عكس طرق التفسير اللاحقة (مثل SHAP)، ينتج STRIDE "تفسيراً متأصلاً" من خلال إنتاج آثار استدلال لغوية طبيعية تشرح لماذا تم اتخاذ التنبؤ، استناداً إلى التبعيات عبر القنوات والأحداث.
• يحل الفجوة النمطية: من خلال فصل الأنماط — باستخدام الحالات الخفية المستمرة للمتنبئ والإنتاج النصي للاستدلال — يتجنب إطار العمل التدهور الرياضي الناتج عن ترميز السلاسل الزمنية العددية.

يخلص البحث إلى أن STRIDE يعمل كتحسين قوي وقابل للتركيب (plug-and-play) للبنى التأسيسية، مما يزود أدوات الاستقراء العددي "الصندوق الأسود" بقدرات التخطيط الاستراتيجي والاستدلال القابل للتفسير بشرياً، وهو أمر بالغ الأهمية للنشر المسؤول في المجالات عالية المخاطر.