On testing for independence between generalized error models of several time series

إليك ملخص تقني مفصل لورقة البحث بعنوان "حول اختبار الاستقلال بين نماذج الخطأ المعممة لعدة سلاسل زمنية" (On testing for independence between generalized error models of several time series) للباحثين كيلاني غودي، وبوشرى ر. نصري، وبرونو ن. ريميرارد.

1. بيان المشكلة

تتناول الورقة التحدي الحرج المتمثل في اختبار الاستقلال الشرطي (conditional independence) بين عدة سلاسل زمنية، لا سيما عندما تظهر هذه السلاسل توزيعات عشوائية متنوعة (خليط من المستمر والمنفصل، أو منفصل تماماً).

• قصور المنهجيات الحالية: ركزت الأدبيات السابقة (مثل Duchesne et al., 2012) بشكل أساسي على السلاسل الزمنية المستمرة، وتحديداً نماذج التقلب العشوائي (Stochastic Volatility - SV). وغالباً ما تفشل الطرق التقليدية التي تعتمد على الارتباطات المتقاطعة (cross-correlations) في اكتشاف التبعيات غير الخطية أو غير الغاوسية. علاوة على ذلك، تواجه الأساليب القائمة على "الكوبولا" (copula) صعوبة مع التوزيعات المنفصلة أو المختلطة لأن تحويل التكامل الاحتمالي (PIT) لا ينتج متغيرات منتظمة مستقلة عندما تكون الهوامش غير متصلة.
• الفجوة: كان هناك نقص في وجود إطار عمل موحد لاختبار الاستقلال في "نماذج الخطأ المعممة" التي تستوعب النماذج ذات التضخم الصفري (zero-inflated)، وبيانات العد (Poisson)، وسلوكيات تغيير الأنظمة (regime-switching) دون افتراض هوامش مستمرة.

2. المنهجية

يقترح المؤلفون منهجية من مرحلتين تعتمد على الابتكارات المعممة (generalized innovations) والعمليات التجريبية (empirical processes).

أ. الابتكارات المعممة (تقنية "العشوائية")

للتعامل مع التوزيعات العشوائية (المنفصلة، المستمرة، أو المختلطة)، عرّف المؤلفون الأخطاء المعممة (أو الابتكارات) $U_t$ باستخدام تقنية العشوائية (Brockwell, 2007; Nešlehová, 2007).

• لتكن $G_t(y) = P(X_t \le y | \mathcal{F}_{t-1})$ هي دالة التوزيع التراكمي (CDF) الشرطية.
• لتكن $V_t \sim U(0,1)$ متغير عشوائي منتظم مستقل.
• يُعرّف الابتكار المعمم كالتالي:
  $$U_t = G_t(X_t-) + V_t \Delta G_t(X_t)$$
  حيث $\Delta G_t(y) = G_t(y) - G_t(y-)$ هو حجم القفزة عند $y$.
• النتيجة: $U_t$ يتبع توزيعاً منتظماً على $(0,1)$، وتحت فرضية الاستقلال الشرطي، يتبع متجه الابتكارات $\mathbf{U}_t$ كوبولا الاستقلال $\Pi$. تعمل هذه التحويلات مع كل من البيانات المستمرة والمنفصلة.

ب. إطار عمل الكوبولا متعدد المتغيرات

يعمل المؤلفون على نمذجة التبعية بين $d$ من السلاسل الزمنية باستخدام معادلة سكلار الشرطية (conditional Sklar's equation):
$$P(X_{1t} \le y_1, \dots, X_{dt} \le y_d | \mathcal{F}_{t-1}) = C_t^{\star} \{G_{1t}(y_1), \dots, G_{dt}(y_d)\}$$
حيث $C_t^{\star}$ هي الكوبولا متعددة الخطية (multilinear copula). فرضية العدم ($H_0$) هي أن $C_t^{\star} = \Pi$ (كوبولا الاستقلال) لجميع قيم $t$.

ج. العمليات التجريبية والنظرية التقاربية

تعتمد إجراءات الاختبار على العمليات التجريبية المتأخرة (lagged empirical processes) المبنية من الملاحظات شبه التجريبية (pseudo-observations/ranks) للأخطاء المعممة.

1. الملاحظات شبه التجريبية: $e_{n,jt} = H_{\hat{\theta},jt}(X_{jt}, V_{jt})$، حيث $\hat{\theta}$ هي المعلمات المقدرة.
2. العمليات التجريبية: يعرّف المؤلفون العمليات $K_{n,\ell}$ و $C_{n,\ell}$ بناءً على الملاحظات شبه التجريبية المتأخرة.
3. تحويلات موبيوس (Möbius Transformations): لتبسيط هياكل التباين وتحسين القدرة (power)، يطبق المؤلفون تحويلات موبيوس على العمليات التجريبية، مع التركيز على مجموعات فرعية من المتغيرات $A \subset \{1, \dots, d\}$ حيث $|A| > 1$.
4. النتائج التقاربية:
   • النظرية 1 والنتيجة 1: تحت فرضية العدم وافتراضات الانتظام المحددة (A0–A6)، تتقارب العمليات التجريبية تقاربًا ضعيفًا نحو العمليات الغاوسية (وتحديداً جسور براون/Brownian bridges).
   • النتيجة الرئيسية: التوزيع النهائي لإحصائيات الاختبار هو خالٍ من المعلمات (parameter-free) ومستقل عن المعلمات المقدرة $\hat{\theta}$ ومتغيرات العشوائية $V_t$. وهذا يسمح باستخدام القيم الحرجة القياسية دون الحاجة لإعادة التقدير.

د. إحصائيات الاختبار

تم اقتراح عدة إحصائيات اختبار بناءً على العمليات التجريبية المحولة:

1. إحصائيات كرامر-فون ميزس (Cramér–von Mises - $S_{n,A,\ell}$): الانحرافات المربعة المتكاملة لعملية كوبولا تجريبية.
2. الارتباطات المتقاطعة المعممة ($\hat{r}_{n,A,\ell}$): مشابهة لارتباطات بيرسون ولكنها تُطبق على الرتب المحولة.
3. مقاييس التبعية: امتدادات لمعامل سبيرمان $\rho$، ومعامل فان دير واردن، ومعامل سافاج.
4. الإحصائيات المركبة ($W_n, F_n, H_n$): لزيادة القدرة ضد مجموعة واسعة من البدائل، يجمع المؤلفون بين الإحصائيات عبر فترات تأخير مختلفة ومجموعات فرعية باستخدام طرق مشابهة لـ Littell and Folks (1973) و Duchesne et al. (2012).

3. المساهمات الرئيسية

1. التوسع ليشمل التوزيعات العشوائية: قامت الورقة بتعميم اختبار الاستقلال من نماذج التقلب العشوائي المستمرة إلى نماذج الخطأ المعممة التي تشمل التوزيعات المنفصلة، والمختلطة، والتوزيعات ذات التضخم الصفري.
2. إطار عمل موحد: توفر الورقة إطاراً نظرياً واحداً (باستخدام العشوائية والكوبولا متعددة الخطية) يتعامل مع السلاسل الزمنية المستمرة والمنفصلة في آن واحد.
3. الدقة النظرية: أثبت المؤلفون أن التوزيعات التقاربية للإحصائيات المقترحة ثابتة تجاه تقدير المعلمات وتجاه خطوة العشوائية، وهي نتيجة غير بديهية للبيانات المنفصلة.
4. التعامل مع البيانات المنفصلة: من خلال إدخال متجه العشوائية $V_t$، نجحت الطريقة في "تنعيم" القفزات المنفصلة، مما سمح بتطبيق نظرية الكوبولا المستمرة على البيانات المنفصلة مع الحفاظ على الخصائص الخالية من التوزيع (distribution-free) تحت فرضية العدم.
5. التنفيذ البرمجي: تم تنفيذ جميع المنهجيات في حزمة IndGenErrors المتاحة على نظام CRAN، مما يجعل المنهجية المعقدة متاحة للممارسين.

4. النتائج

التجارب العددية (دراسة المحاكاة)

• عمليات توليد البيانات (DGPs): قام المؤلفون بمحاكاة بيانات باستخدام نماذج ماركوف المخفية الغاوسية (Gaussian HMM)، ونماذج Poisson HMM، وكوبولا متنوعة (Frank, Gaussian, Clayton, Tent Map) مع هياكل تأخير متفاوتة.
• الحجم والقدرة (Size and Power):
  • تحافظ الاختبارات على المستويات التجريبية الصحيحة (قريبة من 5% الاسمية) حتى مع أحجام العينات الصغيرة ($n=100$).
  • أظهر إحصاء كرامر-فون ميزس ($W_n$) عموماً أفضل أو أقرب قدرة عبر مختلف هياكل التبعية.
  • البيانات المنفصلة مقابل المستمرة: عند كون أحد السلاسل منفصلاً، لوحظ فقدان طفيف في القدرة مقارنة بالحالة المستمرة بسبب خطوة العشوائية. ومع ذلك، تم تخفيف هذا الفقد من خلال المتوسط عبر عمليات عشوائية متعددة ($M > 1$)، مما استعاد القدرة لمستويات تقارب النماذج المستمرة (وإن كان ذلك على حساب فقدان خاصية كونها خالية من التوزيع، مما يتطلب استخدام البوتستراب/bootstrapping).
  • الحساسية للهوامش: كانت الاختبارات القائمة على $W_n$ و $F_n$ قوية تجاه اختيار التوزيعات الهامشية (Gaussian, Exponential, Pareto)، بينما كانت الاختبارات القائمة على الارتباط المتقاطع ($H_n$) أكثر حساسية للهوامش غير الغاوسية.

تطبيقات البيانات الحقيقية

1. البيانات المالية (NASDAQ):
   • البيانات: عوائد لوغاريتمية لأسهم Apple و Intel و Hewlett-Packard.
   • النمذجة: استخدموا نماذج AR-Gaussian HMM (مع تضخم صفري لشركة Intel بسبب العوائد الصفرية).
   • النتيجة: بدون المتغيرات المفسرة، كانت السلاسل تعتمد على بعضها البعض. ومع ذلك، بعد تضمين مؤشر NASDAQ كمتغير مفسر (covariate)، أصبحت الأخطاء المعممة مستقلة شرطياً. وهذا يؤكد أن مؤشر NASDAQ يفسر التبعية المتقاطعة بين هذه الأسهم.
2. بيانات الجريمة (Pittsburgh):
   • البيانات: أعداد جرائم السطو (ROB) وإتلاف الممتلكات (CMIS).
   • النمذجة: استخدموا نماذج INGARCH(1,1) و AR-Poisson HMM.
   • النتيجة: أظهرت السلاسل الخام عدم وجود تبعية معنوية. وبعد ملاءمة النماذج الفردية، ظلت الأخطاء المعممة مستقلة، مما يشير إلى أن السلاسل مستقلة شرطياً بالنظر إلى ماضيها الخاص.
   • سرقة المركبات (MVT): وُجدت تبعية بين السطو (Robbery) وسرقة المركبات (MVT). بعد تطبيق نماذج INGARCH لكل منهما، اختفت التبعية، مما يشير إلى أن النماذج الديناميكية قد استوعبت التبعية المتبادلة.

5. الأهمية

تمثل هذه الورقة تقدماً كبيراً في الاقتصاد القياسي للسلاسل الزمنية والإحصاء من خلال:

• سد الفجوة: توحيد التعامل مع السلاسل الزمنية المستمرة والمنفصلة، وهو سيناريو شائع في الواقع غالباً ما يتم تجاهله لصالح التقريبات المستمرة البحتة.
• القوة التشخيصية: توفر أداة تشخيصية قوية لتحديد ما إذا كان نموذج السلسلة الزمنية متعدد المتغيرات (بما في ذلك المتغيرات المفسرة) قد نجح في استيعاب كافة التبعيات المتقاطعة. إذا رفض الاختبار فرضية الاستقلال، فهذا يشير إلى الحاجة إلى هيكل أكثر تعقيداً أو متغيرات مفسرة إضافية.
• الفائدة العملية: تتيح حزمة IndGenErrors للباحثين تطبيق هذه الاختبارات المتطورة على البيانات المالية، البيئية، والاجتماعية التي تتضمن أنواع بيانات مختلطة (مثل عوائد الأسهم مع وجود تداولات صفرية، أو أعداد الجرائم اليومية).

باختصار، نجح المؤلفون في توسيع نظرية العمليات التجريبية لاختبار الاستقلال لتشمل نطاق نماذج الخطأ المعممة، مقدمين حلاً صارماً ومرناً وقابلاً للتطبيق للتحليل الحديث للسلاسل الزمنية متعددة المتغيرات.