Scalable estimation of VARMA models

تخيل أنك تحاول التنبؤ بالمستقبل، ولكن بدلاً من النظر إلى كرة بلورية، أنت تنظر إلى شبكة متشابكة من الأجزان المتحركة. في عالم علم البيانات، يُطلق على هذا اسم تحليل السلاسل الزمنية (Time Series Analysis). إنه فن النظر في كيفية تغير الأشياء بمرور الوقت—مثل درجة الحرارة في الخارج، أو سعر حذائك الرياضي المفضل، أو عدد الأشخاص الذين يزورون حديقة ما—لتخمين ما سيحدث بعد ذلك. عادةً، لا تتحرك هذه الأشياء بمعزل عن بعضها البعض؛ بل ترقص معاً. فعندما ترتفع درجة الحرارة، تزداد مبيعات الآيس كريم، وعندما تمطر، ترتفع مبيعات المظلات.

لفترة طويلة، امتلك العلماء أداة قوية لنمذجة هذه الرقصات تسمى VARMA (المتوسطات المتحركة ذات الانحدار الذاتي المتجه). فكر في VARMA كمدرب رقص دقيق للغاية يفهم ليس فقط كيف يتحرك الراقص بناءً على حركته بالأمس (الجزء الخاص بـ "الانحدار الذاتي")، ولكن أيضاً كيف يؤثر دفع مفاجئ أو زلة من الماضي على توازن الراقص الآن (الجزء الخاص بـ "المتوسط المتحرك"). ومع ذلك، كانت هناك مشكلة: كان هذا المدرب بطيئاً وخرقاً للغاية. إذا حاولت تعليمه رقصة مع الكثير من الراقصين (متغيرات كثيرة) أو رقصة استمرت لفترة طويلة جداً (بيانات كثيرة)، فسيصاب المدرب بالارتباك، أو يتعطل، أو يستسلم تماماً. كان الأمر يشبه محاولة حل أحجية صور مقطوعة (jigsaw puzzle) ضخمة بينما يستمر شخص ما في هز الطاولة. وبسبب ذلك، استقر معظم الناس على مدرب أبسط وأقل دقة يسمى VAR، والذي ينظر فقط إلى الخطوات الماضية ويتجاهل الزلات والدفعات، لمجرد إنجاز المهمة دون بذل مجهود شاق.

الآن، قام باحثان، دانيال بولين وفيكتور إلفيرا، ببناء نسخة جديدة فائقة السرعة من مدرب الرقص هذا. لقد وجدا طريقة لتعليم نموذج VARMA أن يكون ذكياً مثل النموذج القديم ولكنه سريع مثل النموذج البسيط. فعلا ذلك من خلال تغيير طريقة "تفكير" النموذج في خطوات الرقص. فبدلاً من محاولة حفظ كل خطوة من تاريخ الرقصة بأكملها في كل مرة يضع فيها تخميناً، علماه كيفية تلخيص التاريخ بأكره في بعض "أوراق المرجع" الرئيسية (التي تسمى الإحصاءات الكافية) قبل بدء اللعبة حتى. وبمجرد أن تصبح أوراق المرجع هذه جاهزة، يمكن للنموذج تقديم تنبؤات بسرعة البرق، بغض النظر عن طول مدة الرقصة. كما اخترعا "شبكة أمان" خاصة (إعادة توصيف رياضية) تضمن عدم ارتباك النموذج أو فقدانه لتوازنه، حتى عندما تصبح الرقصة معقدة جداً.

في تجاربهما، اختبرا هذه الطة الجديدة على بيانات من العالم الحقيقي، من التنبؤ بعدد الأشخاص الذين سيشترون الحبوب بناءً على سعرها، إلى توقع أنماط الطقس بالساعة في سنغافورة وجودة الهواء في بكين. كانت النتائج مبهرة: استطاعت طريقتهم الجديدة التعامل مع كميات هائلة من البيانات والعديد من المتغيرات (ما يصل إلى 40 شيئاً مختلفاً في آن واحد) دون أن تتعطل. وكانت في كثير من الأحيان أكثر دقة من الطرق الأبسط التي يستخدمها الناس عادةً، وتمكنت من التقاط تلك "الزلات والدفعات" الصعبة (أجزاء المتوسط المتحرك) التي تغفل عنها النماذج الأبسط. في الواقع، في بعض البيانات الصعبة، كانت الطرق القديمة تفشل تماماً وتعطي إجابات غير منطقية، بينما استمر هذا النهج الجديد في الرقص بشكل مثالي. لقد أثبتا أنه ليس عليك الاختيار بين أن تكون ذكياً وأن تكون سريعاً؛ يمكنك الحصول على كليهما.

الفكرة الكبرى: جعل المستحيل سهلاً

المشكلة الأساسية التي واجهها المؤلفون هي أن نماذج VARMA هي "المعيار الذهبي" للتنبؤ بالأنظمة المعقدة والمترابطة، ولكن من الصعب استخدامها بشكل معروف. تخيل أنك تحاول التنبؤ بالطقس في مدينة حيث تؤثر الرياح والمطر ودرجة الحرارة جميعها على بعضها البعض. قد يقول نموذج بسيط: "إذا أمطرت بالأمس، فستُمطر اليوم". لكن نموذج VARMA يعرف أنه "إذا أمطرت بالأمس وهبت الرياح من الشمال وانخفضت درجة الحرارة، فقد يتوقف المطر اليوم، ولكن فقط إذا كانت الرطوبة عالية". هذا المستوى الإضافي من الفهم يجعل VARMA أكثر دقة، ولكنه أيضاً يجعل الرياضيات ثقيلة للغاية.

لعقود من الزمن، كانت الطريقة الوحيدة لتدريب هذه النماذج هي النظر إلى تاريخ البيانات بأكمله في كل مرة يقوم فيها النموذج بتعديل صغير. إنه يشبه محاولة تعلم أغنية عن طريق قراءة النوتة الموسيقية كاملة من البداية إلى النهاية في كل مرة تخطئ فيها نوتة. إذا كانت الأغنية مدتها 10 دقائق، فهذا جيد. ولكن إذا كانت الأغنية مدتها 10 ساعات، أو إذا كنت تحاول تعلم 50 أغنية في وقت واحد، فستقضي كل وقتك في القراءة وليس في الغناء. جعل هذا نماذج VARMA غير عملية إلا للمشاكل الصغيرة والبسيطة للغاية.

الحل: ثورة "ورقة المرجع"

إن الاختراق الذي حققه بولين وإلفيرا هو إطار عمل جديد يغير قواعد اللعبة. بدلاً من قراءة النوتة الموسيقية كاملة في كل مرة، أدركا أنه يمكنك كتابة ورقة مرجع (ما يسمونه "الإحصاءات الكافية") مرة واحدة فقط في البداية. تلخص ورقة المرجع هذه جميع الأنماط الهامة في البيانات. وبمجرد كتابة ورقة المرجع، يمكن للنموذج التدرب والتحسن دون النظر إلى البيانات الأصلية مرة أخرى.

إليك كيف جعلوا ذلك يعمل:

1. شبكة الأمان (إعادة توصيف الارتباط الذاتي الجزئي): أحد أكبر الصداع مع نماذج VARMA هو أنها يمكن أن تصبح "غير مستقرة" بسهولة. تخيل راقصاً يبدأ في الدوران بشكل أسرع فأسرع حتى يطير خارج المسرح. في لغة الرياضيات، يسمى هذا نقصاً في "الاستقرار" أو "القابلية للانعكاس". لإصلاح ذلك، استخدم المؤلفون حيلة رياضية ذكية تسمى إعادة توصيف الارتباط الذاتي الجزئي. فكر في هذا كوضع الراقص في حزام أمان. مهما حاول الدوران خارج السيطرة، فإن الحزام (الرياضيات) يسحبه بلطف للعودة إلى إيقاع آمن ومستقر. وهذا يعني أن الكمبيوتر لن يضيع الوقت في التحقق مما إذا كان النموذج سوف يتعطل أم لا؛ فهو مضمون الاستقرار بالتصميم.

2. أوراق المرجع (الإحصاءات الكافية): لقد أظهروا أنه لتدريب النموذج، لا تحتاج إلى البيانات الخام (آلاف القراءات اليومية لدرجة الحرارة). تحتاج فقط إلى بعض الأرقام المحسوبة مسبقاً والتي تلخص العلاقات بين المتغيرات. إنه يشبه تلخيص رواية من 500 صفحة في ملخص حبكة من صفحة واحدة. بمجرد حصولك على ذلك الملخص، يمكنك معرفة نهاية القصة دون إعادة قراءة الكتاب. وهذا يسمح للنموذج بالتدرب على مجموعات بيانات ضخمة (مثل سنوات من بيانات الطقس بالساعة) في ثوانٍ، بدلاً من ساعات أو أيام.

3. سحر فوريه (تقييم بارسيفال): لجعل أوراق المرجع أسرع في الاستخدام، استخدموا تقنية من معالجة الإشارات تسمى تحويل فوريه (أو مبرهنة بارسيفال). تخيل محاولة عد كل حبة رمل على الشاطئ. سيستغرق الأمر وقتاً طويلاً. ولكن إذا استطعت تحويل الرمل إلى موجة وقياس ارتفاع الموجة، فيمكنك معرفة إجمالي كمية الرمل فوراً. تتيح هذه الحيلة الرياضية للنموذج حساب الأنماط المعقدة بشكل أسرع بكثير، مما يجعل من الممكن استخدام "ذاكرة" طويلة جداً (النظر بعيداً في الماضي) دون إبطاء العملية.

ماذا وجدوا: السرعة تلتقي بالدقة

اختبر المؤلفون طريقتهم الجديدة على ثلاثة تحديات مختلفة تماماً من العالم الحقيقي لمعرفة ما إذا كانت ستعمل بالفعل.

• اختبار التجزئة (بيانات دومينيك): حاولوا التنبؤ بعدد الوحدات من الطعام (مثل الحبوب والحساء) التي سيشتريها الناس، بناءً على السعر. هذه مشكلة VARMAX لأنها تتضمن عاملاً خارجياً (السعر) يؤثر على المبيعات. أظهرت النتائج أن تضمين جزء "المتوسط المتحرك" من النموذج كان أمراً حاسماً. النماذج الأبسط التي تجاهلت "الزلات والدفعات" من الماضي كانت أقل دقة بكثير. توقعت الطريقة الجديدة المبيعات بشكل شبه مثالي، بينما عانت الطرق القديمة أو فشلت تماماً عندما أصبحت البيانات معقدة للغاية.

• اختبار الطقس (سنغافورة): نظروا في 11 متغيراً مختلفاً للطقس (درجة الحرارة، الرطوبة، الرياح، إلخ) تم تسجيلها كل ساعة. الطقس له دورة يومية قوية (يكون حاراً خلال النهار، وبارداً في الليل). نجحت الطريقة الجديدة، التي تضمنت ميزة "موسمية" خاصة، في التقاط هذا الإيقاع اليومي بشكل جميل. لقد استخدمت معاملات أقل بكendo (رياضيات أبسط) للحصول على نفس النتائج أو أفضل من النماذج المعقدة غير الموسمية. كان الأمر يشبه العثية على طريق مختصر يؤدي إلى نفس الوجهة ولكن يستهلك طاقة أقل.

• اختبار جودة الهواء (بكين): حللوا مستويات الأوزون في 12 محطة مراقبة مختلفة. هذه البيانات فوضوية ومترابطة. هنا، اختبروا اعتقاداً شائعاً: وهو أن النماذج "الخفيفة/المتباعدة" (التي تحاول تجاهل معظم الاتصالات والاحتفاظ بالكبيرة منها فقط) هي الأفضل للبيانات المعقدة. ومن المثير للدهشة، وجدوا أن النماذج الكثيفة (التي تحتفظ بجميع الاتصالات، حتى الصغيرة منها) كانت في الواقع أفضل. كانت إشارة جودة الهواء موزعة عبر العديد من الاتصالات الصغيرة، وتجاهلها جعل التوقعات أسوأ. تفوقت طريقتهم الجديدة، التي تتعامل مع كل هذه الاتصالات بكفاءة، على النماذج الخفيفة بفارق كبير.

الحكم النهائي

تثبت الورقة أن نماذج VARMA لم تمت؛ بل كانت تحتاج فقط إلى محرك أفضل. من خلال الجمع بين حزام الأمان، وورقة المرجع، وحيلة سحرية لزيادة السرعة، جعل المؤلفون من الممكن استخدام هذه النماذج القوية على مجموعات بيانات كبيرة ومعقدة كانت خارج النطاق سابقاً.

لقد أثبتوا أنه يمكنك الحصول على نموذج يكون فعالاً إحصائياً (دقيق جداً) وقابلاً للتوسع حاسوبياً (سريع جداً). في اختباراتهم، ظلت الطريقة الجديدة قريبة من "الأوراكل" (التوقع النظري الأمثل) حتى عندما كانت البيانات ضخمة وفوضوية. لقد تفوقت على الأدوات القياسية التي اعتمد عليها الممارسون لسنوات، خاصة في الحالات التي تحتوي فيها البيانات على أنماط معقدة مثل الدورات اليومية أو المحركات الخارجية مثل السعر.

يشير المؤلفون بحذر إلى أنه على الرغم من أن طريقتهم تعد خطوة كبيرة للأمام، إلا أنها ليست عصا سحرية تحل كل المشاكل. لقد أظهروا أنه بالنسبة لأنواع معينة من البيانات، يعمل النهج "الكثيف" بشكل أفضل، بينما بالنسبة لأنواع أخرى، قد يظل النهج "الخفيف" مفيداً. ولكن بالنسبة للبيانات المعقدة والمترابطة والموسمية التي تشكل جزءاً كبيراً من عالمنا الحديث، يقدم هذا الإطار الجديد طريقة لفتح القوة الكاملة لنماذج VARMA أخيراً. إنه يحول أداة كانت يوماً ثقيلة جداً بحيث لا يمكن رفعها إلى أداة خفيفة بما يكفي لحملها في أي مكان، جاهزة لمساعدتنا في فهم والتنبؤ بالرقصات المعقدة لعالمنا.