A new recurrent neural network for forecasting seasonal time series
تقدم هذه الورقة شبكة عصبية متكررة مبتكرة مستوحاة من طرق التمهيد الأسي، والتي تستخدم خوارزمية تعلم قائمة على تحسين سرب الجسيمات ودالة هدف جديدة لتحقيق أداء تنبؤي فائق للسلاسل الزمنية الموسمية مقارنة بالشبكات العصبية الاصطناعية العميقة والضحلة الموجودة.
التنبؤ بالسلاسل الزمنية هو علم النظر في تسلسل من الأرقاء التي تتغير بمرور الوقت لتخمين ما سيحدث لاحقاً. فكر في تقرير الطقس الذي يتنبأ بدرجة حرارة الغد، أو مدير متجر يقدر عدد المظلات التي يجب توفيرها للشهر القادم. غالباً ما تتعقد هذه التنبؤات بسبب المواسم؛ فتماماً كما يدفأ الطقس في الصيف ويبرد في الشتاء، فإن العديد من تدفقات البيانات تكرر أنماطاً كل عام، أو كل ربع سنة، أو كل شهر. لعقود من الزمن، استخدم الإحصائيون أدوات رياضية متخصصة للتعامل مع هذه الدورات المتكررة، بينما بنى علماء الحاسوب شبكات عصبية اصطناعية — وهي أنظمة مصممة لمحاكاة الطريقة التي تتعلم بها الأدمغة البشرية من الأمثلة — لإيجال أنماط معقدة في البيانات. وكان التحدي دائماً يكمن في جعل هذه الأنظمة الحاسوبية تفهم إيقاع المواسم دون الحاجة إلى تدخل بشري لتجريد البيانات أولاً إلى عناصرها الأساسية.
لقد طور فريق من الباحثين من جامعة جيريسون في تركيا وكينجز كوليدج لندن في المملكة المتحدة نوعاً جديداً من الأنظمة الحاسوبية المصممة خصيصاً لحل هذه المشكلة. فقد ابتكروا شبكة عصبية متكررة جديدة، وهي نوع من الذكاء الاصطناعي يمكنه تذكر الأحداث الماضية لتوجيه التخمينات المستقبلية، ولكن مع لمسة فريدة. فبدلاً من إجبار الحاسوب على تعلم الموسمية من الصفر أو مطالبة البشر بتنظيف البيانات أولاً، قام الباحثون ببناء مفهوم التكرار الموسمي مباشرة داخل بنية الآلة. صُمم نظامهم لينظر إلى ما حدث في مثل هذا الوقت من العام الماضي، تماماً كما يفعل خبير الأرصاد الجوية البشري، ويستخدم تلك الذاكرة لإجراء تنبؤ.
اختبر الباحثون نظامهم الجديد على ست مجموعات مختلفة جداً من البيانات الواقعية لمعرفة ما إذا كان بإمكانه التفوق على الأساليب الحالية. شملت هذه البيانات عدد مسافري الخطوط الجوية الدولية المسجل شهرياً على مدار عقد من الزمن، واستهلاك البيرة الربع سنوي في أستراليا، ومستويات تلوث الهواء الشهرية في أنقرة، واستهلاك الكهربات الوطني في تركيا، وقراءات الضغط الجوي ودرجة الحرارة المحلية من مدينة جيريسون. وفي كل حالة، أثبتت الشبكة الجديدة أنها أكثر دقة من أدوات التنبؤ الشهيرة الأخرى، بما في ذلك نماذج التعلم العميق المعقدة مثل شبكات الذاكرة الطويلة قصيرة المدى (LSTM) والشبكات المتكررة الأبسط. لقد أنتج النظام الجديد باستمرار أصغر الأخطاء عند التنبؤ بالخطوة التالية في البيانات.
ما يجعل هذه الشبكة الجديدة مختلفة هو كيفية بنائها. فغالباً ما تعامل النماذج الحاسوبية التقليدية كل قطعة من البيانات الماضية كأنها متساوية في الأهمية، سواء كانت بالأمس أو قبل عشر سنوات. ومع ذلك، في مجال التنبؤ، فإن ما حدث مؤخراً عادة ما يكون أكثر أهمية للتنبؤ بالمستقبل القريب. وقد حل الباحثون هذه المشكلة عبر منح الحاسوب طريقة جديدة لقياس أخطائه؛ حيث برمجوا النظام ليعير اهتماماً أكبر بكثير للأخطاء الأخيرة التي ارتكبها، بدلاً من الأخطاء القديمة. هذا النهج، الذي يسمون به "قياس الخطأ الموزون"، يوجه الحاسوب لضبط إعداداته الداخلية ليكون أكثر حساسية للاتجاهات الحالية. علاوة على ذلك، يستخدم النظام طريقة تعلم مستوحاة من كيفية بحث سرب من الطيور عن الطعام، مما يسمه باستكشاف احتمالات عديدة في آن واحد لإيجاد الحل الأفضل، بدلاً من العلوق في فخ محلي.
كما قدمت الدراسة استراتيجية محددة لمنع الحاسوب من "الإفراط في تعلم" البيانات الماضية، وهي مشكلة حيث يحفظ النموذج التاريخ بشكل جيد جداً لدرجة تجعله يفشل في التنبؤ بالمستقبل. ومن خلال استخدام تقنية توقف عملية التدريب في اللحظة المناسبة تماماً وتقوم أحياناً بإعادة ضبط البحث إذا تعثر، ضمن الباحثون بقاء النظام مرناً. وعندما اختبروا شبكتهم الجديدة مقابل الأساليب الأخرى ثلاثين مرة منفصلة لضمان أن النتائج لم تكن مجرد ضربة حظ، قدم النظام الجديد باستمرار أكثر التنبؤات استقراراً ودقة. وكان الفرق في الأداء واضحاً للغاية لدرجة أن الاختبارات الإحصائية أكدت أن الطريقة الجديدة متفوقة حقاً، وليست مجرد ضربة حظ.
يمثل هذا العمل خطوة مهمة للأمام في كيفية تعامل الآلات مع البيانات الموسمية. فمن خلال دمج منطق التنعيم الموسمي مباشرة في بنية الشبكة العصبية، خلق الباحثون أداة لا تحتاج إلى معالجة مسبقة للبيانات أو تبسيطها قبل أن تتمكن من التعلم. يتعلم النظام إيقاع المواسم من تلقاء نفسه، جامعاً بين مرونة الذكاء الاصطناعي الحديث ومنطق التنبؤ التقليدي المثبت. وتشير النتائج إلى أنه لأي شخص يحاول التنبؤ بأي شيء يتبع نمطاً موسمياً، من الطلب على الطاقة إلى ظروف الطقس، فإن هذا النهج الجديد يوفر طريقة أكثر موثوقية ودقة لاستشراف المستقبل.
ملخص تقني: شبكة عصبية متكررة جديدة للتنبؤ بالسلاسل الزمنية الموسمية
بيان المشكلة يتطلب التنبؤ بالسلاسل الزمنية الموسمية نماذج متخصصة قادرة على التعامل مع الهياكل الدورية. وبينما تعد الأساليب الإحصائية مثل (SARIMA) والتنعيم الأسي (ETS) معايير تقليدية، وتوفر الشبكات العصبية الاصطناعية (ANNs) قدرات النمذجة غير الخطية، إلا أن مناهج الشبكات العصبية الاصطناعية الحالية غالبًا ما تعتمد على تقنيات تفكيك خارجية أو تكتفي بتضمين متغيرات متأخرة كمدخلات لالتقاط الموسمية. ويشير المؤلفون إلى أن الشبكات العصبية الاصطناعية القياسية لا تستخدم بطبيعتها منطق التنعيم الأسي، حيث يمكن للتغذية الراجعة من توقعات النموذج أن تعزز الأداء. علاوة على ذلك، فإن التعلم التقليدي القائم على التدرج في الشبكات العصبية الاصطناعية عرضة للوقوع في القيم المثلى المحلية، كما أن مقاييس الخطأ القياسية (مثل MSE) تعامل جميع الأخطاء التاريخية بالتساوي، مما قد يؤدي إلى إهمال الأهمية البالغة للملاحظات الأخيرة في عملية التنبؤ.
المنهجية تقترح الورقة البحثية شبكة عصبية اصطناعية متكررة (RNN) مبتكرة مصممة خصيصًا لنمذجة الديناميكيات الموسمية دون الحاجة لتفكيك مسبق للبيانات. وقد تم تحديد بنية الشبكة وعملية التعلم كما يلي:
بنية الشبكة: تتكون الشبكة المقترحة من مسارين تشغيليين متميزين يتم دمجهما بواسطة معامل دمج (β):
توبولوجيا الخلايا العصبية التلافيفية (Convolutional Neuron Topology): يعالج هذا المكون عدد p من الملاحظات المتأخرة (xt−j) باستخدام أوزان وانحيازات، مدمجة مع دالة تنشيط لوجستية لإدخال اللاخطية.
التنعيم المتكرر الموسمي (Seasonal Recurrent Smoothing): يحاكي هذا المكون منطق التنعيم الأسي. فهو يأخذ المدخلات الحالية والمتأخرة موسمياً (xt−1 و xt−s) ويدمج التغذية الراجعة من مخرجات الشبكة التاريخية (x^t−1 و x^t−s). يستخدم هذا المسار معاملات تنعيم (α1,α2) وعامل وزن (α3) لنمذجة مستويات المكونات والمكونات الموسمية. المخرج النهائي هو مجموع مرجح لهذين المسارين.
خوارزمية التعلم (PSO): لتجنب فخاخ القيم المثلى المحلية الشائعة في الطرق القائمة على التدرج، تم تحسين بارامترات الشبكة (الأوزان، الانحيازات، معاملات التنعيم، وعوامل الدمج) باستخدام تحسين سرب الجسيمات (PSO).
دالة الهدف: تم تقديم دالة هدف جديدة، وهي متوسط مربع الخطأ الموزون (WMSE). وبخلاف (MSE) القياسي، يقوم (WMSE) بتعيين أوزان أعلى أسياً للملاحظات الأخيرة، مما يعطي الأولوية لدقة أحدث نقاط البيانات.
استراتيجيات التدريب: تستخدم عملية التدريب آلية التوقف المبكر (early stopping) لمنع الإفراط في التخصيص (overfitting)، واستراتيجية إعادة التشغيل الديناميكي (dynamic restarting strategy) لإعادة تهيئة السرب في حال ركود عملية التحسين، مما يضمن البحث عن القيمة المثلى العالمية.
الإعداد التجريبي: تم تقييم النموذج على ستة مجموعات بيانات متنوعة للسلاسل الزمنية الموسمية:
مسافرين دوليين (لوغاريتمي) (شهري، s=12).
استهلاك البيرة الأسترالي (ربع سنوي، s=4).
تلوث الهواء في أنقرة (SO2) (شهري، s=12).
استهلاك الكهرباء في تركيا (شهري، s=12).
الضغط الجوي في مدينة جيريسون (شهري، s=12).
درجة الحرارة في مدينة جيريسون (شهري، s=12).
تمت مقارنة أداء النموذج مع نماذج (LSTM)، و(Pi-Sigma Artificial Neural Network - PS-ANN)، و(Simple Recurrent Neural Network - SRNN). وقد خضع كل نموذج لضبط المعلمات الفائقة عبر مجموعة تحقق، وتم تقييم الأداء النهائي على مجموعة اختبار عبر 30 تشغيلًا مستقلاً لضمان الموثوقية الإحصائية.
النتائج الرئيسية عبر جميع مجموعات البيانات الست، أظهرت الشبكة المقترحة أداءً تنبؤيًا فائقًا مقارنة بالنماذج المرجعية:
الدقة: حققت الطريقة المقترحة باستمرار أدنى متوسط لجذر متوسط مربع الخطأ (RMSE) في مجموعات الاختبار. على سبيل المثال، في مجموعة بيانات مسافري الطيران، حققت متوسط RMSE قدره 0.089 مقارنة بـ 0.271 لـ (LSTM) و0.317 لـ (SRNN).
الاستقرار: أظهرت الشبكة المقترحة انحرافات معيارية أقل بكثير في مقاييس الخطأ عبر الـ 30 تشغيلًا، مما يشير إلى قوة أكبر ضد التهيئة العشوائية مقارنة بالأداء المتقلب لـ (SRNN) و(PS-ANN).
الدلالة الإحصائية: أُجريت اختبارات "ويلكوكسون" للرتب الموقعة (Wilcoxon signed-rank tests) غير معلمية لمقارنة توزيعات الأخطاء. وأسفرت النتائج عن قيم p أقل بكثير من عتبة 10−3 لجميع المقارنات، مما يؤكد أن تحسينات أداء الشبكة المقترحة على النماذج المرجعية هي تحسينات ذات دلالة إحصائية وليست ناتجة عن الصدفة.
الأهمية والادعاءات يزعم المؤلفون أن هذه الدراسة تسد الفجوة بين فلسفات التنعيم الأسي الكلاسيكية والتعلم العميق الحديث. فمن خلال دمج منطق التنعيم الموسمي وحلقات التغذية الراجعة الديناميكية مباشرة في بنية الشبكة العصبية، يلتقط النموذج الديناميكيات غير الخطية المعقدة والاعتمادات الموسمية دون الحاجة إلى معالجة مسبقة للتفكيك.
تكمن أهمية هذا العمل في:
الابتكار في البنية: إنشاء بنية متكررة تحترم الدورات الموسمية بطبيعتها من خلال آليات التغذية الراجعة المشابهة للتنعيم الأسي.
التقدم في التحسين: استخدام (PSO) مع دالة هدف (WMSE) مخصصة واستراتيجيات إعادة التشغيل يعالج بفعالية تحديات القيم المثلى المحلية والحاجة إلى إعطاء الأولوية لاتجاهات البيانات الأخيرة.
التحقق التجريبي: يشير التفوق المستمر عبر مجموعات البيانات الاقتصادية والبيئية والخدمية إلى أن النموذج يمثل بديلاً قوياً وسليماً رياضياً لمشكلات التنبؤ الموسمي المعقدة.
تخلص الورقة إلى أن الشبكة المقترحة توفر حلاً عالي الاستقرار والدقة للسلاسل الزمنية الموسمية، مع إمكانية استكشاف توسعات لفترات موسمية متعددة ومتداخلة في العمل المستقبلي.