TriTS: Time Series Forecasting from a Multimodal Perspective
يُعد TriTS إطار عمل جديدًا لفك الارتباط عبر الأنماط يحقق أداءً فائقًا في التنبؤ بالسلاسل الزمنية طويلة المدى من خلال إسقاط الإشارات أحادية الأبعاد إلى فضاءات متعامدة في الزمن والتردد والرؤية ثنائية الأبعاد، مستفيدًا من استراتيجية إعادة التشكيل المدركة للفترة مع تقنيتي Visual Mamba وMulti-Resolution Wavelet Mixing لنمذجة الديناميكيات المعقدة بكفاءة مع تقليل التكاليف الحسابية بشكل جذري.
تخيل أنك تحاول التنبؤ بالطقس للأسبوع القادم. لديك دفتر ضخم يحتوي على بيانات الطقس الماضية. إذا نظرت فقط إلى الأرقام في سطر واحد (واحد تلو الآخر)، فسيكون من الصعب رؤية الصورة الكبيرة. قد تفوتك حقيقة أن "كل يوم ثلاثاء تمطر" أو أن "درجة الحرارة ترتفع ببطء على مدار العام".
تقدم هذه الورقة البحثية TriTS، وهو برنامج كمبيوتر فائق الذكاء مصمم للتنبؤ بمستقبل البيانات المعتمدة على الزمن (مثل أسعار الأسهم، أو استهلاك الطاقة، أو الطقس) عن طريق النظر إلى تلك البيانات من خلال ثلاثة أزواج مختلفة من النظارات في نفس الوقت.
إليك كيف يعمل TriTS، مشروحاً ببساطة:
١. المشكلة: "النقطة العمياء" أحادية الأبعاد
معظم نماذج التنبؤ القديمة تنظر إلى بيانات السلاسل الزمنية كأنها خيط طويل من الخرز. فهي تحاول تخمين الخرزة التالية بناءً على الخرزات التي سبقتها.
المشكلة: بيانات العالم الحقيقي فوضوية. فهي تحتوي على اتجاهات طويلة الأمد (مثل صعود اقتصادي بطيء)، وأنماط متكررة (مثل زحام المرور في ساعات الذروة كل يوم)، ومفاجآت مفاجئة (مثل عاصفة). النظر إليها كمجرد "خط" يجعل من الصعب فك تشابك هذه الخيوط المختلفة.
حل "الرؤية" القديم: حاولت بعض النماذج الحديثة تحويل هذا الخط من الأرقام إلى صورة ثنائية الأبعاد (مثل طي لفافة طويلة لتصبح مربعة) لكي يستطيع الكمبيوتر "رؤية" الأنماط كصورة. لكن، كانت هذه النماذج مثل محاولة قراءة كتاب عبر التحديق في كل بكسل (Pixel) بشكل فردي—كان ذلك بطيئاً للغاية ويستهلك الكثير من ذاكرة الكمبيوتر.
٢. الحل: "الكرسي ثلاثي الأرجل" الخاص بـ TriTS
يحل TriTS هذه المشكلة بتقسيم البيانات إلى ثلاثة فرق متخصصة، كل منها يقوم بما يبرع فيه، ثم يدمجون إجاباتهم معاً.
👁️ الفريق الأول: فريق "الرؤية" (راصد الأنماط)
ماذا يفعلون: يقومون بطي البيانات إلى صورة ثنائية الأبعاد لرصد الأنماط الكبيرة والمتكررة (مثل "كل 7 أيام، تزداد المبيعات").
الابتكار: بدلاً من استخدام كاميرا بطيئة وثقيلة (نموذج "Vision Transformer" القديم الذي يغرق في التفاصيل)، يستخدم TriTS تقنية Visual Mamba.
التشبيه: تخيل كاميرا تقليدية تلتقط صورة لكل بكسل في الغرفة، واحداً تلو الآخر. هذا بطيء. أما الـ Visual Mamba فهو مثل حارس أمن ذكي يتجول في الغرفة، ويمسحها بسرعة من اليسار إلى اليمين ومن اليمال إلى اليسار، ليلحظ "نسيج" الغرفة فوراً دون الحاجة لفحص كل ذرة غبار. إنه يرى الصورة كاملة ولكن بسرعة فائقة ويستهلك طاقة قليلة جداً.
🎵 الفريق الثاني: فريق "التردد" (العازف)
ماذا يفعلون: يستمعون إلى البيانات مثل الموسيقى لفصل "الإيقاع" (الاتجاهات) عن "الضجيج" (الأخطاء العشوائية).
الابتكار: استخدمت الطرق القديمة أداة تسمى FFT (تحويل فوريه السريع)، وهي تشبه محاولة تحليل أغنية كاملة من خلال النظر إلى متوسط طبقة الصوت للألبوم بأكمله. هذا الأمر يفوّت التغييرات المفاجئة. يستخدم TriTS تقنية Wavelets.
التشبيه: فكر في عدسة مكبرة متعددة المقاييس. إذا نظرت إلى غابة من طائرة، سترى الشكل العام. إذا اقتربت باستخدام عدسة مكبرة، سترى الأوراق الفردية. فريق الـ Wavelet يقرب ويبعد في آن واحد. يمكنهم فصل "الإيقاع البطيء والثابت" للبيانات عن "الكسور الحادة والمفاجئة" للضجيج، مما يضمن عدم ارتباك النموذج بسبب القفزات العشوائية.
📉 الفريق الثالث: فريق "الزمن" (المرساة)
ماذا يفعلون: يحافظون على خط مستقيم بسيط لتتبع الحركة الأساسية والثابتة للبيانات.
التشبيه: تخيل سفينة تبحر في عاصفة. فريقا الرؤية والتردد هما الطاقم الذي ينظر إلى الأمواج والرياح لتوجيه السفينة. أما فريق الزمن فهو المرساة الثقيلة. حتى لو تحمس الفريقان الآخران بسبب موجة مجنونة، فإن المرساة تمنع السفينة من الانجراف بعيداً عن مسارها. إنها تضمن بقاء التنبؤ واقعياً ولا يخرج عن السيطرة.
٣. "الطاهي" (الدمج)
بمجرد أن تنتهي هذه الفرق الثلاثة من تحليلها، هم لا يكتفون بمجرد حساب متوسط إجاباتهم. لدى TriTS طاهٍ ذكي (آلية بوابة) يقرر مقدار الثقة في كل فريق بناءً على الموقف الحالي.
إذا كانت البيانات مستقرة ويمكن التنبؤ بها، فقد يثق الطاهي في فريق الرؤية أكثر.
إذا كانت البيانات مليئة بالقفزات المفاجئة والعشوائية، فقد يثق في فريق التردد أكثر.
إذا كانت البيانات تتحرك ببطء وتدرج، فإن فريق الزمن سيحظى بالكلمة العليا.
لماذا يعد هذا أمراً هاماً؟
السرعة والكفاءة: من خلال استبدال نماذج الرؤية البطيئة (التي تعمل بكسل تلو الآخر) بـ "الحارس الذكي" (Visual Mamba)، يعد TriTS أسرع بكثير ويستخدم ذاكرة كمبيوتر أقل بكثير. يمكنه التعامل مع كميات هائلة من التاريخ دون أن يتوقف عن العمل.
الدقة: لأنه ينظر إلى البيانات من ثلاث زوايا (الزمن، والتردد، والرؤية)، فإنه يلتقط أشياء تفوتها النماذج الأخرى. إنه يشبه حل لغز من خلال النظر إلى الصورة، وقطع الحواف، وأنماط الألوان في وقت واحد.
جاهز للعالم الحقيقي: يعمل بشكل رائع في كل شيء، من شبكات الكهرباء إلى أسواق الأسهم، مما يثبت أنك لست بحاجة إلى كمبيوتر ضخم وبطيء لتقديم تنبؤات ذكية.
باخت-الاختصار: TriTS يشبه فريق تنبؤ لا يكتفي بمجرد التحديق في جدول بيانات. لديه ماسح بصري سريع، ومحلل صوتي دقيق، ومرساة ثابتة، يعملون جميعاً معاً للتنبؤ بالمستقبل بدقة عالية وتكلفة منخفضة.
إليك ملخص تقني مفصل لورقة البحث "TriTS: التنبؤ بالسلاسل الزمنية من منظور متعدد الوسائط".
1. بيان المشكلة
يعد التنبؤ طويل الأمد بالسلاسل الزمنية (LTSF) أمراً بالغ الأهمية لقطاعات مثل التمويل والطاقة والأرصاد الجوية، ولكنه يواجه تحديات كبيرة بسبب تشابك الديناميكيات الزمنية في الإشارات الواقعية. تعاني النهج الحالية من قيود محددة:
عنق زجاجة المنظور أحادي البعد (1D): غالباً ما يفشل تحليل الإشارات في النطاق الزمني وحده في التقاط التبعيات العالمية المعقدة والتحولات غير المستقرة.
القيود القائمة على الرؤية الحاسوبية: بينما تقوم الطرق الحديثة (مثل VisionTS) بإسقاط السلاسل أحادية البعد إلى "صور زمنية" ثنائية الأبعاد لاستغادة نماذج الرؤية، إلا أنها تعتمد على محولات الرؤية (ViTs). وتتسبب هذه المحولات في تعقيد حسابي تربيعي (O(N2)) باهظ الثمن، مما يجعلها غير فعالة للسلاسل فائقة الطول.
القيود القائمة على التردد: تعتمد طرق التردد التقليدية باستخدام تحويل فوريه السريع (FFT) على دوال أساس عالمية، مما يجعل من الصعب تحديد الطفرات العابرة والتحولات غير المستقرة (مثل التغيرات المفاجئة في الاتجاه) التي تسود البيانات الحقيقية.
2. المنهجية: إطار عمل TriTS
يقترح TriTS إطار عمل لفك التشابك عبر الوسائط يقوم بإسقاط السلاسل الزمنية أحادية البعد إلى ثلاثة فضاءات متعامدة ومتكاملة: الزمن، والتردد، والرؤية ثنائية الأبعاد. يتم دمج هذه الفضاءات ديناميكياً لحل مشكلات تمثيل البيانات.
أ. فرع النطاق الزمني (المرساة الخطية)
الهدف: الحفاظ على الاستقرار العددي والتقاط الاتجاهات غير المستقرة دون الإفراط في التنعيم.
الآلية: بدلاً من الطبقات الخطية القياسية أو المتوسط المتحرك البسيط (SMA)، يستخدم TriTS المتوسط المتحرك الأسي المتدفق (Streaming EMA).
يخصص الـ EMA أوزانًا تتلاشى أسياً، مما يجعله يستجيب بحساسية للتغيرات الأخيرة مع تجنب مشاكل انحياز الحدود المرتبطة بحشو الـ SMA.
يتم تمرير الاتجاه المستخرج عبر طبقة خطية متدفقة ليعمل كـ "مرساة خطية" قوية للنظام بأكمله.
ب. فرع نطاق التردد (MR-WM)
الهدف: فك تشكيل الإشارات غير المستقرة إلى اتجاه وضوضاء لتحديد الموقع الزمني والترددي بدقة.
الآلية: يستبدل FFT العالمي بـ خلط الموجات المويجية متعدد الدقة (MR-WM).
التفكيك: يستخدم تحويل الموجات المويجية المنفصل (DWT) متعدد المستويات لتقسيم الإشارة إلى معاملات تقريب (الاتجاهات طويلة الأجل) ومعاملات تفصيل (التباينات المحلية/الضوضاء).
الفروع المستقلة: تتم معالجة كل مكون ترددي في فرع دقة مستقل تماماً مع وحدة تطبيع وخلط خاصة به. هذا يمنع الضوضاء عالية التردد من تلويث الاتجاهات منخفضة التردد.
الخلط ثنائي المرحلة: داخل كل فرع، يلتقط مزيج الرقع (Patch Mixer) السياق الزمني المحلي، بينما يستخرج مزيج التضمين (Embedding Mixer) الميزات الدلالية العالمية عبر القنوات.
إعادة البناء: يتم إعادة بناء التنبؤات من جميع الفروع عبر تحويل الموجات المويجية المنفصل العكسي (IDWT).
ج. فرع نطاق الرؤية (Visual Mamba)
الهدف: نمذجة التبعيات العالمية عبر الفترات بكفاءة دون تكلفة O(N2) الخاصة بمحولات الرؤية (ViTs).
الآلية: يدمج Visual Mamba (Vim) مع استراتيجية إعادة التشكيل المدركة للفترة.
إعادة التشكيل: يتم طي التسلسل أحادي البعد إلى "صورة زمنية" ثنائية الأبعاد بناءً على الفترة المهيمنة P (التي يتم اكتشافها عبر الارتباط الذاتي). تصبح التباينات داخل الفترة عبارة عن أنسجة صفوف؛ بينما تصبح التطورات بين الفترات هياكل أعمدة.
مشفر Vim: يستبدل آلية الانتباه الذاتي بـ نموذج فضاء الحالة ثنائي الاتجاه (Bi-SSM).
يستخدم آلية المسح الانتقائي حيث يتم توليد المعلمات ديناميكياً بواسطة المدخلات، مما يسمح للنموذج بالتكيف مع "حفظ" أو "نسيان" المعلومات.
المسح ثنائي الاتجاه: يعالج نقص السببية الصارمة في الإدراك البصري من خلال مسح التسلسل للأمام وللخلف، ودمج النتائج عبر آلية بوابة.
تولد شبكة بوابة خفيفة الوزن أوزان ثقة على مستوى الخطوة الزمنية (Gtime,Gfreq,Gvis) بناءً على التمثيلات المدخلة.
المخرج النهائي هو مجموع مرجح للفروع الثلاثة، مما يسمح للنموذج بإعطاء الأولوية ديناميكياً للوسيط الأكثر صلة (مثل التردد للبيانات الدورية، أو الرؤية للاتجاهات طويلة المدى) لكل مجموعة بيانات محددة.
3. المساهمات الرئيسية
إطار عمل TriTS: بنية مبتكرة لفك التشابك عبر الوسائط تجمع بين وسائط الزمن والتردد والرؤية، مما يحل بفعالية فقدان المعلومات المتأصل في الطرق أحادية الوسائط.
تكامل Visual Mamba: رائد في استخدام Visual Mamba (Vim) في التنبؤ بالسلاسل الزمنية عبر استراتيجية الربط من 1D إلى 2D. هذا يكسر عنق زجاجة O(N2) لمحولات الرؤية التقليدية، مما يسمح بالتقاط الأنسجة البصرية العالمية بكفاءة في السلاسل فائقة الطول بتعقيد خطي.
وحدة MR-WM: يقدم مشفر خلط الموجات المويجية متعدد الدقة الذي يفصل الاتجاهات والضوضاء بشكل صريح، مما يعالج قيود FFT في التعامل مع الطفرات غير المستقرة والشذوذ المحلي.
الكفاءة والأداء: يثبت أن النهج متعدد الوسائط يمكن أن يقلل بشكل كبير من عدد المعلمات وزمن الاستجابة مقارنة بنماذج الرؤية الحالية مع تحقيق دقة فائقة.
4. النتائج التجريبية
مجموعات البيانات: تم التقييم على 7 مجموعات بيانات مرجعية (ETT, Weather, Electricity, Traffic) تغطي مجالات متنوعة.
النماذج المرجعية: تمت المقارنة مع 8 نماذج من فئة الحالة الراهنة (SOTA)، بما في ذلك VisionTS/VisionTS++, WPMixer, FDNet, iTransformer, PatchTST, TimeMixer, و DLinear.
الأداء:
حقق TriTS أداءً رائداً (SOTA) (أقل MSE/MAE) في معظم مجموعات البيانات وأطوال التنبؤ (مثل L=720).
تفوق على VisionTS بشكل كبير، خاصة في مجموعات البيانات ذات التقلبات العددية العالية (ETT)، من خلال تعويض نقص الدقة العددية لنماذج الرؤية عبر الفرع الخطي للنطاق الزمني.
الكفاءة:
المعلمات: يستخدم TriTS عدداً أقل بكثير من المعلمات (حوالي 8.82 مليون) مقارنة بـ VisionTS (حوالي 111.91 مليون).
زمن الاستجابة: بفضل التعقيد الخطي لـ Vim ووحدات الموجات المويجية الفعالة، يظهر TriTS زمن استجابة أقل بكثير واستهلاكاً أقل للذاكرة مقارنة بنماذج ViT.
دراسات الاستئصال (Ablation Studies): أدى حذف أي فرع واحد (الزمن، التردد، أو الرؤية) إلى تدهور الأداء. ومن الجدير بالذكر أن حذف الفرع الزمني تسبب في عدم استقرار شديد، مما يؤكد دوره كعمود فقري عددي.
5. الأهمية
يمثل TriTS تحولاً جذرياً في التنبؤ بالسلاسل الزمنية من خلال التعامل مع البيانات ككيان متعدد الوسائط وليس كإشارة أحادية البعد. تكمن أهميته في:
حل مقايضة الكفاءة والدقة: لقد أثبت أن التنبؤ عالي الأداء لا يتطلب الثقل الحسابي لمحولات الرؤية (ViTs)؛ حيث يمكن لنماذج الحالة الفضائية (SSMs) ذات التعقيد الخطي (Mamba) نمذجة الأنماط البصرية في السلاسل الزمنية بفعالية.
المتانة تجاه عدم الاستقرار: من خلال الجمع بين التفكيك المويجي المحلي والنمذجة البصرية العالمية، يتعامل TriTS مع الاتجاهات المستقرة والطفرات المفاجئة بشكل أفضل من الطرق السابقة.
القابلية للتوسع: يجعل التعقيد الخطي من عملية التنبؤ بالسلاسل فائقة الطول أمراً ممكناً، وهي مهام كانت مستحيلة حسابياً للنهج القائمة على الرؤية سابقاً.
في الختام، يعيد TriTS تعريف معيار الكفاءة لتحليل السلاسل الزمنية متعدد الوسائط، ويقدم حلاً قابلاً للتوسع ودقيقاً وفعالاً حسابياً لتحديات التنبؤ المعقدة في العالم الحقيقي.