ملخص تقني: SSDA – سد الفجوات الطيفية والهيكلية عبر التكيف المزدوج للتنبؤ بالسلاسل الزمنية القائمة على الرؤية

بيان المشكلة

أظهرت التطورات الأخيرة أن نماذج الرؤية الضخمة (LVMs)، مثل المشفرات التلقائية المقنعة (MAE)، يمكن أن تعمل كمقدرات فعالة للسلاسل الزمنية عندما يتم تصوير البيانات الزمنية كصور ثنائية الأبعاد. ومع ذلك، يعتمد هذا النهج على فرضية غير مفحوصة مفادها أن صور السلاسل الزمنية المصورة تشبه الصور الطبيعية بدرجة كافية لنقل المعرفة المسبقة بفعالية. يجادل المؤلفون بأن هناك "فجوتين نمطيتين" تعيقان هذا النقل:

1. الفجوة الطيفية (The Spectral Gap): تُظهر صور السلاسل الزمنية المصورة طيف قدرة أقل بكثير مقارنة بالصور الطبيعية. فبينما تتبع الصور الطبيعية عادةً قانون القوة $1/f^\alpha$ حيث $\alpha \approx 2.0$، تُظهر صور السلاسل الزمنية المصورة أسًا أقل بشكل ملحوظ ($\alpha \approx 1.66$). يشير هذا التباين إلى أن الخصائص الإحصائية منخفضة المستوى للبيانات المدخلة لا تتطابق مع التوزيع الذي تدرب النموذج المسبق على التعرف عليه.
2. الفجوة الهيكلية (The Structural Gap): تؤدي عملية إعادة تشكيل المتواليات الزمنية أحادية البعد إلى شبكات ثنائية الأبعاد (عبر الطي الدوري) إلى إدخال تشوهات اصطناعية. فهي تخلق تجاورات مكانية زائفة (باعتبار النقاط المتباعدة زمنياً كجيران) وتقطع الاستمرارية الزمنية الحقيقية (بقطع الاتصال بين نهاية عمود وبداية العمود التالي). تفشل نماذج LVM المدربة مسبقاً، والتي تمتلك انحيازات استقرائية مُعايرة للهياكل المكانية الحقيقية، في التمييز بين هذه التشوهات، مما يؤدي إلى تدهور أداء التنبؤ.

تعتمد الطرق الحالية غالباً على استراتيجيات عشوائية مثل تجميد النماذج الأساسية أو تصفية البيانات، وهي طرق لا تعالج صراحةً هذه الاختلالات الطيفية والهيكلية المحددة.

المنهجية: SSDA

يقترح المؤلفون SSDA (التكيف المزدوج الطيفي والهيكلي)، وهو شبكة ثنائية الفروع مصممة لسد هذه الفجوات عند المستويات التي تنشأ منها تحديداً: مستوى البيانات لمشكلات الطيف، ومستوى النموذج للمشكلات الهيكلية.

1. الفرع الطيفي: موازن القدرة الطيفية (SMA)

يعمل فرع SMA على مستوى البيانات، حيث يقوم بمعالجة صور السلسلة الزمنية المصورة مسبقاً لمحاذاة إحصائيات التردد الخاصة بها مع إحصائيات الصور الطبيعية قبل دخولها إلى نموذج LVM المجمد.

• الآلية: تخضع الصورة المدخلة لتحويل فوريه السريع ثنائي الأبعاد (2D RFFT) لتفكيكها إلى مكونات القدرة (Magnitude - $A$) والطور (Phase - $\phi$).
• التكيف: تقوم شبكة تلافيفية خفيفة الوزن وقابلة للتعلم ($E_\theta$) بتعزيز طيف القدرة بشكل انتقائي لإزاحة أس قانون القدرة نحو إحصائيات الصور الطبيعية. ومن الأهمية بمكان الحفاظ على معلومات الطور للحفاظ على البنية الزمنية والدورية الأصلية.
• إعادة البناء: يتم دمج القدرة المعززة والطور الأصلي، ويقوم تحويل RFFT العكسي بتوليد صورة محسنة. وتضمن آلية المزج المتبقي ($\lambda = 0.05$) الاستقرار، مما يمنع الإفراط في التعزيز. يتم تكرار الصورة الناتجة عبر ثلاث قنوات لتلبية متطلبات مدخلات RGB لنموذج MAE المجمد.

2. الفرع الهيكلي: التكيف منخفض الرتبة الموجه هيكلياً (SG-LoRA)

يعمل فرع SG-LoRA على مستوى النموذج، حيث يقوم بضبط نموذج LVM بدقة لاستعادة الوعي الزمني وتصحيح الاختلالات الهيكلية.

• مهايئ التأسيس الزمني (TGA): يعمل هذا المكون على إعادة إنشاء الارتباط بين المواضع الرقعية (Patch positions) في الصورة ثنائية الأبعاد ومؤشراتها الزمنية أحادية البعد الأصلية. يقوم بتوليد ترميزات موضع زمنية جيبية بناءً على الخطوة الزمنية الأصلية ويحقنها في تضمينات الرقع عبر آلية بوابات دمج قابلة للتعلم. وهذا يسمح للنموذج بالتمييز بين الجيران المكانيين الزائفين والجيران الزمانيين الحقيقيين.
• التكيف منخفض الرتبة (LoRA): يتم ضبط إسقاطات الانتباه (الاستعلام، المفتاح، القيمة) لنموذج LVM باستخدام مصفوفات تفكيك منخفضة الرتبة. يسمح هذا النهج الكفء في المعلمات للنموذج بتكييف آليات الانتباه الخاصة به مع الترتيب الزمني المحدد للسلسلة الزمنية دون الحاجة لإعادة تدريب الهيكل الأساسي بالكامل.

3. الاندماج التكيفي

يتم دمج مخرجات الفرع الطيفي ($y_{sp}$) والفرع الهيكلي ($y_{st}$) باستخدام وزن عددي قابل للتعلم $\beta$. التنبؤ النهائي هو مزيج محدب: $\hat{y} = \beta \cdot y_{st} + (1 - \beta) \cdot y_{sp}$. يسمح هذا للنموذج بالموازنة الديناميكية بين الاعتماد على الأولويات البصرية (LVM المجمد) والاعتمادات الزمنية المستعادة (LVM المضبوط بدقة) بناءً على مجموعة البيانات وأفق التنبؤ.

المساهمات الرئيسية

1. التوصيف المنهجي للفجوات النمطية: يقدم البحث أول تحليل منهجي يحدد الفجوات الطيفية والهيكلية بين صور السلاسل الزمنية المصورة والصور الطبيعية، مع قياس الفجوة الطيفية عبر تحليل ميل طيف القدرة (PSS).
2. بنية ثنائية الفروع (SSDA): اقتراح إطار عمل جديد يعالج هذه الفجوات من مصدرها:
   • SMA يعيد تشكيل إحصائيات المجال الترددي مع الحفاظ على الطور الزمني.
   • SG-LoRA يحقن التأسيس الزمني ويكيف الانتباه عبر تحديثات منخفضة الرتبة لاستعادة الاستمرارية الحقيقية.
3. أداء يضاهى أعلى المستويات (SOTA): تُظهر التجارب المكثفة أن SSDA يتفوق باستمرار على النماذج المرجعية القوية، بما في ذلك النماذج القائمة على LVM (مثل VisionTS، DMMV)، والنماذج القائمة على LLM (مثل Time-LLM، GPT4TS)، والطرق الكلاسيكية (مثل PatchTST، DLinear).

النتائج التجريبية

قيم المؤلفون SSDA على سبعة معايير من العالم الحقيقي (ETT, Weather, Traffic, Electricity) في كل من إعدادات البيانات الكاملة والبيانات القليلة.

• التنبؤ بالبيانات الكاملة (Full-Shot): حقق SSDA أفضل أداء في 48 حالة من جميع تركيبات المقاييس والأفاق الزمنية عبر مجموعات البيانات. وقد قلل بشكل كبير من MSE و MAE مقارنة بثاني أفضل نموذج مرجعي قائم على LVM (وهو DMMV)، وتفوق على الطرق القائمة على LLM بفارق أكبر، خاصة في حالات الأفق الطويل.
• التنبؤ بالبيانات القليلة (Few-Shot): باستخدام 5% أو 10% فقط من بيانات التدريب، حقق SSDA تسع نتائج وصدارة في 9 حالات و8 حالات في 10% على التوالي، مما يثبت قوة تمثيلات LVM القابلة للنقل في ظروف البيانات المنخفضة.
• دراسات الاستئصال (Ablation Studies): أدى حذف أي من الفرعين الطيفي أو الهيكلي إلى تدهور الأداء باستمرار، مما أكد ضرورة معالجة كلتا الفجوتين معاً. علاوة على ذلك، أدى استبدال SG-LoRA بنموذج LoRA العادي (عن طريق إزالة TGA) إلى أكبر انخفاض في الأداء، مما يثبت أن حقن البنية الزمنية الصريح أمر بالغ الأهمية للتكيف الفعال.
• التحقق من معالجة الفجوة: أكد تحليل PSS أن SMA نجح في إزاحة ميل الطيف للصور المصورة ليكون أقرب إلى إحصائيات الصور الطبيعية. كما أظهرت رؤية الصور المعاد بناؤها أن الفرع الهيكلي نجح في استعادة الأنماط الزمنية الرأسية التي كانت محجوبة بسبب عملية إعادة التشكيل ثنائية الأبعاد.

الأهمية والادعاءات

يدعي البحث أن نجاح نماذج LVM في التنبؤ بالسلاسل الزمنية كان محدوداً بسبب نقص الفهم المتعلق بالاختلافات التوزيعية والهيكلية المحددة بين الصور الطبيعية والصور المصورة. ومن خلال تشخيص وجسر الفجوتين الطيفي والهيكلي صراحةً، يفتح SSDA الإمكانات الكاملة لنماذج الرؤية المدربة مسبقاً في هذا المجال.

يضع المؤلفون عملهم كخطوة بعيداً عن استراتيجيات التكيف العشوائية والارتجالية نحو نهج مبدئي يوفق بين إحصائيات البيانات المدخلة والانحيازات الاستقرائية للنموذج مع الطبيعة الخاصة للبيانات الزمنية. ويؤكدون أن نتائجهم تفتح آفاقاً جديدة لأبحاث تعدد الأنماط، مما يشير إلى أن الطرق المستقبلية يجب أن تأخذ في الاعتبار صراحةً هذه الاختلافات النوعية لكل نمط بدلاً من معاملة السلاções الزمنية كصور عامة. يُقدم العمل كحل قوي وفعال من حيث المعلمات يحقق نتائج رائدة دون الحاجة إلى تدريب مستمر مكلف.