ملخص تقني: STAMP: المهايئ المكاني-الزماني مع التجميع متعدد الرؤوس

بيان المشكلة

أظهرت نماذج التأسيس للسلاسل الزمنية (TSFMs)، المدربة مسبقاً على مجالات متنوعة، أداءً قوياً عبر مهام النمذجة المختلفة. وبالتزامن مع ذلك، تم تطوير نماذج تأسيسية محددة لبيانات تخطيط كهربائية الدماغ (EEG) لالتقاط الخصائص المكانية والزمانية الفريدة للنشاط الكهربائي للدماغ. ومع ذلك، لم يتم إجراء تحليل مقارن بين نماذج TSFMs العامة والنماذج التأسيسية الخاصة بـ EEG لمهام الـ EEG. علاوة على ذلك، غالباً ما تدمج نماذج EEGFMs بنيات معقدة لنمذجة التبعيات المكانية والزمانية، في حين أن نماذج TSFMs العامة عادة ما تعامل المدخلات كسلاسل زمنية أحادية المتغير، مما يجعلها بطبيعتها غير فعالة لمهام EEG حيث تكون العلاقات المكانية بين القنوات والتطور الزمني أمراً بالغ الأهمية. إن التطبيق الساذج لنماذج TSFMs على بيانات EEG (على سبيل المثال، باستخدام متوسط التجميع البسيط - Mean Pooling) يؤدي إلى أداء يقترب من العشوائية المحضة.

المنهجية

يقدم المؤلفون STAMP (المهايئ المكاني-الزماني مع التجميع متعدد الرؤوس)، وهو مهايئ خفيف الوزن ومرن مبني على نماذج TSFMs العامة لتمكين النمذجة الفعالة لـ EEG. يستخدم STAMP تضمينات أحادية المتغير ناتجة عن نموذج TSFM مجمد، ويقوم بنمذجة الميزات المكانية والزمانية لبيانات EEG بشكل ضمني من خلال ثلاثة مكونات أساسية:

1. التشفيرات الموضعية (PEs): لمعالجة نقص السياق المكاني والزماني في تضمينات TSFM القياسية، يضيف STAMP تشفيرات موضعية قابلة للتعلم. وتشمل هذه التشفيرات التشفير الموضعي لكل رمز ($p_{ij}$)، والتشفير المكاني ($s_i$)، والتشفير الزماني ($t_j$). يتم حساب التضمين المعدل كالتالي: $\tilde{e}_{ij} = e'_{ij} + p_{ij} + s_i + t_j$، حيث $e'_{ij}$ هو تضمين TSFM ذو الأبعاد المختزلة. وتظهر دراسات الاستئصال (Ablation studies) أن استخدام أنواع التشفير الثلاثة معاً يعطي أفضل أداء.

2. شبكة MLP ذات البوابة المتقاطعة (CC-GMLP): لالتقاط العلاقات عبر الشبكة المكانية-الزمانية، يستخدم STAMP بنية CC-GMLP مبتكرة مستوحاة من محول Criss-Cross (CC-TF) وشبكات GMLP. يقوم هذا النموذج بفصل نمذجة العلاقات المكانية والزمانية؛ حيث يعالج شبكة المدخلات $\tilde{E}$ عبر سلسلة من الكتل حيث تعمل وحدات البوابة الزمانية ($g_T$) ووحدات البوابة المكانية ($g_S$) بشكل مستقل على طول محاورهما قبل الدمج. يتيح ذلك تعلمًا فعالاً للمعلمات للعلاقات بين القنوات، بشكل مستقل عن التطور الزمني للإشارة.

3. التجميع متعدد الرؤوس (MHAP): لتجميع رموز التضمين المختلطة من أجل التنبؤ النهائي، يستخدم STAMP آلية MHAP. تتعلم هذه الآلية وزن أهمية كل رمز بالنسبة للمهمة النهائية، حيث تقوم بإسقاط الرموز في مساحات منخفضة الأبعاد، وتحسب درجات الانتباه مقابل ناقلات الاستعلام (query vectors)، وتجمع النتائج. وتحدد خطوة تجميع نهائية فوق الاستعلامات الأهمية الإجمالية لكل رأس وتولد ناقل ملخص. يتم دمج هذا مع اتصال متبقي (residual connection) مع متوسط تضمينات الرموز المختلطة قبل إجراء إسقاط خطي نهائي.

يتم تدريب المهايئ على نموذج TSFM مجمد (بشكل أساسي MOMENT Large، ولكن تم اختباره أيضاً مع MOMENT Small/Base، وChronos، وTSPulse). يبلغ إجمالي عدد المعلمات القابلة للتدريب في STAMP حوالي 750,000 معلمة، وهو ما يمثل جزءاً ضئيلاً من ملايين المعلمات الموجودة في نماذج EEGFMs النموذجية.

المساهمات الرئيسية

• أول تحليل مقارن: يقدم هذا العمل أول تحليل مقارن بين نماذج التأسيس الخاصة بـ EEG ونماذج TSFMs العامة لمهام الـ EEG المحددة.
• بنية مهايئ مبتكرة: تقديم STAMP، الذي نجح في تكييف تضمينات TSFM أحادية المتغير لبيانات EEG متعددة المتغيرات مكانياً وزمانياً دون الحاجة لإعادة تدريب TSFM على بيانات EEG.
• الكفاءة: يحقق STAMP أداءً مقارباً لأحدث ما توصل إليه العلم في نماذج EEGFMs (مثل CBraMod وLaBraM) ولكنه يستخدم عدداً أقل بكثير من المعلمات القابلة للتدريب (حوالي 0.74 مليون مقارنة بـ 29 مليون لـ CBraMod و5.8 مليون لـ LaBraM).
• تقييم شامل: تم تقييم الطريقة على 8 مجموعات بيانات مرجعية لـ EEG تغطي مهام سريرية متنوعة، بما في ذلك تخيل الحركة (Motor Imagery)، والحساب الذهني، والتعرف على العواطف، وتصنيف الأحداث.

النتائج

• الأداء مقابل النماذج المرجعية: يحقق STAMP أداءً مشابهاً أو متفوقاً على نماذج EEGFMs (مثل CBraMod وLaBram) ويتفوق بوضوح على النماذج غير التأسيسية لـ EEG (مثل EEG Conformer وST-Transformer) عبر معظم مجموعات البيانات.
• دراسات الاستئصال (Ablation Studies):
  • التشفير الموضعي: أدى إدراج الأنواع الثلاثة من التشفيرات الموضعية (الرمز، المكاني، الزماني) باستمرار إلى تحسين الأداء، حيث أدى استبعاد التشفيرات الموضعية إلى أسوأ النتائج.
  • خلط الرموز (Token Mixing): تفوقت بنية CC-GMLP على كل من استراتيجيات خلط GMLP البسيطة والاستراتيجيات القائمة على المحولات (B-TF وCC-TF) عبر مجموعات البيانات.
  • تجميع الرموز: بينما أدى MHAP وMean Pooling أداءً متشابهاً في معظم مجموعات البيانات، وفر MHAP دفعة كبيرة في الأداء في مجموعة بيانات BCIC-IV-2a، مما يشير إلى فائدته في التقاط العلاقات المعقدة بين الرموز.
• توافق TSFM: أدى STAMP أداءً جيداً مع تضمينات من مختلف نماذج TSFM (MOMENT، Chronos، TSPulse)، حتى تلك التي لم تُدرب مسبقاً على EEG (مثل Chronos وTSPulse)، مما يثبت قدرة المهايئ على التعميم.
• القصور: أظهر STAMP أداءً أدنى مقارنة بالطرق الأخرى في مجموعات بيانات التعرف على العواطف (SEED-V وFACED). ويشكك المؤلفون في أن نماذج TSFMs الحالية قد لا تستخرج الميزات ذات الصلة بالتعرف الدقيق على العواطف، حيث لم يتحسن الأداء بشكل ملحوظ حتى عند الانتقال إلى تضمينات Chronos.

الأهمية والادعاءات

يدعي هذا العمل أن STAMP يثبت إمكانية تكييف نماذج التأسيس الزمنية العامة لمهام EEG بفعالية مع حد أدنى من المعلمات الإضافية القابلة للتدريب. ويرى المؤلفون أنه بينما قد يكون أداء TSFMs "خارج الصندوق" أقل من EEGFMs، فإن عمليات التكييف النسبية القليلة — وتحديداً إضافة التشفيرات الموضعية واستراتيجية خلط الرموز — كافية لتحقيق نتائج تنافسية.

تكمن الأهمية في إمكانية تقليل التكاليف والوقت اللازمين لتطوير حلول EEG من خلال الاستفادة من نماذج TSFMs الضخمة الموجودة مسبقاً بدلاً من تدريب نماذج تأسيسية ضخمة خاصة بالمجال من الصفر. ويشير المؤلفون إلى أنه بينما يتطلب إنشاء التضمينات الأولية موارد حوسبية، يمكن القيام بذلك مسبقاً وبشكل متوازٍ. ويخلصون إلى أن STAMP يوفر مساراً مرناً وفعالاً من حيث المعلمات لنمذجة بيانات EEG، رغم إقرارهم بأن هناك حاجة لمزيد من الاستقصاء للمهام التي تعاني فيها نماذج TSFMs الحالية، مثل التعرف الدقيق على العواطف.