MMTA: Multi Membership Temporal Attention for Fine-Grained Stroke Rehabilitation Assessment

إليك ملخص تقني مفصل لورقة البحث بعنوان: "MMTA: انتباه زمن التعدد في العضوية لتقييم إعادة التأهيل الدقيق للحركات الناتجة عن السكتة الدماغية."

1. بيان المشكلة

تعالج الورقة تحدي تجزئة العمليات الزمنية (Temporal Action Segmentation - TAS) في سياق إعادة تأهيل مرضى السكتة الدماغية. الهدف هو تحليل فيديوهات العلاج وبيانات المستشعرات القابلة للارتداء تلقائياً لتجزئة التسجيلات المستمرة إلى وحدات حركة دقيقة (مثل: "الوصول"، "الإمساك"، "النقل") مع تحديد دقيق للحدود الفاصلة.

التحديات الرئيسية:

• الطبيعة الدقيقة للغاية: تتضمن حركات إعادة التأهيل حركات مجهرية دقيقة تستغرق أقل من ثانية. وغالباً ما تحدث الانتقالات ذات الأهمية السريرية خلال بضع إطارات فقط.
• عنق زجاجة التدرج الزمني: تقوم نماذج الـ Transformer القياسية التي تستخدم الانتباه الذاتي العالمي (Global Self-Attention) بتطبيع أوزان الانتباه عبر طول التسلسل الكامل ($T$). ومع زيادة $T$، يؤدي مقام دالة الـ softmax إلى تخفيف كتلة احتمالية الانتباه المخصصة للجوار المحلي. يتسبب هذا في جعل النموذج "يفرط في تنعيم" (over-smooth) الحدود، مما يجعل من الصعب اكتشاف التحولات الطورية السريعة الضرورية لتقييم دقيق لاستعادة القدرة الحركية.
• قصور الحلول الحالية: تحاول الطرق السابقة إصلاح أخطاء الحدود باستخدام عمليات صقل متعددة المراحل، أو مشفرات هرمية، أو قيود التشتت. ومع ذلك، فإن هذه الطرق غالباً ما تفرض تحديثاً واحداً للسياق لكل إطار في كل طبقة، مما يفشل في الحفاظ على السياقات المحلية المتنافسة الموجودة بالقرب من حدود العمليات.

2. المنهجية: انتباه زمن التعدد في العضوية (MMTA)

يقترح المؤلفون MMTA، وهو آلية انتباه مبتكرة مصممة لاستبدال الانتباه الذاتي العالمي في بنية Transformer أحادية المرحلة.

المفهوم الجوهري:
على عكس الانتباه النافذي القياسي (الذي يخصص سياقاً محلياً واحداً لكل إطار) أو الانتباه العالمي (الذي يخصص سياقاً عالمياً واحداً)، يسمح MMTA لكل إطار بالانتماء إلى نوافذ محلية متداخلة متعددة في آن واحد.

الآلية التقنية:

1. النوافذ المتداخلة: يتم تقسيم تسلسل المدخلات بطول $T$ إلى $N$ من النوافذ المتداخلة بحجم $w$ وخطوة قدرها $s$. قد ينتمي الإطار $t$ إلى مجموعة من النوافذ $M(t)$ بحجم عضوية $m(t) \geq 1$.
2. التطبيع المحلي: داخل كل نافذة $i$، يتم حساب انتباه الضرب النقطي المقاس القياسي. ومن الأهمية بمكان أن التطبيع باستخدام softmax يقتصر على حجم النافذة المحلية $w$ بدلاً من التسلسل العالمي $T$. هذا يمنع تخفيف درجات التشابه المحلية.
3. تحديثات تعدد العضوية: بالنسبة للإطار $t$ الذي ينتمي إلى نوافذ متعددة، يقوم النموذج بإنشاء $m(t)$ من التحديثات المتميزة والمطبعة محلياً (تحديث واحد من كل نافذة).
4. تجميع حل التداخل: يتم التوفيق بين هذه التحديثات المتعددة في تمثيل واحد لكل إطار باستخدام قاعدة تجميع صريحة (المتوسط البسيط):
   $$\tilde{h}_t = \frac{1}{m(t)} \sum_{i \in M(t)} u^{(i)}_t$$
   هذه الخطوة تحافظ على الأدلة السياقية المتنافسة بالقرب من الانتقالات مع السماح للمعلومات بالانتشار عبر النوافذ.

البنية والتعقيد:

• العمود الفقري (Backbone): مشفر Transformer أحادي المرحلة.
• التعقيد: الانتباه العالمي هو $O(T^2)$. يقلل MMTA هذا إلى $O(\frac{T}{s} w^2)$، مما يجعله يتناسب خطياً مع طول التسلسل $T$ لمعاملات النافذة الثابتة، مما يجعله فعالاً من حيث الحوسبة.
• المدخلات الموحدة: تدعم البنية كلاً من ميزات الفيديو (I3D) وبيانات مستشعر IMU القابلة للارتداء ضمن نفس الإطار.

3. المساهمات الرئيسية

1. تحديد عنق الزجاجة: حددت الورقة رسمياً "عنق زجاجة التدرج الزمني" الناتج عن تطبيع softmax العالمي، والذي يحجب أدلة الحدود الدقيقة.
2. مشغل MMTA: تقديم آلية انتباه مبتكرة تتيح تعدد العضوية (انتباه الإطارات لعدة سياقات محلية) وحل التداخل، مما يلغي الحاجة إلى خطوط معالجة متعددة المراحل.
3. بنية موحدة: نموذج أحادي المرحلة قادر على التعامل مع بيانات الفيديو عالية الأبعاد وبيانات مستشعر IMU عالية التردد، مما يجعله مناسباً لكل من البيئات السريرية والمنزلية.
4. كفاءة الموارد: يحقق الأسلوب أداءً يضاهي أحدث ما توصل إليه العلم (state-of-the-art) مع استهلاك أقل بكثير للذاكرة والتعقيد الحسابي مقارنة بنماذج الانتباه العالمي ونماذج TCN متعددة المراحل.

4. النتائج التجريبية

تم تقييم النموذج على مجموعتي بيانات:

• StrokeRehab: مجموعة بيانات سريرية تحتوي على 3,372 تجربة (أنماط الفيديو وIMU) تركز على علاج الأطراف العلوية.
• 50Salads: معيار عام لتجزئة العمليات الزمنية.

مقاييس الأداء:

• StrokeRehab (الفيديو): حقق MMTA درجة تعديل (ES) بلغت 71.1 ومعدل خطأ في العمليات (AER) بلغ 0.289، متفوقاً على نموذج الانتباه العالمي المرجعي (ES 69.8) بمقدار +1.3 ES.
• StrokeRehab (IMU): حقق MMTA ES 70.5 وAER 0.295، متفوقاً على النموذج العالمي بـ +1.6 ES.
• 50Salads: حقق MMTA ES 88.4 وAER 0.116، متجاوزاً نموذج الانتباه العالمي (ES 85.1) بمقدار +3.3 ES ومتفوقاً على الطرق السابقة مثل ASPnet وDiffAct++.

النتائج النوعية:

• تُظهر التصورات أن MMTA ينتج انتقالات حدودية أكثر حدة مع عدد أقل من القطع الزائفة مقارنة بالانتباه العالمي.
• أكدت دراسات الاستئصال (Ablation Studies) أن مكاسب الأداء ناتجة عن آلية تعدد العضوية وليس بسبب زيادة عمق النموذج.
• الكفاءة: تطلب MMTA ما بين 422–460 ميجابايت فقط من ذاكرة وحدة معالجة الرسومات (GPU) في 50Salads، مقارنة بـ 1.7 جيجابايت لـ MS-TCN و3.5 جيجابايت لـ ASFormer.

5. الأهمية والأثر

• الأهمية السريرية: من خلال التقاط الانتقالات الدقيقة (تحت الثانية) بدقة، يوفر MMTA المقاييس الكمية عالية الدقة اللازمة لتقييم التعافي الحركي لمرضى السكتة الدماغية، معالِجاً بذلك قصور المقاييس السريرية الذاتية.
• النشر العملي: تجعل التعقيد الخطي وبصمة الذاكرة المنخفضة من MMTA قابلاً للنشر على الأجهزة ذات الموارد المحدودة، مما يتيح التقييم الآلي في البيئات المنزلية دون الحاجة إلى حوسبة سحابية ثقيلة.
• القدرة على التعميم: يثبت النجاح في كل من مجموعات البيانات السريرية (StrokeRehab) وغير السريرية (50Salads) قوة النهج لتحليل الحركة الدقيقة عبر مجالات مختلفة.

في الختام، يقدم MMTA حلاً عملياً وفعالاً وعالي الدقة لتجزئة العمليات الزمنية الدقيقة، متجاوزاً بشكل خاص قيود الانتباه العالمي في اكتشاف التحولات الحركية السريعة وذات الأهمية السريرية.