A foundation for systematic analysis of transformers and RNNs for tractography

ملخص تقني: أساس للتحليل المنهجي لنماذج المحولات (Transformers) والشبكات العصبية المتكررة (RNNs) في تتبع المسارات (Tractography)

بيان المشكلة
تواجه عملية تتبع المسارات في التصوير بالرنين المغناطيسي للانتشار (dMRI) "ثنائية محلية-عالمية" جوهرية: يجب على الخوارزميات توليد مسارات تتوافق مع الإشارات الانتشارية المحلية وفي الوقت نفسه تظل متسقة مع المسارات التشريحية العالمية. غالبًا ما تفشل الطرق التكرارية التقليدية في تحقيق كليهما، مما ينتج مسارات إما متفرقة أو غير منطقية تشريحيًا، لا سيما في المناطق المعقدة مثل تقاطعات الألياف. وبينما يقدم التعلم الآلي (ML) حلاً محتملاً عبر تعلم الأولويات التشريحية، فإن النهج الحالية تعاني من "تحيز التعرض" (exposure bias) المتأصل في المهام التوليدية. تُدرب النماذج باستخدام دوال خسارة محلية (التنبؤ بالاتجاه التالي بناءً على الحقيقة الأرضية)، ولكن يتم تقييمها باستخدام مقاييس عالمية (جودة المسار بأكمله). هذا التباين يجعل ضبط المعلمات الفائقة (hyperparameter tuning) والتحقق من الصحة أمراً صعباً، حيث إن تقليل الخسارة المحلية لا يضمن الحصول على مخططات مسارات (tractograms) عالية الجودة. علاوة على ذلك، يفتقر تتبع المسارات القائم على التعلم الآلي حاليًا إلى المقارنات المنهجية بين بنيات النماذج (تحديدًا RNNs مقابل Transformers) واستراتيجيات التحقق القوية للبيانات الحية (in vivo) حيث تغيب الحقيقة الأرضية.

المنهجية
أجرى المؤلفون تقييماً منهجياً للشبكات العصبية المتكررة (RNNs) ونماذج المحولات (Transformers) لتتبع المسارات الكاملة للدماغ بشكل تكراري.

• بنيات النماذج:

  • الشبكات العصبية المتكررة (RNNs): تم تنفيذها كنسخة محدثة من Learn2track، باستخدام وحدات LSTM مع تطبيع الطبقة (layer normalization) والوصلات المتخطية (skip connections).
  • المحولات (Transformers): تم اختبار كل من بنية المشفر-المفكك (encoder-decoder) الكاملة وبنية المفكك فقط (decoder-only/auto-regressive). تم تفضيل نسخة المفكك فقط لطبيعتها السببية.
  • المدخلات: تلقت النماذج ميزات dMRI المحلية (fODFs، T1، FA) واختياريًا ناقلات الاتجاه السابقة. تمت معالجة المدخلات عبر تضمينات الشبكة العصبية (NN) أو الشبكة العصبية الالتفافية (CNN).
  • المخرجات: تم التنبؤ بالاتجاه التالي عبر الانحدار (ناقلات ثلاثية الأبعاد)، أو التصنيف (اتجاهات منفصلة)، أو التوزيعات الاحتمالية (Gaussian، Fisher-von-Mises).
  • الرموز الخاصة: قدمت الدراسة رموز بداية التسلسل (SOS) ونهاية التسلسل (EOS) للتعامل مع حدود المسارات والسماح للنموذج بتعلم معايير التوقف دون الحاجة لقناع تتبع ثابت.

• استراتيجية التدريب والتحقق (مرحلة التوليد-التحقق - GV):
  لمعالجة التباين بين المحلي والعالمي، قدم المؤلفون مرحلة التوليد-التحقق (GV). بدلاً من الاعتماد فقط على الخسارة المحلية، كُلِّف النموذج دوريًا بتوليد مسارات كاملة بدءًا من أول $N$ من الإحداثيات من الحقيقة الأرضية (حيث $N=1$). تم تقييم هذه المسارات المولدة مقابل مصفوفة اتصال مشتقة من مجموعة التحقق. المقياس الأساسي كان معدل الإيجابيات الكاذبة في الاتصال (FP) (نسبة الإيجابيات الكاذبة إلى الإيجابيات الحقيقية في اتصالات النهايات). سمح هذا بالبحث الفعال عن المعلمات الفائقة دون التكلفة الحسابية لتتبع الدماغ الكامل في كل حقبة تدريبية.

• التصميم التجريبي:
  أُجريت خمس تجارب باستخدام مجموعة بيانات تحدي ISMRM 2015 (محاكاة) وقاعدة بيانات Tractoinferno (بيانات حية):

  1. البحث عن المعلمات الفائقة: بحث واسع النطاق (177 نموذجًا) غطى دوال الخسارة، وتضمينات المدخلات، وأحجام الخطوات، والتفاصيل البنيوية.
  2. الحزم المفقودة: اختبار قدرة النموذج على استعادة الحزم (الجسم الثفني، الساق المحركية، الموصل الأمامي) المستبعدة من مجموعة التدريب.
  3. بيانات تدريب دون المستوى: التدريب على مسارات ناتجة عن تتبع حتمي واحتمالي كلاسيكي بدلاً من الحقيقة الأرضية.
  4. المسارات غير الصالحة: استقصاء تأثير إضافة مسارات غير صالحة (إيجابيات كاذبة) إلى مجموعة التدريب.
  5. التطبيق الحي (In Vivo): التدريب والاختبار على بيانات بشرية حقيقية من قاعدة بيانات Tractoinferno، مع استخدام الفحص البصري كطريقة أساسية للتقييم.

النتائج الرئيسية

• الأداء على بيانات ISMRM: حققت النماذج المقترحة أعلى أداء مسجل حتى الآن على مجموعة بيانات ISMRM 2015. كان النموذج الأفضل أداءً هو بنية Learn2track (RNN) باستخدام خسارة الانحدار ورموز EOS. وقد تفوق على الطرق السابقة المتطورة (بما في ذلك TractoTransformer والنهج القائمة على RNN الأخرى) من حيث درجة F1 (Dice) ونسب المسارات الصالحة (VS).
• رؤى المعلمات الفائقة:
  • رموز EOS: كان إدراج رموز EOS حاسمًا، مما سمح للنموذج بتعلم معايير التوقف وحسن النتائج بشكل كبير.
  • دوال الخسارة: حققت خسائر الانحدار نتائج أفضل من خسائر التصنيف أو الاحتمالية (Gaussian/FvM)، رغم أن التصنيف كان أسرع في التدريب.
  • حجم الخطوة: أدى زيادة طول مقطع المسار من 1 مم إلى 2 مم إلى تحسين أداء النموذج دون تدهور جودة مخطط المسارات.
  • CNN مقابل NN: لم تتفوق تضمينات CNN للمدخلات على تضمينات NN القياسية، مما يشير إلى أن عدم التباين في الترجمة (translation invariance) أقل أهمية من الترتيب المكاني المحدد للميزات في الجوار.
• التعميم والقيود:
  • الحزم المفقودة: فشلت النماذج في استعادة الحزم غير الموجودة في مجموعة التدريب، مما يؤكد أن هذه النماذج تعيد إنتاج هياكل بيانات التدريب بدلاً من اكتشاف مسارات تشريحية جديدة.
  • جودة بيانات التدريب: أدى التدريب على مخططات احتمالية إلى تحسين التغطية المكانية (Overlap) ولكنه زاد من التجاوز (overreach)، بينما أنتج التدريب الحتمي مسارات أكثر سلاسة ومحاذاة محلية مع تغطية أقل.
  • النتائج الحية (In Vivo): في قاعدة بيانات Tractoinferno، نجحت النماذج في توليد مخططات مسارات كاملة للدماغ تشبه بصريًا الحزم الحقيقية. ومع ذلك، كشف الفحص البصري عن المزيد من الضوضاء والمسارات الزائفة مقارنة بنتائج فانتوم ISMRM.
• انتباه المحولات (Transformer Attention): كشفت رؤية أوزان انتباه المحولات أن النماذج تنتبه إلى نقاط متعددة على طول تاريخ المسار، وليس فقط الخطوة السابقة المباشرة، مما يوفر إمكانات للذكاء الاصطناعي القابل للتفسير، رغم أن التفسير يظل تحديًا.

الأهمية والادعاءات
يدعي البحث توفير أساس للتحليل المنهجي للتعلم العميق القائم على التسلسل في تتبع المسارات. وتتمثل مساهماته الرئيسية في:

1. إطار التحقق: تقديم مرحلة التوليد-التحقق (GV) كطريقة عملية وفعالة حسابيًا للإشراف على الجودة العالمية لتتبع المسارات أثناء التدريب، مما يسد الفجوة بين الخسارة المحلية والمقاييس العالمية.
2. المقارنة المرجعية: وضع معايير أداء جديدة متطورة على مجموعة بيانات ISMRM، مما يثبت أن الضبط الدقيق للمعلمات الفائقة واستخدام رموز EOS أكثر تأثيرًا من مجرد الانتقال من RNNs إلى Transformers.
3. واقعية التقييم: تسليط الضوء على قيود طرق التقييم الحالية (in vivo). يرى المؤلفون أن أدوات التقسيم الحالية (مثل Recobundles) عشوائية وصارمة للغاية بحيث لا يمكن اعتبارها مقاييس كمية موثوقة لمقارنة نماذج ML. ويؤكدون أن الفحص البصري يظل الطريقة الأكثر موثوقية للتحقق من البيانات الحية حاليًا.
4. الاعتماد على البيانات: تؤكد الدراسة أن نماذج تتبع المسارات القائمة على التعلم الآلي تعتمد بشدة على جودة واكتمال مجموعة التدريب؛ فهي تعمل كمرشحات قوية لتقليل الإيجابيات الكاذبة ولكنها لا تستطيع التعميم على الهياكل التشريحية الغائبة عن بيانات التدريب.

يخلص المؤلفون إلى أنه بينما تنجح النماذج القائمة على التسلسل (RNNs و Transformers) في التقاط تبعيات المسارات، فإن عدم التطابق بين أهداف التدريب المحلية والمعقولية التشريحية العالمية يظل عائقًا مركزيًا. يتطلب التقدم المستقبلي نماذج (phantoms) محسنة مع أنظمة تسجيل معيارية ومجموعات بيانات منسقة تعكس حقائق تشريحية محددة بدلاً من مجرد متوسطات سكانية.