NeuralFLoC: Neural Flow-Based Joint Registration and Clustering of Functional Data

1. بيان المشكلة

تتناول الورقة البحثية تحدي تجميع البيانات الوظيفية (مثل الإشارات البيولوجية، أو مسارات الحركة) في ظل وجود تباين في الطور (Phase Variation).

• المشكلة الجوهرية: غالبًا ما تظهر البيانات الوظيفية نوعين من التباين: تباين السعة (اختلافات في المقدار الرأسي) وتباين الطور (عدم محاذاة الميزات أفقيًا أو زمنيًا).
• الصعوبة: تفشل خوارزميات التجميع القياسية عندما يكون تباين الطور كبيرًا لأنها تجمع المنحنيات بناءً على عدم المحاذاة الزمنية بدلاً من الاختلافات الجوهرية في الشكل.
• قصور الطرق الحالية:
  • النهج ذو المرحلتين: يقوم بعمليتي التسجيل (المحاذاة) والتجميع بشكل منفصل. يؤدي هذا إلى انتشار الخطأ، والتحيز الناتج عن النماذج المرجعية المحددة مسبقًا، وعدم الكفاءة الحسابية.
  • النماذج الإحصائية المشتركة: غالبًا ما تعتمد على افتراضات معلمية مقيدة (مثل الإزاحات الزمنية البسيطة، أو عمليات ديريكليه)، وتواجه صعوبات في التوسع أو التعامل مع البيانات متعددة المتغيرات.

2. المنهجية: NeuralFLoC

يقترح المؤلفون NeuralFLoC، وهو إطار عمل للتعلم العميق متكامل، غير خاضع للإشراف بالكامل، يدمج المعادلات التفاضلية العادية العصبية (Neural ODEs) مع التجميع الطيفي (Spectral Clustering). يتكون الإطار من ثلاث وحدات رئيسية:

أ. التهيئة الكامنة (مشفر CNN أحادي البعد)

• يتم تمرير البيانات الوظيفية الخام $x_i(t)$ عبر شبكة عصبية تلافيفية (CNN) أحادية البعد لاستخراج الأنماط المورفولوجية المحلية.
• المخرج هو متجه كامن $z_i$ يعمل كشرط أولي لديناميكيات التشويه اللاحقة. يضمن ذلك أن تبدأ المحاذاة من تمثيل مدرك للشكل.

ب. التشويه المستمر للزمن (مشوه Neural ODE)

• بدلاً من التشويه المنفصل، يتعلم النموذج دوال تشويه سلسة وقابلة للعكس $\gamma_i(t)$ باستخدام Neural ODEs.
• الآلية: حقل سرعة قابل للتعلم $f$ (يتم تمثيله بواسطة MLP) يحكم التدفق المستمر $\tau_{ij}(t)$:
  $$\frac{d\tau_{ij}(t)}{dt} = f(\tau_{ij}(t), t, z_{ij}; \Theta_{ode})$$
• القيود: يضمن تفعيل Softplus أن المشتق موجب ($\dot{\gamma} > 0$)، مما يضمن أن دالة التشويه رتيبة تمامًا وقابلة للعكس (ديفيمورفيزم/Diffeomorphism).
• الخلط المدرك للمجموعات: دالة التشويه النهائية لعينة ما هي مزيج من التدفقات الخاصة بالمجموعات، والموزونة باحتمالات التعيين الناعم $p_{ij}$، مما يسمح للمحاذاة بأن تكون موجهة بواسطة بنية المجموعة.

ج. التجميع الطيفي ودالة الهدف

• المحاذاة: يتم تحويل المنحنيات المحاذية إلى فضاء دالة جذر السرعة المربعة (SRVF). هذا المقياس ثابت تجاه إعادة المعلمة، مما يسمح بحسابات مسافة ذات معنى هندسي.
• التجميع: يتم إسقاط المنحنيات المحاذية على أساس فوريه لتصفية الضوضاء واستخراج المعاملات الطيفية. تقوم آلية التعيين الناعم (باستخدام نواة توزيع t لستودنت) بتعيين المنحنيات لمركز الثقل الخاص بالمجموعة.
• دالة الخسارة المشتركة: يقلل النموذج هدفًا موحدًا:
  $$\mathcal{L}_{total} = \mathcal{L}_{reg} + \alpha \mathcal{L}_{clu}$$
  • $\mathcal{L}_{reg}$: خسارة تسجيل SRVF المشروطة بالمجموعة (تقليل المسافة إلى متوسطات Karcher الخاصة بكل مجموعة).
  • $\mathcal{L}_{clu}$: خسارة التجميع (تباعد كولباك-ليبلر بين التعيينات الناعمة والتوزيع المستهدف) لتشجيع الفصل الواثق بين المجموعات.
  • $\alpha$: معلم ضبط للتوازن.

3. المساهمات الرئيسية

1. إطار عمل مبتكر: أول نهج تعلم عميق متكامل لـ التسجيل والتجميع الوظيفي في آن واحد.
2. تدفقات ديفيمورفية (Diffeomorphic Flows): يستخدم Neural ODEs لضمان دوال تشويه سلسة، قابلة للعكس، ورتيبة دون افتراضات توزيعية صريحة، متجاوزًا قيود الطرق المنفصلة أو المعلمية.
3. الضمانات النظرية:
   • التقريب الشامل: يثبت أن وحدة Neural ODE يمكنها تقريب أي دالة تشويه مقبولة بدقة عالية.
   • الاتساق التقاربي: يثبت أن المقدر المشترك يتقارب نحو التعيينات الحقيقية للمجموعات مع زيادة حجم العينة، بشرت أن تكون المجموعات قابلة للفصل بعد التسجيل.
4. القابلية للتوسع: يحقق تعقيدًا زمنيًا خطيًا $O(N)$ بالنسبة لحجم العينة واستخدامًا ثابتًا للذاكرة عبر طريقة الحساسية المرافقة (Adjoint Sensitivity Method)، مما يجعله مناسبًا لمجموعات البيانات الكبيرة.

4. النتائج التجريبية

تم تقييم الطريقة على مجموعات بيانات متنوعة من أرشيف UCR للسلاسل الزمنية (Shapes, Wave, Symbols) والتي تتضمن بيانات وظيفية أحادية ومتعددة المتغيرات.

• الأداء: حققت NeuralFLoC نتائج حالة الفن (SOTA) في كل من التسجيل (مقاسًا بـ Adjusted Total Variance, ATV) والتجميع (الدقة و Normalized Mutual Information).
• دراسات الاستئصال (Ablation Studies):
  • استبدال Neural ODE بالتشويه المنفصل (SrvfRegNet) أدى إلى تدهور الأداء بشكل كبير، مما يبرز أهمية التدفقات المستمرة.
  • إزالة أي من وحدتي التسجيل أو التجميع تسبب في انخفاض حاد في الأداء، مما يؤكد ضرورة الصيغة المشتركة.
• المتانة: أظهر النموذج متانة قوية تجاه:
  • البيانات المفقودة: حافظ على الأداء مع فقدان يصل إلى 20% من النقاط.
  • أخذ العينات غير المنتظم: أدى أداءً جيدًا على الشبكات ذات العينات غير المتساوية.
  • الضوضاء: ظل مستقرًا تحت مستويات ضوضاء غاوسية تصل إلى $\sigma=0.10$.
• القابلية للتوسع: نجحت في التوسع إلى حوالي 70,000 عينة مع حد أدنى من التدهور في الأداء.

5. الأهمية

تمثل NeuralFLoC تحولًا جذريًا في تحليل البيانات الوظيفية (FDA) من خلال توحيد التسجيل الهندسي والتعلم غير الخاضع للإشراف.

• فك الارتباط: تفصل بفعالية بين تباينات الطور وتباينات السعة، وهي خطوة حرجة غالبًا ما يتم تجاهلها أو التعامل معها بشكل سيئ في الطرق السابقة.
• المرونة: من خلال تجنب الافتراضات المعلمية المقيدة، يمكنها نمذجة التشوهات الزمنية المعقدة وغير الخطية الشائعة في الأنظمة البيولوجية والفيزيائية في العالم الحقيقي.
• العملية: تجعلها كفاءتها الحسابية ومتانتها قابلة للتطبيق على مجموعات البيانات الوظيفية الكبيرة، والمشوشة، وذات العينات غير المنتظمة حيث تفشل الطرق الإحصائية التقليدية.

باختصار، توفر NeuralFLoC حلاً مبدئيًا، وقابلاً للتوسع، وفعالاً للغاية لتحليل البيانات الوظيفية غير المتوافقة، مما يسد الفجوة بين مرونة التعلم العميق والصرامة الهندسية المطلوبة لتحليل البيانات الوظيفية.