Bayesian local clustering of functional data via semi-Markovian random partitions

إليك ملخص تقني مفصل لورقة البحث بعنوان "التجميع البايزي المحلي للبيانات الوظيفية عبر التقسيمات العشوائية شبه الماركوفية" من إعداد جيوفاني توتو وأنتونيو كانالي.

1. بيان المشكلة

غالبًا ما يتضمن تحليل البيانات الوظيفية (FDA) تجميع المنحنيات أو الأسطح المعرفة على مجال مستمر. تعتمد طرق التجميع التقليدية عادةً على التجميع العالمي (Global Clustering)، حيث يتم تخصيًم ملاحظة وظيفية كاملة إلى عنقود واحد. ومع ذلك، غالبًا ما تظهر البيانات الوظيفية تباينًا محليًا (Local Heterogeneity)، حيث تنتمي أجزاء مختلفة من نفس المنحنى إلى مجموعات مختلفة (على سبيل المثال، قد تتصرف المنحنيات بشكل متشابه عند حدود النطاق ولكنها تتباعد في المركز).

تواجه النهج الحالية للتجميع المحلي قيودًا:

• نماذج ماركوف الخفية (HMMs): تُستخدم غالبًا لنمذجة تطور العناقيد، لكنها تفرض تبعيات ماركوفية من الدرجة الأولى صارمة قد لا تتوافق مع خصائص الدعم المحلي لتوسيعات الأساس (Basis Expansions).
• نماذج التقسيم العشوائي المعتمدة القياسية (مثل tRPM): رغم مرونتها، إلا أن نماذج التقسيم العشوائي الزمني القياسية (tRPM) تفترض عادةً تبعية من الدرجة الأولى. وهي تواجه صعوبة في التقاط المتطلب المحدد المتمثل في أن الدالة يتم تحديدها محليًا بواسطة كتلة من معاملات الأساس المتجاورة (مثل $d+1$ معامل لـ B-spline من الدرجة $d$)، وليس مجرد معامل واحد.

يهدف المؤلفون إلى تطوير إطار عمل لـ التجميع المحلي غير المباشر الذي يحترم خصائص الدعم المحلي لتوسيعات أساس B-spline، مما يسمح بسلوكيات وظيفية متطابقة جزئيًا دون الاعتماد على افتراضات ماركوفية مقيدة.

2. المنهجية

يجمع إطار العمل المقترح بين توسيعات أساس B-spline ونموذج التقسيم العشوائي شبه الماركوفي (smRPM) المبتكر.

أ. التمثيل الوظيفي

يتم تقريب الملاحظات الوظيفية $y_i(x)$ باستخدام أساس B-spline من الدرجة $d$:
$$y_i(x) \approx \sum_{k=1}^K b_k(x) \theta_{ik}$$
حيث $\theta_i$ هو متجه معاملات الأساس.

• منطق التجميع المحلي: نظرًا للدعم المحلي لـ B-splines، يتم تحديد المنحنى بالكامل ضمن فترة فرعية بواسطة $d+1$ من المعاملات المتجاورة. لذلك، يكون المنحنيان متطابقين محليًا إذا تشاركا $d+1$ من المعاملات المتجاورة.
• البنية الكامنة: بدلاً من تسمية العنقود العالمية $c_i$، يستخدم النموذج مصفوفة من تسميات العناقيد المحلية $C = (c_{ik})$، حيث تشير $c_{ik}$ إلى تخصيص العنقود للمعامل $k$ للمنحنى $i$.

ب. نموذج التقسيم العشوائي شبه الماركوفي (smRPM)

الابتكار الجوهري هو الـ smRPM، وهو تعميم لـ tRPM يقدم تبعية من درجات أعلى لتتناسب مع درجة B-spline.

1. تطور التقسيم: يحدد النموذج تسلسلًا من التقسيمات $\rho_1, \dots, \rho_K$ تتطور عبر مؤشر الأساس $k$.
2. المتغيرات المساعدة ($\gamma$): للتحكم في التطور، تم إدخال متغيرات كامنة ثنائية $\gamma_{ik}$.
   • $\gamma_{ik} = 1$ تعني أن الوحدة $i$ "مقيدة" ولا يمكن إعادة تخصيصها خلال الانتقالات الـ $d_\rho$ التالية.
   • هذا يخلق استمرارية (Persistence) من الدرجة $d_\rho$، مما يضمن بقاء تخصيصات العناقيد مستقرة عبر كتلة من المعاملات، بما يتوافق مع دعم B-spline.
3. بنية التبعية:
   • تبعية التقسيم ($d_\rho$): يعتمد احتمال التقسيم عند الخطوة $k$ على التقسيم السابق والمتغيرات المساعدة من الخطوات $d_\rho$ السابقة. هذا يخفف من فرضية ماركوف من الدرجة الأولى.
   • تبعية المتغير المساعد ($d_\gamma$): يقترح المؤلفون نموذجًا ذاتي الانحدار لوجستي للمتغيرات المساعدة نفسها. يعتمد احتمال $\gamma_{ik}$ على القيم السابقة لـ $\gamma_{i, \cdot}$ بمقدار $d_\gamma$. هذا يلتقط التبعيات في آلية "القيد" نفسها.
4. الفرض القبلي للمعاملات: يتم نمذجة معاملات الأساس $\theta^*_{kj}$ للعنقود $j$ عند الأساس $k$ بشكل هرمي. المتوسط القبلي لها هو متوسط مرجح للمعاملات من العناقيد عند $k-1$ التي تندمج في العنقود $j$، مما يضمن النعومة والاستمرارية عبر حدود العناقيد.

ج. الاستدلال

يتم إجراء الاستدلال البعدي عبر أخذ عينات جيبس (Gibb's Sampling). استنتج المؤلفون التوزيعات الشرطية الكاملة لكل من:

• تسميات التقسيم $c_{ik}$.
• المتغيرات المساعدة $\gamma_{ik}$.
• المعلمات الفائقة (Hyperparameters) التي تحكم تبعية $\gamma$ (باستخدام طريقة Polson et al. لتعزيز البيانات للارتباط اللوجستي إذا كان $d_\gamma > 0$).
• معاملات الأساس وتباين الضوضاء.

3. المساهمات الرئيسية

1. إطار عمل smRPM جديد: تقديم نموذج تقسيم عشوائي شبه ماركوفي يسمح بتبعية من الدرجة $d_\rho$ في التقسيمات وتبعية من الدرجة $d_\gamma$ في المتغيرات المساعدة. يعد هذا تقدمًا كبيرًا عن نماذج التقسيم المعتمدة من الدرجة الأولى (مثل tRPM) ونماذج ماركوف الخفية (HMMs).
2. التوافق مع خصائص B-Spline: يطابق النموذج صراحةً درجة التبعية ($d_\rho$) مع درجة أساس B-spline. يضمن هذا أن "التجميع المحلي" متسق رياضيًا مع تعريف الدعم المحلي لـ B-spline (الذي يتطلب $d+1$ من المعاملات المشتركة للهوية المحلية).
3. نمذجة تبعية مرنة: من خلال إدخال تبعية ذاتية الانحدار في المتغيرات المساعدة ($d_\gamma$)، يتجنب smRPM الافتراض غير الواقعي للاستقلالية الموجود في نماذج التقسيم المعتمدة السابقة.
4. قابلية التطبيق العامة: بينما كان الدافع وراءه هو البيانات الوظيفية، يتم تقديم smRPM كأداة عامة لأي مشكلة تتضمن تسلسلات من التقسيمات المعتمدة حيث تكون التبعية من درجات أعلى مطلوبة.

4. النتائج

الدراسات المحاكاتية

• الأداء مقابل درجة التبعية: أجرى المؤلفون محاكاة قارنت بين smRPM مع قيم متغيرة لـ $d_\rho$ و $d_\gamma$.
  • النتيجة: النماذج التي تتوافق فيها $d_\rho$ مع درجة التبعية الحقيقية للبيانات تتفوق بشكل كبير على النماذج الماركوفية ($d_\rho=1$).
  • النتيجة: ضبط $d_\gamma = d_\rho$ يعطي عمومًا أفضل أداء وقوة، متفوقًا على الحالات التي يكون فيها $d_\gamma = 0$ (متغيرات مساعدة مستقلة).
  • المقارنة: يتفوق smRPM المقترح على tRPM القياسي ونموذج HMFLCM، خاصة في سيناريوهات أحجام العينات الصغيرة أو عندما يكون توصيف النموذج خاطئًا قليلاً (مثل خطأ في عدد دوال الأساس).
• المتانة: يظل النموذج فعالًا حتى لو اختلف عدد دوال الأساس المستخدمة في التقدير عن عملية توليد البيانات، طالما تم تحديد درجة التبعية بشكل صحيح.

تطبيق البيانات الحقيقية: مد وجزر بحيرة فينيسيا

• البيانات: قياسات مستوى المد والجزر بالساعة من 11 محطة مراقبة في بحيرة فينيسيا.
• السياق: حللت الدراسة الفترات التي كان فيها نظام حاجز الفيضانات MOSE نشطًا وغير نشط.
• النتائج:
  • العالمي مقابل المحلي: نجح النموذج في تحديد أن المحطات تتصرف بشكل عالمي متشابه عندما كان MOSE غير نشط، لكنها أظهرت سلوكيات محلية متميزة عندما كان نشطًا.
  • الدقة: بخلاف التجميع العالمي، اكتشف النموذج محطة معينة (العنقود الأحمر) حافظت على سلوك فريد طوال الفترة، بينما انقسمت المحطات الأخرى إلى مجموعات محلية مختلفة (الأزرق/الأصفر) أثناء أحداث المد العالي.
  • عدم اليقين: وفر الإطار البايزي التوزيعات البعدية لعدد العناقيد ($J_k$)، مما قدم تقييمًا احتماليًا لاستقرار التجميع بدلاً من مجرد تقدير نقطي واحد.

5. الأهمية والخاتمة

تعالج هذه الورقة فجوة حرجة في تجميع البيانات الوظيفية: عدم قدرة الطرق القياسية على التقاط السلوكيات المحلية والمتطابقة جزئيًا دون فرض افتراضات ماركوفية مقيدة للغاية.

• الأثر النظري: يوسع smRPM أدبيات التقسيمات المعتمدة من خلال إضفاء الطابع الرسمي على التبعيات من درجات أعلى، مما يوفر "فرضية قبلية" (Prior) أكثر مرونة للهياكل الهرمية المعقدة.
• الأثر العملي: توفر المنهجية أداة قوية لتحليل البيانات الوظيفية حيث تكون الميزات المحلية ذات أهمية (مثل الإشارات الطبية، المراقبة البيئية، المنحنيات المالية). يوضح تطبيق بحيرة فينيسيا قدرتها على كشف الأنماط المتغيرة زمنيًا الدقيقة التي قد تغفل عنها طرق التجميع العالمي.
• الاتجاهات المستقبلية: يقترح المؤلفون توسيع نموذج الضوضاء ليشمل العمليات الغاوسية (Gaussian Processes)، ودمج المتغيرات المساعدة في توزيع المتغيرات، واستكشاف عمليات EPPF بديلة مثل عملية Pitman-Yor لزيادة المرونة.

باخت-صار، يقدم الـ smRPM المقترح حلاً دقيقًا إحصائيًا وممكنًا حاسوبيًا للتجميع المحلي للبيانات الوظيفية، مستفيدًا من الهندسة الخاصة لقواعد B-spline لتحقيق أداء متفوق على الطرق الحالية المتطورة.