Combining chains of Bayesian models with Markov melding

إليك ملخص تقني مفصل لورقة "الجمع بين سلاسل النماذج البايزية مع الدمج الماركوفي" (Combining chains of Bayesian models with Markov melding) من قبل ماندرسون وغودي (2022).

1. بيان المشكلة

يواجه ممارسو الاستدلال البايزي غالبًا تحدي دمج مصادر بيانات متعددة وغير متجانسة في نموذج مشترك واحد. وبينما يعد تحديد نموذج مشترك موحد أمرًا مثاليًا من الناحية النظرية، إلا أنه غالبًا ما يكون مستعصيًا حاسوبيًا أو صعبًا من الناحية المنهجية بسبب تعقيد هياكل البيانات.

• قصور الطرق الحالية: تسمح الأساليب القياسية مثل الدمج الماركوفي (Markov melding) (غودي وآخرون، 2019) بدمج النماذج الفرعية التي تشترك في كمية واحدة مشتركة ($\phi$) عبر جميع النماذج. ومع ذلك، تتضمن العديد من التطبيقات الواقعية هيكل سلسلة حيث يشترك النموذج الفرعي $m$ في كمية مع النموذج الفرعي $m-1$ وفي كمية مختلفة مع النموذج الفرعي $m+1$.
• الفجوة: لم يكن هناك إطار عمل عام لربط سلاسل النماذج الفرعية رسميًا مع:
  1. التعامل مع مجالات ودعامات (supports) متميزة للكميات المشتركة.
  2. التقاط التبعيات القبلية (prior dependencies) بين الكميات المشتركة المتجاورة.
  3. تجنب العبء الحسابي لضبط نموذج مشترك ضخم في خطوة واحدة.
  4. تجاوز استراتيجيات التقريب البسيطة (مثل استخدام التقديرات النقطية أو التقريبات الطبيعية للنماذج البعدية الفرعية) التي غالبًا ما تؤدي إلى استدلال منحاز أو مفرط في الثقة.

2. المنهجية: الدمج الماركوفي المتسلسل

يقترح المؤلفون الدمج الماركوفي المتسلسل، وهو امتداد لإطار الدمج الماركوفي الأصلي المصمم لـ $M$ من النماذج الفرعية المرتبة في سلسلة.

أ. توصيف النموذج

لنفترض وجود $M$ من النماذج الفرعية $p_m(\theta_m, Y_m)$ حيث يشترك النموذجان $m$ و $m+1$ في كمية مشتركة $\phi_{m \cap m+1}$.

• الكميات المشتركة: تُعرف بـ $\phi = (\phi_{1 \cap 2}, \phi_{2 \cap 3}, \dots, \phi_{M-1 \cap M})$.
• الاستبدال الهامشي: لدمج النماذج، وسع المؤلفون إجراء الاستبدال الهامشي. قاموا باستبدال التوزيعات القبلية الهامشية للكميات المشتركة في كل نموذج فرعي بـ توزيع قبلي مجمع $p_{pool}(\phi)$.
• النموذج المشترك المدمج: يتم بناء التوزيع المشترك النهائي عبر الجمع الماركوفي:
  $$p_{meld}(\phi, \psi, Y) = p_{pool}(\phi) \prod_{m=1}^M \frac{p_m(\phi_m, \psi_m, Y_m)}{p_m(\phi_m)}$$
  حيث $\psi_m$ هي المعلمات الخاصة بكل نموذج فرعي.

ب. بناء التوزيع القبلي المجمع

تتمثل المساهمة الحاسمة في تحديد كيفية تجميع التوزيعات القبلية عندما تختلف الكميات المشتركة بين النماذج الفرعية (على سبيل المثال، $\phi_{1 \cap 2}$ مقابل $\phi_{2 \cap 3}$). يقترح المؤلفون امتدادات لطرق التجميع القياسية:

1. التجميع اللوغاريتمي المتسلسل:
   $$p_{pool, \log}(\phi) \propto \prod_{m=1}^M p_m(\phi_m)^{\lambda_m}$$
   يسمح هذا بوجود تبعية بين مكونات $\phi$ لأن الحدود $p_m(\phi_m)$ غالبًا ما تحتوي على متغيرات متداخلة (على سبيل المثال، $p_2$ تحتوي على كل من $\phi_{1 \cap 2}$ و $\phi_{2 \cap 3}$).
2. التجميع الخطي المتسلسل: عملية من خطوتين حيث يتم تطبيق التجميع الخطي على الأزواج المتجاورة، ثم الضرب. ويشير المؤلفون إلى أن هذا يفترض الاستقلالية بين المكونات غير المتجاورة ما لم يتم التوسع عبر الكوبولا (copulas).
3. التجميع الديكتاتوري المتسلسل: طريقة لاختيار توزيع قبلي لنموذج فرعي واحد "سلطوي" لمكونات محددة من $\phi$ مع تجميع البقية، مما يحافظ على التبعيات حيثما وجدت في النموذج السلطوي.

ج. تقدير التوزيع البعدي (أخذ العينات متعدد المراحل)

غالبًا ما يكون ضبط النموذج المشترك الكامل مباشرة أمرًا غير ممكن. لذا يقترح المؤلفون أخذ عينات MCMC متعدد المراحل متوازي (تحديدًا لـ $M=3$ في أمثلتهم، ولكن قابل للتوسع):

• المرحلة الأولى (متوازية): يتم إجراء عمليات تشغيل MCMC مستقلة على "نماذج الأطراف" (مثل $p_1$ و $p_3$) لتوليد عينات من توزيعاتها البعدية الفرعية. يمكن موازاة هذه المرحلة وإعادة استخدام برمجيات النماذج الفرعية الموجودة (مثل Stan أو JAGS).
• المرحلة الثانية (التكامل): يستهدف أخذ عينات (Metropolis-within-Gibbs) التوزيع البعدي المدمج الكامل.
  • يتم سحب مقترحات لمعلمات نماذج الأطراف من عينات المرحلة الأولى.
  • يتم تحديث النموذج الفرعي الأوسط ($p_2$) باستخدام مقترحات قياسية.
  • احتمالية القبول: من المهم ملاحظة أن نسبة القبول في المرحلة الثانية تعتمد فقط على النموذج الفرعي الأوسط والتوزيع القبلي المجمع، مما يتجنب الحاجة إلى إعادة تقييم احتمالات (likelihoods) نماذج الأطراف في كل خطوة. وهذا يقلل التكلفة الحسابية بشكل كبير.

د. استراتيجية التقريب

تفصل الورقة أيضًا طريقة تستخدم التقريبات الطبيعية (Normal Approximations) للتوزيعات البعدية الفرعية. إذا أمكن تقريب التوزيعات البعدية للكميات المشتركة كأنها توزيعات طبيعية، فيمكن اشتقاق التوزيع البعدي المدمج تحليليًا (حتى النموذج الأوسط)، مما يسمح بأخذ عينات MCMC قياسية دون تعقيد تعدد المراحل.

3. المساهمات الرئيسية

1. الإطار النظري: صياغة منهجية "الدمج الماركوفي المتسلسل"، وتوسيع الدمج الماركوفي ليشمل التبعيات ذات الهيكل السلسي حيث لا تشترك جميع النماذج في نفس الكميات.
2. امتدادات تجميع التوزيعات القبلية: تطوير دوال تجميع لوغاريتمية وخطية قادرة على التعامل مع التوزيعات الهامشية المتداخلة والمتميزة، بما في ذلك طرق للحفاظ على الارتباطات القبلية بين روابط السلسلة المتجاورة.
3. الكفاءة الحسابية: تقديم أخذ عينات MCMC متعدد المراحل متوازي يتيح:
   • تجنب تقييم جميع النماذج الفرعية في وقت واحد.
   • إمكانية إعادة استخدام كود النماذج الفرعية الموجود.
   • تمكين الحوسبة المتوازية في المرحلة الأولى.
4. تقدير عدم اليقين: إثبات أن مراعاة عدم اليقين بالكامل في الكميات المشتركة (بدلاً من استخدام التقديرات النقطية) أمر بالغ الأهمية لتجنب الاستدلال المنحاز والمفرط في الثقة.

4. النتائج ودراسات الحالة

تم التحقق من صحة المنهجية باستخدام مثالين متميزين:

دراسة الحالة 1: نموذج السكان المتكامل (IPM) للبوم الصغير

• الإعداد: الجمع بين ثلاثة نماذج فرعية: الإمساك وإعادة الأسر ($p_1$)، تعداد السكان ($p_2$)، والخصوبة ($p_3$).
• الهدف: تقدير معدلات البقاء والتكاثر.
• النتائج:
  • أنتج النموذج المدمج المتسلسل نتائج متوافقة مع نموذج IPM المشترك الأصلي الموصوف بالكامل (والذي كان بمثابة الحقيقة الأرضية).
  • أدت طرق التجميع المختلفة (Product-of-Experts مقابل Logarithmic) إلى توزيعات بعدية متشابهة، مما يشير إلى أن البيانات كانت غنية بالمعلومات بما يكفي لتهميش تأثير اختيار التوزيع القبلي.
  • نجح أخذ العينات متعدد المراحل في محاكاة التوزيع البعدي المشترك الكامل، مما أكد صحة النهج الحسابي.

دراسة الحالة 2: تحليل البقاء مع أوقات الأحداث غير المؤكدة

• الإعداد: تحليل الوقت المستغرق حتى الفشل التنفسي (RF) في مرضى العناية المركزة:
  • $p_1$: نماذج بيانات نسبة P/F لاستخلاص وقت الحدث (كمية غير مؤكدة).
  • $p_2$: نموذج بقاء يستخدم وقت الحدث المستخلص كاستجابة.
  • $p_3$: نموذج طولي لإعطاء السوائل.
• التحدي: وقت الحدث هو دالة غير قابلة للعكس للمعلمات في $p_1$، مما يجعل النمذجة المشتركة القياسية صعبة.
• النتائج:
  • عدم اليقين مهم: كشفت مقارنة نهج الدمج المتسلسل مع نهج "الاستبدال" (plug-in) (تثبيت أوقات الأحداث عند تقديرات نقطية) عن فروق جوهرية.
  • أنتج نهج الاستبدال تقديرات منحازة ومفرطة في الثقة، خاصة بالنسبة للمعلمة التي تربط إعطاء السوائل بخطر البقاء ($\alpha$).
  • نجح نهج الدمج المتسلسل في نقل عدم اليقين متعدد الأنماط (multimodal) من استخلاص وقت الحدث إلى نموذج البقاء، مما أدى إلى فترات ثقة أوسع وتحولات في أنماط التوزيع البدي (posterior modes).
  • نجح أخذ العينات متعدد المراحل في التعامل مع العقبة الحسابية المتمثلة في حل مشكلة تحسين وقت الحدث في المرحلة الأولى فقط، ومعاملتها كخطوة معالجة لاحقة في المرحلة الثانية.

5. الأهمية

تقدم هذه الورقة حلاً قويًا وقابلًا للتعميم لـ الاستدلال البايزي المجزأ. تكمن أهميتها في:

• القابلية للتوسع: تسمح ببناء أنظمة معقدة من نماذج فرعية أصغر وأسهل في الإدارة دون التضحية بدقة الاستدلال البايزي الكامل.
• المرونة: تستوعب أنواعًا متنوعة من البيانات (مثل بيانات العد، بيانات البقاء، البيانات الطولية) والتبعيات المعقدة (السلاسل) التي كان من الصعب توحيدها سابقًا.
• العملية: من خلال تمكين إعادة استخدام كود النماذج الفرعية وتوازي الحوسبة، فإنها تخفض حاجز الدخول للنمذجة المتكاملة المعقدة.
• النزاهة الإحصائية: تسلط الضوء على مخاطر مناهج "المرحلتين" التي تتجاهل عدم اليقين في الكميات الوسيطة، وتقدم بديلاً مبنيًا على أسس سليمة يحافظ على التوزيع البدي الكامل.