🤖 machine learning

Bayesian Conformal Prediction as a Decision Risk Problem

تقدم هذه الورقة التنبؤ التوافقي البايزي (BCP)، وهو إطار عمل يصيغ التنبؤ التوافقي كمسألة تحسين لمخاطر القرار لتوليد مجموعات تنبؤ ذات كثافة احتمالية قصوى، قد تكون منفصلة وفعالة، مع ضمانات تغطية للعينات المحدودة، حتى في ظل عدم ملاءمة النموذج.

المؤلفون الأصليون: Fanyi Wu, Veronika Lohmanova, Samuel Kaski, Michele Caprio

نُشر 2026-05-11

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Fanyi Wu, Veronika Lohmanova, Samuel Kaski, Michele Caprio

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك خبير أرصاد جوية تحاول التنبؤ بدرجة الحرارة غداً.

الطريقة القديمة (الأساليب البايزية القياسية):
تنظر إلى بياناتك وتقول: "أنا متأكد بنسبة 95% أن درجة الحرارة ستكون بين 60 و80 درجة فهرنهايت". هذا هو الفترة الموثوقة (Credible Interval). إنها عبارة عن كتلة واحدة صلبة من الأرقام.

المشكلة: ماذا لو كانت بياناتك تشير إلى أن درجة الحرارة ستكون إما باردة جداً (حوالي 40 درجة فهرنهايت) أو حارة جداً (حوالي 90 درجة فهرنهايت)، ولكنها نادراً ما تكون في المنتصف؟ فإن "الكتلة" التقليدية ستجبرك على تضمين النطاق المتوسط (50-85 درجة فهرنهايت) فقط لربط الطرفين ببعضهما. سينتهي بك الأمر بإعطاء نطاق واسع وغير مفيد يتضمن درجات حرارة مستحيلة فعلياً.

طريقة "التنبؤ التوافقي" القياسية (Conformal Prediction):
لإصلاح ذلك، ابتكر الإحصائيون ما يسمى التنبؤ التوافقي (Conformal Prediction). بدلاً من الثقة في نماذجهم الرياضية بشكل أعمى، يستخدمون نهج "شبكة الأمان". يأخذون مجموعة من البيانات الماضية، ويختبرون تنبؤاتهم، ثم يقولون: "حسناً، إذا وسعنا الشبكة بما يكفي للإمساك بالإجابة الصحيية 95% من المرات في الماضي، فسنفعل الشيء نفسه في المستقبل".

القصور: حتى مع وجود شبكة الأمان هذه، لا تزال معظم الطرق تستخدم "شبكة واحدة ثابتة الحجم". إذا كان الطقس متعدد الأنماط (أي بارد أو حار)، فإنها لا تزال تلقي شبكة ضخمة تغطي المساحة الفارغة في المنتصف، لمجرد الأمان.

ظهور: التنبؤ التوافقي البايزي (BCP)

يقترح مؤلفو هذه الورقة طريقة جديدة تسمى BCP. فكر فيها كأنها شبكة أمان ذكية ومتغيرة الشكل.

إليك كيف تعمل، مقسمة إلى مفاهيم بسيطة:

1. "صانع القرار" مقابل "القاعدة الثابتة"

في الطرق القياسية، يكون حجم شبكة الأمان الخاصة بك ثابتاً بواسطة قاعدة صارمة (مثل المسطرة). أما في BCP، فإن حجم الشبكة هو قرار.

التشبيه: تخيل أنك تقوم بتعبئة حقيبة سفر.
- الطريقة القياسية: لديك قاعدة تقول: "يجب أن أملأ الحقيبة بنسبة 50% تماماً". إذا كان لديك عنصران صغيران وثقيلان (درجات الحرارة الباردة والحارة)، فسيتعين عليك ملء المساحة الفارغة في المنتصف بقطع من الفلين (بيانات منخفضة الاحتمالية) فقط لتصل إلى نسبة 50%.
- طريقة BCP: لديك قاعدة تقول: "يجب أن أتأكد من أنني لم أترك أي شيء مهم خلفي، ولكن أريد أن تكون الحقيبة أصغر ما يمكن". يمكنك وضع العنصرين الثقيلين في زوايا منفصلة وترك المنتصف فارغاً. ستكون الحقيبة أصغر، لكنها لا تزال تحتوي على كل ما تحتاجه.

2. الشبكة "متغيرة الشكل" (مجموعات HPD)

هذه هي الخدعة الكبرى للورقة البحثية. عندما تكون البيانات "متعددة الأنماط" (أي لها قمتان أو أكثر، مثل مثال الطقس البارد/الحار)، تدرك BCP أنها ليست بحاجة إلى كتلة واحدة متصلة.

الاستعارة: بدلاً من حبل واحد طويل ومتصل، تستخدم BCP شبكتي صيد منفصلتين.
- شبكة واحدة تصطاد النتائج "الباردة".
- شبكة أخرى تصطاد النتائج "الحارة".
- وتترك الوسط "المعتدل" وشأنه.
النتيجة: يصبح الحجم الإجمالي لمجموعة التنبؤ أصغر بكثير (في تجاربهم، انخفض من متوسط 4.82 إلى 2.07)، مما يجعل التنبؤ أكثر دقة دون فقدان الدقة.

3. ضمان الأمان "PAC"

قد تتساءل: "إذا غيرت شكل الشبكة، فكيف تعرف أنها لا تزال آمنة؟"

التشبيه: تستخدم BCP "حزام أمان" إحصائياً يسمى PAC (صحيح تقريباً بشكل محتمل - Probably Approximately Correct).
حتى لو كان نموذج الطقس خاطئاً (غير دقيق في توصيف البيانات)، أو كانت البيانات غريبة، تضمن لك BCP أنه عبر محاولات عديدة، ستلتقط "شبكة الأمان" الإجابة الصحيحة 95% من الوقت على الأقل (أو أي هدف تحدده). هي لا تعتمد على كون النموذج مثالياً؛ بل تعتمد على كون رياضيات شبكة الأمان قوية ومتينة.

4. "المثبت" (التربيع البايزي - Bayesian Quadrature)

هناك جزء معقد. عندما تحاول العثور على الحجم المثالي لهذه الشبكات متغيرة الشكل، يمكن للرياضيات أن تصبح "مضطربة" وغير مستقرة، خاصة عند الحافة حيث يظهر "نمط" جديد (قمة جديدة في البيانات).

التشبيه: تخيل محاولة موازنة مكنسة على إصبعك. إذا كانت الأرضية متعرجة، سيكون الأمر صعباً.
الحل: تستخدم BCP أداة تسمى التربيع البايزي (Bayesian Quadrature). فكر فيها كـ "مثبت ذكي" أو "ممتص للصدمات". إنها تعمل على تنعيم الرياضيات المضطربة، مما يسمح للكمبيوتر بإيجاد أصغر حجم مثالي للشبكة دون الارتباك بسبب تعرجات البيانات.

ماذا أثبتوا بالفعل؟

اختبرت الورقة البحثية هذه الطريقة في ثلاث سيناريوهات رئيسية:

بيانات مرض السكري (الانحدار - Regression): اختبروا ما إذا كان بإمكان النموذج التنبؤ بتطور المرض.
- النتيجة: عندما أعطوا النموذج عمداً افتراضات سابقة "سيئة" (جعلته يعتقد أن البيانات مختلفة عما هي عليه)، فشلت الطرق البايزية القياسية فشلاً ذريعاً (دقة 49% فقط). لكن BCP أصلحت ذلك، وظلت قريبة من دقة 80% المستهدفة.
بيانات سرطان الثدي (التصنيف - Classification): اختبروا ما إذا كان بإمكان النموذج تصنيف الأورام على أنها حميدة أو خبيثة.
- النتيجة: كانت الطرق البايزية القياسية "حذرة" للغاية وأعطت مجموعات تنبؤ ضخمة وغير مفيدة (تغطية 98% بينما المطلوب 80%). قامت BCP بتضييق هذا النطاق ليصل إلى الحجم المستهدف مع البقاء آمنة.
بيانات "القمة المزدوجة" الوهمية (متعددة الأنماط): أنشأوا سيناريو وهمياً حيث كانت الإجابة بالتأكيد إما "أ" أو "ب"، ولكن ليس "ج" (المنتصف).
- النتيجة: تضمنت الطرق القياسية "ج" في التنبؤ، مما جعل المجموعة ضخمة. نجحت BCP في تجاهل "ج"، مما خلق مجموعتين منفصلتين وصغيرتين للتنبؤ. جعل هذا التنبؤات أكثر كفاءة بأكثر من الضعف (أصغر حجماً) مع بقائها صحيحة.

الملخص

التنبؤ التوافقي البايزي (BCP) هو أسلوب يجمع بين مرونة الإحصاء البايزي وضمانات الأمان للتنبؤ التوافقي.

الطريقة القديمة: "سأعطيك كتلة واحدة كبيرة ومتصلة من الإجابات لأكون آمناً".
طريقة BCP: "سأعطيك أصغر مجموعة ممكنة من الإجابات (حتى لو كانت في قطع منفصلة) التي يمكنني أن أضمن صحتها".

وهي مفيدة بشكل خاص عندما لا تكون الإجابة منحنى واحداً سلسًا، بل واقعاً "منقسماً" يحتوي على احتمالات متميزة متعددة.

ملخص تقني: التنبؤ التشكلي البايزي عبر اختيار العتبة القائم على نظرية القرار

1. بيان المشكلة

تواجه عملية تقدير عدم اليقين في تعلم الآلة مقايضة بين الصلاحية الإحصائية والكفاءة، لا سيما عندما تكون النماذج الاحتمالية الأساسية غير متوافقة مع النموذج (misspecified). توفر الطرق البايزية القياسية عدم يقين بعدي (posterior uncertainty)، ولكنها قد تفشل في الحفاظ على التغطية الاسمية عندما يكون النموذج غير صحيح. وفي المقابل، يوفر التنبؤ التشكلي (Conformal Prediction - CP) القياسي تغطية مضمونة في العينات المحدودة وخالية من التوزيع تحت فرضية التبادلية (exchangeability)، ولكنه يعتمد غالبًا على عتبة مئينية ثابتة واحدة. هذه العتبة الثابتة تنتج عادةً مجموعات تنبؤ متصلة (فترات)، وهو ما قد يكون غير كفء عندما يكون التوزيع التنبئي البعدي متعدد الأنماط (multimodal). في مثل هذه الحالات، تضطر الطرق القياسية إلى الامتداد عبر مناطق الكثافة المنخفضة بين الأنماط المنفصلة للحفاظ على الصلاحية، مما يؤدي إلى مجموعات تنبؤ كبيرة بشكل غير ضروري.

المشكلة الجوهرية التي يتم معالجتها هي ما إذا كان يمكن تحسين العتبات التشكلية باستخدام التوزيعات التنبئية البعدية البايزية لإنتاج مجموعات تنبؤ تكيفية هندسيًا (تحديدًا مجموعات أعلى كثافة بعدية أو HPD) تظل صالحة حتى في حالة عدم توافق النموذج.

2. المنهجية: التنبؤ التشكلي البايزي (BCP)

يقترح المؤلفون التنبؤ التشكلي البايزي (BCP)، وهو إطار عمل يعيد صياغة التنبؤ التشكلي كمسألة تحسين مخاطر القرار (decision-risk optimization). بدلاً من قبول عتبة مئينية ثابتة، يعامل BCP العتبة $\lambda$ كمتغير قرار لتقليل حجم مجموعة التنبؤ المتوقع مع استيفاء قيد تغطية من نمط PAC (التعلم التقريبي الصحيح تقريبًا).

المكونات الرئيسية

درجات عدم التوافق البايزية:
يستخدم BCP درجات مشتقة من الكثافة التنبئية البعدية:
$s(x, y) = -\log \hat{p}(y \mid x, D_{tr})$
تتضمن هذه الدرجات كلاً من عدم اليقين في المعلمات وعدم اليقين التنبئي. ولحساب ذلك بكفاءة دون الحاجة لإعادة ضبط النموذج لكل نقطة معايرة، يستخدم المؤلفون إعادة وزن إضافة الواحد (Add-One-In - AOI) عبر أخذ العينات بالاستبانة (importance sampling). تعمل هذه الطريقة على إعادة وزن عينات البعدي الموجودة لتقريب الكثافة التنبئية عند أي $(x, y)$ ، مما يضمن بقاء دالة الدرجة ثابتة بالنسبة لبيانات المعايرة للحفاظ على التبادلية.
التحكم في المخاطر بنمط PAC (إحصائية $L_+$ ):
لفرض الصلاحية، يتبنى BCP إطار عمل التحكم في المخاطر التشكلي (CRC). حيث يستخدم إحصائية $L_+$ ، التي تضع حدًا علويًا عشوائيًا لمخاطر عدم التغطية الحقيقية. يتم اختيار العتبة $\lambda^*$ بحيث يكون:
$P_D(P_{(X,Y)}(Y \notin C(X; \lambda)) \le \alpha) \ge 1 - \beta$
هذا يضمن تغطية قدرها $1-\alpha$ باحتمال لا يقل عن $1-\beta$ عبر عشوائية بيانات المعايرة، مما يوفر المتانة حتى لو كان النموذج البايزي غير متوافق.
التربيع البايزي (BQ) لتقدير الكفاءة:
غالبًا ما تكون دالة الهدف $g(\lambda) = E_X[|C(X; \lambda)|]$ (حجم المجموعة المتوقع) غير قابلة للحل حسابيًا. يقوم BCP بتقديرها باستخدام التربيع البايزي، عبر وضع مسند غاوسي (Gaussian Process prior) على الخريطة $\lambda \mapsto g(\lambda)$ .

دورها في الإعدادات القائمة على العتبة: يقلل BQ من ضجيج التقدير عند تحديد أصغر عتبة ممكنة.
دورها في إعدادات HPD: في التوزيعات متعددة الأنماط، تتغير هندسة مجموعات HPD بشكل مفاجئ (تظهر أو تختفي مكونات منفصلة) عندما تعبر $\lambda$ مستويات كثافة حدود الأنماط. يتسبب هذا في تباين عالٍ في تقديرات مونت كارلو الساذجة. يعمل BQ على تثبيت تقدير $g(\lambda)$ بالقرب من هذه الانقطاعات، مما يسمح باختيار العتبة المثلى بشكل موثوق.

الهندسة التكيفية (مجموعات HPD):
على عكس طرق Split-CP أو CQR التي تفرض فترات متصلة، يبني BCP مجموعات التنبؤ بناءً على المجموعات فوق المستوى (superlevel sets) للكثافة التنبئية البعدية:
$C_{HPD}(x; \lambda) = \{y : \hat{p}(y \mid x, D_{tr}) \ge e^{-\lambda}\}$
تحت التوزيعات البعدية متعددة الأنماط، يمكن أن تكون هذه المجموعات منفصلة، حيث تركز الكتلة الاحتمالية على المناطق عالية الكثافة المنفصلة وتتجنب وديان الكثافة المنخفضة.

3. المساهمات الرئيسية

الصياغة القائمة على نظرية القرار: صاغ البحث التنبؤ التشكلي كمسألة تحسين حيث العتبة هي متغير قرار يقلل حجم المجموعة المتوقع مع الالتزام بقيد تغطية من نمط PAC.
التكيف الهندسي: من خلال استخدام الكثافات التنبئية البعدية، ينتج BCP مجموعات تنبؤ HPD يمكن أن تكون منفصلة في ظل التوزيعات متعددة الأنماط، مما يحسن الكفاءة بشكل كبير مقارنة بالطرق ذات الفترات المتصلة.
المتانة تجاه عدم توافق النموذج: يفصل الإطار العملي بين الصلاحية وصحة النموذج. فبينما تفشل الفترات الائتمانية البايزية (BCI) عند عدم توافق المسند (prior)، يستعيد BCP التغطية الاسمية عبر قيد $L_+$ .
الاختيار المستقر للعتبة: يعالج دمج التربيع البايزي عدم الاستقرار في تقدير دالات الهدف بالقرب من حدود الأنماط في الإعدادات متعددة الأنماط.

4. النتائج التجريبية

قيم المؤلفون BCP في مهام الانحدار، التصنيف، وتحول التوزيع مقابل نماذج مرجعية تشمل Split-CP و CQR و BCI و CB و Snell-HPD.

الانحدار (مجموعة بيانات Diabetes): تحت عدم توافق المسند ( $c=0.02$ )، انهارت تغطية BCI إلى 49.2%، بينما حافظ BCP على تغطية 80.0%. حقق BCP التغطية المستهدفة بفترة أوسع قليلاً من Snell-HPD بسبب تحسين الكفاءة الصريح، لكنه تفوق بشكل كبير على BCI في الصلاحية.
التصنيف (سرطان الثدي): بالغت BCI في التغطية بشكل كبير (98.9% مقابل 80% مستهدفة). حقق BCP تغطية 82.5% مع متوسط حجم مجموعة قدره 0.829، مما أظهر تحكمًا فعالًا في الكفاءة والصلاحية.
الانحدار الاصطناعي متعدد الأنماط: تسلط هذه الحالة الضوء على الميزة الرئيسية لـ BCP. أنتجت طرق الفترات القياسية (Split-CP, CQR) مجموعات متصلة تمتد عبر وادي الكثافة المنخفضة بين الأنماط، مما أدى إلى متوسط أحجام بلغ ~4.8. استخدم BCP و Snell-HPD مجموعات HPD منفصلة، مما قلل المتوسط إلى 2.07 (تحسن ذو دلالة إحصائية، $p < 0.0001$ ). حقق BCP معدل نجاح في اختبار PAC قدره 0.80، محققًا الهدف، بينما أخفق Snell-HPD قليلاً (0.78).
التصنيف عالي الأبعاد (ImageNet-A): في إعداد أحادي النمط حيث يكون حجم المجموعة المتوقع رتيبًا في العتبة، استعاد BCP نفس الحل الذي قدمه Snell-HHD (متوسط حجم مجموعة 40.3 مقابل أكثر من 122 للطرق الهامشية). يؤكد هذا أن مكاسب الكفاءة في BCP مدفوعة بالقدرة على التعامل مع الهندسات المعقدة متعددة الأنماط وليس فقط بقيد PAC.

5. الأهمية والادعاءات

يزعم البحث أن BCP يوفر إطار عمل قويًا لتقدير عدم اليقين يجمع بين ضمانات الصلاحية للتنبؤ التشكلي والقدرة على التكيف الهندسي للاستدلال البايزي.

الصلاحية: تضمن الطريقة تغطية في العينات المحددة تحت فرضية التبادلية، بغض النظر عن صحة النموذج.
الكفاءة: المساهمة الرئيسية في الكفاءة هي القدرة على بناء مجموعات تنبؤ منفصلة في السيناريوهات متعددة الأنماط، وتجنب "عقوبة الكثافة المنخفضة" المتأصلة في طرق الفترات المتصلة.
النطاق: يشير المؤلفون إلى أنه في إعدادات العتبة المتداخلة القياسية (الانحدار أحادي النمط، التصنيف القياسي)، يستعيد BCP أصغر عتبة ممكنة ويتماشى مع الطرق القائمة على PAC. تظهر الميزة المتميزة تحديدًا عندما يكون التوزيع التنبئي متعدد الأنماط.
القيود: يرث BCP التكلفة الحسابية للاستدلال البعدي (يتطلب عينات MCMC وإعادة وزن AOI). ويقر المؤلفون بأن التوسع إلى مجموعات بيانات ضخمة جدًا أو مساحات تسمية عالية الأبعاد يظل تحديًا مفتوحًا.

باخت-صار، يقدم BCP نهجًا مبدئيًا لبناء مجموعات تنبؤ تكون صالحة إحصائيًا تحت عدم توافق النموذج، وفعالة هندسيًا في المشاهد التنبئية المعقدة ومتعددة الأنماط.