Choosing with unknown causal information: Action-outcome probabilities for decision making can be grounded in causal models

إليك ملخص تقني مفصل لورقة البحث: "الاختيار مع معلومات سببية غير معروفة: يمكن تأسيس احتمالات الفعل والنتيجة لاتخاذ القرار على نماذج سببية" من إعداد ماوريسيو غونزاليس سوتو وآخرون.

1. بيان المشكلة

تعالج الورقة فجوة جوهرية في نظرية القرار تتعلق بـ أصل احتمالات الفعل والنتيجة.

• السياق: توفر نظرية القرار الكلاسيكية (فون نيومان-مورجنسترن وسافاج) معياراً رسمياً للاختيار العقلاني وهو: تعظيم المنفعة المتوقعة (MEU). ومع ذلك، تعتمد هذه الأطر على معلومات ترابطية (احتمالية) دون تحديد مصدر الاحتمالات المستخدمة.
• الفجوة: بينما ينخرط البشر طبيعياً في الاستدلال السببي (التمييز بين ملاحظة حدث ما وبين التدخل للتسبب فيه)، فإن نظرية القرار القياسية غالباً ما تعامل الاحتمالات كترابطات إحصائية بحتة.
• التحدي:
  1. كيف يمكن صياغة اتخاذ القرار عندما تكون المعلومات السببية معروفة (وهو ما عالجه جوديا بيرل بالفعل).
  2. كيف يمكن صياغة اتخاذ القرار عندما تكون الآلية السببية التي تحكم البيئة غير معروفة للوكيل العقلاني.
  3. كيف يمكن تأسيس الاحتمالات المطلوبة لتعظيم المنفعة المتوقعة (MEU) في النماذج السببية بدلاً من البيانات الرصدية فقط، لا سيما في حالات المعرفة السببية الناقصة.

2. المنهجية والإطار النظري

يبني المؤلفون جسراً بين نظرية القرار الكلاسيكية والاستدلال السببي (تحديداً النماذج الرسومية السببية لبيرل).

أ. التعريفات الأساسية

• البيئة السببية: تُعرف بأنها بيئة غير مؤكدة $(\Omega, A, C, E)$، ممتدة بـ نموذج رسومي سببي (CGM) $G$. يرمز الـ CGM إلى العلاقات السببية بين الأفعال ($A$) والنتائج ($C$) بالإضافة إلى متغيرات بيئية أخرى.
• التدخل ($do(\cdot)$): هي الآلية الجوهرية التي تميز النماذج السببية عن النماذج الترابطية. يُنمذج الفعل $a$ كتدخل $do(a)$، والذي يعدل التوزيع المشترك للمتغيرات عن طريق تثبيت قيمة متغير ما وإزالة الحواف الواردة إلى ذلك العقدة في الرسم البياني.
• مشكلة القرار السببي (CDP): هي زوج مرتب $(\Omega, A, G, E, C, \succeq)$، حيث يختار صانع القرار فعلاً لتعظيم المنفعة بناءً على النموذج السببي.

ب. النهج النظري

تسير الورقة في خطوتين رئيسيتين:

1. نظرة عامة على المعلومات السببية المعروفة: تقر الورقة بنتيجة بيرل (2009) بأن الوكيل العقلاني الذي يمتلك نموذجاً سببياً معروفاً $G$ يختار الفعل $a^*$ لتعظيم $\sum P_G(c | do(a))u(c)$.
2. التوسع ليشمل المعلومات السببية غير المعروفة: المساهمة المنهجية الجوهرية هي التوسع في هذا السيناريو حيث لا يعرف الوكيل النموذج السببي الحقيقي $G$.
   • الفرضية: الوكيل العقلاني الذي يمتلك بنية سببية غير معروفة يحمل اعتقادات ذاتية حول عائلة من النماذج السببية المحتملة ($\mathcal{F}$).
   • الآلية: يأخذ الوكيل في الاعتبار كل بنية سببية محتملة $g \in \mathcal{F}$ كحقيقة محتملة، ويحسب المنفعة المتوقعة ضمن تلك البنية باستخدام عامل الـ $do$، ثم يجمع هذه المنافع بوزن الاحتمالية التي ينسبها لكل بنية.

3. المساهمات الرئيسية

أ. النظرية 4.2: اتخاذ القرار مع النماذج السببية غير المعروفة

المساهمة النظرية الرئيسية للورقة هي النظرية 4.2، والتي تقدم نظرية تمثيل لاتخاذ القرار العقلاني في ظل معلومات سببية غير معروفة.

• البيان: تكون علاقة التفضيل $\succeq$ على الأفعال في مشكلة قرار سببية محدودة ومنتهية عقلانية إذا وفقط إذا وجد:

  1. دالة منفعة $u: C \to \mathbb{R}$.
  2. توزيع احتمالي $P_C$ على عائلة غير فارغة من النماذج الرسومية السببية $\mathcal{F}$.

• قاعدة القرار: يختار الوكيل الفعل $a$ على $b$ إذا وفقط إذا كان:
  $$\sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(a)) P_C(g) \right) \geq \sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(b)) P_C(g) \right)$$
  حيث أن:

  • $P_C(g)$ هو اعتقاد الوكيل الذاتي بأن البنية السببية $g$ هي النموذج الحقيقي.
  • $P_g(c | do(a))$ هو احتمال النتيجة $c$ بشرط التدخل $do(a)$*ضمن* النموذج السببي المحدد$g$.

• الأهمية: يثبت هذا أن احتمالات الفعل والنتيجة يمكن تأسيسها في النماذج السببية حتى عندما تكون الآلية السببية المحددة غير معروفة. إن "الاحتمال" المستخدم في حساب المنفعة المتوقعة هو توزيع مختلط عبر الهياكل السببية.

ب. تعريف توازن ناش السببي

يطبق المؤلفون النظرية 4.2 على نظرية الألعاب لتعريف توازن ناش السببي.

• السياق: في لعبة استراتيجية بايزية، يمتلك اللاعبون معلومات غير كاملة حول النموذج السببي الحقيقي $\omega$ الذي يحكم البيئة.
• التعريف: يكون ملف الأفعال $a^*$ هو توازن ناش سببي إذا لم يستطع اللاعب $i$ تحسين منفعته السببية المتوقعة ($u^C_i$) من خلال تغيير فعله بشكل أحادي الجانب، بالنظر إلى معتقداته حول البنية السببية وأفعال الآخرين.
• الصيغة:
  $$u^C_i(a) = \sum_{c \in C} u_i(c) \sum_{\omega \in \Omega} P^\omega_i(c | do(a_i), a_{-i}) P_i(\omega)$$
  هذه الصيغة تدمج عامل $do$بشكل صريح، وبالتالي تختلف عن توازنات ناش القياسية التي تعتمد على الاحتمالات الشرطية$P(c | a_i, a_{-i})$.

4. النتائج

1. التأسيس الرسمي: نجحت الورقة في إثبات أن الاحتمالات المطلوبة لمبدأ المنفعة المتوقعة يمكن اشتقاقها من النماذج السببية، مما يحل الجدل حول "أصل" هذه الاحتمالات.
2. التعميم: تعمم النتيجة معيار بيرل للنماذج السببية المعروفة لتشمل سيناريو أكثر واقعية وهو الآليات السببية غير المعروفة.
3. القابلية للتنفيذ الحسابي: يوفر الإطار معياراً قابلاً للتنفيذ حسابياً. يمكن للوكيل تعلم توزيع على الهياكل السببية (على سبيل المثال، عبر خوارزميات تعلم البنية) واستخدام الصيغة المستمدة لاتخاذ قرارات مثلى.
4. التوسع في نظرية الألعاب: تثبت الورقة أن مفاهيم نظرية الألعاب مثل توازن ناش يمكن توسيعها بصرامة إلى بيئات يمارس فيها الوكلاء استدلالاً سببياً بدلاً من الاستدلال الترابطي.

5. الأهمية والآثار المترتبة

• الربط بين الذكاء الاصطناوي والفلسفة: يربط هذا العمل بين الجدل الفلسفي بين نظرية القرار السببي (CDT) ونظرية القرار الدليلي (EDT) وبين اتخاذ القرار في التعلم الآلي والذكاء الاصطناعي العملي. فهو يقدم تبريراً رياضياً لسبب وجوب استخدام الوكلاء للاستدلال السببي.
• المتانة تجاه التحولات التوزيعية: من خلال تأسيس القرارات في الآليات السببية (التدخلات) بدلاً من الارتباطات، فإن الإطار أكثر متانة نظرياً تجاه التغيرات في البيئة (التحولات التوزيعية) حيث قد تفشل النماذج الترابطية البحتة.
• الذكاء الاصطناوي المتمحور حول الإنسان: بما أن البشر يستخدمون الاستدلال السببي بشكل طبيعي (ويميلون إلى تجاهل المعلومات الاحتمالية البحتة لصالح التفسيرات السببية)، فإن هذا الإطار يقدم أساساً أكثر "توافقاً مع البشر" لتصميم وكلاء ذكاء اصطناعي عقلانيين.
• التفاعل الاستراتيجي: يفتح تقديم "توازن ناش السببي" آفاقاً جديدة لتحليل التفاعلات الاستراتيجية في الاقتصاد وأنظمة متعددة الوكلاء حيث تكون الديناميكيات السببية الكامنة غير مؤكدة.

الخاتية

تجادل الورقة بأن اتخاذ القرار العقلاني تحت ظروف عدم اليقين هو عملية سببية في الأساس. ومن خلال توسيع مبدأ المنفعة المتوقعة ليشمل توزيعاً على النماذج السببية، يقدم المؤلفون أساساً رياضياً صارماً لاتخاذ القرار عندما تكون الآليات السببية غير معروفة، مما يضمن تأسيس احتمالات الفعل والنتيقة في الواقع الهيكلي للبيئة بدلاً من مجرد الارتباط الإحصائي.