Axiomatic Foundations of Counterfactual Explanations
تقدم هذه الورقة إطاراً بديهياً يضع نظريات الاستحالة والتمثيل لتوصيف خمس عائلات متميزة من التفسيرات المضادة للواقع بشكل منهجي، مما يسد الفجوة بين القابلية للتفسير المحلية والعالمية في الأنظمة ذاتية التشغيل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقف أمام آلة بيع ذاتي متطورة وغامضة. تضع نقودك، تضغط على زر، فتعطيك المشروب الغازي. ولكن بعد ذلك، تسأل: "لماذا لم أحصل على عصير؟"
تحاول معظم أدوات الشرح في الذكاء الاصطناعي الحالية الإجابة على هذا السؤال من خلال النظر في معاملتك الخاصة. تقول لك: "حسناً، لقد وضعت دولاراً واحداً، لكن سعر العصير هو 1.50 دولار". هذا هو الشرح المحلي (Local Explanation). إنه مفيد، لكنه يخبرك فقط عن هذه اللحظة المحددة.
الورقة البحثية التي قدمتها، "الأسس البديهية للتفسيرات المقابلة للواقع" (Axiomatic Foundations of Counterfactual Explanations) لـ "أمغودد وكوبر"، تجادل بأننا كنا ننظر إلى هذه المشكلة بضيق شديد. لقد بنوا "قاعدة قواعد" جديدة (إطار بديهي) لتصنيف كل الطرق الممكنة التي يمكن للذكاء الاصطناعي بها شرح قراراته، وليس فقط تلك التي نراها عادةً.
إليك تفصيل لنتائجهم بكلمات بسيطة:
1. العائلتان الكبيرتان من التفسيرات
اكتشف المؤلفان أن جميع التفسيرات المقابلة للواقع (الإجابات على سؤال "لماذا لا؟") تقع في معسكرين رئيسيين، مثل طريقتين مختلفتين لحل لغز ما:
معسكر "الضرورة" (القطعة المفقودة):
- المنطق: "إذا أزلت هذا الشيء المحدد، ستتغير النتيجة."
- الاستعارة: تخيل كعكة لم ترتفع. التفسير الضروري يقول: "الكعكة لم ترتفع لأنك نسيت مسحوق الخبز". لو لم تكن قد نسيت المسحوق، لربما ارتفعت الكعكة. إنه يحدد المكون الحرج الذي كان موجوداً وتسبب في النتيجة الحالية.
- العيب: أحياناً، لا توجد "قطعة مفقودة" واحدة. على سبيل المثال، إذا رُفض طلب قرض بسبب مزيج معقد من الدخل المنخفض و الائتمان السيئ، فإن إزالة أحدهما فقط قد لا تكون كافية لضمان النتيجة "نعم". في هذه الحالات، قد لا توجد تفسيرات ضرورية على الإطلاق.
معسكر "الكفاية" (المفتاح السحري):
- المنطق: "إذا أضفت أو غيرت هذا الشيء المحدد، ستتغير النتيجة بالتأكيد."
- الاستعارة: تخيل مفتاح ضوء. التفسير الكافي يقول: "إذا ضغطت هذا المفتاح، سيضيء النور". لا يهم ما يحدث في الغرفة؛ ضغط المفتاح يضمن التغيير.
- العيب: غالباً ما يكون هناك العديد من المفاتيح التي يمكنك ضغطها. يمكنك ضغط المفتاح، أو استبدال المصباح، أو إحضار مصباح يدوي. هذا النوع من التفسير يضمن نتيجة، ولكنه قد يكون مربكاً لأن هناك خيارات كثلة.
2. الأنواع الخمسة من التفسيرات
لم يكتفِ المؤلفان بـ "الضرورة" مقابل "الكفاية" فحسب، بل قسما هذه الأنواع إلى خمسة أنواع متميزة بناءً على مدى صرامة أو اتساع القواعد. فكر في هذه الأنواع كأنها "شخصيات" مختلفة للمفسرين:
الضرورة العالمية (حافظ كتاب القواعد):
- ماذا يفعل: يشرح الآلة بأكملها، وليس طلبك المحدد فقط. يقول: "هذه الآلة دائماً تعطي مشروباً غازياً إذا كان الزر أحمر".
- من يساعد: الأشخاص الذين يريدون فهم المنطق العام للنظام.
- القصور: قد لا يوجد إذا كانت الآلة فوضوية للغاية (مثلاً: أحياناً الأحمر يعطي مشروباً غازياً، وأحياناً عصيراً).
الضرورة المحلية (المحقق المحدد):
- ماذا يفعل: ينظر إلى طلبك الخاص ويقول: "بالنسبة لحالتك تحديداً، حقيقة أنك ترتدي قبعة هي السبب في حصولك على المشروب الغازي".
- من يساعد: الأشخاص الذين يريدون معرفة ما الذي عنهم بالضبط تسبب في النتيجة.
- القصور: مثل النسخة العالمية، قد لا يوجد إذا كانت حالتك فريدة جداً.
الكفاية العالمية (محاكي "ماذا لو"):
- ماذا يفعل: ينظر إلى الآلة بأكملها ويقول: "إذا ضغط أي شخص الزر الأزرق، سيحصل على عصير".
- من يساعد: الأشخاص الذين يريدون معرفة ما هي التغييرات التي ستضمن نتيجة مختلفة لأي شخص.
- القصور: قد يقترح تغييرات ليست جزءاً من وضعك الحالي (مثلاً: "إذا كنت روبوتاً...").
الشك المحلي (المتشكك الصارم):
- ماذا يفعل: ينظر إلى طلبك ويقول: "إذا غيرت قبعتك إلى قطعة جديدة تماماً (شيء لا تملكه حالياً)، ستحصل على عصير".
- من يساعد: الأشخاص الذين يريدون معرفة ما هي الأشياء الجديدة التي يمكنهم القيام بها.
- القصور: قد لا يوجد إذا لم تكن هناك عناصر جديدة تضمن التغيير.
التفاؤل المحلي (المتفائل):
- ماذا يفعل: ينظر إلى طلبك ويقول: "إذا غيرت قبعتك إلى قبعة أخرى (حتى لو كانت تشبه الأولى تماماً)، فقد تحصل على عصير".
- من يساعد: هذا هو نوع التفسير الذي تستخدمه معظم أدوات الذكاء الاصطناك الحالية. إنه الأكثر مرونة ويضمن لك الحصول على إجابة.
- القصور: هو أقل "تمييزاً". قد يقترح تغييراً يعمل معك، لكنه قد لا يعمل مع شخص آخر.
3. القواعد "المستحيلة"
تثبت الورقة البحثية حقيقة رياضية رائعة: لا يمكنك الحصول على كل شيء.
لقد أظهروا أن بعض مجموعات "الصفات الجيدة" (مثل كونها مضمونة الوجود، أو كونها الأقصر، أو كونها حقيقية بصرامة للجميع) غير متوافقة رياضياً.
- الاستعارة: الأمر يشبه محاولة بناء سيارة تكون في نفس الوقت الأسرع، والأكثر أماناً، والأرخص ثمناً. قوانين الفيزياء (أو في هذه الحالة، المنطق) تقول إن عليك اختيار اثنتين فقط.
- النتيجة: إذا أردت تفسيراً موجوداً دائماً (مضمون)، فعليك التخلي عن كونه "الأقصر" أو "الأكثر تحديداً" الممكن. وإذا أردت التفسير "الأقصر"، فقد تحصل على إجابة لا توجد لبعض الناس.
4. لماذا هذا مهم؟
قبل هذه الورقة، كانت معظم أدوات الذكاء الاصطناعي مجرد مفسرات "محلية متفائلة" (النوع الخامس). كانت مثل المتفائل: تعطيك دائماً إجابة، لكنها لا تخبرك ما إذا كانت هذه هي الطريقة الوحيدة، أو ما إذا كانت هي الطريقة الأفضل.
هذه الورقة توفر خريطة. إنها تخبرنا:
- إذا كنت تريد فهم قواعد النظام، فابحث عن الأسباب العالمية الضرورية.
- إذا كنت تريد معرفة ما الذي غير نتيجتك بالضبط، فابحث عن الأسباب المحلية الضرورية.
- إذا كنت تريد فقط أي طريقة ممكنة للحصول على نتيجة مختلفة، فابحث عن الأسباب المحلية المتفائلة.
ملخص
المؤلفون لم يخترعوا أداة ذكاء اصطناعي جديدة؛ بل اخترعوا تصنيفاً (Taxonomy). لقد أثبتوا أن هناك خمس طرق أساسية ومختلفة لتفسير "لماذا لا؟"، وأنه لا يمكن لأداة واحدة أن تكون الأفضل في جميعها في وقت واحد. كما أظهروا أن معظم الأدوات الحالية هي مجرد نوع واحد محدد (النوع "المتفائل" أو الـ Credulous)، وأننا نفوت على أنفسنا أنواعاً أخرى من التفسيرات التي قد تكون أكثر فائدة لو عرفنا قواعدها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.