Realistic Counterfactual Explanations via Denial Constraints
تقترح هذه الورقة نهجاً مبتكراً لتوليد تفسيرات واقعية مضادة للواقع في مجال الذكاء الاصطناً القابل للتفسير عبر دمج قيود النفي من قواعد البيانات العلاقاتية لضمان التزام الحالات المولدة بقواعد صحة البيانات، مما يؤدي إلى تحسين القابلية للتطبيق العملي مع الحد الأدنى من المساومة في مقاييس المسافة والتنوع.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، تتخذ الآلات غالباً قرارات تؤثر على حياتنا، من الموافقة على القروض إلى تشخيص الأمراض. وعندما تقول هذه الأنظمة "لا"، فمن المفيد معرفة السبب. إحدى الطرق الشائعة لشرح القرار هي تخيل نسخة مختلفة قليلاً من الموقف التي كانت ستؤدي إلى نتيجة "نعم". فإذا رُفض طلب قرض، قد يكون من المفيد أن يشير التفسير إلى أن كسب المزيد من المال أو امتلاك درجة ائتمانية أعلى قليلاً كان سيغير النتيجة. تُسمى هذه البدائل المتخيلة بـ "الواقعات المضادة" (counterfactuals). وهي تعمل مثل كشاف الضوء، حيث توضح بالضبط أي السمات في الشخص أو الشيء كانت الأكثر أهمية لتقدير الآلة. ومع ذلك، لكي تكون هذه التفسيرات مفيدة حقاً، يجب أن تكون منطقية في العالم الحقيقي. فالتفسير الذي يقترح أن شقة صغيرة في مدينة مزدحمة يمكن أن تصبح فجأة مكونة من عشر غرف نوم هو أمر ممكن رياضياً ولكنه مستحيل مادياً. وإذا كانت التغييرات المقترحة غير واقعية، فإن التفسير يفشل في مساعدة الشخص على فهم وضعه أو إصلاحه.
لقد تصدى باحثون من جامعة تل أبيب، وشركة eBay، والجامعة العبرية في القدس لهذه المشكلة المتمثلة في الاقتراحات غير الواقعية. فقد وجدوا أن أكثر الأدوات تقدماً المستخدمة حالياً لتوليد هذه التفسيرات غالباً ما تنتج نتائج تنتهك القواعد الأساسية للواقع. على سبيل المثال، قد تقترح أداة أن منزلاً في حي معين يحتوي على عدد معين من الحمامات لا وجود له في تلك المنطقة، أو أن عمر الشخص ومستوى تعليمه يتناقضان مع الحقائق المعروفة حول كيفية عيش الناس. ولإصلاح ذلك، دمج الفريق بين الأساليب المستخدمة لشرح الذكاء الاصطناعي وتقنيات إدارة قواعد البيانات، وهو المجال الذي يضمن بقاء البيانات في أجهزة الكمبيوتر متسقة ودقيقة. لقد قدموا نظاماً يتحقق من كل تغيير مقترح مقابل مجموعة من القواعد المنطقية المستمدة من البيانات الحقيقية. هذه القواعد، المعروفة باسم "قيود الإنكار" (denial constraints)، تعمل مثل مصفاة، مما يضمن أن أي سيناريو جديد يتم اقتراحه كشرح يتوافق مع حدود ما هو ممكن بالفعل.
اختبر الباحثون نهجهم الجديد على أربع مجموعات بيانات مختلفة، بما في ذلك معلومات عن العقارات في نيويورك، والسجلات الضريبية، والبيانات الديموغرافية. وقارنوا طريقتهم بالأداة الرائدة الحالية، والمعروفة بقدرتها على إيجاد تفسيرات متنوعة وقريبة، لكنها تتجاهل ما إذا كانت تلك التفسيرات واقعية أم لا. وكانت النتائج صارخة؛ ففي مجموعة بيانات العقارات، انتهكت جميع التفسيرات التي أنتجتها الأداة القياسية تقريباً قاعدة واحدة على الأقل من قواعد الواقع. وفي بعض الحالات، كان كل اقتراح قدمته الأداة مستحيلاً. في المقابل، أنتج النظام الجديد تفسيرات لم تنتهك أي قواعد؛ فكل سيناريو قدمه كان متسقاً مع البيانات التي رآها. ولم يأتِ هذا على حساب التكلفة؛ إذ كانت التفسيرات الجديدة أبعد قليلاً فقط عن الموقف الأصلي مقارنة بالتفسيرات غير الواقعية، وظلت متنوعة تماماً، حيث قدمت نطاقاً واسعاً من الأسباب المختلفة للقرار. بل في بعض مجموعات البيانات، قدمت الطريقة الجديدة تفسيرات أفضل لأن الأداة القياسية اضطرت للذهاب إلى مناطق مستحيلة لإيجاد حل.
كان التحدي الرئيسي في هذا العمل هو السرعة. ففحص كل تغيير محتمل مقابل آلاف القواعد يمكن أن يكون بطيئاً للغاية، لدرجة أن عملية فحص واحدة قد تستغرق ساعات. طور الفريق سلسلة من الاختصارات الذكية لجعل العملية سريعة بما يكفي للاستخدام العملي. فبدلاً من فحص كل قاعدة مقابل كل قطعة من البيانات في كل مرة، تعلم نظامهم تحديد القواعد ذات الصلة بالفعل بالموقف الحالي. كما بنوا طريقة لتذكر عمليات الفحص السابقة حتى لا يضطروا لتكرار العمل. جعلت هذه التحسينات النظام أسرع بمقدار ستة وستين ضعفاً من النهج المباشر غير المحسن. وهذه السرعة أمر بالغ الأهمية لأنها تعني إمكانية استخدام النظام في تطبيقات الوقت الفعلي دون انتظار جهاز كمبيوتر لمعالجة الأرقام لمدة ساعة.
كما بحثت الدراسة في طرق أخرى تحاول جعل التفسيرات واقعية، مثل تلك التي تستخدم نماذج معقدة لتخمين شكل البيانات أو تلك التي تختار فقط أمثلة من قائمة موجودة مسبقاً. ووجد الباحثون أنه حتى هذه الأساليب المتطورة غالباً ما تفشل في احترام القواعد الصارمة للبيانات. فقد يقترح نموذج ما مزيجاً من السمات يبدو مرجحاً إحصائياً، ولكنه لا يزال يكسر قاعدة منطقية محددة، مثل إعفاء ضريبي لا ينطبق على ولاية معينة. إن النهج الجديد فريد من نوعه لأنه يضمن عدم كسر أي من القواعد؛ فهو يفعل ذلك من خلال التعامل مع القواعد كقوانين مطلقة وليس كمجرد اقتراحات مرنة. فإذا انتهك اقتراح ما قاعدة ما، يقوم النظام بتعديله حتى يتوافق معها، مما يضمن أن التفسير النهائي ليس مجرد تخمين، بل هو سيناريو صحيح واقعياً.
يسلط هذا العمل الضوء على فجوة حرجة في كيفية ثقتنا وفهمنا للذكاء الاصطناعي حالياً. فهو يوضح أن كونك قريباً من البيانات الأصلية ليس كافياً؛ بل يجب أن يكون التفسير راسخاً في واقع العالم الذي يصفه. ومن خلال ضمان أن تكون "الواقعات المضادة" واقعية، جعل الباحثون هذه التفسيرات أكثر موثوقية وفائدة للأشخاص الذين يحتاجون إليها. وسواء كان مالك عقار يتساءل لماذا قيمة عقاره منخفضة، أو باحث عن عمل يحاول فهم سبب رفضه، فإن معرفة أن المسار المقترح للوصول إلى نتيجة مختلفة هو مسار ممكن بالفعل، يصنع الفرق بين الخدعة الرياضية المربكة وبين الرؤية الواضحة والقابلة للتنفيذ. إن نجاح الفريق في تحقيق التوازن بين الواقعية والتنوع والسرعة يشير إلى أن مستقبل الذكاء الاصطناعي القابل للتفسير لا يكمن فقط في إيجاد الإجابة الأقرب، بل في إيجاد الإجابة الحقيقية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.