Computing Actual Causes for Neural Network Predictions under Structured Causal Inputs
تقترح هذه الورقة طريقة لحساب الأسباب الفعلية وفق منظور هالبيرن-بيرل لتنبؤات الشبكات العصبية من خلال نمذجة تبعيات المدخلات الهيكلية عبر نماذج سببية هيكلية بولية، باستخدام تقنيات انتشار الحدود والبحث والتقصي (branch-and-bound) لتحقيق تفسيرات قابلة للتوسع، وكاملة، ومختزلة تتجنب النتائج الزائفة الناتجة عن تجاهل الارتباطات بين الميزات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول معرفة سبب اتخاذ روبوت لقرار معين، مثل قرار رفض طلب قرض. في عالم الذكاء الاصطناعي، يسمى هذا "القابلية للتفسير". عادة ما ينظر العلماء إلى مدخلات الروبوت — مثل الدخل، أو العمر، أو الديون — ويتساءلون: "أي من هذه الأرقام كان الأكثر أهمية؟". وغالباً ما يعاملون هذه الأرقام كأنها مكونات مستقلة في سلطة: إذا غيرت الخس، سيبقى الطماطم كما هو. لكن في العالم الحقيقي، غالباً ما تكون المكونات مختلطة معاً. فالدخل المرتفع قد يتسبب في إنفاق مرتفع، والإنفاق المرتفع قد يتسبب في رصيد بنكي سلبي. إذا تجاهلت هذه الروابط، فقد تلوم الرصيد البنكي السلبي على رفض القرض، متجاهلاً حقيقة أن الإنفاق المرتفع كان هو السبب الجذري الحقيقي. تتناول هذه الورقة البحثية المشكلة المعقدة المتمثلة في تفسير قرارات الذكاء الاصطناعي عندما تكون المدخلات متشابكة في شبكة من علاقات السبب والنتيجة، وذلك باستخدام إطار عمل يسمى "السببية الفعلية" للعثور على الجناة الحقيقيين دون الضياع في متاهة من الاحتمالات الزائفة.
يقدم الباحثون، يانيك ستروبل، ومقسط عزيم، وستيفان لوي من جامعة كونستانز، طريقة جديدة تسمى CausExBaB لحل هذا اللغز. فكر في الشبكة العصبية (دماغ الذكاء الاصطناعي) كآلة بيع ذات صندوق أسود معقدة. تضع فيها مجموعة من المكونات (بيانات المدخلات)، فتخرج لك قراراً (مثل "مخاطر عالية" أو "مخاطر منخفضة"). المشكلة هي أن المكونات ليست مجرد أشياء موضوعة هناك؛ بل هي مرتبطة بمجموعة من القواعد (نموذج سببي هيكلي أو SCM) التي تحدد كيفية تأثير كل منها على الآخر. على سبيل المثال، في سيناريو القرض، قد يؤدي "الإنفاق المرتفع" تلقائياً إلى "تدفق نقدي سلبي".
إذا أردت معرفة سبب قول الآلة "مخاطر عالية"، فلا يمكنك استبدال المكونات بشكل عشوائي. يجب عليك احترام القواعد. فإذا غيرت "الإنفاق المرتفع" إلى "إنفاق منخفض"، فإن المنطق الداخلي للآلة قد يغير "التدفق النقدي السلبي" إلى "تدفق نقدي إيجابي" أيضاً. كان هدف المؤلفين هو إيجاد الأسباب الفعلية الدنيا: أصغر مجموعة من المكونات التي، إذا تم تغييرها (مع تثبيت أشياء أخرى محددة)، ستؤدي إلى تغيير قرار الآلة. الأمر يشبه السؤال: "ما هو أصغر تغيير يمكنني إجراؤه على الوصفة للحصول على كعكة مختلفة؟"
التحدي يكمكم في أن فحص كل توليفة ممكنة من التغييرات يشبه محاولة العثور على إبرة في كومة قش بحجم المجرة. فعدد الاحتمالات ينمو بسرعة كبيرة لدرجة أن أجهزة الكمبيوتر الفائقة قد تتعثر. حل المؤلفون يتمثل في استراتيجية بحث ذكية تسمى CausExBaB. بدلاً من فحص كل إبرة واحدة تلو الأخرى، يستخدمون تقنية "الكشاف". يقومون بتجميع كتل ضخمة من كومة القش معاً ويستخدمون الرياضيات لإثبات أن قسماً كاملاً لا يمكن أن يحتوي على الإبرة. إذا قالت الرياضيات إن مجموعة من التغييرات ستؤدي بالتأكيد إلى قرار "مخاطر عالية"، فإنهم يستبعدون تلك المجموعة بأكملها دون النظر بداخلها. وإذا أثبتت الرياضيات أن مجموعة ما ستغير القرار بالتأكيد، فإنهم يحددونها كفائزة. أما المجموعات المربكة في المنطقة الوسطى، فيتم تقسيمها وفحصها بمزيد من التفصيل. هذا يشبه استخدام جهاز كشف المعادن الذي يمكنه إخبار ما إذا كان شاطئ كامل خالياً من الإبر، مما يوفر عليك عناء الحفر في الرمال حتى تجد البقعة الدقيقة.
تثبت الورقة البحثية أن هذه الطريقة هي طريقة سليمة (لا تكذب أبداً) وكاملة (تجد كل إجابة صالحة). وفي اختباراتهم، أنشأوا عوالم وهمية تحتوي على ما يصل إلى 28 متغيراً ومساحات بحث تحتوي على ما يصل إلى 2.3 × 10¹³ (أي 23 تريليون) توليفة ممكنة. وبينما استسلمت الطرق القديمة مثل "القوة الغاشمة" (التحقق من كل شيء) أو "البرمجة المنطقية بالترتيب" (ILP) (باستخدام حلال معقد للمسائل الرياضية) وانتهى وقتها بعد 180 ثانية، وجد نظام CausExBaB جميع الإجابات في جزء من ذلك الوقت، وغالباً في أقل من 35 ثانية لأكبر الرسوم البيانية.
تأتي واحدة من أكثر النتائج إثارة للاهتمام من دراسة حالة واقعية تتعلق بـ برنامج المساعدات الغذائية الإضافية في الولايات المتحدة (SNAP). قام الفريق ببناء نموذج سببي بناءً على اللوائح الحكومية الفعلية لمن يتأهلون للحصول على المساعدة الغذائية. ووجدوا أنه إذا تجاهلت القواعد التي تربط المتغيرات (معاملتها كمتغيرات مستقلة)، فستحصل على قائمة ضخمة من "الأسباب" وراء وضع أسرة ما تحت المراجعة. في الواقع، أدى تجاهل الروابط إلى مضاعفة عدد الأسباب المبلغ عنها أكثر من مرتين. والأسوأ من ذلك، أن 14.9% من تلك الأسباب الإضافية كانت "أسباباً زائفة" — تفسيرات تبدو صحيحة فقط لأن النموذج لم يكن يعرف القواعد. على سبيل المثال، قد يلوم النموذج رقماً معيناً للدخل، ولكن في الواقع، كان ذلك الرقم مجرد أثر جانبي لقاعدة أخرى. ومن خلال احترام الشبكة السببية، استطاع CausExBaB اختراق الضجيج للعثور على الأسباب الحقيقية والأدنى.
اكتشف المؤلفون أيضاً أنه في اختباراتهم الاصطناعية، كان حوالي 68.7% من الحالات تمتلك أكثر من سبب أدنى واحد. وهذا يعني أنه غالباً لا يوجد سبب واحد وحيد لقرار الذكاء الاصطناዊ؛ بل قد يكون هناك مساران أو ثلاثة مسارات مختلفة تماماً ومستقلة تؤدي إلى نفس النتيجة. العثور على واحد منها فقط سيكون مثل لوم حادث سيارة على المطر فقط، بينما كان السائق يسرع أيضاً. إن CausExBaB يجد جميعها.
باختصار، هذه الورقة لا تقدم فقط طريقة أسرع لتفسير الذكاء الاصطناعي؛ بل تقدم طريقة أكثر صدقاً. فهي تظهر أنه عندما تكون المدخلات متصلة، فإن تجاهل تلك الاتصالات يؤدي إلى تفسيرات مضللة، وضخمة، وخاطئة تماماً أحياناً. ومن خلال استخدام خوارزميتهم الجديدة، يمكننا الحصول على قائمة واضحة، دنيا، ومضمونة رياضياً للأسباب الحقيقية وراء خيارات الذكاء الاصطناعي، حتى في السيناريوهات الأكثر تعقيداً وتشابكاً. ويشير المؤلفون إلى أن هذا النهج يمكن أن يغير قواعد اللعبة في تدقيق أنظمة الذكاء الاصطناعي في المجالات عالية المخاطر مثل التمويل والرعاية الصحية، حيث يكون فهم السبب الحقيقي مسأسة من مسائل الثقة والعدالة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.