When Are AI Explanations Recoverable? Identifiability, Stability, and Transfer from an Inverse-Problem Perspective
تضع هذه الورقة إطاراً رياضياً لتحديد مدى إمكانية استرداد تفسيرات الذكاء الاصطناعي من خلال صياغتها كمسائل عكسية، واستنباط ثلاثية كاملة لشروط القابلية للتمييز والاستقرار للأنظمة الخطية وغير الخطية، وتقديم حدود صريحة تميز بين نقص التحديد الجوهري والتباين الخوارزمي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، غالباً ما يُحكم على النموذج بناءً على مدى جودة تنبؤه بالمستقبل. فإذا استطاع نظام ما التنبؤ بدقة بالنتيجة الصحية لمريض أو بسعر سهم، فإننا نميل إلى الثقة في حكمه. لكن الثقة في التنبؤ تختلف عن الثقة في التفسير. فعندما يتخذ نموذج ما قراراً، غالباً ما نريد معرفة السبب؛ هل اعتمد على عرض طبي محدد؟ هل أعطى وزناً لعامل ما أكثر من غيره؟ تهدف هذه التفسيرات إلى الكشف عن المنطق الداخلي للآلة، لتعمل كنافذة على تفكيرها. ومع ذلك، هناك واقع مقلق: يمكن لنموذجين مختلفين أن يقدموا نفس التنبؤات تماماً لكل حالة على حدة، ومع ذلك يقدمان أسباباً مختلفة تماماً للقيام بذلك. قد يلوم أحدهما ميزة معينة بينما يتجاهلها الآخر تماماً، رغم أن كليهما يصل إلى نفس الإجابة الصحيحة. وهذا يخلق لغزاً جوهرياً: إذا كان السلوك الملحوظ متطابقاً، فهل يمكننا أبداً التأكد من أي التفسيرين هو الحقيقي؟
يقع هذا السؤال في قلب دراسة جديدة لا تتعامل مع البحث عن تفسيرات الذكاء الاصطناعي كمسألة تتعلق ببرمجيات أفضل، بل كمسألة تتعلق بالفيزياء والهندسة. فقد تناول الباحث، تشيبويكي تشيدوزي إيبيتشي من جامعة مورغان ستيت، هذه القضية من خلال صياغتها كمسألة عكسية. في العلم، تسأل المسألة الأمامية عما يحدث عند الضغط على زر؛ أما المسألة العكسية فتسأل عما يجب أن يكون قد حدث داخل الآلة لإنتاج النتيجة التي نراها. وتتساءل الدراسة عما إذا كان يمكن استرداد "سبب" التنبؤ بشكل فريد ومستقر من "ماهية" التنبؤ. ويجد المؤلف أن الإجابة ليست بنعم أو لا بسيطة؛ بل إن إمكانية استرداد التفسير تعتمد كلياً على الشكل الرياضي للبيانات التي تدرب عليها النموذج. وتثبت الدراسة أنه بالنسبة لأنواع معينة من الأسئلة، تكون الإجابة مخفية في وضح النهار، بينما بالنسبة لأنواع أخرى، يكون من المستحيل رياضياً العثور على الإجابة، مهما بلغت قوة الحوسبة المستخدمة.
لقد طور الباحث طريقة دقيقة لقياس حدود التفسير. حيث تخيل سيناريو يكون فيه نظاما الذكاء الاصطناعي متشابهين لدرجة أن تنبؤاتهما تختلف بمقدار ضئيل جداً يكاد لا يُرى. ثم تساءل: إلى أي مدى يمكن أن تختلف التفسيرات لهذين النظامين؟ إذا كانت التفسيرات يمكن أن تتأرجح بجنون حتى عندما تكون التنبؤات متطابقة تقريباً، فإن التفسير يكون غير مستقر. وإذا كانت التفسيرات يمكن أن تكون مختلفة تماماً حتى عندما تكون التنبؤات متطابقة تماماً، فإن التفسير يكون غير قابل للتعرف عليه. وتضع الدراسة حداً فاصلاً واضحاً بين هاتين الحالتين؛ إذ توضح أن التفسير لا يمكن استرداده إلا إذا كان يتماشى مع الاتجاهات في البيانات التي يستطيع النموذج "رؤيتها" بالفعل. فإذا كان التفسير يعتمد على اتجاه لا يستطيع النموذج رؤيته، فإن التفسير يضيع للأبد. وإذا كان التفسير يعتمد على اتجاه يمكن للنموذج رؤيته ولكن بشكل باهت فقط، فإن التفسير موجود نظرياً ولكنه حساس جداً للضوضاء لدرجة تجعله عديم الفائدة من الناحية العملية.
وفي الحالة الخاصة للنماذج الخطية، وهي شائعة في العديد من التطبيقات الإحصائية، استنتج المؤلف صيغة دقيقة تعمل كمسطرة لهذا اليقين. وتربط هذه الصيغة استقرار التفسير مباشرة بهندسة العلاقات في البيانات. فعندما تكون ميزات البيانات مترابطة للغاية، وهي حالة تُعرف بالارتباط الخطي (collinearity)، تظهر المسطرة أن التفسيرات تصبح غير مستقرة بشكل متزايد. وتوضح الدراسة أنه مع زيادة الارتباط بين نقاط البيانات، ينمو عدم اليقين في التفسير معه، ليصبح لانهائياً في النهاية إذا أصبح الارتباط تاماً. وقد اختبر الباحث هذه النظرية باستخدام عمليات محاكاة حاسوبية؛ حيث أنشأ سيناريوهات تم فيها تعديل علاقات البيانات من الوضوح التام إلى حالة يصعب فيها التمييز بينها. وفي كل حالة، طابقت سلوك الحاسوب التنبؤ الرياضي بدقة. فعندما كانت البيانات جيدة السلوك، كانت التفسيرات مستقرة. وعندما كانت البيانات متطابقة تقريباً بطرق مختلفة، تباعدت التفسيرات بجنون، مما أكد أن عدم الاستقرار لم يكن خطأً في البرمجيات بل كان خاصية جوهرية للمعلومات المتاحة.
كما استكشفت الدراسة ما يحدث عندما يستخدم الذكاء الاصطناعي قواعد أكثر تعقيداً وغير خطية لاتخاذ القرارات. قد يأمل المرء أن يتمكن نموذج أكثر تعقيداً من فك الارتباك الناتج عن البيانات الفوضوية. ومع ذلك، وجد الباحث أن التعقيد لا ينقذ التفسير المفقود؛ فإذا كانت قطعة من المعلومات مفقودة من البيانات في المقام الأول، فلا يمكن لأي قدر من الالتواء غير الخطي أن يعيدها. وتثبت الدراسة أنه إذا كان التفسير يعتمد على متغير خفي لا يستطيع النموذج ملاحظته، فإن النموذج غير الخطي سيفشل أيضاً في تحديده. وسيظل التفسير غير مرئي تماماً كما كان في الحالة الخطية الأبسط. وتعد هذه النتيجة حاسمة لأنها تبدد الفكرة القائلة بأن الخوارزميات الأكثر تعقيداً يمكنها حل المشكلات التي تعاني أساساً من نقص في تحديد البيانات.
علاوة على ذلك، تتناول الدراسة مسألة "النقل"، متسائلة عما إذا كان التفسير الذي يعمل في موقف ما سيصمد إذا تغيرت البيانات قليلاً. ووجد المؤلف أن الاستقرار ليس مضموناً بتغيرات صغيرة في البيانات؛ فإذا تغير توزيع البيانات الأساسي ولو بنسبة ضئيلة، يمكن للتفسير الذي كان مستقراً ذات يوم أن يصبح فجأة مستحيلاً للاسترداد. ويحدث هذا عندما يدفع تغيير البيانات المشكلة نحو حدود تفقد فيها المعلومات. وتوفر الدراسة شرطاً محدداً، وهو "الهامش الطيفي" (spectral margin)، الذي يجب الحفاظ عليه لضمان بقاء التفسيرات موثوقة عند الانتقال من مجموعة بيانات إلى أخرى. وبدون هذا الهامش، يمكن لأي تغيير ضئيل في البيانات أن يدمر القدرة على تفسير سلوك النموذج.
وتخلص الدراسة إلى إعادة صياغة كيفية مقاربتنا للذكاء الاصطناعي القابل للتفسير. فبدلاً من البحث الفوري عن أفضل خوارزمية لتوليد التفسير، تقترح الدراسة أنه يجب علينا أولاً التساؤل عما إذا كان من الممكن أصلاً العثور على التفسير. وقبل الوثوق في نسبة ميزة معينة أو درجة حساسية، يجب علينا تحديد ما إذا كانت المعلومات المطلوبة لتوليدها موجودة بالفعل في التنبؤات الملحوظة. وتفصل الدراسة بين التباين الناتج عن اختيار الخوارزمية وبين عدم اليقين الجوهري الناتج عن البيانات نفسها. إنها تقدم أساساً رياضياً لمعرفة متى يكون الادعاء التفسيري مدعوماً بالأدلة ومتى يكون غير محدد جوهرياً. ومن خلال تحديد حدود ما يمكن معرفته، توفر هذه الدراسة أساساً ضرورياً لبناء الثقة في الذكاء الاصطناعي، مما يضمن ألا نخلط بين الخوارزمية المستقرة والحقيقة المستقرة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.