Interpretability Methods for Causal Predictions in Biomedical AI: A Systematic Review of Approaches and Evaluation Practices
تكشف هذه المراجعة المنهجية لـ 47 دراسة في مجال الذكاء الاصطناعي الحيوي الطبي أنه بينما تُستخدم أساليب التفسير مثل SHAP وLIME على نطاق واسع لتفسير نماذج التنبؤ السببي، فإن تقييمها يعتمد بشكل ساحق على المقاييس القائمة على الخصائص ونادراً ما يتحقق من الصلاحية السببية الفعلية، مما يسلط الضوء على فجوة حرجة بين تفسير النموذج والاستدلال السببي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الطب الحديث، أصبح الذكاء الاصطناعي أداة قوية لرصد الأنماط التي قد تخفى على الأعين البشرية. يمكن لهذه الأنظمة الحاسوبية مسح آلاف الصور الطبية أو فحص سنوات من سجلات المرضى للتنبؤ بمن قد يمرض أو كيف سيتطور مرض ما. ومع ذلك، هناك فرق جوهري بين معرفة أن شيئين يحدثان معاً وبين معرفة أن أحدهما يتسبب في حدوث الآخر فعلياً. قد يتعلم الكمبيوتر أن علامة جلدية معينة تظهر غالباً جنباً إلى جنب مع مرض خطير، لكن هذا لا يعني أن العلامة هي التي تسبب المرض؛ فقد تكون مجرد عرض جانبي لشيء آخر تماماً. وإذا اعتمد الطبيب على كمبيوتر لا يرى سوى هذه الروابط، فقد يتخذ القرار الخاطئ عند محاولة علاج المريض، لأن علاج العلامة لن يعالج المرض. هذه الفجوة بين رصد النمط وفهم السبب الحقيقي هي التحدي المركزي الذي يحاول الباحثون حله.
تستقصي مراجعة منهجية جديدة من إعداد ألبرت شول من الجامعة التقنية في ميونيخ مدى قدرة الأدوات الحالية على مساعدتنا في فهم هذه الأسباب. بحثت الدراسة في مئات الأوراق البحثية لمعرفة ما إذا كانت الأساليب المستخدمة لتفسير كيفية اتخاذ الذكاء الاصطناعي لتنبؤاته قادرة حقاً على الكشف عن الأسباب البيولوجية الحقيقية. ووجد الباحثون أنه بينما يتوق العلماء لاستخدام أدوات التفسير هذه، فإنهم يستخدمون في الغالب الأدوات الخاطئة للمهمة. فالأدوات الأكثر شيوعاً، والتي تمنح درجات أهمية لميزات مختلفة مثل العمر أو ضغط الدم، ممتازة في إظهار ما لاحظه الكمبيوتر، لكنها سيئة جداً في إظهار ما تسبب فعلياً في النتيجة. في الواقع، اكتشفت المراجعة أن التقييم الصريح للصلاحية السببية كان نادراً، حيث ظهر في 9% فقط من الدراسات التي تم فحصها، مما يعني أن الغالبية العظمى لم تختبر أبداً ما إذا كانت تفسيراتها تقول الحقيقة بشأن السبب والنتيجة.
فحصت المراجعة 47 دراسة نُشرت بين عامي 2016 و2025 حاولت تطبيق أساليب التفسير هذه على مشكلات طبية تهم فيها السببية، مثل التنبؤ بكيفية استجابة المريض لدواء معين. ووجد الباحثون أن الغالبية العظمى من هذه الدراسات، حوالي 68 بالمائة، اعتمدت على أساليب "إسناد الميزات" (feature attribution). وهذه تقنيات تسلط الضوء على متغيرات المدخلات التي استخدمها النموذج الحاسوبي بشكل مكثف لاتخاذ قرار ما. وكانت الأداتان الأكثر شيوعاً هما SHAP وLIME، اللتان تعملان مثل كشاف الضوء، حيث تسلطان الضوء على نقاط البيانات التي وجدها النموذج أكثر أهمية. وبينما تعد هذه الأدوات جيدة جداً في إظهار الأرقام التي نظر إليها الكمبيوتر، تجادل المراجعة بأنها محدودة جوهرياً لأنها تصف الارتباطات فقط. يمكنها أن تخبر الطبيب أن ضغط الدم المرتفع كان عاملاً رئيسياً في توقع خطر ما، لكنها لا تستطيع إخباره ما إذا كان خفض ضغط الدم سيمنع بالفعل النوبة القلبية.
كما بحثت الدراسة في أساليب أخرى أكثر تقدماً قد تقترب من الحقيقة. استخدمت حوالي 15 بالمائة من الدراسات "التفسيرات المقابلة للواقع" (counterfactual explanations)، والتي تتخيل ما كان سيحدث لو فعل المريض شيئاً مختلفاً، مثل تناول دواء مختلف. هذه التفسيرات أقرب مفاهيمياً إلى طريقة تفكير الأطباء حول السبب والنتيجة، ومع ذلك استُخدمت في جزء صغير فقط من الأبحاث. وكانت "الأساليب القائمة على المفاهيم" (concept-based methods) أكثر ندرة، وهي التي تحاول تفسير القرارات باستخدام أفكار مفهومة للبشر مثل "حجم الورم" بدلاً من نقاط البيانات الخام، حيث ظهرت في 6 بالم% فقط من الدراسات. ووجدت المراجعة أن المجال منحاز بشدة نحو الأدوات الأبسط التي تفسر الارتباطات، مما يخلق خطراً من أن يخلط الأطباء بين الارتباط والسبب.
لعل النتيجة الأكثر إثارة للاهتمام تتعلق بكيفية اختبار هذه التفسيرات. عندما يبني الباحثون نموذجاً ويقومون بتفسيره، فإنهم بحاجة إلى التحقق مما إذا كان التفسير جيداً. وجدت المراجعة أن 72 بالمائة من الدراسات تحققت من "الأمانة" (fidelity)، وهو ما يعني ببساطة التحقق مما إذا كان التفسير يطابق ما فعله النموذج الحاسوبي بالفعل. وتحققت 43 بالمائة من الدراسات من "الاستقرار" (stability)، لضمان أن التفسير لا يتغير عشوائياً في كل مرة يعمل فيها النموذج. هذه فحوصات تقنية مهمة، لكنها لا تجيب على السؤال الأهم: هل التفسير صحيح بشأن السبب؟ وجدت المراجعة أن 9 بالمائة فقط من الدراسات حاولت فعلياً التحقق مما إذا كان التفسير يعكس علاقة سببية حقيقية. وفي الحالات القليلة التي حاول فيها الباحثون التحقق من السببية، اعتمدوا في الغالب على سؤال الخبراء البشريين عما إذا كان التفسير "يبدو" منطقياً، بدلاً من استخدام اختبارات صارمة لإثبات ذلك.
إن هذه الفجوة بين ما تفعله الأدوات وما يحتاجه المجال هي فجوة كبيرة. يشير المؤلف إلى أن استخدام أداة مصممة لتفسير الارتباطات لحل مشكلة سببية يشبه استخدام خريطة لأنماط حركة المرور للتخطيط لمسار تنزه؛ قد تظهر الخريطة أين تذهب السيارات، لكنها لن تخبرك أي مسار آمن للمشي. وتجد المراجعة أن النهج الحالي مشتت منهجياً، حيث يطبق الباحثون أدوات تفسير قوية على نماذج لم تُبنَ أصلاً لفهم السبب والنتيجة. وتخلص الورقة إلى أنه لكي يكون الذكاء الاصطناعي جديراً بالثقة حقاً في الطب، يجب على المجال أن يتجاوز مجرد التحقق مما إذا كان التفسير يبدو متسقاً. بل يحتاج إلى تطوير طرق جديدة لاختبار ما إذا كان التفسير صحيحاً حقاً بشأن البيولوجيا الكامنة، باستخدام معايير أفضل وافتراضات أوضح حول كيفية عمل الأمراض. وحتى ذلك الحين، يظل الوعد بذكاء اصطناعي يمكنه حقاً تفسير سبب مرض المريض بعيد المنال.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.