Toward a Common Language for Trustworthy AI in Healthcare
من خلال مراجعة نطاقية لـ 675 مقالاً، تحدد هذه الورقة تضاربات مفاهيمية كبيرة في تعريفات مبادئ الذكاء الاصطناعي الجدير بالثقة في مجال الرعاية الصحية، وتقترح إطاراً موحداً وأولويات بحثية لتوحيد هذه المفاهيم وتعزيز الأسس الاستدلالية لهذا المجال.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
أصبح الذكاء الاصطناعي سريعاً شريكاً في الرعاية الصحية، حيث يساعد الأطباء في تشخيص الأمراض، والتنبؤ بنتائج المرضى، واختيار العلاجات. ومع ذلك، ومع ازدياد تعقيد هذه الأنظمة الحاسوبية، برزت مشكلة هادئة: تعمل العديد منها كـ "صناديق سوداء". فهي تستقبل البيانات الطبية وتنتج نتيجة، لكن المسار بين الاثنين يظل مخفياً. عندما يقترح جهاز ما تشخيصاً، يحتاج الطبيب إلى معرفة السبب؛ إذ يتعين عليه فهم المنطق، والوثوق بأن النظام عادل، والتأكد من أنه سيعمل باستمرار مع كل مريض، وليس فقط مع أولئك الذين تدرّب عليهم. ولبناء هذه الثقة، طوّر هذا المجال مجموعة من المبادئ التوجيهية، تُعرف غالباً باسم "الذكاء الاصطناعي الجدير بالثقة". وتشمل هذه المبادئ أفكاراً مثل الشفافية، والتي تعني الانفتاح حول كيفية عمل النظام؛ والعدالة، التي تضمن عدم معاملة أي مجموعة من الناس بشكل غير عادل؛ والموثوقية، والتي تعني أن النظام يؤدي عمله باستمرار. ومع ذلك، لكي تنجح هذه المبادئ، يجب أن يتفق الجميع على معناها الفعلي. فإذا وصف باحثٌ نظاماً ما بأنه "قابل للتفسير" بينما استخدم باحث آخر نفس الكلمة ليعني شيئاً مختلفاً قليلاً، فإن أساس الثقة يبدأ في التصدع.
وضع فريق من الباحثين في جامعة ماكماستر في كندا مهمة لاستطلاع ما إذا كان مجتمع الذكاء الاصطناعي الطبي يتحدث اللغة نفسها. فقد أجروا مراجعة شاملة لـ 675 مقالاً نُشرت بين عامي 2015 و2025، وفحصوا كيفية تعريف العلماء لثمانية مفاهيم جوهرية واستخدامهم لها، وهي: القابلية للتفسير (interpretability)، والقابلية للشرح (explainability)، والشفافية (transparency)، والعدالة (fairness)، والتحيز (bias)، والمتانة (robustness)، والموثوقية (reliability)، والصلاحية (validity). وما وجدوه كان مشهداً من الارتباك. فقد كشفت الدراسة أن هذه المصطلحات تُستخدم غالباً بالتبادل، حتى عندما ينبغي أن تصف أشياء مختلفة. فعلى سبيل المثال، كثيراً ما تم استبدال كلمتي "القابلية للتفسير" و"القابلية للشرح" ببعضهما البعض، رغم أن الباحثين اقترحوا أنهما في الواقع تصفان مستويات مختلفة من الفهم. وبالمثل، تباينت تعريفات "الموثوقية" و"الصلاحية" لدرجة أن إحدى الدراسات قد تسمي النظام موثوقاً لمجرد أنه عمل على نفس البيانات التي تدرّب عليها، بينما تتطلب دراسة أخرى أن يعمل على بيانات مختلفة تماماً لنيل هذا اللقب. إن غياب لغة مشتركة يجعل من الصعب مقارنة الدراسات، أو تبادل المعرفة، أو بناء أنظمة آمنة حقاً للمرضى.
ولإصلاح ذلك، اقترح الباحثون إطاراً جديداً موحداً يفصل بوضوح بين هذه المفاهيم. فقد عرّفوا "الشفافية" باعتبارها المفهوم الأوسع، وتعني أن يكشف النظام عن آلياته الداخلية ومصادر بياناته بحيث يمكن لأصحاب المصلحة رؤية كيفية اتخاذ القرارات. وضمن تلك الشفافية تقع "القابلية للشرح"، والتي وصفوها بأنها القدرة على تقديم تبرير تقني للقرار، أي شرح "كيف" و"لماذا" بطريقة يمكن لمستخدم مطلع متابعتها. ويرى الفريق أن "القابلية للتفسير" تختلف قليلاً؛ فهي القدرة على فهم القرار دون الحاجة إلى معرفة التفاصيل التقنية، مع التركيز على "لماذا" بدلاً من الآليات. كما أوضح الفريق أن "المتانة" تعني بقاء النظام مستقراً حتى عندما تتغير البيانات المدخلة أو تحتوي على ضجيج، بينما تعني "الموثوقية" بقاءه مستقراً عندما تظل الظروف كما هي تماماً. أما "العدالة" فقد عُرِّفت بأنها الهدف المتمثل في القضاء على النتائج التمييزية، وهو ما يتطلب أولاً تحديد "التحيز"، أي الأخطاء المنهجية التي تؤدي إلى معاملة غير عادلة. وأخيراً، وُضعت "الصلاحية" كالاختبار النهائي: فالنظام لا يكون صالحاً إلا إذا كان متيناً وموثوقاً في آن واحد، ويعمل كما هو مخطط له في العالم الحقيقي.
وعندما نظر الباحثون في الدراسات الفعلية المنشورة على مدار العقد الماضي، وجدوا أن المجال ينمو بسرعة، مع ارتفاع حاد في عدد الأوراق البحثية من عام 2015 إلى 2025. ومع ذلك، فإن الأبحاث ليست موزعة بالتساوي. إذ تركز معظم الدراسات على مجالات محددة، مثل طب الأعصاب، وطب الأورام، وطب القلب، وتعتمد بشكل كبير على السجلات الصحية الإلكترونية والصور الطبية. وأكثر نماذج الذكاء الاصطناعي شيوعاً هي خوارزميات التعلم الآلي التقليدية وشبكات التعلم العميق، مع قيام الغالبية العظمى من الدراسات بمهام التصنيف البسيطة، مثل تحديد ما إذا كانت صورة الأشعة تظهر ورماً أم لا. ومن حيث الأدوات المستخدمة لجعل هذه الأنظمة مفهومة، فإن تقنية واحدة تسمى "SHAP" (والتي ترمز إلى تفسيرات شابلِي الإضافية) هي الأكثر شعبية على الإطلاق؛ فهي تساعد الباحثين على رؤية أي الميزات في البيانات، مثل نتيجة فحص دم معينة أو بكسل في صورة، ساهمت أكثر في التنبؤ.
وعلى الرغم من هذا النمو، كشفت المراجعة عن فجوات كبيرة. فبينما يجيد الباحثون التحقق مما إذا كانت نماذجهم تعمل على البيانات التي يمتلكونها بالفعل، فإنهم أقل نجاحاً في اختبار ما إذا كانت تلك النماذج ستعمل على بيانات جديدة ومختلفة أو على مجموعات سكانية لم تكن ممثلة جيداً في التدريب الأصلي. ووجدت الدراسة أن أقل من نصف المقالات تناولت قضايا العدالة أو التحيز، وحتى عدد أقل منها قدم المستوى العميق من الشفافية المطلوب لفهم عملية اتخاذ القرار في النموذج بشكل كامل. والأهم من ذلك، لاحظ الباحثون أن دراسات قليلة جداً تناولت "القابلية للشرح" بالمعنى الدقيق المتمثل في كشف الآليات الكامنة وراء النموذج. بدلاً من ذلك، توقفت معظم الدراسات عند "القابلية للتفسير"، حيث أظهرت أي نقاط البيانات كانت مؤثرة دون شرح المنطق الكامل للآلة. وهذا يشير إلى أنه بينما يحرز المجال تقدماً، فإنه لا يزال يركز بشكل كبير على جعل مخرجات الذكاء الاصطناعي مفهومة، بدلاً من جعل الذكاء الاصطناعي نفسه شفافاً حقاً.
ويخلص المؤلفون إلى أنه لكي يصبح الذكاء الاصطناعي شريكاً جديراً بالثقة في الرعاية الصحية، يجب على المجتمع التوقف عن استخدام هذه المصطلحات بشكل فضفاض والبدء في اعتماد التعريفات الموحدة التي اقترحوها. فبدون لغة مشتركة، سيكون من المستحيل بناء المعايير الصارمة اللازمة لضمان سلامة المرضى. وهم يوصون بأن ينتقل البحث المستقبلي إلى ما وراء التخصصات الطبية وأنواع البيانات الأكثر شيوعاً لاستكشاف نطاق أوسع من الحالات ومصادر المعلومات. كما يحثون العلماء على تطوير طرق أفضل لاختبار مدى قدرة هذه الأنظمة على التعامل مع المواقف الجديدة والمجموعات السكانية المتنوعة. ومن خلال توضيح ما نعنيه بالثقة والموثوقية والعدالة، يمكن للمجال أن ينتقل من مجرد بناء نماذج معقدة إلى بناء أنظمة يمكن للأطباء والمرضى الاعتماد عليها حقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.