The AI-CDSS Evidence Gap: A Critical Analysis of Outcome Measurement, Human-AI Interaction, and Implementation Validation

بدأت المستشفيات في استخدام نوع جديد من المساعدين الرقميين لمساعدة الأطباء في اتخاذ القرارات. هذه الأدوات، المبنية على الذكاء الاصطناعي، تقوم بفحص الصور الطبية أو مراجعة سجلات المرضى لرصد أمراض مثل الالتهاب الرئوي أو تسمم الدم بشكل أسرع مما قد يفعله البشر. إن الوعد الذي تحمله هذه التقنية هائل: تشخيصات خاطئة أقل، عبء عمل أقل على الطواقم المثقلة بالأعباء، ورعاية أفضل للجميع. ولكن هناك قلق متزايد من أننا نتسرع في وضع هذه الأدوات موضع التنفيذ قبل أن نعرف حقاً ما إذا كانت تساعد أم تضر. السؤال الجوه la ليس ما إذا كان بإمكان الكمبيوتر إيجال نمط في صورة ما، بل ما إذا كان هذا النمط يؤدي بالفعل إلى مريض أكثر صحة. وللإجابة على ذلك، يجب أن ننظر إلى ما وراء "بطاقة تقييم" الكمبيوتر ونرى كيف يتفاعل الأطباء الحقيقيون مع الآلة، وكيف يتصرف النظام عندما لا يكون في مختبر خاضع للرقابة، بل في عيادة مزدحمة وفوضوية.

لقد شرع فريق من الباحثين في استقصاء هذا الانفصال تحديداً. فقد أجروا مراجعة نقدية للأدلة المحيطة بأدوات الذكاء الاصطنا هذه، حيث فحصوا آلاف الدراسات لمعرفة ما نعرفه حقاً عن سلامتها وفعاليتها. وتكشف أعمالهم عن فجوة مقلقة في فهمنا. المجال حالياً مهووس بقياس مدى دقة الكمبيوتر في تحديد مرض ما في بيئة اختبار. ومع ذلك، وجد الباحثون أن هذا التركيز على الدقة التقنية لا يخبرنا إلا القليل عن ما إذا كانت الأداة ستؤدي فعلياً إلى تحسين بقاء المريض على قيد الحياة، أو تقليل مدة الإقامة في المستشفى، أو منع المعاناة. وفي الواقع، من خلال التركيز فقط على درجة الكمبيوتر، قد نكون بصدد تفويت الجزء الأكثر خطورة في القصة: وهو كيف تغير الأداة طريقة تفكير الأطباء وتصرفاتهم.

حدد الباحثون ثلاث مراحل محددة تفتقر فيها الأدلة إلى الكفاية، مما يخلق سلسلة من عدم اليقين تجعل من الصعب الوثوق بهذه الأنظمة. يحدث الفشل الأول في البداية تماماً، في كيفية قياس النجاح. معظم الدراسات تكتفي بالتقرير عن دقة التشخيص فقط، مثل عدد المرات التي يكتشف فيها الذكاء الاصطناعي ورماً بشكل صحيح. هذا يشبه الحكم على سيارة جديدة فقط من خلال قدرتها على القيادة بسرعة في خط مستقيم على مضمار اختبار، دون التحقق أبداً مما إذا كانت تتوقف بأمان أو تتعامل جيداً مع الأمطار. وجدت المراجعة أنه حتى أقوى الأدلة، والتي شملت أكثر من اثني عشر ألف مريض في تجارب عشوائية، لم تظهر سوى تحسن طفيف في دقة التشخيص. والأهم من ذلك، أن أياً من هذه الدراسات الكبرى لم تقيس النتائج التي تهم المرضى حقاً، مثل معدلات الوفيات أو مدة بقاء المريض في المستشفى. نحن نعلم أن الكمبيوتر يمكنه العثور على المرض، لكننا لا نعرف ما إذا كان العثور عليه مبكراً ينقذ الأرواح حقاً.

يحدث الفشل الثاني عندما يلتقي الكمبيوتر بالإنسان. اكتشف الباحثون أن الطريقة التي يتفاعل بها الأطباء مع هذه الأدوات غالباً ما تكون غير متوقعة وأحياناً ضارة. فعندما يقترح الكمبيوتر تشخيصاً، لا يتعامل الأطباء دائماً معه كبيانات محايدة. أحياناً، يثقون في الآلة بشكل مفرط، حتى عندما تكون مخطئة، وهو توجه يُعرف باسم "انحياز الأتمتة". وفي مثال صارخ وجد في المؤلفات، عندما قدم الذكاء الاصطناعي نصيحة غير صحي اختصاصي الأشعة أثناء فحوصات تصوير الثدي، انخفضت دقة التشخيص لدى أخصائيي الأشعة ذوي الخبرة بشكل حاد. إن وجود اقتراح خاطئ من الذكاء الاصطناعي جعل الأطباء أسوأ في عملهم مما لو كانوا قد عملوا بمفردهم. وعلى العكس من ذلك، عندما تولد الحواسيب الكثير من الإنذارات الكاذبة، يصاب الأطباء بالإرهاق ويبدأون في تجاهل التنبيهات تماماً، وهي ظاهرة تسمى "إجهاد التنبيه". إذا صرخ الذب في المرة الأولى كثيراً، فلن يُلاحظ الذئب الحقيقي. إن الأدلة الحالية تتجاهل إلى حد كبير هذه السلوكيات البشرية، حيث تعامل الطبيب كمستقبل سلبي للمعلومات بدلاً من كونه شريكاً نشطاً يمكن أن يتآكل حكمه أو يُضلل.

يتمثل الفشل الثالث في كيفية نشر هذه الأنظمة ومراقبتها في العالم الحقيقي. هناك العديد من الإرشادات والأطر المصممة لمساعدة المستشفيات على تنفيذ هذه الأدوات بأمان، لكن الباحثين وجدوا أن هذه الخطط نادراً ما يتم اختبارها أو اتباعها في الممارسة العملية. وهذا ينطبق بشكل خاص على البلدان منخفضة ومتوسطة الدخل، حيث تكاد الأدلة تكون منعدمة. فالأطر المستخدمة لتوجيه النشر غالباً ما تم إنشاؤها في دول غنية ذات تكنولوجيا متقدمة وبنية تحتية مستقرة. وعند تطبيقها في البيئات محدودة الموارد، قد لا تعمل على الإطلاق. على سبيل المثال، النظام الذي تدرب على بيانات من جزء من العالم قد يفشل تماماً عند استخدامه على مجموعة سكانية مختلفة ذات أنماط مرضية أو ظروف معيشية مختلفة. وبدون مراقبة مناسبة، يمكن للنظام الذي يبدو جيداً على الورق أن ينحرف بمرور الوقت، ويصبح أقل دقة مع تغير المجموعات السكانية، ومع ذلك لا يلاحظ أحد ذلك لأنه لا يوجد أحد يراقب الأشياء الصحيحة.

يجادل الباحثون بأن هذه الإخفاقات الثلاثة لا توجد جنباً إلى جنب فحسب؛ بل إنها تغذي بعضها البعض لخلق خطر أكبر. ولأننا نقيس الدقة فقط، فإننا نفوت الأخطاء البشرية التي لا تستطيع الدقة التنبؤ بها. ولأننا لا نقيس السلوك البشري، فلا يمكننا بناء خطط تنفيذ تعمل فعلياً. والنتي نتيجة لذلك هي وضع تقوم فيه المستشفيات بنشر أدوات قوية بناءً على معلومات غير كاملة. تسلط المراجعة الضوء على سيناريو محدد حيث يعمل نظام ما بشكل جيد في بلد غني ولكنه يُنشر في مستشفى منطقة في غرب أفريقيا. هناك، يولد النظام الكثير من الإنذارات الكاذبة بسبب اختلاف خصائص المرضى. الموظفون، وهم مثقلون بالأعباء، يتوقفون عن النظر إلى التنبيهات. تظل درجة دقة النظام عالية على الورق، ولكن في الواقع، هي تسبب ضرراً من خلال تدريب الأطباء على تجاهل التحذيرات التي يحتاجون إليها بشدة.

هذا التحليل لا يعني أن الذكاء الاصطناعي ليس له مكان في الطب. يشير الباحثون إلى وجود أمثلة ناجحة، مثل الأدوات المستخدمة لفحص أمراض العين السكرية أو تحديد أولويات الفحوصات العاجلة، حيث ساعدت التكنولوجيا بوضوح. ومع ذلك، فإن هذه النجاحات هي الاستثناء وليست القاعدة، وغالباً ما تعتمد على مهام محددة وضيقة للغاية. الاستنتاج الأوسع هو أن المعايير الحالية لإثبات أن الأداة آمنة وفعالة غير كافية. نحن بحاجة إلى التوقف عن السؤال فقط عما إذا كان الكمبيوتر ذكياً، والبدء في السؤال عما إذا كان النظام بأكمله، الكمبيوتر والطبيب معاً، يجعل المرضى في حالة أفضل.

ولإصلاح ذلك، يقترح المؤلفون معياراً أدنى جديداً للأدلة. فقبل استخدام أي أداة على نطاق واسع، يجب اختبارها ليس فقط على قدرتها على العثور على مرض، بل على قدرتها على تحسين نتائج المرضى مثل البقاء على قيد الحياة أو جودة الحياة. كما يجب دراسة كيفية استخدام الأطباء لها فعلياً، وقياس ما إذا كانوا يثقون بها أكثر من اللازم أو يتجاهلونها كثيراً. وأخيراً، يجب مراقبة الأدوات باستمرار بعد نشرها لضمان عدم فقدان فعاليتها بمرور الوقت. يتطلب هذا النهج مزيداً من العمل والمزيد من الوقت، ولكنه السبيل الوحيد لضمان ألا يترك الاندفاع نحو تبني الذكاء الاصطناعي المرضى خلف الركب. إن التكنولوجيا جاهزة، لكن الأدلة الداعمة لها ليست كذلك. وإلى أن نسد هذه الفجوة، يظل نشر هذه الأنظمة بمثابة تجربة ضخمة وغير منضبطة على الأشخاص الذين من المفترض أن تساعدهم.