Multi Armed Bandit Based Adaptive Model Selection for Clinical AI Governance An Infrastructure Approach to Safer AI Use in U.S. Healthcare
تقترح هذه الورقة إطار عمل للحوكمة يعتمد على "المتعدد الأذرع" (Multi-Armed Bandit) للذكاء الاصطناłي السريري، يقوم بالاختيار الديناميكي بين النماذج المعتمدة عبر الموازنة بين جودة التنبؤ، والتكلفة، وعقوبات السلامة، مبرهنةً من خلال عمليات محاكاة باستخدام بيانات (MIMIC-IV) أنه بينما تتفوق سياسات تقليل الندم على النشر الثابت، فإن التقاعد الواثق للنماذج غير المثالية يتطلب بيانات أكثر بكثير مما توفره التدفقات السريرية النموذجية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في بيئة وحدة العناية المركزة عالية المخاطر في المستشفيات، يعتمد الأطباء على برامج حاسوبية للمساعدة في التنبؤ بالمرضى الأكثر عرضة لخطر الوفاة. هذه البرامج، المعروفة باسم نماذج الذكاء الاصطنا-السريري، يتم تدريبها على كميات هائلة من السجلات الطبية الماضية لرصد الأنماط الدقيقة في العلامات الحيوية ونتائج المختبر. ومع ذلك، غالبًا ما تجد المستشفيات نفسها تمتلك نسخًا مختلفة من هذه البرامج، كل منها تم بناؤه بواسطة فرق مختلفة وكل منها يتطلب كميات متفاوتة من البيانات للتشغيل. فبعضها بسيط ورخيص التشغيل، ولا يتطلب سوى قراءات أساسية لمعدل ضربات القلب ودرجة الحرارة، بينما البعض الآخر معقد ومكلف، ويتطلب مجموعة كاملة من فحوصات الدم والتصوير المتقدم. لقد كان النهج المعياري هو اختيار نموذج واحد، والالتزام به، واستخدامه لكل مريض حتى موعد المراجعة المجدولة. هذا النهج الثابت يفترض أن النموذج الذي تم اختياره أثناء اختبار لمرة واحدة سيظل الخيار الأفضل للأبد، متجاهلاً حقيقة أن مجموعات المرضى تتغير، وتوافر البيانات يتبدل، وتكلفة تشغيل هذه البرامج تختلف من يوم لآخر.
إن التحدي الذي يواجه مديري المستشفيات هو كيفية إدارة هذه المحفظة من الأدوات دون اتخاذ تخمينات محفوفة بالمخاطر. فهم بحاجة إلى نظام يمكنه اتخاذ قرار في الوقت الفعلي بشأن النموذج الذي يجب استخدامه لمريض معين، مع موازنة تكلفة تشغيل البرنامج مقابل سلامة المريض. إذا قامت المستشفى بتغيير النموذج بسرعة كبيرة، فقد تتخلى عن أداة جيدة بناءً على طفرة من سوء الحظ. وإذا غيرته ببطء شديد، فقد تستمر في استخدام أداة مكلفة أو غير دقيقة لفترة طويلة بعد ظهور خيار أفضل. تقع هذه المعضلة عند تقاطع علوم الحاسوب والحوكمة الطبية، وهي تطرح سؤالاً جوهرياً: ما هو مقدار الأدلة المطلوبة فعلياً للاعتراض بثقة على تقاعد نموذج قديم واستبداله بنموذج جديد، خاصة عندما لا تكون نتائج حالة المريض معروفة إلا بعد أيام؟
قام الباحث جوليان بورجيس، من جامعة بوسطن، بمعالجة هذا السؤال من خلال بناء محاكاة رقمية لعملية صنع القرار في المستشفى. وبدلاً من اختبار ذلك على مرضى حقيقيين، وهو أمر مستحب أخلاقياً وقد يكون خطيراً، أنشأ بيئة افتراضية باستخدام قاعدة بيانات ضخمة ومتاحة للجمهور لإقامات سابقة في وحدات العناية المركزة. وفي هذه المحاكاة، عُوملت ثلاثة نماذج حاسوبية مختلفة كـ "أذرع" لآلة صنع القرار. كان أحد الأذرع نموذجاً بسيطاً يستخدم فقط العلامات الحيوية، والآخر نموذجاً متوسط التعقيد يستخدم الفحوصات المخبرية الأساسية، والثالث نموذج معقد يستخدم لوحة موسعة من الفحوصات المخبرية. وكان لكل ذراع "تكلفة" مرتبطة به، تمثل العبء التشغيلي لجمع ومعالجة البيانات اللازمة. كان الهدف هو معرفة ما إذا كان النظام التكيفي قادراً على تعلم اختيار الذراع الأفضل لكل مريض، أو ما إذا كان بإمكانه أن يقرر بثقة التوقف عن استخدام ذراع معينة تماماً.
قدمت الدراسة طريقة جديدة للتفكير في اختيار النماذج، حيث لم تعد تعتبر مجرد تهيئة لمرة واحدة بل تسلسلاً مستمراً من الاختيارات. تم تزويد النظام بمجموعة من القواعد، أو "أوزان الحوكمة"، التي تخبره بمدى تقدير توفير المال مقابل إنقاذ الأرواح. على سبيل المثال، تم برمجة النظام لمعاقبة حالات الوفاة المفقودة بشدة، مع مراعاة أيضاً تكلفة تشغيل النماذج الأكثر تعقيداً. ثم قام الباحثون بتشغيل المحاكاة عبر 7,383 إقامة افتراضية لمرضى، محاكيين تدفق مستشفى حقيقي حيث تصل النتائج بتأخير، أحياناً بعد ساعات أو أيام من إجراء التنبؤ. وقارنوا نظامهم التكيفي مع عدة استراتيجيات أخرى، بما في ذلك مجرد الالتزام بالنموذج الذي يبدو الأفضل على الورق قبل بدء المحاكاة، وطرق رياضية أخرى مصممة لتقليل الندم، أو الخسارة الناجمة عن عدم اختيار الخيار المثالي في كل مرة.
كشفت نتائج هذه المحاكاة عن واقع مفاجئ ومثير للقلق حول سرعة تغير الذكاء الاصطنا-السريري. فعلى الرغم من تشغيل آلاف عمليات المحاكاة، لم يتمكن النظام التكيفي المصمم لاتخاذ قرارات واثقة ومنضبطة بالأخطاء من تقاعد أي من النماذج الثلاثة. كانت الاختلافات في الأداء بين النموذج البسيط والرخيص والنماذج المعقدة والمكلفة صغيرة جداً بحيث لا يمكن اكتشافها بيقين ضمن الإطار الزمني للدراسة. وجد النظام أن النموذج "الأرخص" كان في الواقع الخيار الأفضل في ظل القواعد المحددة من قبل الباحثين، لكن الفجوة بينه وبين النماذج الأخرى كانت ضيقة جداً لدرجة أن النظام احتاج إلى مزيد من البيانات ليكون متأكداً. ولإثبات أن النموذج الأكثر تكلفة أسوأ من النموذج الأرخص بيقين، أظهرت المحاكاة أن المستشفى سيحتاج إلى مراقبة حوالي 7,500 نتيجة لذلك النموذج تحديداً. وفي تدفق المرضى المحاكى البالغ عددهم 7,383 مريضاً، لم يتم استيفاء هذا المتطلب.
تشير هذه النتيجة إلى أن فكرة الاستبدال السريع لنماذج الذكاء الاصطنائي بناءً على بيانات الأداء قصيرة المدى قد تكون غير واقعية. وحسبت الدراسة أنه، بالوتيرة التي يصل بها المرضى عادةً إلى هذه المستشفى تحديداً، سيستغرق الأمر ما يقرب من خمس سنوات من الإدخالات المستمرة لجمع أدلة كافية لتقاعد النموذج الأكثر تكلفة بثقة. وحتى لو كان النموذج معطلاً بوضوح ويؤدي أداءً سيئاً، كان النظام لا يزال بحاجة إلى حوالي 3,000 نتيجة لكل نموذج ليكون متأكداً تماماً من وجوب التخلص منه، وهي عملية ستستغرق حوالي عامين. وأشار الباحثون إلى أنه بينما كانت الطرق الأخرى الأسرع قادرة على الابتعاد عن نموذج سيء بشكل أسرع، إلا أنها فعلت ذلك دون شبكة أمان مضمونة، مما يعني أن هناك دائماً احتمال لارتكاب خطأ.
استكشفت الدراسة أيضاً ما سيحدث إذا كان النموذج الذي اختارته المستشفى خاطئاً في الأصل. في هذه السيناريوهات، حيث أدى "النموذج الأفضل" على الورق أداءً سيئاً في المحاكاة، تمكنت الأنظمة الأسرع، التي تقلل الندم، من الانتقال إلى نموذج أفضل ضمن تدفق المرضى. ومع ذلك، فإن النظام المصمم ليكون متأكداً تماماً من قراراته استغرق وقتاً أطول بكثير للقيام بهذا التغيير، حتى عندما كان النموذج الأصلي يفشل بوضوح. يسلط هذا الضوء على مقايضة جوهرية: يمكن للمستشفى أن يختار تغيير النماذج بسرعة والمخاطرة بارتكاب خطأ، أو يمكنه الانتظار للحصول على أدلة ساحقة ليكون متأكداً، لكن هذا اليقين يأتي على حساب الوقت وربما الاستمرار في استخدام أداة دون المستوى المطلوب.
في نهاية المطاف، يوضح البحث أن قرار تقاعد نموذج الذكاء الاصطنا-السريري ليس مجرد مشكلة تقنية بل هي مسألة حوكمة. إن السرعة التي يمكن للمستشفى بها تغيير أدواته تعتمد بشكل كبير على القواعد التي تضعها لنفسها، مثل مدى تقديرها للتكلفة مقابل الدقة، والصعوبة المتأصلة في المهمة. توفر الدراسة إطاراً رياضياً واضحاً للجان المستشفيات لاستخدامه، مما يسمح لها بحساب عدد نتائج المرضى التي تحتاج لجمعها قبل أن تتمكن من إجراء تغيير بأمان. إنها تحول الشعور الغامض بـ "ربما ينبغي لنا التغيير" إلى رقم ملموس، وتظهر أنه بالنسبة للعديد من نماذج الذكاء الاصطنا-السريرية الحالية، فإن أفق الأدلة طويل، وأن الصبر هو جزء ضروري من الاستخدام الآمن والمتكيف للذكاء الاصطنا-السريري.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.