Eliminating False-Negative Discharges in Tuberculosis Screening: Multi-Cohort Development and Independent External Stress-Testing of an Auditable Conformal AI Safety Architecture

لا يزال السل أحد أكثر الأمراض المعدية فتكاً في العالم، حيث يحصد أكثر من مليون روح سنوياً. وفي العديد من المناطق التي ينتشر فيها المرض، تُعد الأشعة السينية للصدر الأداة الأساسية للكشف عنه، وهي صورة سريعة تكشف عن صحة الرئتين. ومع ذلك، فإن الأشخاص المدربين بشكل أفضل لقراءة هذه الصور، وهم أطباء الأشعة الصدرية، غالباً ما يكونون في حالة ندرة. ويخلق هذا النقص اختناقاً حيث ينتظر المرضى أسابد للحصول على تشخيص، أو والأسوأ من ذلك، يتم إرسالهم إلى منازلهم دون تشخيص، مما يؤدي إلى استمرار نشر العدوى. ولحل هذه المشكلة، لجأ العلماء إلى الذكاء الاصطناي، آملين في بناء برامج حاسوبية يمكنها فحص الأشعة السينية وتحديد الحالات المشبوهة لمراجعتها من قبل البشر. وكان التحدي يكمن في أن هذه البرامج الحاسوبية غالباً ما تصبح مفرطة في الثقة؛ فعندما تُعرض عليها صورة غير عادية أو صورة ملتقطة بمعدات مختلفة، قد يعلن الحاسوب أن المريض سليم بيقين مطلق، حتى وإن كان مريضاً. وهذا "الخطأ السلبي الصامت" خطير لأنه يؤدي إلى التفريغ الفوري لشخص مصاب بالعدوى دون أي فحص طبي.

لقد طور باحث نهجاً جديداً لهذه المشكلة، حيث أنشأ نظام سلامة يمنع الحواسيب من ارتكاب هذه الأخطاء الخطيرة. فبدلاً من الاعتماد على خوارزمية واحدة لاتخاذ قرار نهائي، قام ببناء إطار عمل يعمل كحارس بوابة صارم. يتحقق هذا النظام من جودة صورة الأشعة السينية قبل تحليلها حتى، لضمان أن الصورة واضحة وليست مشوهة بسبب سوء المسح أو الضغط الشديد. وإذا كانت الصورة ضبابية جداً أو تالفة، يرفض النظام إجراء التشخيص وبدلاً من ذلك يحيل الحالة إلى طبيب بشري. علاوة على ذلك، تم تصميم النظام للتعرف على حالات عدم اليقين؛ فبدلاً من التخمين، يعترف بعدم اليقين ويحول المريض إلى ممارس طبي. اختبر الباحث هذا النظام على آلاف الأشعة السينية من مستشفيات في الهند وباكستان، بما في ذلك صور ملتقطة في عيادات ريفية باستخدام معدات قديمة وصور تم ضغطها للعرض عبر الإنترنت. ووجدوا أنه بينما كان الحاسوب وحده سيخطئ في تبرئة بعض المرضى، فإن إضافة ضوابط السلامة هذه ألغت تلك الأخطاء تماماً. والنتيجة هي أداة يمكن تشغيلها على حواسيب بسيطة وغير متصلة بالإنترنت في العيادات النائية، لتحديد الحالات الأكثر إلحاحاً لإجراء اختبار فوري، مع ضمان عدم إرسال أي شخص إلى منزله دون نظرة ثانية من متخصص بشري.

يعالج جوهر هذا العمل نقطة ضعف محددة في كيفية تعلم الذكاء الاصطناعي للرؤية. فنماذج التعلم العميق، التي تعد العقول الكامنة وراء التعرف الحديث على الصور، يتم تدريبها على مكتبات ضخمة من الصور الطبية. وفي بيئة محكومة، يمكن لهذه النماذج تحقيق دقة تقترب من المثالية. ومع ذلك، عندما تواجه ظروف العالم الحقيقي - مثل آلة أشعة سينية مختلفة قليلاً عن تلك المستخدمة أثناء التدريب، أو ملف صورة تم تصغير حجمه لتوفير المساحة - يمكن لأدائها أن ينهار. اكتشف الباحث أنه في مجموعة واحدة من الاختبارات، فشل نموذج حاسوبي قياسي تماماً عند عرضه على صور من مستشفى باكستاني تم ضغطها بشدة للعرض على الويب. أصبح النموذج مرتبكاً جداً بفعل الآثار الرقمية الناتجة عن الضغط لدرجة أنه أعلن أن كل مريض، سواء كان سليماً أو مريضاً، مصاب بالعدوى. وقد سلط هذا الضوء على خلل حرج: وهو أن النموذج شديد الجمود لا يمكنه التكيف مع الواقع الفوضوي للرعاية الصحية العالمية، حيث تختلف المعدات وتتفاوت جودة البيانات.

ولإصلاح ذلك، لم يحاول الباحث إجبار الحاسوب على تعلم كل تنوع ممكن لصورة سيئة، وهي استراتيجية غالباً ما تجعل النموذج أسوأ في رؤية الصور الواضحة وعالية الجودة. بدلاً من ذلك، بنى سلسلة من المرشحات حول عملية اتخاذ القرار في الحاسوب. المرشح الأول هو فحص مسبق يفحص الصورة بحثاً عن علامات التلف، مثل التشوهات المربعة الناتجة عن ضغط الملفات الشديد أو الصور المقلوبة. إذا فشلت الصورة في هذا الفحص، يتوقف النظام ولا يحاول إجراء التشخيص. أما الطبقة الثانية فتتضمن طريقة لقياس ثقة الحاسوب؛ فإذا لم يكن الحاسوب متأكداً تماماً من أن المريض سليم، فإنه مبرمج على التوقف وإحالة الحالة إلى بشر. وهذا يضمن أن النظام لا يتخذ أبداً قراراً نهائياً بتفريج مريض ما إلا إذا كان متأكداً إحصائياً، وحتى في ذلك الحين، فقط إذا كانت جودة الصورة مثالية.

اختبر الباحث هذا النظام متعدد الطبقات على أكثر من 16,000 صورة أشعة سينية للصدر من ثمانية مواقع مختلفة حول العالم، بما في ذلك مستشفيات في الصين والولايات المتحدة وبيلاروسيا والهند. قام أولاً بتدريب الحاسوب على مجموعة كبيرة ومتنوعة من الصور، ثم اختبره على بيانات جديدة تماماً لم يسبق له رؤيتها. في الاختبارات الداخلية، أظهر النظام دقة عالية للغاية، حيث حدد معظم حالات السل بشكل صحيح وصنف معظم الأصحاء كأصحاء بشكل صحيح. ومع ذلك، جاء الاختبار الحقيقي عندما طبق النظام على مجموعات مستقلة من المرضى في الهند وباكستان. ففي الصور عالية الجودة من مستشفى منطقة ريفية في الهند، حدد النظام حوالي 70% من المرضى بمفرده، وهو انخفاض كبير عن أدائه الداخلي ولكنه لا يزال مفيداً. والأهم من ذلك، أنه عند تطبيق قواعد السلامة، نجح النظام في منع إرسال أي مريض مصاب إلى منزله دون مراجعة. في المجموعة الهندية، ضمنت ضوابب السلامة عدم خروج أي حالة سل نشطة دون أن يراها ممارس طبي أولاً.

كان الوضع أكثر دراماتيكية مع الصور القادمة من باكستان. فقد تم ضغط هذه الصور بشدة لدرجة أن نموذجاً حاسوبياً قياسياً فشل تماماً، حيث توقع أن كل شخص في مجموعة البيانات مصاب. أظهر الباحث أن محاولة إعادة تدريب الحاسوب للتعامل مع هذه الصور السيئة جعلته أسوأ في قراءة الصور الجيدة والواضحة. وبدلاً من إجبار الحاسوب على التكيف، قام نظام السلامة الخاص به ببساطة بالتعرف على أن الصور الباكستانية كانت متدهورة للغاية بحيث لا يمكن الوثوق بها. لقد رصد النظام آثار الضغط وحوّل تلك الحالات إلى الأطباء البشريين، ليعمل بفعالية كدرع ضد ارتباك الحاسوب. أثبت هذا أن أفضل طريقة للتعامل مع البيانات منخفضة الجودة ليست بجعل الحاسوب أكثر متانة تجاه الضجيج، بل بأن يكون لدى النظام القدرة على معرفة متى يقول "لا أعرف" ويطلب المساعدة.

كشفت الدراسة أيضاً أن الحاسوب كان يتعلم أحياناً طرقاً مختصرة. ففي بعض الحالات، كان النموذج قادراً على تخمين المستشفى الذي تنتمي إليه الأشعة السينية بمجرد النظر إلى الصورة، واستخدم هذا القرينة لتخمين التشخيص. على سبيل المثال، تعلم أن الصور من مستشفى معين في بيلاروسيا هي دائماً تقريباً لمرضى، بينما الصور من قاعدة بيانات معينة في الولايات المتحدة هي دائماً تقريباً لأصحاء. هذه طريقة مختصرة خطيرة لأن الحاسوب إذا رأى صورة من مستشفى جديد، فقد يخطئ في التشخيص. استخدم الباحث تقنية لتصور ما كان ينظر إليه الحاسوب بالضبط، ووجد أنه بينما لاحظ الحاسوب هذه القرائن الخاصة بالمستشفيات، إلا أن تركيزه الرئيسي كان لا يزال على أنسجة الرئة الفعلية. وعندما قاموا بتغطية الرئتين في الصور، اختفت قدرة الحاسوب على تشخيص المرض، مما أثبت أنه لا يزال ينظر إلى الأشياء الصحيحة، حتى لو اكتسب بعض العادات الإضافية.

النتيجة النهائية هي نظام مصمم للعالم الحقيقي، حيث الموارد شحيحة والظروف غير متوقعة. حزمة البرامج بأكملها صغيرة بما يكفي لتناسب حاسوباً عادياً دون الحاجة إلى بطاقة رسومات قوية أو اتصال بالإنترنت. يمكنها العمل في عيادة لا تتوفر فيها كهرباء أو إنترنت، وتتخذ القرارات في أقل من ثانية. حسب الباحث أن استخدام هذا النظام في عيادة نموذجية يمكن أن يقلل عدد الاختبارات المعملية غير الضرورية بنسبة تقارب 80%، مما يوفر المال والوقت، مع الإمساك بمعظم المرضى. والأهم من ذلك، أن النظام مبني على مبدأ أن "السلامة خير من الندم". فمن خلال رفض اتخاذ قرار نهائي بشأن الصور غير المؤكدة أو منخفضة الجودة، يضمن عدم إرسال أي مريض إلى منزله مع شعور زائف بالأمان. هذا النهج يحول الذكاء الاصطناعي من أداة تحاول استبدال الأطباء إلى أداة تدعمهم، حيث تتولى المهام الروتينية بينما تحمي المرضى الأكثر عرضة للخطر من أن يتم إغفالهم.