← أحدث الأبحاث
💻 computer science

Post-hoc reliability assessment and visual explanation for deep learning-based oral mucosal lesion detection

تقدم هذه الورقة إطار عمل لاحقاً (post-hoc) يعزز موثوقية وقابلية تفسير نموذج كشف YOLOv11 مجمد لآفات الغشاء المخاطي للفم من خلال تحليل كثافة تضمين الميزات لتحديد التنبؤات غير الموثوقة واستخدام استرجاع أقرب الجيران لتقديم تفسيرات بصرية، وكل ذلك دون الحاجة إلى إعادة تدريب النموذج.

المؤلفون الأصليون: Ekaterina Tolstaya, Julia Schwärzler, Dinara Kayumova, Stefan Kolek, Antonin Tichy, Sebastian Paris, Gitta Kutyniok, Falk Schwendicke

نُشر 2026-10-12
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Ekaterina Tolstaya, Julia Schwärzler, Dinara Kayumova, Stefan Kolek, Antonin Tichy, Sebastian Paris, Gitta Kutyniok, Falk Schwendicke

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالم التصوير الطبي، أصبح الذكاء الاصطناعي أداة قوية لرصد الأمراض التي قد تخطئها العين البشرية. تُدرب هذه الأنظمة على آلاف الصور، لتتعلم كيفية التعرف على الأنماط التي تشير إلى المرض. ومع ذلك، تظل هناك مشكلة كبيرة: فعندما تقدم هذه البرامج الحاسوبية تنبؤاً، فإنها غالباً ما تقدم درجة ثقة قد تكون مضللة. فقد يعلن النظام عن تشخيص بنسبة يقين تصل إلى 99 بالمائة بينما ينظر إلى صورة تختلف تماماً عن أي شيء رآه من قبل. وفي المجالات الحساسة للسلامة مثل الطب، حيث يمكن أن يؤدي التخمين الخاطئ إلى تأخير العلاج المنقذ للحياة، فإن معرفة متى يمكن الوثوق بالآلة لا تقل أهمية عن قدرة الآلة على الرؤية نفسها. ويكمن التحدي في إيجال طريقة للتحقق من موثوقية التنبؤ دون الحاجة إلى إعادة بناء النظام بأكره.

لقد تصدى باحثون من عدة مؤسسات ألمانية ودولية لهذه القضية عبر تطوير طريقة جديدة لتدقيق قرارات ذكاء اصطناعي مصمم للكشف عن آفات الغشاء المخاطي للفم. وهذه الآفات هي حالات تصيب الأنسجة الرخوة داخل الفم، وتتراوح بين البقع البيضاء غير الضارة والنمو السرطاني المحتمل. ركز الفريق على نوع محدد من كواشف الذكاء الاصطناعي يسمى "YOLO"، وهو ممتاز في العثور على الأشياء في الصور ورسم مربعات حولها. وبينما كان الكاشف مدرباً بالفعل على تحديد ثلاثة أنواع من الآفات والأنسجة السليمة، أراد الباحثون فهم "السبب" وراء كل قرار وتحديد ما إذا كان الذكاء الاصطناعي واثقاً حقاً أم أنه مجرد تخمين. لم يعيدوا تدريب النموذج أو تغيير كوده الداخلي، بل نظروا بدلاً من ذلك إلى البصمات الرياضية، المعروفة باسم "التضمينات" (embeddings)، التي أنشأها الذكاء الاصطناعي لكل صورة قام بتحليلها. تمثل هذه البصمات الميزات البصرية التي استخدمها الذكاء الاصطناعي لاتخاذ قراره.

قام الباحثون بأخذ هذه البصمات عالية الأبعاد ورسم خرائط لها على مشهد بسيط ثنائي الأبعاد. على هذه الخريطة، تتجمع الصور التي تبدو متشابهة جداً مع بعضها البعض، بينما تشكل أنواع الآفات المختلفة مجموعات متميزة خاصة بها. ومن خلال تحليل مدى ازدحام أو ندرة منطقة معينة على هذه الخريطة، استطاعوا حساب درجة الموثوقية. فإذا وقع تنبؤ الذكاء الاصطناعي في تجمع كثيف من الصور التدريبية المتشابهة والمحددة بشكل صحيح، اعتبر النظام التنبؤ موثوقاً. أما إذا وقع التنبؤ في منطقة نادرة وفارغة بعيدة عن أي أمثلة معروفة، فإنه يصنف التنبؤ كونه غير مؤكد. سمح هذا النهج بتقييم مدى موثوقية كل عملية كشف دون تغيير الكاشف الأصلي. وقد وجدوا أن درجة الكثافة هذه كانت أفضل بكثير في تحديد التنبؤات غير المؤكدة من أرقام الثقة القياسية التي يوفرها الذكاء الاصطناعي عادةً. وفي اختبارات شملت أكثر من 3,500 صورة، نجحت هذه الطريقة في التمييز بين التنبؤات الموثوقة وغير الموثوقة بمساحة تحت المنحنى (AUC) تتراوح بين 0.92 و0.95 عبر فئات الأمراض المختلفة.

ولجعل هذه الدرجات المجردة مفيدة للأطباء، أضاف الفريق أداة تفسير بصري. فعندما يصنف النظام تنبؤاً ما على أنه غير مؤكد، يمكنه استرجاع وعرض الصور الأربع الأكثر تشابهاً من قاعدة بياناته التدريبية فوراً. خلق هذا الأمر فسيفساء تظهر للطبيب بالضبط ما كان يقارن به الذكاء الاصطناعي حالة المريض الحالية. فعلى سبيل المثال، إذا أخطأ الذكاء الاصطناعي في تحديد نوع معين من البقع البيضاء، فإن التفسير البصري سيظهر أن النظام كان يقارن المريض بحالات أخرى مشابهة بصرياً ولكنها مختلفة. سمح هذا للأطباء برؤية عملية التفكير الخاصة بالذكاء الاصطناعي وهي تعمل. وكشفت الدراسة أن الذكاء الاصطناعي غالباً ما يعاني مع الآفات التي تتشابه فيما بينها، مثل بعض أشكال "اللوحاق" (leukoplakia) و"الحزاز المسطح" (lichen planus)، والتي تشترك في ميزات بصرية متداخلة. وفي هذه الحالات الحدية، حددت الطريقة الجديدة بشكل صحيح أن الذكاء الاصطناعي يعمل في منطقة من الغموض، في حين أن درجة الثقة القياسية كانت ستظل مرتفعة بشكل مضلل.

كما اختبر الباحثون النظام على صور لآفات لم تكن جزءاً من مجموعة التدريب الأصلية، مثل الأمراض المسببة للفقاعات أو التقرن الاحتكاكي. ووجدوا أن الذكاء الاصطناعي يخصص أحياناً هذه الحالات غير المعروفة لأقرب فئة معروفة، وأن درجة الكثافة لم تكن دائماً تصنفها كحالات غير معروفة تماماً. وهذا يسلط الضضوء على قصور حاسم: فالنظام يقيس مدى ملاءمة التنبؤ لبيانات التدريب، وليس ما إذا كانت الصورة تمثل مرضاً جديداً تماماً. ومع ذلك، أثبتت أداة الاسترجاع البصري قيمتها هنا أيضاً؛ فحتى عندما يرتكب الذكاء الاصطناعي خطأً، فإن الجيران التدريبيين المعروضين يساعدون الخبير البشري على إدراك أن التشابه البصري كان مضللاً وأن التشخيص يتطلب ما هو أكثر من مجرد صورة فوتوغرافية. وتخلص الدراسة إلى أنه من خلال الجمع بين فحص الموثوقية القائم على الكثافة وبين الأمثلة البصرية، يمكن للمتخصصين الطبيين فهم متى يمكنهم الوثوق بتشخيص الذكاء الاصطناعي ومتى يجب عليهم طلب رأي ثانٍ، وكل ذلك دون الحاجة إلى إعادة تدريب النماذج المعقدة المستخدمة بالفعل.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →