← أحدث الأبحاث
💻 computer science

EVADE: Evidence-Verified Agentic Diagnosis with Escape

تُعد EVADE طريقة غير تدريبية تعزز سلامة وموثوقية النماذج الطبية البصرية اللغوية المجمدة من خلال التحقق من الاتساق التشخيصي عبر المشاهد الأصلية ومشاهد الصور المكبرة ذاتية التحديد، مما يحسن بشكل كبير من المعايرة والمخاطر الانتقائية مع الحفاظ على الدقة.

المؤلفون الأصليون: Mohaimenul Azam Khan Raiaan, Nur Mohammad Fahad

نُشر 2026-08-20
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Mohaimenul Azam Khan Raiaan, Nur Mohammad Fahad

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالم التصوير الطبي، أصبحت الحواسيب ماهرة بشكل ملحوظ في النظر إلى صور جسم الإنسان والإجابة على أسئلة حول ما تراه. هذه الأنظمة، المعروفة باسم نماذج الرؤية واللغة، يمكنها تحديد الأمراض في صور الأشعة السينية أو شرائح الأنسجة المرضية بسرعة مثيرة للإعجاب. ومع ذلك، تظل هناك ثغرة حرجة: هذه الآلات غالباً ما تكون مفرطة في الثقة بشكل خطير. فهي ستذكر إجابة بيقين مطلق حتى عندما تكون مخطئة، وتجد صعوبة في إدراك متى تكون غير متأكدة. وفي السياق السريري، يعد هذا أمراً غير مقبول. يحتاج الطبيب إلى أداة تعرف متى تتوقف وتقول: "لا يمكنني التأكد؛ يرجى استشارة خبير بشري"، بدلاً من تقديم تشخيص خاطئ بثقة قد يؤدي إلى الضرر. التحدي الذي يواجه الباحثين لا يقتصر فقط على جعل هذه النماذج أكثر ذكاءً، بل في جعلها صادقة بشأن حدود قدراتها دون الحاجة إلى إعادة تدريبها من الصالب.

لقد طور فريق من الباحثين نهجاً جديداً يسمى EVADE لحل مشكلة الإفراط في الثقة هذه. فبدلاً من محاولة تعليم الكمبيوتر حقائق جديدة، يعمل EVADE كمشرف حذر يتحقق من عمل الكمبيوتر في الوقت الفعلي. يعمل النظام من خلال مطالبة النموذج بالنظر إلى صورة طبية وتقديم إجابة. إذا شعر النموذج بثقة كبيرة، فإنه يقدم الإجابة ببساه. ولكن إذا كان النموذج غير متأكد، يقوم النظام بتفعيل خطوة ثانية: يطلب من الكمبيوتر العثور على الجزء المحدد من الصورة الذي يهم السؤال أكثر، ثم التكبير على تلك المنطقة، والنظر إليها مجدداً. بعد ذلك، يجيب الكمبيوتر على السؤال مرة ث أخرى، وهذه المرة بناءً على العرض المكبر. ويعتمد القرار النهائي على ما إذا كانت الإجابة الأولى والإجابة الثانية (المكبرة) تتفقان مع بعضهما البعض. إذا تطابقتا، يلتزم النظام بالإجابة. أما إذا اختلفتا، أو إذا ظل الكمبيوتر غير متأكد، فإن النظام يرفض التخمين ويمتنع عن الإجابة، تاركاً القرار للطبيب البشري.

يعالج هذا الأسلوب فشلاً شائعاً في الذكاء الاصطناء حيث يتحقق الكمبيوتر من عمله بمجرد قراءة نصه السابق. في هذا السيناريو، غالباً ما يوافق الكمبيوتر نفسه، حتى لو كانت الإجابة الأصلية خاطئة، لأنه ينظر إلى نفس المعلومات مرتين. يتجنب EVADE هذا الفخ من خلال إجبار الكمبيوتر على النظر إلى أدلة بصرية جديدة. فمن خلال التكبير على منطقة محددة، يتم تقديم تفاصيل جديدة للنموذج كانت صغيرة جداً بحيث لا يمكن رؤيتها بوضوح في الصورة الكاملة. وجد الباحثون أن عملية التحقق هذه "متعددة الرؤى" هي أكثر موثوقية بكثير من مطالبة النموذج بمجرد "التفكير بعمق أكبر" أو تكرار إجابته. لا يحتاج النظام إلى أي تدريب خاص أو أدوات خارجية؛ فهو يعمل بالكامل من خلال تغيير كيفية تفاعل الكمبيوتر مع الصورة أثناء لحظة التشخيص.

تظهر نتائج اختبار هذا النظام على ثلاث مجموعات بيانات طبية مختلفة أنه نجح في جعل الكمبيوتر أكثر موثوقية دون جعله أقل دقة. في الاختبارات القياسية، كان الكمبيوتر غالباً ما يدعي أنه على صواب بينما كان مخطئاً في الواقع، وهي مشكلة تُقاس بمعدل خطأ مرتفع في مستويات ثقته. لقد قلل EVADE من معدل الخطأ هذا بشكل كبير، حيث خفضه بنسبة تصل إلى 45 بالمائة في بعض الحالات. والأهم من ذلك، أنه حقق ذلك مع الحفاظ على دقة عالية في الإجابات. أما الأساليب الأخرى التي جربها الباحثون، مثل مطالبة الكمبيوتر بشرح منطقه خطوة بخطوة أو التحقق من نصه الخاص، فقد فشلت في تحسين الدقة والثقة في آن واحد. بل إن بعض تلك الأساليب جعلت الكمبيوتر أسوأ في الإجابة على الأسئلة، بينما فشلت أساليب أخرى في وقف إفراطه في الثقة.

كان أحد الاكتشافات الرئيسية في الدراسة هو أن قدرة الكمبيوتر على إيجاد المكان الصحيح للتكبير لم تكن السبب الرئيسي للتحسن. وجد الباحثون أن الكمبيوتر يمكنه تحديد الأجزاء ذات الصلة في الصورة بنجاح، مثل إصابة أو حالة غير طبيعية معينة، بشكل أفضل من التخمين العشوائي. ومع ذلك، لم يستطع الكمبيوتر استخدام هذا المنظر الجديد والأكثر وضوح لتغيير رأيه أو تصحيح إجابة خاطئة. الفائدة الحقيقية جاءت من قدرة النظام على مقارنة المنظرين المختلفين والقرار بشأن متى يجب الوثوق بالنتيجة. فعندما اختلف المنظران، عرف النظام أنه يجب أن يتوقف ويمتنع. هذا "الآلية للهروب" منعت الكمبيوتر من تقديم إجابة خاطئة بثقة، وهو الأمر الأكثر خطورة في الطب.

كما سلطت الدراسة الضوء على أن هذا النهج فعال. ولأن النظام يقوم بالتكبير وإعادة فحص الصورة فقط عندما يكون الكمبيوتر غير متأكد، فإنه لا يهدر الوقت في الحالات السهلة. فبالنسبة لمعظم الأسئلة، يقدم الكمبيوتر إجابة واحدة ويمضي قدماً. أما بالنسبة للحالات الصعبة، فيقوم بإجراء بعض الفحوصات الإضافية، لكن هذا أقل بكثير من الناحية الحسابية من الأساليب التي تتطلب من الكمبيوتر توليد العديد من الإجابات المحتملة ومقارنتها جميعاً. وخلص الباحثون إلى أنه بينما تستطيع النماذج الحاسوبية الحالية إيجاد الأدلة في الصور، إلا أنها لا تستطيع بعد استخدام تلك الأدلة لتعديل أفكارها. وحتى يتم سد هذه الفجوة، فإن أفضل طريقة لضمان السلامة هي استخدام نظام يعرف متى يتوقف ويطلب المساعدة. يوفر EVADE طريقة عملية للقيام بذلك بالضبط، محولاً نموذجاً حاسوبياً واحداً ثابتاً إلى مساعد تشخيصي أكثر موثوقية.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →