Ask Twice, Look Twice: Training-Free Consistency Filtering for Reliable Medical VQA

في عالم الطب الحديث عالي المخاطر، يعتمد الأطباء بشكل متزايد على الذكاء الاصطناعي للمساعدة في تفسير الصور الطبية المعقدة، من الأشعة السينية إلى صور الرنين المغناطيسي. أحد أنواع الذكاء الاصطناعي المحددة، والمعروف باسم نظام الإجابة على الأسئلة البصرية، مصمم للنظر في صورة ما والإجابة على سؤال بلغة طبيعية حولها، مثل "ما هو العضو الظاهر هنا؟" أو "هل هناك كسر؟". وبينما تحمل هذه الأنظمة وعوداً هائلة لدعم القرارات السريرية، إلا أنها تواجه عقبة حرجة: الموثوقية. فتماماً كما قد يتردد الإنسان أو يعطي إجابة مختلفة إذا صيغ السؤال بشكل مختلف قليلاً، يمكن لهذه البرامج الحاسوبية أن تتعثر أحياناً عندما تتغير صياغة السؤال، حتى لو ظل المعنى هو نفسه تماماً. وإذا قدم الذكاء الاصطناعي إجابة واثقة ولكن خاطئة لأن الطبيب طرح السؤال بطريقة جديدة، فإن العواقب في بيئة المستشفى قد تكون وخيمة. لذا، فإن التحدي الجوهري لا يكمن فقط في جعل هذه النماذج أكثر ذكاءً، بل في جعلها متسقة—أي ضمان تقديمها لنفس الإجابة الصحيحة بغض النظر عن كيفية طرح السؤال أو كيفية تغيير الصورة قليلاً.

قام فريق من الباحثين من جامعة سيدني وجامعة ماكواري بتطوير طريقة جديدة لحل هذه المشكلة دون الحاجة إلى إعادة تدريب نماذج الذكاء الاصطناعي من الصفر. وقد أطلقوا على نهجهم اسم "اسأل مرتين، وانظر مرتين". فبدلاً من محاولة إجبار الذكاء الاصطناعي على تعلم أشياء جديدة، قاموا ببناء مرشح أمان يتحقق من ثقة النموذج قبل السماح له بإعطاء إجابة. يعمل النظام عن طريق أخذ صورة طبية واحدة وسؤال واحد، ثم توليد عدة نسخ مختلفة من ذلك السؤال تلقائياً والتي تعني الشيء نفسه تماماً. على سبيل المثال، إذا كان السؤال الأصلي هو "ما هو المرض الموضح في الجانب الأيسر من الرئة؟"، فقد ينشئ النظام تنويعات مثل "ما الذي يُلاحظ في الرئة اليسرى؟" أو "ما هي النتائج الموجودة في الجانب الأيسر؟". ثم يطرح هذه النسخ المختلفة من السؤال على الذكاء الاصطناعي. فإذا قدم الذكاء الاصطناعي نفس الإجابة لكل نسخة من هذه النسخ، يقبل النظام النتيجة باعتبارها موثوقة. أما إذا تذبذبت إجابات الذكاء الاصطناعي أو تناقضت مع بعضها البعض، فإن النظام يرفض المخرج، ويصنفه كغير مؤكد بدلاً من المخاطرة بتشخيص خاطئ.

لاختبار هذه الفكرة، كان على الباحثين أولاً ابتكار طريقة لتوليد تنويعات الأسئلة تلقائياً. لقد استخدموا نموذج لغة ضخماً، وهو نوع من الذكاء الاصطناعي المتقدم المدرب على كميات هائلة من النصوص، لإعادة كتابة الأسئلة الموجودة في مجموعات البيانات الطبية الحالية. ووضعوا قواعد صارمة لهذه العملية: كان يجب أن تحتفظ الأسئلة الجديدة بنفس معنى السؤال الأصلي بالضبط، ولا يجوز لها إدخال أي حقائق جديدة لم تكن موجودة في الصورة أو السؤال الأصلي. وقد ضمن ذلك أن يتم اختبار الذكاء الاصطناعي على قدرته على فهم المفهوم الأساسي، وليس على قدرته على تخمين معلومات جديدة. كما تحققوا أيضاً من جودة هذه الأسئلة المولدة لضمان صحتها لغوياً وأنها مكافئة حقاً للأصل. سمحت هذه العملية ببناء ميدان اختبار أغنى بكلاً، حيث تم إقران كل صورة طبية بعشرات الطرق المختلفة للسؤال عنها، بدلاً من طريقة واحدة فقط.

ثم وضع الباحثون هذه الطريقة قيد الاختبار باستخدام نموذجين مختلفين من الذكاء الاصطناعي الطبي على مجموعة بيانات تسمى SLAKE، والتي تحتوي على آلاف الصور والأسئلة الطبية. وقد أنشأوا أربعة إصدارات مختلفة من مجموعة البيانات هذه لمحاكاة التحديات الواقعية. استخدم الإصدار الأول فقط الأسئلة المتنوعة الجديدة لاختبار كيفية تعامل النماذج مع التغييرات اللغوية. واستخدم إصدار آخر صوراً تم تعديلها قليلاً باستخدام تقنيات حاسوبية قياسية، مثل تغيير السطوع أو إضافة القليل من الضبابية، لاختبار المتانة البصرية. كما دمجوا هذه التغييرات واستخدموا أيضاً صوراً تم تعديلها ببراعة لخداع الذكاء الاصطناعي، وهو ما يعرف بالهجمات العدائية. وعند تشغيل النماذج على مجموعات البيانات هذه دون مرشح الأمان الجديد الخاص بهم، كانت النتائج كاشفة. فقد كانت النماذج هشة بشكل مثير للدهشة عندما يتعلق الأمر باللغة؛ إذ أدت التغييرات الصغيرة في كيفية صياغة السؤال إلى انخفاض كبير في دقتها. وفي المقابل، كانت النماذج أكثر صموداً نوعاً ما تجاه التغييرات في الصور نفسها، رغم أنها كانت لا تزال تعاني عندما يتم تعديل كل من النص والصورة في آن واحد.

لقد ظهرت القوة الحقيقية لمنهج "اسأل مرتين، وانظر مرتين" عندما طبق الباحثون مرشح الاتساق هذا. فقد وضعوا قاعدة مفادها أن الذكاء الاصطناعي لن يُسمح له بإعطاء إجابة إلا إذا اتفق مع نفسه عبر عدد معين من تنويعات السؤال. فعلى سبيل المثال، إذا طلبوا من النموذج تقديم نفس الإجابة لـ أحد عشر نسخة مختلفة على الأقل من السؤال، يصبح النظام أكثر موثوقية. وفي مجموعة البيانات ذات اللغة المتنوعة، قفزت موثوقية أحد أفضل النماذح من حوالي 77% إلى 89% عند تطبيق هذه القاعدة الصارمة. وفي مجموعة البيانات ذات التغييرات البصرية، ارتفعت الموثوقية من حوالي 80% إلى 87%. وجاء هذا التحسن مع وجود مقايضة: نظرًا لأن النظام أصبح الآن يرفض الإجابات التي ليس متأكداً منها، فإن عدد الأسئلة التي أجاب عليها بالفعل قد انخفض. ففي مجموعة بيانات تنوع اللغة، انخفض معدل القبول بنحو 29%، مما يعني أن النظام اختار الصمت بدلاً من التخمين. ومع ذلك، كانت الإجابات التي قدمها أكثر عرضة للصحة، وانخفض عدم اليقين في تنبؤاته بنحو الربع.

كما سلطت الدراسة الضوء على فرق جوهري في كيفية تعامل نماذج الذكاء الاصطناعي الطبية مع أنواع الأخطاء المختلفة. فقد وجد الباحثون أن النماذج كانت أكثر حساسية للتغييرات في اللغة منها للتغييرات في الصور. فحتى عندما جعلت الصور ضبابية قليلاً أو تم تعديل تباينها، كان أداء النماذج جيداً نسبياً. ولكن عندما تمت إعادة صياغة الأسئلة، غالباً ما فشلت النماذج في التعرف على أن السؤال هو نفسه. وهذا يشير إلى أن أنظمة الذكاء الاصطناعي الطبية الحالية تعتمد بشكل كبير على الكلمات المحددة المستخدمة في السؤال بدلاً من الفهم الحقيقي للمعلومات البصرية في الصورة. وأشار الباحثون إلى أن التغييرات التقليدية في الصور أضرت بالأداء أكثر من الهجمات الحاسوبية الدقيقة المصممة لخداع الذكاء الاصطناعي، وهو اكتشاف يتحدى بعض الافتراضات حول مواطن ضعف هذه الأنظمة.

من خلال استخدام مرشح الاتساق هذا، أثبت الباحثون أنه من الممكن تعزيز موثوقية الذكاء الاصطناعي الطبي بشكل كبير دون الحاجة إلى تدريب النماذج على بيانات جديدة أو تغيير بنيتها الأساسية. يعمل المنهج كحارس بوابة، مما يضمن أن النظام يتحدث فقط عندما يكون واثقاً. وبينما يعني هذا أن النظام سيختار أحياناً عدم الإجابة على سؤال ما، يرى الباحثون أن النظام الصامت أكثر أماناً بكثير من النظام الذي يقدم إجابة خاطئة بثقة. ويعمل هذا النهج عبر أنواع مختلفة من النماذج وأنواع مختلفة من البيانات، مما يشير إلى أنه يمكن أن يكون أداة عملية لتحسين السلامة في المستشفيات الواقعية. وتخلص الدراسة إلى أنه بينما لا تزال هذه الأنظمة بحاجة إلى العمل لتصبح قوية تماماً، خاصة فيما يتعلق بكيفية تعاملها مع الطرق المختلفة لطرح الأسئلة، فإن استراتيجية "اسأل مرتين" البسيطة هذه توفر طريقة قوية لتصفية عدم اليقين وضمان أن الإجابات المقدمة للأطباء موثوقة.