Medical Context Distorts Decisions in Clinical Vision Language Models
تكشف هذه الورقة أن نماذج الرؤية واللغة السريرية غالباً ما تخفق في السيناريوهات الواقعية من خلال الاعتماد المفرط على المعلومات النصية، والتضليل بواسطة التاريخ السريري غير ذي الصلة، وإظهار حساسية عالية تجاه تغيرات الأوامر البرمجية، مما يؤكد الحاجة الماسة لاختبارات الإجهاد الصارمة والضمانات قبل نشرها في الممارسة الطبية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل فريقاً من المساعدين الطبيين فائقي الذكاء (نماذج الذكاء الاصطناي) الذين تتمثل مهمتهم في النظر إلى صور الأشعة السينية للصدر وتحديد ما إذا كان المريض مريضاً أم معافى. لديهم مصدران للمعلومات: الصورة الخاصة بالأشعة السينية والملاحظات المكتوبة من الطبيب التي تصف تاريخ المريض المرضي.
تعمل ورقة البحث المعنونة بـ "السياق الطبي يشوه القرارات في النماذج البصرية اللغوية السريرية" كاختبار جهد لهؤلاء المساعدين. أراد الباحثون معرفة ما إذا كان بإمكان هؤلاء "الأطباء" من الذكاء الاصطناعي الوثوق فعلياً بصورة الأشعة السينية عندما تقول الملاحظات المكتة شيئاً مختلفاً، أم أنهم سيتبعون النص بشكل أعمى فحسب.
إليك ما وجدوه، مشروحاً عبر تشبيهات بسيطة:
1. مشكلة "النص فوق الصورة" (الصوت العالي)
التشبيه: تخيل أنك تنظر إلى صورة لشاطئ مشمس. ومع ذلك، يسلمك شخص ما ملاحظة تقول: "تم التقاط هذه الصورة أثناء عاصفة ثلجية". على الرغم من أن عينيك ترى بوضوح الشمس والرمال، إلا أن مساعدي الذكاء الاصطناي في هذه الدراسة تجاهلوا الصورة في الغالب وصدقوا الملاحظة.
النتيجة: وجد الباحثون أن نماذج الذكاء الاصطناي هذه تعتمد بكثافة على النصوص. عندما كانت صورة الأشعة السينية والتقرير المكتوب مختلفين، كان الذكاء الاصطناي ينحاز دائماً تقريباً إلى النص، حتى لو كان النص خاطئاً.
- إذا حصل الذكاء الاصطناي على التشخيص الصحيح بناءً على الصورة، ولكن قام الباحثون باستبدالها بتقرير مكتوب مربك أو متناقض، فإن الذكاء الاصطناي يغير رأيه فجأة ويخطئ.
- ومن المثير للدهشة أنه إذا استبدلوا الصورة بواحدة مختلفة مع الاحتفاظ بالنص الأصلي، فإن الذكاء الاصطناي لا يلاحظ ذلك إلا نادراً. كان الأمر كما لو كانت الصورة همساً، بينما كان النص صراخاً.
2. فخ "التاريخ غير ذي الصلة" (المكتب الفوضوي)
التشبيه: تخيل محققاً يحاول حل جريمة في مطبخ. ولكن، يستمر شخص ما في وضع ملاحظات على مكتبه تتعلق بجرائم حدثت في مدينة أخرى، أو عن نوع مختلف من الجرائم (مثل كسر في الساق بدلاً من السرقة). يصاب المحقق بالارتباك ويبدأ في لوم الشخص الخطأ بسبب كل هذا الضجيج الإضافي.
النتي نتيجة: في المستشفيات الحقيقية، غالباً ما تسحب أنظمة الذكاء الاصطناي التاريخ المرضي الكامل للمريض، بما في ذلك التقارير القديمة عن الركب أو الأدمغة أو المعدة التي لا علاقة لها بصورة الأشعة السينية الحالية للصدر.
- أظهرت الدراسة أنه عندما يتم تغذية الذكاء الاصطناي بهذه التقارير الماضية غير ذات الصلة، ينخفض أداؤه. لقد أصابه الارتباك بسبب "الضجيج".
- وبينما كانت النماذج "الرائدة" الأكثر تقدماً أفضل في تجاهل هذه الفوضى، فإن العديد من النماذج مفتوحة المصدر ساء أداؤها بشكل كبير مع تزويدها بمزيد ومزيد من التاريخ غير المرتبط. لم تكن قادرة على التمييز بين "السياق المهم" و"الضجيج الخلفي غير المفيد".
3. قضية "الحساسية تجاه الصياغة" (الكلمات السحرية)
التشبيه: تخيل أنك تسأل صديقاً، "هل السماء زرقاء؟" فيقول "نعم". ثم تسأله، "هل يمكنك تأكيد لون السماء؟" فيقول "لا". السؤال هو نفسه، ولكن الطريقة التي سألت بها تغيرت، وبالتالي تغيرت إجابته.
النتيجة: سأل الباحثون نفس السؤال الطبي باستخدام أربعة أساليب مختلفة من الكتابة (على سبيل المثال، سؤال غير رسمي، أمر طبي رسمي، قائمة مرجعية).
- بالنسبة لنماذج الذكاء الاصطناي الأضعف، تسبب تغيير صياغة السؤال في تغيير إجاباتهم. قد تقول نسخة واحدة من السؤال "مريض"، بينما قد تقول نسخة أخرى مشابهة لنفس السؤال "معافى".
- هذا يعني أن قرار الذكاء الاصطناي لم يكن مبنياً على الحقائق الطبية، بل على الصياغة المحددة للطلب. وهذا أمر خطير لأن الأطباء المختلفين يكتبون الملاحظات بأساليب مختلفة؛ وإذا غير الذكاء الاصطناي رأيه لمجرد تغير الأسلوب، فإنه يصبح غير موثوق.
الصورة الكبيرة
تخلص الورقة البحثية إلى أنه على الرغم من أن هذه النماذج تسجل درجات عالية جداً في الاختبارات القياسية، إلا أنها هشة في السيناريوهات الواقعية.
- فهي تثق بالكلمات أكثر من الصور.
- وتصاب بالارتباك بسبب التاريخ غير ذي الصلة.
- وتغير رأيها بناءً على كيفية طرح السؤال.
ويرى المؤلفون أنه قبل أن نسمح لهذه الأنظمة من الذكاء الاصطناي بالمساعدة في اتخاذ قرارات طبية حقيقية، نحتاج إلى "اختبار جهدها" بشكل أقوى بكثير لضمان عدم تشتتها بسبب النصوص، أو الفوضى، أو الصياغة. إنهم بحاجة إلى تعلم النظر إلى الأشعة السينية أولاً، بدلاً من مجرد قراءة الملاحظات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.