Beyond Predictive Fairness: Quantifying Attribution Consistency Across Demographic Groups in Diabetic Retinopathy Screening
تقدم هذه الورقة "درجة اتساق التفسير" (ECS) لقياس مدى تشابه خرائط الإسناد عبر المجموعات الديموغرافية في فحص اعتلال الشبكية السكري، مما يكشف أنه بينما يتباين الأداء التنبؤي حسب العرق، فإن الأدلة المرئية التي تستخدمها النماذج تظل متسقة، مما يثبت أن العدالة التنبؤية واتساق التفسير هما بُعدان متكاملان لسلوك النموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم التصوير الطبي، أصبحت الحواسيب ماهرة بشكل ملحوظ في رصد الأمراض في صور جسم الإنسان. فهي تستطيع فحص صور الشبكية، وهي الطبقة الحساسة للضوء في الجزء الخلفي من العين، وتحديد علامات اعتلال الشبكية السكري، وهي حالة يمكن أن تؤدي إلى العمى إذا لم تُعالج. ولكي تحظى هذه الأنظمة بالثقة في المستشفيات، يجب أن تكون عادلة؛ وهذا يعني أنها يجب أن تعمل بنفس الكفاءة لمريض من خلفية معينة كما تعمل لمريض من خلفية أخرى. تقليديًا، كان الأطباء والباحثون يتحققون من هذه العدالة عبر النظر إلى النتيجة النهائية: هل شخص الكمبيوتر المرض بشكل صحيح؟ فإذا فاته تشخيص المرض لدى مجموعة من الناس بينما نجح في تشخيصه لدى مجموعة أخرى، فإن ذلك يمثل مشكلة. ومع ذلك، فإن الوصول إلى الإجابة الصحيحة ليس سوى نصف القصة؛ إذ يمكن للحاسوب أن يصل إلى التشخيص الصحيح لأسباب خاطئة، ربما من خلال ملاحظة أثر طفيف في الصورة يصادف كونه أكثر شيوعًا في مجموعة معينة، بدلًا من رؤية المرض نفسه. وللثقة الحقيقية في هذه الأدوات، نحتاج إلى معرفة ليس فقط ما تقرره، بل كيف ترى العالم.
لقد شرع فريق من الباحثين في جامعة توبنغن بألمانيا في استقصاء هذا المستوى الأعمق من الفهم. فقد طرحوا سؤالًا بسيطًا ولكنه عميق: عندما ينظر الكمبيوتر إلى صورة عين للعثور على اعتلال الشبكية السكري، هل يركز على نفس أجزاء العين للجميع، بغض النظر عن عرقهم؟ ولإيجاد الإجابة، لجأوا إلى مجموعة ضخمة من صور الشبكية من قاعدة بيانات "EyePACS"، والتي تضمنت صورًا لمرضى من خمس خلفيات عرقية رئيسية: من أصول لاتينية، ومن أصول أفريقية، ومن أصول هندية، ومن أصول قوقازية، ومن أصول آسيوية. قاموا بتدريب نظام رؤية حاسوبي قياسي للتمييز بين العيون السليمة وتلك التي تظهر علامات مبكرة للمرض. وبمجرد أن أصبح النظام جاهزًا، لم يكتفِ الباحثون بالتحقق مما إذا كان مصيبًا أم مخطئًا، بل طلبوا من النظام أن "يُظهر عمله". وباستخدام تقنية تسلط الضوء على المناطق المحددة في الصورة التي أثرت على القرار، أنشأوا خرائط بصرية توضح بالضبط أين كان الكمبيوتر ينظر.
ثم طور الباحثون طريقة جديدة لقياس مدى تشابه هذه الخرائط البصرية عبر المجموعات المختلفة. وقارنوا أنماط الانتباه المتوسطة للكمبيوتر لكل عرق لمعرفة ما إذا كان التركيز يتغير بناءً على هوية المريض. وقد وجدوا انفصالًا صارخًا بين الأداء والانتباه؛ حيث تباينت قدرة الكمبيوتر على تحديد المرض بدقة كبيرة عبر المجموعات. فعلى سبيل المثال، كان أفضل بكثير في اكتشاف المرض لدى المرضى من أصول هندية، بمساحة تحت المنحنى (AUC) بلغت 0.83، مقارنة بـ 0.54 للمرضى من أصول قوقازية. وهذا يمثل فجوة كبيرة في العدالة التنبؤية. ومع ذلك، عندما نظر الباحثون في الخرائط البصرية، تغيرت القصة تمامًا؛ فقد كان الكمبيوتر ينظر إلى نفس البقع في الشبكية لكل مجموعة. وسواء كان المريض من أصول هندية أو أفريقية أو قوقازية، فقد ركز النظام باستمرار على نفس السمات الشبكية لاتخاذ قراره. وكان التشابه في هذه الأنماط البصرية مرتفعًا للغاية، حيث تراوحت درجات الاتساق بين 0.85 و0.92 على مقياس يمثل الاتفاق التام.
ولضمان أن هذه النتائج لم تكن ببساطة بسبب وجود حالات أكثر خطورة لدى بعض المجموعات، كرر الباحثون التحليل من خلال تقسيم المرضى بدقة حسب شدة حالتهم. وحتى عندما قارنوا بين مرضى يعانون من نفس مرحلة المرض، استمر الكمبيوتر في النظر إلى نفس المناطق للجميع. ظل الاتساق مرتفعًا، مما يشير إلى أن الفرق في الأداء لم يكن ناتجًا عن استخدام الكمبيوتر لمنطق مختلف أو البحث عن أدلة مختلفة لأشخاص مختلفين. بدلاً من ذلك، بدا أن الكمبيوتر يطبق نفس المنطق البصري على جميع المرضى، رغم أنه كان أقل نجاحًا في تطبيق هذا المنطق على مجموعات معينة.
يشير هذا الاكتشاف إلى أن الطريقتين الرئيسيتين اللتين نستخدمهما عادةً للحكم على العدالة في الذكاء الاصطناعي تقيسان في الواقع شيئين مختلفين. يمكن للنظام أن يكون عادلًا في كيفية تفكيره، من خلال التركيز على نفس الأدلة الطبية للجميع، بينما يظل غير عادل في نتائجه، بفشله في تشخيص بعض المجموعات بقدر غير الآخرين. لقد وجد الباحثون أنه لا يوجد ارتباط قوي بين مدى جودة أداء الكمبيوتر وبين اتساق نظره للصور. وهذا يعني أن جعل النموذج أكثر دقة لمجموعة واحدة قد لا يؤدي تلقائيًا إلى إصلاح طريقة رؤيته للعالم، وبالعكس، فإن النموذج الذي ينظر إلى الأشياء الصحيحة قد يظل يعاني في تقديم الإجابات الصحيحة للجميع. وتخلص الدراسة إلى أنه لبناء ذكاء اصطناعي طبي موثوق حقًا، يجب أن ننظر إلى ما وراء النتيجة النهائية؛ فنحن بحاجة إلى فهم المنطق وراء القرار، وضمان أن الكمبيوتر لا يخمن بشكل صحيح فحسب، بل يرى المرض بالطريقة نفسها لكل مريض على حدى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.