Subgroup performance analysis of adaptation strategies for chest X-ray foundation models
تكشف هذه الدراسة أنه في حين أن استراتيجيات التكيف القائمة على تجميع الانتباه لنماذج التأسيس الخاصة بالأشعة السينية للصدر تحقق دقة إجمالية فائقة، إلا أنها لا تؤدي باستمرار إلى تحسين العدالة بين المجموعات الفرعية، مما يثبت أن الترميز الأقوى للسمات المحمية لا يرتبط بالضرورة بوجود تفاوتات أكبر في الأداء، وأن العدالة يجب تقييمها مباشرة على أساس كل مهمة بدلاً من استنتاجها من قوة التمثيل أو الأداء العام.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم التصوير الطبي، نمت قدرة الذكاء الاصطناعي لتصبح قوية بما يكفي للنظر في صورة الأشعة السينية للصدر ورصد علامات المرض بسرعة مذهلة. هذه الأنظمة، التي تُسمى غالباً النماذج التأسيسية، تشبه مكتبات ضخمة من المعرفة البصرية المدربة على ملايين الصور؛ فهي تتعلم التعرف على الأنماط في جسم الإنسان التي قد يغفل عنها حتى الأطباء ذوو الخبرة. ومع ذلك، يلوح في الأفق ظل فوق هذا التقدم: يمكن لهذه النماذج أن تتعلم عن غير قصد الاعتماد على طرق مختصرة. فبدلاً من النظر بدقة إلى الأدلة الطبية، قد يتعلم الكمبيوتر تخمين عرق المريض أو جنسه بناءً على إشارات دقيقة في الصورة، مثل نوع المعدات الطبية المستخدمة في المستشفى أو الطريقة التي التُقطت بها الأشعة السينية. وإذا استخدم النموذج هذه الطرق المختصرة لاتخاذ تشخيصه، فقد يصبح غير عادل، حيث يؤدي بشكل جيد مع بعض الفئات من الناس بينما يفشل مع آخرين. وهذا يمثل مصدر قلق بالغ لأن الذكاء الاصطناዊ الطبي يُستخدم بشكل متزايد لاتخاذ قرارات حقيقية بشأن رعاية المرضى، والعدالة لا تقل أهمية عن الدقة.
لقد سعى باحثون في "إمبريال كوليدج لندن" لفهم كيف تؤثر الطرق المحددة المستخدمة لتكييف هذه النماذج القوية للاستخدام في المستشفيات على هذه العدالة. وقد ركزوا على نموذج شهير للأشعة السينية للصدر يسمى "Rad-DINO"، والذي يعمل كدماغ مدرب مسبقاً ومجمد لا يتغير أثناء الدراسة. ولجعل هذا الدماغ مفيداً في رصد أمراض معينة مثل الالتهاب الرئوي أو آفات الرئة، تعين على الفريق إلحاق طبقة جديدة أصغر لاتخاذ القرار فوقه. واختبروا ثلاث طرق لبناء هذه الطبقة: كانت الأولى عبارة عن اتصال مباشر وبسيط، والثانية أضافت وحدة معالجة صغيرة متعددة الطبقات، أما الطريقة الثالثة الأكثر تعقيداً، فكانت تعمل كمرشح متطور يجمع المعلومات من مستويات مختلفة من الطبقات الداخلية للنموذج ويدمجها لاتخاذ القرار. أراد الفريق معرفة ما إذا كانت الطريقة الأكثر تعقيداً وتعبيراً لن تحسن فقط قدرة النموذج على اكتشاف الأمراض، بل ستعمل أيضاً على تقليل الفجوات غير العادلة في الأداء بين مختلف مجموعات المرضى، مثل الرجال والنساء، أو الأشخاص من أعراق مختلفة.
قام الباحثون بتقييم هذه الطرق باستخدام مجموعة بيانات ضخمة من الأشعة السينية للصدر من مستشفى في الولايات المتحدة، مع ضمان توازن مجموعة الاختبار لتمثيل مختلف التركيبات السكانية بشكل عادل. وقد نظروا في ثمانية أنواع مختلفة من أمراض الرئة. وأظهرت النتائج أن الطريقة الأكثر تعقيداً، والتي جمعت المعلومات من طبقات متعددة، حققت بالفعل أفضل دقة إجمالية في اكتشاف الأمراض؛ فقد كانت الأكثر قدرة على التمييز بين الرئات المريضة والسليمة. ومع ذلك، وجد الفريق حقيقة مفاجئة ومناقضة للبديهة: وهي أن كون النظام أفضل في المهمة الأساسية لا يعني تلقائياً أنه أكثر عدلاً. في الواقع، اختلف تأثير النموذج المعقد على العدالة اعتماداً على المرض المحدد والمجموعة الفرعية؛ فبالنسبة لبعض الحالات، قلل من فجوات الأداء مقارنة بالنماذج الأبسط، بينما تسبب في حالات أخرى في حدوث تفاوتات أكبر. لم يكن هناك اتجاه ثابت يجعل إحدى الطرق أكثر عدلاً بشكل عالمي من الطرق الأخرى عبر جميع المهام.
ولعل الاكتشاف الأكثر كشفاً كان حول كيفية تفكير النموذج في الخصائص المحمية مثل العرق. فقد قاس الباحثون مدى قوة الإشارات الداخلية للنموذج في التنبؤ بعرق المريض أو جنسه أو زاوية الأشعة السينية. ووجدوا أن النموذج المعقد يرمز العرق بقوة أكبر من النماذج البسيطة، مما يعني أنه يمتلك إشارة داخلية واضحة جداً للخلفية العرقية للمريض. وقد يكون الافتراض الطبيعي هو أن نموذجاً "يعرف" العرق جيداً سيستخدم تلك المعرفة لخلق التحيز أو إنتاجه. ومع ذلك، لم تظهر البيانات أي صلة من هذا القبيل. فالنموذج الذي رمز العرق بأضعف صورة كان هو الذي أنتج أكبر الفجوات في الأداء بين المجموعات العرقية. وعلى العكس من ذلك، فإن النموذج الذي رمز العرق بأقوى صورة لم يتسبب بالضرورة في أكبر عدم عدالة. وهذا يشير إلى أن مجرد قياس مدى معرفة النموذج بهوية الشخص ليس كافياً للتنبؤ بما إذا كان سيعامله بعدل.
كما استكشف البحث ما إذا كان تغيير الطبقات التي يتم دمجها في الطريقة المعقدة سيساعد في ذلك. فقد جربوا خلط الطبقات المبكرة، التي تلتقط الأشكال الأساسية، مع الطبقات اللاحقة، التي تفهم المفاهيم المعقدة. ووجدوا أنه بينما غير اختيار الطبقات الدقة الإجمالية لبعض الأمراض، إلا أنه لم يخلق نمطاً ثابتاً للعدالة. فأحياناً يساعد مزيج معين فئة واحدة، بينما يضر بأخرى، دون وجود قاعدة واضحة يمكن اتباعها. وخلص الباحثون إلى أنه لا يوجد "مفتاح سحري" واحد أو إعداد قياسي يضمن كلاً من الدقة العالية والعدالة. فالطريقة التي تعمل جيداً لمرض ما قد تفشل في مرض آخر، والطريقة التي تكون عادلة لمجموعة ما قد لا تكون كذلك لمجموعة أخرى.
وفي نهاية المطاف، يوضح هذا العمل أن تحسين قوة الذكاء الاصطناዊ الطبي لا يحل مشكلة التحيز من تلقاء نفسه. إن العلاقة بين مدى جودة أداء النموذج ومدى عدالته في معاملة الناس مختلفة وتعتمد كلياً على المهمة المحددة. ويجادل المؤلفون بأنه لا يمكننا افتراض أن النموذج الأكثر ذكاءً سيكون أكثر عدلاً، كما لا يمكننا افتراض أن النموذج الذي يخفي معلومات الهوية سيكون آمناً. بدلاً من ذلك، يجب فحص العدالة بشكل مباشر لكل تطبيق على حدة، من خلال النظر في النتائج الفعلية لكل مجموعة من الناس، بدلاً من استنتاج العدالة من تعقيد النموذج الداخلي أو درجته الإجمالية. إن المسار نحو ذكاء اصطناዊ طبي جدير بالثقة يتطلب هذا التدقيق المباشر والحالة بحالة، لضمان مشاركة فوائد التكنولوجيا المتقدمة بالتساوي بين جميع المرضى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.