Agreement Between Fitzpatrick-17k Skin-Type Labels Is Metric- and Stratum-Dependent: A Chance-Corrected Reanalysis
تعيد هذه الورقة تحليل مجموعة بيانات "Fitzpatrick-17k" باستخدام إحصاءات مصححة للاحتمالات لإثبات أن الاتفاق بين مصادر التوسيم يعتمد بشكل كبير على المقياس المختار وطبقة نوع البشرة، مما يكشف عن تباينات جوهرية — لا سيما في درجات البشرة الداكنة — تستوجب الإبلاغ الشفاف عن المنهجية وفترات الثقة لكل طبقة في أبحاث الذكاء الاصطناعي في مجال الأمراض الجلدية.
تخيل أنك تحاول تعليم روبوت التعرف على درجات مختلفة من بشرة الإنسان، تماماً مثل طالب فنون رقمية يتعلم رسم البورتريه. وللقيام بذلك، يحتاج الروبوت إلى "معلم" ينظر إلى الصور ويقول: "هذا باهت جداً"، أو "هذا بني عميق". في عالم طب الجلد والذكاء الاصطعي، غالباً ما يكون هذا المعلم هو "المُصنِّف" البشري الذي يحدد نوع البشرة بناءً على مقياس فيتزباتريك، وهو نظام يصنف البشرة إلى ست فئات، من النوع الأول (فاتح جداً، يحترق دائماً) إلى النوع السادس (بني عميق، نادراً ما يحترق). لكن الجزء الصعب هنا هو أن البشر ليسوا مثاليين. قد يرى شخص ما صورة بأنها "بنية متوسطة"، بينما يراها آخر "بنية داكنة". إذا تعلم الروبوت من هذه التعليمات المختلطة، فقد يصاب بالارتباك، خاصة عند محاولة مساعدة الأشخاص ذوي البشرة الداكنة الذين يعانون بالفعل من نقص التمثيل في الرعاية الطبية. السؤال الكبير هو: إلى أي مدى يتفق هؤلاء المعلمين البشر مع بعضهم البعض حقاً، وهل يهم إذا اختلفوا بمقدار خطوة واحدة فقط على المقياس؟
هذه الورقة البحثية تشبه قصة بوليسية، حيث تعود الباحثة "نيا بيني" إلى مجموعة بيانات شهيرة تسمى Fitzpatrick-17k للتحقق من "واجب المنزلي". تم إنشاء مجموعة البيانات هذه من خلال الطلب من مجموعتين مختلفتين من العمال (واحدة من Scale AI والأخرى من Centaur Labs) تصنيف آلاف صور البشرة. قال المبتكرون الأصليون لمجموعة البيانات: "مهلاً، في 85% من الحالات، كانت مجموعتا العمل قريبتين جداً من بعضهما، وعادة ما تكون الفجوة في حدود خطوة واحدة فقط!". بدا هذا رائعاً. لكن "بيني" قررت إجراء اختبار أكثر صرامة ورياضياً لترى ما يحدث حقاً. لم تسأل فقط: "هل كانا قريبين؟"، بل سألت: "هل اختارا نفس الرقم تماماً؟ وهل يُعد كونهما بعيدين بمقدار خطوة واحدة بمثابة فوز أم خسارة؟"
إليك ما وجده التحقيق. أولاً، قصة "القرب دون التطابق" صحيحة: إذا اعتبرت أن كون المجموعة بعيدة بمقدار نوع بشرة واحد فقط يعد "اتفاقاً"، فنعم، اتفقت المجموعتان بنسبة 91% من الوقت. ولكن إذا اشترطت أن يختارا نفس الرقم تماماً، فإن نسبة الاتفاق تنخفض إلى أقل من النصف (47.9%). الأمر يشبه صديقين ينظران إلى غروب الشمس، أحدهما يقول "برتقالي" والآخر يقول "برتقالي محمر". إنهما قريبان، لكنهما لا يقولان الشيء نفسه.
اكتشفت الورقة أيضاً أن هذا الاختلاف ليس موزعاً بالتساوي. الأمر يشبه لعبة تتغير قواعدها بناءً على النتيجة. بالنسبة لأنواع البشرة الأفتح (النوع الأول)، اتفقت المجموعتان بنسبة 88% تقريباً. ولكن بالنسبة لأنواع البشرة الداكنة (الأنواع من الثاني إلى السادس)، انهار الاتفاق بشكل حاد، حيث تراوح بين 34% و55%. بعبارة أخرى، كان المعلمون البشر أكثر ارتباكاً بشأن البشرة الداكنة مقارنة بالبشرة الفاتحة. علاوة على ذلك، لم يكن اختلاف المجموعتين عشوائياً؛ بل كان لديهما نمط معين. فقد مالت مجموعة "Centaur Labs" إلى تصنيف الصور على أنها أفتح من مجموعة "Scale AI"، خاصة بالنسبة لدرجات البشرة الداكنة.
أخيراً، تشير الورقة إلى وجود "مشكلة في العد". بالنسبة لفئة البشرة الأكثر دكنة (النوع السادس)، هناك عدد قليل جداً من الصور التي تظهر حالات جلدية خطيرة (صور خبيثة) في مجموعة البيانات. تحت نظام تصنيف واحد، كان هناك 61 صورة كهذه؛ وتحت النظام الآخر، كان هناك 45 فقط. ولأن هذه الأرقام صغيرة جداً، تقترح الورقة أن أي دراسة تحاول قياس مدى كفاءة الذكاء الاصطناعي على هذه المجموعة تحديداً ستكون أشبه بمحاولة تخمين متوسط طول غرفة عن طريق قياس ثلاثة أشخاص فقط. ستكون النتائج متذبذبة وغير دقيقة للغاية بحيث لا يمكن الوثوق بها.
لذا، فإن الاستنتاج الرئيسي ليس أن مجموعة البيانات عديمة الفائدة، بل أننا بحاجة إلى أن نكون أكثر حذراً في كيفية قراءتها. تجادل الورقة بأنه لا يمكن للباحثين القول ببساطة "إن الذكاء الاصطناعي عادل" دون تحديد أي نظام تصنيف استخدموا بالضبط، وكيف عرّفوا "الاتفاق"، وما إذا كان لديهم ما يكفي من البيانات لتقديم ادعاء قوي. إذا غيرت قواعد اللعبة (مصدر التصنيف) أو حجم الفريق (عدد الصور)، فإن النتيجة تتغير. وتخلص الورقة إلى أنه لفهم ما إذا كان الذكاء الاصطناعي عادلاً للجميع حقاً، نحتاج إلى التوقف عن معاملة هذه التصنيفات كحقائق مطلقة، والبدء في الإبلاغ بدقة عن مدى عدم اليقين والتباين الذي تتسم به.
ملخص تقني: الاتفاق بين تسميات أنواع البشرة (Fitzpatrick-17k) يعتمد على المقياس والطبقة
بيان المشكلة تُقيّم أنظمة الذكاء الاصطناي في طب الجلد بشكل متزايد باستخدام مقاييس أداء مُطبقة (stratified) بناءً على تقديرات أنواع بشرة "فيتزباتريك" لتقييم العدالة الخوارزمية عبر درجات لون البشرة المختلفة. ومع ذلك، فإن قابلية تفسير هذه النتائج المُطبقة تعتمد كليًا على موثوقية تسميات نوع البشرة الأساسية. توفر مجموعة بيانات "Fitzpatrick-17k"، وهي معيار مستخدم على نطاق واسع، فرصة فريدة لتقييم الموثوقية لأنها تحتوي على مصدرين مستقلين لتسميات الإجماع الجماعي (Scale AI وCentaur Labs). وبينما أفاد إصدار البيانات الأصلي بأن 85% من تسميات الإجماع كانت ضمن وحدة واحدة من "فيتزباتريك" عن بعضها البعض، إلا أن هذا المقياس الملخص يفشل في التمييز بين الاتفاق الفعلي في الفئة، والاتفاق المصحح للاحتمالية، والتباين عبر طبقات محددة. علاوة على على ذلك، فإن نسبة الاتفاق الخام لا تأخذ في الاعتبار الاتفاق المتوقع بالصدفة، ولا توضح كيف يؤثر اختيار طريقة التوزين (معاملة الفئات المتجاورة كفئات متشابهة مقابل فئات متميزة) على استنتاجات الموثوقية.
المنهجية أعادت هذه الدراسة تحليل البيانات الوصفية العامة لمجموعة بيانات "Fitzpatrick-17k" (16,577 سجلاً) بموجب بروتوكول مسجل مسبقاً (إطار تدقيق العدالة الإصدار 1.0) المستضاف على منصة "Open Science Framework". ركز التحليل على 15,230 صورة تمتلك تسميات صالحة من كلا مصدري التسمية.
شملت المكونات المنهجية الرئيسية ما يلي:
المقاييس الإحصائية: تم قياس الاتفاق باستخدام معامل "كوهين كابا" (Cohen's kappa) في ثلاثة أشكال: غير موزون (يتطلب تطابقاً تاماً)، وموزون خطياً، وموزون تربيعياً (يمنح ائتماناً جزئياً للفئات المتجاورة).
التحليل الطبقي: تم حساب الاتفاق الصفّي الدقيق بشرط تسميات "Scale AI" لكل نوع من أنواع "فيتزباتريك" الستة (I–VI).
التحليل الاستكشافي: حدد تحليل حساسية لاحق مصفوفة اتفاق ثنائية، حيث عوملت التسميات التي تختلف بما لا يتجاوز وحدة واحدة كحالة اتفاق، مما نتج عنه معامل "كابا" لـ "ضمن-وحدة-واحدة" المصحح للاحتمالية.
تقدير الدقة: لتوضيح القيود التي تفرضها حجم العينة، حسبت الدراسة فترات ثقة "ويلسون" بنسبة 95% للحساسية المفترضة (0.85) بناءً على أعداد الصور الخبيثة ضمن طبقات محددة (تحديداً النوع VI والأنواع I–II).
معالجة البيانات: تم استبعاد السجلات ذات التسميات غير الصالحة (المرمزة بـ -1) من حسابات الطبقات الخاصة بكل مصدر. لم يتم تحميل صور جديدة؛ بل اعتمد التحليل فقط على البيانات الوصفية الموجودة.
النتائج الرئيسية
الاعتماد على المقياس: من بين 15,230 تسمية مزدوجة صالحة، بلغ الاتفاق "ضمن-وحدة-واحدة" 91.0%، بينما كان الاتفاق التام 47.9% فقط. تباينت قيم "كوهين كابا" بشكل كبير حسب مخطط التوزين: 0.351 (غير موزون، "مقبول")، و0.610 (موزون خطياً، "جوهري")، و0.786 (موزون تربيعياً، "جوهري"). وحده معامل "كابا" الموزون تربيعياً استوفى عتبة الموثوقية المسجلة مسبقاً وهي 0.70. وبلغ معامل "كابا" الاستكشافي لـ "ضمن-وحدة-واحدة" 0.808.
الاعتماد على الطبقة: كان الاتفاق التام متغيراً للغاية عبر أنواع البشرة عند اشتراطه بتسميات "Scale AI". فقد كان الاتفاق 87.6% للنوع I، لكنه انخفض بشكل كبير لألوان البشرة الداكنة: 34.4% (النوع II)، و41.5% (النوع III)، و36.2% (النوع IV)، و44.8% (النوع V)، و55.8% (النوع VI). وبالنسبة للصور التي تم تعيين النوع V أو VI لها من قبل أي من المصدرين، كان الاتفاق التام 40.0%.
عدم التماثل التوزيعي: أظهر المصدران توزيعات هامشية مختلفة. عين "Centaur Labs" أنواعاً أفتح من "Scale AI" لـ 6,059 صورة، وأنواعاً أغمق لـ 1,878 صورة. وبناءً على ذلك، تباين تمثيل النوع VI بين 4.0% (Scale AI) و3.6% (Centaur) من التسميات الصالحة، مما غير نسبة النوع I إلى النوع VI من 4.64:1 إلى 9.90:1.
قيود الدقة: كان عدد الصور الخبيثة في الطبقة الأكثر دكنة (النوع VI) منخفضاً (61 تحت Scale AI، و45 تحت Centaur). عند حساسية مفترضة قدرها 0.85، كانت فترات ثقة "ويلسون" بنسبة 95% لتقديرات الأداء في هذه الطبقة واسعة (74.3%–92.0% و71.2%–92.3%، على التوالي). تشير الدراسة إلى أن فرق خمس نقاط مئوية في الأداء سيكون أصغر من عدم اليقين الذي تمثله هذه الفترات، مما يجعل التقدير الدقيق للتفاوتات في النوع VI أمراً صعباً بالنظر إلى حجم مجموعة البيانات الحالية.
الأهمية والادعاءات تجادل الورقة بأن الاتفاق العام على مقياس "فيتزباتريك" لا يمكن اختزاله في تسمية ملخصة واحدة (مثل "مرتفع" أو "منخفض") لأن الاستنتاج يعتمد بشدة على تعريف الاتفاق المختار (تام مقابل ضمن-وحدة-واحدة) وعلى مخطط التوزين. ويدعي المؤلف ما يلي:
الاعتماد على المصدر: عضوية المجموعات الفرعية في التحليلات المطبقة تعتمد على المصدر؛ إذ يمكن لمقياس أداء النموذج أن يتغير ببساطة عبر تغيير مصدر التسمية، خاصة بالنسبة لألوان البشرة الداكنة حيث يكون الاتفاق التام منخفضاً.
معايير التقارير: لضمان قابلية التفسير والمقارنة، يجب على الدراسات المستقبلية تحديد مصدر التسمية صراحةً، وتحديد معيار الاتفاق ومخطط التوزين، وتوفير أعداد الاتفاق لكل طبقة، والإبلاغ عن أعداد النتائج مع فترات الثقة.
قيود البيانات: إن دقة الطبقات المتاحة والعدد القليل من الصور الخبيثة في الفئات الأكثر دكنة (النوع V/VI) يضع حداً أساسياً لدقة عمليات تدقيق العدالة. تسلط الدراسة الضوء على أن مجموعات البيانات الموجودة غالباً ما تصل إلى الحد الأقصى لما يمكن أن تدعمه طبقاتها من أجل الكشف الصارم عن التفاوتات.
لا يدعي المؤلف تحديد مصدر تسمية "صحيح"، مشيراً إلى أن أي من المصدرين لا يعمل كمرجع للحقيقة المطلقة. بدلاً من ذلك، يعد هذا العمل بمثابة تدقيق منهجي يوضح أن نتائج المعايير الحالية حساسة لاختيارات التسمية وقيود حجم العينة، مما يحث المجتمع العلمي نحو معايير إبلاغ أكثر شفافية وتفصيلاً.