💻 computer science

FunnyNodules: A Customizable Medical Dataset Tailored for Evaluating Explainable AI

تقدم الورقة البحثية FunnyNodules، وهي مجموعة بيانات اصطناعية كاملة المعلمات لأشكال تشبه عُقيدات الرئة ذات سمات بصرية قابلة للتحكم وقواعد قرار معروفة، صُممت لتقييم ومقارنة نماذج الذكاء الاصطناعي القابلة للتفسير بشكل منهجي من خلال التحقق مما إذا كانت تتعلم علاقات السمات-الأهداف الصحيحة وتواءم انتباهها مع الميزات التشخيصية ذات الصلة.

المؤلفون الأصليون: Luisa Gallée, Yiheng Xiong, Meinrad Beer, Michael Götz

نُشر 2026-03-09

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Luisa Gallée, Yiheng Xiong, Meinrad Beer, Michael Götz

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت كيف يصبح طبيبًا. تعرض عليه آلاف الصور الشعاعية لعقيدات الرئة (كتل صغيرة في الرئة) وتقول له: "هذه خطيرة، وهذه آمنة". يتعلم الروبوت الوصول إلى التشخيص الصحيح. ولكن تكمن المشكلة هنا: هل تعلم الأسباب الصحيحة؟

ربما يقوم الروبوت بمجرد التخمين بناءً على الضوضاء في خلفية الصورة، أو ربما ينظر إلى الجزء الخطأ من الرئة. في العالم الحقيقي، غالبًا لا يمكننا معرفة لماذا ارتكب الروبوت خطأً لأننا لا نملك "نموذج إجابة المعلم" الذي يشرح بالضبط أي الميزات البصرية (مثل الاستدارة أو الحواف الحادة) أدت إلى التشخيص.

هنا تقدم الورقة البحثية FunnyNodules.

تشبيه "الليغو": بناء اختبار مثالي

فكر في البيانات الطبية الحقيقية مثل كومة فوضوية من الصخور. كل صخرة مختلفة، بعضها مخفي، ولا نعرف بالضبط لماذا اختار الجيولوجي واحدة دون غيرها.

FunnyNodules تشبه مجموعة "ليغو" للذكاء الاصطناعي الطبي. بدلاً من الصخور الفوضوية، بنى الباحثون مصنعًا ينتج عقيدات رئوية اصطناعية مثالية من قطع "ليغو" رقمية.

إليك كيف يعمل الأمر:

القطع (السمات): يمتلك المصنع مقابض محددة يمكنهم تحريكها لتغيير مظهر العقيدة. يمكنهم جعلها:
- أكثر أو أقل استدارة.
- ذات حواف مدببة أو ملساء.
- كبيرة أو صغيرة.
- داكنة أو فاتحة.
- لها نسيج في الداخل أو تكون فارغة.
كتاب القواعد (المنطق): يكتب الباحثون كتاب قواعد صارم. على سبيل المثال: "إذا كانت العقيدة مدببة ولها نسيج في الداخل، فهي خطيرة (الهدف 5). إذا كانت مستديرة وملساء، فهي آمنة (الهدف 1)."
نموذج الإجابة المثالي: نظرًا لأن الكمبيوتر بنى الصورة باستخدام هذه القواعد، فهو يعرف بالضبط لماذا تم تصنيف كل صورة بالطريقة التي هي عليها. لديه "حقيقة أرضية" مثالية.

لماذا تسمى "Funny" (مضحكة)؟

يأتي اسم "FunnyNodules" من فكرة أن هذه ليست أورامًا حقيقية ومخيفة. إنها أشكال تجريدية تشبه الرسوم المتحوية. هي "مضحكة" لأنها أشكال سخيفة ومصنوعة، لكنها مفيدة للغاية للاختبار.

ماذا يمكننا أن نفعل بهذه المجموعة من الليغو؟

توضح الورقة ثلاث طرق رئيسية يمكن للعلماء استخدامها لاختبار الذكاء الاصطناعي:

1. لعبة "ماذا لو؟" (اختبار الاستنتاج)

في العالم الحقيقي، لا يمكنك بسهولة تغيير شيء واحد فقط في رئة المريض. ولكن مع FunnyNodules، يمكنك ذلك.

الاختبار: تعرض على الذكاء الاصطناعي عقيدة ما. ثم تقول: "حسنًا، أبقِ كل شيء كما هو، ولكن اجعلها أكثر حدة/تسننًا".
الهدف: هل سيغير الذكاء الاصطناعي رأيه؟ إذا كان كتاب القواعد يقول "مدبب = خطير"، فيجب أن يقول الذكاء الاصطناعي: "أوه، الآن هي خطيرة!".
النتيجة: إذا تجاهل الذكاء الاصطناعي الحواف المدببة واستمر في قول إنها آمنة، فنحن نعلم أن الذكاء الاصطناعي "يغش" أو ينظر إلى الأدلة الخاطئة. إنه يشبه طالبًا حفظ نموذج الإجابة لكنه لم يتعلم الرياضيات.

2. "درجة الثقة" (التحقق مما إذا كان الذكاء الاصطناعي صادقًا)

أحيانًا يحصل الذكاء الاصطناعي على الإجابة الصحيحة لسبب خاطئ.

التشبيه: تخيل طالبًا يؤدي اختبار رياضيات. لقد حصل على الإجابة "42" بشكل صحيح. ولكن عندما تسأله كيف وصل إليها، يقول: "لقد خمنت".
الاختبار: يقيس الباحثون شيئين:
1. مدى جودة الذكاء الاصطناعي في رصد السمات (مثل: "هل هي مدببة؟").
2. مدى جودة الذكاء الاصطناعي في إجراء التشخيص النهائي.
النتيجة: إذا كان الذكاء الاصطناعي بارعًا في رصد السمات ولكنه سيء في التشخيص، فهو مرتبك. وإذا كان بارعًا في التشخيص ولكنه سيء في رصد السمات، فهو مجرد مخمن. تنشئ الورقة "مؤشر ثقة" ليخبرك ما إذا كان بإمكانك الوثوق بمنطق الذكاء الاصطناعي.

3. اختبار "المصباح اليدوي" (التحقق من الانتباه)

غالبًا ما يحاول الذكاء الاصطناعي القابل للتفسير (xAI) رسم "خريطة حرارية" على الصورة لإظهار المكان الذي ينظر إليه الذكاء الاصطناعي.

المشكلة: في الحياة الواقعية، لا نعرف ما إذا كان الذكاء الاصطناعي ينظر إلى المكان الصحيح.
الحل: مع FunnyNodules، يعرف الباحثون بالضبط أين توجد "الأطراف المدببة" لأنهم بنوها هناك.
الاختبار: يسلطون "مصباحًا يدويًا" (خريطة انتباه الذكاء الاصطناعي) على الصورة. هل يسلط الضوء على الأطراف المدببة؟
النتيجة: في اختباراتهم، وجدوا أن نماذج الذكاء الاصطناعي المتقدمة غالبًا ما تنظر إلى الكتلة بأكملها بدلاً من التركيز على الأطراف المدببة المحددة التي تهم. هذا يساعد المطورين على إصلاح "رؤية" الذكاء الاصطناعي.

الصورة الكبيرة

لا يقول المؤلفون: "توقفوا عن استخدام بيانات المرضى الحقيقية". فالبيانات الحقيقية لا تزال ضرورية للفحص النهائي.

بدلاً من ذلك، هم يقولون: "قبل أن تختبر الذكاء الاصطناعي الخاص بك على مرضى حقيقيين وفوضويين، اختبره على مجموعة الليغو المثالية الخاصة بنا."

إنه يشبه محاكي الطيران. الطيارون لا يتعلمون الطيران على طائرة حقيقية وسط عاصفة؛ بل يتعلمون في محاكي حيث يمكنهم التحطم ألف مرة دون إيذاء أحد. FunnyNodules هو محاكي الطيران للذكاء الاصطناعي الطبي. إنه يسمح للباحثين بتحطيم نماذجهم، ومعرفة سبب تحطمها، وإصلاح المنطق قبل أن يلمسوا بيانات مريض حقيقي.

باختصار: إنه منصة اختبار قابلة للتخصيص والمثالية تساعدنا على بناء ذكاء اصطناعي لا يكتفي بمجرد تخمين الإجابة الصحيحة، بل يفهم حقًا لماذا هي صحيحة.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "FunnyNodules: مجموعة بيانات طبية قابلة للتخصيص مصممة لتقييم الذكاء الاصطناي القابل للتفسير."

1. بيان المشكلة

في تحليل الصور الطبية، بينما يتم تقييم أداء النموذج (الدقة) بصرامة، فإن صحة استدلال النموذج (أي ما إذا كان النموذج يتخذ القرار الصحيح للأسباب الصحيحة) غالبًا ما يتم تقييمها بشكل غير كافٍ. يوجد هذا الفجوة بسبب:

نقص الحقيقة الأرضية (Ground Truth): يتطلب تقييم الذكاء الاصطناي القابل للتفسير (xAI) تسميات توضيحية للتفسيرات المرئية والاستدلالات الوصفية على مستوى العينة. وتعد هذه التسميات نادرة في المجالات الطبية نظرًا للتكلفة العالية لتوسيم الخبراء والقيود المتأصلة في أحجام مجموعات البيانات.
تعقيد البيانات الحقيقية: تعاني مجموعات البيانات الطبية في العالم الحقيقي من تباين بين المقيمين، وتسميات غير مكتملة، وعوامل مربكة غير منضبطة، مما يجعل من الصعب عزل ما إذا كان النموذج قد تعلم العلاقات السببية الصحيحة بين الميزات المرئية والملصقات التشخيصية بشكل منهجي.
محدودية التقييم: تركز مجموعات البيانات الاصطناعية الموجودة (مثل استخدام نماذج GANs أو Diffusion) على الواقعية بدلاً من العلاقات الوصفية القابلة للتحكم، بينما لا تعالج مجموعات الصور الطبيعية (مثل CUB-200) السمات الخاصة بالمجال الطبي.

2. المنهجية: إطار عمل FunnyNodules

قدم المؤلفون FunnyNodules، وهو مجموعة بيانات صور اصطناعية كاملة المعلمات مصممة خصيصًا للتقييم المنهجي لطرق الذكاء الاصطناي والذكاء الاصطناي القابل للتفسير (xAI) في التصوير الطبي.

أ. توليد البيانات

المفهوم: تقوم مجموعة البيانات بتوليد أشكال تشبه العقد الرئوية (lung nodules) كصور رمادية التدرج.
السمات (Attributes): تُعرف كل عقدة بست سمات مرئية قابلة للتحكم:
1. الاستدارة ( $r$ ): من 1 (مستديرة) إلى 5 (بيضاوية).
2. التشجّر/التسنن ($sp$): من 1 (لا يوجد) إلى 5 (واضح جدًا).
3. حدة الحواف ($es$): من 1 (حادة) إلى 5 (ناعمة).
4. الحجم ( $s$ ): من 1 (صغير) إلى 5 (كبير).
5. الشدة ( $i$ ): من 1 (داكن) 1 إلى 5 (ساطع).
6. البنية الداخلية ($is$): 0 (غائبة) أو 1 (موجودة).
الفئة المستهدفة: يتم اشتقاق الملصق التشخيصي (1–5) من قاعدة قرار محددة مسبقًا وقابلة للبرمجة (الخوارزمية 1) التي تجمع بين هذه السمات. يسمح هذا للمؤلفين بتعريف علاقات معقدة وغير خطية (على سبيل المثال، يعتمد تأثير الاستدارة على وجود البنية الداخلية).
عملية التوليد: يتم رسم العقد كأشكال بيضاوية مع اضطرابات هندسية وحدودية وشدة بناءً على السمات. يتم محاكاة التشجّر عبر اضطرابات حدودية زاوية، وحدة الحواف عبر التمويه الغاوسي (Gaussian blurring)، والبنية الداخلية عبر مناطق فرعية ذات ملمس (texture).
الحقيقة الأرضية (Ground Truth): يقوم إطار العمل تلقائيًا بتوليد حقيقة أرضية كاملة، بما في ذلك الملصقات المستهدفة، ودرجات السمات، وأقنعة منطقة الاهتمام (ROI masks) الدقيقة لكل سمة، مما يلغي التباين بين المقيمين.

ب. القابلية للتخصيص

إطار العمل مرن للغاية، مما يسمح للباحثين بـ:

ضبط تعقيد مجموعة البيانات (علاقات خطية مقابل علاقات معقدة مترابطة).
تعديل توازن الفئات ومقاييس السمات.
إدخال ضوضاء الخلفية أو الهياكل لاختبار المتانة.
تغيير قنوات الإدخال (مثل الصور الرمادية لـ CT/X-ray، أو RGB لطب الجلد).

ج. استراتيجية التقييم

توضح الورقة فائدة مجموعة البيانات من خلال عدة مقاييس وطرق تقييم:

صحة الاستدلال: تغيير سمة واحدة بشكل منهجي مع تثبيت السمات الأخرى للتحقق مما إذا كان تنبؤ النموذج يتغير وفقًا لقاعدة الحقيقة الأرضية.
مؤشر الثقة (TI): مقياس يتم تعريفه كـ $TI = P_{target} - \frac{1}{N}\sum A_i / P_{target}$ $T I = P_{t a r g e t} - \frac{1}{N} \sum A_{i} / P_{t a r g e t}$ ، حيث $P_{target}$ $P_{t a r g e t}$ هي دقة الهدف و $A_i$ $A_{i}$ هي دقة التنبؤ بالسمة.
- $TI > 0$ : النموذج يتنبأ بالأهداف جيدًا ولكنه يعتمد على سمات خاطئة (غير موثوق).
- $TI < 0$ : النموذج يتعلم السمات جيدًا ولكنه يفشل في ربطها بالهدف.
التباين (Contrastivity): قياس مدى قوة التفسير في تمييز النتيجة المستهدفة عن البدائل من خلال تحديد مقدار التحول في التنبؤ عند تغيير سمة ما ( $\Delta_{target}$ ).
محاذاة الانتباه (Attention Alignment): مقارنة خرائط انتباه النموذج (مثل HierViT) مقابل أقنعة ROI للسمات في الحقيقة الأرضية لمعرفة ما إذا كان النموذج يركز على المناطق المرئية الصحيحة.
تحليل النماذج الأولية (Prototype Analysis): تقييم النماذج القائمة على النماذج الأولية (مثل Proto-Caps) لمعرفة ما إذا كانت النماذج الأولية المتعلمة تعكس بدقة السمات الحقيقية الأرضية.

3. المساهمات الرئيسية

مجموعة بيانات FunnyNodules: مجموعة بيانات اصطناعية بالكامل ومصممة خصيصًا للتصوير الطبي توفر حقيقة أرضية كاملة لكل من الملصقات التشخيصية والسمات المرئية/مناطق الـ ROI الأساسية.
تقييم الاستدلال المتحكم به: إطار عمل لاختبار ما إذا كانت النماذج تتعلم قواعد القرار الصحيحة بدلاً من الارتباطات الزائفة، وذلك عن طريق عزل تغيرات سمات محددة.
مقاييس تقييم جديدة: تقديم مؤشر الثقة (TI) لتحديد مدى التوافق بين تعلم السمات والتنبؤ بالهدف، واستخدام فروق التنبؤ التباينية لقياس جودة التفسير.
القابلية للتوسع: القدرة على توليد بيانات غير محدودة مع تباين في التعقيد، مما يتغلب على ندرة البيانات وعوائق التوسيم في مجموعات البيانات الطبية الحقيقية.
المصدر المفتوح: كود توليد مجموعة البيانات والنتائج التجريبية متاحة للجمهور.

4. النتائج

قيم المؤلفون عدة نماذج (ResNet-50, DenseNet-121, HierViT, Proto-Caps, Concept Bottleneck) باستخدام مجموعة البيانات:

تحليل الاستدلال: اتبعت النماذج القياسية (ResNet, DenseNet) عمومًا اتجاهات الحقيقة الأرضية للسمات البسيطة، لكنها أظهرت انحرافات في القواعد الشرطية المعقدة (مثل التفاعل بين الاستدارة والبنية الداخلية).
مؤشر الثقة:
- أظهرت النماذج المدربة على مجموعات بيانات صغيرة قيم TI سالبة (تعلم قوي للسمات، ولكن ربط ضعيف بالهدف).
- مع زيادة بيانات التدريب، اقترب TI من الصفر، مما يشير إلى تعلم متوازن.
- كان نموذج Concept Bottleneck حساسًا للغاية لحجم البيانات، حيث أظهر أداءً ضعيفًا مع العينات المحدودة.
محاذاة الانتباه: كشف التحليل البصري (الشكل 4) أنه بينما ركزت نماذج مثل HierViT على العقدة العامة، فإن خرائط الانتباه الخاصة بها لم تتوافق بدقة مع أقنعة ROI للسمات المحددة (مثل نتوءات التشجّر أو حدود الحواف)، مما يسلط الضوء على الفجوة بين "ماذا" يتنبأ به النموذج و"أين" ينظر.
صحة النماذج الأولية: حققت النماذج القائمة على النماذج الأولية دقة عالية في اختيار النماذج الأولية الصحيحة للسمات (أكثر من 97% للاستدارة)، مما يثبت فائدة مجموعة البيانات في التحقق من الاستدلال القائم على النماذج الأولية.

5. الأهمية والخاتمة

سد فجوة التقييم: تعالج FunnyNodules النقص الحاد في الحقيقة الأرضية لتقييم xAI في الطب. فهي تسمما للباحثين التحقق مما إذا كان "تفسير" النموذج أمينًا بالفعل لعملية اتخاذ القرار لديه.
أداة تشخيصية لتطوير النماذج: من خلال تحديد نقاط الضعف المحددة (مثل النموذج الذي يتنبأ جيدًا ولكنه يتجاهل التشجّر)، يمكن للمطورين تكييف البنى التحتية أو دوال الخسارة لتحسين الاستدلال.
مكمل للبيانات الحقيقية: بينما لا تعد بديلاً للتحقق السريري في العالم الحقيقي، توفر FunnyNodules بيئة اختبار (sandbox) متحكم بها لعزل المتغيرات، واختبار المتانة، ومعايرة طرق xAI قبل إجراء دراسات مكلفة تتطلب تدخل البشر.
التأثير المستقبلي: يدعم إطار العمل تطوير أنظمة ذكاء اصطناي طبي أكثر شفافية وموثوقية من خلال تمكين التحليل المنهجي والدقيق لسلوك النموذج تحت ظروف محددة جيدًا.