💻 computer science

TTE-CAM: Built-in Class Activation Maps for Test-Time Explainability in Pretrained Black-Box CNNs

تقدم الورقة البحثية TTE-CAM، وهو إطار عمل في وقت الاختبار يحول الشبكات العصبية التلافيفية (CNNs) سابقة التدريب والمغلقة إلى نماذج ذاتية التفسير عبر استبدال رؤوس التصنيف الخاصة بها بطبقة قائمة على التلافيف، مما يحقق أداءً تنبؤياً هو الأفضل حالياً مع توفير تفسيرات مدمجة وأمينة دون التضحيات التي تفرضها الطرق الحالية القائمة على التفسير البعدي أو الطرق القابلة للتفسير جوهرياً.

المؤلفون الأصليون: Kerol Djoumessi, Philipp Berens

نُشر 2026-03-31

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Kerol Djoumessi, Philipp Berens

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك طبيبًا عبقريًا ولكنه غامض، لنسمّه الدكتور "الصندوق الأسود" (Dr. Black-Box). الدكتور "الصندوق الأسود" مذهل في تشخيص الأمراض من الأشعة السينية وفحوصات العين؛ فهو يصيب التشخيص الصحيح في كل مرة تقريبًا. لكن هناك عقبة: عندما تسأله، "لماذا اعتقدت أن هذا المريض مصاب بالالتهاب الرئوي؟"، يكتفي بهز كتفيه فقط. لا يمكنه شرح منطقه لأن دماغه عبارة عن شبكة متشابكة من ملايين الروابط التي لا يفهمها هو نفسه تمامًا.

في العالم الحقيقي، لا يمكن للأطباء مجرد الثقة في "صندوق أسود". إنهم بحاجة لمعرفة لماذا تم اتخاذ التشخيص قبل الوثوق به في حياة مريضهم.

الطرق القديمة: "المحقق اللاحق" مقابل "المتعلم البطيء"

قبل هذه الورقة البحثية، كان لدى الباحثين طريقتان رئيسيتان لمحاولة فهم الدكتور "الصندوق الأسود"، وكلاهما يعاني من مشكلات كبيرة:

"المحقق اللاحق" (الطرق اللاحقة للحدث - Post-hoc Methods):
تخيل أن الدكتور "الصندوق الأسود" وضع تشخيصًا، ثم قمت أنت باستئجار محقق ليفحص الأشعة السينية ويخمن ما الذي كان ينظر إليه الطبيب. يرسم المحقق دائرة مضيئة على الصورة قائلاً: "أعتقد أن الطبيب كان ينظر هنا!".

المشكلة: المحقق مجرد مُخمّن. أحيانًا تكون الدائرة صحيضة، ولكن غالبًا ما تكون خاطئة أو مضللة. إنه مجرد تقريب، وليس السبب الحقيقي الذي جعل الطبيب يتخذ القرار.

"المتعلم البطيء" (النماذج القابلة للتفسير ذاتيًا - Inherently Interpretable Models):
هذا يشبه تدريب طبيب جديد من الصفر، يُجبر على شرح كل خطوة من خطوات تفكيره أثناء القيام بها.

المشكلة: هذا الطبيب الجديد صادق وواضح جدًا، لكنه ليس بذكاء الدكتور "الصندوق الأسود". فهو يرتكب المزيد من الأخطاء لأن إجباره على شرح الأشياء يبطئ من سرعته ويحد من قدرته على تعلم الأنماط المعقدة.

الحل الجديد: TTE-CAM (الـ "مصباح المدمج")

ابتكر المؤلفان، كيرول جو ميسي وفيليب بيرنز، حيلة ذكية تسمى TTE-CAM.

فكر في دماغ الدكتور "الصندوق الأسود" كخط تجميع في مصنع. في نهاية الخط تمامًا، يوجد "صانع القرار النهائي" (رأس التصنيف - classification head) الذي ينظر إلى الأجزاء التي تمت معالجتها ويصرخ: "التهاب رئوي!" أو "لا يوجد التهاب رئوي!".

المشكلة هي أن "صانع القرار النهائي" هذا هو عبارة عن "طبقة متصلة بالكامل" (Fully Connected Layer) — وهي لوحة مفاتيح فوضوية وغير شفافة لا تُظهر طريقة عملها.

خدعة TTE-CAM السحرية:
بدلاً من طرد "صانع القرار النهائي" واستئجار واحد جديد وأبطأ، قام المؤلفون ببساطة باستبدال لوحة المفاتيح غير الشفافة بمصباح يدوي شفاف ومدمج.

إليك كيف فعلوا ذلك:

الاستبدال: أخذوا لوحة المفاتيح الفوضوية وغير الشفافة في نهاية المصنع واستبدلوها بأداة بسيطة وشفافة (طبقة التلافيف 1x1 - 1x1 convolution layer).
السر الخفي: لم يتخلصوا من المعرفة القديمة. لقد أخذوا نفس "الأوزان" (الذاكرة العضلية) من لوحة المفاتيح القديمة ونقلواهم مباشرة إلى الأداة الشفافة الجديدة.
النتيجة: نظرًا لأن الأداة الجديدة مبنية بنفس طريقة الأداة القديمة، فإن الدكتور "الصندوق الأسود" لا يحتاج لإعادة التدريب. فهو يحتفظ بدقته الفائقة العالية. ولكن الآن، بدلًا من مجرد الصراخ بالتشخيص، تقوم الأداة تلقائيًا بعرض "خريطة حرارية" على الأشعة السينية توضح بالضبط الأجزاء التي حفزت اتخاذ القرار.

لماذا يعد هذا أمرًا بالغ الأهمية؟

لا حاجة لإعادة التدريب: لا يتعين عليك تعليم الذكاء الاصطناعي أي شيء جديد. الأمر يشبه أخذ سيارة فيراري واستبدال لوحة القيادة بأخرى تحتوي على خريطة واضحة، دون تغيير المحرك. السيارة ستظل تسير بنفس السرعة.
إنه صادق (أمين): على عكس "المحقق اللاحق" الذي يخمن، فإن هذا المصباح هو جزء من عملية اتخاذ القرار الفعلية للآلة. إذا أضاء الضوء على بقعة ما، فذلك لأن الآلة استخدمت تلك البقعة بالفعل لاتخاذ القرار.
إنه سريع: تعطي الآلة الإجابة والشرح في خطوة واحدة. غالبًا ما تتطلب الطرق الأخرى تشغيل الآلة عدة مرات لمجرد معرفة التفسير.

تجربة القيادة

اختبر المؤلفون هذا على مهمتين طبيتين حقيقيتين:

اعتلال الشبكية السكري: فحص صور العين بحثًا عن تلف.
الالتهاب الرئوي: فحص الأشعة السينية للصدر بحثًا عن عدوى في الرئة.

النتائج:

الدقة: حافظ النموذج على درجاته المثالية. لم يصبح أقل ذكاءً.
التفسيرات: كانت "الخرائط الحرارية" التي أنتجها مساوية في الجودة (وأحيانًا أفضل) من التخمينات التي قدمها "المحققون اللاحقون". لقد حددت بشكل صحيح المناطق المصابة في الرئتين والعينين.

الخلاصة

TTE-CAM يشبه منح ذكاء اصطناعي فائق الذكاء ولكنه صامت "صوتًا". فهو يسمح لنا باستخدام أقوى نماذج الذكاء الاصطناعي وأكثرها دقة المتوفرة لدينا اليوم، مع إجبارها على إظهار طريقة عملها أثناء عملها، دون جعلها أبطأ أو أقل دقة. إنه يسد الفجوة بين "كون الشيء ذكيًا" وبين "كونه مفهومًا"، وهي خطوة كبيرة نحو إدخال الذكاء الاصطناه في المستشفيات الحقيقية.

إليك ملخص تقني مفصل لورقة البحث: "TTE-CAM: خرائط تنشيط الفئات المدمجة لتفسير النماذج عند وقت الاختبار في الشبكات العصبية التلافيفية سابقة التدريب ذات الصندوق الأسود".

1. بيان المشكلة

حققت الشبكات العصبية التلافيفية (CNNs) أداءً فائقاً في تحليل الصور الطبية، لكنها لا تزال تُعامل كـ "صناديق سوداء"، مما يعيق اعتمادها في البيئات السريرية عالية المخاطر بسبب نقص القابلية للتفسير. يواجه المجال حالياً مقايضة جوهرية بين نهجين قائمين:

الطرق البعدية (Post-hoc Methods): التقنيات مثل GradCAM أو Integrated Gradients التي تولد خرائط بروز (Saliency Maps) بعد عملية التنبؤ. ورغم أنها لا تتطلب إعادة تدريب، إلا أنها غير أمينة (unfaithful) بطبيعتها لأن التفسير مستمد من النموذج وليس هو المحرك للمخرجات.
البنى التحتية القابلة للتفسير ذاتياً (Inherently Interpretable Architectures): النماذج المصممة لتكون قابلة للتفسير ذاتياً هي نماذج أمينة (faithful) (حيث تُحسب التنبؤات مباشرة من التفسير)، ولكنها غالباً ما تتطلب إجراءات تدريب معقدة أو تضحي بالأداء التنبئي مقارنة بالشبكات التلافيفية القياسية ذات الصندوق الأسود.

التحدي الجوهري الذي تعالجه هذه الورقة هو كيفية تحويل الشبكات التلافيفية عالية الأداء وسابقة التدريب من نماذج "صندوق أسود" إلى نماذج قابلة للتفسير ذاتياً دون إعادة التدريب ودون انخفاض في دقة التنبؤ.

2. المنهجية: TTE-CAM

يقترح المؤلفون TTE-CAM (التفسير عند وقت الاختبار عبر خرائط تنشيط الفئات)، وهو إعادة صياغة معمارية تحول الشبكة التلافيفية القياسية سابقة التدريب إلى نموذج قابل للتفسير ذاتياً أثناء وقت الاستدلال.

إعادة الصياغة المعمارية:
- تستهدف الطريقة رأس التصنيف (Classification Head) للشبكة التلافيفية سابقة التدريب.
- تقوم بإزالة طبقة التجميع المتوسط العالمي (Global Average Pooling - GAP) وطبقة الطبقة كاملة الاتصال (Fully Connected Layer - FCL).
- تستبدل طبقة FCL بطبقة تلافيفية $1 \times 1$ تحتوي على $C$ من المرشحات (حيث $C$ هو عدد الفئات).
تهيئة الأوزان:
- بما أن طبقة FCL مكافئة رياضياً لعملية التلافيف $1 \times 1$ ، يتم نقل الأوزان الأصلية سابقة التدريب مباشرة إلى الطبقة التلافيفية الجديدة.
- الأمر الحاسم هو أنه لا يتطلب الأمر أي إعادة تدريب.
الآلية:
- تنتج الطبقة المعاد صياغتها خرائط تنشيط الفئات (CAMs) المدمجة كمخرجات لها.
- يتم حساب متوسط هذه الخرائط مكانياً لحساب درجات الفئات، والتي تُمرر بعد ذلك عبر دالة softmax لتوليد التنبؤ النهائي.
- ولأن التنبؤ يُحسب من خرائط التنشيط، فإن التفسير يكون أميناً (faithful) بحكم التصميم.
المقارنة المرجعية (Baselines):
- تمت مقارنة الطريقة بخمس طرق مرجعية بعدية تنتمي لثلاث عائلات:
  - الخالية من التدرج (Gradient-free): CAM، وScoreCAM.
  - القائمة على التدرج (Gradient-based): GradCAM، وLayerCAM.
  - القائمة على الانتشار العكسي (Backpropagation-based): Integrated Gradients (IG).

3. المساهمات الرئيسية

سد فجوة الأمانة والأداء: يثبت TTE-CAM أن الشبكات التلافيفية عالية الأداء يمكن تحويلها إلى نماذج قابلة للتفسير ذاتياً دون إعادة تدريب، مما يحافظ على الدقة التنبئية الأصلية مع توفير تفسيرات أمينة.
الكفاءة عند وقت الاختبار: على عكس الطرق البعدية التي قد تتطلب عمليات تمرير أمامي متعددة (مثل ScoreCAM) أو تمريرة واحدة لكل فئة (مثل GradCAM)، يقوم TTE-CAM بتوليد تفسيرات أمينة في تمريرة أمامية واحدة فقط.
عدم وجود عبء إعادة التدريب: من خلال الاستفادة من التكافؤ الرياضي بين FCL والتلافيف $1 \times 1$ ، تستخدم الطريقة الأوزان السابقة التدريب الموجودة فوراً، مما يتجنب التكلفة الحسابية لتدريب النماذج القابلة للتفسير ذاتياً من الصفر.

4. النتائج التجريبية

تم تقييم الطريقة على مجموعتي بيانات للتصوير الطبي عامة:

Kaggle Fundus (اعتلال الشبكية السكري): تصنيف ثنائي (لا يوجد اعتلال مقابل وجود اعتلال).
RSNA Chest X-Ray (الالتهاب الرئوي): اكتشاف الالتهاب الرئوي.

الأداء التنبئي:
أدت استبدال FCL بالتلافيف $1 \times 1$ إلى الحفاظ على الأداء التنبئي بدقة:

مجموعة بيانات DR: الدقة = 0.899، المساحة تحت المنحنى (AUC) = 0.923.
مجموعة بيانات Pneumonia: الدقة = 0.953، المساحة تحت المنحنى (AUC) = 0.988.

جودة التفسير:
تم تقييم TTE-CAM باستخدام ثلاثة مقاييس: حساسية Top-k، وتوطين Top-k، ودقة التنشيط.

نوعياً: أظهرت المقارنات البصرية (الشكل 1) أن TTE-CAM أنتج خرائط حرارية مشابهة لـ CAM القياسي ومنافسة للطرق البعدية الأخرى.
كمياً: حقق TTE-CAM أداءً مماثلاً أو منافساً للخمس طرق البعدية المرجعية.
- في مجموعة بيانات Fundus، حقق TTE-CAM دقة Top-k بلغت $0.33 \pm 0.28$ وحساسية Top-k بلغت $0.629$.
- في مجموعة بيانات CXR، حقق دقة تنشيط بلغت $0.12 \pm 0.09$ وحساسية Top-k بلغت $0.953$.
- والجدير بالذكر أن TTE-CAM طابق أداء CAM الأصلي (الذي يستند إليه) مع توفير مسار استدلال موحد.

5. الأهمية والقيود

الأهمية:

يقدم TTE-CAM حلاً عملياً للنشر السريري حيث يتطلب الأمر كلاً من الدقة العالية وشفافية النموذج.
يلغي مقايضة "الأمانة مقابل الأداء" بجعل التفسير هو آلية التنبؤ نفسها، دون التضحية بفوائد التعلم بنقل الخبرة (Transfer Learning).
يقلل من العبء الحسابي أثناء الاستدلال مقارنة بالعديد من الطرق البعدية القائمة على التدرج.

القيود:

الدقة (Resolution): مثل جميع طرق CAM، فإن الاعتماد على خرائط ميزات منخفضة الدقة يمكن أن يؤدي إلى تفسيرات خشنة، مما يحد من التوطين دقيق التفاصيل (كما لوحظ في مجموعة بيانات DR).
القيود المعمارية: تتطلب الطة أن تتطابق قنوات الخريطة الميزة النهائية مع حجم مدخل المصنف. هذا يحد من إمكانية التطبيق على بنيات مثل ResNet وDenseNet، ويستبعد النماذج مثل VGG حيث يختلف هيكل الطبقة النهائية بشكل كبير.
العمل المستقبلي: يقترح المؤلفون توسيع هذه الآلية لتشمل محولات الرؤية (Vision Transformers - ViTs) للحصول على تفسيرات خرائط الانتباه المدمجة ومعالجة قيود الدقة.