🤖 machine learning

Why Does It Look There? Structured Explanations for Image Classification

تقترح الورقة البحثية إطار عمل I2X، الذي يحول التفسير غير المهيكل إلى تفسيرات قائمة على النماذج الأولية المهيكلة للكشف عن عمليات اتخاذ القرار في النموذج وتحسين دقة التصنيف بشكل فعال من خلال الاضطراب المستهدف للعينات.

المؤلفون الأصليون: Jiarui Li, Zixiang Yin, Samuel J Landry, Zhengming Ding, Ramgopal R. Mettu

نُشر 2026-03-12

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jiarui Li, Zixiang Yin, Samuel J Landry, Zhengming Ding, Ramgopal R. Mettu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك طالباً عبقرياً لكنه صامت أثناء أداء الاختبار. يحصل على الإجابات الصحيحة في كل مرة تقريباً، ولكن عندما تسأله: "كيف عرفت أن هذا قط وليس كلباً؟" يكتفي بهز كتفيه فقط. لا يمكنه شرح عملية تفكيره. هذه هي مشكلة معظم أنظمة الذكاء الاصطناعي الحديثة: إنها "صندوق أسود". إنها تعمل بشكل رائع، لكننا لا نعرف لماذا تعمل.

تحاول الأساليب الحالية استراق النظر إلى الداخل عبر تسليط الضوء على الأجزاء التي نظر إليها الذكاء الاصطناعي في الصورة (مثل استخدام قلم تحديد فوق صورة). لكن هذا الأمر فوضوي؛ فهو يشبه رؤية طالب يضع خطوطاً تحت الكلمات في كتاب، لكنك لا تعرف ما إذا كان قد وضعها لأنها مهمة، أم لمجرد أنه أحب لونها. هذا لا يخبرك بـ قصة كيف تعلم الطالب.

تقدم هذه الورقة البحثية طريقة جديدة تسمى I2X (التفسير من أجل القابلية للتفسير - Interpretability to Explainability). فكر في I2X كأنها محقق يجري مقابلات مع الطالب في كل مرحلة من مراحل تدريبه لبناء قصة منظمة حول كيفية تعلمه.

إليك كيف يعمل ذلك، باستخدام تشبيهات بسيطة:

1. تشبيه "قطعة الليغو" (النماذج الأولية - Prototypes)

بدلاً من النظر إلى الصورة بأكملها دفعة واحدة، يقوم I2X بتفكيك تعلم الذكاء الاصطناعي إلى وحدات بناء صغيرة تسمى النماذج الأولية.

تخيل أن الذكاء الاصطناعي يتعلم التعرف على الرقم "7".
هو لا يرى الرقم "7" فحسب، بل يتعلم التعرف على "قطع ليغو" محددة تشكل الرقم 7: خط مائل في المنتصف، نقطة في الأعلى، وخط أفقي في الأسفل.
يقوم I2X بتحديد هذه الأنماط المحددة (القطع) ويسميها. لنطلق عليها "القطعة أ"، "القطعة ب"، و"القطعة ج".

2. "مذكرات التدريب" (تتبع التطور)

معظم تفسيرات الذكاء الاصطناعي تنظر فقط إلى المنتج النهائي. أما I2X فهو مختلف؛ فهو يحتفظ بـ مذكرات لرحلة تدريب الذكاء الاصطنيء بأكملها.

إنه يفحص الذكاء الاصطناعي عند نقاط تفتيش مختلفة (مثل تفقد تقدم الطالب في نهاية كل أسبوع).
يسأل: "في الأسبوع الأول، هل استخدمت 'القطعة أ' لتخمين الرقم '7'؟ هل أصبت في إجابتك؟"
"في الأسبوع الرابع، هل بدأت في استخدام 'القطعة ب'؟"
من خلال تتبع هذه التغييرات، يبني I2X خطاً زمنياً: "أولاً، تعلم الذكاء الاصطناعي رصد الخط المائل. ثم تعلم تجاهل النقطة العلوية لأنها جعلته يخلط بينه وبين الرقم '1'."

3. "الطالب المرتبك" (إيجاد عدم اليقين)

أحياناً، يرتبك الذكاء الاصطناعي. رب الله يظن أن الرقم "7" يشبه الرقم "2" لأن كلاهما يحتوي على منحنى.

يرصد I2X "القطعة" المحددة التي تسبب هذا الارتباك. لنقل إنها "القطعة X"، والتي تشبه المنحنى الموجود في كلا الرقمين.
توضح الورقة أنه إذا رأى الذكاء الاصطناعي "القطعة X" كثيراً دون سياق واضح، فإنه يصبح مهزوزاً في قراراته. الأمر يشبه طالباً يستمر في التردد بين إجابتين لأن أحد الأدلة يناسب كليهما.

4. "المعلم الذكي" (إصلاح الذكاء الاصطناعي)

هذا هو الجزء الأروع. بمجرد أن يجد I2X "القطعة المربكة"، فإنه لا يكتفي بالإبلاغ عنها فحسب، بل يساعد في إصلاح الذكاء الاصطناعي.

أخذ الباحثون الذكاء الاصطناعي وأعطوه "جلسة تعليمية" خاصة.
عرضوا على الذكاء الاصطناعي أمثلة لا تحتوي على "القطعة X" المربكة، مما ساعده على تعلم تجاهل ذلك الفخ تحديداً.
النتيجة: أصبح الذكاء الاصطناعي أفضل بكثير في التمييز بين الأرقام (أو القطط والكلاب في حالة مجموعة بيانات CIFAR-10). لقد قلل من أخطائه بشكل كبير.

لماذا يهم هذا؟

فكر في الذكاء الاصطناعي الحالي كأنه خدعة سحرية. أنت ترى الأرنب يظهر، لكنك لا تعرف كيف قام الساحر بذلك.

الأساليب القديمة تقول: "الساحر نظر إلى أذن الأرنب اليسرى." (هذه هي "خريطة البروز" أو التحديد).
I2X يقول: "الساحر تدرب أولاً على إخراج الأرنب من الكم الأيسر، ثم أدرك أن القبعة كانت كبيرة جداً، لذا انتقل إلى الكم الأيمن، وأخيراً تعلم إخفاء الأرنب في العباءة. إليك دليل الخطوات التفصيلي."

الخلاصة الكبرى

تقدم هذه الورقة طريقة لتحويل "الصندوق الأسود" للذكاء الاصطناعي إلى دليل تعليمات شفاف. إنها توضح لنا بالضبط كيف ينظم الذكاء الاصطناعي أفكاره، وأين يرتبك، وكيف يمكننا توجيهه بلطف ليتعلم بشكل أفضل. الأمر لا يتعلق فقط بشرح الماضي؛ بل يتعلق باستخدام هذا الشرح لجعل الذكاء الاصطناعي أكثر ذكاءً وموثوقية للمستقبل.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "لماذا ينظر إلى هناك؟ تفسيرات مهيكلة لتصنيف الصور" لـ Li وآخرون.

1. بيان المشكلة

تحقق نماذج التعلم العميق، لا سيال في تصنيف الصور، أداءً تنبؤياً عالياً ولكنها تعاني من طبيعة "الصندوق الأسود"، مما يحد من الشفافية والثقة. وبينما توجد العديد من طرق الذكاء الاصطناعي القابل للتفسير (XAI)، إلا أنها تقدم في المقام الأول تفسيراً غير مهيكل (مثل خرائط التنبيه مثل GradCAM أو نواقل المفاهيم). هذه الطرق تجيب على سؤال أين ينظر النموذج، لكنها تفشل في شرح لماذا يركز هناك أو كيف ينظم هذه الميزات لعملية الاستدلال.

تعتمد النهج الحالية غالباً على نماذج مساعدة (مثل النماذج اللغوية الكبيرة LLMs مثل GPT أو CLIP) لترجمة هذه الميزات لفظياً، مما يخل بالأمانة تجاه النموذج الأصلي ويمكن أن يؤدي إلى حدوث "هلوسات". حدد المؤلفون فجوة: غياب طريقة لاستخراج تفسير مهيكل مباشرة من السلوك الداخلي للنموذج، وتحديداً تتبع كيفية تطور عملية اتخاذ القرار عبر نقاط التحقق (checkpoints) أثناء التدريب.

2. المنهجية: إطار عمل I2X

يقترح المؤلفون إطار عمل "التفسير من خلال القابلية للتفسير" (Interpretability to Explainability - I2X)، وهو إطار يحول التفسيرات اللاحقة غير المهيكلة إلى تفسيرات مهيكلة عن طريق تتبع تطور النموذج. تتضمن العملية أربع مراحل رئيسية:

أ. استخراج النماذج الأولية (من غير مهيكل إلى مجرد)

بدلاً من معاملة خرائط التنبيه كخرائط حرارية خام، يقوم I2X بتجميعها في نماذج أولية مجردة (Abstract Prototypes).

استخراج الميزات: يتم تفكيك نموذج مدرب $M$ إلى مستخرج ميزات $f$ ورأس تصنيف $g$ .
التجميع (Clustering): يتم تسطيح الميزات الكامنة المكانية $F$ من جميع عينات التدريب وتجميعها باستخدام K-Means (بعد تطبيق PCA) لتحديد $K$ من المراكز (centroids). تمثل هذه المراكز الأنماط المتكررة التي يتعرف عليها النموذج.
المحاذاة: لأي صورة مدخلة، يتم محاذاة خريطة التنبيه (التي يتم إنشاؤها عبر GradCAM) مع هذه النماذج الأولية.

ب. قياس شدة النموذج الأولي

بالنسبة لنقطة تحقق تدريبية معينة $t$ ، يتم حساب شدة النموذج الأولي $P^t_k$ للنموذج الأولي رقم $k$ عن طريق تجميع قيم التنبيه للمواقع المكانية المخصصة لهذا النموذج الأولي. هذا يقيس قوة التنشيط لكل نموذج أولي لعينة معينة.

ج. رسم خرائط الثقة بالنماذج الأولية

يتتبع إطار العمل تطور كل من شدة النموذج الأولي وثقة النموذج عبر نقاط التحقق التدريبية:

تغير الثقة: يتم حساب التغير في ثقة التنبؤ ( $\Delta \hat{y}$ ) بين نقاط التحقق المتتالية.
تجميع أنماط الثقة: يتم تجميع العينات التي تظهر أنماطاً متشابهة من تغير الثقة باستخدام HDBSCAN (خوارزمية تجميع قائمة على الكثافة).
نمذجة الانحدار: يتم تدريب نموذج انحدار ريج (Ridge Regression) لربط تطور شدة النموذج الأولي ( $\tilde{P}$ ) بتطور ثقة النموذج ( $C$ ). وتحدد مصفوفة المعاملات الناتجة $\beta$ كيف تؤدي التغيرات في نماذج أولية معينة إلى تغييرات في ثقة الفئة.

د. تجميع التفسيرات المهيكلة

من خلال تجميع هذه العلاقات عبر عملية التدريب بأكملها، يبني I2X سرداً مهيكلاً:

النماذج الأولية المشتركة: الأنماط الموجودة باستمرار عبر جميع عينات فئة معينة والتي تدفع الثقة.
النماذج الأولية المتخصصة/غير المستقرة: الأنماط التي تظهر في مجموعات فرعية من العينات أو تتقلب مساهمتها (على سبيل المثال، تدعم الفئة A أحياناً، وتدعم الفئة B أحياناً أخرى)، مما يشير إلى مصادر الارتباك أو الغموض.

3. المساهمات الرئيسية

التفسير المهيكل: ينتقل I2X من خرائط التنبيه الساكنة إلى تقديم رؤية ديناميكية تشبه السببية لكيفية تعلم النماذج والتمييز بين الفئات بمرور الوقت.
التمثيل الأمين: على عكس الطرق التي تستخدم نماذج لغوية خارجية، يستمد I2X تفسيراته داخلياً من مسار تدريب النموذج الخاص به وتحولات الثقة.
القدرة التشخيصية: يحدد إطار العمل "النماذج الأولية غير المستقرة" — وهي الميزات التي تربك النموذج عبر تنشيطها لعدة فئات أو تقلب أهميتها.
توجيه التحسين: I2X ليس مجرد أداة للتحليل؛ بل يوفر آلية لتوجيه الضبط الدقيق (fine-tuning). من خلال تحديد النماذج الأولية غير المستقرة، يقترح المؤلفون استراتيجية تشويه مستهدفة لإزالة أو إعادة وزن العينات التي تحتوي على هذه الميزات المربكة، مما يحسن دقة النموذج واستقراره.

4. النتائج التجريبية

تم تقييم إطار العمل على مجموعتي بيانات MNIST و CIFAR-10 باستخدام ResNet-50 و InceptionV3.

تصور مسار التعلم:
- في حالة MNIST (الرقم 7)، كشف I2X أن النموذج يميز الرقم 7 أولاً عن القيم المتطرفة الواضحة (مثل 2 و 6) باستخدام نماذج أولية هيكلية محددة (مثل الخطوط القطرية).
- لاحقاً، يقوم بحسم الحالات الغامضة (مثل 1 و 9) فقط بعد تراكم أدلة كافية.
- حساسية ترتيب البيانات: أظهرت التجارب أن تغيير البذرة العشوائية (ترتيب البيانات) يؤدي إلى تسلسلات مختلفة لاختيار النماذج الأولية واستراتيجيات استدلال مختلفة، مما يؤثر بشكل كبير على أي النماذج الأولية ستصبح "غير مستقرة" وعلى مصفوفة الارتباك النهائية.
تحسين الأداء عبر الضبط الدقيق:
- MNIST (2 مقابل 7): من خلال تحديد نموذج أولي غير مستقر (P-17) يسبب الارتباك بين 2 و 7، قام المؤلفون بتنقية مجموعة بيانات باستبعاد العينات التي تحتوي على P-17. أدى الضبط الدقيق على هذه المجموعة المنقحة إلى تقليل الارتباك بين 2 و 7 من 14.80 إلى 9.80 (تقليل بنسبة ~33%) مع الحفاظ على دقة إجمالية عالية.
- CIFAR-10 (قط مقابل كلب): وُجد أن نموذج أولي غير مستقر (P-72) يمثل الحافة بين المناطق السوداء والبرتقالية يربك القطط والكلاب البرتقالية. أدت إزالة هذه العينات إلى تقليل الارتباك بين القط والكلب من 261.20 إلى 238.60 وتحسين الدقة من 81.43% إلى 84.02%.
- InceptionV3 (MNIST): لوحظت تحسينات مماثلة في تقليل الارتباك بين الرقمين 4 و 9 الناتج عن نموذج أولي للقوس.

5. الأهمية والخاتمة

تثبت الورقة أن التفسير المهيكل قابل للتحقيق دون الاعتماد على نماذج توليدية خارجية. يجسد I2X الفجوة بين "القابلية للتفسير" (رؤية الحرارة) و"التفسير" (فهم المنطق).

تكمن أهميته الأساسية في فائدته العملية:

يحول XAI من أداة تشخيصية سلبية إلى دليل تحسين نشط.
يسمح للباحثين بتحديد الميزات المرئية التي تسبب فشل النموذج (النماذج الأولية غير المستقرة) بدقة وإزالتها بشكل منهجي لتحسين المتانة.
يسلط الضال على التأثير الحرج لترتيب بيانات التدريب على المنطق الداخلي لنماذج التعلم العميق.

يهدف العمل المستقبلي إلى دمج I2X مع بنيات "التفسير بالتصميم" (مثل ProtoPNet) لتقليل الاعتماد على التجميع اللاحق (post-hoc clustering) ولتعميم مفهوم عدم استقرار النموذج الأولي بشكل أكبر.