🤖 AI

Sufficient, Necessary and Complete Causal Explanations in Image Classification

تقدم هذه الورقة إطار عمل صارمًا من الناحية الشكلية، يعتمد على الصندوق الأسود، لتوليد تفسيرات سببية كافية وضرورية وكاملة لمصنفات الصور، وتتميز بأنها فعالة حاسبيًا، ولا تتطلب الوصول إلى المكونات الداخلية للنموذج، ومثبت تكافؤها مع التفسيرات القائمة على المنطق.

المؤلفون الأصليون: David A Kelly, Hana Chockler

نُشر 2026-02-20

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: David A Kelly, Hana Chockler

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك روبوتًا ذكيًا جدًا ولكنه غامض، ينظر إلى الصور ويخمن ماهيتها. أحيانًا يكون محقًا، وأحيانًا يكون مخطئًا. أنت تريد أن تعرف: "كيف قرر الروبوت ذلك؟"

تحاول معظم الأدوات الحالية الإجابة على هذا السؤال من خلال تسليط الضوء على "الأجزاء المهمة" من الصورة، مثل معلم يضع دوائر حول الكلمات المفتاحية في كتاب مدرسي. لكن هذه الأدوات غالبًا ما تكون مجرد تخمين، فهي لا تملك إثباتًا رياضيًا صارمًا على صحة إجابتها.

تقدم هذه الورقة البحثية طريقة جديدة وصارمة للغاية لشرح عقل الروبوت. يعامل المؤلفان (ديفيد كيلي وهانا تشوكلر) الصورة كأنها لغز حيث كل بكسل هو قطعة منه. يريدان العثور على القطع الدقيقة التي يجب أن تكون موجودة ليتخذ الروبوت قراره، والقطع التي يمكن إزالتها دون تغيير القرار.

إليك تفصيل طريقة "التفسير السببي" (Causal Explanation) الجديدة هذه باستخدام تشبيهات بسيطة:

1. الأنواع الثلاثة لـ "لماذا"

يقسم المؤلفان التفسير إلى ثلاث فئات متميزة، مثل فرز المكونات في وصفة طعام:

الكفاية (وصفة "القدر الكافي فقط"):
تخيل أنك تخبز كعكة. إذا كان لديك وعاء صغير من الدقيق والسكر والبيض، فقد يكون ذلك كافيًا لصنع كعكة صغيرة. في الورقة البحثية، "التفسير الكافي" (Sufficient Explanation) هو أصغر مجموعة ممكنة من البكسلات التي، إذا احتفظت بها ومسحت بقية الصورة، سيظل الروبوت يقول: "هذه دعسوقة!".
- التشبيه: إنه الحد الأدنى من الوقود اللازم لإشعال النار.
الضرورة (مكونات "لا يمكن العيش بدونها"):
الآن، تخيل أن لديك الكعكة كاملة. إذا أخذت الدقيق، ستنهار الكعكة. "التفسير الضروري" (Necessary Explanation) هو مجموعة البكسلات التي يجب أن تكون موجودة. إذا أزلت حتى بكسل واحد منها، سيغير الروبوت رأيه.
- التشبيه: هو الدقيق في الكعكة. بدون الدقيق، لن تحصل على كعكة.
الاكتمال (التوازن المثالي):
هذا هو الهدف الأسمى. "التفسير الكامل" (Complete Explanation) هو مجموعة من البكسلات التي تكون كافية (أي أنها كافية لاتخاذ القرار) وضرورية (أي لا يمكنك إزالة أي منها دون تغيير القرار) في آن واحد.
- التشبيه: إنه الحصة الدقيقة والمثالية من المكونات. ليس قطرة واحدة أكثر، ولا قطرة واحدة أقل.

2. لمسة "الثقة" (مقبض التحكم في الصوت)

أدرك المؤلفان أن مجرد الحصول على الإجابة الصحيحة ليس كافيًا؛ بل يجب أن يكون الروبوت واثقًا من إجابته.

المشكلة: أحيانًا، تكون مجموعة صغيرة من البكسلات كافية لتجعل الروبوت يقول "دعسوقة"، لكن الروبوت يكون متأكدًا بنسبة 10% فقط. هذا تخمين ضعيف.
الحل ( $\delta$ -Complete): لقد قدموا "عتبة ثقة". هم يسألون: "أعطني أصغر مجموعة من البكسلات تجعل الروبوت يقول 'دعسوقة' ويكون متأكدًا بنسبة 80% على الأقل".
الـ 1-Complete (تفسير "الإيمان الكامل"): هذا هو الهدف النهائي. فهو يجد البكسلات اللازمة لجعل الروبوت يصل إلى نفس مستوى الثقة تمامًا كما كان عندما نظر إلى الصورة الأصلية الكاملة.

3. "بكسلات الضبط" (التوابل)

هذا هو الاكتشاف الأكثر إثارة للاهتمام. أحيانًا، تجعل البكسلات "الكاملة" الروبوت يصل إلى الإجابة الصحيحة، لكن مستوى الثقة يكون غير دقيق قليلاً.

السيناريو: ينظر الروبوت إلى صورة لمغسلة. البكسلات "الكاملة" (الصنبور والحوض) تجعله يقول "مغسلة"، لكن الثقة تنخفض قليلاً.
الضبط: يحتاج الروبوت إلى بعض البكسلات الإضافية (ربما الانعكاس على الماء أو ظل معين) لرفع مستوى ثقته مرة أخرى إلى المستوى الأصلي.
التشبيه: فكر في البكسلات "الكاملة" كالوجبة الرئيسية. "بكسلات الضبط" هي الملح والفلفل. هي ليست الطبق الرئيسي، ولكن بدونها، لن يكون المذاق (الثقة) صحيحًا تمامًا.

4. لماذا هذا أفضل مما لدينا الآن؟

لا حاجة لـ "نظرة داخلية": معظم أدوات الذكاء الاصطناعي المتقدمة تحتاج إلى التلصص داخل عقل الروبوت (النظر إلى أكواده الداخلية أو التدرجات). هذه الطريقة الجديدة هي "صندوق أسود" (Black-Box). إنها تعامل الروبوت كصندوق غامض: تضع صورة فيه، وتحصل على إجابة. لا تحتاج لمعرفة كيف يعمل الروبوت داخليًا لتفهم ما الذي ينظر إليه.
تعمل على أي نموذج: سواء كان الروبوت بسيطًا أو وحشًا معقدًا من التعلم العميق، فإن هذه الطريقة تعمل.
إنها سريعة: بنى المؤلفون أداة يمكنها إجراء هذه العملية الحسابية على كمبيوتر عادي في حوالي 6 ثوانٍ لكل صورة.

5. ماذا وجدوا؟

اختبروا هذه الطريقة على ثلاثة نماذج ذكاء اصطناعي شهيرة (ResNet و MobileNet و Swin) ووجدوا أن النماذج المختلفة تفكر بشكل مختلف:

ResNet: فعال جدًا. يحتاج إلى عدد قليل جدًا من البكسلات ليكون متأكدًا من إجابته.
MobileNet: يحتاج إلى المزيد من البكسلات ليشعر بالثقة.
الاكتشاف "العكسي": عندما أزالوا البكسلات "الكاملة" من صورة ما، غالبًا ما كان الروبوت يرى شيئًا مختلفًا تمامًا. على سبيل المثال، إذا أزلت البكسلات التي تجعل "قرد الكولوبوس" يبدو كقرد كولوبوس، فقد يراه الروبوت مجرد "قرد" عام أو حتى "قرد غوينون". هذا يساعدنا على فهم الميزات التي تميز الأشياء المتشابهة بدقة.

الملخص

تقدم هذه الورقة البحثية طريقة رياضية صارمة لاستجواب الذكاء الاصطناعي. بدلًا من مجرد قول: "الروبوت نظر إلى الأذنين"، يمكنهم القول: "لقد نظر الروبوت إلى هذه الـ 50 بكسل فقط ليكون متأكدًا بنسبة 100% أنها قطة. إذا أزلت أيًا من تلك الـ 50 بكسل، فستتوقف عن كونها قطة. إذا أضفت هذه الـ 20 بكسل الأخرى، فستصبح أكثر تأكدًا من أنها قطة".

إنها تحول "الصندوق الأسود" للذكاء الاصطناعي إلى لغز شفاف حيث يمكننا رؤية أي القطع تهم ولماذا.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "التفسيرات السببية الكافية والضرورية والكاملة في تصنيف الصور" للباحثين ديفيد أ. كيلي وهانا تشوكلر.

1. بيان المشكلة

تندرج طرق الذكاء الاصطناعي القابل للتفسير (XAI) الحالية لتصنيف الصور عموماً ضمن فئتين، كل منهما تعاني من قيود كبيرة:

الطرق الاستدلالية/البروز (Heuristic/Saliency Methods): مثل طرق Grad-CAM وLIME وقيم Shapley؛ وهي طرق فعالة حاسوبياً وتعمل على النماذج "الصندوق الأسود" (black-box)، لكنها تفتقر إلى الصرامة الرياضية. وغالباً ما تنتج تفسيرات ليست مضمونة رياضياً بأن تكون كافية أو ضرورية لقرار النموذج.
الطرق القائمة على المنطق (Logic-Based Methods): مثل الطرق القائمة على المنطق الصوري (مثل التفسيرات الاستنباطية/المتضمنات الأولية) التي تقدم ضمانات صارمة للكفاية والضرورة. ومع ذلك، فهي تعتمد على افتراضات صارمة (مثل الرتابة أو الخطية في النموذج) وتتطلب وصولاً صريحاً إلى البنية الداخلية للنموذج. ونادراً ما تتحقق هذه الافتراضات في مصنفات الصور ذات التعلم العميق الحديثة، مما يجعل الطرق القائمة على المنطق غير قابلة للتطبيق أو مستعصية حاسوبياً.

الفجوة: هناك نقص في وجود إطار عمل يوفر ضمانات رسمية وصارمة (مثل الطرق القائمة على المنطق) مع أن يظل قابلاً للتطبيق على مصنفات الصور غير الرتيبة والصندوق الأسود (مثل الشبكات العصبية العميقة).

2. المنهجية

يقترح المؤلفون إطار عمل يعتمد على السببية الفعلية (تحديداً تعريف هالبيرن-بيرل المعدل) لتعريف وحساب التفسيرات السببية لمصنفات الصور.

أ. النمذجة السببية للصور

يصنف المؤلفون مصنف الصور $N$ وصورة المدخل $x$ كنموذج سببي ذو مستويين $M_{N,x}$ :

المتغيرات: المتغيرات الداخلية $\vec{V}$ تقابل البكسلات (حيث 1 = القيمة الأصلية، 0 = محجوبة).
المتغير المخرجات: متغير $O$ يشير إلى ما إذا كان التصنيف سيبقى دون تغيير.
التدخل (Intervention): حجب البكسلات يقابل ضبط المتغيرات إلى 0.
السياق (Context): الصورة الأصلية هي سياق حيث تكون جميع المتغيرات مساوية لـ 1.

ب. تعريفات جديدة للتفسيرات

تقدم الورقة تسلسلاً هرمياً للتفسيرات السببية، موسعةً العمل السابق (ReX) ليشمل الضرورة، والكمال، والثقة:

التفسيرات الكافية (Sufficient Explanations): مجموعة دنيا من البكسلات التي، عند إبقائها مرئية (وحجب الآخرين)، تكون كافية لإطلاق نفس التصنيف.
- سياق واحد (SCSE): يعمل لسياق صورة محددة.
- متعدد السياقات (MCSE): يعمل عبر مجموعة من السياقات (الحجب الجزئي)، وهو مكافئ للتفسيرات الاستنباطية القائمة على المنطق.
التفسيرات الضرورية (Necessary Explanations - NE): مجموعة دنيا من البكسلات التي، إذا تمت إزالتها (حجبها)، تؤدي إلى تغيير التصنيف.
التفسيرات الكاملة (Complete Explanations - SCCE/MCCE): مجموعة فرعية من البكسلات التي تكون كافية وضرورية في آن واحد. إزالة هذه البكسلات يغير الفئة؛ وإبقاؤها فقط يحافظ على الفئة.
التفسيرات ذات الثقة $\delta$ ( $\delta$ -Confident Explanations): تقدم عتبة ثقة. يكون التفسير ذا ثقة $\delta$ $δ$ إذا كانت ثقة النموذج على التفسير لا تقل عن $\delta \times$ $δ \times$ (الثقة الأصلية).
- تفسير كامل الدرجة 1 (1-Complete Explanation): هو تفسير كامل تتطابق فيه ثقة النموذج مع ثقة الصورة الأصلية تماماً.
بكسلات الضبط (Adjustment Pixels): البكسلات التي ليست كافية تماماً ولا ضرورية تماماً، ولكنها مطلوبة لضبط ثقة النموذج لتتطابق مع الثقة الأصلية (لسد الفجوة بين التفسير الكامل $\delta$ والتفسير الكامل الدرجة 1).

ج. التكافؤ النظري

يثبت المؤلفون أن:

التفسيرات الكافية متعددة السياقات (MCSE) تكافئ رسمياً التفسيرات الاستنباطية (المتضمنات الأولية) في المنطق.
التفسيرات السببية ثابتة بالنسبة للمدخلات (Input Invariant)، مما يعني أنها تظل مستقرة تحت التحويلات التي لا تؤثر على المخرج (مثل إزاحة المتوسط للطبقة الأولى من الشبكة)، وهي خاصية تنتهكها غالباً طرق البروز القائمة على التدرج.
مسائل القرار لإيجاد هذه التفسيرات هي من نوع co-NP-complete، مما يبرر الحاجة إلى خوارزميات التقريب.

د. الخوارزميات

بما أن الحساب الدقيق مستعصٍ، يطبق المؤلفون خوارزميات تقريب "الصندوق الأسود" بناءً على ReX (التفسير القائم على المسؤولية):

الترتيب (Ranking): يتم ترتيب البكسلات حسب "المسؤولية السببية" (مدى تأثيرها على القرار).
البحث الجشع (Greedy Search):
- للكفاية: البدء بصورة فارغة وإضافة البكسلات (حسب ترتيب المسؤولية) حتى يتم استعادة التصنيف بثقة كافية.
- للضرورة/الكمال: البدء بالصورة الكاملة وإزالة البكسلات حتى يتغير التصنيف.
- للكمال الدرجة 1: إضافة "بكسلات الضبط" بشكل متكرر إلى تفسير كامل $\delta$ حتى تتطابق الثقة مع الثقة الأصلية.
طبيعة الصندوق الأسود: لا تتطلب الخوارزميات أي تدرجات، ولا أوزان النموذج، ولا معرفة بالبنية؛ فهي تقوم فقط باستعلام مخرجات النموذج.

3. المساهمات الرئيسية

إطار عمل رسمي: وضع إطار عمل سببي صارم لتصنيف الصور يوحد الضمانات الرسمية للطرق القائمة على المنطق مع قابلية التطبيق (الصندوق الأسود) للطرق الاستدلالية.
أنواع جديدة من التفسيرات: تعريف وتوصيف التفسيرات الكاملة، وتفسيرات الثقة $\delta$ ، والتفسيرات الكاملة الدرجة 1، مع تقديم مفهوم بكسلات الضبط لتحليل كيفية تعديل الثقة.
البراهين النظرية: إثبات التكافؤ بين MCSEs السببية والتفسيرات الاستنباتية القائمة على المنطق، وإثبات أن المسألة من نوع co-NP-completeness.
تنفيذ الخوارزميات: تطوير خوارزميات فعالة تعمل كصندوق أسود تماماً لحساب هذه التفسيرات، مدمجة في الأداة مفتوحة المصدر ReX.
التحليل التجريبي: تقديم أول تحليل واسع النطاق لكيفية استخدام البنى المختلفة (ResNet50, MobileNet, Swin Transformer) للبكسلات من أجل الكفاية، والضرورة، والثقة.

4. النتائج التجريبية

قيم المؤلفون نهجهم على ثلاثة نماذج (ResNet50, MobileNet, Swin Transformer) عبر ثلاث مجموعات بيانات (ImageNet-1K, PascalVOC, ECSSD).

الكفاءة: الخوارزميات فعالة، حيث تستغرق في المتوسط 6 ثوانٍ لكل صورة لنموذجي ResNet50 وMobileNet (و16 ثانية لـ Swin Transformer) على وحدة معالجة رسومية A100.
اختلاف النماذج:
- ResNet50 تطلب أقل عدد من البكسلات للكفاية والكمال، مما يشير إلى اعتماد أكثر تركيزاً على سمات محددة.
- MobileNet وSwin Transformer تطلبا عدداً أكبر بكثير من البكسلات لتحقيق الكفاية.
- بكسلات الضبط: كشفت الدراسة أن النماذج المختلفة تستخدم أعداداً مختلفة من "بكسلات الضبط" للوصول إلى الكمال الدرجة 1، مما يسلط الضضوء على آليات المعايرة الداخلية المتميزة.
التصنيف العكسي: من خلال حجب التفسيرات الكاملة، استنتج المؤلفون "التصنيفات العكسية" (ما يراه النموذج عند إزالة السمات الرئيسية). ووجدوا أن المسافة الدلالية بين الفئة الأصلية والفئة العكسية غالباً ما تكون صغيرة (مثلاً: أنواع مختلفة من القرود)، ولكن يمكن أن تكون كبيرة في حالات التصنيف الخاطئ (مثلاً: "ثور" مقابل "دراجة نارية").
المقارنة مع أدوات XAI: عند تطبيقها على ترتيبات Grad-CAM وLIME، نجحت الخوارزميات السببية في إيجاد تفسيرات كافية وكاملة. ومع ذلك، أنتجت ReX (باستخدام المسؤولية السببية) أكثر التفسيرات دقة (الأصغر حجماً) في المتوسط مقارنة بـ LIME وGrad-CAM، اللذين أظهرا تبايناً أعلى واعتماداً أكبر على بنية النموذج.

5. الأهمية

سد الفجوة: نجح هذا العمل في جسر الهوة بين المنطق الصوري (الصرامة) والتعلم العميق (التعقيد/الصندوق الأسود)، مما يثبت أن الاستدلال السببي يمكن أن يوفر تفسيرات سليمة رياضياً لمصنفات الصور المعقدة دون الحاجة إلى معرفة تفاصيل النموذج الداخلية.
تحليل الثقة: من خلال تقديم تفسيرات واعية بالثقة ( $\delta$ والدرجة 1)، تتجاوز الورقة التفسيرات الثنائية (صحيح/خاطئ) لتحلل كيف يصل النموذج إلى مستوى ثقة معين، مما يكشف عن دور "بكسلات الضبط".
الفائدة العملية: الخوارزميات عملية، فعالة، ومستقلة عن النموذج، مما يجعلها مناسبة لتدقيق أنظمة الذكاء الاصطناعي في العالم الحقيقي حيث تكون تفاصيل النموذج الداخلية غير متاحة.
فهم سلوك النموذج: تشير النتائج إلى أن البنى المختلفة لديها "أنماط استدلال" مختلفة جوهرياً فيما يتعلق بالبكسلات الضرورية مقابل الكافية، مما يوفر عدسة جديدة لمقارنة النماذج وتصحيح أخطائها.