OCCAM: Open-set Causal Concept explAnation and Ontology induction for black-box vision Models

تخيل أن لديك روبوتًا ذكيًا للغاية، ولكنه سري تمامًا، ينظر إلى الصور ويخبرك بما تحتويه. يمكنك أن تريه صورة كلب، فيقول لك "كلب". ولكن إذا سألته، "لماذا قلت ذلك؟"، يرفض الروبوت الإجابة. لن يريك تروسه الداخلية، أو كوده البرمجي، أو عملية تفكيره. إنه "صندوق أسود".

هذه هي المشكلة التي تحاول ورقة بحثية تسمى OCCAM حلها. فقد ابتكر المؤلفون طريقة جديدة للتلصص داخل هذا الصندوق الأسود دون كسر فتحه. وهم يفعلون ذلك من خلال التصرف كمحرر دقيق يقوم بحذف أشياء من الصورة ليرى ما سيحدث لإجابة الروبوت.

إليك كيف يعمل OCCAM، مشروحًا عبر تشبيهات بسيطة:

1. لعبة "ماذا لو؟" (الاكتشاف مفتوح المجموعة)

حاولت معظم الطرق السابقة تخمين ما يفكر فيه الروبوت باستخدام قائمة ثابتة من الكلمات (مثل القاموس). إذا رأى الروبوت "جولدن ريتريفر"، وكان القاموس يحتوي فقط على كلمة "كلب"، فقد يفتقد إلى التفاصيل الدقيقة.

أما OCCAM فهو مختلف. فهو يستخدم مساعد ذكاء اصطناعي ذكي (نموذج لغوي كبير متعدد الوسائط) لينظر إلى الصورة ويقول: "مهلاً، أنا أرى ذيلاً كثيف الشعر، ومنتزهاً مشمساً، وكرة حمراء". هو لا يحتاج إلى قائمة مكتوبة مسبقاً؛ بل يبتكر المفاهيم التي يراها في اللحظة ذاتها. هذا هو الجزء الخاص بـ "المجموعة المفتوحة" (Open-Set)—فهو يستطيع التحدث عن أي شيء يجده.

2. "الممحاة السحرية" (التدخل السببي)

بمجرد أن يحدد OCCAM هذه المفاهيم (مثل "الذيل الكثيف")، فإنه لا يكتفي بالإشارة إليها فحسب، بل يقوم بإجراء اختبار سببي.

تخيل أن لديك صورة لكلب في منتزه. يستخدم OCCAM "ممحاة سحرية" لإزالة الذيل فقط بعناية، مع ملء الخلفية بحيث تبدو طبيعية. ثم يعرض هذه الصورة المعدلة على الروبوت مرة أخرى.

• إذا ظل الروبوت يقول "كلب": فإن الذيل لم يكن مهماً جداً للقرار.
• إذا غير الروبوت رأيه فجأة أو قال "لا أعرف": فإن الذيل كان دليلاً حاسماً.

من خلال القيام بذلك لكل مفهوم يجده، يتعلم OCCAM بالضبط أي أجزاء من الصورة هي التي تتسبب فعلياً في اتخاذ الروبوت لقراره. الأمر يشبه محققاً يزيل الأدلة واحداً تلو الآخر ليرى أي منها كان الدليل القاطع.

3. بناء "شجرة عائلة" للأفكار (استنتاج الأنطولوجيا)

حتى الآن، شرح OCCAM صورة واحدة فقط. لكن المؤلفين أرادوا فهم "شخصية" الروبوت بأكملها، وليس مجرد رد فعله تجاه صورة واحدة.

يأخذون نتائج آلاف الصور ويبنون خريطة ضخمة ومنظمة تسمى الأنطولوجيا (Ontology). فكر في هذا كشجرة عائلة أو خريطة مترو معقدة لعقل الروبوت.

• يربط المفاهيم بالفئات (مثلاً: "ذيل كثيف الشعر" $\leftarrow$ "كلب").
• يربط المفاهيم ببعضها البعض (مثلاً: "وجه مبتسم" غالباً ما يظهر مع "كلب سعيد").

هذه الخريطة لا يرسمها إنسان؛ بل تنبثق من سلوك الروبوت نفسه. وهي تكشف عن أنماط خفية، مثل: "هذا الروبوت يحتاج دائماً لرؤية 'ابتسامة' ليصنف 'لاعب كرة الطائرة' على أنه سعيد"، أو "هذا الروبوت لديه انحياز ليعتقد أن 'العشب' يعني 'خارج المنزل' حتى لو كان العشب اصطناعياً".

4. لماذا هذا مهم؟

تظهر الورقة البحثية أن هذه الطريقة تعمل بشكل أفضل من الحيل السابقة بطريقتين رئيسيتين:

• تعمل على الروبوتات السرية: أنت لا تحتاج لرؤية كود الروبوت (الذي لا يمكنك رؤيته عادةً). كل ما تحتاجه هو القدرة على إظهار الصور له والحصول على إجابات.
• تجد الأسباب الحقيقية: من خلال إزالة الدليل البصري فعلياً، فإنها تثبت "السببية". هي لا تخمن فحسب، بل تختبر.

اختبر المؤلفون هذه الطريقة على مجموعات بيانات صور شهيرة (مثل Broden و ImageNet) ووجدوا أن OCCAM يمكنه تفسير قرارات الروبوت بدقة أكبر من الطرق التي تعتمد على الوصول إلى الكود الداخلي. كما أظهروا أنه عندما قدموا هذه الخريطة الهيكلية (شجرة العائلة) لذكاء اصطناعي آخر لتلخيص سلوك الروبوت، كانت الملخصات أكثر عمقاً ودقة من مجرد سرد حقائق عشوائية.

باختصار: OCCAM هو أداة تتعامل مع الذكاء الاصطناعي "الصندوق الأسود" كأنه لغز يجب حله من خلال مسح أجزاء من الصورة بشكل منهجي لمعرفة ما يهتم به الذكاء الاصطناعي حقاً، ثم تنظيم تلك النتائج في خريطة واضحة لكيفية تفكير ذلك الذكاء الاصطناعي.