Identifying Confusion Trends in Concept-based XAI for Multi-Label Classification
تقيم هذه الورقة طرق الذكاء الاصطناٍعي القابل للتفسير القائم على المفاهيم (CXAI)، وتحديداً CRP وCRAFT، على الشبكات العصبية العميقة المدربة على التصنيف متعدد الملصقات باستخدام مجموعة بيانات MS-COCO، كاشفةً أن هذه التقنيات تحدد بفعالية نقاط ضعف تعلم النموذج، وتوضح كيف يقلل تميز المفاهيم من الارتباك، وتكشف عن الانحيازات الناجمة عن مجموعة البيانات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي الحديث، أصبحت الحواسيب بارعة بشكل ملحوظ في النظر إلى الصور وتسمية ما تراه. يمكنها تحديد كلب، أو سيارة، أو شخص بدقة تفوق في كثير من الأحيان الرؤية البشرية. ومع ذلك، لكي نتمكن من الوثوق بهذه الأنظمة في المواقف عالية المخاطر مثل السيارات ذاتية القيادة أو التشخيص الطبي، فإننا نحتاج إلى ما هو أكثر من مجرد إجابة صحيحة؛ نحن بحاجة إلى فهم كيفية وصول الآلة إلى تلك النتيجة. هذا هو مجال "الذكاء الاصطناعي القابل للتفسير"، وهو مجال مخصص لفتح "الصندوق الأسود" للشبكات العصبية العميقة. وضمن هذا المجال، ظهر نهج محدد يسمى "التفسير القائم على المفاهيم". فبدلاً من مجرد تسليط الضوء على البكسلات الأكثر أهمية، يحاول هذا الأسلوب تحديد الأفكار أو "المفاهيم" ذات المعنى التي تعلم الكمبيوتر التعرف عليها. إنه لا يسأل فقط أين ينظر الكمبيوتر، بل عما يعتقد أنه يراه. وينشأ التحدي عندما تعمل هذه الأنظمة في بيئات معقدة من العالم الحقيقي حيث تتداخل الأشياء، وتكون الخلفيات مزدحمة، وتحتوي الصورة الواحدة على أشياء مختلفة عديدة. وفي مثل هذه السيناريوهات، حتى النماذج عالية الدقة يمكن أن ترتكب أخطاءً طفيفة، كأن تخلط بين جسم وآخر أو تعتمد على إشارات خلفية مضللة. إن فهم سبب حدوث هذه الالتباسات أمر بالغ الأهمية لبناء تكنولوجيا أكثر أماناً وموثوقية.
لقد شرع باحثون في الجامعة التقنية في دريسدن في استقصاء أنماط الارتباك هذه عبر تدريب نموذجين معروفين في مجال الرؤية الحاسوبية، وهما ResNet50 وVGG-16، على مجموعة ضخمة من الصور تُعرف باسم MS-COCO. تحتوي هذه المجموعة على أكثر من مائة ألف صورة لمشاهد يومية، كل منها مصنف بملصقات متعددة لوصف مختلف الأشياء الموجودة. ركز الفريق في دراسته على العشرين جسماً الأكثر ظهوراً في هذه الصور، مثل الأشخاص والسيارات والكراسي. ولضمان اختبار عادل، قاموا بتدريب النماذج بمستويات مختلفة من الأداء، مما خلق سيناريوهات كانت فيها الحواسيب إما دقيقة للغاية أو تعاني من ضعف شديد. ثم طبقوا طريقتين متمايزتين لتوليد التفسيرات، إحداهما تتبع أهمية سمات محددة، والأخرى تفكك الصور إلى مناطق أصغر ومركزة. ومن خلال مقارنة تنبؤات الكمبيوتر النهائية مع المفاهيم الداخلية التي استخدمها لاتخاذ تلك القرارات، استطاع الفريق رؤية المكان الذي يقع فيه ارتباك النماذج بالضبط.
وكشفت التحقيقات أنه عندما يكافح نموذج ما للتمييز بين جسمين متشابهين، فإن هذا الارتباك ليس عشوائياً؛ بل يتجذر في المفاهيم المحددة التي تعلمها الكمبيوتر. ففي الحالات التي كان فيها أداء النماذج جيداً، كانت المفاهيم الداخلية حادة ومتميزة، تفصل بوضوح بين الشخص والسيارة أو الكرسي. ومع ذلك، عندما كان الأداء ضعيفاً، أصبحت المفاهيم ضبابية ومتداخلة. بدأ الكمبيوتر بالاعتماد على سمات مشتركة ليست فريدة من نوعها لجسم واحد، مما أدى إلى وقوع الأخطاء. فعلى سبيل المثال، وجدت الدراسة أن النموذج قد يخلط بين شخص وحقيبة ظهر ليس لأنه لا يستطيع رؤية الشخص، بل لأنه تعلم ربط مفهوم "الشخص" بقوة بالأنماط البصرية لحقيبة الظهر، لمجرد أنهما يظهران معاً كثيراً في بيانات التدريب. وهذا يشير إلى أن الارتباك ينبع من تعلم النموذج لارتباطات زائفة بدلاً من الهوية الحقيقية للجسم.
إن أحد النتائج الرئيسية للبحث هو أن وضوح هذه المفاهيم الداخلية يرتبط ارتباطاً مباشراً بقدرة النموذج على تجنب الأخطاء. فعندما كانت المفاهيم التي تعلمها الكمبيوتر متميزة وفريدة من نوعها لكل فئة، انخفض معدل الارتباك بشكل كبير. وعلى العكس من ذلك، عندما كانت المفاهحات غامضة أو تشترك الكثير من المعلومات مع فئات أخرى، زادت أخطاء النموذج. وقد قاس الباحثون درجة "التميز" هذه ووجدوا أن النماذج ذات درجات التميز الأعلى سجلت حالات أقل في الخطأ في تحديد الأشياء. وهذا يشير إلى أن الطريق نحو ذكاء اصطناعي أفضل لا يكمن فقط في الحصول على الإجابة الصحيحة في كثير من الأحيان، بل في ضمان أن يتعلم الكمبيوتر سمات فريدة حقاً لكل جسم، بدلاً من الاعتماد على أنماط الخلفية الشائعة.
كما كشفت الدراسة كيف يمكن للبيئة نفسها أن تخدع الكمبيوتر. ففي العديد من صور العالم الحقيقي، تظهر أشياء معينة معاً بشكل متكرر جداً لدرجة أن الكمبيوتر يبدأ في الاعتقاد بأنها جزء من شيء واحد. على سبيل المثال، في مجموعة بيانات لمحطات القطارات، قد يتعلم الكمبيوتر التعرف على "شخص" من خلال البحث عن الرصيف أو السلالم، لأن الناس يتواجدون دائماً تقريباً على هذه الهياكل في صور التدريب. وعندما يختبر الباحثون النموذج على صور جديدة، فإنه سيتعرف على الشخص حتى لو كان واقفاً على سطح مختلف، لمجرد أن الخلفية تطابق ما تعلمه. هذه "المفاهيم البيئية" تعمل كتحيزات خفية، حيث يعتمد النموذج على الإعداد المحيط بدلاً من الجسم نفسه. وقد كان هذا واضحاً بشكل خاص في مجموعة بيانات للقيادة الذاتية للقطارات، حيث أظهرت تفسيرات النموذج أنه كان يركز على المسارات والرصيف في الخلفية بدلاً من التركيز على الأشخاص أنفسهم.
في نهاية المطاف، يوضح هذا العمل أن التفسيرات القائمة على المفاهيم هي أدوات قوية لتشخيص سبب فشل النموذج. فمن خلال النظر في المفاهيم التي يستخدمها الكمبيوتر، يمكن للباحثين معرفة ما إذا كان النموذج يتعلم الأشياء الصحيحة أم أنه يتم تضليله من خلال الطريقة التي جُمعت بها البيانات. وتشير النتائج إلى أنه لبناء أنظمة أكثر متانة، يجب أن نكون حذرين بشأن البيانات التي نغذيها بها، وضمان أنها متنوعة بما يكفي لمنع هذه الارتباطات المضللة. فإذا تعلم النموذج التعرف على الشخص فقط عندما يكون بالقرب من سيارة، فسوف يفشل عندما يكون ذلك الشخص في حديقة. وتؤكد الدراسة أن تحسين تميز المفاهيم المتعلمة وتقليل الاعتماد على الإشارات البيئية هما خطوتان أساسيتان نحو إنشاء ذكاء اصطناعي يمكن الوثوق به في العالم الحقيقي المعقد وغير المتوقع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.