🤖 AI

Concept-based explanations of Segmentation and Detection models in Natural Disaster Management

تقترح هذه الورقة إطار عمل جديداً للقابلية للتفسير يوسع نطاق انتشار الصلة على مستوى الطبقات (Layer-wise Relevance Propagation) ليشمل نموذج PIDNet، ويطبق التفسيرات القائمة على المفاهيم النموذجية (Prototypical Concept-based Explanations) على نموذج YOLO، مما يتيح رؤى شفافة على مستوى المفاهيم لنماذج تقسيم الفيضانات وكشف السيارات مع الحفاظ على الأداء في الوقت الفعلي المطلوب للنشر على الطائرات بدون طيار (UAVs) محدودة الموارد في إدارة الكوارث الطبيعية.

المؤلفون الأصليون: Samar Heydari, Jawher Said, Galip Ümit Yolcu, Evgenii Kortukov, Elena Golimblevskaia, Evgenios Vlachos, Vasileios Mygdalis, Ioannis Pitas, Sebastian Lapuschkin, Leila Arras

نُشر 2026-03-25

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Samar Heydari, Jawher Said, Galip Ümit Yolcu, Evgenii Kortukov, Elena Golimblevskaia, Evgenios Vlachos, Vasileios Mygdalis, Ioannis Pitas, Sebastian Lapuschkin, Leila Arras

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك قائد فريق إنقاذ أثناء فيضان هائل. لديك أسطول من الطائرات بدون طيار (الدرونز) المتطورة التي تحلق في الأعلى، مجهزة بكاميرات فائقة الذكاء وذكاء اصطناعي (AI). يمكن لهذه الطائرات رصد السيارات العالقة في المياه المرتفعة فوراً أو رسم خريطة دقيقة لمكان انتشار مياه الفيضان.

المشكلة:
الذكاء الاصطناعي سريع ودقيق للغاية، لكنه عبارة عن "صندوق أسود". فهو يشير إلى سيارة ويقول: "هذه سيارة!" أو يحدد بقعة ما ويقول: "هذا فيضان!"، لكنه لا يخبرك لماذا. إذا ارتكب الذكاء الاصطناعي خطأً — مثل الاعتقاد بأن سقفاً لامعاً هو سيارة — فقد ترسل قارب إنقاذ إلى المكان الخطأ. في حالات الكوارث، تحتاج إلى الثقة في الآلة، لكن لا يمكنك الوثوق بآلة لا تفهم كيفية عملها.

الحل:
تقدم هذه الورقة البحثية "مترجماً" جديداً لنماذج الذكاء الاصطناعي هذه. فهو لا يعطيك الإجابة فحسب، بل يريك "واجب الذكاء الاصطناعي المنزلي"، ويشرح لك بالضبط ما الذي رآه ولماذا اتخذ قراره.

إليك كيف فعلوا ذلك، مقسماً إلى مفاهيم بسيطة:

1. خدعة "إعادة التوزيع" (LRP)

تخيل الذكاء الاصطناعي كسباق تتابع ضخم. تدخل الصورة إلى العداء الأول (المدخلات)، ثم تمر عبر عشرات العدائين (الطبقات) الذين يحملون "عصا الأهمية"، وصولاً إلى العداء الأخير الذي يصرخ: "إنها سيارة!".

عادةً، إذا كان السباق يحتوي على التواء غريب — مثل عداء يقوم بتقسيم العصا إلى اثنتين أو مضاعفتها — تصبح قواعد تمرير العصا مربكة. لقد ابتكر الباحثون قاعدة جديدة لهذه الالتواءات المعقدة (تحديداً في نموذج يسمى PIDNet). لقد عرفوا كيفية تتبع "عصا الأهمية" من صرخة العداء الأخير وصولاً إلى أول بكسل في الصورة. هذا يضمن منح الائتمان لكل جزء من الصورة ساهم في القرار، بحيث يمكننا رؤية أي بكسلات كانت الأكثر أهمية بالضبط.

2. محقق "المفاهيم" (PCX)

بدلاً من مجرد النظر إلى البكسلات (التي هي مجرد نقاط صغيرة من الألوان)، علم الباحثون الذكاء الاصطناعي أن يفكر في مفاهيم، تماماً كما يفعل البشر.

تخيل أنك تعلم طفلاً التعرف على السيارات. أنت لا تظهر له ملايين النقاط العشوائية؛ بل تقول له: "ابحث عن العجلات، والنوافذ، وشكل الهيكل".

الطريقة القديمة: يرى الذكاء الاصطناعي كتلة من البكسلات ويخمن أنها "سيارة".
الطريقة الجديدة: يقول الذكاء الاصطناعي: "أنا أرى مفهوم 'نافذة جانبية بيضاء' ومفه de 'إطار داكن'، لذا أنا متأكد بنسبة 90% أنها سيارة".

قام الباحثون بتجميع هذه "المفاهيم" في نماذج أولية (أو ملفات ذهنية).

الملف (أ): يحتوي على جميع "السيارات السيدان البيضاء".
الملف (ب): يحتوي على جميع "مركبات الطواراء الحمراء".
الملف (ج): يحتوي على "الأشكال الغريبة والضبابية".

3. كشف الأخطاء (إنذار "القيم الشاذة")

هذا هو الجزء الأكثر إثارة. نظرًا لأن الذكاء الاصطناعي ينظم معرفته الآن في هذه "الملفات"، فإنه يستطيع رصد ما لا يتناسب معها.

مثال من الواقع من الورقة البحثية:
كان الذكاء الاصطناعي يراقب شارعاً مغموراً بالمياه. رأى سطحاً أبيض لامعاً لمبنى واعتقد: "هذه سيارة بيضاء!"، وكان مخطئاً.

بدون النظام الجديد: سيقول الذكاء الاصطناعي ببساطة "سيارة" ويمضي قدماً.
مع النظام الجديد: يتحقق الذكاء الاصطناعي من "ملفاته". يدرك قائلاً: "مهلاً، هذا يبدو مثل مفهوم 'النافذة الجانبية البيضاء'، لكنني أفتقد لمفاهيم 'العجلات' و'الإطارات'. هذا لا يتطابق جيداً مع ملف 'السيارة السيدان البيضاء'".
النتيجة: يقوم النظام بتصنيف هذا كـ قيمة شاذة (تخمين مشكوك فيه) ويحذر القائد البشري: "كن حذراً! هذا التوقع مهتز. قد يكون سطح مبنى وليس سيارة".

لماذا يهم هذا في الكوارث؟

في حالات الفيضانات أو حرائق الغابات، الوقت هو كل شيء.

الثقة: يمكن لفرق الإنقاذ الوثوق بخريطة الدرون لأنهم يستطيعون رؤية لماذا حددت الدرون منطقة معينة على أنها خطرة.
السرعة: النظام سريع بما يكفي للعمل على طائرات صغيرة (UAVs) يمكنها الطيران فوق مناطق الكوارث في الوقت الفعلي.
السلامة: يمنع النظام الفرق من إضاعة الموارد في مطاردة الإنذارات الكاذبة (مثل سطح لامع) أو تفويت مخاطر حقيقية بسبب ارتباك الذكاء الاصطناعي.

باختاًصر:
لق️د صنع الباحثون "كشافاً" يسلط الضوء داخل عقل الذكاء الاصطناعي. إنه يحول رياضيات الذكاء الاصطناعي المعقدة إلى قصص بسيطة يمكن للبشر فهمها، مثل: "وجدت فيضاناً لأنني رأيت مياهاً زرقاء بالقرب من الأشجار"، أو "لست متأكداً من هذه السيارة لأنها تشبه السقف كثيراً". هذا يحول الصندوق الأسود المخيف والغامض إلى شريك موثوق وشفاف لإنقاذ الأرواح.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "التفسيرات القائمة على المفاهيم لنماذج التجزئة والكشف في إدارة الكوارث الطبيعية."

1. بيان المشكلة

تُستخدم نماذج التعلم العميق، وتحديداً لمهام التجزئة الدلالية (مثل رسم خرائط الفيضانات) وكشف الأشياء (مثل تحديد مواقع المركبات أو الأشخاص)، بشكل متزايد على منصات الطائرات بدون طيار المدمجة للإدارة الفورية للكوارث الطبيعية (NDM). ومع ذلك، تعمل هذه النماذج كـ "صناديق سوداء"، حيث تفتقر إلى الشفافية في عمليات اتخاذ القرار الخاصة بها. هذا الغموض يعيق الثقة واليقين اللازمين لفرق الاستجابة للطوارئ للاعتماد على الرؤى المدعومة بالذكاء الاصطناعي خلال المواقف الحرجة. علاوة على ذلك، لم يتم تكييف تقنيات الذكاء الاصطناعي القابل للتفسير (XAI) بشكل كافٍ مع:

بنيات محددة مثل PIDNet (المستخدم للتجزئة).
مجال محدد وهو إدارة الكوارث الطبيعية.
مهام كشف الأشياء والتجزئة باستخدام الطرق القائمة على المفاهيم (التي كانت مقتصرة سابقاً في الغالب على تصنيف الصور).

2. المنهجية

يقترح المؤلفون إطار عمل متكامل للتفسير يجمع بين انتشار الأهمية على مستوى الطبقات (LRP) والتفسيرات القائمة على المفاهيم.

أ. توسيع LRP ليشمل PIDNet

قام المؤلفون بتكييف LRP، وهي طريقة إسناد قائمة على التفكيك، لتناسب بنية PIDNet المصممة للتجزئة الفعالة.

التحدي: تحتوي PIDNet على طبقات دمج متخصصة (موجهة بانتباه البكسل وانتباه الحدود) تتضمن عمليات ضرب عنصر بآخر مع بوابات سيجمويد ( $y = x \odot \sigma(g)$ ). قواعد LRP القياسية لا تتعامل بشكل طبيعي مع هذه التفاعلات البوابية.
الحل: قدم المؤلفون استراتيجية "إعادة توزيع الإشارة المستحوذة على الكل" (signal-take-all redistribution strategy). في هذه الاستراتيجية، يتم تخصيص الأهمية بالكامل لفرع الإشارة ( $x$ )، بينما تحصل فرع البوابة ( $g$ ) على صفر من الأهمية. يعكس هذا التفسير أن البوابة تعمل مجرد معدل، وأن تأثيرها تم التقاطه بالفعل في أهمية الإشارة.
النطاق: يسمح هذا التوسيع لتدفق أهمية LRP عبر الرسم البيفي للحسابات بالكامل في PIDNet، من ناتج الـ logit وصولاً إلى صورة الإدخال.

ب. التفسيرات النموذجية القائمة على المفاهيم (PCX) للتجزئة والكشف

توسع الورقة البحثية التفسيرات النموذجية القائمة على المفاهيم (PCX)، التي كانت تُستخدم سابقاً فقط لتصنيف الصور، لتشمل نماذج التجزئة والكشف.

العملية:
1. توليد الأهمية الكامنة: بالنسبة لتنبؤ معين (قناع أو صندوق إحاطة)، يُستخدم LRP لتوليد درجات الأهمية لخرائط الميزات داخل الطبقات التلافيفية.
2. إنشاء متجه المفهوم: يتم جمع الأبعاد المكانية لإنشاء متجه أهمية المفهوم (قيمة واحدة لكل خريطة ميزة) لكل عينة.
3. التجميع (Clustering): يتم تجميع هذه المتجهات باستخدام نموذج الخليط الغاوسي (GMM) لتحديد "استراتيجيات التنبؤ" (النماذج الأولية) المتميزة التي تعلمها النموذج.
4. الاستدلال والمقارنة: أثناء الاستدلال، تتم مقارنة التنبؤ الجديد بأقرب مركز نموذج أولي.
المخرجات: يوفر إطار العمل:
- التفسيرات العالمية (Global Explanations): تحديد كيفية تجميع النموذج للبيانات (مثل التمييز بين أنماط الفيضانات المختلفة أو أنواع السيارات المختلفة).
- التفسيرات المحلية (Local Explanations): تصور المفاهيم المحددة التي تقود تنبؤاً معيناً (عبر خرائط حرارية مشروطة بالمفهوم) واسترجاع الصور المرجعية التي تعظم مفاهيم محددة.
- كشف القيم الشاذة (Outlier Detection): قياس مدى تشابه التنبؤ الجديد مع النماذج الأولية المعروفة لتمييز التنبؤات غير النمطية أو غير الموثوقة.

3. المساهمات الرئيسية

أول تطبيق في إدارة الكوارث الطبيعية (NDM): أول تطبيق لـ LRP والتفسيرات القائمة على المفاهيم خصيصاً ضمن مجال إدارة الكوارث الطبيعية.
توسيع البنية: توسيع مبتكر لـ LRP لبنية PIDNet، وتحديداً التعامل مع طبقات الدمج المعتمدة على بوابة السيجمويد عبر قاعدة إعادة توزيع "الإشارة المستحوذة على الكل".
توسيع المهام: أول توسيع لـ التفسيرات النموذجية القائمة على المفاهيم (PCX) من تصنيف الصور إلى التجزئة الدلالية وكشف الأشياء.
1. الملاءمة للوقت الفعلي: إثبات أن إطار العمل يحافظ على قدرات استدلال قريبة من الوقت الفعلي، مما يجعله قابلاً للتطبيق على المنصات محدودة الموارد مثل المركبات الجوية غير المأهولة (UAVs).

4. النتائج التجريبية

تم تقييم إطار العمل باستخدام مجموعة بيانات TEMA AIIA Ahrtal للفيضانات باستخدام نموذجين:

PIDNet-small: لتجزئة الفيضانات (27 طبقة، 8.06 مليون معلمة).
YOLOv6s6: لكشف السيارات في سيناريوهات الفيضانات (136 طبقة، 41.32 مليون معلمة).

التقييم الكمي

المقياس: المساحة تحت المنحنى (AOC) لحذف المفهوم، والمساحة تحت المنحنى (AUC) لإدراج المفهوم.
النتائج: تفوقت تفسيرات LRP (تحديداً LRP- $\epsilon$ و LRP- $\gamma$ و LRP- $z+$ ) بشكل كبير على خرائط التنشيط القياسية وخطوط الأساس العشوائية. أظهر LRP- $\epsilon$ أداءً فائقاً في التقييمات القائمة على الاضطراب، رغم أن المؤلفين يشيرون إلى أن القواعد الأخرى (مثل $z+$ ) قد تكون مفضلة لمهام التحديد الموضعي في سياقات أخرى.

التقييم النوعي (رؤى PCX)

كشف السيارات (YOLOv6s6): طور النموذج أربعة نماذج أولية متميزة: السيارات البيضاء، السيارات الداكنة، سيارات الإسعاف الحمراء، ومجموعة من السيارات الضبابية/غير النمطية.
- رؤية: أظهر النموذج الأولي الثالث (السيارات الضبابية) تشابهاً سلبياً مع المتوسط العالمي، مما يشير إلى مشكلة في جودة البيانات أو عينات غير نمطية.
- كشف القيم الشاذة: في حالة اختبار محددة، أخطأ النموذج في تحديد نافذة سقف على أنها سيارة بيضاء. قام PCX بتصنيف هذه كقيمة شاذة لأن مفهوم "جانب المركبة الأبيض" تم استخدامه بشكل مفرط مقارنة بالنموذج الأولي، مما نجح في تحديد الخطأ.
تجزئة الفيضانات (PIDNet): تعلم النموذج التمييز بين مختلف أنماط الفيضانات، مثل الهياكل الخطية (الأنهار/الطرق)، والفيضانات في السهول الواسعة، وفيضانات الشوارع صغيرة النطاق.

5. الأهمية

يعمل هذا العمل على سد الفجوة بين التعلم العميق عالي الأداء والحاجة الماسة لثقة البشر في سيناريوهات الاستجابة للطوارئ. من خلال توفير الشفافية على مستوى المفهوم، يتيح الإطار للمشغلين:

فهم لماذا حدد النموذج ميزة كارثة معينة (على سبيل المثال، "حدد النموذج فيضاناً لأنه تعرف على المياه بالقرب من النباتات").
تحديد متى يقوم النموذج بعمل تنبؤات بناءً على أنماط غير نمطية (قيم شاذة)، مما يمنع الإنذارات الكاذبة أو حالات عدم الكشف.
نشر ذكاء اصطناعي قابل للتفسير على الأجهزة الطرفية (الطائرات بدون طيار)، مما يضمن أن تحديد موقع الكوارث في الوقت الفعلي ليس سريعاً فحسب، بل أيضاً قابلاً للتفسير والموثوقية.

تؤكد الدراسة أن التفسير القائم على المفهوم ليس مجرد أداة نظرية، بل هو ضرورة عملية لنشر الذكاء الاصطناعي في البيئات عالية المخاطر مثل إدارة الكوارث الطبيعية.