Mechanistic Interpretability for Learning Assurance of a Vision-Based Landing System

ملخص تقني: التفسير الآلي لضمان التعلم لنظام هبوط يعتمد على الرؤية

بيان المشكلة
إن دمج الشبكات العصبية القائمة على البيانات في أنظمة الطيران الحرجة للسلامة يتحدى نماذج الضمان التقليدية، التي تعتمد على تحديد والتحقق من كل مكون على حدة. وبينما أصدرت وكالة سلامة الطيران الأوروبية (EASA) توجيهات تتطلب من الأنظمة القائمة على البيانات بناء ومراقبة "تمثيل الموقف" الخاص بها، فإن الوسائل التقنية لتوفيد مثل هذا الدليل للشبكات العصبية لا تزال مشكلة مفتوحة. يعتمد الضمان الحالي غالباً على الاختبار مقابل بيانات محجوزة، وهو ما يفشل في التمييز بين النماذج التي تعلمت آليات تعميم وبين تلك التي تعتمد على ارتباطات زائفة. وتحديداً، هناك فجوة حرجة في مراقبة تمثيل الموقف الداخلي للنموذج — أي الميزات المحسوبة للربط بين المدخلات والمخرجات — بدلاً من مجرد مراقبة ظروف المدخلات (نطاق التصميم التشغيلي، ODD) أو إحصائيات المخرجات (خارج التوزيع، OOD).

المنهجية
يقترح المؤلفون إطار عمل يعتمد على التفسير الآلي (Mechanistic Interpretability) لمعالجة هذه الفجوة، مطبقاً على مهمة انحدار النقاط المفتاحية للمدرج باستخدام الرؤية. تمر المنهجية عبر المراحل التالية:

1. بنية النموذج: تم تكييف بنية "المحول البصري" (Vision Transformer - ViT) (DINOv2-S) لمهمة انحدار النقاط المفتاحية للمدرج باستخدام عامل Soft-Argmax (SAM). وبخلاف الشبكات العصبية الالتفافية (CNN) التي غالباً ما تتخلص من المعلومات المكانية عبر التجميع (Pooling)، يحافظ الـ ViT على البنية المكانية على مستوى الرقع (Patch-level). يقوم عامل SAM برسم خرائط تضمينات الرقع مباشرة إلى تقديرات إحداثيات مستمرة دون طبقة تجميع، مما يضمن أن رأس الانحدار (Regression Head) يكون في حده الأدنى، ويضع عبء حل المهمة على تضمينات الرقع نفسها.
2. فك الارتباط المتناثر (K-SVD): يتم تفكيك تضمينات الرقع عالية الأبعاد ($z_p$) إلى "ذرات" قابلة للتفسير باستخدام تعلم القاموس المتناثر K-SVD. تفترض هذه العملية فرضية التمثيل الخطي، حيث تقابل المفاهيم الدلالية اتجاهات في فضاء التضمين. يتعلم النموذج قاموساً مفرط التغطية $D$ ورموزاً متناثرة $X$ بحيث يكون $z_p \approx DX$.
3. فصل المحتوى عن الأسلوب: يتم تصنيف الذرات المتعلمة إلى نوعين بناءً على الثبات عبر المجموعات الفرعية عبر أربعة نطاقات بصرية متميزة في مجموعة بيانات LARDv2 (X-Plane، وGoogle Earth Studio، وArcGIS، وBing Maps):
   • الذرات المحتوية (Contentful Atoms): تنشط باستمرار عبر جميع النطاقات، وتتبع الهياكل الهندسية ذات الصلة بالمهمة (مثل حواف المدرج، والعتبات).
   • الذرات الأسلوبية (Stylistic Atoms): تنشط بشكل أساسي في نطاقات محددة، وتتبع عوامل المظهر العرضية (مثل تدرج الألوان، وعيوب الرندرة، والإضاءة).
   • يتم إجراء التصنيف باستخدام معامل الاختلاف (CV) لمعدلات التنشيط عبر المجموعات الفرعية.
4. التحقق: يتم التحقق من الفصل نوعياً عبر تصور الرقع المنشطة وكمياً عبر قياس درجة الاعتماد على SAM. تجمع هذه الدرجة بين توافق الذرات مع أوزان رأس الانحدار، وتكرار تنشيطها، ومقدار تنشيطها لتحديد مدى اعتماد تنبؤات النموذج على الذرات المحتوية مقابل الذرات الأسلوبية.
5. الكشف عن الحالة خارج نطاق النموذج (OOMS): بناءً على تقسيم المحتوى والأسلوب، يعرّف المؤلفون OOMS كحالة يفتقر فيها المدخل إلى ميزات كافية ذات صلة بالمهمة (محتوى)، حتى لو بدا المدخل صالحاً (داخل الـ ODD) وكانت المخرجات نموذجية إحصائياً. تم تنفيذ كاشف OOMS كنموذج انحدار لوجستي L1 مقيد على تنشيطات الذرات الثنائية. تم تدريب المصنف لإخراج احتمالية كون الحالة "داخل نطاق النموذج" (IMS)، مع ضمانات تضمن أن الحالة الافتراضية هي OOMS وأن الذرات النشطة فقط هي التي يمكنها زيادة احتمالية الـ IMS.

المساهمات الرئيسية

• تكييف الـ ViT للهبوط: أثبت المؤلفون كفاءة وسهولة تكييف المحول البصري مع رأس Soft-Argmax لانحدار النقاط المفتاحية للمدرج، مظهرين قدرته على التدريب على مجموعة بيانات LARDv2.
• التفكيك الآلي: نجحوا في تفكيك فضاء الميزات الداخلي للـ ViT إلى هياكل هندسية محتوية وعوامل أسلوبية باستخدام K-SVD، مما وضع أساساً للتفسير الآلي في هذا المجال.
• التحقق من التمثيل: من خلال التصور النوعي وتحليل وزن الرأس، أكدوا أن رأس الانحدار يعتمد بشكل أساسي (حوالي 80%) على الذرات المحتوية، مما يؤكد صحة تمثيل الموقف للنموذج.
• مراقبة OOMS: قدمت الورقة الكشف عن الحالة خارج نطاق النموذج (OOMS) كأداة جديدة لضمان وقت التشغيل. بخلاف ODD (مراقبة المدخلات) أو OOD (مراقبة المخرجات)، يقوم OOMS بمراقبة تمثيل الموقف الداخلي للنموذج مباشرة للتحقق من وجود الميزات الدلالية ذات الصلة بالمهمة.

النتائج

• أداء الانحدار: حقق نموذج الـ ViT المدرب مديان خطأ بكسل في مجموعة الاختبار بلغ 1.91 بكسل، متفوقاً بشكل كبير على النموذج المرجعي الذي بدأ من الصفر (3.19 بكسل).
• الاعتماد على المحتوى/الأسلوب: أظهر التحليل الكمي أن رأس الانحدار يضع حوالي 81.7% من درجة اعتماده الفعالة على الذرات المحتوية للنموذج المدرب مسبقاً، و 79.8% للنموذج الذي بدأ من الصفر.
• كشف OOMS: في مجموعة بيانات اصطناعية تميز بين محاصيل المدرج الصالحة (IMS) ومحاصيل "inverse-BOGO" حيث يغيب المدرج (OOMS)، حقق مصنف الانحدار اللوجستي المقيد AUROC بلغ 0.96.
• اختيار الذرات: اختار مصنف OOMS تلقائياً مجموعة متناثرة من 34 ذرة (من أصل 512) لتحقيق دقة عالية. ومن الملاحظ أن 78% من هذه الذرات المختارة تم تصنيفها كذرات محتوية، مما يدل على أن الكاشف يعتمد على الميزات ذات الصلة بالمهمة التي تم تحديدها خلال مرحلة التفسير.

الأهمية والادعاءات
تدعي الورقة تقديم أول دليل ملموس على مستوى التمثيل الذي تطلبه توجيهات ضمان التعلم من EASA. ومن خلال إثبات أن النموذج الذي يجب ضمانه بأقل قدر ممكن يجب أن يفصل بين المحتوى والأسلوب ويعتمد على الأول، يوفر العمل مساراً للتحقق من أن النموذج لا يستغل الارتباطات الزائفة. يوفر مراقب OOMS المقترح لبنة عملية لحالات سلامة الطيران المستقبلية، مكملاً مراقبات المدخلات والمخرجات الحالية من خلال معالجة متطلبات مراقبة تمثيل الموقف الداخلي للنموذج مباشرة. يضع المؤلفون التفسير الآلي ليس كشرح كامل "للصندوق الأبيض" (والذي يظل غير ممكن للنماذج عالية الأبعاد) بل كشرط ضروري للضمان: التحقق من أن ميكانيكا النموذج الداخلية تتماشى مع المتطلات الفيزيائية للمهمة.