ملخص تقني: تحديد الظروف التشغيلية للأنظمة القائمة على الذكاء الاصطناعي ذات الأهمية لسلامة العمليات من البيانات

1. بيان المشكلة

يتطلب النشر السريع للذكاء الاصطناعي (AI) في المجالات ذات الأهمية لسلامة العمليات (مثل الطيران والسيارات) ضمانات وشهادات سلامة صارمة. أحد المتطلبات المركزية لاعتماد الأنظمة القائمة على الذكاء الاصطناعي هو تحديد نطاق التصميم التشغيلي (ODD) — وهو مجموعة محددة من الظروف البيئية والتشغيلية التي يُفترض أن يعمل النظام بأمان ضمنها.

تقليديًا، يتم تحديد نطاقات التصميم التشغيلي (ODDs) يدويًا بواسطة خبراء المجال في مراحل مبكرة من دورة حياة التطوير. ومع ذلك، يواجه هذا النهج تحديات كبيرة عند التعامل مع الأنظمة المعقدة في العالم الحقيقي:

• التعقيد: تحديد العلاقات المتبادلة (الأنطولوجيا) بين المعايير (مثل كيفية تأثير الطقس على سرعة الهبوط) أمر صعب وغالبًا ما يكون غير مكتمل.
• الطبيعة الاستاتيكية: قد لا تلتقط نطاقات التصميم التشغيلي المحددة من قبل الخبراء التبعيات الضمنية للمعايير أو تتكيف مع البيانات الجديدة.
• فجوات الاعتماد: تفتقر النهج الحالية القائمة على البيانات غالبًا إلى التمثيلات الحتمية والمستقلة عن الترتيب أو الأطر الرسمية لتشابه نطاق التصميم التشغيلي، وهي متطلبات أساسية للاعتماد الرسمي.

تفشل التمثيلات الرياضية الموجودة (مثل متعددات الأوجه المحدبة) في نمذجة أنطولوجيات نطاق التصميم التشغيلي غير الخطية، بينما تسبب النهج القائمة على الشبكات العصبية اعتمادًا على الترتيب وعدم اليقين. هناك حاجة إلى طريقة لاستخلاص نطاقات التصغيل مباشرة من البيانات تكون حتمية، ومستقلة عن الترتيب، ومحدودة، وقابلة للتفسير.

2. المنهجية

يقترح البحث منهجية "السلامة بالتصميم" (Safety-by-Design) لتحديد نطاقات التصميم التشغيلي (ODDs) لاحقًا (a posteriori) من البيانات المجموعة باستخدام تمثيل قائم على النواة متعدد الأبعاد. وتتضمن المنههجية الجوهرية الخطوات التالية:

2.1 الصياغة الرياضية

يصيغ المؤلفون نطاق التصميم التشغيلي كبنية رياضية $O = (X, R^O, f^O, \Omega^O)$، حيث $X$ هو التصنيف (فضاء المعايير)، و $R^O$ هي الأنطولوجيا (القيود)، و $f^O$ هي دالة التفسير. ومن الأهمية بمكان أنهم عرفوا تشابه نطاق التصغيل ($O_1 \sim O_2$) ليس من خلال التكافؤ الدلالي، بل من خلال التكافؤ القائم على البيانات: يكون نطاقا التصميم متشابهين إذا أنتجا نفس مجموعة البيانات $Y$.

2.2 تمثيل التقارب القائم على النواة

بدلاً من بناء الحدود يدويًا، تبني الطريقة نطاق التصميم التشغيلي مباشرة من عينات البيانات:

• نقاط الارتكاز: تعمل عينات التوزيع الداخلي (ID) ($D_{ID}$) كنقاط ارتكاز ($A$). ويتم استبعاد عينات التوزيع الخارجي (OOD) ($D_{OOD}$) صراحةً.
• التقارب المحلي: لكل نقطة ارتكاز $x_i$، يتم تعريف دالة تقارب محلية $\alpha_i(x)$ باستخدام نواة موجبة محددة (تحديدًا نواة الدالة الشعاعية الأساسية (RBF)).
• التقارب العالمي: يتم تحديد عضوية نطاق التصميم التشغيلي العالمية من خلال التراكب للتقاربات المحلية:
  $$\alpha(x) = 1 - \prod_{i} (1 - \alpha_i(x))$$
  تنتمي العينة $x$ إلى نطاق التصميم التشغيلي إذا كان $\alpha(x) \geq \zeta$، حيث $\zeta$ هو عتبة محددة مسبقًا.

2.3 المعلمة الآلية

لضمان أن تكون العملية مؤتمتة بالكامل وتتجنب الضبط اليدوي:

• التباين القطري: يُفترض أن مصفوفة التباين للنواة $\Sigma$ قطرية، بناءً على افتراض الاستقلال المحلي والتوزيع الموحد لنقاط الارتكاز.
• التحجيم المعتمد على المسافة: تُعرف المدخلات القطرية لـ $\Sigma$ كدالة للمسافة إلى أقرب جار ($d^*_i$):
  $$\sigma^{(i)}_{kk} = (\kappa - \lambda) \exp(-\eta d^*_i) + \lambda$$
  وهذا يقلل عدد المعلمات الفائقة من $N \times n^2$ إلى معلمين فقط ($\kappa, \eta$) بالإضافة إلى حد أدنى $\lambda$.

2.4 قيد اتساق التوزيع الخارجي

لضمان السلامة، تفرض الطريقة عدم تصنيف عينات التوزيع الخارجي (OOD) كجزء من نطاق التصميم التشغيلي. إذا انتهكت عينة التوزيع الخارجي $x$ العتبة ($\alpha(x) > \xi$)، تقوم الخوارزمية بشكل تكراري بتقليل مصفوفة التباين لأكثر نواة مؤثرة لتلك النقطة. هذه العملية مستقلة عن الترتيب ومثبتة أنها تنتهي في خطوات محدودة، مما يضمن أن $\alpha(x) \leq \xi$ لجميع عينات التوزيع الخارجي.

3. المساهمات الرئيسية

1. إطار عمل حتمي ومستقل عن الترتيب: يقدم البحث أول خطة عمل مؤتمتة بالكامل لاستخلاص نطاقات التصميم التشغيلي من البيانات باستخدام تمثيل قائم على النواة يتم تحديده بشكل فريد بواسطة البيانات وهو ثابت تجاه ترتيب العينات.
2. التعريف الرسمي لتشابه نطاق التصميم التشغيلي: تم تقديم تعريف قائم على البيانات لتشابه نطاق التصميم التشغيلي، مما يسمح بمقارنة النطاقات المستخلصة من البيانات مقابل الحقيقة الأرضية أو النماذج البديلة دون الحاجة إلى توافق دلالي.
3. تنفيذ "السلامة بالتصميم": تمثيل نطاق التصميم التشغيلي الناتج هو محدود، ومحافظ (يقلل من تقدير النطاق الحقيقي في حالات البيانات الشحيحة)، وقابل للتفسير، مما يلبي المتطلبات الرئيسية لشهادات الذكاء الاصطناعي المستقبلية.
4. التعامل مع البيانات الشحيحة: تم تصميم الطريقة لتعمل بفعالية حتى في حالات البيانات الشحيحة، مما يجعلها قابلة للتطبيق في مراحل التطوير المبكرة.
5. أداة مفتوحة المصدر (autoSAFE): طور المؤلفون وأتاحوا أداة مفتوحة المصدر (autoSAFE) تنفذ هذا الإطار، وتدعم تنسيقات بيانات متنوعة (CSV, JSON/ASAM OpenLABEL) والبحث الفعال عن أقرب جار.

4. التحقق والنتائج

تم التحقق من المنهجية من خلال تجربتين رئيسيتين:

4.1 محاكاة مونت كارلو

• الإعداد: تم إنشاء نطاق تصميم تشغيلي ثنائي الأبعاد اصطناعي باستخدام قيد عدم مساواة خطي. تم أخذ نقاط الارتكاز من النطاق الحقيقي، وتم إنشاء عينات التحقق عبر مستطيل فائق أوسع.
• النتائج: تمت مقارنة نطاق التصميم التشغلي المستخلص من البيانات مقابل النطاق الحقيقي ونموذج الغلاف المحدب لنقاط الارتكاز.
  • أظهرت منحنيات الدقة والاستدعاء ارتباطًا قويًا بين نطاق التصميم التشغيلي المستخلص من البيانات والغلاف المحدب ($R^2 = 0.9855$ للدقة، $R^2 = 0.9987$ للاستدعاء).
  • يشير هذا إلى أن الغلاف المحدب يمكن أن يعمل كنموذج بديل موثوق لضبط عتبات التقارب عندما تكون الحقيقة الأرضية لنطاق التصميم التشغيلي غير معروفة.
  • ظلت النتائج صالحة للأبعاد التي تصل إلى 10 ودوال العلاقة المعقدة.

4.2 حالة استخدام واقعية في الطيران (VCAS)

• السياق: تم تطبيق الطريقة على نظام تجنب التصادم الرأسي (VCAS)، وهو مكون من نظام ACAS X للجيل القادم.
• البيانات: تضمنت مجموعة البيانات 622,110 نقطة ارتكاز تمثل متجهات الحالة (الارتفاع النسبي، المعدلات الرأسية، الوقت حتى الوصول الأقصى، التنبيه السابق).
• النتائج:
  • تمت مقارنة نطاق التصميم التشغيلي المستخلص من البيانات مقابل الحقيقة الأرضية المعروفة ونموذج الغلاف المحدب.
  • لوحظت معاملات تحديد عالية ($R^2 = 0.991$ للدقة، $R^2 = 0.999$ للاستدعاء).
  • أكدت النتائج أن النهج القائم على النواة يعمل بشكل جيد في سيناريو واقعي عالي الأبعاد، رغم انخفاض كثافة نقاط الارتكاز مقارنة بمحاكاة مونت كارلو.

5. الأهمية والادعاءات

يزعم البحث أنه بينما قد لا يكون إعادة البناء "الحقيقي بالكامل" لنطاق التصميم التشغيلي ممكنًا دائمًا من البيانات وحدها، فإن النهج المقترح القائم على النواة يقرب بشكل كافٍ نطاق التصميم التشغيلي الأساسي لأغراض الاعتماد.

• الجاهزية للاعتماد: توفر الطريقة أساسًا رياضيًا حتميًا وقابلًا للتفسير لتحديد الحدود التشغيلية. وهذا يدعم الأطر التنظيمية (مثل EASA) التي تتطلب تقييمًا مستمرًا للسلامة وحدودًا تشغيلية واضحة.
• المراقبة أثناء التشغيل: على عكس الحدود الهندسية الجامدة، تسم old دالة التقارب المستمرة $\alpha(x)$ مناطق تحذير متدرجة. فمع ابتعاد حالة النظام عن نقاط الارتكاز، تتلاشى درجة التقارب بسلاسة، مما يسمح بالكشف المبكر عن ظروف التوزيع الخارجي قبل تجاوز حدود السلامة الصارمة.
• التحفظ: النهج محافظ بطبيعته. في حالات البيانات الشحيحة، يقل تقدير النطاق المستخلص عن النطاق الحقيقي، مما يضمن عدم نشر النظام إلا في المناطق المدعومة ببيانات تدريب كافية. وهذا يتوافق مع مبدأ "السلامة بالتصميم".
• القيود: يقر المؤلفون بأن الطريقة تعتمد على معلمات النواة ($\kappa, \eta$) وأن افتراض التباين القطري يبسط التبعيات بين الأبعاد. كما يشيرون إلى أن نطاق التصميم التشغيلي الناتج قد يكون محافظًا للغاية في المناطق الشحيحة، مما قد يستبعد ظروفًا تشغيلية صالحة، لكنهم يجادلون بأن هذا مقايضة ضرورية لضمان السلامة.

في الختام، يضع هذا العمل مسارًا لبناء نطاق التصميم التشغيلي القائم على البيانات بما يتوافق مع الحجج الرسمية للسلامة، مما يسد الفجوة بين البيانات التجريبية والمتطلبات الصارمة لاعتماد الذكاء الاصطناعي في الأنظمة ذات الأهمية لسلامة العمليات.