Agentic AI for Safety-critical Multi-drone Systems: Challenges and Opportunities

ملخص تقني: الذكاء الاصطناوي الوكيل للأنظمة متعددة الطائرات بدون طيار في المهام الحرجة للسلامة

بيان المشكلة
تقدم الأنظمة متعددة الطائرات بدون طيار إمكانات كبيرة للمهام الحرجة للسلامة، بما في ذلك البحث والإنقاذ (SAR)، وإطفاء الحرائق، ومراقبة البنية التحتية الحيوية. ومع ذلك، فإن الاعتماد في العالم الحقيقي يعوقه ليس مجرد أداء الاستقلالية التقنية، بل التحدي الاجتماعي-التقني المتمثل في دمج السلوك الوكيل (agentic behavior) في سير العمل المهني. يجب على المشغلين فهم وتوجيه الأتمتة والتحكم فيها في ظل ظروف عدم اليقين، وضغط الوقت، والمسؤولية العالية. ومع زيادة أحجام الأساطيل، يفشل نموذج "مشغل واحد لكل مركبة واحدة" التقليدي بسبب عبء التنسيق، وتدهور الوعي المشترك بالموقف، وخطر تحول حالات عدم اليقين الصغيرة إلى مشكلات تتعلق بالسلامة (مثل تضارب الأولويات أو غموض المسؤولية). وبينما تتيح التطورات الأخيرة في النماذج اللغوية الكبيرة (LLMs) والذكاء الاصطناعي الوكيلي إمكانية صياغة المهام عبر اللغة الطبيعية والتخطيط المختلط المبادرة، إلا أنها تقدم تحديات تفاعلية جديدة: تمثيل نوايا الوكيل، والإشراف على القرارات، وضمان السلوك الصحيح في البيئات الميدانية المعقدة.

المنهجية ونهج البحث
تتبنى الورقة نهجاً بحثياً متمحوراً حول الإنسان، تشاركياً وتكرارياً، حيث تعامل الذكاء الاصطناوي الوكيلي كـ "مادة تصميم اجتماعية-تقنية" وليس كمجرد حل تقني ثابت. تستند هذه المنهجية إلى مشروعين متكاملين مستمرين:

1. NAMUR: يركز على الاستجابة للطوارئ في الأوقات الحرجة (البحث والإنقاذ وإطفاء الحرائق)، مع التأكيد على دورات القرار السريعة، والمخاطر الديناميكية، والحاجة إلى طبقات تجريد موحدة عبر منصات روبوتية متباينة.
2. PERSIST: يركز على العمليات المستمرة طويلة الأمد في البنية التحتية الحيوية (مثل محطات الطاقة)، مع التأكيد على النشاط المستدام، والتكرار، وتسليم المناوبات، والتكامل التنظيمي.

تتضمن العملية البحثية:

• استكشاف الاحتياجات: يستند إلى سيناريوهات وعروض توضيحية ملموسة مع أصحاب المصلحة (قادة الحوادث، المستجيبون الميدانيون، أفراد الأمن) لرسم خرائط ممارسات العمل، ونقاط اتخاذ القرار، والاختناقات الإدراكية.
• النمذجة التشاركية: استخدام نماذج أولية وظيفية متتالية كـ "أدوات حدودية" للتفاوض بشأن قدرات الوكيل، ومتطلبات التفويض، وإشارات عدم اليقين.
• تصميم النظام: تطوير بنية هندسية تعمل على تفكيك القصد باللغة الطبيعية إلى مهام فرعية قابلة للمراجعة، وتقييد التنفيذ عبر أدوات حتمية، وفرض المعاينة والموافقة من قبل المشغل.

المساهمات الرئيسية: بنية نظام الوكلاء المتعددين القائم على النماذج اللغوية الكبيرة (LLM-MAS)
تقدم الورقة بنية نموذج أولي وظيفي: نظام وكلاء متعددين يعتمد على النماذج اللغوية الكبيرة (LLM-MAS) مصمم للتحكم في الطائرات بدون طيار المتعددة. يتكون هذا النظام من خمسة وكلاء متخصصين يتفاعلون مع أدوات حتمية خارجية (مثل الحوسبة المكانية، تنفيذ الحركة، تخزين الذاكرة، وجدولة المهام):

1. الوكيل المنسق (Coordinator Agent): يعمل كمنسق مركزي، يستنتج قصد المشغل ويفكك الأوامر إلى استعلامات فرعية يتم تفويضها إلى الوكلاء التابعين.
2. وكيل الأحداث (Events Agent): يدير التوجيهات الدورية والمتأخرة والموجهة نحو المستقبل (مثل تقدير الكتلة الحيوية المجدول أو أوامر العودة إلى القاعدة)، مما يضمن تنفيذ المهام أو إظهارها في الوقت المناسب.
3. الوكيل المكاني (Spatial Agent): يوفر الوعي بالموقف من خلال الوصول إلى خرائط GeoJSON ومواقع الطائرات بدون طيار والمستجيبين الميدانيين الحية. كما يحدد سمات الخريطة الدلالية ويحسب العلاقات المكانية.
4. وكيل السرب (Swarm Agent): يتولى تخطيط الحركة وتنفيذ المهام. يقوم باختيار منصات الطائرات بدون طيار المناسبة بناءً على التوفر والسياق. ومن الأهمية بمكان أن جميع الطلبات التي ينشئها هذا الوكيل تخضع لـ معاينة وتأكيد المشغل قبل التنفيذ. ويقوم بنشر الإجراءات إلى موضوع (topic) في نظام ROS لتفعيل مسارات التحكم في الطيران.
5. وكيل التلخيص (Summarizer Agent): يولد ملخصات موجزة وقابلة للقراءة من قبل البشر للإجراءات المنفذة وحالات النظام. تُخزن هذه الملخصات في ذاكرة التفاعل لتوفير سياق لتدورات الحوار اللاحقة، مما يتيح تفاعلات متعددة الأدوار متماسكة وحل المراجع (على سبيل المثال، "انقل ذلك إلى أقرب منطقة آمنة").

يعتمد النظام على بيئة النشر؛ فبالنسبة للبحث والإنقاذ، تدعم الأدوات تخطيط مسار التغطية المتوافق، بينما بالنسبة لمراقبة البنية التحتية، تدعم الأدوات توليد مسارات الطيران لتقدير الكتلة الحيوية.

النتائج والمكتشفات
تجمع الورقة الدروس المستفادة من المشاركات الميدانية السابقة وتقييمات النماذج الأولية لتحديد الفرص والتوترات الرئيسية:

• الفرص: يمكن للذكاء الاصطناوي الوكيلي تقليل عبء التنسيق من خلال توفير الانتباه الانتقائي/التلخيص، وتمكين التخطيط المختلط المبادرة الذي يحافظ على التغطية مع تغير المعلومات، ودعم التنسيق طويل الأمد (الجدولة، وتصنيف الشذوذ).
• التوترات: يحدد المؤلفون توترات سلامة حرجة لا يمكن للاستقلالية وحدها حلها:
  • الحاجة إلى أنظمة تعمل دون انتباه مستمر ولكنها تقاوم السلوك "الصندوق الأسود".
  • خطر أن يؤدي التنبيه القوي إلى تحسين الأداء قصير المدى ولكنه يسبب "نفق الانتباه"، مما يقلل من الإشراف الشمولي.
  • ضرورة الثقة المعايرة في ظل الإدراك غير الكامل، مما يتطلب افتراضات محافظة وسير عمل للتحقق.
  • متطلبات الملاءمة التشغيلية، بما في ذلك التوافق مع الأدوار، والبروتوكولات، ومسارات القرار القابلة للتدقيق.

تم اختبار النموذج الأولي الوظيفي في التحكم الحي في المركبات الأرضية غير المأهولة (UGVs) والمركبات الجوية غير المأهولة (UAVs)، مما أثبت صحة تفكيك اللغة الطبيعية إلى مهام فرعية قابلة للمراجعة وفرض الموافقة الصريحة من المشغل.

الأهمية والادعاءات
تجادل الورقة بأن التعامل مع الذكاء الاصطناوي الوكيلي في العمل الحرج للسلامة يجب أن يكون كمشكلة تصميم اجتماعية-تقنية حيث تكون الواجهات، وآليات الإشراف، وممارسات التقييم بنفس أهمية الخوارزميات نفسها. ويدعي المؤلفون أن نهجهم يدعم الأبحاث المستقبلية من خلال تفعيل "الاستقلالية الوكيلية القابلة للحوكمة" عبر ثلاث دلالات رئيسية:

1. الحوكمة كخاصية جوهرية: يجب أن تكون نقاط التفويض، والقيود، وآليات التدخل خصائص صريحة وقابلة للتدقيق في النظام، وليست مجرد إضافات لواجهة المستخدم.
2. استخدام الأدوات المقيد: يجب بناء السلوك الوكيلي من استخدام أدوات مقيدة وقابلة للفحص بدلاً من العمل الحر غير المقيد لضمان أنماط فشل يمكن التنبؤ بها وتصحيح أخطاء قابل لإعادة الإنتاج.
3. التقييم في العالم الحقيقي: يجب أن يعكس التقييم الاستخدام التشغيلي الفعلي، بحيث لا يقيس نجاح المهمة فحسب، بل يقيس أيضاً الوعي بالموقف، ومعايرة الثقة، وعبء التنسيق، ودعم مراجعات ما بعد العمل القابلة للمساءلة.

تخلص الورقة إلى أنه بينما يحمل الذكاء الاصطناوي الوكيلي وعداً بتوسيع نطاق عمليات الطائرات بدون طيار المتعددة، فإن نجاح نشره يعتمد على المشاركة التكرارية لأصحاب المصلحة لتشكيل أنظمة تظل شفافة، وقابلة للتعلم، ومتوافقة مع البروتوكولات المحلية وممارسات المساءلة.