UC-PSRO: Utility-Conditioned Policy-Space Response Oracles with a Communication-Dropout Curriculum for Game-Theoretic Course-of-Action Generation in Adversarial Swarms
تقترح هذه الورقة إطار عمل UC-PSRO، وهو إطار لتوليد مسارات عمل قائمة على نظرية الألعاب لأسراب الطائرات بدون طيار المعادية، يجمع بين اللعب الذاتي، والاشتراط بالمنفعة، ومناهج انقطاع الاتصال، كاشفةً أنه في حين أن انقطاع الاتصال يعزز المتانة بشكل كبير في البيئات المتدهورة، فإن التعقيد المضاف للعب الذاتي والاشتراط بالمنفعة يتسبب حالياً في تكاليف تقارب دون إظهار فائدة متانة ذات دلالة إحصائية.
في عالم الدفاع الحديث عالي المخاطر، برز تحدٍ جديد يتجاوز مجرد الأتمتة البسيطة: كيف يمكن تنسيق سرب من مئات الطائر بدون طيار غير المأهولة ضد عدو يفكر، ويتكيف، ويحاول التفوق عليهم بذكاء. هذه ليست مجرد مسألة برمجة آلة لتتبع مسار ما؛ بل هي لعبة استراتيجية تعتمد فيها أفضل حركة للسرب تماماً على ما يقرره العدو، والعكس صحيح. ولحل هذه المعضلة، يتجه الباحثون إلى فرع من فروع الذكاء الاصطناعي يعامل هذه التفاعلات كلعبة رياضية، حيث يتم تدريب وكلاء حاسوبيين للعب ضد بعضهم البعض حتى يكتشفوا الاستراتيجيات الأكثر قوة. والهدف هو إنشاء "سرب" يمكنه العمل حتى عندما لا يستطيع أعضاؤه التواصل مع بعضهم البعض، وهو سيناريو يُعرف ببيئة انقطاع الاتصالات، وهو ما يحدث غالباً عندما يقوم العدو بتشويش إشاراتهم.
لقد شرع باحث، بقيادة فيليب جيانغ، في بناء نظام يمكنه توليد هذه الاستراتيجيات المثلى لفريق أزرق من الطائرات بدون طيار يواجه فريقاً أحمر من الخصوم. استلهم عملهم من طلب واقعي من القوات الجوية الأمريكية لبرمجيات يمكنها التعامل مع هذا التعقيد بالضبط، لكن الفريق اختار اختبار أفكارهم في محاكاة اصطناعية بالكامل وغير مصنفة. لقد أنشأوا عالماً رقمياً حيث كان على خمس وعشرين طائرة بدون طيار العمل معاً للوصول إلى هدف مع تجنب التهديدات، وكل ذلك مع التعامل مع احتمالية انقطاع شبكة اتصالاتهم. وقد دمج الباحث ثلاث أفكار متميزة لمعالجة ذلك: طريقة يتعلم فيها السرب والعدو من خلال اللعب ضد بعضهما البعض بشكل متكرر، وطريقة تسمح لقائد بشري بتغيير أولويات الطائرات أثناء المهمة دون الحاجة لإعادة تدريب البرنامج، وتقنية تدريب تعمل عمداً على كسر روابط الاتصال لديهم أثناء التدريب لإجبارهم على تعلم كيفية البقاء على قيد الحياة بدونها.
كشفت نتائج هذه التجربة عن حقيقة مفاجئة ومناقضة للبديهة حول كيفية تعلم هذه الأنظمة. وجد الباحث أن الأداة الأكثر فعالية لضمان نجاح المهمة كانت ممارسة التدريب مع انقطاع روابط الاتصال. في الواقع، كلما زادت محاكاتهم لفشل الاتصال أثناء التدريب، زاد أداء الطائرات عند الاختبار. وعندما انقطعت روابط الاتصال تماماً في الاختبار، حقق السرب المدرب معدل نجاح قدره 62 بالمئة، وهو تحسن ملحوظ مقارنة بمعدل النجاح البالغ 35 بالمئة الذي لوحظ عندما كانت الروابط سليمة تماماً. يشير هذا إلى أنه من خلال إجبار الطائرات على الاعتماد على ملاحظاتها المحلية واتخاذ قرارات مستقلة، فإن عملية التدريب علمتهم دون قصد أن يكونوا أكثر حزماً وفعالية في المهمة الأساسية وهي الوصول إلى الهدف، بدلاً من انتظار تعليمات قد لا تأتي أبداً.
ومع ذلك، فإن القصة ليست قصة انتصار بسيط لكل تقنية جديدة تُضاف إلى المزيج. فعندما حاول الباحث دمج تدريب الاتصالات مع الميزتين المتقدمتين الأخريين — استراتيجية اللعب التنافسي والقدرة على اتباع أوامر القائد المتغيرة — واجه النظام صعوبة في التعلم على الإطلاق. وفي غضون الوقت المحدد للحوسبة المتاح لهم، فشل النظام المعقد الذي يتضمن الميزات الثلاث في إتمام المهمة ولو لمرة واحدة في العديد من عمليات الاختبار. إن القدرة على التبديل بين الأولويات المختلفة، مثل التركيز على البقاء مقابل السرعة، جعلت عملية التعلم صعبة للغاية لدرجة أن الطائرات لم تتمكن من إيجاد مسار ناجح ضمن المهلة الزمنية. وبالمثل، فإن استراتيجية جعل الطائرات والخصوم يلعبون ضد بعضهم البعض لإيجاد توازن مثالي لم توفر ميزة واضحة مقارنة بنهج أبسط حيث تلعب الطائرات ضد عدو ثابت ومتوقع. في الواقع، كان النظام المعقد بطيئاً جداً في التعلم لدرجة أنه لم يظهر أي تحسن ملموس في قدرته على مقاومة الخداع من قبل عدو ذكي مقارنة بالنسخة الأبسط.
لقد كان الباحث حريصاً على الإبلاغ عن هذه النتائج المختلطة بأمانة، مشيراً إلى أن فشل النظام المعقد لم يكن بسبب خطأ في الأفكار، بل لأن عملية التعلم كانت بطيئة جداً بالنسبة للموارد التي كانت لديهم. لقد اكتشفوا أن الصعوبة جاءت من مطالبة النظام بتعلم أشياء كثيرة في وقت واحد: كان عليه إتقان لعبة ضد خصم متغير مع التعلم أيضاً للتكيف مع مجموعة واسعة من الأهداف المتغيرة. هذا "الهدف المتحرك" جعل من المستحيل تقريباً أن يستقر النظام على استراتيجية فائزة في الوقت المسموح به. كما حددوا عيوباً تصميمية محددة في إعدادهم الأولي، مثل نقص الإشارات الواضحة التي تخبر الطائرات بمكان الهدف، وهو ما قاموا بإصلاحه للسماح بأي نوع من التعلم بالحدوث.
في نهاية المطاف، تقدم هذه الدراسة نظرة واضحة وواقعية للمقايضات المتضمنة في بناء الأسراب الذكية. فهي تظهر أنه بينما يعد جعل النظام قوياً تجاه فقدان الاتصال أمراً فعالاً للغاية ويمكن أن يحسن الأداء، فإن إضافة طبقات من التعقيد مثل تحديد الأهداف الديناميكي واللعب التنافسي يمكن أن يعيق التقدم إذا كان وقت التدريب محدوداً. يوضح العمل أن اتباع نهج أكثر بساطة وتركيزاً في التدريب قد يكون أكثر موثوقية من النهج المعقد والشامل، على الأقل حتى تتحسن قدرة الحوسبة أو طرق التدريب للتعامل مع الصعوبة الإضافية. لقد أتاح الباحث أدوات المحاكاة الخاصة به للآخرين، مقدمًا رؤية شفافة لما ينجح، وما لا ينجح، ولماذا، لضمان بناء الجهود المستقبلية في هذا المجال على أساس من الحقائق الصادقة والقابلة لإعادة الإنتاج بدلاً من الافتراضات غير المثبتة.
ملخص تقني: UC-PSRO لتوليد مسارات العمل (COA) لأسطول عدائي
صياغة المشكلة تتناول الورقة البحثية توليد مسارات عمل (COAs) محسنة من منظور نظرية الألعاب لسرب من الأنظمة الجوية غير المأهولة (UAS) التابعة للجانب الأزرق (Blue)، والتي تعمل ضد خصم "أحمر" (Red) متكيف في بيئة تعاني من تدهور في الاتصالات. مدفوعة بطلب تمويل من برنامج SBIR التابع للقوات الجوية الأمريكية (SOC26BZ04-DV005)، تمت صياغة المشكلة كـ "لعبة ماركوف" (Markov game) ذات مجموع عام، جزئية الرصد، وتضم فريقين. تتضمن البيئة N من الوكلاء الزرق المتجانسين و M من الأصول الحمراء غير المتجانسة (عقد دفاع جوي ثابتة، ومنقضات متحركة، وأجهزة تشويش). البيئة اصطناعية وغير مصنفة، مصممة لتكون قابلة للمحاكاة على وحدة معالجة رسومات (GPU) واحدة للمستهلكين، مع استهداف نطاق يصل إلى N=200 وكيل.
تشمل التحديات الرئيسية ما يلي:
الخصم المتكيف: الفريق الأحمر ليس مجرد نص برمجي ثابت، بل هو كيان متكيف يتطلب تدريب الاستجابة المثلى القائم على نظرية الألعاب.
نية القائد: يجب أن يدعم النظام دالة منفعة رسمية يمكن تفكيكها إلى مكونات ذات صلة بالمهمة (التقدم، البقاء، تحييد الخصم، الوقت، المخاطر) والتي يمكن إعادة وزنها وقت التنفيذ دون الحاجة لإعادة التدريب.
حجب الاتصالات: يجب أن يعمل السرب بفعالية عندما تتعرض روابط الاتصال بين الوكلاء للتدهور أو الانقطاع (يتم نمذجة ذلك عبر سقوط الحواف/edge dropout).
المنهجية: UC-PSRO يقترح المؤلف UC-PSRO (أوراكل فضاء السياسات المشروط بالمنفعة - Utility-Conditioned Policy-Space Response Oracles)، والذي يدمج ثلاث آليات:
اللعب الذاتي لـ PSRO: يستخدم المؤلف (Policy-Space Response Oracles) لتدريب السياسات الزرق والحمراء. بدلاً من تدريب الجانب الأزرق ضد خصم ثابت، تحافظ الطريقة على مجموعات من السياسات لكلا الجانبين. يتم حل "اللعبة العليا" (meta-game) عبر مصفوفة عوائد تجريبية (باستخدام البرمجة الخطية الدقيقة لتبسيط المجموع الصفري) لإيجاد الاستراتيجيات العليا (توزيعات ناش). يتم تدريب سياسات استجابة مثلى جديدة ضد هذه التوزيعات، مما يؤدي إلى نمو المجموعات بشكل تكراري نحو توازن "ناش" تقريبي.
السياسة المشروطة بالمنفعة (FiLM): للتعامل مع نية القائد، يتم تشريط السياسة الزرق على متجه أوزان w يتم أخذ عينات منه من توزيع "ديريشليه" (Dirichlet) أثناء التدريب. يقوم هذا المتجه بتركيب متجه تفكيك مكافآت ثابت ϕ. يتم تنفيذ التشريط عبر تقنية FiLM (التعديل الخطي للميزات)، حيث تتنبأ شبكة فائقة (hypernetwork) بمعلمات القياس والإزاحة لطبقات الشبكة العصبية للفاعل-الناقد (actor-critic) بناءً على w. وهذا يسم much يسمح لسياسة واحدة مدربة بالتعميم عبر "السهل" (simplex) لنيات القيادة المحتملة.
منهج انقطاع الاتصال (CDC): لضمان المتانة في البيئات المحرومة من الاتصال، تقوم منهجية التدريب بتخفيف (annealing) سقوط الحواف المستقل على رسم الاتصال من 0 إلى احتمال أقصى pmax. هذا يجبر السياسة على تعلم سلوكيات لامركزية (ند لند) بدلاً من الاعتماد على الاتصال الكامل.
خوارزمية التعلم المعزز الأساسية هي خوارزمية MAPPO (PPO متعدد الوكلاء) ذات المعاملات المشتركة، والتي تعتمد على التدريب المركزي والتنفيذ اللامركزي (CTDE).
المساهمات الرئيسية
إطار عمل UC-PSRO: الجمع بين اللعب الذاتي لـ PSRO، والتشريط بالمنفعة عبر FiLM، ومنهج انقطاع الاتصال لتوليد مسارات العمل (COA) لسرب ضد خصم.
بيئة اصطناعية قابلة للتوسع: بيئة متجهة بالكامل ومفتوحة قادرة على تدريب سياسة CTDE ذات معاملات مشتركة من البداية إلى النهاية عند N=200 وكيل على وحدة معالجة رسومات واحدة للمستهلكين (NVIDIA RTX 5070) مع زمن انتقال للاستنتاج (inference latency) يقاس بالملي ثانية لكل خطوة.
محاسبة تجريبية صادقة: دراسة صارمة تعتمد على خمس بذور (seeds) تقدم بوضوح المقايضات بدلاً من التحسينات الموحدة. يوضح المؤلف أنه بينما يعد المنهج الكامل سليماً من الناحية الهيكلية، فإن مكونات محددة تفرض تكاليف على التقارب لا يتم تعويضها بعد بمزايا المتانة تحت ميزانية التدريب الثابتة.
النتائج التجريبية أُجري التقييم على سيناريو بحري اصطناعي مع N=25 من الوكلاء الزرق (تم اختبار القابلية للتوسع حتى N=200) عبر خمس بذور عشوائية.
متانة الاتصال (النتيجة "المثيرة للجدل"): حقق منهج انقطاع الاتصال (CDC) وحده أقوى أداء وأكثرها متانة. وخلافاً للتوقعات بأن حجب الاتصالات يضعف الأداء، فإن معدل النجاح لطريقة (MAPPO+CDC) ارتفع مع زيادة احتمال الانقطاع في وقت الاختبار من 0 إلى 0.75 (متحسناً من ~35% إلى ~62%). يفترض المؤلف أن التدريب تحت ظروف الحجب يجبر السياسة على الابتعء عن استراتيجيات التنسيق الوثيقة الهشة نحو سلوكيات أكثر حزماً ومحلية، والتي تبدو أكثر فعالية للمهمة المحددة.
تكاليف التقارب للتشريط بالمنفعة واللعب الذاتي: أدى إضافة التشطيب بالمنفعة (MAPPO+Utility) وحلقة اللعب الذاتي الكاملة لـ PSRO (UC-PSRO) إلى إبطاء التقارب بشكل كبير. وتحت ميزانية التدريب الثابتة (600 تحديث PPO أو 8 تكرارات PSRO)، فشلت هذه الطرق في تعلم المهمة، مما أدى إلى معدلات نجاح تقترب من الصفر (0–4%) عبر جميع مستويات الانقطاع. يعزو المؤلف ذلك إلى الصعوبة المتزايدة في تحسين سياسة فوق توزيع من تركيبات المكافآت (المأخوذة من توزيع ديريشليه) ومجتمع خصم غير مستقر في آن واحد.
القابلية للاستغلال: بحثت الدراسة عن فائدة تعويضية في تقليل القابلية للاستغلال (تدريب استجابة مثلى حمراء مخصصة ضد سياسة زرق ثابتة مقابل سياسة اللعب الذاتي). عند الميزانية المعطاة، كانت فجوة القابلية للاستغلال غير قابلة للتمييز إحصائياً عن الصفر لكلتا السياستين، مما أظهر عدم وجود ميزة واضحة لمنهج اللعب الذاتي.
القابلية للتوجيه (Steerability): بينما غيرت آلية FiLM توزيع مخرجات السياسة بناءً على متجه النية هيكلياً، إلا أن الاختلافات السلوكية كانت ضئيلة، ولم يتم تحقيق أي نجاح في المهمة خلال مسح التوجيه بسبب مشاـكل التقارب الأساسية.
الأهمية والادعاءات تدعي الورقة الأهمية ليس في إثبات حل مهيمن وشامل، بل في تقديم تقرير صادق وقابل للتكرار عن التكاليف والفوائد الناتجة عن دمج آليات تعلم معزز متعدد الوكلاء متقدمة تحت قيود واقعية.
تحديد المقايضات: يؤكد المؤلف أن الجمع بين PSRO، والتشطيب بالمنفعة، وانقطاع الاتصال لا يحقق "فوزاً موحداً". بدلاً من ذلك، فإنه يسبب تكلفة في سرعة التقارب، والتي لا يتم تعويضها حالياً بميزة ملموسة في المتانة أو القابلية للاستغلال ضمن ميزانية التدريب المحددة.
القيمة التشخيصية: تسلط الورقة الضوء على أهمية تصميم المكافآت والملاحظات، مشيرة إلى أن التجارب الأولية فشلت (نجاح بنسبة 0% عبر جميع البذور) بسبب مشكلات هيكلية (نقص في إشارات الهدف الصريحة والمبالغة في عقوبات المخاطر) وليس بسبب فشل خوارزمي.
التواضع: يصرح المؤلف صراحةً بأن تبسيط المجموع الصفري للعبة ذات المجموع العام، وعدم وجود نقل من المحاكاة إلى الواقع (sim-to-real)، وميزانية التدريب الثابتة هي قيود. وهو يضع النتائج كلقطة لما يمكن تحقيقه بميزانيات الحوسبة الحالية، مشيراً إلى أن الترتيب النسبي للطرق قد يتغير مع ميزانيات تدريب أكبر بكراً، لكن البيانات الحالية لا تدعم الادعاء بأن منهج UC-PSRO الكامل يتفوق على المنهج الأساسي المدعوم بـ CDC.
باختصار، تقدم الورقة UC-PSRO كإطار عمل متطور ينجح في التوسع إلى 200 وكيل، ولكنه يثبت تجريبياً أنه تحت قيود التدريب الحالية، فإن الآلية الأبسط المتمثلة في انقطاع الاتصال هي المحرك الرئيسي للنجاح في المهمة، بينما تعمل التعقيدات المضافة من اللعب الذاتي والتشطيب بالمنفعة حالياً كعائق أمام التقارب.