Risk-Aware Degraded-Mode Orchestration for Resilient Cloud–Edge AI Agents: From Containerized Fault Injection to Heterogeneous Kubernetes Validation

تخيل عالماً لا تكون فيه تطبيقاتك المفضلة مجرد برامج بسيطة، بل فرقاً من الروبوتات الصغيرة غير المرئية التي تعمل معاً. روبوت يجلب الأخبار، وآخر يتحقق من القواعد، وثالث يكتب الكود، ورابع يتحدث إلى عقل عملاق (ذكاء اصطناعي) لفهم كل ذلك. هكذا يعمل نظام "الذكاء الاصطناံي السحابي-الحافي" (Cloud-Edge AI) الحديث: سلسلة معقدة من الخدمات التي تعمل عبر الإنترنت وعلى أجهزتك المحلية. عادةً ما تكون هذه الفرق قوية؛ فإذا تعثر أحد الروبوتات، قد تحاول البقية إعادة المحاولة، أو الانتظار، أو التحول إلى خطة بديلة. لكن هنا تكمن المشكلة: أحياناً، لا يكون مجرد "إنهاء" المهمة كافياً. إذا كان الروبوت المسؤول عن التحقق من القواعد مفقوداً، فلا ينبغي للفريق أن يخمن ويستمر في العمل، لأنهم قد يتسببون دون قصد في كسر شيء مهم أو القيام بشيء غير مسموح به. هذا هو التوازن الصعب بين "البقاء متصلاً" و"البقاء آمناً".

إليك فكرة جديدة تسمى DMO-AI (التنسيق في وضع التدهور للذكاء الاصطناعي). فكر في هذا النظام كشرطي مرور ذكي جداً لفرق الروبوتات هذه. فبدلاً من الاكتفاء بالقول "استمر في العمل" أو "أوقف كل شيء"، ينظر هذا الشرطي إلى المهمة المحددة التي يقوم بها الفريق. هل هي مهمة منخفضة المخاطر، مثل كتابة قصة ممتعة؟ أم أنها مهمة عالية المخاطر، مثل نقل أموال أو تغيير سجل طبي؟ إذا كان روبوت "التحقق من القواعد" مريضاً، فقد يقول الشرطي: "حسناً، بالنسبة للقصة، دعونا نستخدم كتاب قواعد قديماً لدينا. ولكن بالنسبة لتحويل الأموال؟ مستحيل. توقف واسأل بشرياً". تختبر هذه الورقة البحثية ما إذا كان هذا الشرطي الذكي الواعي بالمخاطر يمكنه الحفاظ على تشغيل المزيد من المهام بأمان أكثر من الطرق القديدة والبدائية.

المشكلة: فخ "الكل أو لا شيء"

تخيل أنك تقود سيارة ذاتية القيادة. تحتاج السيارة للتحدث مع خادم سحابي لمعرفة ما إذا كان الطريق آمناً. فجأة، يصبح الاتصال بهذا الخادم متقطعاً. ماذا يجب أن تفعل السيارة؟

الأنظمة التقليدية عادة ما تتبع نمطين:

1. الفشل المفتوح (Fail-Open): "استمر في القيادة! ربما الطريق آمن". هذا أمر خطير لأن السيارة قد تصطدم بحائط إذا كان الخادم في الواقع يطلب منها التوقف.
2. الفشل المغلق (Fail-Closed): "توقف فوراً!". هذا آمن للغاية، ولكنه يعني أنك ستظل عالقاً في الزحام للأبد، حتى لو كان الطريق في الواقع خالياً وأنك واجهت فقط مشكلة في الإشارة لثانية واحدة.

المشكلة هي أن وكلاء الذكاء الاصطناعي (مثل فرق الروبوتات لدينا) يقومون بأشياء متنوعة. بعضها منخفض المخاطر (مثل تلخيص مقال إخباري)، وبعضها عالي المخاطر (مثل حذف قاعدة بيانات). لذا، فإن القاعدة "الواحدة التي تناسب الجميع" لا تنجح. إذا عاملت تلخيصاً منخفض المخاطر بنفس طريقة معاملة تحويل بنكي عالي المخاطر، فستحصل إما على نتائج غير آمنة أو ستوقف أعمالاً مفيدة دون داعٍ.

الحل: شرطي المرور الواعي بالمخاطر

قام مؤلفو هذه الورقة، ألبرت أدوسي بروبي، ونارايان بوسالي، ودان بامفو، ببناء نظام جديد يسمى DMO-AI. بدلاً من مجرد التحقق مما إذا كان الإنترنت يعمل، يسأل هذا النظام ثلاثة أسئلة قبل السماح للمهمة بالاستمرار:

1. ما مدى خطورة هذه المهمة؟ (هل هي قصة ممتعة أم تحويل بنكي؟)
2. ما الذي هو مفقود؟ (هل "مدقق القواعد" معطل، أم مجرد "جالب الأخبار"؟)
3. ما الذي يمكننا فعله بدلاً من ذلك؟

يحتوي النظام على قائمة من "أوضاع التدهور" (الخطط البديلة) التي يمكنه الاختيار من بينها:

• الطبيعي (Normal): كل شيء يعمل بشكل جيد.
• النموذج المحلي (Local Model): إذا تعطل العقل السحابي العملاق، يتم استخدام عقل أصغر وأبسط على الجهاز المحلي (ولكن فقط للمهام منخفضة المخاطر).
• السياسة المخزنة (Cached Policy): إذا كان مدقق القواعد معطلاً، يتم استخدام كتاب قواعد قديم، ولكن فقط إذا كان حديثاً بما يكفي لمستوى الخطر.
• القراءة فقط (Read-Only): إذا كانت الأداة التي تغير الأشياء مكسورة، يتم تقديم النصيحة فقط دون تغيير أي شيء فعلياً.
• التسليم (Handoff): إذا كان من الخطير جداً التخمين، توقف واسأل بشرياً.
• الحظر (Block): إذا لم يكن هناك شيء آمن يمكن القيام به، فتوقف فقط.

الابتكار الرئيسي هو أن النظام يختار الخطة البديلة المناسبة بناءً على المخاطر. لن يسمح لمهمة عالية المخاطر باستخدام "عقل محلي" لمجرد أن العقل السحابي معطل. ولن يسمح لتحويل بنكي باستخدام كتاب قواعد قديم إذا كان الكتاب قديماً جداً.

التجربة: مسار عقبات رقمي

لمعرفة ما إذا كان هذا ينجح، بنى الباحثون مسار عقبات رقمياً ضخماً. أنشأوا بيئة اختبار تحتوي على أربع خدمات رئيسية: نموذج (العقل)، خدمة الاسترجاع (الذاكرة)، خدمة السياسة (مدقق القواعد)، وخدمة الأدوات (الأيدي التي تقوم بالأشياء).

ثم استخدموا أداة تسمى Toxiproxy لمحاكاة الكوارث. كانوا يقومون بتجميد "العقل"، أو فصل "مدقق القواعد"، أو إبطاء "الأيدي" عن قصد. أجروا هذه المحاكاة 141,000 مرة في إعداد حاسوبي واحد، ثم 8,000 مرة في إعداد أكثر واقعية يحتوي على خادم سحابي حقيقي وجهاز طرفي حقيقي (مثل Raspberry Pi أو خادم صغير).

قارنوا نظام DMO-AI الجديد بخمس طرق أخرى شائعة للتعامل مع الإخفاقات:

• الفشل المفتوح (Fail-Open): استمر في العمل فحسب.
• الفشل المغلق (Fail-Closed): توقف عن كل شيء.
• ميزانية إعادة المحاولة (Retry Budget): حاول مجدداً بضع مرات، ثم استسلم.
• قاطع الدائرة (Circuit Breaker): توقف إذا كانت الأشياء مكسورة، وحاول مرة واحدة إذا كانت بطيئة.
• شبكة الخدمة (Service Mesh): مدير حركة مرور شبكية قياسي لا يعرف شيئاً عن مخاطر الذكاء الاصطناعي.

النتائج: الأمان دون علامة التوقف

كانت النتائج واضحة ومثيرة. في الاختبار الكبير المكون من 8,000 حدث، تمكنت شبكة الخدمة (Service Mesh) القياسية (مدير حركة المرور الذي لا يعرف مخاطر الذكاء الاصطناعي) من إكمال المهام بأمان بنسبة 64.70% فقط. إما أنها سمحت بأشياء غير آمنة أو أوقفت الكثير من المهام المفيدة.

أما نظام DMO-AI الجديد، فقد حقق إكمالًا آمناً بنسبة 93.95%. هذه قفزة هائلة تقارب 29 نقطة مئوية.

إليكم ما حدث في التفاصيل:

• صفر نتائج غير آمنة: في الاختبارات الرئيسية، سجل DMO-AI نسبة 0.00% في النتائج غير الآمنة و 0.00% في انتهاكات السياسة. لم يسمح أبداً لمهمة عالية المخاطر بالمرور دون القواعد الصحيحة.
• أفضل من "الفشل المفتوح": أكمل نظام "الفشل المفتوح" مهاماً أكثر إجمالاً، لكن 9.67% منها كانت غير آمنة (مثل كتابة تحويل بنكي دون التحقق من القواعد). أما DMO-AI فقد أكمل مهاماً غير آمنة أقل، لكنه أبقى المهام المفيدة جارية.
• أفضل من "الفشل المغلق": كان نظام "الفشل المغلق" آمناً، ولكنه حظر 41.57% من جميع المهام، حتى السهلة منها. بينما حظر DMO-AI 1.13% فقط من المهام.

اختبر الباحثون أيضاً ما يحدث إذا تمت إزالة "الوعي بالمخاطر" من النظام. عندما أوقفوا الجزء الذي يتحقق مما إذا كانت المهمة عالية أو منخفضة المخاطر، انخفضت درجة الأمان وظهرت نتائج غير آمنة. وهذا أثبت أن "عقل المخاطر" هو الجزء الأهم في النظام.

كما تحققوا من التكلفة. أضاف النظام تأخيراً طفيفاً جداً (حوالي 19 ميلي ثانية في المتوسط في اختبار العالم الحقيقي)، لكن هذا كان ثمناً زهيداً مقابل الحفاظ على سلامة النظام واستمراريته.

ماذا يعني هذا؟

توضح هذه الورقة أننا لسنا مضطرين للاختيار بين "إيقاف كل شيء" أو "السماح بكل شيء يحدث". من خلال تعليم النظام فهم مستوى خطر المهمة، يمكننا إبقاء المهام منخفضة المخاطر جارية حتى عندما تتعطل بعض الأجزاء، مع منع المهام عالية المخاطر بصرامة من القيام بأشياء خطيرة.

يؤكد المؤلفون أن هذا ليس حلاً سحرياً لكل مشاكل العالم بعد. لقد اختبروه في بيئة محكومة مع أنواع محددة من الإخفاقات. لكن النتائج تشير إلى أنه بالنسبة لمستقبل وكلاء الذكاء الاصطناعي، نحتاج إلى "شرطي مرور" يميز بين قصة ممتعة وتحويل بنكي، ويمكنه اتخاذ قرارات ذكية عندما يصبح الاتصال بالإنترنت غير مستقر.

باختصار: DMO-AI هو طريقة جديدة لإبقاء وكلاء الذكاء الاصطناعي آمنين ومفيدين، حتى عندما تتوقف أجزاء من عقلهم أو ذاكرتهم عن العمل. إنه يشبه امتلاك ملاك حارس يعرف بالضبط متى يقول "تفضل"، أو "انتظر"، أو "اسأل بشرياً"، مما يضمن أن فريق الروبوتات لن يقع في المشاكل أبداً.