HALO: Heterogeneous Admission through Localized Obligations for Safe Agentic Execution
تقدم هذه الورقة بروتوكول HALO، وهو بروتوكول وقت تشغيل يضمن التنفيذ الوكيل الآمن من خلال القبول الانتقائي للمكونات المدعومة من استجابات الذكاء الاصطناعي غير المتجانسة بناءً على الالتزامات المحلية وإعادة التحقق من الإجراءات قبل الإرسال، متفوقاً بذلك على سياسات رفض الاستجابة الكاملة في الاحتفاظ بالوظائف المفيدة مع منع العمليات القديمة أو غير الآمنة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك قبطان سفينة فضائية، ولكن بدلاً من قيادة السفينة بنفسك، لديك مساعد طيار آلي فائق الذكاء. هذا الروبوت هو "وكيل ذكاء اصطناعي" يمكنه التحدث إليك، ولكن يمكنه أيضاً القيام بأشياء فعلية: يمكنه إطلاق المحركات النفاثة، أو فتح بوابات الهواء، أو مسح الكويكبات بحثاً عن خطر. في الماضي، كانت هذه الروبوتات تقدم فقط نصائح نصية، مثل "الوقود منخفض". أما الآن، فقد أصبح بإمكانها إرسال حزمة مختلطة من التعليمات دفعة واحدة: ملاحظة ودية للطاقم، وتقرير عن الوقود، وأمر بالالتفاف يساراً، وتحديث للحالة يعتمد على ذلك الالتفاف.
هنا تكمن الصعوبة؛ فالكون فوضوي ويتغير بسرعة. بينما يقوم الروبوت بكتابة رسالته الكبيرة والمعقدة، قد ينفد الوقود، أو يتحدث الخريطة، أو يتم إغلاق بوابة الهواء من قبل شخص آخر. إذا أرسل الروبوت رسالته بأكملها كطرد واحد ضخم، فقد يصبح جزء واحد منها خطيراً الآن، مما قد يضطرك للتخلص من الطرد بأكمله. سيكون هذا هدراً لأن الملاحظة الودية وتقرير الوقود قد يظلان سليمين تماماً. ولكن إذا حاولت استخراج الأجزاء الآمنة فقط، فقد ترسل بالخطأ أمراً يعتمد على معلومة أصبحت معطلة الآن. الأمر يشبه محاولة بناء منزل بينما الأرض تهتز؛ أنت بحاجة إلى طريقة للحفاظ على الطوب الذي لا يزال صلباً ورمي الطوب الذي تحول إلى غبار، دون أن ينهار المبنى بأكره.
هذه هي المشكلة التي يحاول نظام جديد يسمى HALO (القبول غير المتجانس عبر الالتزامات المحلية) حلها. فكر في HALO كحارس أمن شديد اليقظة وعامل منع دخول صارم يعملان معاً عند بوابة هواء السفينة الفضائية. عندما يرسل المساعد الآلي حزمته المختلطة من التعليمات، لا ينظر HALO إلى الحزمة ككل ويقول "انطلق" أو "توقف". بدلاً من ذلك، يقوم بتفكيك الحزمة. إنه يفحص كل قطعة على حدال، ويتحقق من مدى ملاءمتها للواقع الحالي. فإذا كان أمر "الالتفاف يساراً" يعتمد على خريطة تغيرت للتو، فإن HALO يحظر هذا الأمر تحديداً. لكنه يسمح بمرور "تقرير الوقود" و"ملاحظة الطاقم" لأنهما لا يهتمان بالخريطة.
ومع ذلك، فإن HALO أكثر ذكاءً من مجرد مرشح بسيط. فهو يعرف أن بعض الأوامر تعتمد على غيرها. فإذا كان "تحديث الحالة" يتطلب تنفيذ أمر "الالتفاف يساراً" أولاً، وقام HALO بحظر الالتفاف، فإنه سيحظر أيضاً تحديث الحالة. إنه يحتفظ بالأجزاء الصالحة ويزيل الأجزاء المعطلة، مما يضمن عدم بقاء أي شيء معلقاً بدون دعمه.
لكن السحر الحقيقي يحدث قبل إرسال الأمر فعلياً إلى السفينة مباشرة. يقوم HALO بـ "إعادة فحص" نهائي في أجزاء من الثانية. يسأل نفسه: "هل هذا الأمر بالتحديد لا يزال آمناً الآن، في هذه الميلي ثانية بالضبط؟" إذا كانت الإجابة لا، فإنه يحظره. والأمر الأهم هو أنه إذا تم حظر أمر ما، فلا يمكن "إلغاء حظره" لاحقاً. إذا أراد الروبوت المحاولة مرة أخرى، فعليه العودة بطلب جديد تماماً، يحمل معلومات محدثة وتصريحاً جديداً. هذا يمنع الروبوت من إرسال أمر قديم وخطير كان يحتفظ به عن طريق الخطأ.
اختبر الباحثون هذا النظام في عالم محاكى للطائرات بدون طيار (UAVs) ووجدوا أنه يعمل بشكل مثالي. في أحد الاختبارات، كان هناك 248 جزءاً مختلفاً من رسالة الروبوت. النظام القياسي الذي رفض الرسالة بأكملها لم يحتفظ بصفر من الأجزاء. والنظام الذي فحص الأجزاء بشكل مستقل احتفظ بجميع الأجزاء الـ 248، لكنه سمح بالخطأ بمرور أوامر خطيرة وقديمة. أما HALO، فقد احتفظ بجميع الأجزاء الـ 248 الصالحة، وحظر كل أمر خطير، وسمح للروبوت بنجاح بالمحاولة مرة أخرى بتعليمات جديدة وآمنة. لقد أجروا هذه الاختبارات 96 مرة لفحوصات القبول و20 مرة لقواعد البروتوكول، ونجح HALO في جميعها. وحتى عندما قاموا بتشغيل طائرات بدون طيار حقيقية في محاكاة، أوقف HALO كل أمر "قديم" (غير محدث) ولم يسمح إلا للأوامر الجديدة والآمنة بالطيران.
باختاً، HALO هو طريقة جديدة للسماح لوكلاء الذكاء الاصطناعي بالقيام بالأشياء بأمان. إنه يعامل كل تعليم كقطعة صغيرة مستقلة، ويتحقق مما إذا كانت هذه القطعة لا تزال صالحة في هذه اللحظة، ويتأكد من أنه إذا حدث خطأ ما، يجب على الروبوت أن يبدأ من جديد بمعلومات جديدة. إنه يشبه شبكة الأمان التي تمسك بالأفكار السيئة ولكنها تسمح للأفكار الجيدة بالطيران، مما يضمن أنه مع زيادة قوة الذكاء الاصطناعي وقدرته على فعل المزيد، فإنه لن يتسبب في تحطم السفينة الفضائية عن طريق الخطأ.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.