ALARA for Agents: Least-Privilege Context Engineering Through Portable Composable Multi-Agent Teams
تقدم هذه الورقة ALARA، وهي طبقة بيانات سياقية-وكيل-أداة (CAT) تصريحية، وأمر السطر البرمجي \texttt{npcsh} اللذين يفرضان الوصول بأقل امتيازات للأنظمة متعددة الوكلاء من خلال ملفات تهيئة مُحللة هيكلياً، مما يضمن تغييرات سلوكية مضمونة ويمكّن الإدارة التعاونية القابلة للتوسع لقدرات الوكلاء عبر مختلف النماذج والمهام.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
المشكلة الكبرى: "المتدرب ذو الامتيازات المفرطة"
تخيل أنك وظفت متدرباً فائق الذكاء (عميل ذكاء اصطناعي) لمساعدتك في إدارة عملك. أنت تريده أن يكون مفيداً، لكنك تريده أيضاً أن يكون آمناً.
حالياً، معظم الشركات تقول لمتدربيها: "إليك مجلد ضخم من القواعد المكتوبة بلغة بسيطة. يرجى قراءتها ومحاولة بذل قصارى جهدك لاستخدام الأدوات التي تحتاجها فقط. إذا رأيت زراً أحمر، لا تضغط عليه، إلا إذا كنت تعتقد أن ذلك فكرة جيدة".
ما هي المشكلة؟ المتدرب ذكي، لكنه يتشتت بسهء. إذا كان المجلد طويلاً جداً، فإنه ينسى القواعد. وإذا ارتبك، فقد يضغط بالخطأ على الزر الأحمر (لحذف قاعدة بياناتك) أو يحاول استخدام أداة لا ينبغي له امتلاكها (مثل بطاقة ائتمان الشركة) لأن التعليمات كانت غامضة.
علاوة على ذلك، هذه القواعد مبعثرة في كل مكان: بعضها في ملف نصي، وبعضها في كود الكمبيوتر، وبعضها في خادم منفصل. إنه أمر فوضوي لتحديثه، وإذا أردت مشاركة فريق من المتدربين مع زميل لك، فسيتعين عليك نسخ ولصق الكثير من الملفات المربكة.
الحل: مبدأ "ALARA"
قرر مؤلفو هذه الورقة البحثية تطبيق قاعدة سلامة من الفيزياء النووية تسمى ALARA (أقل قدر يمكن تحقيقه بشكل معقول - As Low As Reasonably Achievable). في المحطات النووية، لا تعرض العمال إلا للحد الأدنى المطلق من الإشعاع اللازم لأداء المهمة.
لقد طبقوا هذا على الذكاء الاصطناعي: أعطِ عميل الذكاء الاصطناعي الحد الأدنى المطلق من الأدوات والمعلومات التي يحتاجها لأداء مهمته المحددة، ولا شيء غير ذلك.
إذا كانت مهمة العميل هي "كتابة قصيدة"، فيجب أن يمتلك فقط معالج نصوص. لا ينبغي له حتى أن يعرف بوجود زر "حذف قاعدة البيانات". إذا لم تكن الأداة في صندوق أدواته، فإنه لا يستطيع استخدامها مادياً، مهما طلبت منه ذلك.
كيف بنوا ذلك: نظام "الليغو" (Lego)
لتحقيق ذلك، بنوا نظاماً جديداً يسمى npcsh يتكون من ثلاثة أجزاء رئيسية، يطلقون عليها طبقة CAT (السياق - العميل - الأداة):
ملفات السياق (مدير الفريق):
فكر في هذا كأنه مخطط تنظيمي. هو يحدد: "لدينا فريق تسويق وفريق برمجة". ويقرر من هو المدير (المنسق) ومن يتبع لمن.ملفات NPC (بطاقات الهوية الوظيفية):
"NPC" تعني شخصية غير لاعبة (مثل ألعاب الفيديو). يحصل كل عميل على بطاقة هوية. تسرد هذه البطاقة:
- من هو.
- أي "عقل" (نموذج ذكاء اصطناعي) يستخدم.
- الأهم من ذلك: قائمة صارمة بالأدوات المسموح له باستخدامها.
- السر السحري: إذا لم تكن الأداة موجودة في هذه القائمة، فهي غير موجودة بالنسبة لهذا العميل. إنها ليست مجرد اقتراح؛ بل هي جدار صلب.
- الـ Jinxes (الأدوات):
الـ "Jinxes" هي الأدوات الفعلية (مثل "البحث في الويب" أو "كتابة الكود"). وهي مكتوبة بتنسيق بسيط ومنظم (YAML).
- التشبيه: تخيل أن الـ Jinx عبارة عن بطاقة وصفة جاهزة. أنت لا تقول للطاهي فقط "اصنع شيئاً لذيذاً"، بل تعطيه بطاقة تقول: "الخطوة 1: قطع البصل. الخطوة 2: اقله".
- ولأن هذه البطاقات منظمة، يمكن للكمبيوتر التحقق منها قبل أن يبدأ الذكاء الاصطناعي حتى. إذا قالت الوصفة "استخدم الخلاط"، فلا يمكن للذكاء الاصطناعي أن يقرر فجأة استخدام المطرقة.
لماذا هذا أفضل من مجرد "التحدث"
في الطريقة القديمة، تقول للذكاء الاصطناعي: "يرجى عدم حذف الملفات". هنا يجب على الذكاء الاصطناعي تفسير هذه الجملة. أحياناً يصيب في التفسير، وأحياناً يخطئ لأنه متعب أو مرتبك.
في هذه الطريقة الجديدة، أداة "حذف الملف" مفقودة ببساطة من قائمة العميل. إنه يشبه محاولة طلب بيتزا من مطعم لا يملك قائمة بيتزا. لا يمكنك طلبها، حتى لو توسلت إليه. هذا يجعل النظام آمناً هيكلياً بدلاً من مجرد "الطلب منه بأدب" ليكون آمناً.
"اختبار التذوق" (التجارب)
اختبر المؤلفون هذا النظام باستخدام 22 نموذجاً مختلفاً للذكاء الاصطناعي (من النماذج الصغيرة إلى الضخمة جداً) على 115 مهمة مختلفة، مثل:
- البحث في الويب.
- كتابة الكود.
- إدارة الملفات.
- جعل عملاء مختلفين يعملون معاً (التفويض).
ما وجدوه:
- الحجم الأكبر ليس دائماً الأفضل: النموذج الأصغر والمتخصص (4 مليار بارامتر) الذي تم تدريبه خصيصاً لاستخدام الأدوات، غالباً ما كان يؤدي عملاً أفضل من نموذج ضخم وعام (27 مليار بارامتر) لم يتم تدريبه على ذلك. الأمر يشبه ميكانيكياً متخصصاً يصلح سيارة بشكل أفضل من طبيب عام.
- معاناة "التفويض": كان جعل ذكاء اصطناعي واحد يسلم مهمة لذكاء اصطناعي آخر هو أصعب شيء. لقد فشل الأمر كثيراً. وهذا يشير إلى أن المشكلة ليست في ذكاء الذكاء الاصطناعي، بل في كيفية إعداد تعليمات التسليم.
- منطق إعادة المحاولة: إذا فشل الذكاء الاصطناعي في مهمة، فإن المحاولة مرة أخرى تساعد كثيراً في المهام البسيطة (مثل البحث في الويب)، ولكنها تجعل الأمور أسوأ في المهام المعقدة (مثل التفويض) لأن الذكاء الاصطناعي يرتبك بسبب أخطائه السابقة.
الخلاصة
تقدم هذه الورقة طريقة لبناء فرق ذكاء اصطناعي أكثر أماناً، وأسهل في الإدارة، وأكثر موثوقية.
بدلاً من كتابة فقرات طويلة ومربكة من القواعد التي قد يتجاهلها الذكاء الاصطناعي، يستخدمون نظاماً يعتمد على الملفات ويشبه قطع الليغو حيث تبني قدرات العميل فعلياً. أنت تعطي العميل فقط الأدوات التي يحتاجها، والنظام يضمن أنه لا يمكنه استخدام أي شيء آخر.
لقد حولوا سلامة الذكاء الاصطناعي من لعبة "الأمل في أن يستمعوا" إلى لعبة "التأكد من أنهم لا يستطيعون مادياً كسر الأشياء".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.