ATC: Agent Trajectory Control for Role-Contract Enforcement in Black-Box Multi-Agent Systems
تقدم هذه الورقة البحثية "التحكم في مسار الوكيل" (ATC)، وهو آلية إنفاذ قائمة على الصندوق الأسود تمنع انحراف الدور في أنظمة النماذج اللغوية الكبيرة متعددة الوكلاء من خلال تقييم وتقييد مخرجات الوكيل مقابل عقود أدوار صريحة على مستوى الرسالة، مما يؤدي إلى تحسين أداء المهام واتساق الدور دون الحاجة إلى الوصول إلى التمثيلات الداخلية للنموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في ظل المشهد المتطور بسرعة للذكاء الاصطناعي، برز نهج جديد لحل المشكلات حيث تعمل برامج حاسوبية متعددة، تُعرف باسم "الوكلاء" (agents)، معاً لمعالجة المهام المعقدة. فبدلاً من الاعتماد على برنامج واحد كلي العلم، تقوم هذه الأنظمة بتقسيم العمل: وكيل يخطط للاستراتيجية، وآخر يجمع المعلومات، وثالث يدقق الحقائق، ورابع ينفذ الإجراءات. صُمم هذا التقسيم للعمل ليعاكي الفرق البشرية، حيث يقوم الطبيب بالتشخيص، والممرض بتقديم الرعاية، والجراح بإجراء العملية، حيث يلتزم كل منهم بمجال خبرته المحدد. ولا يعتمد نجاح مثل هذا الفريق على جودة العمل الفردي فحسب، بل على ما إذا كان كل عضو يحترم حدود دوره الموكل إليه. فعندما يخرج أحد أعضاء الفريق عن المسار المحدد، يمكن للجهد بأكره أن يتفكك، حتى لو بدا الإجراء الفردي منطقياً في حد ذاته.
لطال lâu الباحثون في مواجهة مشكلة محددة في هذه الأنظمة متعددة الوكلاء: فمع مرور الوقت، قد ينحرف الوكيل عرضاً عن مساره المحدد. فقد يبدأ مدقق الحقائق في وضع الخطط، أو يبدأ جامع البيانات في استخلاص استنتاجات لا يستطيع دعمها. هذه الظاهرة، التي يسميها الباحثون "انحراف الدور" (role drift)، تحدث لأن الوكلاء يقرأون باستمرار نفس المحادثة المشتركة. ومع نمو النقاش، قد يبدأ الوكيل في تقليد وظائف جيرانه، مما يؤدي إلى طمس خطوط السلطة. وبينما حاولت الأساليب السابقة معالجة ذلك عبر إعطاء الوكلاء تعليمات أفضل أو تعديل الآليات الداخلية لنماذج الحاسوب، إلا أن هذه النهج غالباً ما فشلت في رصد الانحراف قبل وقوع الضرر. وكان التحدي الجوهري يكمن في إيجاد طريقة للتحقق مما إذا كان الوكيل لا يزال يؤدي وظيفته قبل مشاركة رسالته مع بقية الفريق.
ولحل هذه المعضلة، قدم فريق من الباحثين نظاماً جديداً يسمى "التحكم في مسار الوكيل" (Agent Trajectory Control). وبدلاً من محاولة إعادة كتابة الكود البرمجي الداخلي للوكلاء، يعمل هذا النظام كحارس بوابة في اللحظة التي ينتهي فيها الوكيل من كتابة رسالته. فقبل أن تدخل هذه الرسالة في المحادثة المشتركة، يقوم النظام بتحليلها ليرى ما إذا كانت تتوافق مع الوصف الوظيفي المحدد للوكيل. وهو يتحقق من أربعة أمور محددة: ما إذا كانت الرسالة تحيد عن دور الوكيل، وما إذا كانت تستعير وظائف من وكيل آخر عن طريق الخطأ، وما إذا كانت تستخدم لغة غير مسموح للوكيل باستخدامها، وما إذا كانت تنتهك القواعد المنطقية لمنصبه. وإذا اجتازت الرسالة هذه الاختبارات، يتم نشرها. أما إذا فشلت، فيقوم النظام بحساب نسخة مصححة تظل ضمن حدود الوكيل ويطلب من الوكيل إعادة كتابتها. وتتم هذه العملية في كل مرة يتحدث فيها الوكيل، مما يضمن بقاء هيكل الفريق متماسكاً طوال فترة التفاعل.
اختبر الباحثون هذا النظام عبر مجموعة متنوعة من السيناريوهات، بما في ذلك فرق من وكلاء متطابقين وفرق مكونة من أنواع مختلفة من النماذج ذات نقاط قوة متفاوتة. ووجدوا أن نظام التحكم الجديد حسن بشكل كبير قدرة الفريق على إكمال المهام مع إبقاء كل عضو في دوره الصحيح. وفي الاختبارات التي شملت عشرة وكلاء يعملون معاً، زاد النظام من معدل نجاح المهام المعقدة بأكثر من ست نقاط مقارنة بأفضل الأساليب الحالية. وكان التحسن أكثر دراماتيكية في الفرق الأكبر والأكثر تنوعاً، حيث تكون مخاطر الارتباك في أعلى مستوياتها؛ ففي هذه البيئات الصعبة، رفع النظام من نجاح المهام بنحو عشر نقاط، مما يثبت قدرته على التوسع بفعالية مع نمو الفرق. كما أظهرت البيانات أن النظام قلل من "طاقة انحراف الدور" — وهي مقياس لمدى خروج الوكلاء عن مسارهم — بأكثر من النصف مقارنة بالأساليب السابقة.
إن ما يجعل هذا النهج قوياً بشكل خاص هو أنه يعمل دون الحاجة إلى رؤية ما بداخل نماذج الحاسوب. فقد تطلبت العديد من الأساليب السابقة الوصول إلى "الدماغ الداخلي" للذكاء الاصطناعي لتوجيه سلوكه، وهو أمر مستحيل مع العديد من الأنظمة الأكثر تقدماً المتاحة اليوم. ومن خلال التأثير على الرسالة نفسها بدلاً من المولد (البرنامج المنتج لها)، يمكن تطبيق هذا الأسلوب الجديد على أي فريق من الوكلاء، بغض النظر عن كيفية بنائهم. كما اكتشف الباحثون أن النظام كان أكثر قيمة عندما تعرضت الفرق لأقصى حدود طاقتها، مثل عندما يُطلب من الوكيل صراحةً أداء مهمة تنتمي لشخص آخر. وفي اختبارات الضغط هذه، حافظ النظام الجديد على أداء عالٍ بينما انهارت الأساليب الأخرى، مما أثبت قدرته على فرض قواعد الفريق حتى تحت الضغط.
تؤكد الدراسة أن مجرد إخبار الوكلاء بما يجب عليهم فعله ليس كافياً؛ بل يجب التحقق من أفعالهم باستمرار مقابل عقودهم (التزاماتهم). وتشير النتائج إلى أنه لكي تكون الأنظمة متعددة الوكلاء موثوقة، يجب أن يكون هناك آلية تفحص كل مساهمة قبل قبولها. وهذا لا يعني أن الوكلاء أقل إبداعاً أو قدرة، بل يعني أنهم أكثر انضباطاً. فمن خلال الحفاظ على وضوح هيكل الفريق، يسمح النظام للوكلاء بالتركيز على نقاط قوتهم المحددة دون الضياع في ضجيج المجموعة. وقد أتاح الباحثون أدواتهم وبياناتهم للجمهور، مما يسمح للآخرين بالبناء على هذا العمل. ومع ازدياد شيوع فرق الذاء الاصطناعي في مجالات مثل تطوير البرمجيات والتخطيط التجاري، قد يصبح هذا النوع من فرض الأدوار مطلباً قياسياً لضمان عمل هذه الفرق الرقمية بسلاسة وفعالية تماثل نظيراتها البشرية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.