Do LLM Agents Negotiate Rationally? A Mechanism-Design Framework for Verifiable Multi-Agent Interaction over A2A/MCP
تقدم هذه الورقة إطار عمل لتصميم الآليات يقوم بترميز بروتوكولات التفاوض الكلاسيكية في مخططات رسائل A2A/MCP مع التحقق من الصحة أثناء التشغيل، مما يكشف أنه بينما يضمن التفاعل المنظم نجاح المهمة، فإن الوكلاء القائمين على النماذج اللغوية الكبيرة غالباً ما يفشلون في إظهار السلوكيات العقلانية والمتوافقة مع الحوافز التي تتنبأ بها نظرية الألعاب.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً تعمل فيه برامج الكمبيوتر، بصفتها مساعدين مستقلين، للقيام بالأعمال نيابة عنا. قد يُكلف أحدها بشراء المستلزمات المكتبية، بينما يُكلف آخر ببيعها. وفي المستقبل القريب، ستحتاج هذه العمال الرقميين إلى التحدث مع بعضهم البعض، والمساومة على الأسعار، وإبرام الصفقات دون تدخل بشري. لعقود من الزمن، طور علماء الحاسوب مجموعة من القواعد الرياضية لضمان أنه عندما تتفاعل مثل هذه الأطراف المستقلة، تكون النتيجة عادلة وفعالة ونزيهة. هذه القواعد، المعروفة باسم "تصميم الآليات" (mechanism design)، تعمل مثل قواعد اللعبة، مما يضمن أنه إذا التزم الجميع بالقواعد، فستكون النتيجة مثالية للجميع المعنيين. ومع ذلك، بدأ جيل جديد من هؤلاء المساعدين، المدعومين بنماذج اللغات الكبيرة، في العمل في العالم الحقيقي. تم تدريب هذه النماذج على كميات هائلة من النصوص والمحادثات البشرية، مما يجعلها بارعة للغاية في الفصاحة والقدرة على التكيف. لكن لم يكن أحد يعرف ما إذا كانت ستتبع بالفعل القواعد المنطقية الصارمة للنظرية الاقتصادية عندما تُترك لتدبير أمورها الخاصة، أم أن عاداتها الحوارية الشبيهة بالبشر ستؤدي بها إلى إبرام صفقات سيئة.
لقد سعى باحثون في جامعة أكسفورد للإجابة على هذا السؤال من خلال بناء جسر بين عالم النظرية الاقتصادية الصارم والعالم المرن للذكاء الاصطنا الجديد. لقد أنشأوا ساحة اختبار حيث طُلب من وكيلين يعملان بالذكاء الاصطناعي، لكل منهما هدف محدد وقيمة خاصة لأصناف مختلفة، التفاوض على صفقة. أراد الباحثون معرفة ما إذا كان بإمكان هؤلاء الوكلاء التوصل إلى أفضل اتفاق ممكن، أو ما إذا كانوا سيعلقون في أنماط غير فعالة. وللقيام بذلك، صمموا نظاماً يمكنه التحدث بلغتين: اللغة الطبيعية المرنة لنماذج الذكاء الاصطناعي، واللغة الهيكلية الصارمة للبروتوكولات الاقتصادية. واختبروا سيناريوهين رئيسيين؛ في الأول، قيل للوكلاء ببساطة "تفاوضوا على صفقة"، تاركين لهم تحديد العملية بأنفسهم. وفي الثاني، مُنح الوكلاء كتاب قواعد صارم يملي عليهم بدقة كيفية تقديم العروض، وكيفية تقديم عرض مضاد، ومتى يتم قبول الصفقة أو رفضها. كما أضافوا حكماً رقمياً يراقب كل رسالة تُرسل بين الوكلاء، ويتأكد من اتباعهم للقواعد قبل تسليم الرسالة.
كشفت النتائج عن انقسام رائع بين ما يمكن للوكلاء تحقيقه وبين كيفية سلوكهم. فعندما سُمح للوكلاء بالدردشة بحرية دون هيكل صارم، غالباً ما توصلوا إلى اتفاق، لكن الصفقات كانت في كثير من الأحيان غير فعالة؛ إذ مالوا إلى تقسيم الأصناف بالتساوي، وهي عادة تبدو عادلة للبشر ولكنها غالباً ما تترك أموالاً مهدرة عندما تختلف قيمة هذه الأصناف بين الطرفين فعلياً. ومع ذلك، عندما زود الباحثون الوكلاء ببروتوكول هيكلي وحكم رقمي، ارتفع معدل النجاح إلى مائة بالمائة. فقد توصل الوكلاء باستمرار إلى اتفاق، وكانت الصفقات أقرب بكثير إلى النتيجة المثالية. وقد أثبت الحكم فائدته بشكل خاص في جانب واحد: جعل النتائج أكثر اتساقاً؛ فبدون الحكم، تباينت جودة الصفقات بشكل كبير من محاولة إلى أخرى، أما مع وجود الحكم، فقد كانت النتائج مستقرة وقابلة للتنبؤ.
جاء الاكتشاف الأكثر إثارة للدهشة عندما اختبر الباحثون نوعاً مختلفاً من التفاوض: المزاد. في هذا السيناريو، يزايد الوكلاء على عنصر ما، وتُصمم قواعد اللعبة بحيث تكون أفضل استراتيجية للجميع هي ببساطة قول الحقيقة بشأن مدى تقديرهم لقيمة هذا العنصر. وجد الباحثون أن نتيجة المزاد كانت فعالة في كل تجربة؛ حيث ذهب العنب دائماً إلى الوكيل الذي قدره بأعلى قيمة. ومع ذلك، اعتمد صدق الوكلاء كلياً على نموذج الذكاء الاصطناعي المحدد الذي يدير التفاوض. فقد قدم نموذج واحد قيمته الحقيقية في كل تجربة، متبعاً بدقة النظرية الاقتصادية. أما النموذج الآخر، ورغم مواجهته لنفس القواعد تماماً، فنادراً ما قدم قيمته الحقيقية، بل قدم أرقاماً قريبة ولكنها ليست دقيقة تماماً. أظهر هذا أن الضمان الذي توفره قواعد اللعبة للنزاهة لا ينتقل تلقائياً إلى الذكاء الاصطناعي؛ بل يعتمد على "الدماغ" المحدد الذي يقف وراء الوكيل.
يشير هذا العمل إلى أنه مع نشر المزيد من الوكلاء المستقلين للتعامل مع المعاملات في العالم الحقيقي، فإن اختيار نموذج الذكاء الاصطناعي الأساسي لا يقل أهمية عن تصميم قواعد التفاوض نفسها. فالنظام الذي يبدو مثالياً على الورق قد يفشل في الممارسة العملية إذا استُخدم النموذج الخاطئ، أو إذا تُرِك الوكلاء يتفاوضون دون هيكل واضح. ويقترح الباحثون أن مستقبل التفاعل بين الوكيل والوكيل يجب أن يتضمن طبقة من التحقق، أي حكماً رقمياً يضمن التزام الوكلاء بالبروتوكولات المتفق عليها. وهذا لن يمنع الوكلاء من ارتكاب أخطاء سخيفة فحسب، بل سيضمن أيضاً الوفاء بوعود العدالة والكفاءة التي وضعها مصممو النظام. كما سلطت الدراسة الضوء على أهمية الشفافية في العلم؛ فعندما فشلت مهمة تفاوض ثالثة أكثر تعقيداً في إنتاج نتائج قابلة للاستخدام، لم يخفِ الباحثون هذا الفشل، بل وثقوه بدقة، موضحين أن المهمة كانت أصعب من أن يتمكن التكنولوجيا الحالية من تنسيقها دون مزيد من الوقت وأدوات أفضل. إن هذا المحاسبة الصادقة لما ينجح وما لا ينجح توفر مساراً واضحاً نحو بناء مستقبل يمكن فيه لمساعدينا الرقميين أن يتفاوضوا ليس فقط بطلاقة، بل بعقلانية أيضاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.