The Provenance Paradox in Multi-Agent LLM Routing: Delegation Contracts and Attested Identity in LDP
تحدد هذه الورقة وتُعالج "مفارقة الأصل" (provenance paradox)، حيث يفشل التوجيه القائم على الجودة في أنظمة النماذج اللغوية الكبيرة متعددة الوكلاء بسبب الادعاءات المبلّغ عنها ذاتياً وغير القابلة للتحقق، وذلك عبر تقديم بروتوكول تفويض معزز للنماذج اللغوية الكبيرة (LDP) يستفيد من الهوية الموثقة وعقود التفويض لتحقيق أداء يقارب الأمثل مع حد أدنى من الأعباء الإضافية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك مدير مطبخ مزدحم. لديك فريق من الطهاة (وكلاء ذكاء اصطناعي) وعليك تفويض المهام لهم مثل "كتابة تقرير" أو "تحليل هذه الأرقام". ولجعل العمل أكثر كفاءة، قررت إسناد أصعب الوظائف للطهاة الذين يدّعون أنهم الأفضل.
هذه الورقة البحثية تتحدث عن فخ خطير يحدث عندما تفعل ذلك بالضبط، وكيفية إصلاحه.
إليك قصة "مفارقة المصدر" (The Provenance Paradox)، مشروحة ببساء.
1. المشكلة: الطاهي "خمس نجوم المزيف"
في عالم الذكاء الاصطناعي الحالي، يقدم الوكلاء أنفسهم بسيرة ذاتية. يقول أحدهم: "أنا طاهٍ بجودة 95%!"
المشكلة هي أن أي شخص يمكنه الكذب في سيرته الذاتية.
- الطاهي الأمين: يقوم بعمل رائع بالفعل، لكنه يقول بتواضع: "أنا جيد بنسبة 80% تقريبًا".
- الطاهي المخادع: عمله سيء للغاية في الواقع، لكنه يكذب ويقول: "أنا جيد بنسبة 99%!"
إذا كان نظام التوجيه الخاص بك (المدير) يثق بشكل أعمى في هذه الدرجات التي يبلغ عنها الوكلاء عن أنفسهم، فإنه سيختار دائمًا الطاهي المخادع.
- المفارقة: من خلال محاولة أن تكون ذكيًا واختيار "الأفضل" بناءً على ما يقوله الناس عن أنفسهم، ينتهي بك الأمر باختيار أسوأ العمال. في الواقع، تثبت الورقة البحثية أن الثقة العمياء في الادعاءات الذاتية هي في الواقع أسوأ من اختيار طاهٍ عشوائيًا.
الأمر يشبه مطعمًا حيث يحصل فيه أكثر الكاذبين صخبًا وثقة على جميع طاولات الـ VIP، بينما يتم إرسال الطهاة المهرة الهادئين إلى المنزل.
2. الحل: "عقد التفويض"
لإصلاح ذلك، يقترح المؤلفون مجموعة جديدة من القواعد تسمى "عقود التفويض" (Delegation Contracts). فكر في هذا كأمر عمل رسمي، وليس مجرد مصافحة.
بدلاً من مجرد قول "اذهب واصنع سلطة"، أنت تسلم الطاهي عقدًا يقول:
- الهدف: "اصنع سلطة تحتوي على 3 أنواع من الخضروات الورقية بالضبط".
- الميزانية: "يمكنك استخدام 500 سعرة حرارية فقط من المكونات".
- الموعد النهائي: "انتهِ بحلول الساعة 5:00 مساءً".
- خطة "الفشل": "إذا لم تستطع القيام بذلك، توقف فورًا وأخبرني لماذا (مثلاً: 'نفد مني الخس')، بدلاً من تقديم كومة من التراب لي".
لماذا يساعد هذا: حتى لو كذب الطاهي بشأن مهاراته، لا يمكنه الكذب بشأن العقد. إذا خرق القواعد (مثل استخدام الكثير من المكونات)، سيعرف النظام ذلك فورًا ويمكنه إيقاف المهمة أو تبديل الطاهي بآخر.
3. التحقق من الهوية: "الادعاء" مقابل "التوثيق"
تقدم الورقة طريقة جديدة للنظر إلى السيرة الذاتية للطاهي. بد instead من مجرد قراءة ما كتبوه، يسأل النظام الآن: "من الذي تحقق من هذا؟"
لقد أنشأوا سلمًا للثقة:
- الادعاء الذاتي (ثقة منخفضة): "أنا أقول إنني طاهٍ خمس نجوم". (يمكن لأي شخص قول ذلك).
- الملاحظة أثناء التشغيل (ثقة متوسطة): "راقبناك وأنت تطهو 100 وجبة الأسبوع الماضي، وكنت جيدًا". (بناءً على بيانات حقيقية).
- التوثيق من جهة مُصدرة (ثقة عالية): "معهد الطهي في أمريكا منحك شهادة". (طرف ثالث موثوق يشهد لك).
- الاختبار الخارجي (أعلى درجات الثقة): "اختبرناك في اختبار تذوق أعمى ضد أفضل الطهاة في العالم، وفزت".
الإصلاح: المدير الذكي (الموجه) يتجاهل درجات "الادعاء الذاتي". هم يوظفون فقط الطهاة الذين لديهم درجات موثقة. هذا يمنع المخادعين من الحصول على الوظيفة.
4. التحدث بنفس اللغة: "الأخطاء النوعية"
في السابق، عندما كانت المهمة تفشل، كان الذكاء الاصطناعي يقول فقط: "حدث خطأ ما". هذا يشبه قول الطاهي: "الطعام سيء"، دون شرح السبب. لا يمكنك إصلاح ذلك.
يتطلب النظام الجديد "أخطاءً نوعية" (Typed Errors).
- بدلاً من "حدث خطأ ما"، يجب على الطاهي أن يقول: "خطأ: تجاوز الميزانية" أو "خطأ: نقص في المكونات".
- هذا يسمح للمدير بإصلاح المشكلة تلقائيًا (مثلاً: "أوه، إنها مشكلة ميزانية؟ لنمنحه المزيد من المال ونحاول مرة أخرى") بدلاً من مجرد الذعر.
الخلاصة الكبرى
تظهر الورقة البحثية أنه في عالم وكلاء الذكاء الاصطناعي، لا يمكن أن تعتمد الثقة على ما يقوله الوكلاء عن أنفسهم.
- بدون هذه القواعد: يتعرض النظام للخداع من قبل الكاذبين، وينهار الأداء (ليصبح أسوأ من الصدفة العشوائية).
- مع هذه القواعد: يستخدم النظام العقود لوضع الحدود، ويتحقق من هوية من تحقق من المهارات، ويفهم تمامًا متى تسوء الأمور.
باختصار: لا تستمع فقط إلى الصوت الأعلى في الغرفة. تحقق من هويتهم، ووقع معهم عقدًا، وتأكد من وجود حكم موثوق يشهد لهم. هذه هي الطريقة لبناء فريق موثوق من وكلاء الذكاء الاصطناعي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.