💻 computer science

Agent Contracts: A Formal Framework for Resource-Bounded Autonomous AI Systems

تقدم هذه الورقة "عقود الوكلاء"، وهو إطار عمل رسمي يوسع بروتوكول شبكة العقد (Contract Net Protocol) لحوكمة الأنظمة متعددة الوكلاء من خلال توحيد مواصفات المهام مع قيود صارمة على الموارد والزمن والنجاح، مما يتيح نشرًا للذكاء الاصطناعي المستقل يتسم بالقدرة على التنبؤ والتدقيق والتقيد بالموارد مع كفاءة مثبتة وصفر انتهاكات للمحافظة.

المؤلفون الأصليون: Qing Ye, Jing Tan

نُشر 2026-03-26

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Qing Ye, Jing Tan

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك وظفت مساعداً عبقرياً، مفرط النشاط، للقيام بمهمة ما. تعطيه المهمة، فيبدأ بالعمل. لكن هنا تكمن المشكلة: أنت لم تخبره متى يتوقف، ولا كم من المال يمكنه إنفاقه، ولا ما الذي يعنيه "إتمام العمل" فعلياً.

في العالم الحقيقي، قد يستمر هذا المساعد في العمل لمدة 11 يوماً متواصلة، مستنزفاً كامل الحد الائتماني لبطاقتك، ويطلب المزيد من المال، ويظل عالقاً في حلقة مفرغة من "أحتاج للتأكد من هذا الشيء الأخير فقط". هذا هو بالضبط ما حدث لفريق هندسي في أواخر عام 2025، مما أدى إلى فاتورة بقيمة 47,000 دولار لنظام ذكاء اصطناعي رفض التوقف.

تقدم هذه الورقة البحثية حلاً يسمى "عقود الوكيل" (Agent Contracts). فكر في الأمر كأنه "كتيب قواعد" قانوني وتقني تعطيه للذكاء الاصطناعي قبل أن يبدأ عمله. إنه يحول الروبوت الجامح وغير المتوقع إلى موظف منضبط يعرف تماماً كم يمكنه الإنفاق ومتى ينهي دوامه.

إليك التفاصيل باستخدام تشبيهات بسيطة:

1. المشكلة الجوهرية: "الروبوت الهائج"

وكلاء الذكاء الاصطناعي الحاليون يشبهون البطاقات الائتمانية غير المحدودة. يمكنك السحب منها بقدر ما تشاء، لكن الفاتورة تأتي فقط في النهاية. إذا ارتبك الذكاء الاصطناعي أو علق في حلقة مفرغة، فسيستمر في السحب حتى يفرغ حسابك البنكي. الأدوات الموجودة حالياً يمكنها إخبار الذكاء الاصطناعي بما يجب فعله، لكن ليس لديها طريقة رسمية لقول: "توقف إذا أنفقت أكثر من 5 دولارات" أو "توقف إذا كنت تعمل لمدة ساعة واحدة".

2. الحل: "عقد الوكيل"

يقترح المؤلفون وثيقة رسمية (مجموعة من البيانات) تعمل مثل عقد صارم بينك وبين الذكاء الاصطناعي. تتكون هذه الوثيقة من سبعة أجزاء رئيسية، يمكننا اعتبارها قواعد اللعبة:

الوصف الوظيفي (المدخلات/المخرجات): "هذه هي المواد الخام التي ستحصل عليها، وهذا هو المنتج النهائي الذي يجب عليك تسليمه."
صندوق الأدوات (المهارات): "يُسمح لك باستخدام الآلة الحاسبة ومتصفح الويب، ولكن لا يُسمح لك بالوصول إلى حسابك البنكي الخاص."
المحفظة (قيود الموارد): هذا هو الجزء الأهم. ينص على: "لديك 5.00 دولارات للإنفاق. لديك 100,000 كلمة من مساحة التفكير. يمكنك إجراء 10 عمليات بحث عبر الويب فقط."
ساعة الإيقاف (الحدود الزمنية): "لديك 30 دقيقة للانتهاء. إذا وصلت الساعة إلى 30:01، يجب أن تتوقف فوراً."
خط المرمى (معايير النجاح): "ستفوز إذا وجدت الإجابة بدقة 90%. إذا لم تفعل، فقد خسرت."
"مفتاح الإيقاف" (الإنهاء): "إذا نفد المال، أو نفد الوقت، أو علقت، ينتهي العقد تلقائياً."

3. "ميزانية العائلة" (تنسيق الوكلاء المتعددين)

ماذا لو كنت بحاجة إلى فريق من أنظمة الذكاء الاصطناعي؟ واحد للبحث، وآخر للكتابة، وآخر للتحرير؟
بدون العقود، قد ينفق "الباحث" كل الأموال، فلا يتبقى شيء لـ "الكاتب".
تقدم الورقة البحثية مفهوم "قوانين الحفاظ" (Conservation Laws). فكر في هذا مثل ميزانية العائلة:

يعطي الأب العائلة 100 دولار.
يعطي الأب "الباحث" 40 دولاراً و"الكاتب" 40 دولاراً، ويحتفظ بـ 20 دولاراً كاحتياطي أمان.
حتى لو حاول "الباحث" إنفاق 50 دولاراً، فإن النظام يوقفه لأن العقد يقول: "لديك 40 دولاراً فقط".
إذا أنهى "الباحث" عمله مبكراً وأنفق 30 دولاراً فقط، فإن الـ 10 دولارات الإضافية تعود إلى "وعاء العائلة" ليستخدمها "الكاتب".

يضمن هذا أن الفريق بأكل لن يتجاوز الميزانية الأصلية، بغض النظر عن عدد الفرق الفرعية التي ينشئونها.

4. كيف يعمل في الواقع (التجارب)

اختبر المؤلفون هذا عبر أربعة سيناريوهات مختلفة، وكانت النتائج كأنها سحر:

اختبار "مراجعة الكود": تركوا الذكاء الاصطناعي يصلح الكود البرمجي. بدون عقد، جن جنونه وأنفق ثروة. مع العقد، أنفق 90% أقل من المال وكان بنفس الجودة في إصلاح الكود. لقد توقف عن محاولة إصلاح الأشياء التي كانت مثالية بالفعل.
اختبار "فريق البحث": جعلوا ثلاثة وكلاء ذكاء اصطناعي يعملون معاً. بدون عقود، كان أحد الوكلاء أحياناً يخرج عن السيطرة ويهدر المال. مع العقود، لم يكسر أي وكيل قواعد الميزانية أبداً.
اختبار "السرعة مقابل الجودة": أظهروا أنه يمكنك إخبار الذكاء الاصطناعي: "أريد هذا بسرعة، حتى لو كان أقل كمالاً بقليل" (وضع الاستعجال) أو "أريد هذا مثالياً، خذ وقتك" (الوضع المتوازن). وقد عدّل الذكاء الاصطناعي سلوكه تماماً كما طُلب منه.

5. العقبة (مشكلة "ما بعد المكالمة")

هناك قيد صغير واحد. لا يعرف الذكاء الاصطناعي بالضبط كم أنفق أثناء تفكيره. هو يعرف التكلفة فقط بعد أن ينهي جملته.

التشبيه: الأمر يشبه طلب بيتزا. أنت لا تعرف السعر الدقيق حتى يسلمك عامل التوصيل الإيصال.
الحل: لا يمكن للنظام إيقاف "طلب البيتزا الحالي" إذا كان باهظ الثمن، ولكنه يستطيع إلغاء الطلب التالي فوراً. هذا يمنع سيناريو "الروبوت الهائج" الذي يستمر في طلب البيتزا لمدة 11 يوماً.

لماذا يهم هذا؟

الأمر لا يتعلق فقط بتوفير المال، بل يتعلق بـ الأمان والثقة.

القدرة على التنبؤ: أنت تعرف بالضبط تكلفة مهمة الذكاء الاصطناعي قبل البدء بها.
المساءلة: إذا فشل الذكاء الاصطناعي، ستعرف بالضبط السبب (نفد الوقت، أو وصل إلى حد الجودة).
القابلية للتوسع: يمكنك الآن بناء فرق ضخمة من وكلاء الذكاء الاصطناعي دون القلق من أن أحدهم قد يتسبب في إفلاس شركتك عن طريق الخطأ.

باختصار: تحول "عقود الوكيل" الذكاء الاصطناعي من "ورقة رابحة" قد تفعل أي شيء، إلى "موظف موثوق" يتبع كتيب قواعد صارم، ويحترم الميزانية، وينهي عمله في وقته المحدد. إنه الفرق بين توظيف عبقري قد يحرق المنزل، وتوظيف محترف ينجز المهمة بأمان.

1. بيان المشكلة

تعالج الورقة البحثية فجوة حرجة في نشر الوكلاء المستقلين للذكاء الاصطناعي: غياب الحوكمة الرسمية للموارد. وبينما تعمل البروتوكولات الحديثة (مثل بروتوكول شبكة العقود - Contract Net Protocol) على توحيد معايير الاتصال وتخصيص المهام، إلا أنها لا تضع قيوداً على مقدار ما يستهلكه الوكيل (الرموز/Tokens، استدعاءات واجهة برمجة التطبيقات API، الوقت) أو مدة تشغيله.

ظاهرة "الخروج عن السيطرة" (Runaway Phenomenon): يستشهد المؤلفون بحادثة واقعية حيث دخل نظام متعدد الوكلاء في حلقة تكرارية لمدة 11 يوماً، مما أدى إلى تكبد 47,000 دولار من فواتير واجهة برمجة التطبيقات بسبب غياب شروط التوقف وحدود الميزانية.
المخاطر النظامية: الإخفاقات الحالية ليست مجرد أخطاء في التنفيذ، بل هي فجوات نظامية. وتتوقع شركة "جارتنر" أن 40% من مشاريع الوكلاء الذكيين ستفشل بحلول عام 2027 بسبب تصاعد التكاليف وعدم كفاية ضوابط المخاطر.
السؤال الجوهري: الأنظمة الحالية تسأل "من يجب أن يقوم بهذه المهمة؟" (تخصيص المهام)، لكنها تفشل في السؤال "ضمن أي حدود يمكن تنفيذ هذه المهمة؟" (حوكمة الموارد).

2. المنهجية: إطار عمل عقود الوكلاء (Agent Contract Framework)

يقترح المؤلفون عقود الوكلاء، وهو إطار عمل رسمي يمدد استعارة العقد من مجالات الاقتصاد والأنظمة الموزعة إلى التنفيذ المقيد بالموارد للذكاء الاصطناعي.

أ. التعريف الرسمي

يُعرَّف عقد الوكيل $C$ كـ "سباعية" (seven-tuple):
$C = (I, O, S, R, T, \Phi, \Psi)$

$I$ (المدخلات): المخطط والقيود للمدخلات المقبولة.
$O$ (المخرجات): المخطط، التنسيق، والحد الأدنى من عتبات الجودة ( $Q_{min}$ ).
$S$ (المهارات): القدرات المدرجة (الأدوات، مجالات المعرفة) المتاحة للوكيل.
$R$ (قيود الموارد): ميزانية متعددة الأبعاد (مثل الرموز، استدعاءات API، التكرارات، وقت الحوسبة، التكلفة).
$T$ (الزمن): وقت التفعيل والمدة (وقت البقاء - Time-to-Live).
$\Phi$ (معايير النجاح): شروط قابلة للقياس وموزونة للوفاء بالالتزام (مثل الدقة > 0.95).
$\Psi$ (الإنهاء): شروط الإنهاء الفوري (مثل استنفاد الموارد، أو الإلغاء الصريح).

ب. إدارة دورة الحياة

تنتقل العقود عبر حالات: مسودة (DRAFTED) $\leftarrow$ نشط (ACTIVE) $\leftarrow$ {مكتمل (FULFILLED)، منتهك (VIOLATED)، منتهي الصلاحية (EXPIRED)، مُنهى (TERMINATED)}.

شروط الحراسة (Guard Conditions): تُحكم الانتقالات بمنطق صارم (على سبيل المثال، الانتقال إلى حالة VIOLATED إذا تحقق الشرط $\exists r_i: c_i \ge b_i$ ).
المساءلة: يصل كل عقد إلى حالة نهائية واحدة بالضبط، مما يتيح سجل تدقيق واضح وتحرير الموارد.

ج. التنسيق متعدد الوكلاء وقوانين الحفظ

بالنسبة للأنظمة الهرمية، يقدم الإطار قوانين الحفظ لضمان الانضباط في الميزانية:
$\sum_{j \in agents} c(r)_j \le B(r)$

التفويض: يمكن للمنسق (Orchestrator) إصدار عقود فرعية للعمال. ويجب ألا يتجاوز مجموع ميزانيات العقود الفرعية ميزانية العقد الرئيسي.
إعادة التخصيص الديناميكي: تعود الميزانيات غير المستخدمة من الوكلاء المكتملين إلى حوض مشترك، مما يسمح للوكلاء الفعالين بدعم المهام المعقدة مع الحفاظ على الانضباط الكلي للنظام.

د. آليات الإنفاذ

يميز البحث بين طبقتين من الإنفاذ:

الإنفاذ المرن (Soft Enforcement): التلقين الواعي بالميزانية (حقن الميزانية المتبقية في السياق/Context). يعتمد هذا على تعاون الوكيل ولكنه يعاني من "مرونة الرموز" (حيث غالباً ما يتجاوز الوكلاء الحدود).
الإنفاذ الصلب (Hard Enforcement): مراقب هيكلي خارئي يتتبع الاستهلاك بعد كل إجراء. إذا تم خرق قيد ما، يقوم النظام بإيقاف التنفيذ فوراً، بغض النظر عن الحالة الداخلية للوكيل. وهذا هو الآلية الأساسية لمنع التكاليف الجامحة.

3. المساهمات الرئيسية

إطار عمل رسمي: تعريف موحد للسباعية ( $C$ ) يدمج المدخلات/المخرات، الموارد، الزمن، ومعايير النجاح في آلية حوكمة واحدة.
قوانين الحفظ: ضمانات رياضية تضمن أن الميزانيات المفوضة في هياكل الوكلاء المتعددة لا تتجاوز أبداً قيود العقد الأب، مما يسمح بأنماط تنسيق قابلة للتركيب.
الإرضاء التشغيلي (Operational Satisficing): تطبيق نظرية سايمون حول العقلانية المحدودة على الذكاء الاصطناعي، مما يسمح للوكلاء بالمفاضلة بين الجودة وكفاءة الموارد عبر "أوضاع العقود" (مثل: عاجل مقابل اقتصادي).
الإنفاذ الهيكلي: التحول من الاعتماد على التنظيم الذاتي للوكيل إلى آليات إيقاف هيكلية خارجية تضمن حدود الموارد.

4. النتائج التجريبية

تم التحقق من صحة الإطار من خلال أربع تجارب باستخدام Google ADK و LiteLLM مع نماذج Gemini:

التجربة	الهدف	النتائج الرئيسية
مراجعة الكود (سير عمل تكراري)	منع الحلقات الجامحة	تقليل الرموز بنسبة 90%؛ تباين أقل بـ 525 ضعفاً في استخدام الرموز؛ و43% تكرارات أقل. ظلت نسبة النجاح متساوية إحصائياً.
خط إنتاج الأبحاث (متعدد الوكلاء)	التحقق من قوانين الحفظ	صفر انتهاكات لقوانين الحفظ عبر 50 تجربة. رصد وأوقف وكيلاً جامحاً تجاوز ميزانيته بنسبة 40%. انخفض تباين الجودة بمقدار 26.7 ضعفاً.
الاتصال في الأزمات (منع الفشل)	منع الفشل	تقليل الرموز بنسبة 23% مع جودة متساوية. منع الوكلاء من العلوق في حلقات التقييم (نجاح بنسبة 100% مقابل الفشل في الحالة غير المقيدة).
أوضاع الاستراتيجية (ألغاز منطقية)	مقايضات الجودة/الموارد	أظهرت مقايضات قابلة للتحكم: عاجل (URGENT) (نجاح 70%) مقابل متوازن (BALANCED) (نجاح 86%). يمكن للمستخدمين الاختيار صراحة بين السرعة والدقة.

5. الأهمية والآفاق المستقبلية

القدرة على التنبؤ: تحول عقود الوكلاء سلوك الوكلاء "الصندوق الأسود" غير المتوقع إلى عمليات مقيدة وقابلة للتدقيق.
القابلية للتوسع: من خلال فرض قوانين الحفظ، يسمح الإطار بالتوسع الآمن للأنظمة متعددة الوكلاء الهرمية والمعقدة دون خطر انفجار التكاليف بشكل أسّي.
الأثر الصناعي: يعالج العائق الرئيسي أمام اعتماد المؤسسات (التحكم في التكلفة والمخاطر). إنه ينقل الصناعة من "التحسين التكراري من أجل الموثوقية" إلى "الحوكمة الرسمية من أجل السلامة".
العمل المستقبلي: يشير المؤلفون إلى أن الإنفاذ الحقيقي في الوقت الفعلي "داخل الاستدعاء الواحد" (إيقاف التوليد في منتصف العملية) يتطلب دعماً على مستوى واجهة برمجة التطبيقات من مزودي النماذج (مثل التوليد القابل للمقاطعة، وحجز الرموز). وحتى ذلك الحين، يوفر الإطار إنفاذاً قوياً "بين الاستدعاءات".

الخلاصة: توفر عقود الوكلاء الأساس الرسمي اللازم لنقل الوكلاء المستقلين من النماذج الأولية التجريبية إلى أنظمة موثوقة جاهزة للإنتاج عبر الحوكمة الصريحة لـ "مقدار" و"مدة" تنفيذ الوكيل.