🤖 AI

Mechanism Design Is Not Enough: Prosocial Agents for Cooperative AI

تُبين هذه الورقة أن تصميم الآليات وحده غير كافٍ لتعظيم الرفاه الاجتماعي في التفاعلات القائمة على الذكاء الاصطناعي بسبب القيود المتأصلة في اكتمال العقود، وتجادل بدلاً من ذلك بأن تزويد وكلاء النماذج اللغوية الكبيرة بصفات اجتماعية إيجابية ذاتية هو أمر ضروري لتحقيق نتائج تعاونية متفوقة.

المؤلفون الأصليون: Xuanqiang Angelo Huang, Charlie Tharas, Samuele Marro, Van Q. Truong, Bernhard Schölkopf, Emanuele La Malfa, Zhijing Jin

نُشر 2026-05-12

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Xuanqiang Angelo Huang, Charlie Tharas, Samuele Marro, Van Q. Truong, Bernhard Schölkopf, Emanuele La Malfa, Zhijing Jin

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "تصميم الآليات ليس كافياً: الوكلاء ذوو النزعة الاجتماعية من أجل الذكاء الاصطناعي التعاوني" باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.

الفكرة الكبرى: القواعد ليست كافية

تخيل أنك تحاول دفع مجموعة من الناس للعمل معاً لبناء قلعة رملية ضخمة. قد تعتقد أن أفضل طريقة لضمان تعاون الجميع هي كتابة كتاب قواعد صارم للغاية (آلية). ينص كتاب القواعد على: "إذا سرقت الرمل، ستُغرم. إذا ساعدت في الببناء، ستحصل على مكافأة".

تجادل هذه الورقة بأن أفضل كتاب قواعد يمتلك عيباً قاتلاً. فمهما كتبت من قواعد بذكاء، ستكون هناك دائماً مواقف لم تكن تتوقعها أو تستطيع تدوينها. وعندما تحدث تلك المواقف "غير المكتوبة"، سيجد الأشخاص الأنانيون (أو وكلاء الذكاء الاصطناعي) طريقة للتحايل على النظام، وستنتهي القلعة الرملية بحجم أصغر مما كان يمكن أن تكون عليه.

حل الورقة؟ لا تعتمد فقط على كتاب القواعد. عليك برمجة العمال (وكلاء الذكاء الاصطناعي) لكي يهتموا بنجاح المجموعة بقدر اهتمامهم بنجاحهم الشخصي.

المشكلة: العقد "غير القابل للصياغة"

استخدم المؤلفون مفهوماً من علم الاقتصاد يسمى نظرية العقود غير المكتملة.

التشبيه: جهاز التحكم عن بعد
تخيل أنك تحاول برمجة جهاز تحكم عن بعد لتشغيل منزل. يمكنك كتابة تعليمات لـ "تشغيل الأضواء"، و"قفل الباب"، و"بدء تشغيل الفرن". ولكن ماذا لو انفجر أنبوب مياه في منتصف الليل؟ أو ماذا لو سقطت شجرة على السطح؟ لا يمكنك كتابة قاعدة محددة لكل كارثة محتملة قد تحدث في المستقبل.

في عالم الذكاء الاصطنا، يُطلق على هذا اسم "الخلية غير القابلة للتعاقد". إنها منطقة رمادية حيث لا يستطيع القواعد التمييز بين موقفين مختلفين، رغم أن التصرف "الصحيح" يختلف في كل منهما.

ادعاء الورقة: بما أن وكلاء الذكاء الاصطناعي مبرمجون عادةً ليكونوا أنانيين تماماً (يهتمون بمصالحهم فقط)، فعندما يصطدمون بإحدى هذه "المناطق الرمادية"، سيختارون الخيار الذي يفيدهم أكثر، حتى لو أضر بالمجموعة. لا يمكن لأي تعديل في كتاب القواعد أن يصلح ذلك لأن كتاب القواعد لا يستطيع حرفياً رؤية الفرق بين الموقفين.

التجربة: نوعان من الذكاء الاصطناعي

اختبر الباحثون هذا باستخدام النماذج اللغوية الكبيرة (LLMs) في سيناريوهين رئيسيين:

"معضلة السجين" (TableGames): يتعين على وكيلين من الذكاء الاصطناعي تقرير ما إذا كانا سيتعاونان أم سيخونان بعضهما البعض. في بعض الأحيان، يمكنهما كتابة عقد (مجموعة من القواعد) لفرض التعاون.
"المشاع" (GovSim): خمسة وكلاء من الذكاء الاصطناعي يصطادون في بحيرة مشتركة. يتعين عليهم تقرير عدد الأسماك التي سيصطادونها حتى لا تجف البحيرة.

لقد اختبروا ثلاث حالات:

لا يوجد عقد: حالة فوضى مطلقة.
عقد باللغة الطبيعية: يتحدث الوكلاء ويتفقون على القواعد، لكن لا يوجد تنفيذ لها.
عقد برمجِي (كود): يتفق الوكلاء على القواعد، ويقوم برنامج كمبيوتر بفرضها بصرامة (مثل الحكم).

النتائج: "فجوة التعاون"

إليك ما وجدوه:

1. سقف القواعد
حتى عندما امتلك الوكلاء عقداً صارماً يتم تنفيذه بواسطة الكمبيوتر (العقد البرمجي)، إلا أنهم فشلوا في الوصول إلى النتيجة المثالية في المواقف المعقدة.

التشبيه: تخيل حكماً يمكنه رؤية ما إذا كنت قد خرجت عن الحدود، لكنه لا يستطيع رؤية ما إذا كنت تخبئ الكرة في جيبك أثناء الجري. يمكن للحكم أن يعاقبك على الخروج عن الحدود، لكنه لا يستطيع منعك من الغش في الجيب.
النتيجة: في لعبة "الصيد"، حتى مع وجود قواعد صارمة، ظل الوكلاء الأنانيون يصطادون الأسماك بشكل مفرط أو لم يتعاونوا بشكل كامل. كانت هناك "فجوة تعاون" — وهي خسارة في السعادة والموارد المحتملة لم تستطع القواعد إصلاحها.

2. قوة النزعة الاجتماعية
بعد ذلك، قام الباحثون بتغيير "شخصية" الذكاء الاصطناعي. بدلاً من قول "عظم عدد أسماكك الخاصة"، قالوا لهم "عظم إجمالي الأسماك للمجموعة بأكملها".

التشبيه: بدلاً من توظيف عامل يهتم فقط براتبه الخاص، أنت توظف عاملاً يحب الفريق بصدق ويريد للفريق أن يفوز، حتى لو كان ذلك يعني حصوله شخصياً على قطعة أصغر قليلاً من الكعكة.
النتيجة: هؤلاء الوكلاء "الاجتماعيون" أغلقوا الفجوة. لقد حققوا النتيجة المثالية حتى في المواقف التي فشلت فيها القواعد. لم يكونوا بحاجة إلى حكم يراقبهم؛ بل كانوا يراقبون بعضهم البعض.

لماذا يهم هذا سلامة الذكاء الاصطناعي

تخلص الورقة إلى أنه لا يمكننا الاعتماد فقط على القواعد الخارجية (القوانين، العقود، العقوبات) لجعل الذكاء الاصطناعي آمناً ومتعاوناً.

الخلاصة: إذا أردنا من وكلاء الذكاء الاصطناعي العمل معاً بأمان في العالم الحقيقي (حيث الأمور فوضوية وغير متوقعة)، فلا يمكننا مجرد بناء كتب قواعد أفضل. يجب علينا بناء وكلاء يتمتعون بنزعة خير داخلية. يجب برمجتهم للاهتمام برفاهية الآخرين، وليس فقط بنتيجتهم الخاصة.

ملخص في جملة واحدة

لا يمكنك كتابة قاعدة لكل مشكلة مستقبلية محتملة، لذا إذا أردت من وكلاء الذكاء الاصطناعي التعاون بشكل مثالي، فلا يمكنك مجرد إعطائهم كتاب قواعد؛ بل يجب أن تمنحهم قلباً (أو على الأقل برمجة تجعلهم يهتمون بالمجموعة).

ملخص تقني: تصميم الآليات ليس كافيًا: الوكلاء ذوو النزعة الاجتماعية لتعزيز الذكاء الاصطناائي التعاوني

1. بيان المشكلة

مع ازدياد استقلالية وكلاء الذكاء الاصطناعي، ستعمل هذه الوكلاء في بيئات مشتركة تتطلب التعاون (مثل تخصيص الموارد، أو المشاريع التعاونية). ويتمثل التحدي المركزي في سلامة الذكاء الاصطناعي في ضمان تصرف هذه الوكلاء بشكل مفيد عند تفاعلها مع أطراف أخرى. وبينما تم تطبيق تصميم الآليات (Mechanism Design)—وهو نظرية تصميم القواعد لمواءمة الحوافز الفردية مع الأهداف الجماعية—على الأنظمة متعددة الوكلاء، لا يزال السؤال مفتوحًا حول ما إذا كان ذلك كافيًا لتعظيم الرفاه الاجتماعي في البيئات المعقدة ومفتوحة النهايات.

تجادل الورقة بأن الاعتماد فقط على تصميم الآليات غير كافٍ بسبب القيود الجوهرية لـ عدم اكتمال العقود (Contract Incompleteness). ففي سيناريوهات العالم الحقيقي، من المستحيل تحديد وفرض قواعد لكل طارئ مستقبلي ذي صلة. وعندما تعجز العقود عن التمييز بين جميع الحالات المستقبلية ذات الصلة، تظهر "فجوة تعاون" حيث تفشل الوكلاء المصلحية في تحقيق نتائج مثالية اجتماعيًا، بغض النظر عن مدى جودة تصميم الآلية.

2. المنهجية

الإطار النظري

قام المؤلفون بصياغة حدود تصميم الآليات باستخدام نظرية العقود غير المكتملة (Grossman, Hart, and Moore).

الخلايا غير القابلة للتعاقد (Incontractible Cells): قاموا بتعريف تقسيم للحالات المستقبلية حيث لا تستطيع الآلية التمييز بكفاءة بين الحالات التي تتطلب إجراءات مختلفة لتعظيم الرفاه.
عدم القدرة الصارم على التعاقد (Strict Incontractibility): وهي خاصية حيث، ضمن مجموعة من الحالات (خلية)، لا يوجد ملف إجراء واحد هو الأفضل (First-best) لجميع الحالات، ويتفاوت الإجراء الذي يعظم الرفاه عبر الخلية.
فجوة التعاون (The Cooperation Gap): أثبتوا أنه في البيئات التي تظهر عدم قدرة صارمة على التعاقد ضمن هيكل معضلة اجتماعية، لا يمكن لأي آلية مقبولة أن تلغي خسارة الرفاه الناتجة عن اللعب المصلحي. خسارة الرفاه المتوقعة موجبة تمامًا ( $\Delta(M) > 0$ ).
الوكلاء ذوو النزعة الاجتماعية (Prosocial Agents): قاموا بنمذجة وكلاء بـ تفضيلات تعاونية ( $\lambda$ -cooperative)، حيث تتضمن دالة المنفعة للوكيل حداً مرجحاً لإجمالي الرفاه الاجتماعي: $V_i^\lambda = u_i + \lambda W$ $V_{i}^{λ} = u_{i} + λW$ .
- $\lambda = 0$ : وكيل مصلحي.
- $\lambda > 0$ : وكيل ذو نزعة اجتماعية.
- $\lambda \to \infty$ : لعبة فريق (تعظيم إجمالي الرفاه).

توضح النظرية أنه بينما لا تستطيع الآليات سد الفجوة في المناطق غير القابلة للتعاقد، فإن الوكلاء ذوي النزعة الاجتماعية الكافية ( $\lambda$ كبيرة بما يكفي) يمكنهم استيعال حد الرفاه داخليًا، مما يؤدي فعليًا إلى اختيار الإجراء الأمثل اجتماعيًا حتى عندما تعجز الآلية عن التمييز بين الحالات.

الإعداد التجريبي

تم التحقق من الادعاءات النظرية تجريبيًا باستخدام النماذج اللغوية الكبيرة (LLMs) في بيئتين معياريتين:

ألعاب الطاولة (TableGames - GT-HarmBench): توسع معضلة السجين ولعبة البحث عن الطرائد (Stag Hunt) لتشمل إعداد 4x4 للمخاطر الأخلاقية (Moral Hazard).
- تختار الوكلاء إجراءً أساسيًا (تعاون/خيانة) ومستوى جهد غير مرئي (عالي/منخفض).
- يخلق الجهد غير المرئي خلية غير قابلة للتعاقد، حيث يمكن للآلية ملاحظة النتيجة فقط، وليس الجهد المبذول.
محاكاة حوكمة المشاع (GovSimContract): محاكاة لحوكمة المشاع متعددة الوكلاء حيث يصطاد الوكلاء من بركة مشتركة ومتجددة.
- تتضمن أنظمة حتمية (معدل تجديد معروف) وعشوائية (معدل تجديد غير معروف وعشوائي).
- يوفر التجديد العشوائي حالة من عدم القدرة على التعاقد فيما يتعلق بتوفر الموارد في المستقبل.

الظروف المختبرة:

أنظمة التعاقد (Contract Regimes): لا يوجد عقد، عقد باللغة الطبيعية (غير مفروض)، وعقد برمجي (مفروض عبر كود Python).
أنواع الوكلاء: مصلحي ( $\lambda=0$ ) مقابل ذو نزعة اجتماعية ( $\lambda \to \infty$ ).
النماذج: GPT-4o, GPT-5.4, GPT-5.4 Mini, Gemma-4-31B, و Grok-4.1-Fast.

3. المساهمات الرئيسية

صياغة عدم اكتمال العقود: تقدم الورقة صياغة رسمية لعدم اكتمال العقود كتقسيم للحالات المستقبلية، مما يسلط الضوء على أهميته في تصميم الآليات الخوارزمية حيث يُفترض غالبًا وجود تعاقد كامل.
إثبات فجوة التعاون: أثبت المؤلفون أنه تحت ظروف الخلايا غير القابلة للتعاقد مع هيكل معضلة اجتماعية، لا يمكن لأي آلية واقعية أن تلغي خسارة الرفاه الناتجة عن اللعب المصلحي (النظرية 6). هذه الخسارة متأصلة في بنية المشكلة، وليست قصورًا في آلية محددة.
النزعة الاجتماعية كحل: أظهروا أن الوكلاء ذوي النزعة الاجتماعية ( $\lambda$ -cooperative) يمكنهم سد هذه الفجوة. فالوكلاء ذوو النزعة الاجتماعية يستوعبون تكلفة الخيانة على الآخرين داخليًا، محققين نتائج متفوقة اجتماعيًا وهي أيضًا مفيدة فرديًا في المعضلات الاجتماعية الصارمة (النظرية 9).
التحقق التجريبي: توفر الورقة أدلة على أن فجوة التعاون النظرية تظهر في الواقع عبر النماذج اللغوية الكبيرة الرائدة. وتظهر أن العقود تحفز التعاون، لكن النزعة الاجتماعية تحقق مكاسب إضافية لا يمكن للعقود وحدها الوصول إليها.
تحليل القدرة على التعاقد: تختبر الدراسة قدرة النماذج اللغوية الكبيرة على التنسيق بشأن العقود، وتجد أنه رغم تحسنها عن الخطوط المرجعية، إلا أن النماذج الحالية لا تزال تقصر عن الوصول إلى العقد الأمثل نظريًا، خاصة في البيئات المعقدة (4x4) أو العشوائية.

4. النتائج

استمرار الفجوة: في ألعاب الطاولة 4x4 (حيث الجهد غير قابل للتعاقد)، فشلت حتى أقوى "العقود البرمجية" في سد فجوة التعاون. كانت الفجوة حوالي 60-68 نقطة مئوية في كفاءة الرفاه مقارنة بالأمثل اجتماعيًا.
النزعة الاجتماعية تتفوق على العقود: في الأنظمة غير القابلة للتعاقد (ألعاب 4x4 وGovSim العشوائية)، حقق الوكلاء ذوو النزعة الاجتماعية مكاسب جماعية، ومعدلات بقاء، واستدامة موارد أعلى بكثير من الوكلاء المصلحيين، بغض النظر عن نظام التعاقد.
الاستبدال مقابل التكامل:
- في البيئات القابلة للتعاقد (مثل ألعاب 2x2 وGovSim الحتمية)، تعمل العقود والنزعة الاجتماعية كبدائل؛ حيث تستحوذ العقود القوية على معظم الرفاه المتاح.
- في البيئات غير القابلة للتعاقد، يعملان كمتكاملين؛ إذ لا تستطيع العقود سد الفجوة، وتصبح النزعة الاجتماعية مطلوبة لاستعادة الرفاه المفقود.
سلوك النماذج:
- أظهرت معظم النماذج الرائدة (GPT-5.4, GPT-5.4 Mini, Gemma-4, Grok-4.1) نزعة اجتماعية ضمنية تقترب من الصفر ( $\hat{\lambda} \approx 0$ ) عند مطالبتها بأن تكون مصلحية.
- كان GPT-4o استثناءً، حيث أظهر نزعة اجتماعية مقدرة غير صفرية ( $\hat{\lambda} \ge 4.10$ )، ومع ذلك ظل يعاني في صياغة العقود المعقدة.
- غالبًا ما صاغت النماذج اللغوية الكبيرة عقودًا دون المستوى (مثل وضع قيود احترازية مفرطة في GovSim الحتمية) أو فشلت في إعادة التفاوض بشأن العقود غير الفعالة.

5. الأهمية والآثار المترتبة

تخلص الورقة إلى أن تصميم آليات كافية ليس كافيًا لتمكين التفاعلات التعاونية على نطاق واسع. فعندما تكون البيئات معقدة بما يكفي لجعل العقود غير مكتملة حتمًا، تصبح القيم الجوهرية للوكلاء شرطًا ضروريًا للسلوك التعاوني، وليست مجرد إضافة اختيارية.

سلامة الذكاء الاصطناعي: توفر النتائج دافعًا رسميًا لبناء وكلاء ذكاء اصطناعي ذوي نزعة اجتماعية جوهرية. فبدون هذا التوافق الجوهري، لا يمكن تحقيق مكاسب الرفاه في إعدادات العقود غير المكتملة.
بارامترات التصميم: تُقدم النزعة الاجتماعية كمعلم تصميم قابل للقياس ( $\lambda$ ). يمكن لمصممي الأنظمة حساب الحد الأدنى من النزعة الاجتماعية المطلوبة لهيكل تفاعل معين بدلاً من معاملة التعاون كخيار ثنائي.
التحقق: تشير الدراسة إلى الحاجة لأساليب تحقق لشهادة تعاون الوكيل للأطراف المقابلة، حيث يمكن للوكلاء ذوي النزعة الاجتماعية أن يتعرضوا للاستغلال من قبل الوكلاء المصلحيين دون مثل هذه الشهادة.

يشير المؤلفون بتواضع إلى القيود، مثل ضعف اختبارات النزعة الاجتماعية البسيطة أمام الوكلاء المصلحيين، والاعتماد الحالي على التنفيذ القائم على الأوامر (Prompts) للنزعة الاجتماعية، مما يفتح المجال للعمل المستقبلي في التفسير الآلي (Mechanistic Interpretability) والتكامل الأعمق للنماذج.