← أحدث الأبحاث
💻 computer science

Contracting for LLM Delegation: Moral Hazard in Technology and Effort Choice

توسع هذه الورقة إطار "الأصيل-الوكيل" لنمذجة تفويض النماذج اللغوية الكبيرة، مبرهنةً على أن العقود الخطية المثلى ذات التبديل التكنولوجي القائم على العتبة توائم بفعالية بين الحوافز بين الأصلاء والوكلاء الذين يختارون بشكل مشترك النماذج ومستويات الجهد، وهو استنتاج تم التحقق من صحته من خلال الاشتقاق النظري والمعايرة التجريبية على معايير MATH وMMLUPro.

المؤلفون الأصليون: Nanda Kishore Sreenivas, Kate Larson

نُشر 2026-08-20
📖 5 دقيقة قراءة🧠 قراءة متعمّقة

المؤلفون الأصليون: Nanda Kishore Sreenivas, Kate Larson

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالم الذكاء الاصطناعي المتطور بسرعة، تحدث ثورة هادئة حيث لم تعد الحواسيب تكتفي بمجرد الإجابة على الأسئلة، بل يُطلب منها القيام بالعمل نفسه. فبدلاً من أن يقوم إنسان بكتابة أمر برمجي والانتظار للحصول على رد واحد، نشهد صعود الوكلاء المستقلين — وهي برامج حاسوبية يمكنها تفكيك المهام المعقدة، واتخاذ القرارات، وتنفيذ الخطوات من تلقاء نفسها. تخيل شركة محاماة تطلب من ذكاء اصطناعي مراجعة عقد، أو فريق برمجيات يطلب منه إصلاح خطأ برمي. يقدم الإنسان الهدف، لكن الآلة هي التي تقرر كيفية الوصول إليه. يخلق هذا التحول نوعاً جديداً من العلاقة، وهي علاقة درسها الاقتصاديون لعقود: ديناميكية "الأصيل والوكيل" (principal-agent). في هذا الترتيب، يقوم طرف، وهو الأصيل، بتعيين طرف آخر، وهو الوكيل، لأداء مهمة ما. وتنشأ المشكلة عندما لا يستطيع الأصيل رؤية ما يفعله الوكيل بالضبط. فإذا كان الوكيل يُدفع له بناءً على مقدار العمل الذي يبدو أنه ينجزه، فقد يهدر الوقت أو يختار أرخص الأدوات وأقلها فعالية لمجرد توفير المال، مما يترك الأصيل مع نتيجة رديئة. يُعرف هذا السلوك الخفي باسم "الخطر الأخلاقي" (moral hazard)، ويصبح الأمر معقداً بشكل خاص عندما يكون "العامل" ذكاءً اصطناعياً متطوراً يمكنه الاختيار بين مستويات مختلفة من القدرات الذهنية وتقرير مدى الجهد الذي سيبذله في حل مشكلة ما.

لقد دخل باحثون من جامعة واترلو هذا المشهد الناشئ لمعرفة كيفية دفع أجور هؤلاء الوكلاء المستقلين بشكل عادل وفعيد. وركزوا على سيناريو محدد يجب على الوكيل فيه اختيار شيئين: أي نموذج لغوي كبير سيستخدم كـ "عقل" له، وكم مقدار الجهد الحسابي الذي سيبذله في المهمة. فكر في النماذج كأنها أنواع مختلفة من المحركات؛ فبعضها صغير ورخيص وسريع ولكنه قد يعاني في المسائل الصعبة، بينما البعض الآخر ضخم ومكلف وقوي ولكنه يكلف ثروة لتشغيله. كما يقرر الوكيل أيضاً مستوى "الجهد"، وهو في عالم الذكاء الاصطناعي يعني عدد الرموز (tokens)، أو وحدات النص، التي يولدها لحل المشكلة. وجد الباحثون أن جودة الإجابة تتحسن مع بذل الوكيل لمزيد من الجهد، ولكن حتى نقطة معينة فقط. تماماً مثل ملء دلو بالماء؛ فاللترات القليلة الأولى تحدث فرقاً هائلاً، ولكن بعد فترة، يؤدي إضافة المزيد من الماء إلى فيضان الدلو دون أن يجعله أكثر امتلاءً. هذا النمط، المعروف باسم "الدالة المشبعة" (saturating function)، يعني أن إنفاق المزيد من المال على الجهد يؤدي في النهاية إلى عوائد متناقصة.

كان جوهر الدراسة هو تصميم خطة دفع، أو عقداً، يشجع الوكيل على اتخاذ الخيارات الصحيحة دون الحاجة لمراقبة الأصيل لكل حركة يقوم بها. اقترح الباحثون عقداً خطياً بسيطاً: يحصل الوكيل على نسبة مئوية من قيمة النتيجة النهائية. إذا كانت النتيجة جيدة، يحصل الوكيل على حصة أكبر من الكعكة. وقد أثبت الفريق رياضياً أنه بموجب هذا النظام، سينتقل الوكيل طبيعياً من استخدام نموذج أرخص وأضعف إلى نموذج أغلى وأقوى فقط عندما تتخطى حصة المكافأة عتبة معينة. وتحت هذا الخط، يتمسك الوكيل بالنموذ de الرخيص لتوفير التكاليف. وفوقه، تجعل إمكانية الحصول على نتيجة أفضل النموذج الغالي يستحق الثمن. نقطة التحول هذه ليست عشوائية؛ بل هي حدود رياضية دقيقة تحددها تكاليف وقدرات النماذج المتاحة. كما أظهر الباحثون أن بإمكان الأصيل حساب النسبة المئوية المثالية التي يجب تقديمها لتعظيم ربحه الخاص، موازناً بين تكلفة المكافأة وجودة العمل الناتج.

ولمعرفة ما إذا كانت هذه النظرية ستصمد في العالم الحقيقي، اختبر الفريق هذه الفرضية باستخدام نماذج ذكاء اصطناعي فعلية في تحديين صعبين: الرياضيات المتقدمة وأسئلة المعرفة العامة المعقدة. وقد جمعوا بيانات حول كيفية أداء النماذج المختلفة مع السماح لها باستخدام المزيد والمزيد من الجهد الحسابي، مطبقين منحنيات أدائها الواقعي على المنحنيات النظرية. ثم أنشأوا محاكاة حيث يتفاعل وكيل ذكاء اصطناعي وأصيل بشري عبر آلاف الجولات. استخدم الوكيل خوارزمية تعلم لمعرفة أفضل نموذج ومستوى جهد للنسب المئوية المختلفة للدفع، بينما تعلم الأصيل نسبة المكافأة التي تحقق أفضل النتائج. وكانت النتائج مذهلة؛ فقد بدأ كل من الوكيل والأصيل دون معرفة مسبقة بالقدرات الخفية للنماذج، ومع ذلك استقر كلاهما في النهاية على استراتيجيات تطابق التوقعات النظرية للباحثين بشكل شبه مثالي. لقد تعلم الوكلاء تبديل النماذج عند النقطة الدقيقة التي تشير إليها الرياضيات، وتعلم الأصلاء تقديم حصة المكافأة التي تعظم عوائدهم بدقة.

كما استكشفت الدراسة ما يحدث عندما تتطلب النماذج فترة "إحماء" (warm-up)، وهي مرحلة يجب فيها بذل قدر معين من الجهد قبل البدء في إنتاج أي إجابة مفيدة. وهذا أمر شائع في مهام الاستنتاج المعقدة حيث يحتاج الذكاء الاصطناعي للتفكير لفترة قبل أن يتمكن من كتابة الحل. وجد الباحثون أن هذه التكلفة الأولية تغير الحسابات قليلاً، مما يدفع النقطة التي يصبح فيها الانتقال إلى نموذج أقوى أمراً يستحق العناء إلى مستويات أعلى. وحتى مع هذا التعقيد المضاف، وجدت خوارزميات التعلم في المحاكاة المسار الأمثل، مما يؤكد أن العقود البسيطة والشفافة يمكنها توجيه الأنظمة المستقلة المعقدة نحو السلوك الفعال. ويشير هذا العمل إلى أنه بينما نتحرك نحو مستقبل يدير فيه وكلاء الذكاء الاصطناعي وكلاء آخرين، فإننا لسنا بحاجة إلى أنظمة معقدة وغير شفافة لإبقائهم صادقين. إن اتفاقاً مباشراً مبنياً على جودة النتيجة كافٍ لمواءمة مصالح البشر والآلات، مما يضمن استخدام الأدوات الصحيحة وبذل الجهد المناسب.

لا تدعي هذه الدراسة أنها حلت كل المشكلات في اقتصاديات الذكاء الاصطناعي. إذ يشير المؤلفون إلى أن نموذجهم يفترض أن الأصيل يمكنه التحقق من النتيجة النهائية بسهولة، وهو ما قد لا يكون صحيحاً دائماً في العالم الحقيقي. كما أشاروا إلى أن العمل المستقبلي يمكن أن يستكشف الحالات التي تكون فيها قيمة المهمة مخفية عن الوكيل، مما يخلق طبقة أعمق من عدم اليقين. ومع ذلك، توفر النتائج أساساً متيناً لفهم كيفية هيكلة الصفقات في عصر التفويض المستقل. ومن خلال معاملة اختيار التكنولوجيا وتخصيص الجهد كقرار واحد منسق، تقدم الدراسة مساراً واضحاً لبناء أسواق يمكن فيها لوكلاء الذكاء الاصطناعي العمل بكفاءة دون إشراف بشري مستمر. والرسالة هي تفاؤل حذر: فمع وجود الحوافز الصحيحة، يمكن توجيه الآلات المعقدة للذكاء الاصطناعي لتعمل لصالحنا، وليس لمصلحتها الخاصة فحسب.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →