← أحدث الأبحاث
💻 computer science

When May an Agent Stop? Evidence-Carrying Termination for Tool-Using LLMs

تقدم هذه الورقة البحثية "الإنهاء الحامل للأدلة" (ECT)، وهو إطار عمل مبتكر لوكلاء النماذج اللغوية الكبيرة (LLMs) المستخدمة للأدوات، يفرض شهادات نمطية تربط ادعاءات الإجابة بأدلة تتبع صالحة وقابلة لإعادة التشغيل قبل الإتمام، مما يثبت في تجارب منضبطة أنه يحقق صفرًا من عمليات الإتمام غير الآمنة ويقلل بشكل كبير من حالات الإنهاء المبكر غير المدعوم مقارنة بالنهج القائمة على النقد الموجودة حاليًا.

المؤلفون الأصليون: Jason Liu

نُشر 2026-08-26
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Jason Liu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالم الذكاء الاصطناعي، ظهر نوع جديد من البرمجيات: الوكيل المستقل. وخلافاً للآلة الحاسبة البسيطة التي تنتظر أمراً ما، صُممت هذه الوكلاء لتفكر، وتخطط، وتتصرف. يمكنهم تصفح الويب، أو تشغيل الأكواد، أو الاستعلام من قواعد البيانات لحل المشكلات المعقدة، تماماً مثل باحث بشري يجمع المعلومات. ومع ذلك، فإن هذه القدرة الجديدة تجلب معها معضلة جوهرية: كيف يعرف الجهاز متى يتوقف؟ إذا استمر الوكيل في العمل للأبد، فإنه يهدر الموارد ويخاطر بتراكم الأخطاء. وإذا توقف مبكراً جداً، فقد يقدم إجابة غير مكتملة أو مبنية على سوء فهم. لسنوات، حاول المهندسون حل هذه المشكلة عبر مطالبة الذكاء الاصطناعي بمجرد إعلان انتهاء مهمته أو بجعل ذكاء اصطناعي ثانٍ يحكم ما إذا كانت الإجابة تبدو جيدة. لكن هذه الأساليب تعتمد على ثقة الآلة في نفسها، والتي قد تكون في غير محلها. التحدي الحقيقي ليس مجرد مطالبة الوكيل بالتوقف، بل إثبات أن قرار التوقف مدعوم ببرهان متين وغير قابل للتغيير يوضح أن كل جزء من الإجابة قد تم العثي عليه وحسابه بشكل صحيح.

لقد عالج باحث في جامعة كاليفورنيا سان دييغو هذه المشكلة بنظام يسمى "الإنهاء الحامل للدليل" (Evidence-Carrying Termination). فبدلاً من ترك الوكيل يقرر التوقف بناءً على شعور أو قائمة مراجعة بسيطة، يتطلب هذا النظام من الوكيل إنتاج شهادة رسمية قبل أن يتمكن من إنهاء المهمة. فكر في هذه الشهادة كإيصال يجب على الوكيل إنتاجه لكل ادعاء يقدمه في إجابته النهائية. لا يمكن للوكيل أن يقول فقط: "لقد وجدت الإجابة"، بل يجب عليه أن يوضح بالضبط أي استدعاء للأداة قدم البيانات، ويثبت أن البيانات كانت ذات صلة بالسؤال المطروح تحديداً، ويوضح أن الرقم أو الحقيقة النهائية قد استُخرجت باستخدام مجموعة صارمة وغير قابلة للتغيير من القواعد. إذا كان أي جزء من هذا البرهان مفقوداً، أو إذا لم تتطابق الرياضيات عند فحصها مقابل البيانات الأصلية، فإن النظام يجبر الوكيل على مواصلة العمل. إنه بمثابة حارس يرفض السماح للوكيل بمغادرة الغرفة حتى يظهر واجباته المدرسية بكامل تفاصيلها.

ولاختبار ما إذا كان هذا النهج الصارم فعالاً حقاً، أنشأ الباحث بيئة محكومة تضم ثمان وأربعين مهمة مختلفة، تتراوح بين البحث عن حقائق محددة إلى إجراء عمليات تجميع بيانات معقدة. ثم أدخل ثمانية أنواع محددة من الأخطاء في هذه المهام، مثل إعطاء الوكيل دليلاً خاطئاً، أو إخفاء فشل في أداة ما، أو مطالبته بالتوقف قبل أن يجد جميع المعلومات الضرورية. وقد وضع نظامهم الجديد في مواجهة طريقة قياسية حيث يقوم ذكاء اصطناعي ناقد بالحكم على الإجابة ببساطة. وكانت النتائج صارخة؛ ففي اختبار شمل ما يقرب من ثلاثمائة سيناريو معيب، فشل النظام القياسي في رصد الأخطاء وسمح للوكيل بالتوقف بإجابة خاطئة أو غير مدعومة في مائتين واثنين وخمسين حالة. في المقابل، لم يسمح نظام "الإنهاء الحامل للدليل" بأي عمليات إكمال غير آمنة، حيث نجح في تحديد كل خلل وأجبر الوكيل على الاستمرار حتى أصبح البرهان راسخاً.

لم يتوقف الباحث عند الاختبارات الثابتة، بل انتقل إلى تجربة أكثر ديناميكية مغلقة الحلقة تتضمن مئات الرحلات المحاكية حيث تعين على الوكيل التعافي من الأخطاء في الوقت الفعلي. وهنا، كان الهدف هو معرفة ما إذا كانت متطلبات البرهان الصارمة ستؤدي إلى استسلام الوكيل بسهولة أو فشله في إكمال المهام الصالحة. تفوق النظام الجديد مرة أخرى على النهج القياسي؛ فقد منع الوكيل من التوقف قبل الأوان في ست وستين حالة حرجة فشل فيها النظام القديم أربعين مرة. والأهم من ذلك، أن النظام الجديد لم يصبح حذراً لدرجة أنه أوقف العمل المفيد؛ فقد أتم المهام المدعومة بمعدل متساوٍ إحصائياً مع النظام القديم، مما يثبت أن طلب البرهان لا يعني التضحية بالتقدم. وعندما تعثر الوكيل، تمكن النظام من توجيهه عبر عملية تعافٍ في ثماني عشرة حالة من أصل ست وستين، سبع عشرة منها أدت في النهاية إلى استنتاج ناجح وموثق.

لا يدعي هذا العمل جعل الوكيل معصوماً من الخطأ أو ضمان أن الإجابات صحيحة في العالم الحقيقي. النظام يتحقق فقط من أن الوكيل اتبع قواعده الخاصة وأن الإجابة النهائية تتطابق مع الأدلة التي جمعها. إنه فحص للعملية، وليس ضماناً للحقيقة الخارجية. ومع ذلك، تشير النتائج إلى مسار واضح نحو ذكاء اصطناعي أكثر أماناً. فمن خلال الفصل بين فعل اقتراح الإجابة وفعل إثباتها، ومن خلال اشتراط إعادة تشغيل حتمية لكل خطوة، أظهر الباحث أنه من الممكن بناء وكلاء يعرفون بالضبط متى ينتهون. وتخلص الدراسة إلى أن الوكيل لا ينبغي أن يتوقف لمجرد أنه يشعر بالانتهاء أو لأن إجابته تبدو منطقية، بل يجب أن يتوقف فقط عندما يمكنه تقديم سلسلة كاملة وغير منقطعة من الأدلة التي تثبت صحة كل ادعاء يقدمه.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →