← أحدث الأبحاث
💻 computer science

Did It Happen? Counterfactual Evaluation of LLM Agent Recovery from Ambiguous Tool Outcomes

تقدم هذه الورقة معياراً مضاداً للواقع يوضح أنه في حين تفرض مهلات الأدوات الغامضة سقف نجاح بنسبة 50% على استعادة وكيل النماذج اللغوية الكبيرة، فإن تنفيذ عقود التكرار المتماثل المستقرة يتيح استعادة كاملة، بينما لا يؤدي الاعتماد فقط على معلومات الحالة إلا إلى تحسن جزئي.

المؤلفون الأصليون: Shengyao Sun

نُشر 2026-08-19
📖 5 دقيقة قراءة🧠 قراءة متعمّقة
CC BY 4.0

المؤلفون الأصليون: Shengyao Sun

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل مساعداً رقمياً لا يكتفي فقط بالإجابة على الأسئلة، بل يمكنه أيضاً تنفيذ مهام في العالم الحقيقي: مثل إنشاء حسابات، أو نقل البيانات، أو نشر تحديثات البرامج. تُعرف هذه الأنظمة باسم "الوكلاء الذكيين" (AI agents). لسنوات طويلة، ركز الباحثون على ما إذا كان بإمكان هؤلاء الوكلاء اختيار الأدوات الصحيحة واتباع التعليمات. ولكن مع انتقال هذه الأنظمة من نوافذ الدردشة إلى البنية التحتية الحيوية، ظهرت مشكلة جديدة وأكثر خطورة. لا يتعلق الأمر بما إذا كان الوكيل يعرف ما يجب فعله، بل بما إذا كان يعرف ما الذي حدث بالفعل. في واقع شبكات الكمبيوتر الفوضوي، قد تفشل أداة في البدء، أو قد تبدأ بنجاح ثم تفقد اتصالها قبل إرسال رسالة "النجاح". بالنسبة للوكيل، يبدو كلا السيناريوهين متطابقين تماماً: صمت، أو انتهاء مهلة زمنية (timeout). هذا يخلق نقطة عمياء؛ فإذا خمن الوكيل خطأً وحاول مرة أخرى، فقد يتسبب بالخطأ في إنشاء حسابين بدلاً من واحد. وإذا خمن التوقف، فقد يترك مهمة غير مكتملة. السؤال الجوهري لمستقبل الأتمتة الموثوقة هو كيفية التنقل عبر هذا الصمت دون التسبب في فوضى.

قام باحث في جامعة شانغهاي جياو تونغ بوضع منهجية لقياس مدى جودة تعامل النماذج الذكية الحالية مع هذا النوع المحدد من الارتباك. لقد بنى بيئة اختبار محكومة مصممة لمحاكاة السيناريو الأسوأ: لحظة يتوقف فيها نظام الكمبيوتر عن الاستجابة، مما يترك الذكاء الاصطناعي غير متأكد مما إذا كان الإجراء الذي طلبه قد تم بالفعل أم لا. لم يكتفِ الباحث بسؤال الذكاء الاصطناعي للتخمين، بل صمم تجربة صارمة حيث كانت كل حالة اختبار عبارة عن زوج من الحقائق الخفية. في نسخة واحدة من الاختبار، لم يحدث الإجراء أبداً. وفي النسخة الأخرى، حدث الإجراء بشكل مثالي، لكن التأكيد فُقد. والأهم من ذلك، أن الذكاء الاصطناعي رأى نفس رسالة "انتهاء المهلة" في كلتا النسختين. الفرق الوحيد كان الحقيقة الخفية لما فعله نظام الكمبيوتر بالفعل. كان الهدف هو معرفة ما إذا كان بإمكان الذكاء الاصطناعي التعافي بشكل صحيح في كلا العالمين، أم أنه محكوم بالفشل في أحدهما.

اختبرت الدراسة ثلاث طرق مختلفة لمساعدة الذكاء الاصطناعي على التعافي من هذا الصمت. النهج الأول كان ببساطة إعطاء الذكاء الاصطناعي أمراً (prompt) يطلب منه أن يكون حذراً وموثوقاً. النهج الثاني منح الذكاء الاصطناعي أداة للتحقق من حالة النظام، مما يسمح له برؤية ما إذا كان الإجراء قد حدث بالفعل. أما النهج الثالث فقد غيّر قواعد الأداة نفسها، بجعل تكرار الإجراء آمناً دون التسبب في تكرارات، وهو مفهوم يُعرف باسم "التماثل" (idempotency). أجرى الباحث هذه الاختبارات عبر واحد وثمانين سيناريو مختلفاً لهندسة البرمجيات، تتراوح من إنشاء ملف واحد إلى إدارة سلاسل معقدة من الموارد. استخدم نموذجاً ذكياً محدداً، وهو qwen-plus، كعينة اختبار أساسية، حيث أجرى التجربة مئات المرات لضمان أن النتائج لم تكن مجرد ضربة حظ.

كانت النتائج صارخة وكاشفة. عندما تم إعطاء الذكاء الاصطناعي مجرد تذكير مهذب بأن يكون حذراً، لم يكن أداؤه أفضل من رمي العملة المعدنية. لقد نجح في حوالي نصف الحالات، وهو الحد الأقصى النظري عندما لا تملك أي معلومات عما حدث. لم يستطع الذكاء الاصطناعي التمييز بين محاولة فاشلة وبين تأكيد مفقود، لذا فإما كرر إجراءً نجح بالفعل أو استسلم تجاه إجراء فشل. وعندما منح الباحث الذكاء الاصطناعي وسيلة للتحقق من حالة النظام، تحسن الأداء بشكل ملحوظ، ليصل إلى حوالي ثمانين بالمائة من النجاح. ومع ذلك، لم يكن هذا حلاً مثالياً؛ ففي بعض تدفقات العمل المعقدة التي تتضمن سلسلة من الخطوات، كان الذكاء الاصطناعي يتحقق من الحالة بنجاح ولكنه لا يزال يفشل في اختيار الخطوة التالية الصحيحة، مما يظهر أن امتلاك المعلومات لا يضمن القدرة على استخدامها بشكل صحيح.

كان الحل الأكثر فعالية هو الثالث: تغيير الأداة نفسها لتكون آمنة ضد التكرار. عندما صُممت الأداة بحيث أن تكرار الإجراء باستخدام نفس المعرّف سيؤدي ببساطة إلى تجاهله إذا كان قد تم تشغيله بالفعل، حقق الذكاء الاصطناعي معدل نجاح مثالي. كان بإمكانه إعادة المحاولة عدة مرات كما يلزم دون خوف من التكرار، وسينتهي النظام دائماً بالحالة الصحيحة. يشير هذا الاكتشاف إلى أن المسار الأكثر موثوقية للمستقبل ليس الاعتماد على قدرة الذكاء الاصطناعي على التفكير للخروج من نقطة عمياء، بل بناء آليات السلامة مباشرة داخل الأدوات التي يستخدمها. كما لاحظ الباحث أنه حتى عندما يصل الذكاء الاصطناعي إلى الحالة النهائية للنظام بشكل صحيح، فإنه يفشل أحياناً في اتباع قواعد التنسيق الصارمة المطلوبة من البرنامج، مما يثبت أن النتيجة الصحيحة والتقرير الصحيح شيئان مختلفان.

تخلص الدراسة إلى أن مشكلة نتائج الأدوات الغامضة ليست مشكلة "أمر" (prompting) يمكن حلها بتحسينات في التعليمات. إنها مشكلة هيكلية تتطلب إما معلومات واضحة أو سلامة مدمجة. وجد الباحث أنه بدون وسيلة لرؤية الحالة الخفية أو أداة تمنع التكرارات، يظل الذكاء الاصطناعي محدوداً بشكل جوهري بمعدل نجاح قدره خمسون بالمائة في هذه السيناريوهات المحددة. وبينما يساعد منح الذكاء الاصطناعي ميزة التحقق من الحالة، إلا أنها ليست حلاً سحرياً، إذ لا يزال بإمكان الذكاء الاصطناعي ارتكاب أخطاء في تفسير ما يراه. الطريقة الوحيدة التي ضمنت نتيجة مثالية في محاكاتهم هي تصميم الأدوات بحيث تكون إعادة المحاولة غير ضارة. يوفر هذا العمل خارطة طريق واضحة للمهندسين الذين يبنون الجيل القادم من الوكلاء الأذكياء: إذا كنت تريد لنظامك أن يكون موثوقاً، فعليك إما إعطاؤه عيوناً ليرى ما حدث، أو بناؤه بحيث لا يمكنه إيذاء نفسه بمجرد المحاولة مرة أخرى.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →