Holistic Evaluation and Failure Diagnosis of AI Agents
تقدم هذه الورقة إطار تقييم شامل يجمع بين التشخيص من الأعلى إلى الأسفل والتقييم على مستوى النطاق من الأسفل إلى الأعلى لتحديد وتصنيف الإخفاقات في الوكلاء الاصطناعيين بفعالية، محققةً أداءً هو الأفضل حالياً في اختبارات TRAIL، ومثبتةً أن منهجية التقييم، وليس قدرة النموذج، هي العائق الأساسي في تشخيص الوكيل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك وظفت فريقًا من الروبوتات الذكية لحل لغز معقد، مثل العثور على رقم محدد مخفي داخل فيديو على يوتيوب مدته 20 دقيقة أو إصلاح جزء تالف من كود برمجي. في بعض الأحيان، تنجح الروبوتات، وفي أحيان أخرى، تفشل.
المشكلة، وفقًا لهذه الورقة البحثية، هي أن الطرق الحالية للتحقق من عملهم تشبه المعلم الذي لا ينظر إلا إلى الإجابة النهائية في الاختبار. إذا كانت الإجابة خاطئة، فإنه يضع علامة "فشل" ويمضي قدمًا. هو لا يخبرك لماذا كانت خاطئة، أو أين في عملية مكونة من 50 خطوة حدث الارتباك لدى الروبوت. هل أخطأ في قراءة التعليمات؟ هل استخدم الأداة الخاطئة؟ أم أنه قام بمجرد اختلاق رقم من خياله؟
لقد طور المؤلفون من Deepchecks إطار تقييم شامل جديد (Holistic Evaluation Framework) يعمل مثل محقق فائق التفصيل. فبدلاً من مجرد تقييم النتيجة النهائية، يقوم النظام بتفكيك رحلة الروبوت بأكملها إلى خطوات صغيرة يمكن إدارتها (والتي يسمونها "نطاقات" أو spans) لمعرفة ما حدث بالضبط.
إليك كيف يعمل نظامهم، باستخدام تشبيهات بسيطة:
1. نهج المحقق ذو المسارين
أدرك المؤلفون أن النظر إلى عمل الروبوت من زاوية واحدة ليس كافيًا. لذا، قاموا بدمج منظورين مختلفين:
محقق "من الأسفل إلى الأعلى" (المجهر):
تخيل فحص كل أداة استخدمها الروبوت بدقة. هل طرح الروبوت السؤال الصحيح؟ هل كانت الإجابة التي حصل عليها منطقية؟ هل تعطل النظام عند محاولة فتح ملف؟- التشبيه: هذا يشبه الميكانيكي الذي يفحص كل مسمار وسلك في محرك السيارة. إذا كان هناك مسمار واحد مرتخٍ، فسيجده فورًا. هذا النهج رائع لرصد الأخطاء المحددة، مثل خطأ مطبعي في أمر برمجي أو أداة معطلة، ولكنه قد يغفل عن الصورة الكبيرة (مثل حقيقة أن الميكانيكي كان يفحص السيارة الخطأ تمامًا).
محقق "من الأعلى إلى الأسأسفل" (رؤية عين الطائر):
هذا المنظور ينظر إلى الرحلة بأكملها. هل اتبع الروبوت خطته الخاصة؟ هل أضاع الوقت في طرح نفس السؤال خمس مرات؟ هل نسي التحقق من معلومة حاسمة؟- التشبيه: هذا يشبه مراقب الحركة الجوية الذي يراقب مسار الرحلة بالكامل. يمكنه رؤية ما إذا كانت الطائرة تسلك مسارًا غريبًا أو تهدر الوقود، حتى لو كانت جميع أجزاء المحرك تعمل بشكل مثالي.
السر السحري: من خلال استخدام كلا المجهر ورؤية عين الطائر، يمكن للنظام أن يخبرك بالضبط ما الذي حدث خطأ (مثل "الهلوسة") وأين حدث ذلك (مثل "الخطوة 14، عند استخدام أداة البحث").
2. لماذا فشلت الطرق القديمة؟
اختبرت الورقة نظامهم الجديد مقابل الطرق القديمة باستخدام اختبار صعب يسمى TRAIL benchmark (والذي يستخدم مهامًا من العالم الحقيقي مثل البحث عن بيانات أو إصلاح كود برمجي).
"القاضي المتجانس" (الطريقة القديمة):
تخيل أنك تطلب من إنسان واحد ذكي جدًا أن يقرأ تقريرًا مكونًا من 100 صفحة ويجد كل خطأ فيه دفعة واحدة.- المشكلة: كلما طال التقرير، شعر الإنسان بالإرهاق. قد يغفل عن الخطأ في الصفحة 45 لأنه يركز على الصفحة 100. في الورقة البحثية، فشلت حتى أكثر نماذج الذكاء الاصطناعي ذكاءً (مثل GPT-5.4) فشلًا ذريعًا في العثور على أخطاء محددة في المهام الطويلة والمعقدة عندما طُلب منها القيام بذلك دفعة واحدة. كان بإمكانها تخمين نوع الخطأ الذي حدث، لكنها لم تستطع تحديد مكانه.
"الإطار الجديد" (الطريقة الذكية):
بدلاً من شخص واحد يقرأ الكتاب بأكمله، تخيل فريقًا من المتخصصين. شخص يفحص الصفحة 1، وآخر يفحص الصفحة 2، وهكذا. ثم يقوم مدير بجمع ملاحظاتهم.- النتيجة: لم يصبه الارتباك أو الإرهاق، حتى عندما كانت المهام طويلة جدًا. لقد وجد الأخطاء بدقة أعلى بكثير.
3. النتائج: فوز ساحق
عندما قارنوا نظامهم الجديد بأفضل الأساليب الموجودة:
- تحديد "أين": كان نظامهم أفضل بـ 3.5 مرة في تحديد الخطوة التي فشلت بدقة. وفي الاختبارات الأكثر صعوبة، كان أفضل بـ 12.5 مرة في تحديد نوع الخطأ ومكانه في آن واحد.
- مفاجأة "نفس العقل، طريقة أفضل": استخدموا نفس نموذج الذكاء الاصطناعي فائق الذكاء (GPT-5.4) لكل من الطريقة القديمة والطريقة الجديدة.
- الطريقة القديمة: حقق الذكاء الاصطناعي دقة 7% فقط في العثور على الأخطاء في مهام الكود الطويلة.
- الطريقة الجديدة: نفس الذكاء الاصطناعي حقق دقة 86%.
- الاستنتاج: لم تكن المشكلة في أن الذكاء الاصطناعي ليس ذكيًا بما يكفي، بل كانت المشكلة في الطريقة التي يُطلب بها منه تقييم العمل. تغيير الطريقة أطلق العنان لإمكانات الذكاء الاصطناዊ الحقيقية.
4. ماذا يعني هذا (وفقًا للورقة البحثية)
تخلص الورقة إلى أنه لإصلاح وكلاء الذكاء الاصطناعي (AI agents)، نحتاج إلى التوقف عن مجرد النظر إلى النتيجة النهائية. نحن بحاجة إلى نظام يفكك العمل إلى قطع صغيرة مستقلة لتشخيص الإخفاقات بدقة.
كما أشاروا أيضًا إلى أن بيانات الاختبار التي استخدموها (TRAIL) كانت تحتوي على بعض التصنيفات غير الدقيقة (مثل قيام البشر بتحديد الخطوة الخاطئة كخطأ)، ولكن حتى مع هذه العيوب، لا يزال أسلوبهم الجديد يتفوق تمامًا على المنافسين.
باخت-اختصار: تجادل الورقة بأننا لا نحتاج إلى ذكاء اصطناعي "أكثر ذكاءً" لتقييم وكلاء الذكاء الاصطناعي؛ بل نحتاج إلى طريقة أكثر ذكاءً لتقييمهم. من خلال تقسيم المشكلات الكبيرة إلى أجزاء صغيرة يمكن إدارتها، يجد نظامهم الأخطاء التي تفوتها الأساليب الأخرى تمامًا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.