Holistic Evaluation and Failure Diagnosis of AI Agents
यह शोध पत्र एक समग्र मूल्यांकन ढांचे को प्रस्तुत करता है जो AI एजेंटों में विफलताओं को प्रभावी ढंग से स्थानीयकृत और वर्गीकृत करने के लिए टॉप-डाउन निदान (top-down diagnosis) को बॉटम-अप स्पैन-स्तरीय मूल्यांकन (bottom-up span-level assessment) के साथ जोड़ता है, जो TRAIL बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त करता है और यह प्रदर्शित करता है कि एजेंट निदान में मॉडल क्षमता के बजाय मूल्यांकन पद्धति ही प्राथमिक बाधा है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक जटिल पहेली सुलझाने के लिए AI रोबोटों की एक टीम को काम पर रखा है, जैसे कि 20 मिनट के YouTube वीडियो के अंदर छिपे किसी विशिष्ट नंबर को खोजना या किसी टूटे हुए सॉफ़्टवेयर कोड को ठीक करना। कभी-कभी, रोबोट सफल होते हैं। अन्य समय में, वे विफल हो जाते हैं।
समस्या यह है, जैसा कि इस पेपर में बताया गया है, कि उनके काम की जाँच करने के मौजूदा तरीके एक ऐसे शिक्षक की तरह हैं जो केवल टेस्ट पर अंतिम उत्तर देखता है। यदि उत्तर गलत है, तो शिक्षक उसे "Fail" मार्क कर देता है और आगे बढ़ जाता है। वे आपको यह नहीं बताते कि यह क्यों गलत था, या 50 चरणों की प्रक्रिया में कहाँ रोबोट भ्रमित हुआ था। क्या उसने निर्देशों को गलत पढ़ा? क्या उसने गलत टूल का उपयोग किया? क्या उसने बस कोई नंबर बना लिया?
Deepchecks के लेखकों ने एक नया "होलिस्टिक इवैल्यूएशन फ्रेमवर्क" (Holistic Evaluation Framework) बनाया है जो एक अत्यंत विस्तृत जासूस की तरह काम करता है। केवल अंतिम परिणाम को ग्रेड देने के बजाय, यह रोबोट की पूरी यात्रा को छोटे, प्रबंधनीय चरणों (जिन्हें वे "स्पैन" कहते हैं) में तोड़ देता है ताकि यह पता लगाया जा सके कि वास्तव में क्या गलत हुआ।
यहाँ बताया गया है कि उनका सिस्टम कैसे काम करता है, सरल उपमाओं का उपयोग करते हुए:
1. दो-तरफा जासूसी दृष्टिकोण (The Two-Pronged Detective Approach)
लेखकों ने महसूस किया कि रोबोट के काम को केवल एक कोण से देखना पर्याप्त नहीं है। उन्होंने दो अलग-अलग दृष्टिकोणों को मिलाया:
"बॉटम-अप" जासूस (माइक्रोस्कोप):
कल्पना कीजिए कि आप रोबोट द्वारा उपयोग किए गए हर एक टूल को देख रहे हैं। क्या रोबोट ने सही सवाल पूछा? क्या उसे जो जवाब मिला वह समझ में आने योग्य था? क्या कोई फ़ाइल खोलने की कोशिश करते समय वह क्रैश हो गया?- उपमा: यह एक मैकेनिक की तरह है जो कार के इंजन में हर एक बोल्ट और तार की जाँच करता है। यदि एक बोल्ट ढीला है, तो वे उसे तुरंत ढूंढ लेते हैं। यह विशिष्ट गलतियों, जैसे कि कमांड में टाइपो या टूटे हुए टूल को पकड़ने के लिए बेहतरीन है, लेकिन यह बड़े चित्र (जैसे कि यह तथ्य कि मैकेनिक गलत कार की जाँच कर रहा था) को मिस कर सकता है।
"टॉप-डाउन" जासूस (बर्ड्स-आई व्यू - ऊपर से नज़ारा):
यह पूरी यात्रा को देखता है। क्या रोबोट ने अपनी योजना का पालन किया? क्या उसने एक ही सवाल पाँच बार पूछकर समय बर्बाद किया? क्या वह किसी महत्वपूर्ण जानकारी को जाँचने के लिए भूल गया?- उपमा: यह एक ट्रैफिक कंट्रोलर की तरह है जो पूरे फ्लाइट पाथ को देख रहा है। वे देख सकते हैं कि क्या विमान एक अजीब मोड़ ले रहा है या ईंधन बर्बाद कर रहा है, भले ही इंजन का हर एक हिस्सा बिल्कुल सही काम कर रहा हो।
जादू: माइक्रोस्कोप और बर्ड्स-आई व्यू दोनों का उपयोग करके, सिस्टम आपको बता सकता है कि क्या गलत हुआ (जैसे, "Hallucination") और यह कहाँ हुआ (जैसे, "स्टेप 14, सर्च टूल पूछते समय")।
2. पुराने तरीके क्यों विफल रहे
उनके नए सिस्टम ने एक कठिन टेस्ट का उपयोग करके पुराने तरीकों का परीक्षण किया जिसे TRAIL बेंचमार्क कहा जाता है (जो डेटा खोजने या कोड ठीक करने जैसे वास्तविक दुनिया के कार्यों का उपयोग करता है)।
"मोनोलिथिक जज" (पुराना तरीका):
कल्पना कीजिए कि एक बहुत ही बुद्धिमान इंसान को 100 पन्नों की रिपोर्ट पढ़ने और उसमें हर गलती खोजने के लिए कहा गया है।- समस्या: जैसे-जैसे रिपोर्ट लंबी होती जाती है, इंसान अभिभूत (overwhelmed) हो जाता है। वे पेज 100 पर ध्यान केंद्रित करने के कारण पेज 45 पर हुई गलती को मिस कर सकते हैं। पेपर में, यहाँ तक कि सबसे स्मार्ट AI मॉडल (जैसे GPT-5.4) भी लंबे, जटिल कार्यों में विशिष्ट त्रुटियों को खोजने में बुरी तरह विफल रहे जब उन्हें एक साथ सब कुछ करने के लिए कहा गया। वे अनुमान लगा सकते थे कि किस तरह की त्रुटि हुई, लेकिन वे यह नहीं बता सके कि वह कहाँ थी।
"नया फ्रेमवर्क" (स्मार्ट तरीका):
पूरी किताब को एक व्यक्ति द्वारा पढ़ने के बजाय, विशेषज्ञों की एक टीम की कल्पना करें। एक व्यक्ति पेज 1 की जाँच करता है, दूसरा पेज 2 की, और इसी तरह। फिर एक मैनेजर उनके नोट्स को जोड़ता है।- परिणाम: सिस्टम बहुत लंबे कार्यों के बावजूद अभिभूत नहीं हुआ। इसने बहुत अधिक सटीकता के साथ त्रुटियों को खोजा।
3. परिणाम: एक बड़ी जीत
जब उन्होंने अपने नए सिस्टम की तुलना मौजूदा सर्वोत्तम तरीकों से की:
- "कहाँ" को खोजना: उनका सिस्टम ठीक उसी चरण को पहचानने में 3.5 गुना बेहतर था जहाँ विफलता हुई। सबसे कठिन परीक्षणों पर, यह त्रुटि के प्रकार और उसके स्थान को एक साथ खोजने में 12.5 गुना बेहतर था।
- "वही दिमाग, बेहतर तरीका" का आश्चर्य: उन्होंने पुराने और नए दोनों तरीकों के लिए बिल्कुल एक ही सुपर-स्मार्ट AI मॉडल (GPT-5.4) का उपयोग किया।
- पुराना तरीका: लंबे कोड कार्यों में त्रुटियों को खोजने में AI की सटीकता केवल 7% थी।
- नया तरीका: उसी AI ने 86% सटीकता प्राप्त की।
- निष्कर्ष: समस्या यह नहीं थी कि AI पर्याप्त स्मार्ट नहीं था; समस्या यह थी कि काम को जज करने का तरीका टूटा हुआ था। तरीके को बदलने से AI की असली क्षमता अनलॉक हो गई।
4. इसका क्या अर्थ है (पेपर के अनुसार)
पेपर निष्कर्ष निकालता है कि AI एजेंटों को ठीक करने के लिए, हमें केवल अंतिम स्कोर देखना बंद करना होगा। हमें एक ऐसे सिस्टम की आवश्यकता है जो विफलता का सटीक निदान करने के लिए काम को छोटे, स्वतंत्र टुकड़ों में तोड़ दे।
उन्होंने यह भी नोट किया कि उनके द्वारा उपयोग किए गए टेस्ट डेटा (TRAIL) में कुछ गड़बड़ लेबलिंग थी (जैसे कि इंसानों द्वारा गलत स्टेप को एरर के रूप में मार्क करना), लेकिन उन खामियों के बावजूद, उनके नए तरीके ने प्रतिस्पर्धा को पूरी तरह से पछाड़ दिया।
संक्षेप में: पेपर का तर्क है कि हमें AI एजेंटों का मूल्यांकन करने के लिए "स्मार्टर" AI की आवश्यकता नहीं है; हमें AI एजेंटों का मूल्यांकन करने के लिए एक स्मार्ट तरीके की आवश्यकता है। बड़ी समस्याओं को छोटे, प्रबंधनीय टुकड़ों में तोड़कर, उनका सिस्टम उन त्रुटियों को भी ढूंढ लेता है जिन्हें अन्य तरीके पूरी तरह से मिस कर देते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।