The Reliability Gap: Repeated-Trial Consistency and the Deployable Autonomy Horizon of Frontier AI Agents
यह शोध पत्र फ्रंटियर एआई एजेंट प्रदर्शन डेटा का विश्लेषण करके एक महत्वपूर्ण "विश्वसनीयता अंतराल" (reliability gap) को उजागर करता है जहाँ एक एजेंट द्वारा निरंतर पूरा किया जा सकने वाला कार्य का समय उसकी औसत क्षमता क्षितिज (average capability horizon) से लगभग 2.4 गुना कम है, मुख्य रूप से इसलिए क्योंकि विफलताएं यादृच्छिक होने के बजाय विशिष्ट कार्यों के भीतर अत्यधिक सह-संबंधित हैं, जो सुरक्षित तैनाती के लिए मूल्यांकन मेट्रिक्स को औसत सफलता से विश्वसनीयता-समायोजित क्षितिज की ओर स्थानांतरित करने की आवश्यकता को अनिवार्य बनाती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, एक नए प्रकार के सॉफ्टवेयर का उदय हुआ है: ऐसे एजेंट जो केवल सवालों के जवाब नहीं देते बल्कि कार्य भी करते हैं। ये सिस्टम चरणों का एक क्रम (sequence) बना सकते हैं, डिजिटल टूल्स का उपयोग कर सकते हैं, और सॉफ्टवेयर कोड या वेब ब्राउज़र जैसे जटिल वातावरणों में, अक्सर बहुत कम या बिना किसी मानवीय पर्यवेक्षण के, नेविगेट कर सकते हैं। यह ट्रैक करने के लिए कि ये एजेंट कितने सक्षम होते जा रहे हैं, शोधकर्ताओं ने एक "टाइम होराइजन" (समय क्षितिज) का उपयोग करके उनकी प्रगति को मापने का एक तरीका विकसित किया है। यह अवधारणा कार्य की लंबाई का वर्णन करती है, जिसे उस समय के रूप में मापा जाता है जो एक मानव विशेषज्ञ को उसे पूरा करने में लगता है, जिसे एक AI एजेंट आधी बार सफलतापूर्वक पूरा कर सकता है। यदि किसी एजेंट का टाइम होराइजन एक घंटा है, तो इसका अर्थ है कि वह उन समस्याओं को विश्वसनीय रूप से हल कर सकता है जिन्हें पूरा करने में एक मानव को लगभग एक घंटा लगता है, लेकिन वह उन कार्यों में विफल हो जाएगा जिनमें दो घंटे लगते हैं। यह मीट्रिक (मापदंड) प्रगति का वर्णन करने के लिए एक मानक भाषा बन गया है, जिससे पता चलता है कि यह होराइजन लगभग हर सात महीने में दोगुना हो रहा है, जो एक ऐसे भविष्य का संकेत देता है जहाँ मशीनें तेजी से जटिल कार्य संभाल सकेंगी।
हालाँकि, एक एजेंट औसतन क्या कर सकता है और वह हर बार क्या करने के लिए भरोसेमंद है, इसके बीच एक महत्वपूर्ण अंतर मौजूद है। एक मानव प्रबंधक के लिए जो एक आवर्ती (recurring) कार्य सौंप रहा है, या एक नियामक (regulator) के लिए जो एक स्वायत्त प्रणाली की निगरानी कर रहा है, 50 प्रतिशत सफलता दर अक्सर अपर्याप्त होती है। यदि कोई कार्य बार-बार होता है, तो लक्ष्य यह नहीं है कि एजेंट आधी बार सफल हो, बल्कि यह है कि जब भी वह कार्य सामने आए, वह हर बार सफल हो। एक ऐसा सिस्टम जो दो में से एक प्रयास में विफल हो जाता है, वह कई वास्तविक दुनिया के अनुप्रयोगों के लिए पर्याप्त विश्वसनीय नहीं है, फिर भी मानक "टाइम होराइजन" मीट्रिक इस जोखिम को नहीं पकड़ पाता है। यह क्षमता के शिखर (frontier of capability) को मापता है, विश्वसनीयता के आधार (floor of reliability) को नहीं। औसत प्रदर्शन और निरंतर प्रदर्शन के बीच का यह अंतर एक केंद्रीय रहस्य है जिसे एक नया अध्ययन हल करने का प्रयास कर रहा है, जो यह पूछता है कि इन एजेंटों की वास्तविक विश्वसनीयता, उनके हेडलाइन बनाने वाले क्षमता स्कोर की तुलना में कितनी पीछे है।
इसका उत्तर देने के लिए, शोधकर्ताओं ने METR संगठन के सार्वजनिक रिकॉर्डों के एक विशाल संग्रह की ओर रुख किया, जो 2023 से विभिन्न कार्यों पर AI एजेंटों का मूल्यांकन कर रहा है। अध्ययन ने 2023 और 2026 की शुरुआत के बीच जारी किए गए 30 अलग-अलग मॉडलों पर ध्यान केंद्रित किया, जिसमें विभिन्न कार्यों के 60,000 से अधिक व्यक्तिगत प्रयासों का विश्लेषण किया गया। केवल यह देखने के बजाय कि एक एजेंट ने एक बार सफल हुआ या विफल, शोधकर्ताओं ने परीक्षण किया कि क्या होता है जब वही एजेंट एक ही कार्य को कई बार करता है। उन्होंने विशेष रूप से उस बिंदु को देखा जहाँ एक एजेंट कुल सफलता की 50 प्रतिशत संभावना के साथ लगातार चार बार एक कार्य को पूरा कर सकता है। यह "रिलायबिलिटी होराइजन" (विश्वसनीयता क्षितिज) उस कार्य की लंबाई को दर्शाता है जिसे एक एजेंट उम्मीद के मुताबिक लगातार, न कि केवल कभी-कभी, संभाल सकता है।
परिणामों ने खुलासा किया कि एजेंट क्या कर सकते हैं और उन पर कितना भरोसा किया जा सकता है, इसके बीच एक महत्वपूर्ण और निरंतर अंतर है। परीक्षण किए गए प्रत्येक मॉडल के लिए, विश्वसनीय और बार-बार होने वाली सफलता के लिए टाइम होराइजन, मानक क्षमता क्षितिज की तुलना में बहुत छोटा था। औसतन, विश्वसनीय क्षितिज, औसत-सफलता क्षितिज से लगभग 2.4 गुना छोटा था। इसे समझने के लिए, यदि एक शीर्ष-स्तरीय मॉडल एक ऐसे कार्य को संभालने में सक्षम है जिसे पूरा करने में मानव को 50 प्रतिशत सफलता दर के साथ 715 मिनट लगते हैं, तो उसी मॉडल पर उसी स्तर के आत्मविश्वास के साथ चार बार लगातार लगभग 355 मिनट का कार्य पूरा करने के लिए भरोसा किया जा सकता है। पिछले तीन वर्षों में यह अंतर महत्वपूर्ण रूप से कम नहीं हुआ है; मॉडल अधिक शक्तिशाली होने के बावजूद, उनके औसत प्रदर्शन और उनके निरंतर प्रदर्शन के बीच की दूरी लगभग समान बनी हुई है।
कोई यह मान सकता है कि यदि कोई एजेंट किसी कार्य में विफल होता है, तो यह केवल खराब किस्मत या किसी रैंडम ग्लिच (यादृच्छिक त्रुटि) का मामला है, और दोबारा प्रयास करने से संभवतः अलग परिणाम प्राप्त होगा। अध्ययन ने पाया कि यह धारणा गलत है। शोधकर्ताओं ने पाया कि बार-बार किए गए प्रयासों के परिणाम यादृच्छिक होने के बजाय, स्वयं विशिष्ट कार्य से मजबूती से जुड़े हुए हैं। जब एक एजेंट किसी कार्य में विफल होता है, तो वह उस कार्य को हर बार करने में विफल होता है। इसके विपरीत, जब वह सफल होता है, तो वह हर बार सफल होता है। इसका अर्थ है कि एक एजेंट की विश्वसनीयता प्रत्येक प्रयास के लिए पासे के उछाल (roll of the dice) से निर्धारित नहीं होती है, बल्कि एजेंट के कौशल के सापेक्ष उस कार्य की अंतर्निहित कठिनाई से निर्धारित होती है। इस मजबूत संबंध के कारण, देखा गया रिलायबिलिटी (विश्वसनीयता) काफी अधिक है जितना कि यह तब होता यदि प्रत्येक प्रयास स्वतंत्र होता। यदि प्रयास वास्तव में यादृच्छिक और असंबंधित होते, तो विश्वसनीय क्षितिज बहुत छोटा होता, लेकिन वास्तविकता यह है कि एजेंट का प्रदर्शन एक विशिष्ट समस्या के संदर्भ में सुसंगत है।
अध्ययन ने यह भी सटीक रूप से बताया कि ये विसंगतियाँ कहाँ होती हैं। सबसे अप्रत्याशित व्यवहार सबसे कठिन कार्यों पर नहीं होता (जहाँ एजेंट लगातार विफल होते हैं), और न ही सबसे आसान कार्यों पर (जहाँ वे लगातार सफल होते हैं)। इसके बजाय, "मिश्रित परिणाम" (mixed outcomes)—जहाँ एक एजेंट कुछ बार सफल होता है और अन्य बार विफल होता है—एजेंट की क्षमता के किनारे के आसपास सघन रूप से क्लस्टर (समूहित) होते हैं। यह ठीक क्षमता क्षितिज के नीचे का क्षेत्र है, जहाँ कार्य इतना कठिन है कि वह एजेंट को चुनौती दे सके लेकिन इतना कठिन भी नहीं कि वह असंभव हो जाए। यह वही क्षेत्र है जहाँ नए, डेलिगेट किए गए कार्य गिरने की सबसे अधिक संभावना होती है, जिससे यह जोखिम को समझने के लिए सबसे महत्वपूर्ण क्षेत्र बन जाता है।
स्पष्ट साक्ष्य के बावजूद, शोधकर्ताओं ने पाया कि इस अंतर के बंद होने की दर सांख्यिकित रूप से महत्वपूर्ण नहीं है। हालांकि डेटा यह दिखाता है कि रिलायबिलिटी होराइजन के क्षमता क्षितिज के करीब आने की एक हल्की प्रवृत्ति है, लेकिन वर्तमान में परीक्षण किए गए मॉडलों की संख्या को देखते हुए यह रुझान रैंडम वेरिएशन (यादृच्छिक भिन्नता) से अलग नहीं किया जा सकता। यह सुझाव देता है कि जबकि AI एजेंट कठिन समस्याओं को हल करने में बेहतर हो रहे हैं, वे आवश्यक रूप से उसी गति से अपने निष्पादन में अधिक सुसंगत भी नहीं हो रहे हैं। अध्ययन निष्कर्ष निकालता है कि इन प्रणालियों को तैनात करने वाले किसी भी व्यक्ति के लिए, केवल औसत सफलता दरों पर भरोसा करना भविष्य का एक अत्यधिक आशावादी दृष्टिकोण प्रदान करता है। यह समझने के लिए कि एक एजेंट पर वास्तव में कितना भरोसा किया जा सकता है, रिपोर्टों में एक रिलायबिलिटी-एडजस्टेड होराइजन शामिल होना चाहिए जो बार-बार, निरंतर सफलता की आवश्यकता को ध्यान में रखता हो। इस समायोजन के बिना, स्वायत्त एजेंटों का वादा प्रदर्शन की गारंटी के बजाय केवल क्षमता का एक माप बनकर रह जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।