On Randomness in Agentic Evals
यह शोध पत्र प्रदर्शित करता है कि एजेंटिक प्रणालियों (agentic systems) के एकल-रन मूल्यांकन प्रारंभिक प्रक्षेपवक्र विचलन (early trajectory divergence) के कारण पर्याप्त विचलन से ग्रस्त होते हैं, और यह तर्क देता है कि वास्तविक प्रगति के विश्वसनीय मूल्यांकन के लिए वास्तविक एल्गोरिद्मिक सुधारों को मूल्यांकन शोर (evaluation noise) से अलग करने हेतु कई रन, सांख्यिकीय शक्ति विश्लेषण (statistical power analysis) और व्यापक प्रदर्शन मेट्रिक्स की आवश्यकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक कुकिंग प्रतियोगिता में जज हैं। लक्ष्य यह देखना है कि कौन सा शेफ एक बेहतरीन 'सुफ्ले' (soufflé) बना सकता है।
AI की दुनिया में, ये "शेफ" एजेंटिक सिस्टम (Agentic Systems) हैं (स्मार्ट कंप्यूटर प्रोग्राम जो समस्याओं को हल करने के लिए वेब ब्राउज़र या कोड एडिटर जैसे टूल्स का उपयोग कर सकते हैं)। उनका "सुफ्ले" एक कार्य है, जैसे किसी सॉफ्टवेयर प्रोग्राम में बग (bug) को ठीक करना।
लंबे समय से, जज (शोधकर्ता) यह कर रहे हैं: वे प्रत्येक शेफ को केवल एक बार रेसिपी आज़माने देते हैं। यदि सुफ्ले फूल जाता है, तो वे उसे "पास" देते हैं। यदि वह गिर जाता है, तो वे "फेल" देते हैं। फिर वे उस एकल प्रयास के आधार पर स्कोर की गणना करते हैं।
यह पेपर कहता है: "ऐसा करना बंद करें! यह आंकलन करने का एक बहुत ही बुरा तरीका है।"
यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:
1. "एक-प्रयास" की लॉटरी
लेखकों ने एक विशाल प्रयोग चलाया। उन्होंने शेफ को केवल एक बार कोशिश करने के लिए नहीं छोड़ा; उन्होंने हर एक कार्य के लिए उन्हें 10 बार प्रयास करने दिया। उन्होंने तीन अलग-अलग "शेफ" (AI मॉडल) और दो अलग-अलग "रसोई" (सॉफ्टवेयर वातावरण) का उपयोग किया।
परिणाम? स्कोर बहुत ही अनिश्चित थे।
- कभी-कभी एक शेफ का सफलता दर 30% होता।
- अगली ही बार, बिल्कुल उन्हीं निर्देशों और उसी शेफ के साथ, वे 36% सफलता दर प्राप्त कर सकते थे।
उपमा: कल्पना कीजिए कि एक बास्केटबॉल खिलाड़ी फ्री थ्रो मार रहा है। यदि आप केवल उन्हें एक शॉट मारते हुए देखते हैं, तो आपको लग सकता है कि वे 100% सटीक खिलाड़ी हैं। लेकिन यदि आप उन्हें 10 बार शॉट मारते हुए देखते हैं, तो आप देख सकते हैं कि वे वास्तव में 10 में से 6 शॉट सही मारते हैं।
AI शोध में, यदि आप केवल एक शॉट देखते हैं, तो आपको लग सकता है कि एक नया AI बेहतर है क्योंकि वह उस विशेष दिन भाग्यशाली था। पेपर ने पाया कि रिपोर्ट किया गया "सुधार" (जो 2 या 3 प्रतिशत अंक का है) अक्सर वास्तविक अपग्रेड नहीं, बल्कि केवल शोर (noise/भाग्य) होता है।
2. रसोई में "बटरफ्लाई इफेक्ट" (Butterfly Effect)
एक ही शेफ अलग-अलग परिणाम क्यों देता है? लेखकों ने AI की "सोच की प्रक्रिया" को, टोकन-दर-टोकन (शब्द-दर-शब्द) देखा।
खोज: AI का रास्ता (path) बहुत जल्दी अलग हो जाता है (diverge होता है)।
- कल्पना कीजिए कि दो जुड़वां भाई एक ही यात्रा शुरू करते हैं। वे पहले 10 कदमों तक एक ही रास्ते पर चलते हैं।
- कदम 11 पर, जुड़वां A सोचता है, "मैं बाएं मुड़ूंगा," और जुड़वां B सोचता है, "मैं दाएं मुड़ूंगा।"
- क्योंकि वे एक भूलभुलैया (maze) में चल रहे हैं, कदम 11 पर लिया गया वह छोटा सा निर्णय उन्हें पूरी तरह से अलग गंतव्यों तक ले जाता है।
पेपर की खोज: भले ही AI को "डिटरमिनिस्टिक" (deterministic) सेट किया गया हो (जिसका अर्थ है कि उसे हर बार बिल्कुल एक जैसा व्यवहार करना चाहिए, जैसे एक रोबोट), कंप्यूटर के हार्डवेयर या गणित में सूक्ष्म, अदृश्य अंतरों के कारण AI अपनी सोच के पहले 1% के भीतर ही एक छोटा सा निर्णय बदल देता है। यह छोटा सा बदलाव एक श्रृंखला (cascade) बनाता है, जिससे रणनीति पूरी तरह बदल जाती है। एक रास्ता सफलता की ओर ले जाता है; दूसरा विफलता की ओर।
3. "आशावादी बनाम निराशावादी" दृष्टिकोण
पेपर सुझाव देता है कि हम केवल एक संख्या (Pass@1) को देखना बंद करें और एक रेंज (सीमा) देखना शुरू करें।
- आशावादी (Pass@k): "यदि हम AI को 5 बार प्रयास करने दें, तो क्या संभावना है कि वह कम से कम एक बार समस्या को हल कर लेगा?" यह AI की क्षमता (potential) को दर्शाता है।
- निराशावादी (Pass^k): "यदि हम AI को 5 प्रयास करने दें, तो क्या संभावना है कि वह हर बार समस्या को हल करेगा?" यह AI की विश्वसनीयता (reliability) को दर्शाता है।
उपमा:
- आशावादी: "यह कार 100mph की रफ्तार से चल सकती है यदि सड़क एकदम सही हो और ड्राइवर भाग्यशाली हो!"
- निराशावादी: "यह कार कितनी भी बार कोशिश करने पर, बिना रुके केवल 20mph की रफ्तार से ही चल सकती है।"
पेपर ने पाया कि कुछ AI मॉडलों के लिए, "सर्वश्रेष्ठ स्थिति" और "सबसे खराब स्थिति" के बीच का अंतर बहुत बड़ा (25 प्रतिशत अंक तक) था। इसका मतलब है कि AI लगातार स्मार्ट नहीं है; वह बस कभी-कभी भाग्यशाली होता है।
4. हमें क्या करना चाहिए? (नए नियम)
लेखक इस अव्यवस्था को ठीक करने के लिए तीन सरल नियम प्रस्तावित करते हैं:
- एक एकल प्रयास पर भरोसा न करें: यदि आप जानना चाहते हैं कि क्या एक नया AI बेहतर है, तो केवल इसे एक बार न चलाएं। इसे कई बार चलाएं (जैसे 10 या अधिक) और औसत निकालें।
- पहले गणित लगा लें: अपना प्रयोग चलाने से पहले, यह गणना करें कि आपको यह सुनिश्चित करने के लिए कितनी बार इसे चलाने की आवश्यकता है कि आपके परिणाम केवल भाग्य नहीं हैं। (पेपर इसके लिए एक तालिका प्रदान करता है)।
- पूरी कहानी बताएं: केवल यह न कहें कि "हमें 30% मिला।" कहें कि "हमें औसतन 30% मिला, लेकिन यह 25% से 35% के बीच रहा।" यह सच बताता है कि AI वास्तव में कितना विश्वसनीय है।
निष्कर्ष (The Bottom Line)
अभी, AI का क्षेत्र प्रगति के बारे में "फेक न्यूज" से भरा हुआ है। एक नया मॉडल दावा कर सकता है कि वह पुराने मॉडल से "3% बेहतर" है, लेकिन यह केवल इसलिए हो सकता है क्योंकि शोधकर्ताओं को अपने एकल परीक्षण रन के साथ भाग्य मिल गया।
यह पेपर एक चेतावनी है: यह वास्तव में जानने के लिए कि क्या AI वास्तव में स्मार्ट हो रहा है, हमें एकल प्रयासों पर जुआ खेलना बंद करना होगा और इन प्रणालियों की निरंतरता (consistency) और विचलन (variance) को मापना शुरू करना होगा। अन्यथा, हम केवल भाग्य के आधार पर एक लीडरबोर्ड बना रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।