The Replay Gap: Static Evaluation of Model Switching in LLM Agents Scores the Wrong World
यह शोध पत्र यह प्रदर्शित करता है कि स्टैटिक रिप्ले-आधारित मूल्यांकन विधियाँ मौलिक रूप से LLM एजेंट राउटरों का आकलन करने में विफल रहती हैं क्योंकि लॉग की गई ट्रैजेक्टरीज में मॉडल आउटपुट्स को प्रतिस्थापित करना बाद के एजेंट कार्यों के कैस्केडिंग विचलन (cascading divergence) की अनदेखी करता है, जिससे भ्रामक प्रदर्शन मेट्रिक्स प्राप्त होते हैं जो वास्तविक दुनिया के परिणामों को प्रतिबिंबित नहीं करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अंतरिक्ष यान के कप्तान हैं जो एक खतरनाक क्षुद्रग्रह क्षेत्र (asteroid field) से गुजर रहे हैं। आपके पास विभिन्न AI पायलटों का एक बेड़ा है: कुछ तेज़ और सस्ते हैं लेकिन छोटी गलतियाँ करते हैं, जबकि कुछ धीमे, महंगे और अविश्वसनीय रूप से सटीक हैं। ईंधन बचाने के लिए, आप वर्तमान स्थिति के आधार पर यात्रा के बीच में पायलट बदलने का निर्णय लेते हैं। यदि रास्ता साफ है, तो आप सस्ते पायलट का उपयोग करते हैं; यदि कोई विशाल क्षुद्रग्रह दिखाई देता है, तो आप विशेषज्ञ पर स्विच कर देते हैं। यह 'एजेंटिक रूटिंग' (agentic routing) का सपना है जो लार्ज लैंग्वेज मॉडल्स (LLMs) की दुनिया में मौजूद है। ये मॉडल उन AI एजेंटों के पीछे के मस्तिष्क हैं जो कोड लिख सकते हैं, गणित की समस्याओं को हल कर सकते हैं, या कदमों की एक श्रृंखला लेकर खेल खेल सकते हैं। बड़ा सवाल यह है कि इंजीनियरों को यह कैसे पता चलेगा कि उनकी पायलट-बदलने की रणनीति वास्तव में काम करती है?
परंपरागत रूप से, वैज्ञानिक इन रणनीतियों का परीक्षण एक फिल्म निर्देशक की तरह करते हैं जो एक पटकथा (script) की समीक्षा करता है। वे एक रिकॉर्ड की गई यात्रा (एक "ट्रैजेक्टरी") को देखते हैं जहाँ एक ही पायलट ने पूरी यात्रा की हो। फिर वे कल्पना करते, "क्या होगा अगर हमने कदम 10 पर पायलट को बदल दिया होता?" वे बस पुराने रिकॉर्ड किए गए जवाबों को नई पटकथा में चिपका देते हैं और देखते हैं कि क्या अंत अच्छा दिखता है। इसे "रीप्ले इवैल्यूएशन" (replay evaluation) कहा जाता है। यह सस्ता, तेज़ है, और यह मान लेता है कि यदि आप कदम 10 पर पायलट बदलते हैं, तो जहाज की बाकी यात्रा मूल रिकॉर्डिंग के समान ही रहेगी। लेकिन वास्तविक दुनिया में, एक अंतरिक्ष यान एक बंद लूप (closed loop) है: कदम 10 पर पायलट की क्रिया कदम 11 के दृश्य को बदल देती है, जो कदम 12 पर निर्णय को बदल देती है, और इसी तरह। यदि नया पायलट अपने पिछले कदम के कारण एक अलग क्षुद्रग्रह क्षेत्र देखता है, तो पूरी पटकथा बदल जाती है। यह शोध पत्र एक सरल, भयानक प्रश्न पूछता है: क्या हमारे "मूवी स्क्रिप्ट" परीक्षण का तरीका वास्तव में गलत वास्तविकता को माप रहा है?
कार्नेगी मेलन यूनिवर्सिटी के शोधकर्ताओं ने अनुमान लगाना बंद करने और परीक्षण करना शुरू करने का निर्णय लिया। एक मूवी स्क्रिप्ट को एडिट करने के बजाय, उन्होंने एक टाइम-ट्रैवल मशीन बनाई। उन्होंने वास्तविक AI एजेंटों को सॉफ्टवेयर इंजीनियरिंग की समस्याएं हल करते हुए लिया और विशिष्ट क्षणों पर, समयरेखा को "फोर्क" (fork) कर दिया। उन्होंने दो समानांतर ब्रह्मांड बनाए: एक जहाँ मूल पायलट जारी रहा, और दूसरा जहाँ उन्होंने एक अलग मॉडल को बदल दिया। महत्वपूर्ण रूप से, उन्होंने केवल पुराने कहानी में नए उत्तर नहीं चिपकाए; उन्होंने नए पायलट को वास्तव में नियंत्रण लेने, कंप्यूटर वातावरण के साथ इंटरैक्ट करने और यह देखने दिया कि वास्तव में आगे क्या हुआ। उन्होंने यह देखने के लिए लगभग 900 समानांतर प्रयोग चलाए कि कहानियाँ कितनी अलग हुईं।
परिणाम सिस्टम के लिए एक झटका थे। यह धारणा कि यात्रा का शेष भाग समान रहता है, पूरी तरह से गलत थी। जब उन्होंने मॉडल बदला, तो नए पायलट ने केवल मौजूदा पथ को नहीं अपनाया; उन्होंने पूरे भविष्य को ही फिर से लिख दिया। कार्य के शुरुआती चरणों में, मॉडल बदलने से एजेंट अपने अगले ही एक्शन पर 74% से 77% तक विचार बदल देता था। जब तक शोधकर्ताओं ने पूरी यात्रा देखी, तब तक नए पायलट ने बदलाव के बाद के 61% से 94% कदमों को फिर से लिख दिया था। इसे समझने के लिए, यदि आप एक वीडियो गेम में पायलट बदलते हैं, तो गेम की दुनिया इतनी नाटकीय रूप से बदल जाएगी कि आप जिस "स्क्रिप्ट" को पढ़ने की कोशिश कर रहे थे, वह अब अस्तित्व में ही नहीं रहने वाले लेवल का वर्णन कर रही होगी।
अध्ययन ने यह भी पाया कि "रीप्ले" विधि सफलता के प्रति खतरनाक रूप से अंधी है। अपने प्रयोगों में, उन्होंने पाँच विशिष्ट क्षण देखे जहाँ पायलट बदलने से वास्तव में मिशन का परिणाम बदल गया—एक विफल कार्य को बचा लिया या एक हल किए गए कार्य को खो दिया। पुराने "मूवी स्क्रिप्ट" पद्धति ने इन सभी महत्वपूर्ण क्षणों को मिस कर दिया। इसने विफलता की भविष्यवाणी की जब नए पायलट ने वास्तव में सफलता प्राप्त की, और इसने सफलता की भविष्यवाणी की जब नया पायलट विफल हो गया। नए पायलट द्वारा वास्तव में लिखा गया कोड का पैच उस पैच जैसा बिल्कुल नहीं था जिसकी रीप्ले विधि ने भविष्यवाणी की थी; वे अनिवार्य रूप से असंबंधित थे।
इसके अलावा, शोधकर्ताओं ने पाया कि सिस्टम में "शोर" (noise) इस बात पर निर्भर करता है कि मॉडल्स को कैसे चलाया जाता है। यहाँ तक कि एक ही मॉडल को दो बार उपयोग करने पर भी, परिणाम हमेशा एक जैसे नहीं होते। यदि मॉडल को एक प्रकार के हार्डवेयर कम्प्रेशन (FP8) का उपयोग करके चलाया गया, तो "कंट्रोल" रन (जहाँ कोई बदलाव नहीं हुआ) 90% बार अलग हो गए। लेकिन एक अलग कम्प्रेशन विधि (AWQ) के साथ, रन लगभग एक जैसे रहे। इसका मतलब है कि तुलना के लिए आधार रेखा (baseline) भी अस्थिर है, जिससे "रीप्ले" विधि और भी कम विश्वसनीय हो जाती है।
यह शोध पत्र निष्कर्ष निकालता है कि वर्तमान में हम AI रूटिंग का परीक्षण गलत दुनिया को स्कोर कर रहा है। "रीप्ले" विधि एक शेफ द्वारा लिखी गई रेसिपी को पढ़ने के समान है, यह नजरअंदाज करते हुए कि रसोई में सामग्री बदल चुकी है। लेखक का सुझाव है कि AI एजेंटों को रूट करना वास्तव में समझने के लिए, हमें भविष्य को स्थिर मानने के बजाय, उन्हें शाखाओं वाले, समानांतर वास्तविकताओं में चलाकर परीक्षण करने की आवश्यकता है। उन्होंने अपने उपकरण और डेटा जारी कर दिए हैं ताकि अन्य लोग अनुमान लगाना बंद करें और उस वास्तविक, अराजक और आकर्षक तरीके को देख सकें जिस तरह से ये AI एजेंट वास्तव में व्यवहार करते हैं जब खेल के नियम बदल जाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।