Scaling Agentic Verifier for Competitive Coding
यह शोध पत्र 'एजेंटिक वेरीफायर' (Agentic Verifier) को प्रस्तुत करता है, जो एक निष्पादन-आधारित एजेंट है जो मल्टी-टर्न रीजनिंग और रीइन्फोर्समेंट लर्निंग के माध्यम से सक्रिय रूप से विभेदक परीक्षण इनपुट उत्पन्न करता है ताकि प्रतिस्पर्धी प्रोग्रामिंग में बड़े भाषा मॉडल (LLMs) की सटीकता में उल्लेखनीय सुधार किया जा सके, जिससे गलत संभावित समाधानों को प्रभावी ढंग से पहचाना और फ़िल्टर किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Scaling Agentic Verifier for Competitive Coding" पेपर की सरल भाषा और रचनात्मक उपमाओं (analogies) का हिंदी अनुवाद दिया गया है।
बड़ी समस्या: "वन-शॉट" अंदाज़ा लगाने वाला खेल
कल्पना कीजिए कि आप एक जीनियस शेफ (एक लार्ज लैंग्वेज मॉडल) हैं जो किसी रेसिपी के विवरण के आधार पर एक जटिल व्यंजन बनाने की कोशिश कर रहे हैं। कभी-कभी, आप पहली बार में ही इसे बिल्कुल सही बना लेते हैं। लेकिन अक्सर, आपसे कोई सूक्ष्म विवरण छूट सकता है, जैसे चीनी की जगह नमक का उपयोग करना, या कोई चरण भूल जाना।
कंपीटिटिव प्रोग्रामिंग की दुनिया में (कोड के साथ कठिन लॉजिक पहेलियों को हल करना), सबसे स्मार्ट AI शेफ भी एक ही प्रयास में 100% सही उत्तर देने में संघर्ष करते हैं।
इसे ठीक करने के लिए, शोधकर्ता आमतौर पर AI से उस व्यंजन को 64 बार बनाने के लिए कहते हैं (64 अलग-अलग समाधान उत्पन्न करना) और फिर उनमें से सबसे अच्छे को चुनते हैं। लेकिन आपको कैसे पता चलेगा कि उनमें से कौन सा वास्तव में अच्छा है यदि आपके पास "आधिकारिक उत्तर कुंजी" (official answer key) हाथ में न हो?
पुराना तरीका: अंधे होकर तीर चलाना
इन 64 समाधानों की जाँच करने के पारंपरिक तरीके को एक्जीक्यूशन-बेस्ड वेरिफिकेशन (Execution-Based Verification) कहा जाता है। आप 64 कोड रेसिपी को लेते हैं और उन्हें कुछ टेस्ट सामग्री (inputs) के विरुद्ध चलाते हैं।
- दोष: पुराना तरीका एक विशाल दीवार पर मौजूद संभावित सामग्रियों पर अंधे होकर तीर चलाने जैसा था ताकि यह देखा जा सके कि कौन सी सामग्री गलती को उजागर करती है। यह केवल रैंडम (यादृच्छिक) सामग्रियां चुनता था (जैसे, "क्या होगा अगर संख्या 5 हो?" "क्या होगा अगर यह 100 हो?")।
- परिणाम: अधिकांश रैंडम सामग्रियां बहुत आसान होती हैं। वे सूक्ष्म गलतियों को नहीं पकड़ पातीं। आप 64 टेस्ट चला सकते हैं, और सभी 64 गलत समाधान अभी भी एकदम सही लग सकते हैं क्योंकि कोई भी टेस्ट इतना कठिन नहीं था कि उनकी गलतियों को उजागर कर सके। यह हीरे में दरार खोजने के लिए उसे पंख से थपथपाने जैसा है; आपको एक हथौड़े की आवश्यकता है।
नया समाधान: "डिटेक्टिव शेफ" (एजेंटिक वेरीफायर)
लेखकों ने एक नया टूल बनाया है जिसे एजेंटिक वेरीफायर (Agentic Verifier) कहा जाता है। इसे एक रैंडम तीर चलाने वाले के रूप में नहीं, बल्कि एक सुपर-स्मार्ट डिटेक्टिव या एक कठोर फूड क्रिटिक के रूप में सोचें।
रैंडम सामग्रियां चुनने के बजाय, यह डिटेक्टिव:
- दो अलग-अलग समाधानों को अगल-बगल देखता है।
- वे कैसे काम करते हैं, इस पर गहराई से विचार करता है।
- सक्रिय रूप से उस एक विशिष्ट सामग्री की तलाश करता है जो दोनों समाधानों को अलग तरह से व्यवहार करने के लिए मजबूर कर देगी।
यदि समाधान A कहता है "उत्तर 10 है" और समाधान B कहता है "उत्तर 12 है," तो डिटेक्टिव केवल एक रैंडम नंबर नहीं चुनता। वह पूछता है, "कौन सा विशिष्ट इनपुट समाधान A को क्रैश होने या गलत उत्तर देने के लिए मजबूर करेगा जबकि समाधान B सही बना रहे?" वह तब तक सवाल पूछता रहता है और परीक्षण करता रहता है जब तक कि उसे वह "स्मोकिंग गन" (पुख्ता सबूत) इनपुट नहीं मिल जाता।
उन्होंने डिटेक्टिव को कैसे प्रशिक्षित किया
आप कंप्यूटर को सिर्फ यह नहीं कह सकते कि "स्मार्ट बनो।" आपको उसे प्रशिक्षित करना होगा। लेखकों ने तीन-चरणीय प्रशिक्षण शिविर का उपयोग किया:
- डेटा सिंथेसिस (प्रैक्टिस किचन): उन्होंने हजारों नकली कुकिंग समस्याएं और "अच्छे" और "बुरे" समाधानों के जोड़े बनाए।
- रिजेक्शन फाइन-ट्यूनिंग (एलिमिनेशन राउंड): उन्होंने AI को ट्रिकी सामग्रियां खोजने की कोशिश करने दी। यदि वह अंतर खोजने में विफल रहा, तो उस प्रयास को कचरे में फेंक दिया गया। केवल सफल प्रयासों को ही रखा गया ताकि AI को सिखाया जा सके कि "अच्छा डिटेक्टिव वर्क" क्या होता है।
- एजेंटिक रीइन्फोर्समेंट लर्निंग (चैंपियनशिप): उन्होंने AI को एक रिवॉर्ड सिस्टम दिया। यदि इसने दो समाधानों के बीच अंतर दिखाने वाला इनपुट खोज लिया, तो इसे एक पॉइंट मिला। यदि यह विफल रहा, तो इसे पेनल्टी मिली। समय के साथ, AI उन "स्मोकिंग गन" इनपुट्स को खोजने में अविश्वसनीय रूप से कुशल बनने के लिए सीख गया।
परिणाम: स्मार्ट टेस्ट, बेहतर विजेता
जब उन्होंने अपने नए "डिटेक्टिव शेफ" का पुराने "रैंडम डार्ट-थ्रोअर" के खिलाफ परीक्षण किया:
- दक्षता (Efficiency): डिटेक्टिव ने गलतियों को बहुत तेज़ी से पकड़ा। उसे सैकड़ों टेस्ट चलाने की ज़रूरत नहीं पड़ी; उसने सही टेस्ट खोजने के लिए सही रास्ता चुना।
- सटीकता (Accuracy): कठिन पहेलियों (जैसे USACO या ICPC प्रतियोगिताओं से) पर, इस नए तरीके ने AI की सफलता दर में 10-15% का सुधार किया। इस क्षेत्र में यह एक बहुत बड़ी छलांग है।
- स्केलिंग (Scaling): जितना अधिक "सोचने का समय" और टेस्ट इनपुट डिटेक्टिव को दिए गए, वह उतना ही बेहतर होता गया। वह पुराने तरीकों की तरह रुका नहीं।
एक बोनस खोज: "अपूर्ण जज"
पेपर में एक और दिलचस्प बात भी सामने आई। इन प्रतियोगिताओं के आधिकारिक टेस्ट केस वास्तव में अपूर्ण होते हैं।
कभी-कभी, एक समाधान तकनीकी रूप से "गलत" होता है (वह उन इनपुट्स पर फेल हो जाता है जिनका प्रतियोगिता ने परीक्षण नहीं किया था), लेकिन फिर भी वह आधिकारिक टेस्ट पास कर लेता है और गोल्ड मेडल जीत लेता है। एजेंटिक वेरीफायर एक "सत्यवादी" के रूप में कार्य करता है जो नए, ट्रिकी टेस्ट जेनरेट करके इन "नकली विजेताओं" को ढूंढ सकता है जिन्हें आधिकारिक जज मिस कर गए थे। यह दिखाता है कि इन प्रतियोगिताओं के "उत्तर की कुंजियाँ" भी पूर्ण नहीं हैं, और यह नया टूल वास्तव में सही कोड खोजने में मदद कर सकता है।
सारांश
संक्षेप में, पेपर कहता है: "AI कोड की जांच करने के लिए रैंडम टेस्ट केस का अनुमान लगाना बंद करें। इसके बजाय, एक AI डिटेक्टिव को प्रशिक्षित करें जो सक्रिय रूप से उन विशिष्ट, ट्रिकी टेस्ट की तलाश करे जो सच्चाई को उजागर करते हैं। यह सबसे अच्छे कोड को खोजने को बहुत तेज़ और बहुत अधिक सटीक बनाता है।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।