A Frozen 12B Beats Frontier Models on Verified Work: 100% Accuracy, 0 Tokens, Bit-Exact, Forever
यह शोध पत्र एक ऐसी प्रणाली का प्रस्ताव करता है जहाँ एक फ्रोजन (frozen) लैंग्वेज मॉडल, स्वतंत्र रूप से सत्यापित समाधानों के एक निरंतर, बिट-सटीक मेमोरी स्टोर पर निर्भर रहकर, सत्यापित समस्या परिवारों पर 100% सटीकता और शून्य टोकन जनरेशन प्राप्त करता है, जिससे निष्पादन-बद्ध क्षमता (execution-bound capability) को पैरामीटर स्केलिंग से अलग किया जा सकता है और कंज्यूमर हार्डवेयर पर विशाल कॉन्टेक्स्ट विंडो सक्षम की जा सकती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक गणित की समस्या को हल करने की कोशिश कर रहे हैं। आधुनिक आर्टिफिशियल इंटेलिजेंस की दुनिया में, उत्तर पाने का सामान्य तरीका यह है कि जब भी आप कोई सवाल पूछें, तो एक सुपर-स्मार्ट रोबोट से उसे शुरुआत से सोचने के लिए कहें। यह रोबोट एक प्रतिभाशाली लेकिन बहुत महंगे छात्र की तरह है जिसे हर बार सवाल पूछने पर फिर से पाठ्यपुस्तक पढ़नी पड़ती है, सूत्र (formula) को फिर से सिद्ध करना पड़ता है, और समाधान को फिर से लिखना पड़ता है, भले ही आपने वही सवाल एक हज़ार बार पूछा हो। इसमें बहुत समय लगता है, बहुत अधिक बिजली खर्च होती है, और कभी-कभी, यदि आप एक ही सवाल दो बार पूछते हैं, तो वह आपको दो थोड़े अलग उत्तर दे सकता है क्योंकि वह थोड़ा अप्रत्याशित हो सकता है। आज के अधिकांश "फ्रंटियर" (frontier) AI मॉडल इसी तरह काम करते हैं: वे शक्तिशाली हैं, लेकिन वे धीमे, महंगे और थोड़े अव्यवस्थित हैं जब आपको पूर्ण निरंतरता (consistency) की आवश्यकता होती है।
लेकिन क्या होगा अगर, रोबोट को और अधिक कठिन सोचने के बजाय, हम उसे एक आदर्श, सत्यापित नोटबुक दे दें? कल्पना कीजिए कि यदि हम एक समस्या को एक बार हल कर सकें, एक सख्त शिक्षक के साथ उत्तर की जांच कर सकें ताकि यह सुनिश्चित हो सके कि वह 100% सही है, और फिर उस समाधान को एक विशेष पुस्तक में लिख दें। इसके बाद, जब भी उसी प्रकार की समस्या सामने आती है, तो रोबोट को सोचने की आवश्यकता नहीं होती है। वह बस पुस्तक का सही पन्ना पलटता है, उत्तर पढ़ता है, और उसे तुरंत लिख देता है। यह लगभग कुछ भी नहीं खर्च करता, पलक झपकते ही होता है, और उत्तर हर बार बिल्कुल एक जैसा होता है। यह "वेरिफाइड रियूज" (verified reuse) नामक एक नए दृष्टिकोण के पीछे का मूल विचार है, जहाँ बुद्धिमत्ता रोबोट के मस्तिष्क के बड़ा होने में नहीं है, बल्कि समाधानों के एक बढ़ते हुए पुस्तकालय में है जिसे रोबोट बिना किसी भारी मेहनत के एक्सेस कर सकता है।
जमा हुआ मस्तिष्क और जादुई पुस्तकालय
गलाहाड (Galahad) से मिलिए, एक नया सिस्टम जो खेल के नियम बदल देता है। इसके रचनाकारों ने एक मानक AI मॉडल (एक 12-बिलियन-पैरामीटर वाला "मस्तिष्क" जिसे Gemma-4-12B कहा जाता है) को लिया और कुछ क्रांतिकारी किया: उन्होंने इसे फ्रीज (freeze) कर दिया। उन्होंने इसकी सीखने या बदलने की क्षमता को बंद कर दिया। यह एक प्रतिभाशाली शेफ को यह बताने जैसा है कि, "आप अब नए व्यंजन नहीं बना सकते; आप केवल इस विशिष्ट मेनू से खाना बना सकते।"
उस फ्रीज किए गए शेफ के बगल में, उन्होंने मरलिन (Merlin) बनाया, जो एक जादुई, सुपर-फास्ट लाइब्रेरी है। यहाँ जादू कैसे काम करता है:
- जमा करना (The Deposit): जब कोई नई समस्या आती है, तो सिस्टम उसे एक बार हल करता है। लेकिन लाइब्रेरी में उत्तर डालने से पहले, एक सख्त "द्वारपाल" (gatekeeper) इसकी जांच करता है। यह द्वारपाल उत्तर कुंजी (answer key) नहीं देखता; यह उत्तर को सही साबित करने के लिए गणित और तर्क का उपयोग करता है। यदि यह पास हो जाता है, तो समाधान को स्टोर कर लिया जाता है।
- शून्य-लागत पुन: उपयोग (The Zero-Cost Reuse): अब, कल्पना कीजिए कि दस लाख लोग एक ही प्रकार का प्रश्न पूछ रहे हैं। हर बार शेफ को शून्य से खाना बनाने के बजाय, सिस्टम लाइब्रेरी में सत्यापित रेसिपी को खोज लेता है। यह फ्रीज किए गए शेफ को बताता है, "बस इसे कॉपी करो।" शेफ इसे तुरंत कर देता है।
- परिणाम: सिस्टम इन समस्याओं के 180 बिल्कुल नए रूपांतरों को 100% सटीकता के साथ उत्तर देता है। यह शून्य "जेनरेशन टोकन" (डिजिटल मुद्रा जिसके लिए AI आमतौर पर सोचने के लिए शुल्क लेता है) का उपयोग करता है। इसमें केवल 6 से 23 मिलीसेकंड (एक पलक झपकने से भी तेज़) लगते हैं और लगभग 36 मिलीवाट-घंटे ऊर्जा का उपयोग होता है—यह लगभग उतनी ऊर्जा है जितनी एक LED बल्ब 13 सेकंड के लिए उपयोग करता है।
पुराना तरीका क्यों बर्बादी है
पेपर का तर्क है कि AI का वर्तमान उपयोग ऐसा है जैसे हर बार घर बनाने के लिए एक मास्टर आर्किटेक्ट को घर का डिज़ाइन शुरू से बनाने के लिए भुगतान करना। "फ्रंटियर" मॉडल (उपलब्ध सबसे शक्तिशाली, महंगे AI) उन नई समस्याओं को हल करने में बेहतरीन हैं जिन्हें उन्होंने पहले कभी नहीं देखा। लेकिन उन समस्याओं के लिए जिन्हें पहले ही हल और सत्यापित किया जा चुका है, उन्हें फिर से सोचने के लिए कहना एक बर्बादी है।
लेखकों ने इस बर्बादी को मापा। उन्होंने पाया कि यदि आप एक हल की गई समस्या का उत्तर देने के लिए एक मानक AI API का उपयोग करते हैं, तो आप हर बार एक पूर्ण "सोचने के दौर" (thinking pass) के लिए भुगतान करते हैं। यह नॉन-डिटरमिनिस्टिक (non-deterministic) है (उत्तर थोड़ा बदल सकता है), यह धीमा है, और इसमें पैसा खर्च होता है। इसके विपरीत, गलाहाड का फ्रीज किया गया मॉडल, एक बार अपनी लाइब्रेरी में सत्यापित समाधान होने के बाद, उसी समस्या का उत्तर हमेशा के लिए मुफ्त में देता है। "ब्रेक-ईवन पॉइंट" (वह बिंदु जहाँ सिस्टम लाइब्रेरी बनाने की लागत से अधिक बचत करता है) केवल 17 से 34 प्रश्नों के बाद आता है। उसके बाद, प्रत्येक उत्तर शुद्ध बचत है।
"मेमोरी" ही असली स्टार है
इस प्रयोग का एक सबसे शानदार हिस्सा यह साबित करना है कि "मस्तिष्क" उतना महत्वपूर्ण नहीं है जितना कि "किताब"। शोधकर्ताओं ने इसे चार अलग-अलग कंपनियों के चार अलग-अलग AI मॉडलों (Gemma, Qwen, DeepSeek, और Phi सहित) के साथ टेस्ट किया। उन्होंने उन सभी को बिल्कुल समान फ्रीज किए गए वेट्स (weights) और सत्यापित समाधानों की एक ही लाइब्रेरी दी।
परिणाम? चारों मॉडलों ने 180 में से 180 सही उत्तर दिए।
इससे कोई फर्क नहीं पड़ा कि मॉडल "डेंस" (dense) था या "मिक्सचर ऑफ एक्सपर्ट्स" (mixture of experts)। क्षमता पूरी तरह से लाइब्रेरी से आई थी, मस्तिष्क से नहीं। जब उन्होंने लाइब्रेरी खाली कर दी, तो मॉडल कुछ भी हल नहीं कर सके। जब उन्होंने लाइब्रेरी भर दी, तो वे पूर्ण थे। यह साबित करता है कि सत्यापित, दोहराए जाने वाले कार्यों के लिए, आपको एक बड़े, स्मार्ट, अधिक महंगे मस्तिष्क की आवश्यकता नहीं है; आपको बस एक बेहतर, सत्यापित मेमोरी की आवश्यकता है।
"अनुमान लगाने" की समस्या (वेक्टर सर्च)
आप सोच रहे होंगे, "क्या हम उत्तर खोजने के लिए एक सामान्य सर्च इंजन का उपयोग नहीं कर सकते?" पेपर कहता है नहीं, और यहाँ कारण दिया गया है। अधिकांश AI सिस्टम "वेक्टर रिट्रीवल" (vector retrieval) का उपयोग करते हैं, जो कुछ ऐसा है जैसे किसी किताब को उसके दिखने के आधार पर ढूंढना। यह धुंधला (fuzzy) है।
शोधकर्ताओं ने इसे 4,500 सत्यापित वस्तुओं की लाइब्रेरी पर टेस्ट किया। जब उन्होंने "फजी सर्च" का उपयोग किया, तो इसने 94.3% बार गलत आइटम चुना। यह एक आपदा है। यदि आप किसी विशिष्ट चिकित्सा सूत्र या कानूनी क्लॉज की तलाश कर रहे हैं, तो "लगभग सही" उत्तर मिलना बेकार है। गलाहाड सटीक एड्रेसिंग (exact addressing) का उपयोग करता है, जिसका अर्थ है कि यह 0% त्रुटि के साथ सटीक आइटम को ढूंढता है। यह एक गाने के नाम का अनुमान लगाने और स्कैन करने के लिए सटीक बारकोड जानने के बीच का अंतर है। उन चीजों के लिए जिन्हें पूर्ण होना चाहिए, फजी मैचिंग (fuzzy matching) विनाशकारी रूप से विफल हो जाती है।
अनंत की एक खिड़की
एक अन्य अद्भुत खोज यह है कि सिस्टम कितनी जानकारी अपने "वर्किंग मेमोरी" (वह स्थान जिसे वह एक साथ सोच सकता है) में रख सकता है।
- मानक AI इंजन (जैसे vLLM और SGLeng) क्रैश हो जाते हैं या चुपचाप चीजें भूल जाते हैं जब आप उन्हें लगभग 32,000 टोकन (एक टोकन शब्द का एक हिस्सा है) से अधिक खिलाने की कोशिश करते हैं।
- गलाहाड ने एक सिंगल ग्राफिक्स कार्ड पर 6,000,000-टोकन विंडो को संभाला।
- यह 6-मिलियन-टोकन के इतिहास के बिल्कुल शुरुआत तक उतनी ही तेज़ी से पहुँच सकता था जितनी तेज़ी से यह अंत तक पहुँच सकता है।
- इसने अतिरिक्त कंप्यूटर मेमोरी का उपयोग किए बिना यह किया। यह एक ऐसी लाइब्रेरी की तरह है जिसमें अनंत शेल्फ हैं, लेकिन आप एक बार में केवल एक ही किताब देख सकते हैं, और आप उस किताब को लाइब्रेरी की किसी भी अन्य किताब से तुरंत बदल सकते हैं।
भविष्य के लिए इसका क्या अर्थ है
पेपर बहुत सावधानी से यह कहता है कि यह क्या नहीं करता है। यह दावा नहीं करता कि यह सिस्टम सबसे बड़े AI मॉडलों की तुलना में नई, पहले कभी न देखी गई समस्याओं को बेहतर ढंग से हल कर सकता है। यदि आप इससे कोई नया, रचनात्मक प्रश्न पूछते हैं, तो फ्रीज किया गया मस्तिष्क संघर्ष कर सकता है। लेकिन किसी भी ऐसे कार्य के लिए जो सत्यापन योग्य (verifiable) है (जैसे गणित, कोडिंग, या तर्क) और पुनरावृत्ति (recurring) वाला है (बार-बार होता है), यह सिस्टम गेम-चेंजर है।
यह AI उद्योग को उलट देता है:
- पुराना तरीका: हर बार सोचने के लिए भुगतान करें।
- नया तरीका: एक बार सत्यापित करने के लिए भुगतान करें, फिर हमेशा के लिए मुफ्त में निष्पादित (execute) करें।
लेखकों ने एक सार्वजनिक टेस्टबेंच भी सेट किया है जहाँ कोई भी इसे वास्तविक समय में देख सकता है। वे किसी को भी चुनौती देते हैं कि वे एक ऐसा AI खोजें जो हल की गई समस्या का उत्तर शून्य लागत, पूर्ण सटीकता और तत्काल गति के साथ दे सके। अब तक, कोई नहीं मिला है। संदेश स्पष्ट है: हमारे दैनिक कार्यों के लिए, हमें बड़े मस्तिष्क बनाने की आवश्यकता नहीं है; हमें बस बेहतर, सत्यापित लाइब्रेरी बनाने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।