QED-Nano: Teaching a Tiny Model to Prove Hard Theorems
यह शोध पत्र QED-Nano को प्रस्तुत करता है, जो एक 4B ओपन-सोर्स मॉडल है जो डिस्टिलेशन (distillation), रूब्रिक-आधारित सुदृढीकरण शिक्षण (rubric-based reinforcement learning) और एक रीजनिंग कैश (reasoning cache) से जुड़ी तीन-चरणीय प्रशिक्षण पाइपलाइन के माध्यम से प्रतिस्पर्धी ओलंपियाड-स्तरीय प्रमेय सिद्ध करने में सक्षम है, जो बड़े ओपन मॉडलों से बेहतर प्रदर्शन करता है और लागत के एक अंश पर प्रोप्रायटरी प्रदर्शन के करीब पहुँचता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक शानदार, विश्व स्तरीय गणितज्ञ है (जैसे कि एक 685-बिलियन-पैरामीटर वाला AI) जो दुनिया की सबसे कठिन गणितीय समस्याओं को हल कर सकता है, लेकिन उन्हें काम पर रखना इतना महंगा है कि केवल बड़े तकनीकी दिग्गज ही उन्हें वहन कर सकते हैं। वे एक प्राइवेट जेट की तरह हैं: तेज़ और शक्तिशाली, लेकिन आप उन्हें खरीद नहीं सकते, और आप यह भी नहीं देख सकते कि उनका इंजन कैसे काम करता है।
फिर, वहां "छोटे" AI मॉडल हैं। वे एक भरोसेमंद, किफायती साइकिल की तरह हैं। वे सस्ते हैं और सभी के उपयोग के लिए खुले हैं, लेकिन आमतौर पर, वे केवल समतल और आसान रास्तों पर ही चल सकते हैं। वे उन्नत गणितीय प्रमाणों (math proofs) के ऊंचे, पथरीले पहाड़ों पर चढ़ने में संघर्ष करते हैं।
बड़ा सवाल: क्या हम उस किफायती साइकिल को उसी पहाड़ पर चढ़ने के लिए प्रशिक्षित कर सकते हैं जिस पर प्राइवेट जेट चढ़ता है?
जवाब: हाँ। इस पेपर के पीछे की टीम ने QED-Nano बनाया है, जो एक छोटा 4-बिलियन-पैरामीटर वाला मॉडल है जिसने जटिल गणितीय प्रमेयों (theorems) को सिद्ध करना सीखा, और अपने आकार से 30 से 100 गुना बड़े मॉडलों को टक्कर दी।
यहाँ बताया गया है कि उन्होंने यह कैसे किया, एक सरल कहानी के माध्यम से:
तीन-चरणीय प्रशिक्षण शिविर (Three-Step Training Camp)
एक छोटे मॉडल को गणित का जीनियस बनाने के लिए, टीम ने केवल उस पर अधिक डेटा नहीं डाला। उन्होंने एक विशिष्ट तीन-चरणीय प्रशिक्षण शिविर का उपयोग किया:
1. "स्टाइल कोच" (सुपरवाइज्ड फाइन-ट्यूनिंग - Supervised Fine-Tuning)
कल्पना कीजिए कि आप एक आदर्श कानूनी तर्क लिखना सीखना चाहते हैं। आप केवल रैंडम किताबें नहीं पढ़ेंगे; आप एक मास्टर वकील को काम पर रखेंगे जो आपको दिखाएगा कि वे अपने वाक्यों की संरचना कैसे करते हैं, वे कोमा कहाँ लगाते हैं, और वे अपने तर्क को कैसे बनाते हैं।
- उन्होंने क्या किया: उन्होंने छोटे मॉडल को "DeepSeek-Math-V2" जैसे विशाल मॉडल द्वारा लिखे गए हजारों आदर्श गणितीय प्रमाणों के उदाहरण दिखाए।
- उपमा (Analogy): यह साइकिल को एक नया फ्रेम देने और उसे एक पेशेवर रेसर की शैली (style) सिखाने जैसा है। इसने सीखा कि एक गणितज्ञ की तरह "बात" कैसे की जाती है, लेकिन जरूरी नहीं कि इसने अभी तक गहरे तर्क को समझा हो।
2. "सख्त रेफरी" (रूब्रिक्स के साथ सुदृढीकरण सीखना - Reinforcement Learning with Rubrics)
अब मॉडल पेशेवर की तरह लिख सकता है, लेकिन यह अभी भी तार्किक गलतियाँ कर सकता है। पुराने समय में, AI को बहुविकल्पीय परीक्षा (multiple-choice test) की तरह ग्रेड किया जाता था: "क्या आपको सही उत्तर मिला? हाँ/नहीं।" लेकिन गणितीय प्रमाण बहुविकल्पीय नहीं होते; वे निबंध की तरह होते हैं। आप गलत तर्क के साथ सही उत्तर प्राप्त कर सकते हैं, या शानदार तर्क के साथ गलत उत्तर।
- उन्होंने क्या किया: उन्होंने प्रत्येक समस्या के लिए एक "रूब्रिक" (एक विस्तृत ग्रेडिंग शीट) बनाया। केवल "गलत" कहने के बजाय, एक स्मार्ट AI रेफरी (एक जज के रूप में कार्य करते हुए) हर कदम पर प्रमाण को ग्रेड करेगा।
- "प्रमेय को बताने के लिए अच्छा काम किया (+1 अंक)।"
- "आप यह साबित करना भूल गए कि यह चरण मान्य है (-2 अंक)।"
- "आपका तर्क यहाँ गोलाकार (circular) है, इसलिए इस अनुभाग के लिए कोई अंक नहीं।"
- उपमा: यह एक ऐसे कोच की तरह है जो केवल "तेज़ दौड़ो!" चिल्लाता नहीं है, बल्कि धावक के फॉर्म को देखता है, सटीक रूप से बताता है कि उनका पैर कहाँ गलत पड़ रहा है, और उन्हें केवल इस आधार पर नहीं बल्कि इस आधार पर स्कोर देता है कि वे कैसे दौड़े। मॉडल ने रेफरी से उच्च स्कोर प्राप्त करने के लिए अपने तर्क को सुधारना सीखा।
3. "सोचने के लिए विराम" (रीज़निंग कैश और टेस्ट-टाइम स्कैफोल्ड्स - Reasoning Cache & Test-Time Scaffolds)
यही असली सफलता का मंत्र है। आमतौर पर, जब कोई AI किसी समस्या को हल करता है, तो उसे एक बार में पूरा उत्तर बाहर निकालना होता है। यदि समस्या बहुत बड़ी है, तो AI अभिभूत हो जाता है और अपनी ही विचार प्रक्रिया की शुरुआत को भूल जाता है।
- उन्होंने क्या किया: उन्होंने मॉडल को रुकने, अब तक जो उसने समझा है उसका सारांश (summarize) देने, और फिर उस सारांश के आधार पर अगला कदम शुरू करने के लिए प्रशिक्षित किया। यह एक लंबा निबंध लिखने जैसा है, जहाँ आप हर कुछ पैराग्राफ के बाद यह लिखने के लिए रुकते हैं कि आपने अब तक क्या कहा है (TL;DR सारांश), और फिर अगले भाग को लिखने के लिए उस सारांश का उपयोग करते हैं।
- उपमा: कल्पना कीजिए कि आप एक भूलभुलैया (maze) को हल करने की कोशिश कर रहे हैं। बिना सोचे-समझे दीवार से टकराने तक दौड़ने के बजाय, मॉडल हर कुछ मोड़ पर रुकता है, एक नक्शा बनाता है कि वह कहाँ रहा है, और फिर उस नक्शे का उपयोग यात्रा के अगले हिस्से की योजना बनाने के लिए करता है। यह छोटे मॉडल को बहुत लंबे समय तक (2 मिलियन टोकन तक!) बिना भटके "सोचने" की अनुमति देता है।
परिणाम: कमजोर पक्ष (Underdog) की जीत
परिणाम चौंकाने वाले थे।
- छोटा मॉडल: QED-Nano (4B पैरामीटर्स) ने बिना किसी अतिरिक्त मदद के एक कठिन गणित ओलंपियाड टेस्ट पर 40% स्कोर किया।
- विशाल मॉडल: इसने अपने से 30 गुना बड़े (जैसे Nomos-1) और यहाँ तक कि 60 गुना बड़े (जैसे GPT-OSS-120B) मॉडलों को भी पीछे छोड़ दिया।
- "सोचने के लिए विराम" के साथ: जब उन्होंने मॉडल को अपने "सारांश" वाले तरीके का उपयोग करके लंबे समय तक सोचने दिया, तो इसने 57% स्कोर किया, जो महंगे, क्लोज्ड-सोर्स "Gemini 3 Pro" के प्रदर्शन के बहुत करीब पहुँच गया।
यह क्यों महत्वपूर्ण है
- लोकतांत्रिकरण (Democratization): अब कठिन गणित की समस्याओं को हल करने के लिए आपको अरबों डॉलर के बजट की आवश्यकता नहीं है। एक छोटा, ओपन मॉडल इसे कर सकता है यदि इसे सही ढंग से प्रशिक्षित किया जाए।
- दक्षता (Efficiency): 4B मॉडल चलाना एक साइकिल चलाने जैसा है; 600B मॉडल चलाना एक प्राइवेट जेट उड़ाने जैसा है। साइकिल बहुत सस्ती और बनाए रखने में आसान है, फिर भी यह उसी मंजिल तक पहुँच सकती है।
- पारदर्शिता (Transparency): क्योंकि यह मॉडल "ओपन" है, वैज्ञानिक देख सकते हैं कि इसे वास्तव में कैसे प्रशिक्षित किया गया था। हम जादू कैसे काम करता है इसके बारे में अनुमान नहीं लगा रहे हैं; हमारे पास इसकी रेसिपी है।
संक्षेप में: यह पेपर सिद्ध करता है कि कठिन समस्याओं को हल करने के लिए आपको एक विशाल मस्तिष्क की आवश्यकता नहीं है; आपको बस सही प्रशिक्षण, एक सख्त रेफरी और बोलने से पहले रुकने और सोचने की क्षमता की आवश्यकता है। उन्होंने एक छोटे, किफायती AI को गणित ओलंपियाड के दावेदार में बदल दिया।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।