VibeThinker-3B: Exploring the Frontier of Verifiable Reasoning in Small Language Models
यह शोध पत्र VibeThinker-3B को प्रस्तुत करता है, जो एक संक्षिप्त 3B-पैरामीटर वाला मॉडल है जो 'स्पेक्ट्रम-टू-सिग्नल' (Spectrum-to-Signal) पोस्ट-ट्रेनिंग प्रतिमान के माध्यम से AIME26 और LiveCodeBench जैसे कठिन बेंचमार्क पर फ्रंटियर-स्तर का सत्यापन योग्य तर्क प्रदर्शन प्राप्त करता है, जो इस धारणा को चुनौती देता है कि ऐसी क्षमताओं के लिए विशाल पैमाने की आवश्यकता होती है और 'पैरामीट्रिक कम्प्रेशन-कवरेज हाइपोथीसिस' (Parametric Compression-Coverage Hypothesis) का समर्थन करता है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास ज्ञान का एक विशाल पुस्तकालय है। आमतौर पर, एक बहुत कठिन पहेली को हल करने के लिए, आपको एक ऐसे लाइब्रेरियन की आवश्यकता होती है जिसने उस पुस्तकालय की हर एक किताब पढ़ी हो। यह आर्टिफिशियल इंटेलिजेंस में एक मानक धारणा है: कठिन समस्याओं को हल करने के लिए बड़े दिमागों (अधिक कंप्यूटर पैरामीटर्स) की आवश्यकता होती है।
यह पेपर VibeThinker-3B को पेश करता है, जो एक छोटा AI मॉडल है जो इस धारणा को चुनौती देता है। इसे एक विशाल विश्वकोश के रूप में नहीं, बल्कि एक विशेषज्ञ जासूस के रूप में सोचें।
इसे कैसे बनाया गया और उन्हें क्या मिला, इसकी कहानी यहाँ सरल रूप में दी गई है:
1. बड़ा विचार: "विशेषज्ञ बनाम सामान्यज्ञ" उपमा
शोधकर्ता AI मस्तिष्क के बारे में सोचने का एक नया तरीका प्रस्तावित करते हैं, जिसे वे पैरामीट्रिक कम्प्रेशन-कवरेज हाइपोथीसिस (Parametric Compression-Coverage Hypothesis) कहते हैं।
- सामान्यज्ञ (एक विशाल मस्तिष्क): एक विशाल मस्तिष्क की कल्पना करें जिसने पूरे इंटरनेट को याद कर लिया है। उसे इतिहास, जीव विज्ञान, पॉप कल्चर और अज्ञात तथ्यों के बारे में पता है। वह "पेरू की राजधानी क्या है?" या "बिल्लियों के बारे में एक चुटकुला सुनाओ" जैसे सवालों के जवाब देने में माहिर है। लेकिन एक जटिल गणितीय समस्या को हल करने के लिए, वह कभी-कभी केवल उसी आधार पर अनुमान लगाता है जो उसने पहले देखा है।
- विशेषज्ञ (एक संक्षिप्त जासूस): VibeThinker-3B बहुत छोटा है (केवल 3 बिलियन "न्यूरॉन्स", जबकि दिग्गजों के पास सैकड़ों अरब होते हैं)। यह पूरी दुनिया को याद करने की कोशिश नहीं करता। इसके बजाय, यह पूरी तरह से सोचने के तरीके पर ध्यान केंद्रित करता है। यह एक ऐसे जासूस की तरह है जो दुनिया के हर तथ्य को नहीं जानता, लेकिन तार्किक सुरागों का पीछा करने, अपने काम की जांच करने और पहेलियों को चरण-दर-चरण हल करने में अविश्वसनीय रूप से कुशल है।
यह पेपर तर्क देता है कि सत्यापन योग्य कार्यों (जैसे गणित और कोडिंग, जहाँ उत्तर या तो सही होता है या गलत) के लिए, आपको एक विशाल मस्तिष्क की आवश्यकता नहीं है। आपको बस एक बहुत ही कुशल "रीजनिंग इंजन" (तर्क इंजन) की आवश्यकता है।
2. उन्होंने जासूस को कैसे बनाया (प्रशिक्षण पाइपलाइन)
उन्होंने केवल एक बड़े मॉडल को छोटा नहीं किया; उन्होंने इस छोटे मॉडल को स्पेक्ट्रम-टू-सिग्नल (Spectrum-to-Signal) नामक एक विशेष "बूट कैंप" का उपयोग करके प्रशिक्षित किया। इसे एक शतरंज खिलाड़ी को प्रशिक्षित करने जैसा समझें:
- चरण 1: विस्तृत जाल (सुपरवाइज्ड फाइन-ट्यूनिंग): सबसे पहले, उन्होंने मॉडल को विभिन्न प्रकार की हजारों समस्याएं दिखाईं (गणित, कोड, विज्ञान)। लेकिन केवल एक "सही" तरीका दिखाने के बजाय, उन्होंने उन्हें हल करने के कई अलग-अलग तरीके दिखाए। यह एक छात्र को यह सिखाने जैसा है कि गणित के समीकरण को हल करने के पांच अलग-अलग तरीके हो सकते हैं। यह मॉडल के मन में संभावनाओं का एक "स्पेक्ट्रम" बनाता है।
- चरण 2: कड़ी मेहनत (रीइन्फोर्समेंट लर्निंग): इसके बाद, उन्होंने मॉडल को अपने आप समस्याएं हल करने के लिए छोड़ा। जब वह फंस जाता या गलती करता, तो उन्होंने केवल "गलत" नहीं कहा। उन्होंने एक विशेष स्कोरिंग सिस्टम का उपयोग किया ताकि उस "स्वीट स्पॉट" को खोजा जा सके—ऐसी समस्याएं जो चुनौतीपूर्ण होने के लिए पर्याप्त कठिन थीं लेकिन असंभव नहीं थीं। यह एक कोच की तरह है जो एक एथलीट को उसकी क्षमता के बिल्कुल किनारे तक धकेलता है ताकि वह विकसित हो सके।
- चरण 3: दक्षता वृद्धि (Long2Short): कभी-कभी, मॉडल किसी समस्या को सही ढंग से हल करता था लेकिन एक बहुत लंबा, भ्रामक स्पष्टीकरण लिखता था। उन्होंने इसे संक्षिप्त होने के लिए प्रशिक्षित किया, इसे फालतू बातों को काटकर सीधे तर्क पर आने के लिए सिखाया, जैसे एक लंबी कहानी को उसके सबसे शक्तिशाली वाक्यों तक संपादित करना।
- चरण 4: आत्म-सुधार (ऑफलाइन डिस्टिलेशन): अंत में, उन्होंने मॉडल द्वारा खोजे गए सबसे अच्छे समाधानों को लिया और उन्हें "शिक्षक उदाहरणों" के रूप में वापस मॉडल को खिलाया। यह एक छात्र द्वारा अपने ही सबसे अच्छे टेस्ट पेपर्स की समीक्षा करने जैसा है ताकि वह और बेहतर बनना सीख सके।
3. परिणाम: एक छोटा मॉडल जो अपनी क्षमता से कहीं अधिक प्रदर्शन करता है
टीम ने VibeThinker-3B का परीक्षण दुनिया की कुछ सबसे कठिन परीक्षाओं पर किया:
- मैथ ओलंपियाड (AIME, HMMT, IMO): ये वे समस्याएं हैं जो दुनिया के सबसे स्मार्ट हाई स्कूल गणित के छात्रों को उलझाने के लिए बनाई गई हैं।
- कोडिंग प्रतियोगिताएं (LiveCodeBench, LeetCode): ये वास्तविक दुनिया की प्रोग्रामिंग चुनौतियां हैं जहाँ कोड को वास्तव में चलना चाहिए और छिपे हुए टेस्ट को पास करना चाहिए।
चौंकाने वाला परिणाम:
दुनिया के कुछ सबसे प्रसिद्ध AI मॉडलों (जैसे DeepSeek V3.2 या GLM-5) की तुलना में 200 गुना छोटा होने के बावजूद, VibeThinker-3B उतना ही अच्छा प्रदर्शन करता है, और कभी-कभी उससे भी बेहतर।
- AIME गणित प्रतियोगिता में, इसने 94.3 का स्कोर किया।
- कोडिंग चुनौतियों पर, इसने पहली बार में ही 80.2% बार सफलता प्राप्त की।
- इसने हाल ही की अनदेखी LeetCode प्रतियोगिताओं में कुछ विशाल मॉडलों को भी पीछे छोड़ दिया।
"क्लेम-लेवल" (Claim-Level) ट्रिक:
शोधकर्ताओं ने एक "टेस्ट-टाइम स्केलिंग" ट्रिक भी जोड़ी जिसे CLR कहा जाता है। कल्पना कीजिए कि मॉडल एक समस्या को हल करता है, फिर अंतिम उत्तर देने से पहले अपने स्वयं के मुख्य चरणों की जांच करने के लिए रुकता है। इस अतिरिक्त जांच के साथ, इसका गणित स्कोर बढ़कर 97.1 हो गया, जो इसे सभी AI मॉडलों में शीर्ष स्तर पर खड़ा करता है, चाहे उनका आकार कुछ भी हो।
4. यह क्या नहीं कर सकता (सीमाएं)
यह पेपर अपनी सीमाओं के बारे में ईमानदार है। हालांकि VibeThinker-3B गणित और कोडिंग का जादूगर है, लेकिन यह एक सामान्य विश्वकोश नहीं है।
- यदि आप इसे अस्पष्ट तथ्यों, इतिहास या सामान्य ज्ञान के बारे में पूछते हैं, तो यह विशाल मॉडलों की तरह प्रदर्शन नहीं करता है।
- उपमा: यह एक कुशल सर्जन की तरह है जो जटिल हृदय सर्जरी (तर्क) कर सकता है लेकिन शायद उसे हर फिल्म के अभिनेता का नाम न पता हो (सामान्य ज्ञान)। विशाल मॉडल वे हैं जो अभिनेता के नाम भी जानते हैं और सर्जरी भी कर सकते हैं, लेकिन वे बहुत बड़े और महंगे हैं।
5. निष्कर्ष
इस पेपर का मुख्य संदेश दृष्टिकोण में बदलाव है। लंबे समय से, लोगों ने सोचा था, "स्मार्ट होने के लिए, हमें बस बड़े और बड़े कंप्यूटर बनाने की आवश्यकता है।"
VibeThinker-3B सुझाव देता है कि सोचने के कौशल को संकुचित (compress) किया जा सकता है। आपको एक अरब डॉलर की पहेली को हल करने के लिए अरबों डॉलर के दिमाग की आवश्यकता नहीं है। यदि आप एक छोटे मॉडल को सही ढंग से प्रशिक्षित करते हैं, जो केवल तथ्यों को याद करने के बजाय तर्क की प्रक्रिया पर ध्यान केंद्रित करता है, तो यह दिग्गजों के साथ प्रतिस्पर्धा कर सकता है।
यह बड़े मॉडलों को बदलने के बारे में नहीं है; यह यह समझने के बारे में है कि विशिष्ट, तार्किक कार्यों के लिए, एक छोटा, अत्यधिक कुशल "रीजनिंग कोर" (तर्क केंद्र) एक विशाल, ज्ञान-प्रधान मस्तिष्क के समान ही शक्तिशाली हो सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।