कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट को मानव भाषा बोलना सिखाने की कोशिश कर रहे हैं। आप बस उसके दिमाग में किताबों, समाचार लेखों और चैट लॉग्स का एक पहाड़ डाल सकते हैं और उम्मीद कर सकते हैं कि वह अपने आप व्याकरण और तर्क के नियमों को समझ लेगा। आज अधिकांश आधुनिक AI इसी तरह काम करते हैं, लेकिन यह कुछ ऐसा है जैसे बिना कभी नियम जाने, केवल लोगों को मोहरों को चलते हुए देखकर शतरंज खेलना सीखने की कोशिश करना। हाल ही में, वैज्ञानिकों ने एक अलग तरकीब आजमाई है: वास्तविक भाषा खिलाने से पहले, उन्होंने रोबोट को प्रतीकों (symbols) से बने "नकली" डेटा पर अभ्यास करने दिया, जैसे कोष्ठक (parentheses) को संतुलित करना या संख्याओं को क्रमबद्ध करना। यह ऐसा है जैसे वास्तविक वाक्य देखने से पहले आप रोबोट को तर्क पहेलियों का एक सेट हल करने के लिए दे रहे हों। बड़ा सवाल यह है कि क्या यह वार्म-अप वास्तव में रोबोट को मानव भाषा तेजी से और बेहतर तरीके से सीखने में मदद करता है, या यह केवल समय की बर्बादी है?

यह शोध पत्र, जिसका शीर्षक "लॉजिक बिफोर लैंग्वेज" (भाषा से पहले तर्क) है, उसी सवाल की गहराई से जांच करता है। शेफील्ड विश्वविद्यालय के शोधकर्ताओं ने यह देखना चाहा कि क्या वे AI मॉडल को "सिंबल गेम्स" के बजाय औपचारिक तर्क (formal logic)—जो गणितीय प्रमाणों के सख्त, चरण-दर-चरण नियम हैं—सिखाकर एक बेहतर "वार्म-अप" दे सकते हैं। उन्होंने पाया कि जब उन्होंने AI को पहले तर्क पहेलियाँ हल करना सिखाया, तो इसने मानव भाषा को समझना और उपयोग करना बहुत तेजी से सीख लिया। यह ऐसा था जैसे रोबोट ने अचानक संरचना के लिए एक "मसल मेमोरी" विकसित कर ली हो। न केवल इसने तेजी से सीखा, बल्कि इसके मस्तिष्क (या आंतरिक कंप्यूटर भागों) ने जानकारी को अधिक कुशल और संक्षिप्त रूप में व्यवस्थित किया। इसने मॉडल को न केवल स्मार्ट बनाया, बल्कि इसे अपनी बुद्धिमत्ता खोए बिना छोटा करना भी आसान बना दिया, जो छोटे उपकरणों पर AI चलाने के लिए एक बहुत बड़ी बात है।

पुराने वार्म-अप के साथ समस्या

काफी समय से, वैज्ञानिक AI मॉडल को "प्री-प्रीट्रेन" (pre-pretrain) करने की कोशिश कर रहे हैं। प्री-प्रीट्रेनिंग को वास्तविक प्रशिक्षण शुरू होने से पहले एक बूट कैंप की तरह समझें। अतीत में, इन बूट कैंपों में सरल कार्यों का उपयोग किया जाता था। कुछ ने "डिक लैंग्वेजेस" (Dyck languages) का उपयोग किया, जो मूल रूप से (( )) या [ ] जैसे ब्रैकेट को मिलाने जैसा है। अन्य ने संख्याओं की सूची को सॉर्ट करने जैसे एल्गोरिद्मिक कार्यों का उपयोग किया। जबकि ये कार्य AI को नियमों का पालन करना सिखाते हैं, शोधकर्ताओं का तर्क है कि वे बहुत सीमित हैं। वे ऐसे हैं जैसे एक संगीतकार को केवल स्केल बजाना सिखाना; यह उंगलियों की चपलता में मदद करता है, लेकिन यह आपको सिम्फनी कैसे रचनी है या गाने में भावना को कैसे समझना है, यह नहीं सिखाता। ये पुराने तरीके वास्तविक मानव भाषा की जटिल, अव्यवस्थित और सुंदर संरचना को समझने में विफल रहते हैं।

इसके अलावा, पिछले अध्ययन अक्सर छोटे थे। उन्होंने मॉडलों को अपेक्षाकृत कम डेटा (10 बिलियन शब्दों से कम) पर प्रशिक्षित किया, जिससे वैज्ञानिक यह सोचने पर मजबूर थे कि क्या ये तरकीबें तब भी काम करेंगी जब मॉडलों को विशाल मात्रा में डेटा (जैसे 100 बिलियन शब्द) पर प्रशिक्षित किया जाएगा।

नई रणनीति: लॉजिक बूट कैंप

इस शोध पत्र के लेखकों ने लॉजिक प्री-प्रीट्रेनिंग (Logic-PPT) नामक एक नए प्रकार के बूट कैंप का प्रस्ताव दिया। केवल ब्रैकेट मिलाने या संख्याओं को सॉर्ट करने के बजाय, उन्होंने AI को औपचारिक तार्किक निष्कर्ष (formal logical derivations) करना सिखाया।

कल्पना कीजिए कि आप एक जासूस हैं। आपके पास सुरागों (premises) का एक सेट है और आपको एक रहस्य सुलझाना है (एक लक्ष्य)। आप केवल उत्तर का अनुमान नहीं लगा सकते; आपको समाधान तक पहुँचने के लिए कटौती के सख्त नियमों का उपयोग करना होगा।

• सेटअप: AI को तथ्यों की एक सूची दी जाती है, जैसे "यदि बारिश होती है, तो जमीन गीली हो जाती है" और "बारिश हो रही है।"
• कार्य: AI को अगला तार्किक कदम पता लगाना होगा, जैसे "जमीन गीली है," और फिर उस नए तथ्य का उपयोग करके अंतिम लक्ष्य तक पहुँचना होगा।
• पैमाना: शोधकर्ताओं ने 247 अलग-अलग तर्क नियमों की एक विशाल लाइब्रेरी बनाई (जिसमें "यदि A तो B" और "सभी X, Y हैं" जैसी चीजें शामिल हैं) और इन तर्क पहेलियों के लाखों उदाहरण तैयार किए।

उन्होंने एक 254-मिलियन-पैरामीटर वाले AI मॉडल को पहले इन तर्क पहेलियों पर प्रशिक्षित किया। फिर, वे उस मॉडल के "मस्तिष्क" को एक मानक प्रशिक्षण रन पर ले गए जो 100 बिलियन शब्दों (FineWeb-Edu नामक डेटासेट से) पर आधारित था। उन्होंने इस "Logic-PPT" मॉडल की तुलना उन मॉडलों से की जो शून्य से शुरू हुए थे या जिन्होंने पुराने, सरल वार्म-अप (जैसे संख्याओं को सॉर्ट करना या ब्रैकेट मिलाना) किए थे।

उन्होंने क्या पाया: तेज, स्मार्ट और सुव्यवस्थित

परिणाम आश्चर्यजनक रूप से स्पष्ट और रोमांचक थे।

1. "स्पीड रन" प्रभाव
Logic-PPT मॉडल ने मानव भाषा को काफी तेजी से सीखा। विभिन्न भाषा कार्यों पर 80% सटीकता तक पहुँचने की दौड़ में, Logic-PPT मॉडल ने मानक मॉडल (जो शून्य से शुरू हुआ था) की तुलना में 36 बिलियन कम टोकन (शब्दों) का उपयोग करके वह लक्ष्य प्राप्त कर लिया। यह ऐसा था जैसे Logic-PPT मॉडल ने मैराथन के पहले कुछ मील छोड़ दिए हों क्योंकि उसने पहले ही एक प्रशिक्षण दौड़ पूरी कर ली थी। 100-बिलियन-टोकन के प्रशिक्षण के अंत तक, Logic-PPT मॉडल स्पष्ट विजेता था, जिसने 17 अलग-अलग भाषा कार्यों के समूह पर 87.4% सटीकता हासिल की, और अगले सर्वश्रेष्ठ तरीके को एक बड़े अंतर से पीछे छोड़ दिया।

2. एक अधिक संगठित मस्तिष्क
शोधकर्ताओं ने केवल स्कोर ही नहीं देखे; उन्होंने यह देखने के लिए मॉडल के "मस्तिष्क" के अंदर झाँका कि वह कैसे सोच रहा है। उन्होंने पाया कि Logic-PPT मॉडल ने एक बहुत ही विशिष्ट आंतरिक संरचना विकसित की।

• लोअर-रैंक ज्योमेट्री (Lower-Rank Geometry): एक अस्त-व्यस्त कमरे की कल्पना करें जहाँ कपड़े हर जगह बिखरे हुए हैं बनाम एक कमरा जहाँ सब कुछ करीने से तह करके रखा गया है। Logic-PPT मॉडल के आंतरिक प्रतिनिधित्व उस करीने से रखे गए कमरे की तरह थे। डेटा को एक "लोअर-रैंक" स्पेस में व्यवस्थित किया गया था, जिसका अर्थ है कि मॉडल जानकारी संग्रहीत करने के लिए कम, अधिक कुशल दिशाओं का उपयोग कर रहा था।
• स्पेक्ट्रल कंसंट्रेशन (Spectral Concentration): एक टॉर्च की बीम के बारे में सोचें। एक मानक मॉडल अपनी रोशनी हर जगह बिखेर सकता है। Logic-PPT मॉडल ने अपनी रोशनी को एक संकीर्ण, चमकदार बीम में केंद्रित किया। यह "स्पेक्ट्रल कंसंट्रेशन" का अर्थ था कि मॉडल सूचना को संसाधित करने में अधिक कुशल था। यह संगठित संरचना केवल शुरुआत में ही नहीं आई; यह तब भी स्थिर रही जब मॉडल को 100 बिलियन शब्दों के टेक्स्ट पर प्रशिक्षित किया गया।

3. संपीड़न (प्रूनिंग) का जादू
यह शायद सबसे व्यावहारिक खोज है। क्योंकि Logic-PPT मॉडल का मस्तिष्क इतना सुव्यवस्थित था, यह "प्रूनिंग" (pruning) के प्रति अविश्वसनीय रूप से लचीला था। प्रूनिंग एक पेड़ को छोटा और तेज़ बनाने के लिए उसकी शाखाओं को काटने जैसा है। आमतौर पर, यदि आप बहुत अधिक शाखाएं काट देते हैं, तो पेड़ मर जाता है (AI काम करना बंद कर देता है)।

• शोधकर्ताओं ने मॉडलों के कनेक्शनों को हटाकर (प्रूनिंग करके) इसका परीक्षण किया।
• मानक मॉडल और सरल सॉर्टिंग कार्यों पर प्रशिक्षित मॉडल बुरी तरह विफल रहे।
• हालाँकि, Logic-PPT मॉडल बहुत मजबूत था। 33% स्पर्सिटी (Sparsity - यानी इसके 33% कनेक्शन हटा दिए गए थे) पर भी, इसने पूर्ण, बिना प्रूनिंग वाले मानक मॉडल के समान प्रदर्शन किया। 40% स्पर्सिटी पर भी, इसने केवल 14.4% प्रदर्शन खोया, जबकि अन्यों ने बहुत अधिक खो दिया। यह ऐसा था मानो Logic-TTS मॉडल ने एक ऐसा कंकाल बनाया था जो इतना मजबूत था कि वह अपना एक तिहाई वजन खोकर भी मैराथन दौड़ सकता था।

यह क्यों मायने रखता है

यह शोध पत्र सुझाव देता है कि AI को भाषा सिखाने से पहले उसे तर्क के सख्त, अमूर्त नियम सिखाकर, हम केवल उसे बढ़त नहीं दे रहे हैं; हम मौलिक रूप से यह बदल रहे हैं कि उसका मस्तिष्क कैसे बना है। यह एक ऐसा मॉडल बनाता है जो तेजी से सीखता है, भाषा को गहराई से समझता है, और चलाने के लिए शारीरिक रूप से अधिक कुशल होता है।

शोधकर्ता सावधानी बरतते हुए नोट करते हैं कि उन्होंने इसे एक विशिष्ट मॉडल आकार (254 मिलियन पैरामीटर) और एक विशिष्ट डेटासेट पर परखा है। उन्होंने यह दावा नहीं किया कि यह AI की हर समस्या को हल कर देता है, और न ही उन्होंने इसे हर संभावित भाषा या कार्य पर परखा है। हालाँकि, उनके 100-बिलियन-टोकन प्रशिक्षण रन के साक्ष्य दृढ़ता से संकेत देते हैं कि "लॉजिक बिफोर लैंग्वेज" एक शक्तिशाली रणनीति है। यह साबित होता है कि रोबोट को मानव की तरह बोलना सिखाने से पहले, उसे गणितज्ञ की तरह सोचना सिखाना मददगार हो सकता है।