कल्पना कीजिए कि आप एक रोबोट को पहेली सुलझाना सिखा रहे हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इन रोबोटों को "लार्ज लैंग्वेज मॉडल्स" (LLMs) कहा जाता है। ये उन उत्साही छात्रों की तरह हैं जिन्होंने लाइब्रेरी की लगभग हर किताब पढ़ ली है। वे कहानियाँ लिखने, कोड को ठीक करने और यहाँ तक कि उन गणित के सवालों को हल करने में भी माहिर हैं जो हाई स्कूल की पाठ्यपुस्तकों के लगते हैं। लेकिन यहाँ एक पेच है: सिर्फ इसलिए कि एक छात्र अभ्यास टेस्ट में 'A' ग्रेड प्राप्त कर सकता है, इसका मतलब यह नहीं है कि वह खेल के नियमों को वास्तव में समझता है। यदि आप टेस्ट में थोड़ा सा बदलाव कर दें—शायद एक अतिरिक्त संख्या जोड़ दें या शब्दों को फिर से व्यवस्थित कर दें—तो वह छात्र अचानक घबरा सकता है और अजीब, अप्रत्याशित तरीकों से विफल हो सकता है। वैज्ञानिक इसे "भंगुरता" (brittleness) कहते हैं। यह ताश के पत्तों के घर जैसा है जो तब तक एकदम सही दिखता है जब तक कि एक हल्की सी हवा न चल जाए।

यह समझने के लिए कि ऐसा क्यों होता है, शोधकर्ता देखते हैं कि ये मॉडल नए कौशल कैसे "सीखते" हैं। आमतौर पर, हम उम्मीद करते हैं कि वे मनुष्यों की तरह सीखें: चरण-दर-चरण, अगले स्तर पर जाने से पहले एक मजबूत नींव बनाना। उदाहरण के लिए, संख्याएँ जोड़ने के दौरान, एक इंसान सीखना शुरू करता है कि सबसे अंत से (इकाई के स्थान से) शुरुआत करें, किसी भी "कैर्री" (जहाँ एक संख्या एक स्थान के लिए बहुत बड़ी हो जाती है) को संभालें, और फिर दहाई, सैकड़ा और इसी तरह आगे बढ़ें। यह सोचने का एक तार्किक, पदानुक्रमित तरीका है। लेकिन क्या होगा अगर रोबोट नियमों को बिल्कुल अलग क्रम में सीखता है? क्या होगा अगर वह बड़ी, डरावनी संख्याओं को पहले सीखता है और छोटी संख्याओं को बाद में, या सब कुछ एक साथ सीखने की कोशिश करता है? यह शोध पत्र उस रहस्य में गोता लगाता है, सरल गणितीय पहेलियों का उपयोग करके यह देखता है कि ये डिजिटल मस्तिष्क वास्तव में अपने कौशल कैसे विकसित करते हैं, और यह खुलासा करता है कि वे शायद एक ऐसे शॉर्टकट को अपना रहे हैं जो सीखने जैसा दिखता है लेकिन वैसा नहीं है जैसा मानवीय समझ होती है।

---

बिखरी हुई पहेली: AI गणित उल्टा कैसे सीखता है

इस अध्ययन में, विस्कॉन्सिन-मैडिसन विश्वविद्यालय के शोधकर्ताओं ने केवल अनुमान लगाना बंद करने और वास्तव में देखने का निर्णय लिया। उन्होंने छोटे, सरल AI मॉडल्स (जिन्हें ट्रांसफॉर्मर कहा जाता है) को सिंथेटिक अंकगणित कार्यों पर प्रशिक्षित किया—मूल रूप से, उन्हें बार-बार संख्याएँ जोड़ना और गुणा करना सिखाया। लेकिन केवल अंत में सही उत्तर चेक करने के बजाय, उन्होंने सीखने की प्रक्रिया को धीमी गति में, अंक दर अंक देखा। वे देखना चाहते थे कि मॉडल्स ने नियमों को कैसे समझा।

जो उन्होंने पाया वह एक बच्चे को जूते पहनने की कोशिश करते हुए देखने जैसा था, जहाँ वह पहले फीते बांधने की कोशिश करता है और फिर यह समझने की कोशिश करता है कि पैर कहाँ जाते हैं। शोधकर्ताओं ने पाया कि ये AI मॉडल्स गणित वैसे नहीं सीखते जैसे इंसान सीखते हैं। नीचे (इकाई स्थान) से शुरू करने और ऊपर की ओर बढ़ने के बजाय, मॉडल्स अक्सर उच्चतम अंकों को पहले सीखते हैं।

कल्पना कीजिए कि आप चार बड़ी संख्याओं को एक साथ जोड़ रहे हैं। एक इंसान इकाई के कॉलम को देखेगा, उन्हें जोड़ेगा, अतिरिक्त को दहाई के कॉलम में ले जाएगा, और इसी तरह। हालाँकि, AI शुरू में इकाई कॉलम को पूरी तरह से अनदेखा करता हुआ प्रतीत होता है। इसने हजारों और सैकड़ों के स्थानों पर ध्यान केंद्रित किया, उन अंकों को पूरी तरह से सीखा, जबकि इकाई का स्थान अव्यवस्थित रहा। यह ऐसा था जैसे मॉडल कुल ढेर के आकार का अनुमान लगाने की कोशिश कर रहा हो, इससे पहले कि उसे पता चले कि उसमें कितनी एकल वस्तुएं हैं। शोधकर्ता इस घटना को "विखंडित संरचनात्मकता" (shattered compositionality) कहते हैं। इसका अर्थ है कि मॉडल ताश के पत्तों का घर बनाने की कोशिश कर रहा है, लेकिन वह छत को जमीन पर रख रहा है और उम्मीद कर रहा है कि नींव बाद में उसका साथ देगी।

"सहसंबंध" का शॉर्टकट

एक सुपर-स्मार्ट AI ऐसा मूर्खतापूर्ण काम क्यों करेगा? शोध पत्र सुझाव देता है कि इसका उत्तर इस बात में है कि AI अपने प्रशिक्षण डेटा को कैसे देखता है। इंसान कारण और प्रभाव को समझकर गणित सीखते हैं: "यदि मैं इन दो इकाइयों को जोड़ता हूँ, तो मुझे दस मिलता है, इसलिए मुझे एक कैरी लेना चाहिए।" हालाँकि, AI "सांख्यिकीय मिलान" का खेल खेलता हुआ प्रतीत होता है। यह डेटा को देखता है और पूछता है, "कौन सी संख्याएँ आमतौरंड साथ दिखाई देती हैं?"

शोधकर्ताओं ने पाया कि उत्तर के उच्चतम अंक अक्सर इनपुट संख्याओं के उच्चतम अंकों से मजबूती से जुड़े होते हैं, चाहे निचले अंकों में कुछ भी हो रहा हो। यह एक मजबूत, आसानी से पहचाने जाने वाला पैटर्न है। AI इस आसान पैटर्न को पहले पकड़ लेता है क्योंकि यह डेटा में सबसे स्पष्ट संकेत है। यह एक जासूस की तरह है जो संदिग्ध की कार देखता है और तुरंत मान लेता है कि वह दोषी है क्योंकि उसके पास लाल कार है, बाकी सभी सुरागों को अनदेखा कर देता है। AI "लाल कार" वाले नियम (उच्च अंक) को पहले सीखता है क्योंकि यह खोजने के लिए सबसे आसान सहसंबंध है। केवल बाद में, एक बार जब वह उच्च अंकों में महारत हासिल कर लेता है, तो वह निचले अंकों के लिए जटिल नियमों को समझने की कोशिश करता है।

इसे साबित करने के लिए, शोधकर्ताओं ने एक "तोड़फोड़" प्रयोग चलाया। उन्होंने प्रशिक्षण डेटा लिया और हजारों के स्थान वाले अंकों को अस्त-व्यस्त कर दिया, जिससे वे रैंडम हो गए। अचानक, AI निचले अंकों को बिल्कुल भी नहीं सीख सका। वह फंस गया था। इसने साबित कर दिया कि AI गणित के नियमों को तार्किक क्रम में नहीं सीख रहा था; वह बाकी पहेली को खोलने के लिए उच्च अंकों पर निर्भर था। उच्च अंकों के बिना, पूरी सीखने की प्रक्रिया ढह गई।

समानांतर शिक्षण का कोलाहल

समस्या और भी जटिल हो जाती है जब AI एक साथ कई कौशल सीखने की कोशिश करता है। संख्याओं को क्रमबद्ध करने या उनकी तुलना करने जैसे कार्यों में, AI विभिन्न नियमों को समानांतर में सीखने की कोशिश करता है। यह एक ऐसे छात्र की तरह है जो एक ही समय में साइकिल चलाना, करतब दिखाना और पियानो बजाना सीखने की कोशिश कर रहा है। कभी-कभी, ये कौशल एक-दूसरे के रास्ते में आते हैं।

शोधकर्ताओं ने पाया कि जब AI इन कौशलों को एक साथ सीखता है, तो यह "मिक्सिंग एरर्स" (मिश्रण त्रुटियां) पैदा करता है। कल्पना कीजिए कि आप नामों की एक सूची को क्रमबद्ध कर रहे हैं। एक इंसान पहले नाम की लंबाई की जाँच करेगा, फिर पहला अक्षर, फिर दूसरा। हालाँकि, AI भ्रमित हो सकता है। वह एक नाम का पहला अक्षर और दूसरे का अंतिम अक्षर ले सकता है, और उन्हें जोड़कर एक नया, निरर्थक शब्द बना सकता है। शोध पत्र इन्हें "मिक्सिंग एरर्स" कहता है। यह एक ऐसे शेफ की तरह है जिसने प्याज को अलग से काटना और गाजर को अलग से काटना सीख लिया है, लेकिन जब सलाद बनाने के लिए कहा जाता है, तो वह गलती से प्याज को गाजर के कटोरे में और गाजर को प्याज के कटोरे में डाल देता है, जिससे एक अजीब, खाने योग्य नहीं मिश्रण बन जाता है।

यह समानांतर शिक्षण एक नाजुक प्रणाली बनाता है। यदि आप AI को ऐसी समस्या हल करने के लिए कहते हैं जो उसके प्रशिक्षण से थोड़ी अलग है—जैसे सूची में एक और संख्या जोड़ना—तो वह अक्सर बिखर जाता है। जो कौशल उसने समानांतर में सीखे थे, वे आपस में लड़ने लगते हैं, और मॉडल ऐसे उत्तर देता है जो केवल इनपुट का एक उलझा हुआ मिश्रण होते हैं।

क्या बड़ा या स्मार्ट होना इसे ठीक करता है?

आप सोच सकते हैं, "ठीक है, शायद छोटे मॉडल्स भ्रमित हैं। उन विशाल, सुपर-शक्तिशाली AI मॉडल्स का क्या जो खबरों में दिखते हैं? या क्या होगा यदि हम उन्हें एक 'स्क्रैचपैड' दें जहाँ वे अपने विचार लिख सकें, जैसा कि एक इंसान करता है?"

शोधकर्ताओं ने इसका भी परीक्षण किया। उन्होंने बहुत बड़े मॉडल्स (100 मिलियन पैरामीटर्स तक) को प्रशिक्षित किया और यहाँ तक कि एक विशाल प्री-ट्रेंड मॉडल (Pythia-1B) को इन गणितीय कार्यों पर फाइन-ट्यून भी किया। उन्होंने मॉडल्स को एक "स्क्रैचपैड" देने की भी कोशिश की जहाँ वे अंतिम उत्तर देने से पहले गणित की समस्या के चरणों को लिख सकें।

परिणाम? कुछ भी नहीं बदला।

यहाँ तक कि विशाल मॉडल्स ने भी अंकों को गलत क्रम में सीखा। यहाँ तक कि स्क्रैचपैड वाले मॉडल्स ने भी उच्च अंकों को प्राथमिकता दी और निचले अंकों के साथ संघर्ष किया। स्क्रैचपैड ने मॉडल्स को सही उत्तर तेजी से पाने में मदद की, लेकिन उन्होंने अंतर्निहित सीखने की शैली को ठीक नहीं किया। वे अभी भी वास्तविक, चरण-दर-चरण तर्क सीखने के बजाय "सहसंबंध शॉर्टकट" ले रहे थे। यह बताता है कि केवल AI को बड़ा बनाना या उसे अधिक उपकरण देना उसे स्वचालित रूप से इंसान की तरह सोचने के काबिल नहीं बनाता। "विखंडित संरचनात्मकता" (shattered compositionality) वास्तव में यह एक मौलिक विशेषता है कि ये मॉडल डेटा से कैसे सीखते हैं, न कि केवल किसी विशिष्ट छोटे मॉडल की खामी।

निष्कर्ष

यह शोध पत्र एक ऐसे AI की तस्वीर पेश करता है जो अविश्वसनीय रूप से सक्षम है लेकिन मौलिक रूप से हमसे अलग है। यह उन समस्याओं को हल कर सकता है जो मानवीय गणित जैसी दिखती हैं, लेकिन यह एक अलग सेट के आंतरिक नियमों के साथ ऐसा कर रहा है। यह एक तार्किक, चरण-दर-चरण एल्गोरिदम का पालन नहीं कर रहा है; यह सांख्यिकीय पैटर्न के मानचित्र का अनुसरण कर रहा है। जब वे पैटर्न पूर्ण होते हैं, तो AI चमकता है। लेकिन जब पैटर्न थोड़ा भी बदल जाता है—जब समस्या थोड़ी अलग होती है या डेटा अव्यवST है—तो AI की "विखंडित" सीखने की शैली उसे लड़खड़ाने पर मजबूर कर देती है।

शोधकर्ता यह नहीं कह रहे हैं कि AI टूटा हुआ या बेकार है। वे कह रहे हैं कि हमें इस पर भरोसा करने के लिए यह समझना होगा कि यह कैसे सीखता है। यदि हम चाहते हैं कि AI वास्तविक दुनिया में विश्वसनीय हो, जहाँ समस्याएँ शायद ही कभी पूर्ण होती हैं और डेटा हमेशा बदलता रहता है, तो हमें इसे यह सिखाना होगा कि वह एक स्थिर, मानव-समान पदानुक्रम में अपने कौशल का निर्माण करे, न कि एक अराजक, समानांतर दौड़ में सीखने दे। तब तक, हमें इन डिजिटल छात्रों से उन समस्याओं को हल करने के लिए कहने में सावधान रहना पड़ सकता है जो उनके अभ्यास किए गए कार्यों से थोड़ी सी भी अलग हैं।