Measuring in-context algorithmic reasoning in language models against an exact Bayes-optimal standard

कल्पना कीजिए कि आप एक रोबोट को पहेली सुलझाना सिखाने की कोशिश कर रहे हैं। आप उसे कुछ उदाहरण दिखाते हैं: "यदि मैं यहाँ एक लाल ब्लॉक रखता हूँ, तो वहाँ एक नीला ब्लॉक दिखाई देता है।" फिर आप उससे अनुमान लगाने के लिए पूछते हैं कि आगे क्या होगा। कभी-कभी रोबोट सही अनुमान लगा लेता है, लेकिन क्या वह वास्तव में पहेली के नियमों के बारे में सोच रहा है, या वह केवल इस आधार पर अनुमान लगा रहा है कि शब्द आमतौर पर एक साथ कैसे सुनाई देते हैं? यह आधुनिक "लार्ज लैंग्वेज मॉडल्स" (LLMs), यानी आज के सुपर-स्मार्ट AI चैटबॉट्स के पीछे का बड़ा रहस्य है। वैज्ञानिक इसे "इन-कॉन्टेक्स्ट लर्निंग" (in-context learning) कहते हैं—प्रॉम्प्ट में दिए गए कुछ उदाहरणों को पढ़कर किसी नए कार्य को सीखने की क्षमता। समस्या यह है कि हमारे पास कोई सटीक पैमाना नहीं है जिससे यह मापा जा सके कि रोबोट वास्तव में तर्क कर रहा है या केवल पैटर्न-मैचिंग कर रहा है। आमतौर पर, हम केवल एक रोबोट की तुलना दूसरे रोबोट से, या एक इंसान से कर सकते हैं, लेकिन हमें यह नहीं पता कि "ईश्वर की दृष्टि" (God's eye view) से वह परफेक्ट उत्तर क्या होना चाहिए।

इसे ठीक करने के लिए, इस शोध पत्र के लेखकों ने एक विशेष, छोटा और पूरी तरह से नियंत्रित ब्रह्मांड बनाया। उन्होंने एक बेंचमार्क बनाया जिसे F-ICL कहा जाता है। इसे एक विशाल, विस्तृत लाइब्रेरी की तरह समझें जिसमें एक विशिष्ट प्रकार की बाइनरी पहेली (केवल 0 और 1 का उपयोग करके) को हल करने वाले हर संभव सरल कंप्यूटर प्रोग्राम का संग्रह है। क्योंकि उन्होंने इन 1.5 बिलियन छोटे प्रोग्रामों की सूची बनाई है, वे किसी भी पहेली के लिए गणितीय रूप से सटीक उत्तर की गणना कर सकते हैं। यह सटीक उत्तर "बेयस-ऑप्टिमल" (Bayes-optimal) समाधान कहलाता है। यह स्वर्ण मानक (gold standard) है: साक्ष्यों के आधार पर एक मशीन द्वारा लगाया जा सकने वाला अब तक का सबसे अच्छा अनुमान। अब, वे अंततः एक वास्तविक AI मॉडल को इस स्वर्ण मानक के सामने रख सकते हैं और देख सकते हैं कि वह वास्तव में कितना दूर है। यह बिल्कुल वैसा ही है जैसे आपके पास किसी शहर का एक परफेक्ट नक्शा हो और फिर आप यह जाँचते हैं कि क्या कोई GPS ऐप वास्तव में आपको सबसे छोटे रास्ते पर ले जा रहा है, या वह केवल कल देखे गए ट्रैफिक पैटर्न के आधार पर अनुमान लगा रहा है।

महान तर्क अंतराल (The Great Reasoning Gap)

शोधकर्ताओं ने 105 अलग-अलग AI मॉडलों का एक विशाल पैनल लिया—जिसमें ओपन-सोर्स प्रोजेक्ट्स से लेकर शीर्ष टेक लैब्स के सबसे उन्नत "फ्रंटियर" सिस्टम तक शामिल थे—और उन्हें F-ICL टेस्ट से गुज़ारा। वे यह देखना चाहते थे कि क्या ये मॉडल एक पूर्ण बेयसियन तर्ककर्ता (Bayesian reasoner) की तरह काम कर सकते हैं, जो नए साक्ष्य मिलने पर अपने विश्वासों को तार्किक रूप से अपडेट करते हैं।

यहाँ एक चौंकाने वाला मोड़ है: मॉडल सही उत्तर देने में तो माहिर हैं, लेकिन एक पूर्ण मशीन की तरह तर्क करने में बहुत खराब हैं।

भले ही कुछ मॉडल 92% बार सही अंतिम उत्तर देते हैं, लेकिन उनका आंतरिक "अनुमान वितरण" (guessing distribution) (जिस तरह से वे विभिन्न संभावनाओं को तौलते हैं) अक्सर एक साधारण रैंडम गेसर (random guesser) से भी बदतर होता है। वास्तव में, 46 में से 45 मॉडलों ने एक "कीस्ट्रोक रेफरेंस" (keystroke reference) से भी खराब प्रदर्शन किया। कल्पना कीजिए कि एक बंदर कीबोर्ड पर बेतरतीब ढंग से बटन दबा रहा है; उस रैंडम बंदर ने भी एक ऐसा संभाव्यता वितरण (probability distribution) उत्पन्न किया जो अधिकांश उन्नत AI मॉडलों की तुलना में वास्तविक गणितीय सत्य के अधिक करीब था। मॉडल केवल थोड़े से गलत नहीं थे; वे अंतर्निहित तर्क के बारे में पूरी तरह से गलत और आत्मविश्वासी थे।

"ओवर-कमिटमेंट" की गड़बड़ी (The "Over-Commitment" Glitch)

सबसे दिलचस्प और खुलासा करने वाला निष्कर्ष यह है कि मॉडल तब कैसा व्यवहार करते हैं जब आप उन्हें केवल एक उदाहरण देते हैं। एक पूर्ण तर्ककर्ता हर नए सुराग के साथ थोड़ा बेहतर होता जाएगा। लेकिन ये AI मॉडल अक्सर केवल एक उदाहरण देखने के बाद बेहतर होने से पहले बदतर हो जाते हैं।

यह वैसा ही है जैसे यदि आप एक जासूस को अपराध के बारे में एक सुराग दिखाएं, और सावधानी से सोचने के बजाय, वह तुरंत चिल्लाए, "मुझे पता है कि यह किसने किया!" और गलत संदिग्ध पर ही अटक जाए। केवल तभी जब आप उसे कुछ और सुराग दिखाते हैं, वह धीरे-धीरे पीछे हटता है और सबूतों को फिर से देखना शुरू करता है। शोध में पाया गया कि 81 में से 69 मॉडल रन ने यह गलती की, यानी वे बहुत जल्दी निष्कर्ष पर पहुँच गए। वे पहले डेटा पर बहुत जल्दी निर्णय लेने के लिए "ओवर-कमिट" (over-committing) हो जाते हैं, बजाय इसके कि वे पूरी तस्वीर देखने का इंतज़ार करें।

आकार तर्क को ठीक नहीं करता (Size Doesn't Fix the Logic)

आप सोच सकते हैं कि बड़े, स्मार्ट मॉडल इस समस्या को ठीक कर देंगे। शोध पत्र में अरबों पैरामीटर्स (AI के "मस्तिष्क के आकार") वाले मॉडलों का परीक्षण किया गया, जो 0.8 बिलियन से लेकर विशाल 675 बिलियन तक थे। परिणाम? बड़े मॉडलों ने सही उत्तर देने में तो बेहतर प्रदर्शन किया, लेकिन वे तर्क करने में बेहतर नहीं हुए।

मॉडल के व्यवहार और पूर्ण गणितीय मानक के बीच का अंतर वैसा ही बना रहा, चाहे मॉडल कितना भी बड़ा क्यों न हो। चाहे मॉडल के पास 1 बिलियन पैरामीटर हों या 600 बिलियन, वह अभी भी पूर्ण "बेयस-ऑप्टिमल" तर्क के साथ तालमेल बिठाने के लिए संघर्ष करता रहा। यह ऐसा ही है जैसे आपने किसी छात्र को किताबें देने के लिए एक बड़ी और बड़ी लाइब्रेरी दी (अधिक डेटा), लेकिन उसने अभी भी नक्शा का उपयोग करना नहीं सीखा; वह केवल किताबों के शीर्षक याद करने में बेहतर हो गया।

"सेफ्टी" और "ट्रेनिंग" का जाल (The "Safety" and "Training" Trap)

शोध पत्र ने यह भी देखा कि क्या होता है जब मॉडलों को "पोस्ट-ट्रेन" (post-trained) किया जाता है—यानी, जब मनुष्य उन्हें अधिक मददगार, निर्देश मानने वाला या "सुरक्षित" बनाने के लिए ट्यून करते हैं। आश्चर्यजनक रूप से, इस प्रशिक्षण ने तर्क के अंतराल (reasoning gap) को और चौड़ा कर दिया।

जब मॉडलों को "इंस्ट्रक्शन-फॉलोइंग" (निर्देशों का पालन करने वाला) या अधिक "सोचने" के लिए ट्यून किया गया, तो वे वास्तव में पूर्ण तार्किक मानक से और दूर चले गए। ऐसा लगता है कि मॉडल को विनम्र होने या एक विशिष्ट चैट फॉर्मेट का पालन करने के लिए सिखाना, उसे समस्या की कच्ची, तार्किक संरचना को अनदेखा करने के लिए सिखा रहा है। यह एक शतरंज खिलाड़ी को मैच के बाद हमेशा "अच्छा खेल" कहने के लिए सिखाने जैसा है; वे अधिक विनम्र हो सकते हैं, लेकिन वे खेल के वास्तविक नियमों को भूल सकते हैं।

सीमा रुक रही है (The Frontier is Stalling)

शोधकर्ताओं ने पिछले दो वर्षों में रिलीज़ किए गए सबसे नए और महंगे मॉडलों का भी अध्ययन किया। उन्होंने पाया कि पूर्ण तार्किक मानक के प्रति निष्ठा (fidelity) में बिल्कुल भी सुधार नहीं हुआ है। नए मॉडल उतने ही पुराने मॉडलों की तरह ही एक पूर्ण तर्ककर्ता से दूर हैं। वास्तव में, उनके द्वारा परीक्षण किया गया सबसे पुराना मॉडल (मई 2024 का) वास्तव में तार्किक मानक के प्रति सबसे अधिक वफादार था, जबकि नवीनतम मॉडल थोड़े बदतर थे।

"टर्मिनेशन" की समस्या (The "Termination" Trouble)

एक विशिष्ट कारण जिसके कारण मॉडलों का स्कोर इतना कम रहा, वह था कि वे वाक्य के अंत को कैसे संभालते हैं। एक पूर्ण गणितीय मॉडल जानता है कि 0 और 1 का एक क्रम कब समाप्त होना चाहिए। हालाँकि, AI मॉडल इसमें बहुत खराब थे। वे अक्सर अनुमान लगाते थे कि एक क्रम तब समाप्त होना चाहिए जब उसे नहीं होना चाहिए, या वे तब चलते रहते थे जब उसे रुक जाना चाहिए था। इस विशिष्ट त्रुटि ने उनकी लगभग 90% गलतियों को बनाया। यह ऐसा है जैसे मॉडल कहानी लिखने में तो बहुत अच्छे थे लेकिन यह जानने में बहुत खराब कि अंत में पूर्ण विराम (period) कहाँ लगाना है।

निष्कर्ष (The Verdict)

शोध पत्र निष्कर्ष निकालता है कि हालांकि ये AI मॉडल पैटर्न कंप्लीशन (pattern completion)—जो कुछ पहले देखा गया है उसके आधार पर अगले सबसे संभावित शब्द को खोजने में अविश्वसनीय रूप से अच्छे हैं—वे अभी तक वास्तविक एल्गोरिद्मिक रीजनिंग (algorithmic reasoning) नहीं कर रहे हैं। वे नियमों का मानसिक मॉडल नहीं बना रहे हैं; वे केवल पैटर्न को जोड़ रहे हैं।

लेखकों ने अपने बेंचमार्क, F-ICL को एक खुले उपकरण के रूप में जारी किया है ताकि अन्य वैज्ञानिक भी इसका परीक्षण कर सकें। उन्होंने पाया कि वर्तमान मॉडल "पैटर्न-मैचिंग" ज़ोन में फंसे हुए हैं, जो एक रैंडम अनुमान और एक पूर्ण तार्किक तर्ककर्ता के बीच में स्थित है, लेकिन वे रैंडम अनुमान के बहुत करीब हैं। जब तक मॉडल इस अंतर को नहीं पाट लेते, वे निबंध लिखने या कोड लिखने में तो बेहतरीन हो सकते हैं, लेकिन वे वास्तव में उस तरह से "सोच" नहीं रहे हैं जैसा हम उम्मीद करते हैं। यह अंतर मॉडल को बड़ा बनाने या उन्हें लंबे समय तक प्रशिक्षित करने से ठीक नहीं होता; इसके लिए सूचना को प्रोसेस करने के तरीके में एक मौलिक बदलाव की आवश्यकता प्रतीत होती है।