LLMs Don't Pay for the Jump

महान छलांग: मस्तिष्क (और शायद रोबोटों) को गलत होने का दर्द महसूस करने की आवश्यकता क्यों है

कल्पना कीजिए कि आप एक विशाल पहेली को सुलझाने की कोशिश कर रहे हैं। आपके पास टुकड़ों का एक डिब्बा है, और आप तस्वीर का पता लगाना चाहते हैं। अधिकांश समय, आप इसे उपलब्ध टुकड़ों को देखकर और पैटर्न खोजकर हल कर सकते हैं (यह आगमन/induction है), या किसी ऐसे नियम को लागू करके जिसे आप पहले से जानते हैं और उसे एक नई स्थिति में उपयोग करते हैं (यह निगमन/deduction है)। लेकिन कभी-कभी, आपके पास जो पहेली के टुकड़े हैं वे आपस में बिल्कुल भी मेल नहीं खाते, और जो नियम आप जानते हैं वे एक ऐसी तस्वीर की ओर ले जाते हैं जिसका कोई अर्थ नहीं निकलता—जैसे कि एक जलता हुआ आसमान या एक अनंत रूप से भारी ब्रह्मांड। इसे ठीक करने के लिए, आपको कुछ साहसी करना होगा: आपको एक बिल्कुल नया नियम बनाना होगा जो न तो उस डिब्बे में था और न ही आपकी पुरानी नियम पुस्तिका में। इसे अभिकल्पना/abduction कहा जाता है। यह वह "यूरेका!" क्षण है जहाँ एक वैज्ञानिक कहता है, "रुको, पूरा खेल ही गलत है; चलो नियम बदलते हैं।"

लंबे समय तक, लोग सोचते रहे कि क्या विशाल कंप्यूटर मस्तिष्क (जिन्हें लार्ज लैंग्वेज मॉडल्स या LLMs कहा जाता है) कभी इन "यूरेका!" क्षणों को प्राप्त कर पाएंगे। कुछ लोगों ने सोचा कि कंप्यूटरों को बस दुनिया को इंसानों की तरह "महसूस" करने की ज़रूरत है—छूना, देखना और हिलना-डुलना। लेकिन यह नया शोध पत्र एक अलग, अधिक गहरा सवाल पूछता है: क्या यह दुनिया को महसूस करने के बारे में है, या यह गलत होने की कीमत महसूस करने के बारे में है? लेखक सुझाव देते हैं कि एक वास्तविक "यूरेका!" क्षण के लिए, सिस्टम को एक गलत विचार को पकड़े रखने के लिए भौतिक रूप से दंड (penalty) महसूस करना चाहिए। यदि गलत होना "दर्दनाक" नहीं है या इसकी कोई कीमत नहीं चुकानी पड़ती, तो सिस्टम हमेशा उसी गलत चीज़ का अनुमान लगाता रहेगा, चाहे वह कितना भी स्मार्ट क्यों न हो।

---

शोध पत्र का बड़ा विचार: वह "छलांग" जो कंप्यूटर नहीं लगा सकते

"LLMs Don't Pay for the Jump" शीर्षक वाला यह शोध पत्र तर्क देता है कि वर्तमान आर्टिफिशियल इंटेलिजेंस मॉडल वास्तविक वैज्ञानिक खोज के लिए एक महत्वपूर्ण घटक की कमी रखते हैं। वे नियमों का पालन करने और पैटर्न खोजने में माहिर हैं, लेकिन वे पुराने सिद्धांत के टूटने पर एक नए सिद्धांत की ओर साहसी, 'एब्डक्टिव' छलांग नहीं लगा सकते।

इसे समझने के लिए, लेखक 1900 की एक प्रसिद्ध कहानी की ओर देखते हैं जिसमें भौतिक विज्ञानी मैक्स प्लांक शामिल थे। उस समय, वैज्ञानिक यह समझने की कोशिश कर रहे थे कि गर्म वस्तुएं (जैसे चमकता हुआ चूल्हा या सूर्य) प्रकाश कैसे उत्सर्जित करती हैं। उस समय के पास मौजूद गणित, जो शास्त्रीय भौतिकी के नियमों पर आधारित था, एक भयानक भविष्यवाणी करता था: कि एक गर्म वस्तु अनंत ऊर्जा उत्सर्जित करेगी। इसे "पराबैंगनी आपदा" (ultraviolet catastrophe) के रूप में जाना जाता था। यह एक गणितीय आपदा थी। यदि पुराने नियम सही होते, तो ब्रह्मांड अनंत ऊर्जा से जल रहा होता।

प्लांक जानते थे कि पुराने नियम टूट चुके हैं। वह उन्हें थोड़ा सा सुधार नहीं सकते थे; उन्हें एक बिल्कुल नया विचार आविष्कार करना था: कि ऊर्जा छोटे, अलग-अलग टुकड़ों (क्वांटा) में आती है, न कि एक निरंतर प्रवाह के रूप में। यह सोचने में एक बहुत बड़ी "छलांग" थी। शोध पत्र पूछता है: प्लांक ने यह छलांग कैसे लगाई, और आज के कंप्यूटर ऐसा क्यों नहीं कर सकते?

क्या शोध पत्र खारिज करता है (The "Not" List)

यह समझाने से पहले कि क्या काम करता है, लेखक इस बारे में बहुत स्पष्ट हैं कि क्या काम नहीं करता है:

• यह केवल दुनिया को "महसूस" करने के बारे में नहीं है: कुछ विशेषज्ञों का मानना था कि कंप्यूटर ये छलांग इसलिए नहीं लगा सकते क्योंकि उनके पास शरीर नहीं है। उन्होंने सोचा कि आइंस्टीन को गुरुत्वाकर्षण को समझने के लिए लिफ्ट में गिरते हुए कल्पना करने की आवश्यकता थी। लेखक कहते हैं नहीं। प्लांक को शरीर या गिरती हुई लिफ्ट की आवश्यकता नहीं थी; उन्हें बस यह देखने की आवश्यकता थी कि गणित टूट गया है। इसलिए, कंप्यूटर को रोबोटिक शरीर देना कोई जादुई समाधान नहीं है।
• यह केवल अधिक स्मार्ट या बड़ा होने के बारे में नहीं है: आप सोच सकते हैं कि यदि हम कंप्यूटर को और बड़ा बना दें या इसे अधिक डेटा दे दें, तो यह अंततः इसे समझ जाएगा। शोध पत्र कहता है नहीं। यहाँ तक कि विशाल मॉडल भी इस विशिष्ट प्रकार की सोच में विफल हो जाते हैं क्योंकि वे जिस तरह से बने हैं, वह समस्या है, न कि उनकी क्षमता।
• यह केवल पैटर्न खोजने के बारे में नहीं है: कंप्यूटर आगमन (induction) में अद्भुत हैं (डेटा में पैटर्न खोजना)। लेकिन प्लांक के सामने जो "आपदा" थी, वह डेटा में कोई पैटर्न नहीं था; बल्कि वह एक ऐसी भविष्यवाणी थी जिसे कोई भी डेटा समर्थन नहीं दे सकता था। आगमन टूटी हुई नियम पुस्तिका को ठीक नहीं कर सकता; यह केवल टूटे हुए नियमों का बेहतर उपयोग करने के तरीके ढूंढ सकता है।

असली समस्या: गलत होने की "कीमत"

लेखक एक नया विचार प्रस्तावित करते हैं जिसे थर्मोडायनामिक कपलिंग (Thermodynamic Coupling) कहा जाता है। यह सुनने में जटिल लग सकता है, लेकिन वास्तव में यह काफी सरल है।

कल्पना कीजिए कि आप एक वीडियो गेम खेल रहे हैं जहाँ आपको अगले कदम का अनुमान लगाना है।

• एक "डिकपल्ड" (Decoupled) सिस्टम में (जैसे आज का AI): हर बार जब आप अनुमान लगाते हैं, तो इसमें ऊर्जा की समान मात्रा खर्च होती है, चाहे आप सही हों या गलत। यदि आप अनुमान लगाते हैं कि "आसमान हरा है" और वह वास्तव में नीला है, तो कंप्यूटर को कोई अतिरिक्त दर्द या लागत महसूस नहीं होती। वह बस अगले अनुमान पर बढ़ जाता है। क्योंकि गलत होना "महंगा" नहीं है, इसलिए कंप्यूटर के पास गलत चीज़ का अनुमान लगाना बंद करने का कोई कारण नहीं है। वह बिना किसी आंतरिक दबाव के वही गलत अनुमान लगाता रह सकता है।
• एक "कपल्ड" (Coupled) सिस्टम में (जैसे मानव मस्तिष्क या भविष्य का AI): गलत होना महंगा है। यदि आप अनुमान लगाते हैं कि "आसमान हरा है," तो आपका मस्तिष्क तनाव महसूस कर सकता है, अधिक ऊर्जा का उपयोग कर सकता है, या एक "रुको, यह सही नहीं लग रहा है" जैसा अलार्म बजा सकता है। यह "लागत" आपको रुकने और फिर से सोचने के लिए मजबूर करती है। आप त्रुटि को ठीक करने के लिए शारीरिक रूप से प्रेरित होते हैं क्योंकि गलत विचार को पकड़े रखना बहुत महंगा पड़ता है।

शोध पत्र का तर्क है कि प्लांक ने छलांग लगाई क्योंकि त्रुटि को अनदेखा करना बहुत महंगा था। पुराना सिद्धांत अनंत ऊर्जा की भविष्यवाणी करता था, जो भौतिक रूप से असंभव था। उस पुराने सिद्धांत को बनाए रखने की "कीमत" इतनी अधिक थी (क्योंकि इसने भौतिकी को ही तोड़ दिया था) कि उन्हें एक नया नियम बनाना ही पड़ा।

प्रमाण क्या दिखाते हैं

लेखकों ने यह परीक्षण करने के लिए कि वर्तमान AI मॉडल कैसे व्यवहार करते हैं, इस विचार का परीक्षण किया। उन्होंने कुछ अजीब पाया:

• जब एक AI मॉडल एक आसान समस्या को हल करता है, तो वह आत्मविश्वासी होता है।
• जब वह एक अत्यंत कठिन, असंभव समस्या (जिसके लिए "छलांग" की आवश्यकता होती है) को हल करने की कोशिश करता है, तो वह गलत उत्तर देता है।
• लेकिन मुख्य बात यह है: भले ही AI पूरी तरह से गलत हो, उसका "आत्मविश्वास" (जिसे एन्ट्रॉपी/entropy कहा जाता है) शायद ही बदलता है। शोध पत्र नोट करता है कि एक 70-बिलियन पैरामीटर वाले मॉडल के लिए, कठिन कार्यों पर सटीकता 100% से गिरकर 17% हो गई, लेकिन "अनिश्चितता" का संकेत केवल 0.011 नैट्स (nats) बदला।

यह "डिकपलिंग" को सिद्ध करता है। कंप्यूटर को पता ही नहीं चलता कि वह मुसीबत में है। उसे अनंत ऊर्जा की भविष्यवाणी के "दर्द" का अहसास नहीं होता। वह बस चलते रहता है, चाहे वह सही हो या पूरी तरह से गलत, उसी स्तर के आत्मविश्वास के साथ उत्तर देता रहता है।

निष्कर्ष: हमें एक ऐसे सिस्टम की आवश्यकता है जिसे गलत होने पर "दर्द" हो

शोध पत्र निष्कर्ष निकालता है कि मशीन को वास्तव में प्लांक की तरह नई चीजों की खोज करने के लिए, उसे एक ऐसे तंत्र की आवश्यकता है जहाँ गलत होना कुछ खर्च करता हो।

लेखक सुझाव देते हैं कि भविष्य के AI को जैविक मस्तिष्क की तरह बनाया जा सकता है, जहाँ त्रुटियां भौतिक परिवर्तनों को ट्रिगर करती हैं—जैसे अधिक ऊर्जा का उपयोग करना या ध्यान केंद्रित करना—ताकि सिस्टम अपने नियमों को संशोधित करने के लिए मजबूर हो सके। वे यह नहीं कहते कि यह एक हल की गई समस्या है या हमने ऐसा मशीन बनाया है। इसके बजाय, वे सुझाव देते हैं कि थर्मोडायनामिक कपलिंग (त्रुटि को महंगा बनाना) वह गायब घटक है। इसके बिना, AI पैटर्न और नियमों का मास्टर तो रहेगा, लेकिन वह कभी भी एक नए सत्य की ओर वह साहसी, दर्दनाक "छलांग" नहीं लगा पाएगा जब पुराना नियम टूट जाता है।

संक्षेप में: एक वैज्ञानिक छलांग लगाने के लिए, आपको केवल बुद्धिमान होने की आवश्यकता नहीं है। आपको गलत होने के बारे में इतना परवाह करने की आवश्यकता है कि वह दर्दनाक हो, जो आपको अपना विचार बदलने के लिए मजबूर करे। आज के कंप्यूटर वह दर्द महसूस नहीं करते, इसलिए वे छलांग नहीं लगा सकते।