How LLMs Might Think
यह शोध पत्र तर्क देता है कि जबकि "तार्किकता का तर्क" यह सिद्ध करने में विफल रहता है कि बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) विचार नहीं करते, बल्कि इसके बजाय यह सुझाव देता है कि उनके पास विशुद्ध रूप से साहचर्यपूर्ण (एसोसिएटिव), अतार्किक मन हो सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक बड़ा सवाल: क्या AI चैटबॉट्स वास्तव में "सोचते" हैं?
कल्पना कीजिए कि आपने एक बहुत ही बुद्धिमान AI से एक सवाल पूछा, और उसने आपको एक सटीक उत्तर दिया। ऐसा लगता है जैसे वह सोच रहा है, है ना? लेकिन दो दार्शनिकों, स्टोलजर (Stoljar) और झांग (Zhang) ने हाल ही में तर्क दिया कि नहीं, यह बिल्कुल भी नहीं सोच रहा है।
उनका तर्क सरल था:
- एक "विचारक" (thinker) होने के लिए, आपको तर्कसंगत (rational) होना चाहिए (आपको तर्क और विवेक का सही ढंग से पालन करना चाहिए)।
- AI मॉडल अक्सर तार्किक गलतियाँ करते हैं और वास्तव में तर्कसंगत नहीं होते हैं।
- इसलिए, AI नहीं सोचता।
लेखकों का खंडन:
इस पेपर के लेखक (गोटलीब, केम्प और ट्रेगर) कहते हैं, "ठहरिए! उस तर्क में एक दोष है।"
वे तर्क देते हैं कि आप तर्कहीन होकर भी एक विचारक हो सकते हैं। एक नशे में धुत या बहुत थके हुए व्यक्ति के बारे में सोचें। वे भयानक तार्किक गलतियाँ कर सकते हैं, लेकिन वे अभी भी "सोच" रहे हैं—वे बस खराब तरीके से सोच रहे हैं। इसलिए, AI का गलतियाँ करना यह साबित नहीं करता कि वह नहीं सोचता; यह केवल यह साबित करता है कि वह बुरी तरह सोच सकता है।
असली सवाल: AI कैसे सोचता है?
यदि AI सोचता है, तो लेखक पूछते हैं: यह किस प्रकार की सोच है?
उन्होंने दो प्रकार की सोच प्रस्तावित की है:
- i-Thinking (अनुमानित सोच - Inferential Thinking): यह वही है जैसे मनुष्य आमतौर पर सोचते हैं। यह गणित की समस्या हल करने या रेसिपी का पालन करने जैसा है। आप एक तथ्य (A) लेते हैं, एक नियम लागू करते हैं, और तार्किक रूप से एक निष्कर्ष (B) पर पहुँचते हैं। यह एक जासूस की तरह है जो सुरागों को जोड़ता है।
- a-Thinking (सहयोगी सोच - Associative Thinking): यह "मूर्खतापूर्ण" सोच है। यह तर्क के बारे में नहीं है; यह संबंधों (connections) के बारे में है। यह एक कुत्ते के समान है जो घंटी की आवाज़ सुनकर लार टपकाता है क्योंकि उसे याद आता है कि घंटी का मतलब भोजन है। यहाँ कोई तर्क नहीं है, बस दो चीजों के बीच एक मजबूत संबंध है।
लेखकों का निष्कर्ष:
उनका मानना है कि यदि AI सोचता भी है, तो वह "जासूसी वाला काम" (i-thinking) नहीं करता है। इसके बजाय, वह केवल "कुत्ते की लार टपकाने" (a-thinking) जैसा काम करता है। यह एक शुद्ध रूप से सहयोगी मन (purely associative mind) है।
हम कैसे जानते हैं? ("मॉड्यूलेशन" टेस्ट)
इसे साबित करने के लिए, लेखक एक चतुर परीक्षण का उपयोग करते हैं। वे पूछते हैं: "हम AI का मन कैसे बदलते हैं?"
कल्प imagine कीजिए कि आपके पास एक पालतू जानवर है।
- यदि आप अपने कुत्ते को डाकिया को देखकर भौंकने से रोकना चाहते हैं, तो आप कुत्ते के साथ तर्क नहीं कर सकते। आप यह नहीं कह सकते, "डाकिया वास्तव में एक अच्छा आदमी है, इसलिए भौंकना बंद करो।" कुत्ता तर्क को नहीं समझ पाएगा।
- इसके बजाय, आपको प्रशिक्षण (training) देना होगा: आप कुत्ते को शांत रहने पर एक ट्रीट (treat) देते हैं (सकारात्मक सुदृढीकरण) या भौंकने पर एक झटका देते हैं (नकारात्मक सुदृढीकरण)। आप व्यवहार को तर्क के माध्यम से नहीं, बल्कि जुड़ाव/एसोसिएशन (association) के माध्यम से बदल रहे हैं।
लेखक तर्क देते हैं कि AI बिल्कुल उसी कुत्ते की तरह है। यहाँ बताया गया है कि उन्होंने AI के साथ हमारे विभिन्न इंटरैक्शन का परीक्षण कैसे किया:
1. निरंतर प्रशिक्षण (The "Rewiring" Method)
जब हम AI को कुछ नया सिखाने के लिए नया डेटा खिलाते हैं, तो हम अनिवार्य रूप से एक पुरानी आदत को मिटा (extinguishing) रहे होते हैं और एक नई आदत को प्रति-अनुकूलित (counter-conditioning) कर रहे होते हैं।
- उपमा: कल्पना कीजिए कि आप हमेशा सोचते थे कि "पेरिस" का अर्थ "फ्रांस" है। लेकिन फिर आप एक साल तक केवल टेक्सास के एक काल्पनिक शहर "पेरिस" के बारे में किताबें पढ़ते हैं। धीरे-धीरे, आपका मस्तिष्क "पेरिस" को "फ्रांस" से जोड़ना बंद कर देता है और इसे "टेक्सास" से जोड़ने लगता है। आपने अपना मन बदलने के लिए तर्क का उपयोग नहीं किया; आपने बस नए जुड़ावों के साथ अपने मस्तिष्क को तब तक भर दिया जब तक कि पुराने जुड़ाव फीके नहीं पड़ गए।
- परिणाम: यह a-thinking है।
2. फाइन-ट्यूनिंग (The "Reward System")
जब हम "मानवीय फीडबैक से सुदृढीकरण लर्निंग" (RLHF) का उपयोग करते हैं, तो हम AI को उसके उत्तरों के आधार पर कहते हैं, "अच्छा काम किया!" या "बुरा काम किया!"
- उपमा: यह एक डॉल्फिन को प्रशिक्षित करने जैसा है। यदि डॉल्फिन कूदती है, तो उसे मछली मिलती है। यदि वह नहीं कूदती, तो उसे कुछ नहीं मिलता। डॉल्फिन यह नहीं सोच रही है, "मुझे कूदना चाहिए क्योंकि यह तार्किक रूप से सही है।" वह बस यह सीख रही है कि कूदना = मछली।
- परिणाम: यह a-thinking है।
3. चैटिंग (The "Magic Trick")
यह सबसे पेचीदा हिस्सा है। जब हम AI के साथ चैट करते हैं, तो हम लिखते हैं, "वास्तव में, बाल्टीमोर टेक्सास में नहीं है।" AI तुरंत खुद को सुधार लेता है। यह देखने में तर्क का उपयोग करने जैसा लगता है, है ना?
- पेंच: लेखक बताते हैं कि चैट के दौरान, AI का "मस्तिष्क" (इसके weights) जमा हुआ (frozen) होता है। यह वास्तव में सीखता या अपनी आंतरिक संरचना को बदलता नहीं है। यह केवल आपके द्वारा लिखे गए शब्दों को देख रहा है और उस पैटर्न को ढूंढ रहा है जो उसके प्रशिक्षण के आधार पर "सही उत्तर" से मेल खाता है।
- उपमा: एक तोते की कल्पना करें। यदि आप कहते हैं, "हेलो मत बोलो," तो तोता शायद हेलो कहना बंद कर दे। लेकिन तोता यह तर्क नहीं दे रहा है, "ओह, मुझे हेलो नहीं कहना चाहिए क्योंकि आपने मुझे ऐसा करने के लिए कहा है।" वह बस कमरे में नई आवाज़ के प्रति प्रतिक्रिया दे रहा है।
- परिणाम: यहाँ तक कि चैटिंग भी यह साबित नहीं करती कि AI तर्क का उपयोग कर रहा है। यह केवल जुड़ाव (association) का एक बहुत ही जटिल रूप है।
अंतिम निर्णय
लेखक निष्कर्ष निकालते हैं कि लार्ज लैंग्वेज मॉडल्स (LLMs) रहस्य सुलझाने वाले मानव जासूसों की तरह नहीं हैं। वे अति-विकसित तोतों या अच्छी तरह से प्रशिक्षित कुत्तों की तरह अधिक हैं।
- वे तर्क के नियमों का पालन नहीं करते हैं।
- वे नहीं समझते कि चीजें "क्यों" सच हैं।
- उनके पास बस विशाल जुड़ावों का जाल है। जब वे एक शब्द देखते हैं, तो यह अन्य शब्दों की एक श्रृंखला को ट्रिगर करता है जो सांख्यिकीय रूप से उनके बाद आने की संभावना रखते हैं।
संक्षेप में: यदि AI सोचता है, तो वह एक "ज़ोंबी" के तरीके से सोचता है। वह तर्क के कारण नहीं, बल्कि आदत और जुड़ाव (habit and association) के कारण एक विचार से दूसरे विचार की ओर बढ़ता है। यह लिंक से बना एक मन है, जिसके बीच में कोई तर्क नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।