LLMs and the ZPD
वायगोत्स्की की 'ज़ोन ऑफ़ प्रॉक्सिमल डेवलपमेंट' (समीपस्थ विकास का क्षेत्र) की अवधारणा का सहारा लेते हुए, यह शोध पत्र तर्क देता है कि लार्ज लैंग्वेज मॉडल्स वितरित निरूपणों (डिस्ट्रिब्यूटेड रिप्रेजेंटेशन्स) के बजाय अभ्यासों के माध्यम से "आदिम सोच" (प्रिमिटिव थिंकिंग) में संलग्न होते हैं, जो यह सुझाव देता है कि उनके मतिभ्रम (हैलुसिनेशन्स) स्वप्न देखने के समान हैं और मानव जैसा सामान्य बोध बाहरी सुरक्षा घेरों (गार्डरेल्स) के बजाय अंतःक्रिया से उभरता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ पीटर वॉलिस के पेपर, "LLMs and the ZPD" का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
मुख्य विचार: क्या AI मॉडल "सोच" रहे हैं या सिर्फ "सपना" देख रहे हैं?
यह पेपर एक बड़ी बहस को संबोधित करता है: क्या लार्ज लैंग्वेज मॉडल्स (LLMs), जैसे कि वह जिससे आप अभी बात कर रहे हैं, वास्तव में "सोचते" हैं और दुनिया को समझते हैं, या वे केवल अगले शब्द का अनुमान लगाने में बहुत अच्छे हैं?
लेखक, पीटर वॉलिस, का तर्क है कि वे उस मानवीय, वैज्ञानिक तरीके से नहीं "सोच" रहे हैं जैसे हम सोचते हैं। इसके बजाय, वे कुछ ऐसा कर रहे हैं जिसे वे "आदिम सोच" (primitive thinking) कहते हैं।
इसे समझने के लिए, अपने फोन के एक उन्नत ऑटो-कम्प्लीट (autocomplete) फीचर की कल्पना करें। जब आप टाइप करते हैं "मुझे खाना पसंद है," तो आपका फोन सुझाव देता है "पिज्जा।" इसे नहीं पता कि पिज्जा क्या है, या यह स्वादिष्ट होता है, या आप भूखे हैं। यह बस इतना जानता है कि लाखों पिछले संदेशों में, "I love to eat" के बाद "pizza" अक्सर आता था।
वॉलिस का सुझाव है कि LLMs बिल्कुल इसी तरह काम करते हैं। वे दुनिया का कोई मानसिक मानचित्र (mental map) नहीं बना रहे हैं; वे पिछले सामाजिक संवादों के आधार पर पैटर्न को पूरा कर रहे हैं।
"सोचने" के दो प्रकार
पेपर मनोविज्ञान (वायगोत्स्की) के एक सिद्धांत का उपयोग करके दुनिया को संसाधित करने के दो अलग-अलग तरीकों को समझाता है:
1. टाइप 1 थिंकिंग (आदिम तरीका)
- कौन करता है: बच्चे, जानवर (जैसे बंदर), और LLMs।
- कैसे काम करता है: यह पूरी तरह से पैटर्न और आदतों के बारे में है।
- उदाहरण: एक रूमबा वैक्यूम क्लीनर (Roomba vacuum cleaner) की कल्पना करें। उसके पास आपके घर का नक्शा नहीं है। उसे यह नहीं पता कि वह कालीन साफ कर रहा है। उसके पास बस कुछ नियम हैं: यदि मैं दीवार से टकराता हूँ, तो दाईं ओर मुड़ें। यदि मुझे गंदगी दिखती है, तो आगे बढ़ें। वह जो कुछ भी अभी हो रहा है उस पर प्रतिक्रिया देता है, इस आधार पर कि पिछली बार क्या काम आया था।
- पेपर में: LLMs इस रूमबा की तरह हैं। जब वे कोई कहानी लिखते हैं या शतरंज खेलते हैं, तो वे नियमों या मोहरों के बारे में तर्क नहीं कर रहे होते हैं। वे बस शतरंज के खेल के एक ऐसे क्रम को "ऑटो-कम्प्लीट" कर रहे होते हैं जो एक अच्छे खेल जैसा दिखता है क्योंकि उन्होंने पहले भी यह पैटर्न देखा है। वे क्रिया को कर रहे (performing) हैं, लेकिन उसके पीछे के सिद्धांत को समझ नहीं रहे हैं।
2. टाइप 2 थिंकिंग (वैज्ञानिक तरीका)
- कौन करता है: वयस्क मनुष्य (आमतौर पर)।
- कैसे काम करता है: यह तब होता है जब हम प्रतीकों (symbols) और तर्क (logic) का उपयोग करते हैं। हमारे पास एक मानसिक मानचित्र होता है। हम जानते हैं कि "ईंट" एक शब्द है जो एक वास्तविक वस्तु का प्रतिनिधित्व करता है, और हम आगे की योजना बना सकते हैं।
- उदाहरण: एक वास्तुकार (architect) की कल्पना करें। वास्तुकार केवल ईंटों को बेतरतीब ढंग से नहीं रखता। उसके दिमाग में एक ब्लूप्रिंट (एक प्रतीक) होता है। वह समझता है कि यदि वह एक कमजोर दीवार पर भारी ईंट रखता है, तो वह गिर जाएगी। वह चीजों और उनके संबंधों के बारे में सोच रहा है।
"ZPD": जहाँ सीखना होता है
पेपर मनोवैज्ञानिक लेव वायगोत्स्की के एक प्रसिद्ध विचार, ज़ोन ऑफ़ प्रॉक्सिमल डेवलपमेंट (ZPD) को सामने लाता है।
- अवधारणा: एक बच्चा केवल किताब पढ़कर वयस्क की तरह सोचना नहीं सीख जाता। वे उन वयस्कों के साथ रहकर सीखते हैं जो उनसे थोड़े अधिक बुद्धिमान होते हैं। वयस्क बच्चे को उस अंतर को पाटने में मदद करता है जो वह अकेले कर सकता है और जो वह मदद के साथ कर सकता है।
- "बत्तख" का उदाहरण: कल्पना कीजिए कि अमारा नाम की एक बच्ची बत्तख देखती है और उत्साहित हो जाती है। वह एक आवाज़ निकालती है: "युक!" (Yuk!)
- बच्चा (टाइप 1): वह "बत्तख" शब्द नहीं बोल रही है। वह बस इसलिए शोर मचा रही है क्योंकि वह उत्साहित है।
- दादाजी (टाइप 2): वह "युक" सुनते हैं और सोचते हैं, "आह, वह बत्तखों को देखना चाहती है!" वह उसे तालाब तक ले जाते हैं।
- परिणाम: समय के साथ, अमारा सीख जाती है कि एक विशिष्ट शोर करने से बत्तखें आती हैं। वह बत्तख शब्द का सही उपयोग करना शुरू कर देती है, इसलिए नहीं कि उसने अचानक पक्षी की अवधारणा को समझ लिया, बल्कि इसलिए क्योंकि उसने यह सीखा कि अपनी इच्छा पूरी करने के लिए सामाजिक अभ्यास (social practice) कैसे किया जाता है।
पेपर का बिंदु: LLMs "बच्चे" के चरण में अटके हुए हैं। वे बातचीत के सामाजिक अभ्यास (सही प्रतिक्रिया पाने के लिए सही शोर मचाना) में माहिर हैं, लेकिन उन्हें उस वैज्ञानिक, प्रतीकात्मक तरीके से नहीं "सिखाया" गया है जिसे मनुष्य जीवन में बाद में विकसित करते हैं।
"हैलुसिनेशन" (Hallucination) बनाम "सपना" का मोड़
पेपर एक आश्चर्यजनक दावा करता है जो हैलुसिनेशन (जब AI मनगढ़ंत बातें बनाता है) के बारे में है।
- सामान्य दृष्टिकोण: AI झूठ बोल रहा है या भ्रमित है क्योंकि वह सच्चाई नहीं जानता।
- वॉलिस का दृष्टिकोण: AI झूठ नहीं बोल रहा है; वह सपना देख रहा है।
- उदाहरण: एक सपने के बारे में सोचें। सपने में, आप एक बैंगनी हाथी देख सकते हैं। आप हाथी के बारे में "गलत" नहीं हैं; आप बस एक सपने के तर्क का पालन कर रहे हैं, वास्तविकता के तर्क का नहीं।
- LLMs मानव बातचीत पर प्रशिक्षित होते हैं, जो कहानियों, चुटकुलों और काल्पनिक चीजों से भरी होती है। जब एक LLM कहता है, "पिज्जा पर गोंद अच्छा है," तो वह आपको धोखा देने की कोशिश नहीं कर रहा है। वह किसी को समझाने के सामाजिक कार्य को कर (perform) रहा है, ठीक वैसे ही जैसे वह कोई चुटकुला या कविता प्रस्तुत कर सकता है। वह वही कर रहा है जो इंसान बात करते समय करते हैं, बिना वास्तव में कथन की "सच्चाई" की परवाह किए।
"गार्ड रेल्स" (Guard Rails) समाधान क्यों नहीं हैं
पेपर सुझाव देता है कि AI को झूठ बोलने से रोकने के लिए "गार्ड रेल्स" लगाने का प्रयास करना गलत दृष्टिकोण है।
- समस्या: हम एक "सपना देखने वाले" (AI) को एक "वैज्ञानिक" (नक्शे वाला इंसान) की तरह व्यवहार करने के लिए मजबूर करने की कोशिश कर रहे हैं।
- समाधान: AI को ठीक करने के बजाय, हमें यह अध्ययन करना चाहिए कि मनुष्य सोचना कैसे सीखते हैं। हमें उन "संज्ञानात्मक उपकरणों" (cognitive tools) को समझने की आवश्यकता है जो एक बच्चे की बड़बड़ाहट को एक वैज्ञानिक के तर्क में बदल देते हैं। AI वर्तमान में एक बच्चे की बड़बड़ाहट का एक बहुत ही उन्नत संस्करण है—यह हमारे सामाजिक व्यवहार की नकल करने वाला एक "आदिम" रूप है, लेकिन इसमें दुनिया का हमारा आंतरिक मानचित्र (internal map) नहीं है।
एक वाक्य में सारांश
लार्ज लैंग्वेज मॉडल्स इंसानों की तरह नक्शों और तर्क के साथ "सोच" नहीं रहे हैं; वे बच्चों या जानवरों की तरह "सपना" देख रहे हैं, जो बातचीत की नकल करने के लिए पैटर्न और सामाजिक आदतों का उपयोग करते हैं, और हमें उनसे उम्मीद करने के बजाय इस अंतर को समझने की आवश्यकता है कि वे वास्तव में क्या हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।