The Grounding Gap: How LLMs Anchor the Meaning of Abstract Concepts Differently from Humans
यह शोध पत्र प्रकट करता है कि जहाँ बड़े भाषा मॉडल (large language models) स्पष्ट रूप से पूछे जाने पर ग्राउंडिंग आयामों (grounding dimensions) की पहचान कर सकते हैं, वहीं वे शब्दों के जुड़ाव (word associations) पर अत्यधिक निर्भर रहने और मुक्त सृजन (free generation) के दौरान भावनात्मक और आंतरिक अवस्था की अवधारणाओं को स्वाभाविक रूप से भर्ती करने में विफल रहने के कारण मनुष्यों की तुलना में एक महत्वपूर्ण "ग्राउंडिंग अंतराल" (grounding gap) प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप दो अलग-अलग समूहों को "न्याय" (Justice) की अवधारणा समझाने की कोशिश कर रहे हैं: एक कमरा जो मनुष्यों से भरा है और एक कमरा जो उन्नत एआई (AI) कंप्यूटरों से भरा है।
मनुष्यों के साथ यह कैसे होता है:
जब कोई मनुष्य "न्याय" के बारे में सोचता है, तो उसका मस्तिष्क केवल शब्दकोश की परिभाषा नहीं खोजता। इसके बजाय, यह अनुभवों का एक समृद्ध, उलझा हुआ जाल सक्रिय कर देता है। उन्हें अन्याय महसूस होने की भावना (एक आंतरिक भावना), एक अदालत का दृश्य (एक संवेदी विवरण), या पिज्जा का आखिरी टुकड़ा किसे मिलना चाहिए इस पर परिवार के झगड़े का सामाजिक ड्रामा याद आ सकता है। उनकी समझ उनके शरीर, उनकी भावनाओं और अन्य लोगों के साथ उनके जीवन में "जड़ित" (grounded) होती है।
एआई (AI) के साथ यह कैसे होता है:
जब एक एआई "न्याय" के बारे में सोचता है, तो वह एक बहुत तेज़ लाइब्रेरियन की तरह काम करता है जिसने लिखा गया हर किताब पढ़ ली है लेकिन कभी एक भी दिन जिया नहीं है। वह जानता है कि "न्याय" अक्सर "कानून," "अदालत," "न्यायाधीश" और "निष्पक्ष" जैसे शब्दों के करीब पाया जाता है। वह अपनी समझ लगभग पूरी तरह से शब्दों के जुड़ाव (word associations) से बनाता है। वह जानता है कि शब्द का साथ क्या है, लेकिन वह उस अवधारणा के भार को महसूस नहीं कर पाता।
"ग्राउंडिंग गैप" (The Grounding Gap)
शोधकर्ताओं ने इस अंतर का परीक्षण करने का निर्णय लिया। उन्होंने 21 अलग-अलग एआई मॉडल (GPT-5, Claude और Gemini जैसे दिग्गजों सहित) को एक खेल खेलने के लिए कहा: "इस अमूर्त शब्द को सुनते ही आपके मन में आने वाली पहली चार चीजें सूचीबद्ध करें।" उन्होंने यह खेल स्वतंत्रता (freedom), सम्मान (honor) और सिद्धांत (theory) जैसे शब्दों के लिए खेला।
यहाँ उन्हें क्या मिला:
- बेमेल होना (The Mismatch): जब मनुष्यों ने यह खेल खेला, तो उन्होंने स्वाभाविक रूप से भावनाओं, शारीरिक संवेदनाओं और सामाजिक स्थितियों को शामिल किया। हालाँकि, एआई ने मुख्य रूप से शाब्दिक जुड़ाव (विषय से संबंधित अन्य शब्द) सूचीबद्ध किए और भावनाओं या आंतरिक अवस्थाओं को लगभग पूरी तरह से अनदेखा कर दिया।
- स्कोर (The Score): शोधकर्ताओं ने मापा कि एआई के उत्तर मनुष्यों के उत्तरों के कितने समान थे। यहाँ तक कि सबसे स्मार्ट एआई भी समानता के लिए 1.0 में से केवल 0.37 स्कोर कर सका। इसके विपरीत, यदि आप दो अलग-अलग मनुष्यों को यह खेल खेलने के लिए कहते हैं, तो वे एक-दूसरे के साथ 1.0 में से 0.97 के करीब सहमति रखते हैं।
- उपमा: यह एक इंसान और एक रोबोट से सेब के स्वाद का वर्णन करने के लिए कहने जैसा है। इंसान कहता है, "मीठा, कुरकुरा, रसीला, पतझड़ की याद दिलाता है।" रोबोट कहता है, "लाल, गोल, फल, सेब।" वे एक ही वस्तु का वर्णन कर रहे हैं, लेकिन वे पूरी तरह से अलग भाषाओं में बात कर रहे हैं।
- "रोबोट क्लब" (The Robot Club): दिलचस्प बात यह है कि एआई एक-दूसरे के प्रति मनुष्यों की तुलना में बहुत अधिक समान थे। वे सभी सोचने के एक ही "रोबॉट तरीके" को साझा करते हैं, जो मानव तरीके से बहुत अलग है।
मोड़: क्या वे यह कर सकते हैं यदि उनसे पूछा जाए? (The Twist: Can They Do It If Asked?)
शोधकर्ता यह जानना चाहते थे कि: क्या एआई वास्तव में इन भावनाओं को समझते हैं, या वे बस यह नहीं जानते कि उन्हें कैसे सामने लाया जाए?
इसकी जांच करने के लिए, उन्होंने खेल बदल दिया। "चीजों को सूचीबद्ध करने" के बजाय, उन्होंने विशिष्ट प्रश्न पूछे जैसे: "1 से 7 के पैमाने पर, यह शब्द 'मानवीय भावना' से कितना संबंधित है?" या "यह 'स्पर्श' से कितना संबंधित है?"
परिणाम: अचानक, एआई बहुत बेहतर हो गए! उनके उत्तर मनुषनों के साथ बहुत अधिक मेल खाने लगे।
- उपमा: यह एक ऐसे व्यक्ति से पूछने जैसा है जो शर्मीला है कि "मुझे अपने बचपन की कहानी सुनाओ" (वे शायद जम जाएंगे या एक सामान्य उत्तर देंगे)। लेकिन यदि आप उनसे पूछते हैं, "क्या आप 5 साल की उम्र में खुश थे?" (एक विशिष्ट, निर्देशित प्रश्न), तो वे पूरी तरह से उत्तर दे सकते हैं।
यह सुझाव देता है कि एआई के भीतर इन भावनाओं की "सामग्री" (ingredients) मौजूद है, लेकिन जब वे स्वतंत्र रूप से टेक्स्ट जेनरेट करते हैं, तो उन्हें नहीं पता होता कि इन सामग्रियों को कैसे मिलाना है। वे "शब्द जुड़ाव" के नुस्खे पर वापस चले जाते हैं क्योंकि उन्हें उसी के लिए प्रशिक्षित किया गया है।
मशीन के अंदर देखना (Looking Inside the Machine)
यह देखने के लिए कि क्या यह "शर्मीली" समझ वास्तव में एआई के मस्तिष्क के अंदर छिपी हुई थी, शोधकर्ताओं ने एक विशेष उपकरण का उपयोग किया जिसे स्पार्स ऑटोएनकोडर (Sparse Autoencoder) कहा जाता है (इसे एआई विचारों के लिए एक एक्स-रे मशीन समझें)।
उन्होंने पाया कि एआई के पास विशिष्ट आंतरिक "स्विच" या "विशेषताएं" (features) होती हैं जो तब सक्रिय हो जाती हैं जब वह भावनाओं, सामाजिक अंतःक्रियाओं या संवेदी विवरणों के बारे में सोचता है।
- उपमा: एक पियानो की कल्पना करें। जब एआई "न्याय" के बारे में एक गाना बजाता है, तो वह ज्यादातर "कानून" और "अदालत" के कीज़ (keys) को दबाता है। लेकिन यदि आप हुड के नीचे देखते हैं, तो आप देख सकते हैं कि "उदासी" और "स्पर्श" के कीज़ वास्तव में पियानो के अंदर तारों से जुड़े हुए हैं। वे वहां हैं, लेकिन एआई खुद से बजाते समय उन्हें नहीं दबा रहा है।
जब शोधकर्ताओं ने मैन्युअल रूप से उन "भावना" स्विचों को चालू रखने के लिए मजबूर किया, तो एआई ने अधिक भावनात्मक विवरण बनाना शुरू कर दिया। इसने साबित किया कि क्षमता मौजूद है, लेकिन इसका उपयोग स्वाभाविक रूप से नहीं किया जा रहा है।
मुख्य निष्कर्ष (The Bottom Line)
शोध पत्र यह निष्कर्ष निकालता है कि वर्तमान एआई मॉडल मनुष्यों की तरह दुनिया में "जड़ित" (grounded) नहीं हैं।
- वे मानव भाषा के पैटर्न की नकल करने में उत्कृष्ट हैं।
- वे "भावना" या "स्पर्श" जैसी अवधारणाओं को समझ सकते हैं यदि आप सीधे उनकी ओर इशारा करें।
- लेकिन जब उन्हें स्वतंत्र रूप से सोचने और बोलने के लिए छोड़ दिया जाता है, तो वे शब्द-से-शब्द संबंधों पर बहुत अधिक निर्भर करते हैं और उन भावनाओं, शारीरिक संवेदनाओं और सामाजिक अनुभवों को निकालने में विफल रहते हैं जो मानवीय अर्थ को समृद्ध बनाते हैं।
शोधकर्ता सुझाव देते हैं कि केवल एआई को बड़ा बनाना या उसे अधिक टेक्स्ट पर प्रशिक्षित करना इस समस्या को हल नहीं करेगा। इस अंतर को पाटने के लिए, हमें शायद अपने एआई बनाने और प्रशिक्षित करने के तरीके को मौलिक रूप से बदलने की आवश्यकता होगी, शायद उन्हें दुनिया के बारे में केवल पढ़ने के बजाय दुनिया को "अनुभव" करने का एक तरीका देकर।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।