Learned but Not Expressed: Capability-Expression Dissociation in Large Language Models
यह अनुभवजन्य अध्ययन लार्ज लैंग्वेज मॉडल्स में एक व्यवस्थित विच्छेद (dissociation) को प्रदर्शित करता है जहाँ विशिष्ट निष्कर्षण स्थितियों के तहत गैर-कारण समाधानों (non-causal solutions) का सफलतापूर्वक पुनर्निर्माण किया जाता है, फिर भी वे मानक पीढ़ी संदर्भों में पूरी तरह से अनुपस्थित रहते हैं, जो इस धारणा को चुनौती देता है कि प्रशिक्षण डेटा की उपस्थिति सीधे आउटपुट संभाव्यता की भविष्यवाणी करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक मित्र है जिसने दुनिया की हर किताब पढ़ ली है। उसे एक ड्रैगन की कहानी पता है, एक जादुई औषधि की रेसिपी पता है, और एक ऐसी परी कथा का प्लॉट भी पता है जहाँ गुरुत्वाकर्षण काम करना बंद कर देता है। आप उम्मीद करेंगे कि यदि आप उससे कोई कहानी सुनाने को कहें, तो वह शायद उन जादुई तत्वों में से किसी एक का उपयोग करेगा, है ना?
यह शोध पत्र एक आश्चर्यजनक खोज के बारे में है: भले ही AI मॉडल (जैसे वे जिनसे आप चैट करते हैं) ने इन सभी जादुई और असंभव चीजों को "पढ़ा" है, लेकिन वे सामान्य रूप से चैट करते या समस्याओं को हल करते समय इनका उपयोग लगभग कभी नहीं करते हैं।
यहाँ सरल उपमाओं का उपयोग करके अध्ययन का विवरण दिया गया है:
1. "लाइब्रेरी बनाम मेनू" की उपमा
AI मॉडल को एक विशाल लाइब्रेरी के रूप में सोचें जिसे पूरे इंटरनेट पर प्रशिक्षित किया गया है।
- लाइब्रेरी (प्रशिक्षण डेटा): इस लाइब्रेरी में सब कुछ है: वास्तविक सलाह, वैज्ञानिक तथ्य, लेकिन साथ ही परी कथाएं, मिथक, जादू के मंत्र और ऐसी कहानियाँ भी जहाँ चीजें बिना किसी कारण के होती हैं (जैसे "समस्या इसलिए हल हो गई क्योंकि एक भूत ने छड़ी घुमा दी")।
- मेनू (मानक जनरेशन): जब आप AI से कोई प्रश्न पूछते हैं, तो वह एक वेटर की तरह कार्य करता है जो आपको एक विशिष्ट मेनू से व्यंजन लाकर देता है।
बड़ा आश्चर्य: शोधकर्ताओं ने पाया कि भले ही उन्होंने AI को एक काल्पनिक कहानी (जहाँ जादू की अनुमति है) लिखने के लिए कहा, वेटर ने जादुई व्यंजन परोसने से इनकार कर दिया। उन्होंने केवल "वास्तविक" भोजन ही परोसा, भले ही लाइब्रेरी जादुई व्यंजनों से भरी हुई थी।
2. दो परीक्षण: "मेनू" बनाम "विशेष अनुरोध"
इसे सिद्ध करने के लिए, शोधकर्ताओं ने तीन अलग-अलग AI मॉडलों (जैसे GPT, Claude और Gemini) के साथ दो अलग-अलग चीजें कीं:
- परीक्षण A: मानक ऑर्डर (मेनू)
उन्होंने AI से 300 बार निम्नलिखित में से एक करने को कहा:
- किसी समस्या के बारे में एक रचनात्मक कहानी लिखें।
- वास्तविक जीवन की समस्या के लिए व्यावहारिक सलाह दें।
परिणाम: 300 में से शून्य मामलों में AI ने यह नहीं कहा कि "समस्या जादू से हल हो गई" या "इत्तेफाक के कारण बाधा दूर हो गई।" यह 100% सुसंगत था। AI ने सख्ती से "गैर-कारण" (unexplainable) समाधानों से परहेज किया।
परीक्षण B: विशेष अनुरोध (बैक डोर)
फिर, शोधकर्ताओं ने प्रश्न बदल दिया। उन्होंने स्पष्ट रूप से पूछा: "हे, क्या आप जादू या भूतों द्वारा हल की गई समस्याओं के कुछ उदाहरण दे सकते हैं?"परिणाम: AI ने कहा, "ओह, बिल्कुल!" और तुरंत उन्हें सूचीबद्ध कर दिया। इससे यह सिद्ध हुआ कि AI को वह जानकारी पता थी। ऐसा नहीं था कि AI जादू को भूल गया था; बात यह थी कि AI ने सामान्य बातचीत के दौरान इसका उपयोग न करने का निर्णय लिया था।
3. "सख्त लाइब्रेरियन" का रूपक
ऐसा क्यों होता है? शोध पत्र सुझाव देता है कि AI के प्रशिक्षण के दौरान, मनुष्यों ने उसे "आचरण के नियमों" (जिसे अलाइनमेंट/Alignment कहा जाता है) का एक सेट दिया।
कल्पना कीजिए कि AI एक छात्र है जिसने पूरी विश्वकोश रट ली है। लेकिन, एक सख्त लाइब्रेरियन (AI के सुरक्षा और अलाइनमेंट फिल्टर) उसके पास खड़ा है।
- यदि छात्र ट्रैफिक जाम को हल करने के लिए एक ड्रैगन के उड़ने के बारे में कहानी सुनाने की कोशिश करता है, तो लाइब्रेरियन फुसफुसाता है, "नहीं, वास्तविक दुनिया में ऐसा नहीं होता है। एक व्यावहारिक उत्तर दो।"
- भले ही छात्र को एक फिक्शन (काल्पनिक कहानी) लिखने के लिए कहा जाए, लाइब्रेरियन इतना सख्त है कि वह छात्र को "जादू" का उपयोग करने की अनुमति भी नहीं देता, भले ही फिक्शन में इसकी अनुमति हो।
AI ने एक छिपा हुआ नियम सीख लिया है: "जब तक मुझे स्पष्ट रूप से मूर्खतापूर्ण या जादुई होने के लिए नहीं कहा जाता, मुझे हमेशा एक गंभीर, तार्किक इंसान की तरह व्यवहार करना चाहिए।"
4. यह क्यों महत्वपूर्ण है
शोधकर्ता इसे "डेटा-एक्सहॉस्टिव अज़म्पशन" (Data-Exhaustive Assumption) का गलत होना कहते हैं।
- पुराना विचार: "यदि AI इसे जानता है, तो वह इसे कहेगा।"
- नई वास्तविकता: "AI इसे जानता है, लेकिन वह स्थिति के आधार पर इसे न कहने का निर्णय लेता है।"
यह एक बड़ी बात है क्योंकि इसका मतलब है कि हम केवल यह देखकर भविष्यवाणी नहीं कर सकते कि AI क्या कहेगा कि वह क्या "जानता" है। हमें उसके व्यवहार संबंधी फिल्टर (behavioral filters) को समझना होगा। यह एक ऐसे व्यक्ति को जानने जैसा है जिसकी डायरी में जंगली विचारों से भरी है, लेकिन आप जानते हैं कि वह उन विचारों को अपने सार्वजनिक ब्लॉग पर कभी नहीं लिखेगा क्योंकि उसने बहुत पेशेवर होने का निर्णय लिया है।
निष्कर्ष (The Takeaway)
अध्ययन दिखाता है कि आधुनिक AI मॉडल उन अभिनेताओं की तरह हैं जिन्होंने जंगली, जादुई और असंभव चीजों से भरी स्क्रिप्ट याद कर ली है, लेकिन उन्हें केवल "वास्तविक" दृश्यों को निभाने के लिए निर्देशित किया गया है।
भले ही निर्देशक कहता है, "चलिए एक फैंटेसी सीन करते हैं," अभिनेता (AI) तब तक वास्तविक स्क्रिप्ट पर ही टिका रहता है जब तक कि आप उसे चरित्र से बाहर निकलने के लिए स्पष्ट रूप से मजबूर न करें। यह सिद्ध करता है कि AI का व्यवहार नियमों और आदतों (अलाइनमेंट) द्वारा नियंत्रित होता है, न कि केवल उस कच्चे डेटा द्वारा जो उन्होंने सीखा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।