Factual Retrieval in LLMs Is a Redundant, Distributed and Non-Contiguous Process
यह शोध पत्र प्रकट करता है कि बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडेल्स) में तथ्यात्मक पुनर्प्राप्ति कई परतों में फैला हुआ, वितरित और गैर-सतत (नॉन-कंटीगुअस) कम्प्यूटेशनल पथों पर निर्भर करती है, जो स्थानीयकृत ज्ञान भंडारण की धारणा को चुनौती देती है और ज्ञान संपादन (नॉलेज एडिटिंग) में देखे गए बेमेल को स्पष्ट करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक लार्ज लैंग्वेज मॉडल (LLM) की कल्पना एक विशाल, बहु-मंजिला पुस्तकालय के रूप में करें जहाँ हर किताब में दुनिया के ज्ञान का एक छोटा सा हिस्सा समाया हुआ है। लंबे समय तक, शोधकर्ताओं ने सोचा कि यदि आप किसी विशिष्ट तथ्य को खोजना चाहते हैं—जैसे कि "एंजेला मर्केल की मातृभाषा क्या है?"—तो उसका उत्तर एक विशिष्ट कमरे (मॉडल के एक विशिष्ट लेयर/परत) में संग्रहीत होगा और वह परत दर परत, एक सीधी रेखा में प्राप्त किया जाएगा।
यह शोध पत्र तर्क देता है कि वास्तविकता बहुत अधिक अराजक, लचीली और अतिरेकपूर्ण (redundant) है। यहाँ उनके निष्कर्षों का सरल उपमाओं के माध्यम से विवरण दिया गया है:
1. "गैर-निरंतर" (Non-Contiguous) लिफ्ट की सवारी
पुराना विचार: उत्तर प्राप्त करने के लिए, मॉडल की आंतरिक "लिफ्ट" (डेटा प्रोसेसिंग) हर एक मंजिल पर रुकती है, और ज़मीनी मंजिल से लेकर सबसे ऊपरी मंजिल तक, प्रत्येक चरण में जानकारी की जाँच करती है।
शोध पत्र की खोज: लिफ्ट हर मंजिल पर नहीं रुकती है। वास्तव में, यह अक्सर पूरी मंजिलों को छोड़ देती है।
- उपमा: कल्पना कीजिए कि आप एक पैकेज डिलीवर करने की कोशिश कर रहे हैं। आपको डिलीवरी ट्रक के सड़क के हर घर पर रुकने की आवश्यकता नहीं है। कभी-कभी, ट्रक बीच की मंजिलों को अनदेखा करते हुए सीधे दूसरी मंजिल से आठवीं मंजिल पर कूद सकता है, और फिर भी सही दरवाजे तक पैकेज पहुँचा सकता है।
- निष्कर्ष: लेखकों ने पाया कि किसी तथ्य को प्राप्त करने के लिए, मॉडल को केवल परतों के एक विशिष्ट, बिखरे हुए सेट की आवश्यकता होती है। यह सूचना को नेटवर्क के माध्यम से "टेलीपोर्ट" कर सकता है, कई मध्यवर्ती चरणों को छोड़कर जो उस विशिष्ट तथ्य के लिए अनावश्यक साबित होते हैं।
2. "अतिरेकपूर्ण बैकअप मार्ग" (Redundant Backup Routes)
पुराना विचार: तथ्य खोजने के लिए एक ही "सही" पथ है। यदि आप उस पथ को अवरुद्ध कर देते हैं, तो मॉडल विफल हो जाता है।
शोध पत्र की खोज: मॉडल के पास कई बैकअप मार्ग हैं जो उतने ही प्रभावी ढंग से काम करते हैं।
- उपमा: एक शहर के मुख्य राजमार्ग के बारे में सोचें। यदि आप राजमार्ग को अवरुद्ध कर देते हैं, तो यातायात रुकता नहीं है; यह तुरंत बैक-रोड्स, साइड-स्ट्रीट्स और यहाँ तक कि एक अलग राजमार्ग के जटिल नेटवर्क की ओर मुड़ जाता है जो लंबा और घुमावदार रास्ता लेता है। दोनों मार्ग आपको उसी गंतव्य तक पहुँचाते हैं, लेकिन वे पूरी तरह से अलग दिखते हैं।
- निष्कर्ष: लगभग हर तथ्य के लिए जिसे उन्होंने टेस्ट किया, शोधकर्ताओं ने एक "प्राथमिक पथ" (सबसे छोटा, सबसे कुशल मार्ग) और कम से कम एक "वैकल्पिक पथ" (लंबा, गहरा मार्ग) पाया। यदि आप प्राथमिक पथ को रोक देते हैं, तो मॉडल बैकअप पथ का उपयोग करके उत्तर ढूँढ सकता है। इसका मतलब है कि ज्ञान केवल एक स्थान पर संग्रहीत नहीं है; यह वितरित और अतिरेकपूर्ण (redundant) है।
3. "न्यूनतम टीम" बनाम पूरा ऑर्केस्ट्रा
पुराना विचार: पूरा मॉडल हर उत्तर उत्पन्न करने के लिए मिलकर काम करता है।
शोध पत्र की खोज: काम करने के लिए आपको केवल एक छोटी, विशिष्ट टीम की आवश्यकता होती है।
- उपमा: एक सिम्फनी ऑर्केस्ट्रा की कल्पना करें जो एक गाना बजा रहा है। आप मान सकते हैं कि हर संगीतकार की हर नोट के लिए आवश्यकता है। लेकिन लेखकों ने पाया कि एक विशिष्ट तथ्य के लिए, केवल कुछ विशिष्ट संगीतकार (लेयर्स) ही वास्तव में नोट्स बजा रहे होते हैं। बाकी ऑर्केस्ट्रा अनिवार्य रूप से शांत है या कुछ और कर रहा है।
- निष्कर्ष: उन्होंने एक "न्यूनतम एट्रिब्यूट कंप्यूटेशन पाथ" (minimal attribute computation path) की पहचान की। यह उन परतों का सबसे छोटा समूह है जो सही उत्तर देने के लिए आवश्यक है। आश्चर्यजनक रूप से, यह समूह अक्सर मॉडल के मध्य में समाप्त होता है। एक बार जब जानकारी इन कुछ परतों द्वारा संसाधित हो जाती है, तो बाकी मॉडल को उत्तर जानने के लिए और अधिक भारी काम करने की आवश्यकता नहीं होती है।
4. "एडिटिंग मिसमैच" (Editing Mismatch) का रहस्य
पुराना विचार: यदि आप मॉडल में किसी तथ्य को बदलना चाहते हैं (जैसे, "मर्केल की भाषा जर्मन है" को "फ्रेंच" में बदलना), तो आपको उस विशिष्ट लेयर को एडिट करना चाहिए जहाँ वह तथ्य संग्रहीत है।
शोध पत्र की खोज: तथ्य कहाँ "संग्रहीत" है और आपको उसे कहाँ "एडिट" करने की आवश्यकता है, ये अक्सर अलग-अलग स्थान होते हैं।
- उपमा: एक फैक्ट्री असेंबली लाइन की कल्पना करें। उत्पाद को बनाने वाला हिस्सा लाइन की शुरुआत में हो सकता है, लेकिन गलती को ठीक करने वाला हिस्सा बिल्कुल अंत में हो सकता है। यदि आप शुरुआत में उत्पाद को ठीक करने की कोशिश करते हैं, तो आप मशीन को तोड़ सकते हैं।
- निष्कर्ष: क्योंकि मॉडल इन बिखरे हुए, अतिरेकपूर्ण पथों का उपयोग करता है, इसलिए केवल उस लेयर को खोजना जहाँ डेटा उत्तर की तरह "दिखता" है, पर्याप्त नहीं है। किसी तथ्य को सफलतापूर्वक एडिट करने के लिए, आपको अक्सर पथ के एक विशिष्ट "ट्रांसफॉर्मेशन स्टेज" (रूपांतरण चरण) पर हस्तक्षेप करना होगा, न कि आवश्यक रूप से वहां जहाँ ज्ञान बैठा हुआ प्रतीत होता है।
"बड़ी तस्वीर" का सारांश
लेखक निष्कर्ष निकालते हैं कि LLMs में तथ्य कैसे संग्रहीत और प्राप्त किए जाते हैं, यह फाइलिंग कैबिनेट की तरह नहीं है जहाँ आप एक एकल दराज खींचते हैं। इसके बजाय, यह एक अत्यधिक लचीले, अतिरेकपूर्ण न्यूरल नेटवर्क की तरह है जहाँ:
- ज्ञान वितरित है: यह कई परतों में फैला हुआ है, एक जगह बंद नहीं है।
- पथ लचीले हैं: मॉडल एक ही उत्तर खोजने के लिए छोटे, सीधे मार्ग या लंबे, घुमावदार बैकअप मार्ग ले सकता है।
- छोड़ना (Skips) सामान्य है: मॉडल अक्सर बीच की परतों को अनदेखा करता है, सीधे वहीं कूद जाता है जहाँ सूचना की आवश्यकता होती है।
यह स्पष्ट करता है कि AI मॉडल इतने मजबूत (Robust) क्यों हैं (उनके पास बैकअप हैं) और यह भी कि यह निर्धारित करना इतना कठिन क्यों है कि कोई तथ्य वास्तव में "कहाँ" रहता है या आप इसे विश्वसनीय रूप से कैसे बदल सकते हैं। यह एक जटिल, बहु-चरणीय नृत्य है जो गैर-रैखिक और बिखरे हुए तरीके से होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।