Understanding the Interplay between LLMs' Utilisation of Parametric and Contextual Knowledge: A keynote at ECIR 2025
ECIR 2025 में यह कीनोट प्रेजेंटेशन एक लैंग्वेज मॉडल के आंतरिक पैरामीट्रिक ज्ञान और बाहरी प्रासंगिक जानकारी के बीच महत्वपूर्ण परस्पर क्रिया का अन्वेषण करती है, जो ज्ञान संघर्षों की पहचान करने के लिए नैदानिक विधियों और मॉडल की पुनर्प्राप्त संदर्भ का प्रभावी ढंग से उपयोग करने की क्षमता में सुधार करने की रणनीतियों पर केंद्रित है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक लार्ज लैंग्वेज मॉडल (LLM) की कल्पना एक अति-बुद्धिमान, सुशिक्षित लाइब्रेरियन के रूप में करें जिसने अपने प्रशिक्षण के दौरान एक पूरी लाइब्रेरी (इंटरनेट) को याद कर लिया है। इस लाइब्रेरियन के पास आपके सवालों के जवाब देने के दो तरीके हैं:
- मेमोरी शेल्फ (पैरामीट्रिक नॉलेज): वे तथ्य जो उन्होंने याद किए हैं और अपने दिमाग में सहेज कर रखे हैं।
- रेफरेंस डेस्क (कॉन्टेक्स्टुअल नॉलेज): वे विशिष्ट दस्तावेज़ या नोट्स जो आप सवाल का जवाब देने में मदद के लिए उन्हें अभी थमाते हैं।
इसाबेल ऑगस्टीन का यह मुख्य भाषण एक जासूसी कहानी की तरह है जो यह जांच करता है कि क्या होता है जब सूचना के ये दो स्रोत आपस में टकराते हैं, और लाइब्रेरियन यह कैसे तय करता है कि किस पर भरोसा किया जाए।
यहाँ शोध की मुख्य खोजों का विवरण दिया गया, जिसे रोजमर्रा के उपमाओं (analogies) के साथ समझाया गया है:
1. लाइब्रेरियन की याददाश्त थोड़ी "ग्लिच़ी" (खामियों वाली) है
लाइब्रेरियन उन तथ्यों को सुनाने में बहुत अच्छा है जो उसने याद किए हैं, लेकिन वह पूर्ण नहीं है।
- समस्या: कभी-कभी, लाइब्रेरियन ने एक तथ्य गलत याद कर लिया होता है, या तथ्य बदल गया होता है (जैसे किसी स्पोर्ट्स टीम का नाम बदलना), लेकिन लाइब्रेरियन अभी भी पुराने उत्तर पर अड़ा रहता है।
- "रैसिटेशन बनाम रीजनिंग" का जाल: पेपर बताता है कि ये मॉडल वास्तव में किसी नई समस्या पर तर्क (reasoning) करने के बजाय जो उन्होंने पहले सुना है उसे सुनाने (reciting) में बेहतर होते हैं। यह उस छात्र की तरह है जिसने पिछले साल के गणित के टेस्ट के उत्तर रट लिए हों, लेकिन अगर आप प्रश्न में एक नंबर भी बदल दें, तो वह फेल हो जाता है।
- "हैलुसिनेशन" (भ्रम) का द्वंद्व: रचनात्मक लेखन के लिए, चीजें बनाना (हैलुसिनेट करना) मजेदार है। लेकिन फैक्ट-चेकिंग के लिए, यह एक आपदा है। लाइब्रेरियन को पता होना चाहिए कि कब चीजें बनाना बंद करना है और सच्चाई पर टिके रहना है।
2. "मेमोरी बनाम नोट" का संघर्ष
यही इस शोध का मूल है। क्या होता है जब आप लाइब्रेरियन को एक ऐसा नोट देते हैं जो उनकी याददाश्त से विरोधाभासी हो?
- परिदृश्य A (स्थिर तथ्य - Static Facts): आप पूछते हैं, "राष्ट्रपति कौन है?" और उन्हें एक नोट देते हैं जिसमें लिखा है "व्यक्ति X है," लेकिन उनकी याददाश्त कहती है "यह व्यक्ति Y है।" लाइब्रेरियन अक्सर आपके नोट को अनदेखा कर देता है और अपनी याददाश्त पर अड़ा रहता है, भले ही नोट सही हो।
- परिदृश्य B (गतिशील तथ्य - Dynamic Facts): आप किसी स्पोर्ट्स स्कोर के बारे में पूछते हैं जो हर दिन बदलता है। यहाँ, लाइब्रेरियन आपके नए नोट को सुनने के लिए अधिक इच्छुक होता है क्योंकि वह जानता है कि उसकी याददाश्त पुरानी हो सकती है।
बड़ी हैरानी: शोधकर्ताओं ने कुछ विपरीत पाया। लाइब्रेरियन को स्थिर तथ्यों (ऐसी चीजें जो कभी नहीं बदलतीं) के साथ बेवकूफ बनाना आसान है बजाय गतिशील तथ्यों के। यदि आप लाइब्रेरियन को आत्मविश्वास से कहते हैं, "जापान की राजधानी स्टॉकहोमम है" (एक स्थिर तथ्य), तो वे आपको मान सकते हैं यदि आप इसे पर्याप्त आत्मविश्वास के साथ कहें। लेकिन यदि आप उनका मन किसी स्पोर्ट्स स्कोर के बारे में बदलने की कोशिश करते हैं, तो वे अधिक संशयवादी होते हैं।
3. "फ्लैशलाइट" प्रयोग (एट्रिब्यूशन)
शोधकर्ताओं ने यह पता लगाने की कोशिश की कि लाइब्रेरियन के दिमाग का ठीक कौन सा हिस्सा सोच रहा है। उन्होंने एक "फ्लैशलाइट" (एक तकनीकी विधि जिसे एट्रिब्यूशन कहा जाता है) का उपयोग किया यह देखने के लिए कि जब लाइब्रेरियन जवाब देता है तो कौन से न्यूरॉन्स (मस्तिष्क कोशिकाएं) चमक रहे थे।
- निष्कर्ष: उन्हें उम्मीद थी कि विशिष्ट "फैक्ट न्यूरॉन्स" उत्तर धारण करेंगे। इसके बजाय, उन्होंने पाया कि लाइब्रेरियन का मस्तिष्क बहुत अधिक जटिल है। यह केवल एक न्यूरॉन नहीं है जो एक तथ्य को थामे हुए है; यह एक जटिल नेटवर्क है।
- सीख: लाइब्रेरियन की याददाश्त को केवल कुछ न्यूरॉन्स बदलकर "एडिट" करने की कोशिश करना, एक लीकी छत को ठीक करने के लिए एक सिंगल शिंगल (छत की टाइल) को पेंट करने जैसा है। यह अक्सर "रिपल इफेक्ट्स" (लहर प्रभाव) पैदा करता है, जिससे वे चीजें भी टूट जाती हैं जिन्हें आपने ठीक करने का इरादा नहीं किया था।
4. "वास्तविक दुनिया" बनाम "नकली दुनिया" का परीक्षण
शोधकर्ताओं ने महसूस किया कि अधिकांश पिछले अध्ययन सिंथेटिक डेटा (बनावटी, काल्पनिक परिदृश्य) का उपयोग करते थे यह परीक्षण करने के लिए कि लाइब्रेरियन नोट्स का उपयोग कितनी अच्छी तरह करता है।
- उपमा: यह एक ड्राइवर के कौशल का परीक्षण केवल एक वीडियो गेम सिम्युलेटर पर करने जैसा है। सिम्युलेटर एकदम सही है, लेकिन वास्तविक दुनिया अव्यवस्थित है।
- रियलिटी चेक: जब उन्होंने लाइब्रेरियन का परीक्षण वास्तविक दुनिया के दस्तावेजों (जैसे वास्तविक समाचार लेख और फैक्ट-चेकिंग रिपोर्ट) के साथ किया, तो परिणाम अलग थे।
- नकली दुनिया में, लाइब्रेरियन आसानी से विरोधाभासी नोट्स को अनदेखा कर देगा।
- वास्तविक दुनिया में, लाइब्रेरियन नोट्स का उपयोग करने में काफी अच्छा है, लेकिन केवल तभी जब नोट्स स्पष्ट, मुखर और विशेषज्ञों द्वारा लिखे गए हों। यदि नोट्स अस्पष्ट हैं या अविश्वसनीय स्रोतों से आते हैं, तो लाइब्रेरियन उन्हें अनदेखा कर देता है और अपनी (संभावित रूप से गलत) याददाश्त पर वापस आ जाता है।
5. अनुसंधान का "सर्पिल" (Spiral)
पेपर दिवंगत करेन स्पार्क जोन्स (क्षेत्र के एक अग्रणी) के एक सुंदर रूपक के साथ समाप्त होता है:
"अनुसंधान केवल चक्कर लगाने के बारे में नहीं है, बल्कि एक सर्पिल (spiral) के रूप में ऊपर चढ़ना है।"
इसका अर्थ है कि हालांकि हम वही पुराने सवाल पूछते रहते हैं (जैसे "हम AI को स्मार्ट कैसे बनाएं?"), हम उन्हें बेहतर उपकरणों और गहरी समझ के साथ हल कर रहे हैं। हम केवल अपने पहिये नहीं घुमा रहे हैं; हम एक सर्पिल सीढ़ी चढ़ रहे हैं, हर कदम के साथ बेहतर दृश्य प्राप्त कर रहे हैं।
सामान्य दर्शकों के लिए सारांश
यह पेपर हमें बताता है कि AI केवल एक जादुई भविष्यवक्ता नहीं है; यह एक जटिल प्रणाली है जिसकी याददाश्त जिद्दी है।
- यह अक्सर नई जानकारी को अनदेखा कर देता है यदि वह उस चीज़ से टकराती है जिसे यह पहले से ही "जानता" है।
- स्थिर तथ्यों के बारे में आत्मविश्वास से बोले गए झूठ से इसे डराना आश्चर्यजनक रूप से आसान है।
- इसे ठीक करने के लिए, हम इसे केवल "री-ट्रेन" (दोबारा प्रशिक्षित) नहीं कर सकते (बहुत महंगा है) या इसके दिमाग को "एडिट" (संपादित) नहीं कर सकते (बहुत जोखिम भरा है)।
- इसके बजाय, हमें यह समझना होगा कि यह अपनी याददाश्त और हमारे द्वारा दिए गए दस्तावेजों के बीच कैसे चुनाव करता है, और हमें इसे नकली परिदृश्यों के बजाय वास्तविक दुनिया के डेटा के साथ परखने की आवश्यकता है।
अंतिम लक्ष्य एक ऐसी प्रणाली बनाना है जो यह जान सके कि अपनी याददाश्त पर कब भरोसा करना है और कब आपके द्वारा प्रदान किए गए नए साक्ष्य को सुनना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।