Thinking to Recall: How Reasoning Unlocks Parametric Knowledge in LLMs
यह शोध पत्र प्रकट करता है कि लार्ज लैंग्वेज मॉडल्स में तर्क (रीज़निंग) को सक्षम करने से दो तंत्रों—कंप्यूटेशनल बफरिंग और तथ्यात्मक प्राइमिंग—के माध्यम से सरल तथ्यात्मक ज्ञान की रिकॉल क्षमता में उल्लेखनीय वृद्धि होती है, साथ ही यह भी प्रदर्शित करता है कि इस प्रक्रिया के दौरान मध्यवर्ती तथ्यों का मतिभ्रम (हैलुसिनेशन) अंतिम उत्तरों में त्रुटियों को बढ़ाता है, एक ऐसा निष्कर्ष जिसका उपयोग भ्रम-मुक्त तर्क पथों को प्राथमिकता देकर मॉडल की सटीकता में सुधार करने के लिए किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक दोस्त है जो एक चलता-फिरता विश्वकोश (encyclopedia) है। उसे लाखों तथ्य पता हैं, लेकिन कभी-कभी, जब आप उससे एक सरल प्रश्न पूछते हैं जैसे "नेपाल का 10वां राजा कौन था?", तो वह बस... सुन्न हो जाता है। उसे पता है कि उत्तर उसके दिमाग में है, लेकिन वह उसे ठीक से निकाल नहीं पा रहा है।
अब, कल्पना कीजिए कि आप अपने इस दोस्त से कहते हैं: "जवाब देने से पहले, बस ज़रा ज़ोर से सोचने की कोशिश करो। जो भी मन में आए उसे कहो, भले ही वह बिना सिर-पैर की बातें क्यों न हों।"
आश्चर्यजनक रूप से, "ज़ोर से सोचने" (जिसे AI शोधकर्ता Reasoning कहते हैं) का यह सरल कार्य अक्सर उत्तर को खोल देता है। लेकिन यहाँ मोड़ यह है कि प्रश्न कठिन गणितीय समस्याएँ या जटिल पहेलियाँ नहीं हैं। वे सरल तथ्य हैं। तो, "सोचना" क्यों मदद करता है?
गूगल और इजरायली विश्वविद्यालयों का एक नया अध्ययन इस रहस्य की गहराई में जाता है। उन्होंने पाया कि "सोचना" दो विशिष्ट तरीकों से मदद करता है, और उनमें से एक थोड़ा जोखिम भरा है।
यहाँ सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. "वार्म-अप" प्रभाव (कंप्यूटेशनल बफर)
अपने मस्तिष्क की तुलना एक उच्च-प्रदर्शन वाले इंजन से करें। जब आप एक सीधा प्रश्न पूछते हैं, तो इंजन ठंडा हो सकता है, और स्पार्क प्लग (उत्तर) तुरंत फायर नहीं होता।
जब AI "सोचना" शुरू करता है, तो वह पहले बहुत सारे शब्द उत्पन्न करता है। भले ही वे शब्द निरर्थक हों (जैसे "मुझे सोचने दो, मुझे सोचने दो, मुझे सोचने दो" दोहराना), शब्दों को उत्पन्न करने की क्रिया इंजन को गर्म करती है। यह AI के आंतरिक कंप्यूटर को बैकग्राउंड में अधिक गणनाएँ चलाने के लिए अधिक समय देती है।
- उपमा: यह एक धावक द्वारा दौड़ से पहले कुछ वार्म-अप लैप्स लेने जैसा है। भले ही धावक अभी स्प्रिंटिंग नहीं कर रहा हो, अतिरिक्त गतिविधि रक्त के प्रवाह को बढ़ाती है और मांसपेशियों को प्रदर्शन के लिए तैयार करती है। अध्ययन में पाया गया कि केवल अधिक टेक्स्ट प्रोसेस करने से (भले ही वह बकवास हो) AI उन तथ्यों तक पहुँच पाता है जहाँ वह पहले नहीं पहुँच पा रहा था।
2. "किताबों को फिर से व्यवस्थित करने" का प्रभाव (फैक्टुअल प्राइमिंग)
यह अधिक दिलचस्प हिस्सा है। जब AI सोचता है, तो वह केवल बड़बड़ाता नहीं है; वह अक्सर संबंधित तथ्यों को सूचीबद्ध करना शुरू कर देता है।
- उपमा: कल्पना कीजिए कि आपका ज्ञान एक विशाल, अस्त-व्यस्त पुस्तकालय है। आप एक विशिष्ट पुस्तक (उत्तर) ढूँढना चाहते हैं। यदि आप केवल पुस्तक मांगते हैं, तो लाइब्रेरियन (AI) उसे मिस कर सकता है। लेकिन यदि लाइब्रेरियन उस पुस्तक के पास की अन्य शीर्षकों को चिल्लाकर बताने लगे ("ओह, मुझे राजा पृथ्वीв के बारे में एक किताब याद है... और महेंद्र के बारे में एक और..."), तो वे नाम ब्रेडक्रंब्स (breadcrumbs) का काम करते हैं।
नेपाल के पहले से लेकर नौवें राजाओं को सूचीबद्ध करके, AI अपने मस्तिष्क को "प्राइम" करता है। यह एक सिमेंटिक ब्रिज (semantic bridge) बनाता है। एक बार जब उसने पहले नौ को सूचीबद्ध कर लिया, तो 10वां राजा अचानक ढूंढना बहुत आसान हो जाता है। AI वास्तव में वहां तक पहुँचने के लिए खुद से बात करते हुए रास्ता बना रहा है।
खतरा क्षेत्र: "फेक न्यूज" का जाल
यहाँ एक पेच है। क्योंकि AI इन "ब्रेडक्रंब्स" (संबंधित तथ्यों) को खुद ही उत्पन्न कर रहा है, इसलिए वह गलतियाँ कर सकता है।
- उपमा: कल्पना कीजिए कि लाइब्रेरियन उस किताब को खोजने में आपकी मदद करने की कोशिश कर रहा है, लेकिन वह भ्रमित (hallucinating) हो रहा है। वह कहता है, "ओह, पहला राजा 'ज़ोग' था।" (यह झूठ है)। फिर वह कहता है, "दूसरा 'ज़ोग का बेटा' था।" (यह भी झूठ है)। जब तक वह 10वें राजा तक पहुँचता है, वह अपनी ही बनाई हुई कहानी में इतना गहरा उतर चुका होता है कि वह आपको गलत उत्तर दे देता है।
अध्ययन में एक डरावना पैटर्न मिला: यदि AI अपने "सोचने" के चरण के दौरान झूठ बोलता है, तो इसकी बहुत अधिक संभावना है कि वह अंतिम उत्तर में भी झूठ बोलेगा। "सोचने" की प्रक्रिया वास्तव में AI को उसके अपने ही भ्रमों के जाल में फँसा सकती है।
समाधान: "फैक्ट-चेकर" रणनीति
तो, हम इसे कैसे ठीक कर सकते हैं? शोधकर्ता इन AI मॉडलों का उपयोग करने के लिए एक स्मार्ट रणनीति का सुझाव देते हैं:
केवल AI द्वारा दिए गए पहले उत्तर को लेने के बजाय, हमें पहले उसकी "सोचने" की प्रक्रिया को देखना चाहिए।
- सोचने की जाँच करें: क्या AI ने कुछ तथ्य सूचीबद्ध किए?
- तथ्यों को सत्यापित करें: क्या वे तथ्य सत्य हैं?
- विजेता चुनें: यदि AI के "सोचने" में सत्य तथ्य और कोई झूठ नहीं है, तो वह एक उच्च-गुणवत्ता वाला उत्तर है। यदि "सोचना" बकवास या झूठ से भरा है, तो उसे छोड़ दें और फिर से प्रयास करें।
निष्कर्ष
यह पेपर हमें सिखाता है कि "सोचना" केवल कठिन गणित की समस्याओं को हल करने के लिए नहीं है। सरल तथ्यों के लिए, यह एक मानसिक वार्म-अप और मेमोरी ब्रिज के रूप में कार्य करता है। हालाँकि, हमें सावधान रहना होगा क्योंकि यह पुल ढह सकता है यदि AI चीजें बनाना शुरू कर देता है।
AI को सही ढंग से "सोचना" सिखाकर और बोलने से पहले उसके काम की जाँच करके, हम ज्ञान के एक नए स्तर को अनलॉक कर सकते जो पहले मॉडल के भीतर बंद था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।