Distilling Reasoning Without Knowledge: A Framework for Reliable LLMs
यह शोध पत्र एक मॉड्यूलर ढांचे का प्रस्ताव करता है जो तथ्यात्मक ज्ञान तक पहुंच के बिना, एक हल्के छात्र मॉडल में स्पष्ट नियोजन क्षमताओं को संकुचित (distill) करता है, जिससे तर्क चरणों को पुनर्प्राप्ति और संश्लेषण से अलग करके तथ्य-खोज वाले बड़े भाषा मॉडलों की सटीकता और दक्षता में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक प्रतिभाशाली लेकिन थोड़ा अति-आत्मविश्वासी छात्र है जिसका नाम एलेक्स है। एलेक्स निबंध लिखने और तर्क पहेलियों को हल करने में माहिर है, लेकिन उसमें एक घातक दोष है: उसे लगता है कि वह सब कुछ जानता है।
यदि आप एलेक्स से पूछते हैं, "अभी X Corp का CEO कौन है?" और उसे वास्तव में पता नहीं होता, तो वह "मुझे नहीं पता" कहने के बजाय, पूरे विश्वास के साथ "बॉब स्मिथ" जैसा कोई भी नाम बना देगा, क्योंकि वह आपको एक पूर्ण उत्तर देना चाहता है। इसे ही AI शोधकर्ता "हैलुसिनेशन" (Hallucination) कहते हैं।
आपके द्वारा साझा किया गया पेपर इस बात पर केंद्रित है कि AI को झूठ बोलने से रोकने के लिए कैसे प्रशिक्षित किया जाए। वे इसे "डिस्टिलिंग रीजनिंग विदाउट नॉलेज" (Distilling Reasoning Without Knowledge) कहते हैं।
यह कैसे काम करता है, इसे एक सरल उपमा के माध्यम से समझाया गया है।
समस्या: "सब कुछ जानने वाला" छात्र
आज के अधिकांश AI मॉडल एलेक्स की तरह हैं। वे एक साथ तीन चीजें करने की कोशिश करते हैं:
- समस्या के बारे में सोचना।
- अपने प्रशिक्षण से तथ्यों को याद रखना।
- प्रश्न का उत्तर देना।
जब उत्तर उनकी स्मृति में नहीं होता, तो वे घबरा जाते हैं और अनुमान लगाने लगते हैं। भले ही आप उनसे कहें, "जाओ गूगल पर इसे ढूँढ लो," वे अक्सर इस बात को लेकर भ्रमित हो जाते हैं कि क्या खोजना है, या वे अपने अनुमानों को खोज परिणामों के साथ मिला देते हैं।
समाधान: "प्रोजेक्ट मैनेजर" और "रिसर्च टीम"
लेखक AI को दो अलग-अलग भूमिकाओं में विभाजित करने का प्रस्ताव देते हैं, जैसे कि एक निर्माण स्थल (construction site) हो:
- स्टूडेंट प्लानर (द प्रोजेक्ट मैनेजर): यह एक छोटा, तेज़ और सस्ता AI है। इसका एकमात्र काम यह तय करना है कि क्या किया जाना है। इसे कोई तथ्य पता नहीं है। इसे यह भी नहीं पता कि X Corp का CEO कौन है। यह बस यह जानता है कि सही सवाल कैसे पूछे जाते हैं।
- टूल्स (द रिसर्च टीम): ये बाहरी उपकरण हैं जैसे गूगल सर्च, कैलकुलेटर और डेटाबेस। वे वास्तविक तथ्यों को खोजने का काम करते हैं।
जादू का तरीका: वे स्टूडेंट को कैसे प्रशिक्षित करते हैं
आमतौर पर, जब आप किसी छात्र को पढ़ाते हैं, तो आप उन्हें उत्तर कुंजी (answer key) देते हैं। "उत्तर एलन मस्क है।"
यह पेपर इसके विपरीत करता है।
वे एक अत्यंत बुद्धिमान "टीचर" AI का उपयोग करके एक प्रशिक्षण डेटासेट बनाते हैं, लेकिन वे उत्तरों को हटा देते हैं।
- टीचर: "यहाँ एक प्रश्न है: 'X Corp का वर्तमान CEO कौन है?'"
- टीचर का आउटपुट (द प्लान):
- चरण 1: "Current CEO of X Corp" के लिए गूगल पर सर्च करें।
- चरण 2: जाँच करें कि क्या परिणाम "Elon Musk" से मेल खाता है।
- चरण 3: यदि हाँ, तो गणना करें कि वह कितने समय से वहाँ है।
- चरण 4: यदि नहीं, तो कहें "मुझे नहीं पता।"
- महत्वपूर्ण विवरण: टीचर स्टूडेंट को यह कभी नहीं बताता कि CEO वास्तव में कौन है। यह केवल स्टूडेंट को सवाल पूछने का तरीका सिखाता है।
"स्टूडेंट" AI को फिर इस प्लानिंग स्टाइल की नकल करने के लिए प्रशिक्षित किया जाता है। यह बड़े प्रश्नों को छोटे, खोजने योग्य चरणों में तोड़ना सीखता है, लेकिन इसे उत्तरों को याद रखने से सख्ती से रोका जाता है।
वर्कफ़्लो: यह वास्तविक जीवन में कैसे काम करता है
जब आप इस नए सिस्टम से कोई प्रश्न पूछते हैं, तो यह एक प्रक्रिया (dance) करता है (पेपर में चित्र 1 देखें):
- द प्लान (The Plan): स्टूडेंट प्लानर आपके प्रश्न को देखता है और एक JSON "टू-डू लिस्ट" लिखता है। यह कहता है, "मुझे X के लिए खोजना होगा, फिर Y की गणना करनी होगी।" इसे अभी उत्तर नहीं पता है।
- द सर्च (The Search): सिस्टम उस सूची को लेता है और SerpAPI नामक टूल का उपयोग करके गूगल पर खोज चलाता है।
- द एक्सट्रैक्शन (The Extraction): एक अलग मॉड्यूल बिखरे हुए गूगल परिणामों को पढ़ता है और उनमें से साफ तथ्य निकाल लेता है (जैसे, "एलन मस्क X Corp के CEO हैं")।
- द असेंबली (The Assembly): एक अंतिम मॉड्यूल योजना और तथ्यों को लेकर उत्तर लिखता है।
यदि खोज खाली आती है, तो सिस्टम मनगढ़ंत उत्तर देने के बजाय कहता है, "मैं उत्तर नहीं ढूँढ सका।"
यह बेहतर क्यों है?
लेखकों ने इसका परीक्षण SEAL-0 पर किया, जो एक "दुःस्वप्न" (nightmare) बेंचमार्क है जिसे AI को तोड़ने के लिए बनाया गया है। ये ऐसे कठिन प्रश्न हैं जहाँ सबसे स्मार्ट AI मॉडल भी आमतौर पर 0% सही होते हैं क्योंकि वे या तो गलत जानकारी देते हैं या एक ही चक्र में फंस जाते हैं।
- पुराना तरीका (मोनोलिथिक AI): एक साथ सोचने और याद रखने की कोशिश करता है। भ्रमित हो जाता है, अनुमान लगाता है और विफल हो जाता है। (सटीकता: ~1.8%)
- प्रॉम्प्टेड AI (एक सामान्य AI को "स्टेप-बाय-स्टेप सोचने" के लिए कहना): बेहतर है, लेकिन फिर भी इस बात को लेकर भ्रमित हो जाता है कि क्या खोजना है। (सटीकता: ~6.3%)
- नया फ्रेमवर्क (विशेषज्ञ प्लानर): क्योंकि प्लानर को केवल सवाल पूछने के लिए प्रशिक्षित किया गया था, न कि तथ्यों के लिए, यह अविश्वसनीय रूप से कुशल है। इसे पता है कि क्या खोजना है और यह अनुमान लगाने में समय बर्बाद नहीं करता है।
- परिणाम: यह 10.8% सटीकता तक पहुँच गया (एक लगभग असंभव परीक्षण पर एक बड़ी जीत) और अन्य की तुलना में 3 गुना तेज़ था।
मुख्य निष्कर्ष
इस फ्रेमवर्क को एक महान विश्वकोश (encyclopedia) के बजाय एक महान लाइब्रेरियन (librarian) बनने के लिए प्रशिक्षित करने के रूप में सोचें।
- एक विश्वकोश (Encyclopedia) अपने दिमाग में सभी उत्तर रखने की कोशिश करता है। यदि वह भूल जाता है, तो वह झूठ बोलता है।
- एक लाइब्रेरियन (Librarian) जानता है कि सच्चाई खोजने के लिए शेल्फ से कौन सी किताबें निकालनी हैं। यदि किताब वहाँ नहीं है, तो लाइब्रेरियन स्वीकार करता है कि उसे नहीं पता।
"सोचने" (प्लानिंग) को "जानने" (रिट्रीविंग) से अलग करके, लेखकों ने एक ऐसा AI बनाया है जो अधिक विश्वसनीय, तेज़ और आपसे झूठ बोलने की संभावना बहुत कम है। उन्होंने साबित किया कि AI को वास्तव में भरोसेमंद होने के लिए, उसे केवल उत्तर याद करने की नहीं, बल्कि उत्तर खोजने का तरीका सीखने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।