enhancing reasoning accuracy in large language models during inference time
यह शोध पत्र लार्ज लैंग्वेज मॉडल (LLM) की तर्क सटीकता को बढ़ाने के लिए तीन इन्फरेंस-टाइम रणनीतियों का व्यवस्थित रूप से मूल्यांकन करता है, जिसमें यह पाया गया है कि नियंत्रित स्टोकेस्टिक डिकोडिंग के साथ सेल्फ-कंसिस्टेंसी (self-consistency) न्यूनतम ओवरहेड के साथ सबसे अधिक लाभ (9-15% सुधार) प्रदान करती है, जबकि ड्यूल-मॉडल एग्रीमेंट (dual-model agreement) मध्यम-जोखिम वाले परिदृश्यों के लिए उपयुक्त है और सेल्फ-रिफ्लेक्शन (self-reflection) केवल मामूली लाभ प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक अत्यंत प्रतिभाशाली लेकिन थोड़ा लापरवाह जीनियस है जिसका नाम LLM है। यह जीनियस कविता लिख सकता है, भाषाओं का अनुवाद कर सकता है और चुटकुले भी बखूबी सुना सकता है। लेकिन जब आप उनसे कोई जटिल गणितीय समस्या या कठिन तर्क वाला पहेली हल करने के लिए कहते हैं, तो वे कभी-कभी भटक जाते हैं, तथ्य गढ़ने लगते हैं, या गलत रास्ता पकड़ लेते हैं और उन्हें खुद भी इसका अहसास नहीं होता।
आपने जो पेपर साझा किया है वह इस जीनियस के लिए एक "क्वालिटी कंट्रोल टीम" (गुणवत्ता नियंत्रण टीम) को काम पर रखने की नियमावली की तरह है, लेकिन इसमें एक ट्विस्ट है: हम इस जीनियस को फिर से प्रशिक्षित नहीं करेंगे या उनके दिमाग को नहीं बदलेंगे। इसके बजाय, हम इस बात को बदल देंगे कि वे वर्तमान क्षण में सवालों के जवाब कैसे देते हैं।
शोधकर्ताओं ने इस जीनियस को अधिक विश्वसनीय बनाने के लिए तीन अलग-अलग "भर्ती रणनीतियों" का परीक्षण किया। यहाँ बताया गया है कि वे कैसे काम करती हैं, जिन्हें रोजमर्रा के उदाहरणों के साथ समझाया गया है:
1. "भीड़ की बुद्धिमत्ता" की रणनीति (Self-Consistency)
विचार: जीनियस से केवल एक उत्तर माँगने के बजाय, आप उनसे एक ही सवाल को लगातार छह बार पूछते हैं, लेकिन आप उन्हें निर्देश देते हैं कि वे हर बार थोड़े "रैंडम" या "रचनात्मक" रहें (जिसे वे कंट्रोल्ड टेम्परेचर और न्यूक्लियस सैंपलिंग कहते हैं)।
- उपमा: कल्पना कीजिए कि आप एक नए रेस्टोरेंट तक पहुँचने के सबसे अच्छे रास्ते को खोजने की कोशिश कर रहे हैं।
- पुराना तरीका (Greedy Decoding): आप जीनियस से पूछते हैं, "सबसे तेज़ रास्ता क्या है?" वे तुरंत आपको एक उत्तर दे देते हैं। यदि उन्होंने अपने पहले विचार में एक छोटी सी गलती की है, तो आप उस गलत रास्ते पर फंस जाते हैं।
- नया तरीका (Self-Consistency): आप जीनियस से पूछते हैं, "वहाँ पहुँचने के लिए मुझे छह अलग-अलग विचार दें।" क्योंकि आप उन्हें थोड़ा रचनात्मक होने की अनुमति देते हैं, वे सुझाव दे सकते हैं: "हाईवे से जाएँ," "पार्क के बीच से जाएँ," "पिछली सड़कों से जाएँ," आदि।
- जादू: भले ही उनमें से तीन विचार गलत हों, लेकिन सही रास्ता सुझावों में बहुमत से दिखाई देने की संभावना अधिक होती है। आप सभी छह उत्तरों को देखते हैं, देखते हैं कि चार उत्तर कहते हैं "हाईवे से जाएँ," और आप उसी के साथ आगे बढ़ते हैं।
- परिणाम: यह सबसे बड़ा विजेता था। इसने सटीकता में 9-15% का सुधार किया। यह एक ही व्यक्ति के थोड़े अलग संस्करणों वाली एक समिति द्वारा उत्तर पर वोट देने जैसा है। यह सस्ता, तेज़ है और रोज़मर्रा के कार्यों के लिए बहुत अच्छा काम करता है।
2. "दूसरी राय" की रणनीति (Dual-Model Reasoning)
विचार: आप दो अलग-अलग जीनियस (दो अलग-अलग AI मॉडल) को काम पर रखते हैं ताकि वे स्वतंत्र रूप से समस्या को हल करें। आप केवल तभी उत्तर पर भरोसा करते हैं जब वे दोनों सहमत हों।
- उपमा: कल्पना कीजिए कि आप किसी दुर्लभ बीमारी के निदान के लिए डॉक्टर हैं।
- पुराना तरीका: आप एक डॉक्टर से पूछते हैं। वे आत्मविश्वासी हो सकते हैं लेकिन गलत भी हो सकते हैं।
- नया तरीका: आप डॉक्टर A और डॉक्टर B से पूछते हैं। यदि वे दोनों कहते हैं, "यह निश्चित रूप से फ्लू है," तो आप बहुत सुरक्षित महसूस करते हैं। लेकिन यदि डॉक्टर A कहता है "फ्लू" और डॉक्टर B कहता है "निमोनिया," तो आप जानते हैं कि कुछ गड़बड़ है, और आप रुक जाते हैं और मानवीय विशेषज्ञ की समीक्षा के लिए कॉल करते हैं।
- परिणाम: इसने अनिवार्य रूप से सही उत्तरों की संख्या को नहीं बढ़ाया, बल्कि इसने सिस्टम को अधिक सुरक्षित बनाया। यह एक फिल्टर के रूप में कार्य करता है। यदि दोनों मॉडल असहमत हैं, तो सिस्टम कहता है, "मुझे नहीं पता, चलिए अनुमान नहीं लगाते।" यह उच्च-जोखिम वाली स्थितियों (जैसे बैंकिंग या स्वास्थ्य सेवा) के लिए एकदम सही है जहाँ गलती करना बहुत महंगा पड़ सकता है।
3. "दूसरा विचार" की रणनीति (Self-Reflection)
विचार: आप जीनियस को समस्या हल करने के लिए कहते हैं, और फिर तुरंत उनसे पूछते हैं, "रुको, क्या आपने कोई गलती की? अपने काम की जाँच करें और फिर से प्रयास करें।"
- उपमा: कल्पना कीजिए कि आप एक निबंध लिख रहे हैं।
- पुराना तरीका: आप लिखते हैं और उसे जमा कर देते हैं।
- नया तरीका: आप लिखते हैं, फिर उसे दोबारा पढ़ते हैं, महसूस करते हैं कि आप एक कॉमा भूल गए या कोई तारीख गलत लिख दी, और फिर इसे जमा करने से पहले इसे फिर से लिखते हैं।
- परिणाम: विशेष रूप से उस "छोटे" जीनियस के लिए जिसे उन्होंने टेस्ट किया था, यह सबसे कम प्रभावी तरीका था। इसने केवल मामूली बढ़त (लगभग 3%) दी। यह एक थके हुए छात्र को अपना होमवर्क दोबारा पढ़ने के लिए कहने जैसा है; वे अक्सर अपनी गलतियों को खोजने के बजाय अपनी गलतियों को ही पुख्ता कर देते हैं। पेपर सुझाव देता है कि यह तभी अच्छा काम करता है जब "जीनियस" पहले से ही बहुत बुद्धिमान हो।
मुख्य निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि बेहतर परिणाम प्राप्त करने के लिए आपको एक नया, अधिक स्मार्ट AI बनाने की आवश्यकता नहीं है। आपको बस सवाल पूछने का तरीका बदलने की आवश्यकता है:
- रोज़मर्रा के कार्यों के लिए (जैसे ग्राहक सहायता या सामान्य जानकारी): "भीड़ की बुद्धिमत्ता" (एक ही मॉडल से कई बार पूछें और सबसे लोकप्रिय उत्तर चुनें) का उपयोग करें। यह सबसे किफायती और प्रभावी है।
- खतरनाक कार्यों के लिए (जैसे चिकित्सा सलाह या कानूनी अनुबंध): "दूसरी राय" (दो मॉडलों को एक-दूसरे की जाँच करने दें) का उपयोग करें। यदि वे सहमत नहीं हैं, तो उत्तर पर भरोसा न करें।
- छोटे मॉडल्स के लिए: उन्हें "फिर से सोचने" (Self-Reflection) के लिए परेशान न करें; इससे ज्यादा मदद नहीं मिलती।
संक्षेप में: आप एक स्मार्ट AI को नया ज्ञान देकर नहीं, बल्कि उसे बोलने से पहले अपने काम की दोबारा जाँच करने या दूसरी राय लेने के लिए कहकर बहुत अधिक विश्वसनीय बना सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।