🤖 AI

Second Guess: Detecting Uncertainty Through Abstention and Answer Stability in Small Language Models

यह शोध पत्र "सेकंड गेस" (Second Guess) को पेश करता है, जो छोटे भाषा मॉडलों के लिए एक हल्का, पैरामीटर-मुक्त प्रॉम्प्टिंग तकनीक है जो "मुझे नहीं पता" विकल्प को शामिल करने पर उत्तर की स्थिरता का लाभ उठाकर अनिश्चितता का पता लगाता है और बहुविकल्पीय प्रश्नों के उत्तर देने में विश्वसनीयता में सुधार करता है।

मूल लेखक: Ashwath Vaithinathan Aravindan, Mayank Kejriwal

प्रकाशित 2026-05-26

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ashwath Vaithinathan Aravindan, Mayank Kejriwal

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुविकल्पीय (multiple-choice) परीक्षा दे रहे हैं। आमतौर पर, यदि आप किसी उत्तर को लेकर अनिश्चित होते हैं, तो आप शायद फिर भी अनुमान लगा लेते हैं क्योंकि आपको खाली छोड़ने से डर लगता है। लेकिन क्या होगा अगर आपके पास एक विशेष तरकीब हो जो आपको तब "मुझे नहीं पता" कहने की अनुमति दे जब आप वास्तव में भ्रमित हों, और केवल तभी अपने उत्तर पर टिके रहने दे जब आप आश्वस्त हों?

यही वह तरीका है जो "सेकंड गेस" (Second Guess) पेपर छोटे कंप्यूटर दिमागों (जिन्हें स्मॉल लैंग्वेज मॉडल्स या SLMs कहा जाता है) के लिए प्रस्तावित करता है।

यहाँ बताया गया है कि यह कैसे काम करता है, कुछ रोजमर्रा के उदाहरणों का उपयोग करते हुए:

समस्या: अति-आत्मविश्वासी अनुमान (The Overconfident Guess)

स्मॉल लैंग्वेज मॉडल्स उन छात्रों की तरह हैं जो खुश करने के लिए बहुत उत्सुक होते हैं लेकिन कभी-कभी उनमें गहरे ज्ञान की कमी होती है। जब उन्हें उत्तर नहीं पता होता, तो वे यह स्वीकार करने के बजाय कि वे अटक गए हैं, अक्सर आत्मविश्वास के साथ गलत विकल्प चुन लेते हैं। वास्तविक दुनिया में, यह खतरनाक है। यदि मोबाइल फोन या रोबोट पर मौजूद कोई छोटा AI निर्णय ले रहा है, तो इसके लिए गलत सलाह देने से बेहतर है कि वह कहे "मुझे नहीं पता।"

समाधान: "सेकंड गेस" की तरकीब (The "Second Guess" Trick)

लेखकों ने सेकंड गेस नामक एक सरल, मुफ्त विधि बनाई है। इसके लिए मॉडल को फिर से प्रशिक्षित करने या उसके आंतरिक कोड को बदलने की आवश्यकता नहीं है। यह बस मॉडल को एक ही प्रश्न दो बार हल करने के लिए कहता है, लेकिन एक छोटे से बदलाव के साथ।

उदाहरण: "ईमानदारी का विकल्प" (The "Honesty Option")
कल्पना कीजिए कि आप एक क्विज़ दे रहे हैं।

पहला दौर (First Pass): आप प्रश्न देखते हैं जिसमें चार सामान्य उत्तर (A, B, C, D) हैं। आप एक चुनते हैं। मान लीजिए आपने A चुना।
दूसरा दौर (Second Pass): शिक्षक एक पांचवां विकल्प जोड़ता है: "E) मुझे नहीं पता।" आप वही प्रश्न फिर से देखते हैं।
- परिदृश्य 1 (आत्मविश्वासी): आप अभी भी A ही चुनते हैं। शिक्षक कहता है, "बहुत अच्छे, आप सुसंगत (consistent) हैं। A पर ही टिके रहें।"
- परिदृश्य 2 (भ्रमित): आप अचानक अपना मन बदल लेते हैं और B चुन लेते हैं, या शायद आप E चुन लेते हैं। शिक्षक कहता है, "रुको, तुमने अपना विचार बदल लिया! इसका मतलब है कि तुम अनिश्चित हो। इसे 'मुझे नहीं पता' के रूप में चिह्नित करें और इसे छोड़ दें।"

पेपर का दावा है कि यदि मॉडल वास्तव में उत्तर जानता है, तो वह दोनों बार एक ही अक्षर चुनेगा। यदि वह अनिश्चित है, तो वह "मुझे नहीं पता" वाले नए विकल्प से भ्रमित हो जाएगा और उत्तरों के बीच झूलने लगेगा।

यह विशेष क्यों है?

यह हल्का है (Lightweight): यह केवल कंप्यूटर को प्रति प्रश्न दो बार सोचने के लिए कहता है। इसके लिए जटिल गणनाओं को चलाने या मॉडल के आंतरिक "मस्तिष्क तरंगों" (brain waves) को देखने की आवश्यकता नहीं है (जो अक्सर बंद मॉडल्स के साथ असंभव होता है)।
यह संघर्ष कर रहे छात्रों के लिए सबसे अच्छा काम करता है: पेपर में पाया गया कि यह तरीका उन मॉडल्स के साथ सबसे अधिक मदद करता है जो पहले से ही किसी कार्य में बहुत अच्छे नहीं हैं। यदि कोई मॉडल पहले से ही विशेषज्ञ है, तो उसे इस तरकीब की उतनी आवश्यकता नहीं होती। लेकिन छोटे, कम शक्तिशाली मॉडल्स के लिए, यह विधि गलत उत्तरों को आत्मविश्वास के साथ देने की उनकी प्रवृत्ति को काफी कम कर देती है।
यह "डगमगाती" सोच को पकड़ लेता है: शोधकर्ताओं ने पाया कि मॉडल वास्तव में "मुझे नहीं पता" वाला विकल्प बहुत कम चुनते थे। इसके बजाय, जादू इसलिए हुआ क्योंकि जब "मुझे नहीं पता" का विकल्प जोड़ा गया, तो मॉडल गलत उत्तरों के बीच बदलने (switching) लगे। यह विधि इस "डगमगाहट" (wobbling) को पकड़ लेती है और इसे अनिश्चितता के संकेत के रूप में मान लेती है।

परिणाम

जब उन्होंने विभिन्न कठिन क्विज़ (जैसे विज्ञान और सामान्य ज्ञान के प्रश्न) पर चार अलग-अलग छोटे मॉडल्स पर इसका परीक्षण किया, तो "सेकंड गेस" विधि ने खराब परिणामों के समग्र जोखिम को लगभग 10.8% कम कर दिया।

यहाँ तक कि जब उन्होंने मॉडल्स को विशिष्ट कार्यों के लिए बेहतर बनाने के लिए "फाइन-ट्यून" (सिखाया) भी किया, तब भी यह तरकीब काम करती रही, जबकि अन्य जटिल विधियाँ काम करना बंद कर गईं।

मुख्य बात (The Bottom Line)

पेपर का तर्क है कि आपको AI को सुरक्षित बनाने के लिए विशाल, महंगे सुपरकंप्यूटर की आवश्यकता नहीं है। कभी-कभी, आपको बस AI से दूसरे तरीके से पूछने की आवश्यकता होती है, "क्या आप सुनिश्चित हैं?" यदि वह अपना उत्तर बदल देता है, तो यह अंधाधुंध अनुमान लगाने के बजाय रुकने और यह कहने का संकेत है कि, "मुझे नहीं पता।"

तकनीकी सारांश: सेकंड गेस (Second Guess): छोटे भाषा मॉडलों (SLMs) में अपवर्जन (Abstention) और उत्तर स्थिरता के माध्यम से अनिश्चितता का पता लगाना

समस्या विवरण
लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर अनिश्चित होने पर रुकने (abstain करने) के बजाय आत्मविश्वासपूर्ण लेकिन गलत उत्तर उत्पन्न करते हैं। यह समस्या विशेष रूप से स्मॉल लैंग्वेज मॉडल्स (SLMs) के लिए गंभीर है, जिन्हें यहाँ 10 बिलियन से कम पैरामीटर्स वाले ट्रांसफार्मर-आधारित जनरेटिव मॉडल्स के रूप में परिभाषित किया गया है। SLMs को तेजी से एज (edge) और मोबाइल वातावरण में तैनात किया जा रहा है जहाँ कम्प्यूटेशनल बाधाएं और स्वायत्त संचालन (अक्सर तत्काल मानवीय देखरेख के बिना) विश्वसनीय अनिश्चितता पहचान की आवश्यकता पैदा करते हैं। अपवर्जन (abstention) सक्षम करने वाली मौजूदा विधियों को महत्वपूर्ण सीमाएं हैं: प्रशिक्षण-आधारित दृष्टिकोणों के लिए मॉडल वेट्स और पुन: प्रशिक्षण तक पहुंच की आवश्यकता होती है; प्रॉम्प्ट-आधारित विधियां जो स्व-रिपोर्ट किए गए आत्मविश्वास पर निर्भर करती हैं, वे विफल हो जाती हैं क्योंकि मॉडल सटीक आत्म-मूल्यांकन नहीं कर पाते हैं; और सैंपलिंग-आधारित सर्वसम्मति विधियां अत्यधिक कम्प्यूटेशनल ओवरहेड उत्पन्न करती हैं जो संसाधन-बाधित SLMs के लिए अनुपयुक्त है।

कार्यप्रणाली: सेकंड गेस (Second Guess)
यह शोध पत्र "सेकंड गेस" का प्रस्ताव करता है, जो एक हल्का, पैरामीटर-मुक्त प्रॉम्प्टिंग तकनीक है जिसे मल्टीपल-चॉइस क्वेश्चन आंसरिंग (MCQA) के लिए डिज़ाइन किया गया है और इसके लिए मॉडल की आंतरिक अवस्थाओं या पैरामीटर्स तक पहुंच की आवश्यकता नहीं है। यह विधि इस अनुभवजन्य अंतर्दृष्टि पर कार्य करती है कि स्थिर ज्ञान वाले मॉडल उपलब्ध विकल्पों के बावजूद सुसंगत उत्तर प्रदान करेंगे, जबकि अनिश्चित मॉडल "मुझे नहीं पता" (I don't know) विकल्प पेश किए जाने पर अस्थिर व्यवहार प्रदर्शित करते हैं।

तकनीक में प्रति प्रश्न दो फॉरवर्ड पास शामिल हैं:

ओरिजिनल प्रॉम्प्ट: मॉडल को चार उत्तर विकल्पों के मानक सेट ( $C = \{c_1, c_2, c_3, c_4\}$ ) के साथ प्रॉम्प्ट किया जाता है, जिससे प्रतिक्रिया $R_1$ प्राप्त होती है।
ऑगमेंटेड प्रॉम्प्ट: चॉइस सेट में एक "मुझे नहीं पता" विकल्प को यादृच्छिक स्थिति में डाला जाता है ( $C' = \{c_1, c_2, c_3, c_4, \text{"मुझे नहीं पता"}\}$ ), और मॉडल को $R_2$ उत्पन्न करने के लिए फिर से प्रॉम्प्ट किया जाता है।

अंतिम आउटपुट $R$ को दोनों प्रतिक्रियाओं की तुलना करके निर्धारित किया जाता है:

यदि $R_1 = R_2$ , तो मूल उत्तर को बरकरार रखा जाता है।
यदि $R_1 \neq R_2$ (चाहे नया उत्तर कुछ भी हो), तो आउटपुट को अपवर्जन ("मुझे नहीं पता") के रूप में वर्गीकृत किया जाता है।

यह दृष्टिकोण प्रभावी रूप से दो प्रॉम्प्ट्स के बीच उत्तर विसंगतियों को अनिश्चितता के संकेत के रूप में मानता है, जिसमें प्रति प्रश्न केवल दो क्वेरी की आवश्यकता होती है।

प्रायोगिक सेटअप
लेखकों ने चार इंस्ट्रक्शन-ट्यून्ड SLMs (2B से 8B पैरामीटर्स के बीच: Mistral-7B, Llama-3.1-8B, IBM Granite-3.3-2B, और Qwen3-4B) पर चार MCQA बेंचमार्क: CommonsenseQA, QASC, MMLU-Pro, और SuperGPQA पर 'सेकंड गेस' का मूल्यांकन किया। मूल्यांकन में बेस मॉडल्स और लो-रैंक अडैप्टेशन (LoRA) का उपयोग करके फाइन-ट्यून किए गए मॉडल्स दोनों को शामिल किया गया।

इस विधि की तुलना निम्नलिखित बेसलाइन्स से की गई:

ओरिजिनल प्रॉम्प्ट: ऑग्मेंटेशन के बिना मानक MCQA।
ऑगमेंटेड प्रॉम्प्ट: एक सिंगल-पास दृष्टिकोण जहाँ "मुझे नहीं पता" को शुरुआत से ही शामिल किया गया है।
सेल्फ-इवैल्यूएशन: एक दो-चरणीय रणनीति जहाँ मॉडल अपने स्वयं के उत्तर को सत्यापित करता है।
एन्ट्रॉपी थ्रेशोल्डिंग: एक पोस्ट-हॉक विधि जो उच्च-एन्ट्रॉपी आउटपुट्स को अपवर्जन में बदल देती है।

प्रमुख परिणाम
मूल्यांकन के लिए तीन मेट्रिक्स का उपयोग किया गया: प्रिसिजन (Precision), एरर रेट (Error Rate), और कंपोजिट रिस्क (Composite Risk - जो गलत उत्तरों और उन मामलों का संयोजन है जहाँ मॉडल मूल रूप से सही होने के बावजूद अपवर्ट हो जाता है)।

कंपोजिट रिस्क में कमी: सेकंड गेस ने सभी बेस मॉडल्स और डेटासेट्स में 10.81% का उच्चतम कंपोजिट रिस्क सुधार प्राप्त किया, जिसने समान संख्या में क्वेरीज़ (दो) का उपयोग करते हुए सर्वश्रेष्ठ बेसलाइन (सेल्फ-इवैल्यूएशन @ 7.69%) को भी पीछे छोड़ दिया।
फाइन-ट्यूनिंग के प्रति मजबूती: फाइन-ट्यून किए गए मॉडल्स पर, सेकंड गेस ने 8% का कंपोजिट रिस्क सुधार बनाए रखा। इसके विपरीत, एंट्रॉपी-आधारित विधियां फाइन-ट्यून किए गए मॉडल्स पर काफी खराब प्रदर्शन करती हैं क्योंकि बढ़ी हुई मॉडल कॉन्फिडेंस के कारण टोकन एन्ट्रॉपी अनिश्चितता पहचान के लिए कम सूचनात्मक हो जाती है।
बेस परफॉर्मेंस के साथ व्युत्क्रम संबंध: पेपर एक मॉडल के बेस एक्यूरेसी और सेकंड गेस से प्राप्त सुधार के बीच एक व्युत्क्रम संबंध की पहचान करता है। कम बेस एक्यूरेसी वाले मॉडल्स (जैसे SuperGPQA पर ~32% एक्यूरेसी के साथ Llama) ने सबसे महत्वपूर्ण जोखिम कमी देखी (25% से अधिक), जबकि उच्च-प्रदर्शन वाले मॉडल्स में मामूली या कोई लाभ नहीं देखा गया।
सुधार का तंत्र: उत्तर संक्रमण (answer transitions) के विश्लेषण से पता चला कि जोखिम में कमी मुख्य रूप से विकल्प स्विचिंग (option switching) को पहचानने से आती है, न कि स्पष्ट रूप से "मुझे नहीं पता" के चयन से। अनिश्चित मॉडल्स "मुझे नहीं पता" टोकन को लगातार चुनने के बजाय, "मुझे नहीं पता" विकल्प जोड़े जाने पर गलत विकल्पों के बीच स्विच करने की प्रवृत्ति रखते थे।

महत्व और दावे
पेपर का दावा है कि सेकंड गेस सुरक्षा-महत्वपूर्ण और स्वायत्त संदर्भों में SLMs की विश्वसनीयता में सुधार के लिए एक व्यावहारिक, सुलभ समाधान प्रदान करता है। इसका महत्व निम्नलिखित कारणों से है:

पैरामीटर-मुक्त: इसके लिए किसी हाइपरपैंटर ट्यूनिंग या मॉडल वेट्स तक पहुंच की आवश्यकता नहीं है।
कम्प्यूटेशनल रूप से कुशल: इसमें केवल दो फॉरवर्ड पास की आवश्यकता होती है, जो इसे ब्लैक-बॉक्स SLMs और एज डिवाइसेस के लिए व्यवहार्य बनाता है जहाँ सैंपलिंग-आधारित विधियां बहुत महंगी होती हैं।
कम प्रदर्शन करने वाले मॉडल्स के लिए प्रभावी: यह विशेष रूप से कम सक्षम मॉडल्स में विश्वसनीयता के अंतर को लक्षित करता है जहाँ त्रुटि कम करना सबसे महत्वपूर्ण है।

लेखक सीमाओं को स्वीकार करते हुए नोट करते हैं कि इस विधि की उपयोगिता मॉडल स्केल और बेस परफॉर्मेंस बढ़ने के साथ कम हो जाती है, और मूल्यांकन में चेन-ऑफ-थॉट (CoT) रीजनिंग को शामिल नहीं किया गया था, जो बेसलाइन क्षमताओं को बदल सकता है। हालांकि, यह कार्य स्थापित करता है कि व्यवहार संबंधी अस्थिरता (उत्तर स्विचिंग) अनिश्चितता का एक मजबूत, पता लगाने योग्य संकेत है जिसे जटिल आर्किटेक्चरल परिवर्तनों के बिना अपवर्जन (abstention) प्रेरित करने के लिए उपयोग किया जा सकता है।

समस्या: अति-आत्मविश्वासी अनुमान (The Overconfident Guess)

समाधान: "सेकंड गेस" की तरकीब (The "Second Guess" Trick)

यह विशेष क्यों है?

परिणाम

मुख्य बात (The Bottom Line)

इसी तरह के और पेपर