💬 NLP

Uncertainty-Aware Generation and Decision-Making Under Ambiguity

यह शोध पत्र ट्यूटरिंग और पीयर रिव्यूइंग में एलएलएम (LLMs) के लिए बेयसियन सिद्धांत और जोखिम-अवरोधक रणनीतियों पर आधारित अनिश्चितता-जागरूक निर्णय लेने वाले एल्गोरिदम का प्रस्ताव और मूल्यांकन करता है, यह प्रदर्शित करते हुए कि हालांकि ये विधियाँ जनरेशन उपयोगिता में सुधार कर सकती हैं, बेयसियन दृष्टिकोण आम तौर पर जोखिम-अवरोधक नियमों से बेहतर प्रदर्शन करते हैं जो अस्पष्ट परिदृश्यों में अत्यधिक सामान्य आउटपुट की ओर ले जा सकते हैं।

मूल लेखक: Nico Daheim, Iryna Gurevych

प्रकाशित 2026-06-30

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nico Daheim, Iryna Gurevych

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Uncertainty-Aware Generation and Decision-Making Under Ambiguity" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।

बड़ी तस्वीर: "भ्रमित विशेषज्ञ" की समस्या (The "Confused Expert" Problem)

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान विशेषज्ञ (एक लार्ज लैंग्वेज मॉडल, या LLM) है जो दो कठिन काम करने की कोशिश कर रहा है:

ट्यूशन देना: एक छात्र को गणित की समस्या हल करने में मदद करना, बिना सीधे उत्तर बताए।
पीयर रिव्यू करना: एक शोध पत्र (research paper) को पढ़ना और यह तय करना कि क्या वह प्रकाशन के लिए पर्याप्त अच्छा है, और साथ ही एक समीक्षा लिखना।

समस्या यह है कि ये काम अस्पष्ट (ambiguous) हैं। यहाँ तक कि वास्तविक मानव विशेषज्ञ भी अक्सर असहमत होते हैं। एक ट्यूटर सोच सकता है कि छात्र की मदद करने का सबसे अच्छा तरीका एक मार्गदर्शक प्रश्न पूछना है, जबकि दूसरा सोच सकता है कि संकेत (hint) देना बेहतर है। एक समीक्षक किसी पेपर को "स्ट्रॉन्ग एक्सेप्ट" दे सकता है, जबकि दूसरा उसे "वीक रिजेक्ट" दे सकता है।

आमतौर पर, जब हम AI से ये कार्य करने के लिए कहते हैं, तो वह बस एक रास्ता चुन लेता है और उसी पर चल पड़ता है, जैसे कि वह अपने चुनाव के बारे में 100% आश्वस्त हो। यह पेपर तर्क देता है कि क्योंकि मनुष्य असहमत होते हैं, इसलिए AI को भी यह स्वीकार करना चाहिए, "मैं 100% निश्चित नहीं हूँ कि कौन सा रास्ता सबसे अच्छा है।" लेखक चाहते हैं कि AI ऐसे निर्णय ले जो इस अनिश्चितता को ध्यान में रखें, न कि केवल अनुमान लगाएं।

टूलबॉक्स में तीन उपकरण (The Three Tools in the Toolbox)

लेखकों ने AI को बेहतर निर्णय लेने में मदद करने के लिए तीन अलग-अलग तरीकों का परीक्षण किया। इन्हें आप एक कोच द्वारा खेल के लिए कोई रणनीति चुनने के तरीके के रूप में देख सकते हैं।

1. "औसत विशेषज्ञ" रणनीति (Bayesian Decision Rule)

यह कैसे काम करता है: केवल एक "सर्वश्रेष्ठ" ट्यूटरिंग रणनीति या रिव्यू स्कोर चुनने के बजाय, AI उन सभी संभावित रणनीतियों को देखता है जिनका वह उपयोग कर सकता है। वह पूछता है, "यदि मैं रणनीति A का उपयोग करता हूँ, तो परिणाम कितना अच्छा होगा? यदि मैं रणनीति B का उपयोग करता हूँ, तो वह कैसा होगा?" फिर यह सभी संभावनाओं का एक भारित औसत (weighted average) निकालता है ताकि वह ऐसा उत्तर खोज सके जो सभी संभावित परिदृश्यों में औसतन सबसे अच्छा काम करे।
उपमा (Analogy): कल्पना कीजिए कि आप एक शेफ हैं जो सूप में नमक की मात्रा का अनुमान लगाने की कोशिश कर रहे हैं, लेकिन आप ठीक से नहीं जानते कि आपके ग्राहक कितना नमकीन पसंद करते हैं। एक संख्या का अनुमान लगाने के बजाय, आप 100 अलग-अलग ग्राहकों की कल्पना करते हैं जिनकी पसंद अलग-अलग है। आप नमक की वह "परफेक्ट" मात्रा की गणना करते हैं जो औसतन अधिकतम लोगों को खुश रखेगी। आप किसी एक विशिष्ट स्वाद पर दांव नहीं लगा रहे हैं; आप औसत पर दांव लगा रहे हैं।
परिणाम: पेपर में पाया गया कि इस पद्धति ने आमतौर पर सबसे अधिक सहायक और उपयोगी प्रतिक्रियाएँ दीं।

2. "सुरक्षा प्रथम" रणनीति (Risk-Averse / Minmax)

यह कैसे काम करता है: यह रणनीति बहुत सतर्क है। यह संभावनाओं की सीमा के भीतर "सबसे खराब स्थिति" (worst-case scenario) को देखती है। यह उस प्रतिक्रिया को चुनने की कोशिश करती है जो तब भी सबसे कम खराब प्रदर्शन करे, भले ही स्थिति की सबसे खराब व्याख्या ही क्यों न हो जाए।
उपमा (Analogy): कल्पना कीजिए कि आप यात्रा के लिए पैकिंग कर रहे हैं और आप सुनिश्चित नहीं हैं कि बारिश होगी या धूप। एक "सुरक्षा प्रथम" दृष्टिकोण कहता है, "मैं एक भारी रेनकोट और एक छाता रखूँगा, भले ही धूप निकल आए, ताकि अगर बारिश हुई तो मैं भीग न जाऊँ।"
परिणाम: यह कुछ मामलों में अच्छा काम करता है, लेकिन अक्सर AI को बहुत उबाऊ बना देता है। क्योंकि यह सबसे खराब परिणाम से बचने की कोशिश कर रहा था, इसलिए इसने बहुत ही सामान्य, सुरक्षित उत्तर दिए जो वास्तव में किसी की मदद नहीं कर पाए (जैसे एक ट्यूटर का गलती करने से बचने के लिए हर चीज़ पर सिर्फ "अच्छा काम किया" कहना)।

3. "कॉन्फिडेंस फ़िल्टर" (Conformal Prediction)

यह कैसे काम करता है: यह अपने आप में कोई निर्णय नियम नहीं है, बल्कि अन्य दो की मदद करने वाला एक उपकरण है। यह एक छलनी (sieve) की तरह काम करता है। यह सभी संभावित उत्तरों को देखता है और कहता है, "हमें 95% यकीन है कि सही उत्तर इस समूह के विकल्पों में है, और हम बाकी को सुरक्षित रूप से अनदेखा कर सकते हैं।" यह AI को जंगली अनुमान लगाने में समय बर्बाद किए बिना सबसे संभावित विकल्पों पर ध्यान केंद्रित करने में मदद करता है।
उपमा (Analogy): कल्पना कीजिए कि एक जासूस शहर में संदिग्ध की तलाश कर रहा है। शहर के हर घर की जाँच करने के बजाय, वे एक मानचित्र का उपयोग करके कहते हैं, "हमें 95% यकीन है कि संदिग्ध इस एक मोहल्ले में है।" फिर वे अपनी खोज वहीं केंद्रित करते हैं।
परिणाम: इसने AI को समय और कंप्यूटिंग पावर बचाने में मदद की। हालाँकि, यदि AI द्वारा चुना गया "मोहल्ला" बहुत बड़ा था (क्योंकि कार्य बहुत भ्रमित करने वाला था), तो "सुरक्षा प्रथम" रणनीति भ्रमित हो गई और खराब प्रदर्शन किया।

उन्होंने क्या पाया (What They Found)

शोधकर्ताओं ने वास्तविक डेटा पर इन तरीकों का परीक्षण किया:

ट्यूटरिंग: "औसत विशेषज्ञ" (Bayesian) पद्धति का उपयोग करने से AI ट्यूटर ने बेहतर, अधिक शैक्षणिक सलाह दी। "सुरक्षा प्रथम" पद्धति ने कभी-कभी AI को बहुत सामान्य बना दिया, जैसे कि एक शिक्षक जो गलती करने से बचने के लिए बस "कोशिश करते रहें" कहता है।
पीयर रिव्यूइंग: "औसत विशेषज्ञ" पद्धति ने फिर से ऐसे रिव्यू तैयार किए जो अधिक व्यावहारिक और सहायक थे। "सुरक्षा प्रथम" पद्धति मिली-जुली रही; यह कुछ AI मॉडल्स के लिए अच्छा रहा लेकिन दूसरों के लिए निम्न-गुणवत्ता वाले रिव्यू तैयार किए।

मुख्य निष्कर्ष (The Bottom Line)

पेपर यह निष्कर्ष निकालता है कि जब AI का उपयोग जटिल, व्यक्तिपरक कार्यों के लिए किया जाता है जहाँ मनुष्य असहमत होते हैं, तो हमें केवल AI से "विजेता चुनने" के लिए नहीं कहना चाहिए। इसके बजाय, हमें AI को सिखाना चाहिए कि:

पूरी तस्वीर देखें: स्थिति की कई संभावित व्याख्याओं पर विचार करें।
उनका औसत निकालें: वह उत्तर चुनें जो व्यापक रूप से सबसे अच्छा काम करता है (Bayesian दृष्टिकोण)।
"सबसे खराब स्थिति" वाली सोच के प्रति सावधान रहें: बहुत अधिक सुरक्षित होने की कोशिश करना AI को उबाऊ और अनुपयोगी बना सकता है।

लेखक इस बात पर जोर देते हैं कि ये उपकरण मानव समीक्षकों और शिक्षकों को सहयोग देने के लिए हैं, न कि उनकी जगह लेने के लिए। वे एक हाई-टेक सहायक की तरह हैं जो मनुष्यों को बेहतर निर्णय लेने में मदद करते हैं जब स्थिति जटिल और अनिश्चित होती है।

तकनीकी सारांश: अनिश्चितता-जागरूक पीढ़ी और अस्पष्टता के तहत निर्णय लेना

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग तेजी से उच्च-जोखिम वाले, व्यक्तिपरक डोमेन जैसे कि स्वचालित ट्यूटरिंग और पीयर रिव्यू (सहकर्मी समीक्षा) में किया जा रहा है। इन सेटिंग्स में, कार्यों में अक्सर कई निर्णय चरण शामिल होते हैं (जैसे, छात्र की त्रुटि की पहचान करना, ट्यूटरिंग रणनीति चुनना और प्रतिक्रिया उत्पन्न करना) और इनमें अस्पष्टता का उच्च स्तर होता है। मानव विशेषज्ञ किसी दिए गए इनपुट के लिए "सही" रणनीति या स्कोर पर अक्सर असहमत होते हैं, जिससे महत्वपूर्ण अनिश्चितता पैदा होती है।

LLMs के लिए वर्तमान निर्णय लेने वाले एल्गोरिदम अक्सर इस अस्पष्टता को स्पष्ट रूप से मॉडल करने में विफल रहते हैं या सांख्यिकीय गारंटी प्रदान नहीं करते हैं। मानक दृष्टिकोण, जैसे कि सरल सैंपलिंग या मिनिमम बेयस रिस्क (MBR) डिकोडिंग जो सीधे आउटपुट स्ट्रिंग्स की तुलना करता है, मध्यवर्ती अवस्थाओं (जैसे विशिष्ट ट्यूटरिंग रणनीति या समीक्षा स्कोर) पर अनिश्चितता को ध्यान में नहीं रखते हैं। फलस्वरूप, ये विधियाँ त्रुटियों को आगे बढ़ा सकती हैं, संभावित निर्णय श्रेणियों को सीमित करने में विफल हो सकती हैं, और विश्वसनीय तैनाती के लिए आवश्यक सांख्यिकीय विश्वसनीयता की कमी रखती हैं।

कार्यप्रणाली

लेखक एक ऐसा ढांचा प्रस्तावित करते हैं जो अनिश्चितता-जागरूक पीढ़ी और निर्णय लेने वाले एल्गोरिदम बनाने के लिए बेयसियन निर्णय सिद्धांत (Bayesian decision theory) और कॉन्फॉर्मल प्रेडिक्शन (conformal prediction) को एकीकृत करता है। मुख्य निर्णय समस्या एक संदर्भ $x$ और अवस्थाओं के एक असतत सेट $\Omega$ (जैसे ट्यूटरिंग रणनीतियाँ या समीक्षा स्कोर) के दिए गए होने पर, एक आउटपुट $y^*$ (जैसे एक समीक्षा या ट्यूटर प्रतिक्रिया) चुनने से संबंधित है।

1. बेयसियन निर्णय नियम (Bayesian Decision Rule)

प्राथमिक दृष्टिकोण अवस्थाओं के वितरण $p(\omega | x)$ पर अपेक्षित उपयोगिता (expected utility) को अधिकतम करता है। इष्टतम आउटपुट $y^*$ को इस प्रकार परिभाषित किया गया है:
$y^* = \arg \max_{y \in V^*} \sum_{\omega \in \Omega} u(y, \omega) \cdot p(\omega | x)$
जहाँ $u(y, \omega)$ गुणवत्ता और निरंतरता मानदंडों को एनकोड करने वाला एक उपयोगिता फलन (utility function) है। मानक MBR के विपरीत, जो आउटपुट स्ट्रिंग्स की तुलना करता है, यह विधि अवस्था स्थान $\Omega$ पर मार्जिनलाइज़ करती है। $V^*$ के अनंत स्थान को संभालने के लिए, लेखक उम्मीदवार आउटपुट के एक सेट $H$ को सैंपल करके और उस एक को चुनकर अधिकतमकरण का अनुमान लगाते हैं जो अवस्था वितरण पर अपेक्षित उपयोगिता को अधिकतम करता है।

2. अवस्था छंटनी के लिए कॉन्फॉर्मल प्रेडिक्शन (Conformal Prediction for State Pruning)

सभी अवस्थाओं पर योग करने की कम्प्यूटेशनल लागत को संबोधित करने और सांख्यिकीय गारंटी प्रदान करने के लिए, लेखक कॉन्फॉर्मल प्रेडिक्शन का उपयोग करते हैं। यह तकनीक एक प्रेडिक्शन सेट $C(x) \subseteq \Omega$ का निर्माण करती है जो कम से कम $1-\alpha$ प्रायिकता के साथ वास्तविक अवस्था को कवर करता है।

अस्पष्टता प्रबंधन: यह पहचानते हुए कि मानक कॉन्फॉर्मल प्रेडिक्शन एक एकल ग्राउंड ट्रुथ मानता है (जो अस्पष्ट कार्यों में उल्लंघन होता है), लेखक मोंटे-कार्लो कॉन्फॉर्मल प्रेडिक्शन का उपयोग करते हैं। यह कई संभावित लेबल (रणनीतियाँ या स्कोर) को विचार में लेने की अनुमति देता है, जिससे सैद्धांतिक कवरेज $1-2\alpha$ तक विस्तृत हो जाता है लेकिन अनुभवजन्य रूप से अक्सर टाइट बाउंड्स प्राप्त करता है।
छंटनी (Pruning): प्रेडिक्शन सेट $C(x)$ का उपयोग बेयसियन ऑब्जेक्टिव में अवस्था स्थान को छाँटने के लिए किया जाता है, जिससे योग केवल संभावित अवस्थाओं तक सीमित हो जाता है:
$y^* = \arg \max_{y \in V^*} \sum_{\omega \in C(x)} u(y, \omega) \cdot p(\omega | x)$

3. जोखिम-अवरोधक निर्णय लेना (Risk-Averse Decision Making)

लेखक एक जोखिम-अवरोधक रणनीति (minimax) का भी मूल्यांकन करते हैं जो कॉन्फॉर्मल सेट के भीतर सबसे खराब स्थिति वाली अवस्था की उपयोगिता को अधिकतम करती है:
$y^* = \arg \max_{y \in V^*} \min_{\omega \in C(x)} u(y, \omega)$
इस दृष्टिकोण का लक्ष्य सबसे प्रतिकूल संभावित परिदृश्य के लिए अनुकूलित करके निम्न-गुणवत्ता वाले आउटपुट उत्पन्न करने से बचना है।

प्रयोगात्मक सेटअप

इन विधियों का मूल्यांकन दो कार्यों पर किया गया:

पीयर रिव्यू: Review-5K और NLPEER डेटासेट से शोध पत्रों के लिए समीक्षा और स्कोर जेनरेट करना। मॉडल्स में Gemma-3-27B, Qwen3-30B, और Mistral-3.2-24B शामिल थे। स्कोर वितरण $p(\omega | x)$ की भविष्यवाणी करने के लिए एक फाइन-ट्यून्ड Llama-3.2-3B का उपयोग किया गया था।
ट्यूटरिंग: MathDial डेटासेट के लिए ट्यूटर प्रतिक्रियाएं जेनरेट करना। रणनीतियाँ (Focus, Probing, Telling, Generic) को एक फाइन-ट्यून्ड Llama-3.2-3B द्वारा प्रेडिक्ट किया गया था।

उपयोगिता का अनुमान LLM-as-a-judge दृष्टिकोणों (रिव्यू के लिए Qwen3-14B, ट्यूटरिंग के लिए एक रिवॉर्ड मॉडल) का उपयोग करके 5-पॉइंट लिकर्ट स्केल के साथ लगाया गया था।

मुख्य परिणाम

बेयसियन सुधार: बेयसियन निर्णय नियम ने दोनों डोमेन में मानक एंसेस्ट्रल सैंपलिंग की तुलना में जेनरेट किए गए आउटपुट की उपयोगिता में लगातार सुधार किया। पीयर रिव्यू में, इसने विशेष रूप से "एक्शनेबिलिटी" (actionability) में सुधार किया। ट्यूटरिंग में, इसने स्केलर रिवॉर्ड मेट्रिक में सुधार किया।
कॉन्फॉर्मल छंटनी: अवस्था स्थान को छाँटने के लिए कॉन्फॉर्मल प्रेडिक्शन का उपयोग करने से प्रदर्शन बरकरार रहा, जबकि उपयोगिता अनुमानों की संख्या में काफी कमी आई (रिव्यू कार्यों में ~50% संपीड़न)।
जोखिम-अवरोधक सीमाएँ: मिनीमैक्स (जोखिम-अवरोधक) रणनीति के मिश्रित परिणाम मिले। जहाँ इसने कुछ रिव्यू मानदंडों में अच्छा प्रदर्शन किया, वहीं ट्यूटरिंग में अक्सर प्रदर्शन गिर गया। लेखक इसे इसलिए बताते हैं क्योंकि यह रणनीति तब "जेनेरिक" या "टेलिंग" रणनीतियों के लिए अनुकूलित होती है जब वे कॉन्फॉर्मल प्रेडिक्शन सेट्स में बार-बार दिखाई देती हैं, जिससे बदतर-स्थिति की बाधा को पूरा करने के लिए आउटपुट की गुणवत्ता कम हो जाती है।
स्केलिंग व्यवहार: सैंपल साइज $|H|$ को बढ़ाने से बेयसियन नियम के प्रदर्शन में लगातार सुधार हुआ। इसके विपरीत, मिनीमैक्स नियम का प्रदर्शन $|H|$ बढ़ने के साथ गिर गया, जो संभवतः अस्पष्ट कार्यों में व्यापक प्रेडिक्शन सेट्स के साथ इंटरैक्शन के कारण है।
मॉडल संवेदनशीलता: Qwen3 ने Gemma और Mistral की तुलना में अलग प्रदर्शन विशेषताएँ दिखाईं, जो यह सुझाव देता है कि पोस्ट-ट्रेनिंग ऑब्जेक्टिव्स इस बात को प्रभावित करते हैं कि मॉडल विशिष्ट उपयोगिता मानदंडों के साथ कितनी अच्छी तरह संरेखित होते हैं।

महत्व और दावे

यह पेपर दावा करता है कि यह मध्यवर्ती अवस्थाओं पर अनिश्चितता को स्पष्ट रूप से मॉडल करके, अस्पष्ट और उच्च-जोखिम वाले डोमेन में LLM-आधारित निर्णय लेने में सुधार करने के लिए एक विधि की रूपरेखा तैयार करता है। इस कार्य का महत्व निम्नलिखित में निहित है:

सिद्धांत और व्यवहार को जोड़ना: यह प्रदर्शित करता है कि कैसे बेयसियन निर्णय सिद्धांत को कॉन्फॉर्मल प्रेडिक्शन के साथ जोड़ने से सांख्यिकीय गारंटी और उच्च उपयोगिता जैसे वास्तविक दुनिया के लक्ष्यों को प्राप्त किया जा सकता है, भले ही अंतर्निहित अवस्था वितरण अस्पष्ट हो।
अस्पष्टता को संभालना: यह रेखांकित करता है कि मानक निर्णय नियम तब विफल हो जाते हैं जब मानव लेबल भिन्नता अधिक होती है और कई संभावित ग्राउंड ट्रुथ को संभालने के लिए विशिष्ट तकनीकें (जैसे मोंटे-कार्लो कॉन्फॉर्मल प्रेडिक्शन) प्रस्तावित करता है।
समुदाय के लिए आह्वान: लेखक जोर देते हैं कि वर्तमान LLMs अक्सर श्रेणीबद्ध भविष्यवाणी कार्यों (जैसे स्कोर प्रेडिक्शन) के लिए संघर्ष करते हैं और मौजूदा डेटासेट्स में एक ही इनपुट के लिए कई एनोटेशन की कमी है। वे समुदाय से मल्टी-लेबल डेटा एकत्र करने, बेहतर LLM जज विकसित करने और ऐसे मॉडल बनाने पर ध्यान केंद्रित करने का आह्वान करते हैं जो निर्णय लेने में संभावित मानवीय विविधता को दर्शा सकें।

लेखक एक मध्यम रुख बनाए रखते हैं, यह नोट करते हुए कि उनकी विधियाँ पीयर रिव्यू प्रक्रिया को स्वचालित करने या मानव निर्णय को बदलने के बजाय मानव समीक्षकों और शिक्षकों को सहायता देने के लिए डिज़ाइन की गई हैं। वे डेटा लीकेज (मॉडल ने प्रशिक्षण डेटा देखा हो सकता है) और दीर्घकालिक प्रभाव को मापने के लिए वास्तविक दुनिया के फील्ड अध्ययन की कमी के संबंध में सीमाओं को स्वीकार करते हैं।