🤖 machine learning

Conf-Gen: Conformal Uncertainty Quantification for Generative Models

यह शोध पत्र Conf-Gen को प्रस्तुत करता है, जो एक सामान्य ढांचा है जो अनसुपरवाइज्ड जनरेटिव मॉडल्स जैसे कि LLMs और इमेज जनरेटर्स के लिए कॉन्फॉर्मल रिस्क कंट्रोल को अनुकूलित करता है, जिससे गैर-मेमोराइज्ड इमेज जनरेशन को सत्यापित करने, संवादात्मक स्पष्टता और एजेंट की शुद्धता जैसे विविध कार्यों के लिए औपचारिक अनिश्चितता गारंटी प्रदान की जा सके।

मूल लेखक: Gabriel Loaiza-Ganem, Kevin Zhang, Wei Cui, Marc T. Law, Kin Kwan Leung

प्रकाशित 2026-05-29

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Gabriel Loaiza-Ganem, Kevin Zhang, Wei Cui, Marc T. Law, Kin Kwan Leung

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपका एक बहुत ही बुद्धिमान लेकिन कभी-कभी अति-आत्मविश्वासी मित्र है जिसे विचार उत्पन्न करना, कहानियाँ लिखना या चित्र बनाना पसंद है। कभी-कभी वे शानदार होते हैं, लेकिन कभी-कभी वे बातें बना सकते हैं, पुराने चुटकुलों को दोहरा सकते हैं, या एक ही चक्र में फंस सकते हैं। आप उन पर भरोसा करना चाहते हैं, लेकिन आपको एक तरीके की आवश्यकता है जिससे आप जान सकें: "क्या यह विशिष्ट आउटपुट वास्तव में अच्छा है, या मुझे चिंतित होना चाहिए?"

यह वह समस्या है जिसे Conf-Gen नामक शोध पत्र हल करने का प्रयास करता है। यह AI जनरेटरों (जैसे इमेज क्रिएटर्स या चैटबॉट्स) के लिए एक नया "क्वालिटी कंट्रोल" सिस्टम पेश करता है जो आपको आउटपुट की गुणवत्ता के बारे में एक गणितीय गारंटी (mathematical guarantee) देता है, बिना यह जाने कि AI वास्तव में कैसे सोचता है।

यह कैसे काम करता है, इसे सरल उपमाओं (analogies) के साथ नीचे समझाया गया है:

1. समस्या: "ब्लैक बॉक्स" जनरेटर

पारंपरिक AI सुरक्षा उपकरण सरल कार्यों (जैसे "क्या यह ईमेल स्पैम है?") के लिए अच्छी तरह से काम करते हैं। लेकिन आधुनिक AI जनरेटर अलग हैं। वे केवल एक उत्तर नहीं चुनते; वे संभावनाओं की एक पूरी धारा (शब्दों का एक क्रम, छवियों की एक श्रृंखला, या कार्यों की एक श्रृंखला) बनाते हैं।

समस्या: यदि आप AI को एक चित्र बनाने के लिए कहते हैं, तो आप कैसे जानते हैं कि उसने अपने ट्रेनिंग डेटा से किसी कॉपीराइट वाली छवि की नकल तो नहीं की है? यदि आप एक चैटबॉट से कोई प्रश्न पूछते हैं, तो आप कैसे जानते हैं कि उसने केवल अनुमान तो नहीं लगाया?
पुराना तरीका: पिछले तरीकों ने इन जटिल जनरेटर्स को सरल बक्सों में फिट करने की कोशिश की, जो अक्सर विफल हो जाते थे या जिनमें AI को यह बताने की बहुत विशिष्ट आवश्यकता होती थी कि वह क्या कर रहा है।

2. समाधान: "Conf-Gen" फ़िल्टर

लेखक Conf-Gen (Conformal Generation) का प्रस्ताव देते हैं। इसे एक स्मार्ट छलनी या क्वालिटी फ़िल्टर के रूप में सोचें जो AI और आपके बीच में स्थित है।

यहाँ चरण-दर-चरण प्रक्रिया दी गई है:

चरण A: "कैलिब्रेशन पार्टी" (नियम सीखना)

AI द्वारा वास्तविक काम शुरू करने से पहले, आप उसे कुछ उदाहरण दिखाते हैं ("कैलिब्रेशन डेटासेट")।

उपमा: कल्पना कीजिए कि आप एक नए सुरक्षा गार्ड को प्रशिक्षित कर रहे हैं। आप उन्हें "अच्छे" और "बुरे" लोगों के 100 फोटो दिखाते हैं। आप उन्हें यह नहीं सिखाते कि कोई व्यक्ति क्यों बुरा है; आप बस उन्हें पैटर्न दिखाते हैं।
Conf-Gen क्या करता है: यह इन उदाहरणों को देखता है और एक "थ्रेशोल्ड" (जिसे हम सुरक्षा स्तर/Safety Level कह सकते हैं) निर्धारित करता है। यह पूछता है: "मुझे कितना सख्त होना चाहिए ताकि यह सुनिश्चित हो सके कि 90% बार, जो आउटपुट मैं आगे जाने देता हूँ, वह वास्तव में अच्छा है?"

चरण B: "स्कोरकार्ड" (विश्वास मापना)

AI संभावित उत्तरों या छवियों की एक सूची बनाता है। Conf-Gen केवल अंतिम परिणाम को नहीं देखता; यह प्रत्येक आइटम के लिए एक स्कोर को देखता है।

उपमा: कल्पना कीजिए कि एक शेफ 10 अलग-अलग सूप बना रहा है। Conf-Gen एक टेस्ट-टेस्टर है जो प्रत्येक सूप को इस आधार पर स्कोर देता है कि वह कितना "सुरक्षित" या "सही" दिखता है।
जादू: यह सिस्टम विभिन्न प्रकार के स्कोर संभाल सकता है। एक चैटबॉट के लिए, स्कोर "प्रश्न कितना स्पष्ट है?" हो सकता है। एक इमेज जनरेटर के लिए, स्कोर "क्या यह एक वास्तविक फोटो की नकल जैसा दिखता है?" हो सकता है।

चरण C: "कट-ऑफ" (गारंटी लागू करना)

एक बार जब AI एक अनुक्रम (sequence) उत्पन्न करता है, तो Conf-Gen उस सुरक्षा स्तर को लागू करता है जो उसने चरण A में सीखा था।

उपमा: कल्पना कीजिए कि एक क्लब के बाहर एक बाउंसर खड़ा है। यदि "सुरक्षा स्तर" 90% पर सेट है, तो बाउंसर केवल उन्हीं मेहमानों को अंदर जाने देता है जिनका स्कोर पर्याप्त रूप से उच्च है।
परिणाम: सिस्टम कह सकता है, "मैं आपको केवल पहले 3 उत्तर दिखाऊंगा जो AI ने दिए हैं, क्योंकि उसके बाद, आत्मविश्वास गिर जाता है।" या, "मैं केवल वही छवि दिखाऊंगा जो निश्चित रूप से एक कॉपी नहीं है।"

गारंटी: यह शोध पत्र सिद्ध करता है कि यदि आप इन नियमों का पालन करते हैं, तो आप 90% सुनिश्चित (या जो भी संख्या आप चुनें) हो सकते हैं कि प्राप्त आउटपुट आपके गुणवत्ता मानक को पूरा करता है। यह कोई अनुमान नहीं है; यह एक औपचारिक वादा है।

3. यह क्या विशेष बनाता है? ("शिथिल" नियम)

पिछले तरीके बहुत कठोर थे। उन्हें AI के एक बहुत ही विशिष्ट, अनुमानित तरीके से व्यवहार करने की आवश्यकता थी (जैसे एक सीधी रेखा)।

Conf-Gen का नवाचार: यह बहुत अधिक लचीला है। यह महसूस करता है कि AI हमेशा एक सीधी रेखा में नहीं चलता। कभी-कभी, एक प्रॉम्प्ट को "अधिक विशिष्ट" बनाने से अनजाने में इमेज खराब (कम सुरक्षित) हो सकती है।
उपमा: पुराने तरीके पटरी पर चलने वाली ट्रेन की तरह थे—उन्हें सीधा जाना था। Conf-Gen एक नक्शे के साथ हाइकर (पैदल यात्री) की तरह है। हाइकर ऊपर, नीचे या बगल में जा सकता है, जब तक कि वह अंततः "सुरक्षित क्षेत्र" तक न पहुँच जाए। Conf-Gen इन घुमावों और मोड़ों को संभाल सकता है और फिर भी आपको गारंटी दे सकता है।

4. शोध पत्र से वास्तविक दुनिया के उदाहरण

लेखकों ने इसकी लचीलापन दिखाने के लिए कई "नोवेल" (नवीन) कार्यों पर इसका परीक्षण किया:

"एंटी-प्लेजरिज्म" कलाकार: उन्होंने एक इमेज जनरेटर (Stable Diffusion) पर इसका उपयोग किया। लक्ष्य यह सुनिश्चित करना था कि AI ने किसी प्रसिद्ध पेंटिंग की नकल नहीं की है। Conf-Gen ने एक फ़िल्टर के रूप में कार्य किया, यह सुनिश्चित करते हुए कि दिखाई गई छवियां उच्च विश्वास के साथ "गैर-यादगार" (मौलिक) थीं।
"स्पष्टीकरण करने वाला" चैटबॉट: उन्होंने एक संवादात्मक AI पर इसका उपयोग किया। लक्ष्य यह सुनिश्चित करना था कि बॉट उत्तर देने से पहले पर्याप्त फॉलो-अप प्रश्न पूछे। Conf-Gen ने गारंटी दी कि बॉट एक अस्पष्ट प्रश्न का उत्तर देने के लिए केवल अनुमान नहीं लगाएगा; यह तब तक सवाल पूछता रहेगा जब तक कि प्रश्न पर्याप्त स्पष्ट न हो जाए।
"एजेंट" प्लानर: उन्होंने एक AI एजेंट पर इसका उपयोग किया जो होटल बुक करने या ऑनलाइन पेपर खोजने की कोशिश कर रहा था। Conf-Gen ने सुनिश्चित किया कि AI के प्लान के सफल होने की उच्च संभावना है, इससे पहले कि उपयोगकर्ता उसे आज़माए।
"ट्री" सेलेक्टर: उन्होंने एक क्लासिक रैंडम फॉरेस्ट (एक प्रकार का पुराना AI) पर भी इसका उपयोग किया। पूरे 100 पेड़ों के बजाय, Conf-Gen ने सही उत्तर की गारंटी देने के लिए आवश्यक पेड़ों के सबसे छोटे समूह को चुना, जिससे कंप्यूटर पावर की बचत हुई।

सारांश

Conf-Gen एक नया टूलकिट है जो आपको किसी भी जेनेरेटिव AI के नीचे एक "सुरक्षा जाल" (safety net) रखने की अनुमति देता है।

इसे यह जानने की आवश्यकता नहीं है कि AI कैसे काम करता है।
इसे AI के पूर्ण होने की आवश्यकता नहीं है।
इसे बस आउटपुट को स्कोर करने के एक तरीके की आवश्यकता है।

इस पद्धति का उपयोग करके, आप अपने AI से कह सकते हैं: "मुझे परवाह नहीं है कि आप उत्तर कैसे निकालते हैं, लेकिन मैं वादा करता हूँ कि 95% बार, जो उत्तर आप मुझे देंगे वह सही (या सुरक्षित, या मौलिक) होगा।" यह इसे उच्च-दांव वाली स्थितियों में शक्तिशाली, रचनात्मक AI का उपयोग करने में सक्षम बनाता है जहाँ आप गलत होने का जोखिम नहीं उठा सकते।

तकनीकी सारांश: Conf-Gen: जनरेटिव मॉडल्स के लिए कॉन्फॉर्मल अनसर्टेंटी क्वांटिफिकेशन (Conformal Uncertainty Quantification)

समस्या विवरण (Problem Statement)

हाल के वर्षों में आर्टिफिशियल इंटेलिजेंस में हुई महत्वपूर्ण प्रगति, विशेष रूप से अनसुपरवाइज्ड जनरेटिव मॉडल्स जैसे कि लार्ज लैंग्वेज मॉडल्स (LLMs) और इमेज जनरेटर्स ने, पारंपरिक सुपरवाइज्ड लर्निंग के परिदृश्य को बदल दिया है। हालाँकि, अनसर्टेंटी क्वांटिफिकेशन (UQ) इन जनरेटिव सिस्टम्स के लिए एक गंभीर चुनौती बना हुआ है, जो स्वास्थ्य सेवा (healthcare) और वैज्ञानिक खोज जैसे उच्च-जोखिम वाले क्षेत्रों में उनकी तैनाती में बाधा डालता है।

जबकि कॉन्फॉर्मल प्रेडिक्शन (CP) और कॉन्फॉर्मल रिस्क कंट्रोल (CRC) सुपरवाइज्ड लर्निंग के लिए कठोर, डिस्ट्रीब्यूशन-फ्री फ्रेमवर्क प्रदान करते हैं, वे जनरेटिव कार्यों के साथ सीधे संगत नहीं हैं। जनरेटिव मॉडल्स पर कॉन्फॉर्मल विचारों को लागू करने के मौजूदा प्रयास अक्सर कार्य-विशिष्ट होते हैं, वे प्रतिबंधात्मक मान्यताओं (जैसे उपयोगिता कार्यों की सख्त मोनोटोनिसिटी) पर निर्भर करते हैं, और केवल सेट-वैल्यूड आउटपुट तक सीमित होते हैं। इसके अलावा, वर्तमान कार्यान्वयन के लिए अक्सर ग्राउंड ट्रुथ लेबल और कॉलेबल यूटिलिटी फंक्शन्स की आवश्यकता होती है, जो खुले-अंत वाले (open-ended) जनरेटिव परिदृश्यों में हमेशा उपलब्ध नहीं होते हैं।

कार्यप्रणाली: Conf-Gen फ्रेमवर्क (Methodology: Conf-Gen Framework)

लेखक Conf-Gen (Conformal Generation) का प्रस्ताव करते हैं, जो एक सामान्य फ्रेमवर्क है जो CRC को जनरेटिव कार्यों के लिए अनुकूलित करता है और इसके सैद्धांतिक अनुमानों को शिथिल (relax) करता है। Conf-Gen पिछले कार्य-विशिष्ट प्रयासों को एकीकृत करता है और कॉन्फॉर्मल कार्यप्रणाली को अनुक्रमों (sequences) और सरल सेट्स से परे स्ट्रक्चर्ड आउटपुट्स सहित नए डोमेन में विस्तारित करता है।

मुख्य घटक (Core Components)

यह फ्रेमवर्क एक कैलिब्रेशन डेटासेट $G_{:n} = \{(X^{(i)}, Y^{(i)}, Y^{(i)}_{GT})\}_{i=1}^n$ पर कार्य करता है, जहाँ $X$ इनपुट है, $Y$ जेनरेशन का एक अनुक्रम है, और $Y_{GT}$ वैकल्पिक ग्राउंड ट्रुथ है। इसमें तीन मुख्य घटक शामिल हैं:

सिलेक्शन फंक्शन्स ( $C_\lambda$ ): एक संभावित रूप से स्टोकेस्टिक फंक्शन्स का परिवार $C_\lambda: \mathcal{X} \times \mathcal{Y}^* \to \mathcal{S}$ , जो एक पैरामीटर $\lambda$ द्वारा इंडेक्स किया गया है। पारंपरिक CP के विपरीत, जो सेट्स आउटपुट करता है, $\mathcal{S}$ अनुक्रम ( $\mathcal{Y}^*$ ) या अन्य स्ट्रक्चर्ड आउटपुट्स हो सकते हैं। सहज रूप से, बड़े $\lambda$ मान अधिक रूढ़िवादी (conservative) आउटपुट उत्पन्न करते हैं (जैसे, छोटे अनुक्रम या सख्त सबसेट्स) जो उच्च एडमिसिबिलिटी (admissibility) प्राप्त करते हैं।
एडमिसिबिलिटी फंक्शन ( $A$ ): एक फंक्शन $A: \mathcal{X} \times \mathcal{S} \times \mathcal{Y}_{GT} \to [0, \infty)$ जो CRC में उपयोगिता (utility) फंक्शन का सामान्यीकरण करता है। यह चयनित आउटपुट की गुणवत्ता को मापता है। महत्वपूर्ण रूप से, $A$ को कॉलेबल फंक्शन होने की आवश्यकता नहीं है; इसे मानव मूल्यांकन या उन प्रक्रियाओं द्वारा परिभाषित किया जा सकता है जहाँ ग्राउंड ट्रुथ अनिर्धारित है।
कैलिब्रेशन (Calibration): यह विधि एक थ्रेशोल्ड $\hat{\lambda}$ पाती है ताकि कैलिब्रेशन डेटासेट पर औसत एडमिसिबिलिटी लक्ष्य $\gamma$ को पूरा करे। औपचारिक रूप से, $\hat{\lambda} = \inf \{ \lambda \in \Lambda : \bar{A}_n(\lambda) \ge \frac{n+1}{n}\gamma \}$ ।

सैद्धांतिक योगदान (Theoretical Contributions)

Conf-Gen एक $\gamma$ -sensible इंस्टेंस परिभाषा पेश करता है जो CRC की मान्यताओं को शिथिल करता है:

शिथिल मोनोटोनिसिटी (Relaxed Monotonicity): CRC में लगभग-निश्चित (almost surely) गैर-घटते होने की सख्त आवश्यकता के बजाय, Conf-Gen केवल यह मांग करता है कि मैप $\lambda \mapsto \mathbb{E}[A^{(n+1)}(\lambda) \mid \hat{\lambda}, \lambda^*]$ कंडीशनल एक्सपेक्टेशन में गैर-घटता हो। यह उन परिदृश्यों की अनुमति देता जहाँ $\lambda$ और एडमिसिबिलिटी के बीच का संबंध हर वास्तविक स्थिति (realization) में सख्त रूप से मोनोटोनिक नहीं है, लेकिन अपेक्षा (expectation) में है।
सामान्यीकृत आउटपुट स्पेस (Generalized Output Spaces): यह फ्रेमवर्क सेट्स से परे आउटपुट्स (जैसे अनुक्रम) का समर्थन करता है, जिससे उत्तरों के सब-सीक्वेंस या क्रियाओं के सब-सेट को चुनने जैसे अनुप्रयोगों को सक्षम बनाया जाता है।
ग्राउंड ट्रुथ की आवश्यकता नहीं (No Ground Truth Requirement): यह फ्रेमवर्क प्रत्येक इंस्टेंस के लिए सख्ती से एक सुपरिभाषित ग्राउंड ट्रुथ $Y_{GT}$ की आवश्यकता नहीं रखता है, जो उन ओपन-एंडेड कार्यों को समायोजित करता है जहाँ एडमिसिबिलिटी मानव मूल्यांकन या सिमेंटिक कंसिस्टेंसी द्वारा निर्धारित की जाती है।

कम्प्यूटेशनल दक्षता (Computational Efficiency)

पेपर उन डिज़ाइन पैटर्न की पहचान करता है जो Conf-Gen को कम्प्यूटेशनल रूप से व्यवहार्य बनाते हैं:

स्कोर-आधारित चयन (Score-Based Selection): व्यक्तिगत तत्वों पर दिए गए स्कोर के आधार पर $C_\lambda$ को परिभाषित करके (उदाहरण के लिए, उन तत्वों को चुनना जहाँ $S_\downarrow(x, y_t) \le \lambda$ ), सिलेक्शन फंक्शन का इमेज (image) परिमित हो जाता है, जिससे अनंत $\Lambda$ के साथ भी कुशल कैलिब्रेशन संभव होता है।
इंस्टेंस-लेवल डीकंपोजिशन (Instance-Level Decomposition): यदि एडमिसिबिलिटी फंक्शन को इंस्टेंस-लेवल स्कोर के एक एग्रीगेशन में विघटित किया जा सकता है (जैसे, $A = \text{agg}(A'_1, \dots, A'_T)$ ), तो कैलिब्रेशन को सभी जनरेटेड तत्वों पर $A'$ का मूल्यांकन करके किया जा सकता है, जो $\lambda$ के चुनाव से मूल्यांकन को अलग कर देता है।
आंशिक जेनरेशन (Partial Generation): कई मामलों में, सिस्टम जब चयन मानदंड पूरे हो जाते हैं, तो जल्दी ही अनुक्रम बनाना बंद कर सकता है, जिससे कम्प्यूटेशनल संसाधनों की बचत होती है।

मुख्य योगदान (Key Contributions)

फ्रेमवर्क: जनरेटिव मॉडल्स के लिए एक कठोर UQ फ्रेमवर्क के रूप में Conf-Gen का प्रस्ताव करता है, जो अनुक्रमों और स्ट्रक्चर्ड आउटपुट्स के लिए CRC का सामान्यीकरण करता है।
सिद्धांत: CRC की मोनोटोनिसिटी धारणा को 'लगभग-निश्चित' (almost-sure) स्थिति से बदलकर 'कंडीशनल एक्सपेक्टेशन' स्थिति में शिथिल करता है, जिससे उन कार्यों के लिए इसकी प्रयोज्यता बढ़ जाती है जहाँ सख्त मोनोटोनिसिटी मौजूद नहीं होती है।
सॉफ्टवेयर: विभिन्न कॉन्फ़िगरेशन में कुशल कैलिब्रेशन और इन्फरेंस के लिए एक लचीला पायथन पैकेज (conf-gen) प्रदान करता है।
अनुभवजन्य सत्यापन (Empirical Validation): LLM प्रश्नोत्तर (question answering) में स्टेट-ऑफ-द-आर्ट बेसलाइन्स से बेहतर प्रदर्शन करते हुए, विविध कार्यों पर इसकी बहुमुखी प्रतिभा को सिद्ध करता है और कई नए डोमेन के लिए पहले कॉन्फॉर्मल गारंटी स्थापित करता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखक विविध कार्यों पर Conf-Gen को मान्य करते हैं, यह दिखाते हुए कि यह कॉन्फॉर्मल गारंटी (एम्पिरिकल एडमिसिबिलिटी $\ge \gamma$ ) को पूरा करता है जबकि व्यावहारिक उपयोगिता (बेसलाइन की तुलना में छोटे अनुक्रम या उच्च गुणवत्ता वाले आउटपुट) बनाए रखता है।

ओपन-डोमेन प्रश्नोत्तर (Open-Domain Question Answering): TriviaQA डेटासेट पर, Conf-Gen बेसलाइन (Quach et al., 2024) की तुलना में छोटे उत्तर अनुक्रम उत्पन्न करता है, जबकि समान कवरेज गारंटी बनाए रखता है, जिससे LLM कॉल्स की संख्या कम हो जाती है।
गैर-मेमोराइज्ड इमेज जेनरेशन (Non-Memorized Image Generation): Stable Diffusion पर लागू करते हुए, Conf-Gen उन छवियों का चयन करता है जिन्हें मानव मूल्यांकनकर्ताओं द्वारा "गैर-मेमोराइज्ड" (अर्थात, प्रशिक्षण डेटा की प्रतियां नहीं) के रूप में सत्यापित किया गया है, जो $\gamma$ की गारंटीकृत संभावना के साथ। यह जनरेटिव मॉडल्स से जुड़े कॉपीराइट जोखिमों को संबोधित करता है।
कन्वर्सेशनल AI (Conversational AI): यह फ्रेमवर्क यह सुनिश्चित करता है कि चैटबॉट उत्तर देने से पहले अस्पष्टता को दूर करने के लिए पर्याप्त स्पष्टीकरण प्रश्न पूछे। परिणाम दिखाते हैं कि एक ट्रेड-ऑफ है जहाँ उच्च $\gamma$ अधिक स्पष्टीकरण की ओर ले जाता है, लेकिन सिस्टम अधिकतम संभव प्रश्नों को पूछने पर डिफॉल्ट नहीं होता है।
एजेंटिक AI (Agentic AI): वेब-आधारित कार्यों (WebVoyager डेटासेट) के लिए, Conf-Gen गारंटी देता है कि चुना गया एजेंट ट्राजेक्टरी का अनुक्रम $\gamma$ की संभावना के साथ कम से कम एक सफल समाधान प्रदान करेगा।
रैंडम फॉरेस्ट (Random Forests): फ्रेमवर्क को सुपरवाइजड लर्निंग में रैंडम फॉरेस्ट से पेड़ों के एक उपसमुच्चय (subset) को चुनने के लिए लागू किया गया है जो सही भविष्यवाणियों की न्यूनतम संख्या की गारंटी देता है, जो जनरेटिव मॉडल्स से परे इसकी व्यापकता को प्रदर्शित करता है।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि Conf-Gen जनरेटिव मॉडल्स के लिए बेहतर अनसर्टेंटी क्वांटिफिकेशन की दिशा में एक महत्वपूर्ण कदम है। CRC की सैद्धांतिक मान्यताओं को शिथिल करके, यह बिना ग्राउंड ट्रुथ या सख्त मोनोटोनिसिटी वाले व्यापक श्रेणी के जनरेटिव कार्यों पर कॉन्फॉर्मल गारंटी लागू करने में सक्षम बनाता है।

लेखक इस बात पर जोर देते हैं कि उनका कार्य नए कॉन्फॉर्मल अनुप्रयोगों के लिए एक आधार स्थापित करता है, जैसे यह सुनिश्चित करना कि जनरेटेड चित्र मेमोराइज्ड नहीं हैं या यह सत्यापित करना कि AI एजेंटों ने पर्याप्त स्पष्टीकरण प्रश्न पूछे हैं। वे तर्क देते हैं कि ये सुधार AI सिस्टम की विश्वसनीयता को बढ़ा सकते हैं, जिससे सुरक्षा-महत्वपूर्ण (safety-critical) अनुप्रयोगों में उनकी तैनाती सुगम हो सकेगी। पेपर सामाजिक प्रभाव के संबंध में एक मध्यम स्वर बनाए रखता है, यह स्वीकार करते हुए कि जबकि UQ विश्वसनीयता में सुधार कर सकता है, यह संभावित रूप से दुर्भावनापूर्ण अनुप्रयोगों को भी बढ़ा सकता है, हालांकि शुद्ध प्रभाव सकारात्मक होने की उम्मीद है।

यह कार्य यह दावा नहीं करता है कि इसने सभी UQ चुनौतियों को हल कर दिया है, बल्कि यह एक लचीला, सैद्धांतिक रूप से सुदृढ़ फ्रेमवर्क प्रदान करता है जो मौजूदा दृष्टिकोणों को एकीकृत करता है और जनरेटिव AI के युग में कठोर अनसर्टेंटी कंट्रोल के नए मार्ग खोलता है।