📊 statistics

Conformal Risk-Averse Decision Making with Action Conditional Guarantee

यह शोधपत्र जोखिम-अघांत निर्णय लेने के लिए स्पष्ट, क्रिया-विशिष्ट सुरक्षा गारंटी प्रदान करने हेतु एक्शन-कंडीशनल कॉन्फॉर्मल प्रेडिक्शन पेश करता है, जो एक परिमित-नमूना एल्गोरिदम प्रस्तुत करता है जो वास्तविक दुनिया के डेटासेट पर मौजूदा मार्जिनल-गारंटी बेसलाइन की तुलना में काफी बेहतर प्रदर्शन करता है।

मूल लेखक: Zihan Zhu, Shayan Kiyani, George Pappas. Hamed Hassani

प्रकाशित 2026-06-05

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Zihan Zhu, Shayan Kiyani, George Pappas. Hamed Hassani

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक डॉक्टर, एक वित्तीय सलाहकार, या एक सेल्फ-ड्राइविंग कार हैं। आपके पास एक स्मार्ट कंप्यूटर प्रोग्राम (एक AI) है जो आपको सलाह देता है, जैसे "इस मरीज को निमोनिया है" या "यह स्टॉक खरीदें।" लेकिन AI परफेक्ट नहीं है; यह कभी-कभी गलतियाँ भी करता है।

बड़ा सवाल यह है: हम नुकसान उठाए बिना AI की सलाह पर भरोसा कैसे करें?

यह पेपर AI भविष्यवाणियों के चारों ओर एक "सुरक्षा जाल" (safety net) बनाने का एक नया तरीका पेश करता है, विशेष रूप से उन स्थितियों के लिए जहाँ गलत होने के परिणाम इस बात पर निर्भर करते हैं कि आप कौन सा विशिष्ट विकल्प चुनते हैं।

यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:

1. समस्या: "औसत" सुरक्षा जाल दोषपूर्ण है

कल्पना कीजिए कि आप एक पायलट हैं। आपके पास एक मौसम का पूर्वानुमान है जो कहता है, "औसतन, 95% संभावना है कि आसमान साफ रहेगा।"

पुराना तरीका (Marginal Safety): यह सुनने में बहुत अच्छा लगता है! लेकिन क्या होगा अगर वह "औसत" एक खतरनाक तूफान को छिपा देता है जो केवल तभी आता है जब आप एक विशिष्ट, कठिन हवाई अड्डे पर लैंड कर रहे हों? औसत कहता है कि आप सुरक्षित हैं, लेकिन वह विशिष्ट लैंडिंग एक आपदा बन जाती है।
पेपर का अंतर्दृष्टि (Insight): उच्च-दांव वाले निर्णयों (जैसे चिकित्सा या वित्त) में, हम केवल "औसत" रूप से सुरक्षित नहीं रहना चाहते। हमें हर उस विशिष्ट कार्य के लिए सुरक्षित होने की आवश्यकता है जो हम करते हैं। यदि आप सर्जरी करने का निर्णय लेते हैं, तो आपको गारंटी चाहिए कि सर्जरी सुरक्षित है। यदि आप एंटीबायोटिक्स देने का निर्णय लेते हैं, तो आपको गारंटी चाहिए कि एंटीबायोटिक्स सुरक्षित हैं। आप उन्हें आपस में मिला नहीं सकते।

2. समाधान: "एक्शन-कंडीशनल" सुरक्षा

लेखक इस पद्धति को AC-RAC कहते हैं। इसे हर एक निर्णय के लिए एक व्यक्तिगत बाउंसर की तरह समझें।

पुराना बाउंसर (Standard Conformal Prediction): आपकी आईडी चेक करता है और कहता है, "ठीक है, इस भीड़ में 95% लोग प्रवेश के लिए सुरक्षित हैं।" उसे इस बात से कोई फर्क नहीं पड़ता कि आप संदिग्ध दिख रहे हैं या नहीं।
नया बाउंसर (AC-CTR): आपकी आईडी और आपकी विशिष्ट योजना को चेक करता है।
- यदि आप कहते हैं, "मैं वीआईपी रूम (Action A) में जाना चाहता हूँ," तो बाउंसर चेक करता है: "क्या वीआईपी रूम विशेष रूप से आपके लिए सुरक्षित है?"
- यदि आप कहते हैं, "मैं डांस फ्लोर (Action B) पर जाना चाहता हूँ," तो बाउंसर चेक करता है: "क्या डांस फ्लोर विशेष रूप से आपके लिए सुरक्षित है?"

यह सुनिश्चित करता है कि आप जो भी रास्ता चुनें, आपके पास उस विशिष्ट पथ के लिए एक सत्यापित सुरक्षा गारंटी हो, न कि केवल सामान्य भीड़ के लिए।

3. यह कैसे काम करता है: "पिनबॉल" कैलिब्रेशन

इसे काम करने के लिए, पेपर Pinball Loss से जुड़ी एक चतुर गणितीय तकनीक का उपयोग करता है।

कल्पना कीजिए कि आप एक पिनबॉल मशीन खेल रहे हैं। आप फ्लिपर्स (सुरक्षा थ्रेशोल्ड) को इस तरह सेट करना चाहते हैं कि गेंद (AI की भविष्यवाणी) 95% बार सही जगह पर गिरे।

चुनौती: गेंद का व्यवहार इस बात पर निर्भर करता है कि आप कौन सा फ्लिपर उपयोग करते हैं। यदि आप फ्लिपर A का उपयोग करते हैं, तो गेंद का व्यवहार फ्लिपर B के उपयोग से अलग होगा।
नवाचार: लेखकों ने फ्लिपर्स को ट्यून करने का एक नया तरीका बनाया है। केवल यह देखने के बजाय कि गेंद कुल मिलाकर कहाँ गिरती है, वे यह देखते हैं कि विशेष रूप से फ्लिपर A के उपयोग के दौरान गेंद कहाँ गिरती है, और फिर विशेष रूप से फ्लिपर B के उपयोग के दौरान कहाँ गिरती है।
वे एक "लॉस फंक्शन" (स्कोरकार्ड) का उपयोग करते हैं जो पिनबॉल गेम की तरह काम करता है: यदि गेंद किसी विशिष्ट कार्य के लिए लक्ष्य से चूक जाती है, तो स्कोर बढ़ जाता है, और सिस्टम स्वचालित रूप से सेटिंग्स को ठीक करने के लिए एडजस्ट करता है। वे ऐसा हर संभावित कार्य के लिए एक साथ करते हैं।

4. परिणाम: बेहतर निर्णय, कम आपदाएँ

पेपर ने दो वास्तविक दुनिया के परिदृश्यों पर इसका परीक्षण किया:

चिकित्सा निदान (Medical Diagnosis): यह तय करना कि क्या मरीज को एंटीबायोटिक्स, क्वारंटाइन, या अधिक परीक्षण की आवश्यकता है।
मूवी सिफारिशें (Movie Recommendations): यह तय करना कि किसी उपयोगकर्ता को मूवी की सिफारिश करनी है या नहीं।

उन्होंने क्या पाया:

पुराने तरीके: वे कभी-कभी औसतन सुरक्षित थे, लेकिन विशिष्ट, दुर्लभ या उच्च-जोखिम वाले कार्यों के लिए वे बुरी तरह विफल रहे। उदाहरण के लिए, मेडिकल टेस्ट में, पुराने तरीके लगभग कभी भी "क्वारंटाइन" नहीं चुनते थे, भले ही वह सही कदम था, क्योंकि वे यह गारंटी नहीं दे सकते थे कि वह विशिष्ट चुनाव सुरक्षित है।
नया तरीका (AC-RAC): इसने सही कार्य (दुर्लभ वाले भी शामिल) को सफलतापूर्वक चुना और साबित किया कि वह विशिष्ट चुनाव सुरक्षित था। इसने केवल यह नहीं कहा कि "हम कुल मिलाकर सुरक्षित हैं"; इसने कहा कि "हम सुरक्षित हैं क्योंकि हमने क्वारंटाइन चुना है।"

सारांश उपमा

पुराने तरीके को पूरे देश के लिए मौसम के पूर्वानुमान के रूप में सोचें। यह बताता है कि देश में आमतौर पर धूप खिली रहेगी, इसलिए आप बाहर जा सकते हैं।
नए तरीके (AC-RAC) को आपके विशिष्ट पिछवाड़े (backyard) के लिए व्यक्तिगत मौसम रिपोर्ट के रूप में सोचें। यह बताता है, "यदि आप पिकनिक (Action A) मनाने का निर्णय लेते हैं, तो आपका पिछवाड़ा सुरक्षित है। यदि आप पतंग उड़ाने (Action B) का निर्णय लेते हैं, तो भी आपका पिछवाड़ा सुरक्षित है।"

पेपर यह सिद्ध करता है कि हर निर्णय के लिए इन व्यक्तिगत सुरक्षा जालों को बनाकर, हम प्रदर्शन से बहुत अधिक समझौता किए बिना महत्वपूर्ण स्थितियों में AI को बहुत अधिक विश्वसनीय बना सकते हैं। यह "हम आमतौर पर सुरक्षित हैं" से "हम सुरक्षित हैं जब भी आप यह चुनते हैं" की ओर बढ़ने के बारे में है।

तकनीकी सारांश: एक्शन कंडीशनल गारंटी के साथ कॉन्फॉर्मल रिस्क-अवर्स डिसीजन मेकिंग

1. समस्या का निरूपण (Problem Formulation)

क्लिनिकल मेडिसिन और फाइनेंस जैसे उच्च-जोखिम वाले डोमेन में, मशीन लर्निंग मॉडल उन निर्णय लेने वालों की सहायता करते हैं जिन्हें उपयोगिता (utility) और सुरक्षा (safety) के बीच संतुलन बनाना होता है। मानक कॉन्फॉर्मल प्रेडिक्शन (CP) वितरण-मुक्त (distribution-free), मार्जिनल कवरेज गारंटी ( $P(Y \in C(X)) \ge 1-\alpha$ ) प्रदान करता है। हालांकि, एक रिस्क-अवर्स एजेंट के लिए, जो उपयोगिता फलन $u(a, Y)$ को अनुकूलित (optimize) कर रहा है, मार्जिनल गारंटी अपर्याप्त है। एक नीति जनसंख्या में औसतन सुरक्षित हो सकती है, लेकिन विशिष्ट उच्च-जोखिम वाले कार्यों (जैसे सर्जरी या क्वारंटाइन) के लिए विनाशकारी रूप से विफल हो सकती है।

यह शोध एक्शन-कंडीशनल सेफ्टी (action-conditional safety) की आवश्यकता को संबोधित करता है: यह सुनिश्चित करना कि प्रत्येक क्रिया $a$ के लिए जो एक निर्णय लेने वाला ले सकता है, उच्च-उपयोगिता परिणाम प्राप्त करने की संभावना, उस क्रिया के चुने जाने पर आधारित (conditioned on) कम से कम $1-\alpha$ हो। औपचारिक रूप से, लक्ष्य एक नीति $a(\cdot)$ और एक उपयोगिता प्रमाण-पत्र (utility certificate) $\nu(\cdot)$ खोजना है जो निम्नलिखित प्रतिबंध के अधीन अपेक्षित उपयोगिता $E[\nu(X)]$ को अधिकतम करता है:
$P(u(a(X), Y) \ge \nu(X) \mid a(X) = a) \ge 1 - \alpha, \quad \forall a \in \mathcal{A}$
यह समस्या, जिसे एक्शन-कंडीशनल डिसीजन पॉलिसी ऑप्टिमाइजेशन (AC-DPO) कहा जाता है, चुनौतीपूर्ण है क्योंकि कंडीशनिंग इवेंट $\{a(X)=a\}$ स्वयं नीति के प्रति एंडोजेनस (endogenous) है, जो एक फीडबैक लूप बनाता है जिसे मानक CP विधियाँ संबोधित नहीं करती हैं।

2. कार्यप्रणाली (Methodology)

सैद्धांतिक ढांचा: प्रेडिक्शन सेट्स से पॉलिसियों तक

लेखक कियानी और अन्य (2025b) द्वारा स्थापित कॉन्फॉर्मल प्रेडिक्शन और रिस्क-अवर्स डिसीजन मेकिंग के बीच के संबंध का सामान्यीकरण करते हैं। वे एक्शन-कंडीशनल रिस्क-अवर्स कॉन्फॉर्मल प्रेडिक्शन ऑप्टिमाइजेशन (AC-CPO) पेश करते हैं।

सरोगेट रिलेशनशिप: वे सिद्ध करते हैं कि AC-CPO को हल करना—ऐसे प्रेडिक्शन सेट्स $C(X)$ का निर्माण करना जो एक्शन-क melalui कवरेज बाधाओं को संतुष्ट करते हैं—AC-DPO के लिए एक व्यवहार्य नीति प्रदान करता है। विशेष रूप से, इष्टतम नीति एक मैक्स-मिन नियम के माध्यम से प्राप्त की जाती है: $a(X) = \arg\max_{a} \min_{y \in C(X)} u(a, y)$ ।
पॉपुलेशन-लेवल कैरेक्टराइजेशन: कॉनवेक्स डुअलिटी (convex duality) का उपयोग करते हुए, लेखक समस्या को एक पॉइंटवाइज कवरेज फंक्शन $t(x)$ के संदर्भ में पुन: पैरामीटराइज़ करते हैं। वे स्ट्रॉन्ग डुअलिटी स्थापित करते हैं, जिससे पता चलता है कि इष्टतम समाधान को ट्यूनेबल लैग्रेंज मल्टीप्लायर्स के एक वेक्टर $\lambda = (\lambda_a)_{a \in \mathcal{A}}$ के आधार पर कैरेक्टराइज किया जा सकता है। यह उपयोगिता वितरण के क्वांटाइल्स (quantiles) पर आधारित इष्टतम प्रेडिक्शन सेट्स के लिए एक क्लोज्ड-फॉर्म अभिव्यक्ति की ओर ले जाता है।

फाइनाइट-सैंपल एल्गोरिदम: AC-RAC

पॉपुलेशन-लेवल थ्योरी को एक व्यावहारिक एल्गोरिदम में बदलने के लिए, लेखक एक्शन-कंडीशनल रिस्क-अवर्स कैलिब्रेशन (AC-RAC) प्रस्तावित करते हैं।

एक्शन-विशिष्ट नॉन-कन्फॉर्मिटी स्कोर: वे प्रत्येक क्रिया $a$ के लिए एक नया स्कोर $\lambda^*_a(x, y)$ परिभाषित करते हैं, जो उस थ्रेशोल्ड को दर्शाता है जिस पर परिणाम $y$ , इनपुट $x$ के दिए गए मान के लिए क्रिया $a$ के लिए "असामान्य" (atypical) हो जाता है।
पिनबॉल लॉस मिनिमाइजेशन: साधारण क्वांटाइल कैलिब्रेशन के बजाय, AC-RAC कैलिब्रेशन सेट पर एक पिनबॉल लॉस (क्वांटाइल लॉस) को मिनिमाइज करके $\lambda$ को कैलिब्रेट करता है। लॉस फंक्शन चयनित थ्रेशोल्ड $\lambda_a$ की तुलना इंड्यूस्ड एक्शंस के आधार पर एम्पिरिकल नॉन-कन्फॉर्मिटी स्कोर से करता है।
ऑप्टिमाइजेशन: एल्गोरिदम $\lambda$ को खोजने के लिए प्रोजेक्टेड सबग्रेडिएंट डिसेंट (projected subgradient descent) का उपयोग करता है जो एक्शन-कंडीशनल कवरेज बाधाओं को संतुष्ट करता है।
वैधता (Validity): यह विधि फाइनाइट-सैंपल, डिस्ट्रीब्यूशन-फ्री गारंटी प्रदान करती है। एक्सचेंजएबल डेटा के लिए, कवरेज एरर $O(1/n)$ की दर से घटता है, जो सुनिश्चित करता है कि $P(Y \in C_{final}(X) \mid a_{final}(X) = a) \ge 1 - \alpha$ ।

3. मुख्य योगदान (Key Contributions)

एक्शन-कंडीशनल कॉन्फॉर्मल प्रेडिक्शन: यह पेपर कवरेज की एक नई धारणा पेश करता है जहाँ सुरक्षा गारंटी केवल कोवेरिएट्स के मार्जिनल डिस्ट्रीब्यूशन के बजाय निर्णय लेने वाले द्वारा ली गई क्रिया (action) पर स्पष्ट रूप से कंडिशन की जाती है।
सैद्धांतिक समानता: यह स्थापित करता है कि विशिष्ट कंडीशनल कवरेज स्ट्रक्चर वाले प्रेडिक्शन सेट्स, रिस्क-अवर्स एजेंटों के लिए एक्शन-कंडीशनल वैल्यू-एट-रिस्क (VaR) को ऑप्टिमाइज़ करने के लिए सरोगेट के रूप में कार्य करते हैं।
नया कैलिब्रेशन एल्गोरिदम: लेखक AC-RAC विकसित करते हैं, जो डिस्ट्रीब्यूशन-फ्री एक्शन-कंडीशनल कवरेज प्राप्त करने वाला पहला फाइनाइट-सैंपल एल्गोरिदम है। इसमें पिनबॉल-लॉस मिनिमाइजेशन और एक्शन-विशिष्ट नॉन-कन्फॉर्मिटी स्कोर पर आधारित एक नई डिबायसिंग तकनीक शामिल है।
अनुभवजन्य सत्यापन (Empirical Validation): विधि को दो वास्तविक दुनिया के डेटासेट्स पर सत्यापित किया गया है:
- मेडिकल डायग्नोसिस: COVID-19 रेडियोग्राफी डेटाबेस का उपयोग करते हुए, AC-RAC ने सभी एक्शंस (दुर्लभ एक्शंस जैसे "Quarantine" सहित) के लिए वैध कंडीशनल कवरेज प्रदर्शित किया, जबकि मार्जिनल बेसलाइन्स (RAC, score-1, score-2) विशिष्ट एक्शंस को कवर करने में विफल रहे या डोमिनेंट एक्शंस की ओर झुक गए।
- रेकमेंडर सिस्टम्स: एक मूवी रेकमेंडेशन टास्क में, AC-RAC ने रिस्क-न्यूट्रल बेसलाइन्स की तुलना में प्रतिस्पर्धी वर्स्ट-केस उपयोगिता बनाए रखते हुए क्रिटिकल एरर रेट्स (हानिकारक सिफारिशों) को काफी कम कर दिया।

4. परिणाम और महत्व (Results and Significance)

प्रयोग पुष्टि करते हैं कि AC-RAC, कॉन्फॉर्मल बेसलाइन्स की तुलना में एक्शन-कंडीशनल प्रदर्शन में महत्वपूर्ण सुधार करता है।

सुरक्षा: AC-RAC एकमात्र ऐसा तरीका है जो सभी एक्शन क्लासेस के लिए वैध कंडीशनल कवरेज प्राप्त करता है। मार्जिनल मेथड्स (जैसे RAC) अक्सर सुरक्षित एक्शंस को ओवर-कवर करते हैं और उच्च-जोखिम वाले एक्शंस को अंडर-कवर करते हैं, जिससे विशिष्ट निर्णयों के लिए सुरक्षा गारंटी का उल्लंघन होता है।
उपयोगिता: हालांकि AC-RAC सख्त सुरक्षा बाधाएं लागू करता है, यह प्रतिस्पर्धी वर्स्ट-केस उपयोगिता बनाए रखता है। ट्रेड-ऑफ में सुरक्षा सुनिश्चित करने के लिए प्रेडिक्शन सेट के आकार में मामूली वृद्धि (जैसे मेडिकल टास्क में RAC की तुलना में ~3.7% अधिक) शामिल है।
दुर्लभ क्रियाएं (Rare Actions): एक महत्वपूर्ण निष्कर्ष यह है कि मार्जिनल मेथड्स अक्सर दुर्लभ या कठिन एक्शंस को अनदेखा कर देते हैं (जैसे मेडिकल टास्क में "Quarantine" को 0% बार चुनना), जबकि AC-RAC इन एक्शंस को सफलतापूर्वक कैलिब्रेट करता है, यह सुनिश्चित करता है कि उन्हें बिना सुरक्षा गारंटी के न छोड़ा जाए।

महत्व:
यह पेपर तर्क देता है कि सुरक्षा-क्रिटिकल अनुप्रयोगों में, औसत सुरक्षा अपर्याप्त है। निर्णय लेने वालों को प्रत्येक संभावित निर्णय के लिए मान्य गारंटी की आवश्यकता होती है, न कि केवल औसतन। कॉन्फॉर्मल प्रेडिक्शन को रिस्क-अवर्स डिसीजन थ्योरी के साथ जोड़कर, यह कार्य उन ML मॉडल्स को तैनात करने के लिए एक सिद्धांतिक ढांचा प्रदान करता है जहाँ विश्वसनीयता को प्रति-एक्शन (per-action) प्रमाणित किया जाना चाहिए। लेखक इसे "एक्शन-कंडीशनल सेफ्टी" के लिए एक मौलिक कदम के रूप में प्रस्तुत करते हैं, जो मौजूदा ग्रुप-कंडीशनल या सिलेक्शन-कंडीशनल विधियों से अलग है, क्योंकि यह एक्शन सिलेक्शन की एंडोजेनिटी (endogeneity) को संबोधित करता है।