🤖 machine learning

Wasserstein Distributionally Robust Regret Optimization

मूल लेखक: Lukas-Benedikt Fiechtner, Jose Blanchet

प्रकाशित 2026-06-30

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Lukas-Benedikt Fiechtner, Jose Blanchet

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक समाचार पत्र विक्रेता (Newspaper Vendor) हैं। हर सुबह, आपको यह तय करना होता है कि कितने अखबार खरीदने हैं, इससे पहले कि आपको पता चले कि वास्तव में कितने लोग उन्हें खरीदना चाहेंगे।

यदि आप बहुत कम खरीदते हैं, तो आप बिक्री का अवसर खो देते हैं (पछतावा/regret)।
यदि आप बहुत अधिक खरीदते हैं, तो आपके पास बिना बिके अखबार बच जाते हैं जिन्हें आपको फेंकना पड़ता है (नुकसान/loss)।

द दशकों से, विक्रेताओं को दी जाने वाली मानक सलाह रही है: "अपने पिछले बिक्री डेटा को देखें और औसत का अनुमान लगाएं।" इसे ERM (एम्पिरिकल रिस्क मिनिमाइजेशन) कहा जाता है। यह ऐसा है जैसे कहना, "पिछले हफ्ते मैंने औसतन 100 अखबार बेचे थे, इसलिए मैं आज भी 100 ही खरीदूँगा।"

लेकिन क्या होगा अगर मौसम बदल जाए? क्या होगा अगर कोई उत्सव हो जाए? पिछला डेटा भविष्य को प्रतिबिंबित नहीं कर सकता। इससे बचने के लिए, DRO (डिस्ट्रिब्यूशनली रोबस्ट ऑप्टिमाइजेशन) नामक एक नया तरीका बनाया गया। यह एक पैरानॉयड विक्रेता (Paranoid Vendor) की तरह है। पैरानॉयड विक्रेता सोचता है, "मेरे डेटा की एक उचित सीमा के भीतर सबसे खराब संभव स्थिति क्या हो सकती है?" वे कम अखबार खरीदते हैं ताकि वे कभी पैसा न गंवाएं, भले ही इसका मतलब एक अच्छे दिन में होने वाले भारी मुनाफे को छोड़ देना ही क्यों न हो।

समस्या: पैरानॉयड विक्रेता बहुत डरा हुआ है। वह "अपसाइड" (मुनाफे) को इतना ज्यादा खो देता है कि वह जितना हो सकता था उससे कहीं अधिक गरीब रह जाता है।

इस शोध पत्र का समाधान: लेखक एक नई रणनीति पेश करते हैं जिसे DRRO (डिस्ट्रिबशनल रोबस्ट रिग्रेट ऑप्टिमाइजेशन) कहा जाता है। "सबसे खराब संभव नुकसान" से बचने के बजाय, DRRO विक्रेता पूछता है: "भविष्य को न जान पाने के कारण मुझे कितने पैसे का नुकसान हुआ?"

वे अपने निर्णय की तुलना उस परफेक्ट निर्णय से करते हैं जो उन्होंने तब लिया होता यदि उन्हें मौसम का सटीक ज्ञान होता। वे सभी संभावित परिदृश्यों में अपने वास्तविक लाभ और उस "परफेक्ट" लाभ के बीच के अंतर को कम करने की कोशिश करते हैं।

यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) के माध्यम से विवरण दिया गया है:

1. "अच्छी खबर" वाला क्षेत्र: जब आपको चिंता करने की आवश्यकता नहीं होती

लेखकों ने पाया कि कई "सामान्य" स्थितियों में (जहाँ डेटा सुचारू है और अनिश्चितता कम है), आपको अपनी रणनीति बदलने की आवश्यकता नहीं है।

उपमा: कल्पना कीजिए कि आप एक सीधे, समतल हाईवे पर गाड़ी चला रहे हैं जहाँ दृश्यता अच्छी है। आपको एक रक्षात्मक, धीमी ड्राइवर (DRO) की तरह गाड़ी चलाने की जरूरत नहीं है। आप बस गति सीमा पर गाड़ी चला सकते हैं (ERM), और आप ठीक रहेंगे।
गणित: यदि आपका लाभ वक्र (profit curve) सुचारू है और अखबार खरीदने के लिए केवल एक "सर्वश्रेष्ठ" संख्या है, तो "रिग्रेट" रणनीति कहती है: "मानक औसत के साथ बने रहें।" "पैरानॉयड" रणनीति यहाँ वास्तव में अति-प्रतिक्रिया दे रही है। पेपर यह सिद्ध करता है कि सरल, सुचारू समस्याओं (जैसे क्वाड्रेटिक मैथ) के लिए, मानक विधि पहले से ही उत्तम है।

2. "दिलचस्प" क्षेत्र: जब आपको एक नई रणनीति की आवश्यकता होती है

जब चीजें अस्त-व्यस्त हो जाती हैं, तो यह शोध पत्र रोमांचक हो जाता है। क्या होगा यदि लाभ वक्र में तीखे कोने हों (जैसे बिक्री में अचानक गिरावट)? या क्या होगा यदि अनिश्चितता बहुत बड़ी हो (एक बड़ा तूफान आ रहा हो)?

उपमा: अब आप धुंध भरे पहाड़ी रास्ते पर गाड़ी चला रहे हैं। "पैरॉयड" ड्राइवर (DRO) पूरी तरह रुक जाएगा या 5 मील प्रति घंटे की रफ्तार से चलेगा। "मानक" ड्राइवर (ERM) बहुत तेज गाड़ी चला सकता है और दुर्घटनाग्रस्त हो सकता है।
DRRO दृष्टिकोण: रिग्रेट ड्राइवर सड़क को देखता है और कहता है, "यदि मैं 20 मील प्रति घंटे की रफ्तार से चलता हूँ, तो मैं एक शानदार दृश्य खो सकता हूँ, लेकिन यदि मैं 5 मील प्रति घंटे की रफ्तार से चलता हूँ, तो मैं निश्चित रूप से दृश्य खो दूँगा। मैं दुर्घटना होने के जोखिम और दृश्य देखने के जोखिम के बीच संतुलन बनाने के लिए 15 मील प्रति घंटे की रफ्तार से चलूँगा।"
परिणाम: इन अस्त-व्यस्त स्थितियों में, DRRO रणनीति अक्सर आपको पैरानॉयड रणनीति की तुलना में अधिक आक्रामक (अधिक अखबार खरीदना) होने के लिए कहती है, लेकिन मानक रणनीति की तुलना में अधिक रूढ़िवादी होने के लिए कहती है। यह इस आधार पर अनुकूलित होती है कि "अपसाइड" (पैसा कमाना) "डाउनसाइड" (नुकसान होना) से बड़ा है या नहीं।

3. "कठिन गणित" की समस्या

लेखकों ने एक बड़ी बाधा पाई: परफेक्ट रिग्रेट रणनीति की गणना करना अविश्वसनीय रूप से कठिन है।

उपमा: एक ऐसे भूलभुलैया (maze) में सही रास्ता खोजने की कोशिश करें जहाँ दीवारें हिल रही हैं, और आपको हर संभावित पथ की हर संभावित "परफेक्ट" पथ के विरुद्ध जांच करनी पड़ती है।
खोज: उन्होंने सिद्ध किया कि कई सामान्य प्रकार की समस्याओं के लिए, सटीक रिग्रेट नंबर निकालना NP-hard है। कंप्यूटर विज्ञान की भाषा में, इसका अर्थ है कि यह एक ऐसे सुडोकू पहेली को हल करने जैसा है जो बड़ा होने पर तेजी से कठिन होता जाता है। सरल नियमों के बावजूद, एक कंप्यूटर को सटीक उत्तर खोजने में ब्रह्मांड की आयु से भी अधिक समय लग सकता है।

4. "जुगाड़" (जादुई ट्रिक)

चूंकि सटीक उत्तर खोजना बहुत कठिन है, इसलिए लेखकों ने एक शॉर्टकट (एक कॉनवेक्स रिलैक्सेशन) बनाया है।

उपमा: असंभव भूलभुलैया को हल करने के बजाय, उन्होंने एक सरलीकृत मानचित्र बनाया है जो असली भूलभुलैया जैसा 99% दिखता है लेकिन उसे हल करना आसान है।
परिणाम: उन्होंने सिद्ध किया कि यह शॉर्टकट बहुत सटीक है। यह एक ऐसा समाधान देता है जो लगभग सटीक वाले के समान ही है, लेकिन इसे सदियों के बजाय सेकंडों में निकाला जा सकता है।
प्रमाण: उन्होंने इसे निम्नलिखित पर परखा:
- समाचार पत्र विक्रेता: यह पूरी तरह से काम कर गया, "आदर्श" रणनीति का बारीकी से पालन करते हुए।
- पोर्टफोलियो मैनेजर: उन्होंने शेयरों में निवेश करने पर इसका परीक्षण किया। मानक "पैरानॉयड" निवेशक अनिश्चितता बढ़ने पर अपना सारा पैसा एक सुरक्षित बचत खाते में डाल देता। "रिग्रेट" निवेशक, इस नई पद्धति का उपयोग करते हुए, कुछ पैसा शेयरों में रखता है क्योंकि भारी लाभ की संभावना जोखिम लेने के लायक थी।

"मुख्य निष्कर्ष" का सारांश

यदि चीजें शांत हैं: मानक औसत (ERM) पर टिके रहें। ज्यादा सोच-विचार न करें।
यदि चीजें अराजक हैं: "पैरानॉयड" दृष्टिकोण (DRO) बहुत डरा हुआ है और अवसर खो देता है। "रिग्रेट" दृष्टिकोण (DRRO) अधिक स्मार्ट है; यह डर और लालच के बीच संतुलन बनाता है।
चुनौती: सटीक रिग्रेट रणनीति की गणना करना कंप्यूटर के लिए एक दुःस्वप्न है।
समाधान: लेखकों ने एक तेज़, सटीक "अनुमान" (approximation) बनाया है जो आपको बिना सुपरकंप्यूटर के इस स्मार्ट रणनीति का उपयोग करने की अनुमति देता है।

संक्षेप में, यह शोध पत्र हमें अनिश्चितता के तहत निर्णय लेने का एक नया तरीका देता है जो पुराने "वर्स्ट-केस" (सबसे खराब स्थिति) तरीकों की तुलना में कम डरा हुआ (less paranoid) है लेकिन केवल औसत का अनुमान लगाने से अधिक स्मार्ट है, और इसमें इसे वास्तविक दुनिया में उपयोग करने के लिए एक व्यावहारिक उपकरण भी शामिल है।

तकनीकी सारांश: वासरस्टीन डिस्ट्रीब्यूशनली रोबस्ट रिग्रेट ऑप्टिमाइज़ेशन (Wasserstein Distributionally Robust Regret Optimization)

समस्या विवरण
अनिश्चितता के तहत निर्णय लेना अक्सर एम्पेरिकल रिस्क मिनिमाइजेशन (ERM) पर निर्भर करता है, जो यह मानता है कि एम्पेरिकल वितरण ही तैनाती के वातावरण का प्रतिनिधित्व करता है। जबकि स्मूथनेस और i.i.d. मान्यताओं के तहत ERM मजबूत आउट-ऑफ-सैंपल गारंटी प्रदान करता है, यह तब विफल हो सकता है जब प्रशिक्षण और तैनाती वितरण अलग-अलग हों। डिस्ट्रीब्यूशनल रोबस्ट ऑप्टिमाइज़ेशन (DRO) एक अस्पष्टता सेट (आमतौर पर एक वासरस्टीन बॉल) पर सबसे खराब स्थिति वाले अपेक्षित नुकसान को कम करके इस समस्या को संबोधित करता है। हालाँकि, DRO का प्रतिकूल (adversarial) ध्यान सबसे खराब स्थिति वाले नुकसान पर केंद्रित होना अत्यधिक रूढ़िवादी नीतियों की ओर ले जा सकता है, विशेष रूप से उन सेटिंग्स में जहाँ ऊपर की ओर बढ़ने की क्षमता विषम (asymmetric) होती है (जैसे, कम लागत, उच्च मार्जिन वाली इन्वेंट्री), जहाँ अनुकूल परिणामों को दबाना उप-इष्टतम होता है।

इस अति-रूढ़िवादिता को कम करने के लिए, यह शोध पत्र ex-ante डिस्ट्रीब्यूशनली रोबस्ट रिग्रेट ऑप्टिमाइज़ेशन (DRRO) का अध्ययन करता है। Ex-post रिग्रेट (जो अनिश्चितता के प्रत्येक विशिष्ट निरूपण के लिए सर्वोत्तम निर्णय के साथ तुलना करता है) या मानक DRO (जो सबसे खराब स्थिति वाले नुकसान को कम करता है) के विपरीत, ex-ante DRRO एक अस्पष्टता सेट पर सबसे खराब स्थिति वाले रिग्रेट को कम करता है। रिग्रेट को एक नीति के अपेक्षित नुकसान और उस विशिष्ट वितरण के लिए इष्टतम नीति के अपेक्षित नुकसान के बीच के अंतर के रूप में परिभाषित किया गया है। यह शोध पत्र वासरस्टीन DRRO (WDRDR) पर ध्यान केंद्रित करता है, जो एक एम्पेरिकल संदर्भ वितरण पर केंद्रित टाइप- $p$ वासरस्टीन अस्पष्टता सेटों का उपयोग करता है।

कार्यप्रणाली और सैद्धांतिक ढांचा
यह शोध पत्र WDRRO के संरचनात्मक और कम्प्यूटेशनल सिद्धांत को विकसित करता है, जिसे "नियमित" (regular) शासन जहाँ ERM पर्याप्त है, और "जटिल" (complex) शासन जहाँ WDRRO के स्पष्ट लाभ हैं, के बीच एक द्वैत के रूप में व्यवस्थित किया गया है।

संवेदनशीलता सिद्धांत और ERM चयन:
- अद्वितीय ERM ऑप्टिमाइज़र: स्मूथनेस और नियमितता की शर्तों के तहत एक अद्वितीय ERM ऑप्टिमाइज़र के साथ, यह शोध पत्र सिद्ध करता है कि WDRRO का वासरस्टीन त्रिज्या $\delta$ के प्रति शून्य प्रथम-क्रम संवेदनशीलता (zero first-order sensitivity) है। विशेष रूप से, निकट-इष्टतम WDRRO निर्णय $\theta_\delta = \theta_{ERM} + o(\delta)$ का पालन करते हैं। यह मानक वासरस्टीन DRO के विपरीत है, जो आमतौर पर $O(\delta)$ के क्रम में ERM से विचलित होता है।
- गैर-अद्वितीय ERM ऑप्टिमाइज़र: जब ERM समाधान सेट गैर-अद्वितीय होता है, तो WDRRO एक रेगुलराइज़र के रूप में कार्य करता है, जो उन ERM समाधानों का चयन करता है जो अन्य ERM समाधानों के विरुद्ध सबसे खराब स्थिति वाले ग्रेडिएंट विसंगति (gradient discrepancy) को कम करते हैं (एक मिनिमैक्स ग्रेडिएंट-डिस्क्रिपेंसी गेम)।
- क्वाड्रेटिक लॉस (Quadratic Losses): सख्ती से उत्तल (strictly convex) क्वाड्रेटिक लॉस के लिए वासरस्टीन ऑर्डर $p \ge 2$ के साथ, यह शोध पत्र स्थापित करता है कि ERM नीति किसी भी त्रिज्या $\delta$ के लिए सटीक रूप से WDRRO-इष्टतम है, न कि केवल स्पर्शोन्मुख (asymptotically) रूप से।
कम्प्यूटेशनल शासन और कठिनाई (Hardness):
- शोध पत्र पहचान करता है कि जब धारणाएं विफल हो जाती हैं (जैसे, नॉन-स्मूथ लॉस, बड़े रेडियस), तो WDRRO कम्प्यूटेशनल रूप से नाजुक हो जाता है।
- NP-Hardness: लेखक सिद्ध करते हैं कि टाइप-1 वासरस्टीन दूरी और $\ell_1$ ग्राउंड नॉर्म का उपयोग करते हुए, सरल मैक्स-एफिन (max-affine) लॉस के लिए भी WDRRO रिग्रेट का मूल्यांकन करना NP-hard है जिसमें द्विपद (bilinear) पद नहीं हैं। यह कठिनाई तब भी बनी रहती है जब आंतरिक वासरस्टीन जोखिम गणना योग्य (tractable) हो, जो WDRRO को मानक WDRO, RO, और RRO से अलग करती है, जो समान लॉस क्लास के लिए गणना योग्य रहते हैं।
एल्गोरिथमिक समाधान:
- सटीक एल्गोरिदम: मध्यम आकार के उदाहरणों के लिए, यह शोध पत्र वासरस्टीन द्वैत (duality) का उपयोग करके रिग्रेट का एक परिमित गैर-उत्तल (nonconvex) सूत्रीकरण व्युत्पन्न करता है। यह एक ग्राउंड-ट्रुथ बेंचमार्क के रूप में कार्य करता है।
- कॉन्वेक्स रिलैक्सेशन (Convex Relaxations): बड़े परिदृश्यों को संभालने के लिए, लेखक गणना योग्य कॉन्वेक्स रिलैक्सेशन विकसित करते हैं।
  - उन लॉस के लिए जिनमें द्विपद पद नहीं हैं ( $d_k=0$ ), वे ex-post रिग्रेट को ऊपरी सीमा देने वाला एक एकल कॉन्वेक्स प्रोग्राम व्युत्पन्न करते हैं। यह रिलैक्सेशन $\delta=0$ पर और सपोर्ट व्यास से बड़े रेडियस पर सटीक है, और इसमें $O(\delta)$ का अपीटन गैप (approximation gap) है।
  - उन लॉस के लिए जिनमें द्विपद पद हैं ( $d_k \neq 0$ ), वे एक लोकल-कवर एक्सटेंशन प्रस्तावित करते हैं। बेंचमार्क सेंटर्स के साथ निर्णय स्थान को कवर करके, वे क्रॉस-टर्म्स का अनुमान लगाते हैं, जिससे एक अतिरिक्त त्रुटि पद उत्पन्न होता है जो कवरिंग रेडियस $\rho$ पर निर्भर करता है (विशेष रूप से $O(\rho \delta)$ )।

प्रमुख परिणाम और प्रयोग
शोध पत्र न्यूस्वेंडर समस्याओं और मीन-CVaR पोर्टफोलियो आवंटन पर नए संख्यात्मक प्रयोगों के माध्यम से अपने सिद्धांत और एल्गोरिदम को मान्य करता है:

न्यूस्वेंडर समस्या (Newsvendor Problem):
- कम लागत, उच्च मार्जिन वाली सेटिंग में, DRRO नीति अनिश्चितता त्रिज्या बढ़ने के साथ अधिक आक्रामक होती जाती है, जबकि DRO अधिक रूढ़िवादी होती जाती है। यह उस "अपसाइड" क्षमता को पकड़ता है जिसे DRO दबा देता है।
- उच्च लागत वाली सेटिंग में, DRRO अधिक रूढ़िवादी हो जाता है, जो दर्शाता है कि DRRO की प्रतिक्रिया की दिशा पे-ऑफ विषमता (payoff asymmetry) पर निर्भर करती है।
- प्रस्तावित कॉन्वेक्स रिलैक्सेशन सटीक WDRRO समाधान को बारीकी से ट्रैक करता है, जिसमें ऑर्डर मात्रा और रिग्रेट में नगण्य अंतर होता है।
- गणना के मामले में, प्रस्तावित रिलैक्सेशन बड़े सैंपल साइज तक कुशलतापूर्वक स्केल करता है, जबकि एक प्रतिस्पर्धी रिलैक्सेशन (Cho and Yang [14]) सैंपल साइज बढ़ने पर गणनात्मक रूप से कठिन (NP-hard) हो जाता है।
पोर्टफोलियो ऑप्टिमाइज़ेशन (Mean-CVaR):
- सिंगल-एसेट सेटिंग में, DRO त्रिज्या बढ़ने के साथ एक विच्छिन्न (discontinuous) "ऑल-ऑर-नथिंग" व्यवहार प्रदर्शित करता है (पूर्ण निवेश से शून्य निवेश की ओर कूदना)। इसके विपरीत, DRRO नीतियां गैर-मोनोटोनिक व्यवहार प्रदर्शित करती हैं, जो प्रतिकूल वितरणों के विरुद्ध रिग्रेट को संतुलित करने के लिए एक्सपोजर को धीरे-धीरे समायोजित करती हैं।
- मल्टी-एसेट सेटिंग्स में, DRRO रिलैक्सेशन DRO की तुलना में रेडियस की एक विस्तृत श्रृंखला में जोखिम भरी संपत्तियों के लिए सकारात्मक एक्सपोजर बनाए रखता है, जो अंततः जोखिम रहित संपत्ति की ओर स्थानांतरित हो जाता है।
- सैद्धांतिक विश्लेषण बताता है कि बहुत बड़े रेडियस के लिए, रिग्रेट-इष्टतम नीतियां जोखिम भरी संपत्तियों में पूर्ण निवेश की ओर अभिसरित होती हैं (अनबाउंडेड अपसाइड के कारण), जबकि DRO जोखिम रहित संपत्ति की ओर अभिसरित होता है।

महत्व और दावे
शोध पत्र दावा करता है कि यह वासरस्टीन DRRO के लिए पहला व्यापक सिद्धांत और कम्प्यूटेशनल ढांचा प्रदान करता है। इसके प्राथमिक योगदान हैं:

सैद्धांतिक अंतर्दृष्टि: यह स्थापित करना कि नियमित शासन (स्मूथ लॉस, अद्वितीय ERM) में, रिग्रेट-आधारित रोबस्टिफिकेशन अनावश्यक है क्योंकि ERM पहले से ही प्रथम-क्रम इष्टतम है। WDRRO का मूल्य मुख्य रूप से नॉन-स्मूथ या बड़े-रेडियस वाले शासन में उभरता है।
जटिलता पृथक्करण (Complexity Separation): यह प्रदर्शित करना कि मैक्स-एफिन लॉस के लिए WDRRO, मानक रोबस्ट फॉर्मुलेशन (WDRO, RO, RRO) की तुलना में कम्प्यूटेशनल रूप से कठिन है, विशेष रूप रूप से बेंचमार्क निर्णय पर बाहरी मैक्सिमाइजेशन के कारण।
व्यावहारिक एल्गोरिदम: WDRRO मूल्यांकन के लिए पहले सटीक एल्गोरिदम और एक नया वर्ग के कॉन्वेक्स रिलैक्सेशन प्रदान करना जो गणना योग्य, स्केलेबल और परिमित-रेडियस गारंटी प्रदान करते हैं।
व्यवहार संबंधी सूक्ष्मता: यह दिखाना कि DRRO, जो सबसे खराब स्थिति वाले लॉस DRO द्वारा छोड़ा जाता है, वह लॉस-निर्भर आक्रामक या रूढ़िवादी व्यवहार को कैप्चर कर सकता है, विशेष रूप से विषम पे-ऑफ वातावरण में।

लेखक निष्कर्ष निकालते हैं कि जबकि सौम्य (benign) शासन में ERM पर्याप्त है, WDR_DRRO जटिल, नॉन-स्मूथ, या उच्च-दांव (high-stakes) वाले परिदृश्यों में वितरण संबंधी गलत विवरण (distributional misspecification) को संभालने के लिए एक आवश्यक उपकरण है, बशर्ते कि कम्प्यूटेशनल जटिलता को प्रबंधित करने के लिए विकसित रिलैक्सेशंस का उपयोग किया जाए।

1. "अच्छी खबर" वाला क्षेत्र: जब आपको चिंता करने की आवश्यकता नहीं होती

2. "दिलचस्प" क्षेत्र: जब आपको एक नई रणनीति की आवश्यकता होती है

3. "कठिन गणित" की समस्या

4. "जुगाड़" (जादुई ट्रिक)

"मुख्य निष्कर्ष" का सारांश

इसी तरह के और पेपर