Unification and Optimization of Robust Supervised Learning

तकनीकी सारांश: सुदृढ़ पर्यवेक्षित शिक्षण का एकीकरण और अनुकूलन

समस्या विवरण

पर्यवेक्षित शिक्षण (supervised learning) में, अभ्यासकर्ताओं को अनिश्चितता के तहत निर्णयों के एक क्रम का सामना करना पड़ता है, जो डेटा संग्रह और लेबलिंग से लेकर मॉडल परिनियोजन (deployment) तक फैला हुआ है। प्रत्येक चरण में, विफलता के स्वरूप (failure modes) उत्पन्न हो सकते हैं, जिनमें सीमित-नमूना क्षय (finite-sample degeneracies - जैसे अपरिपक्व डेटा), लेबल शोर (label noise - व्यक्तिपरक या असंगत एनोटेशन), और वितरण परिवर्तन (distribution shifts - प्रशिक्षण और परिनियोजन वातावरणों के बीच अंतर) शामिल हैं। हालांकि एक विस्तृत साहित्य मौजूद है जो एम्पिरिकल रिस्क मिनिमाइजेशन (ERM) के सुदृढ़ विकल्पों का प्रस्ताव करता है—जैसे कि डिस्ट्रीब्यूशनली रोबस्ट ऑप्टिमाइज़ेशन (DRO), लेबल स्मूथिंग (Label Smoothing), विसिनल रिस्क मिनिमाइजेशन (VRM), और मिक्सअप (Mixup)—ये विधियाँ आमतौर पर अलग-थलग विकसित की जाती हैं।

यह विखंडन अभ्यासकर्ताओं को एक विशिष्ट विफलता मोड और उसके अनुरूप सुदृढ़ता तंत्र (robustness mechanism) के प्रति पूर्व-निर्धारित (a priori) रूप से प्रतिबद्ध होने के लिए मजबूर करता है, भले ही किसी विशिष्ट कार्य के लिए प्रमुख अनिश्चितता का स्रोत स्पष्ट न हो। इसके अलावा, इन विधियों के अंतर्निहित मॉडलिंग विकल्प (डेटा वितरण कैसे दर्शाया जाता है, किन विचलों को प्रशंसनीय माना जाता है, और अनिश्चितता को कैसे हल किया जाता है) विशिष्ट उद्देश्यों के भीतर उलझे हुए हैं, जिससे व्यवस्थित तुलना और संयोजन कठिन हो जाता है। यह शोध पत्र तर्क देता है कि विभिन्न विफलता मोडों को लक्षित करने वाले तंत्र किसी एकल विधि की तुलना में बेहतर प्रदर्शन करने के लिए संयोजित हो सकते हैं जब कई मोड सह-अस्तित्व में हों, फिर भी वर्तमान ढांचे में इन इष्टतम संयोजनों की खोज के लिए एक एकीकृत तरीका नहीं है।

कार्यप्रणाली: एक एकीकृत ढांचा

लेखक एक एकीकृत ढांचे का प्रस्ताव करते हैं जो सुदृढ़ पर्यवेक्षित शिक्षण को तीन ऑर्थोगोनल डिज़ाइन अक्षों (orthogonal design axes) में विभाजित करता है, उन्हें विशिष्ट एल्गोरिदम के निश्चित घटकों के बजाय स्वतंत्र आयामों के रूप में मानता है।

1. तीन डिज़ाइन अक्ष (The Three Design Axes)

ढांचा एक सामान्य सुदृढ़ शिक्षण समस्या को तीन आधारों पर परिभाषित करता है:

• संदर्भ वितरण (Reference Distribution - $P_{ref}$): वह वितरण जिसके आसपास विचलन (perturbations) परिभाषित किए जाते हैं। यह एम्पिरिकल वितरण ($P_n$) या एक स्मूदन या ऑगमेंटेड संस्करण (जैसे VRM या Mixup के माध्यम से) हो सकता है।
• अनिश्चितता सेट (Ambiguity Set - $U(P_{ref})$): इनपुट, लेबल, या दोनों में अनिश्चितता को कैप्चर करने वाला संभावित वितरणों का एक सेट। इसे एक वितरण दूरी $\Delta$ (जैसे वासरस्टीन दूरी या KL डाइवर्जेंस) और एक विचलन त्रिज्या $\varrho$ के माध्यम से परिभाषित किया जाता है। सेट को औपचारिक रूप से $U(P_{ref}) = \{Q \in \mathcal{P}(\mathcal{X} \times \mathcal{Y}) : \Delta(Q, P_{ref}) \leq \varrho\}$ के रूप में परिभाषित किया गया है।
• विभेदक सिद्धांत (Disambiguation Principle - $\Phi$): अनिश्चितता सेट के भीतर अभ्यासकर्ता के दृष्टिकोण को एनकोडिंग करने वाला एक नियम।
  • निराशावादी (Pessimistic): यह मानता है कि विचलन परिनियोजन के बाद के खतरों (जैसे एडवरसैरियल अटैक, कोवेरिएट शिफ्ट) का प्रतिनिधित्व करते हैं और सबसे खराब स्थिति के जोखिम ($\sup$) की तलाश करता है।
  • आशावादी (Optimistic): यह मानता है कि विचलन परिनियोजन से पहले के संदूषण (जैसे लेबल शोर) का प्रतिनिधित्व करते हैं जो आंशिक रूप से सुधारा जा सकता है और सबसे अच्छे मामले के जोखिम ($\inf$) की तलाश करता है।
  • तटस्थ (Neutral): मानक एकत्रीकरण (जैसे एक्सपेक्टेशन) के अनुरूप है।

सामान्य उद्देश्य को इस प्रकार सूत्रित किया गया है:
$$\hat{h}_{robust} = \arg \min_{h \in \mathcal{H}} \Phi_{Q \in U(P_{ref})} \mathbb{E}_{(x,y) \sim Q} [\ell(h(x), y)]$$

2. सैद्धांतिक संबंध

यह शोध पत्र प्रदर्शित करता है कि मौजूदा कई विधियाँ इस ढांचे के विशेष मामले (special cases) हैं, जो इन तीन अक्षों पर विशिष्ट विकल्पों को स्थिर करती हैं। स्क्वेयर्ड लॉस के साथ लीनियर मॉडल्स के लिए, लेखक क्लोज्ड-फॉर्म रिडक्शन निकालते हैं जो दिखाते हैं कि ये विधियाँ रेगुलराइज़र के रूप में कैसे व्यवहार करती हैं:

• VRM (गौसियन नॉइज़): एक $\ell_2$ रेगुलराइज़ेशन टर्म ($\sigma^2 \|w\|^2$) के साथ ERM में बदल जाता है।
• Mixup: लीनियर लीस्ट स्क्वायर्स के लिए, Mixup मिनीमाइज़र को ERM की तुलना में अपरिवर्तित छोड़ देता है, क्योंकि यह रेसिडुअल वेरिएंस को दंडित करता है जो ERM ऑप्टिमम पर पहले से ही शून्य है।
• W-DRO: $\|w\|$ में रैखिक रेगुलराइज़र के साथ ERM में बदल जाता है, लेकिन एम्पिरिकल मीन एब्सोल्यूट रेसिड्यूल द्वारा स्केल किया गया होता है।
• Label Smoothing: ERM समाधान की दिशा को बदले बिना उसके परिमाण को पुन: स्केल करता है।

3. सुलभ प्रशिक्षण प्रक्रिया (Tractable Training Procedure)

इस ढांचे को व्यावहारिक बनाने के लिए, लेखक एक एकल प्रशिक्षण पाइपलाइन का निर्माण करते हैं जो सभी डिज़ाइन विकल्पों को निरंतर हाइपरपैरामीटर के रूप में प्रस्तुत करता है। यह प्रक्रिया ग्रेडिएंट अपडेट से पहले चार क्रमिक चरणों के माध्यम से एक मिनी-बैच को प्रोसेस करती है:

1. संदर्भ वितरण संवर्धन (Reference Distribution Enrichment): इनपुट-स्पेस विचलन (जैसे VRM के लिए गौसियन नॉइज़ या Mixup के लिए इंटरपोलेशन) लागू करता है या डेटा को अछूता छोड़ देता है।
2. इनपुट-स्पेस विक्षोभ ($\Phi_X$): एक वासरस्टीन बॉल के भीतर इंस्टेंस-वाइज विक्षोभ (Projected Gradient Descent के माध्यम से) लागू करता है, जिसमें निराशावादी, तटस्थ, या आशावादी रुख का विकल्प होता है।
3. लेबल-स्पेस विक्षोभ ($\Phi_Y$): एक क्रेडल सेट (जैसे लेबल स्मूथिंग, रिलैक्सेशन, या एडवरसैरियल शिफ्टिंग) के भीतर लेबल विक्षोभ लागू करता है, जिसमें रुख का विकल्प होता है।
4. नमूना-स्तरीय एकत्रीकरण ($\Phi_S$): KL-प्रतिबंधित ड्यूल फॉर्मुलेशन (जैसे निराशावादी/आशावादी एकत्रीकरण के लिए टिल्टेड ERM) का उपयोग करके बैच में लॉस को एकत्रित करता है।

यह एकीकृत लॉस फंक्शन संयुक्त हाइपरपैरामीटर ऑप्टिमाइज़ेशन (HPO) की अनुमति देता है। केवल एक विधि चुनने के बजाय, अभ्यासकर्ता पूरे सर्च स्पेस $(\sigma, \varrho, \alpha, \tau)$ को मानक ब्लैक-बॉक्स ऑप्टिमाइज़र (जैसे बेयसियन ऑप्टिमाइज़ेशन) का उपयोग करके संयुक्त रूप से ट्यून कर सकते हैं। यह अभ्यासकर्ता की भूमिका को एक सुदृढ़ता तंत्र चुनने से बदलकर एक 'सर्च बजट' निर्दिष्ट करने में बदल देता है।

मुख्य योगदान

1. एकीकृत ढांचा: एक सामान्य सूत्र जो तीन स्पष्ट मॉडलिंग अक्षों (संदर्भ वितरण, अनिश्चितता सेट, और विभेदक सिद्धांत) को कवर करता है, जो मौजूदा विधियों के एक विस्तृत वर्ग को विशेष मामलों के रूप में पुनः प्राप्त करता है।
2. सैद्धांतिक स्पष्टीकरण: लीनियर मॉडल्स पर VRM, Mixup, और W-DRO के लिए क्लोज्ड-फॉर्म रिडक्शन, जो उनके गुणात्मक संबंधों और विशिष्ट रेगुलराइजेशन प्रभावों को स्पष्ट करता है।
3. सुलभ प्रक्रिया: एक एकल प्रशिक्षण पाइपलाइन जहाँ सभी डिज़ाइन विकल्प निरंतर हाइपरपैरामीटर हैं, जो बैकप्रोपेगेशन और संयुक्त HPO के माध्यम से एंड-टू-एंड प्रशिक्षण को सक्षम बनाता है।
4. व्यावहारिक प्रयोज्यता: विविध कार्यों पर विविध मॉडलिटीज में फ्रेमवर्क के प्रदर्शन के प्रमाण, जो यह दर्शाता है कि संयुक्त अनुकूलन (joint optimization) किसी भी एकल-विधि बेसलाइन के साथ प्रतिस्पर्धी है, और एक विश्वसनीय डिफॉल्ट प्रदान करता है जब प्रमुख विफलता मोड अज्ञात हो।

प्रयोगात्मक परिणाम

लेखकों ने तीन मॉडलिटीज में इस ढांचे का मूल्यांकन किया: टैबुलर डेटा (TableShift बेंचमार्क), इमेज डेटा (Waterbirds, CelebA), और रिवॉर्ड मॉडलिंग (HH-RLHF)। उन्होंने "Joint" कॉन्फ़िगरेशन की तुलना आठ बेसलाइन्स से की जो विभिन्न विफलता मोड (W-DRO, KL-DRO, W-DFO, KL-DFO, Label Smoothing, Label Relaxation, VRM, और ERM) का प्रतिनिधित्व करती हैं, जिसमें 50 ट्रायल्स का मैचड HPO बजट उपयोग किया गया।

• टैबुलर डेटा: जॉइंट कॉन्फ़िगरेशन सटीकता पर सर्वश्रेष्ठ बेसलाइन्स के साथ प्रतिस्पर्धी था। विशेष रूप से, इसने टेल रिस्क (CVaR द्वारा मापा गया) में महत्वपूर्ण सुधार किया, जो कई डेटासेट्स पर ERM की तुलना में लगभग आधा रह गया।
• इमेज डेटा: Waterbirds पर, जहाँ ग्रुप इम्बैलेंस के कारण वितरण परिवर्तन होता है, जॉइंट कॉन्फ़िगरेशन ने बिना किसी मापने योग्य सटीकता लागत के ERM की तुलना में दस गुना कम CVaR मान प्राप्त किया। लेबल-साइड हस्तक्षेप (LS, LR) और अनिश्चितता-सेट विधियाँ (KL-DRO, Joint) विशेष रूप से प्रभावी थीं।
• रिवॉर्ड मॉडलिंग: जॉइंट कॉन्िगरेशन ने उच्चतम OOD सटीकता (0.713 बनाम सबसे मजबूत बेसलाइन 0.687 के लिए W-DFO) प्राप्त की और OOD CVaR को कम किया।
• शैपली विश्लेषण (Shapley Analysis): रिवॉर्ड मॉडलिंग कार्य के एक विश्लेषण ने खुलासा किया कि एकल-घटक योगदान संयोजन में व्यवहार की भविष्यवाणी नहीं करते हैं। उदाहरण के लिए, लेबल स्मूथिंग (LS) अकेले कमजोर थी लेकिन सटीकता के लिए DRO के साथ इंटरैक्ट करते समय प्रभावी थी, जबकि अकेले DRO टेल रिस्क के लिए सबसे मजबूत था। यह पुष्टि करता है कि सही कॉन्फ़िगरेशन खोजने के लिए संयुक्त अनुकूलन आवश्यक है।
• HPO बजट: रनिंग-बेस्ट परफॉरमेंस कर्व्स ने दिखाया कि जॉइंट कॉन्फ़िगरेशन सरल बेसलाइन्स के समान ही टाइमस्केल पर स्थिर (plateau) हो गया, जो यह दर्शाता है कि इसका बेहतर प्रदर्शन बड़े सर्च स्पेस या अधिक ट्रायल्स का आर्टिफैक्ट नहीं है।

महत्व और दावे

यह शोध पत्र दावा करता है कि इस कार्य का प्राथमिक महत्व अभ्यासकर्ताओं को किसी एकल सुदृढ़ता तंत्र के प्रति पूर्व-निर्धारित प्रतिबद्धता के बोझ से मुक्त करने में निहित है। सुदृढ़ शिक्षण को एक एकल सर्च स्पेस में एकीकृत करके, यह ढांचा किसी दिए गए कार्य के लिए तंत्रों के इष्टतम संयोजन की डेटा-संचालित खोज की अनुमति देता है।

लेखक तर्क देते हैं कि जबकि अच्छी तरह से ट्यून किए गए सिंगल-एक्सिस बेसलाइन्स विशिष्ट मॉडलिटीज पर जॉइंट कॉन्फ़िगरेशन का मुकाबला कर सकते हैं, सही विधि चुनने के लिए प्रमुख विफलता मोड को पहले से जानना आवश्यक है। जॉइंट कॉन्फ़िगरेशन इस चयन समस्या से बचता है, विभिन्न मॉडलिटीज में लगातार प्रतिस्पर्धी बना रहता है और जब विफलता मोड अज्ञात या परस्पर क्रिया (interacting) कर रहे हों, तो एक सुदृढ़ डिफॉल्ट प्रदान करता है। यह कार्य प्रतिस्पर्धा करने वाली, अलग-थलग विधियों के प्रतिमान से परिवर्तनीय, कंपोजेबल डिज़ाइन विकल्पों की ओर बढ़ते हुए क्षेत्र को आगे बढ़ाता है।