🤖 machine learning

Disagreement-Regularized Importance Sampling for Adversarial Label Corruption

यह शोध पत्र डिसएग्रीमेंट-रेगुलराइज्ड इम्पोर्टेंस सैंपलिंग (DR-IS) को प्रस्तुत करता है, जो एक सुदृढ़ सब-सैंपलिंग विधि है जो प्रतिकूल लेबल भ्रष्टाचार (adversarial label corruption) को प्रभावी ढंग से कम करने के लिए एक एनसेंबल में लॉस रैंक-डिसएग्रीमेंट का लाभ उठाती है और EL2N जैसे मैग्नीट्यूड-आधारित दृष्टिकोणों से बेहतर प्रदर्शन करती है, जिसे कठोर परिमित-नमूना एकाग्रता सीमाओं (finite-sample concentration bounds) द्वारा समर्थित किया गया है जो स्वच्छ और भ्रष्ट उदाहरणों के बीच सख्त पृथक्करण की गारंटी देते हैं।

मूल लेखक: Csongor Horváth, Ida-Maria Sintorn, Prashant Singh

प्रकाशित 2026-05-11

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Csongor Horváth, Ida-Maria Sintorn, Prashant Singh

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक छात्र (एक AI मॉडल) को चित्रों की एक विशाल पाठ्यपुस्तक का उपयोग करके विभिन्न जानवरों को पहचानना सिखाने की कोशिश कर रहे हैं। सामान्य रूप से, आप छात्र को किताब के हर चित्र को एक-एक करके दिखाएंगे। लेकिन क्या होगा अगर किसी ने चुपके से कुछ चित्रों के लेबल बदल दिए हों? उदाहरण के लिए, किसी ने बिल्ली की तस्वीर ली और उस पर "कुत्ता" लेबल लगा दिया, या कार की तस्वीर ली और उसे "हवाई जहाज" लेबल कर दिया।

यदि आप छात्र को केवल वे "कठिनतम" चित्र दिखाते हैं—जिनमें छात्र बार-बार गलती करता है—तो वे वास्तव में गलत लेबल वाले चित्र हो सकते हैं। छात्र भ्रमित हो जाएगा, गलत उत्तर को रट लेगा, और परीक्षण में विफल हो जाएगा। यही वह समस्या है जिसे यह शोध पत्र संबोधित करता है: इम्पॉर्टेंस सैंपलिंग (Importance Sampling)। यह एक ऐसी तकनीक है जहाँ आप केवल "कठिनतम" उदाहरणों पर ध्यान केंद्रित करके सीखने की गति बढ़ाने की कोशिश करते हैं। लेकिन लेबल के दूषित (corrupted) होने पर, कठिनतम उदाहरणों पर ध्यान केंद्रित करना ऐसा है जैसे कमरे में मौजूद सबसे बड़े झूठ बोलने वालों पर ध्यान केंद्रित करना।

लेखक इस समस्या को ठीक करने के लिए एक नई विधि प्रस्तावित करते हैं जिसे DR-IS (Disagreement-Regularized Importance Sampling) कहा जाता है। यह कैसे काम करता है, इसके सरल उदाहरण यहाँ दिए गए हैं:

1. समस्या: "जोर से चिल्लाने वाले झूठे" का जाल (The "Loud Liar" Trap)

मानक तरीकों में, यदि कोई चित्र वर्गीकृत करने के लिए बहुत कठिन है (उच्च "लॉस" या त्रुटि), तो सिस्टम मान लेता है कि यह एक बहुत ही महत्वपूर्ण, कठिन उदाहरण है जिसे अधिक ध्यान देने की आवश्यकता है।

जाल: जब लेबल दूषित (नकली) होते हैं, तो वे नकली उदाहरण अक्सर AI के लिए अत्यंत कठिन दिखाई देते हैं। वे चिल्लाकर कहते हैं, "मेरी ओर देखो! मैं बहुत भ्रमित करने वाला हूँ!"
परिणाम: AI अपना सारा समय इन नकली उदाहरणों को पढ़ने में बिता देता है, झूठ को रट लेता है, और सच को भूल जाता है।

2. समाधान: "न्यायाधीशों की समिति" (The "Committee of Judges")

यह पूछने के बजाय कि, "यह उदाहरण कितना कठिन है?" (जिसे झूठे लोग अच्छी तरह से नकल कर लेते हैं), DR-IS पूछता है, "क्या न्यायाधीश इस बात पर सहमत हैं कि यह कितना कठिन है?"

कल्पना कीजिए कि आपके पास तीन अलग-अलग न्यायाधीशों (जिन्हें "प्रॉक्सिस" कहा जाता है) का एक पैनल है। वे सभी ग्रेड देने के लिए चित्रों के एक ही सेट को देखते हैं।

नकली उदाहरण (झूठे लोग): क्योंकि लेबल गलत हैं, सभी न्यायाधीश एक ही तरह से भ्रमित होते हैं। वे सभी सहमत होते हैं, "यह एक बहुत बुरा उदाहरण है, यह असंभव है!" उनके स्कोर लगातार उच्च और सुसंगत होते हैं। वे झूठ पर सहमत (agree) होते हैं।
असली कठिन उदाहरण (सच्चाई): ये वे चित्र हैं जो वास्तव में पेचीदा हैं (जैसे एक धुंधली बिल्ली जो कुत्ते जैसी दिखती है)। एक न्यायाधीश सोच सकता है, "वह एक बिल्ली है।" दूसरा सोच सकता है, "नहीं, वह एक कुत्ता है।" तीसरा अनिश्चित हो सकता है। वे असहमति (disagree) जताते हैं। उनके स्कोर घटते-बढ़ते रहते हैं।

जादू: DR-IS असहमति (disagreement) की तलाश करता है।

यदि न्यायाधीश इस बात पर सहमत हैं कि एक उदाहरण "कठिन" है, तो यह संभवतः एक नकली (दूषित) उदाहरण है। DR-IS इसे अनदेखा कर देता है।
यदि न्यायाधीश इस बारे में असहमति जताते हैं कि कोई उदाहरण कठिन है या नहीं, तो यह संभवतः एक असली, पेचीदा उदाहरण है। DR-IS इसे अध्ययन करने के लिए चुनता है।

3. "सिम्प्लिसिटी बायस" (Simplicity Bias - यह क्यों काम करता है)

यह शोध पत्र AI के सीखने के एक विशेष गुण पर आधारित है, जिसे "सिम्प्लिसिटी बायस" कहा जाता है।

जब AI एक नकली लेबल देखता है (जैसे, एक बिल्ली जिसे "कुत्ता" लेबल किया गया है), तो अंततः उसे एहसास होता है, "रुको, यह समझ में नहीं आ रहा है," लेकिन वह गलत होता रहता है क्योंकि लेबल गलत है। सभी न्यायाधीश इस विशिष्ट झूठ से भ्रमित होने के एक निश्चित पैटर्न में स्थिर हो जाते हैं।
असली, कठिन उदाहरणों में कोई एक एकल "गलत" पैटर्न नहीं होता। वे वास्तव में संदिग्ध होते हैं। न्यायाधीश उन पर बार-बार अपनी राय बदलते रहते हैं।
DR-IS निरंतर झूठ बोलने वालों को फ़िल्टर करता है और संदिग्ध सच बोलने वालों को रखता है।

4. परिणाम: शोध पत्र ने क्या पाया

लेखकों ने मानक इमेज डेटासेट्स (जैसे CIFAR और Food-101) पर परीक्षण किया जहाँ उन्होंने जानबूझकर नकली लेबल जोड़े थे।

पुराने तरीके: जब उन्होंने "कठिनतम" उदाहरणों पर ध्यान केंद्रित करने की कोशिश की, तो AI का प्रदर्शन गिर गया। उसने झूठ को रट लिया।
DR-IS: उन उदाहरणों पर ध्यान केंद्रित करके जहाँ न्यायाधीश असहमत थे, AI ने झूठ से बचने में सफलता प्राप्त की।
- परीक्षणों में जहाँ 25% लेबल नकली थे, DR-IS ने AI की सटीकता को उच्च बनाए रखा, जबकि अन्य तरीके पूरी तरह विफल रहे।
- इसने अन्य तरीकों की तुलना में "नकली डेटा" को लगभग 5 गुना कम कर दिया जिसका AI ने अध्ययन किया।

5. समझौता (The Trade-off)

इसमें एक छोटी सी लागत है। क्योंकि DR-IS "पेचीदा" वास्तविक उदाहरणों पर ध्यान केंद्रित करता है, इसलिए यह कभी-कभी "आसान" वास्तविक उदाहरणों (जैसे बिल्ली की एक स्पष्ट तस्वीर) को छोड़ देता है।

सरल कार्यों पर: AI थोड़ा धीरे सीख सकता है क्योंकि यह आसान चीजों को अनदेखा कर देता है।
जटिल कार्यों या जब झूठ मौजूद हों: यह रणनीति जीवन रक्षक है। यह AI को धोखा खाने से बचाती है।

सारांश

DR-IS को उस शिक्षक के रूप में सोचें जो उस छात्र की बात सुनना बंद कर देता है जो सबसे ज़ोर से चिल्ला रहा है (दूषित डेटा) और इसके बजाय उन छात्रों पर ध्यान देता है जो उत्तर पर बहस कर रहे हैं (साफ, कठिन डेटा)। केवल कठिनाई के बजाय न्यायाधीशों के बीच असहमति को देखकर, सिस्टम झूठ को पकड़ सकता है और सीखने की प्रक्रिया को ईमानदार रख सकता है।

यह शोध पत्र गणितीय रूप से सिद्ध करता है कि यह काम करता है और दिखाता है कि केवल तीन सरल "न्यायाधीश" मॉडलों के साथ, आप अतिरिक्त साफ डेटा या महंगी कंप्यूटिंग शक्ति की आवश्यकता के बिना भारी मात्रा में शोर (noise) को फ़िल्टर कर सकते हैं।

तकनीकी सारांश: प्रतिकूल लेबल भ्रष्टाचार के लिए असहमति-नियमित महत्त्व नमूनाकरण (Disagreement-Regularized Importance Sampling)

समस्या विवरण

स्टोकेस्टिक ग्रेडिएंट डिसेंट (SGD) में मानक महत्त्व नमूनाकरण (Importance Sampling - IS) का लक्ष्य उच्च ग्रेडिएंट नॉर्म या उच्च लॉस मान वाले उदाहरणों को प्राथमिकता देकर एस्टिमेटर वेरिएंस को कम करना है। हालाँकि, यह परिमाण-आधारित (magnitude-based) दृष्टिकोण $\epsilon$ -संदूषण (adversarial label corruption) के तहत एक गंभीर विफलता मोड प्रदर्शित करता है। ऐसे परिदृश्यों में, भ्रष्ट (corrupted) उदाहरण अक्सर उच्चतम ग्रेडिएंट नॉर्म या लॉस मान प्रदर्शित करते हैं। फलस्वरूप, मानक IS इन प्रतिकूल आउटलेर्स (outliers) को अत्यधिक नमूना द्रव्यमान (sampling mass) आवंटित कर देता है, जिससे ओवर-पैरामीटराइज्ड नेटवर्क अंतर्निहित सिग्नल को सीखने के बजाय शोर (noise) को याद करने लगते हैं। मौजूदा परिमाण-आधारित प्रूनिंग विधियाँ (जैसे EL2N, GraNd) या ट्रेनिंग-डायनामिक्स दृष्टिकोण (जैसे AUM) या तो लक्षित उच्च-नॉर्म हमलों के तहत विफल हो जाते हैं या शोर को बाहर करने के संबंध में कठोर परिमित-नमूना गारंटी (finite-sample guarantees) की कमी रखते हैं।

कार्यप्रणाली: असहमति-नियमित महत्त्व नमूनाकरण (DR-IS)

लेखक DR-IS का प्रस्ताव करते हैं, जो एक सुदृढ़ सब-सॅम्पलिंग और रीवेटिंग फ्रेमवर्क है जो चयन मानदंड को लॉस परिमाण (magnitude) से बदलकर स्वतंत्र प्रॉक्सी मॉडलों के एनसेम्बल (ensemble) में लॉस रैंक असहमति (rank disagreement) पर स्थानांतरित करता है।

मुख्य तंत्र

प्रॉक्सी एनसेम्बल: $K$ हल्के वजन वाले प्रॉक्सी मॉडल ( $h_1, \dots, h_K$ ) को संभावित रूप से भ्रष्ट डेटासेट $D$ पर कुछ इपोक (epochs) के लिए प्रशिक्षित किया जाता है। ये प्रॉक्सी स्टोकेस्टिसिटी (stochasticity) उत्पन्न करने के लिए अलग-अलग सीड्स, इनिशियलाइजेशन या आर्किटेक्चर के साथ प्रशिक्षित किए जाते हैं।
रैंक असहमति स्कोर: प्रत्येक उदाहरण $i$ के लिए, प्रत्येक प्रॉक्सी के लिए सामान्यीकृत लॉस रैंक $\rho_i(h_k)$ की गणना की जाती है। चयन स्कोर $\hat{\sigma}^2_i$ एनसेम्बल में इन रैंकों का सैंपल वेरिएंस है:
$\hat{\sigma}^2_i = \frac{1}{K} \sum_{k=1}^K (\rho_i(h_k) - \bar{\rho}_i)^2$
चयन तर्क:
- भ्रष्ट बल्क (Corrupted Bulk): SGD के "सिम्प्लिसिटी बायस" (simplicity bias) के तहत, प्रॉक्सी लगातार भ्रष्ट लेबल्स को उच्च लॉस रैंक प्रदान करते हैं (जो प्रमुख विशेषताओं के विपरीत होते हैं), जिसके परिणामस्वरूप निम्न रैंक वेरिएंस (स्थिरता) प्राप्त होती है।
- क्लीन बाउंड्री (Clean Boundary): निर्णय सीमा (decision boundary) के पास स्थित क्लीन उदाहरण प्रशिक्षण स्टोकेस्टिसिटी के प्रति संवेदनशील होते हैं, जिससे एनसेम्बल में उनके लॉस रैंक में महत्वपूर्ण उतार-चढ़ाव होता है, जिसके परिणामस्वरूप उच्च रैंक वेरिएंस (अस्थिरता) प्राप्त होती है।
- ईजी क्लीन (Easy Clean): सीमा से दूर स्थित क्लीन उदाहरणों के लिए लगातार निम्न लॉस रैंक होते हैं, जिससे निम्न वेरिएंस प्राप्त होता है।
- DR-IS रणनीति: यह विधि उन उदाहरणों का चयन करती है जिनमें उच्चतम $\hat{\sigma}^2_i$ होता है, जो प्रभावी रूप से "बाउंड्री-क्लीन" डेटा को प्राथमिकता देती है और "बल्क-करप्टेड" डेटा को फ़िल्टर करती है।

कार्यान्वयन वेरिएंट्स

स्टैटिक प्रूनिंग (Static Pruning): उच्चतम असहमति स्कोर वाले शीर्ष $\alpha N$ उदाहरणों को चुनकर एक सुदृढ़ उपसमूह $S_{DR-IS}$ बनाया जाता है। कुल ग्रेडिएंट स्टेप्स बनाए रखने के लिए लक्षित मॉडल को इस उपसमूह पर $1/\alpha$ गुना अधिक इपोक के लिए प्रशिक्षित किया जाता है।
ऑनलाइन IS (Online IS): एक सैंपलिंग वितरण $q_i \propto \hat{\sigma}^2_i + \xi \bar{\sigma}^2$ (जहाँ $\xi$ एक स्मूथिंग कांस्टेंट है) को परिभाषित करता है जो उच्च-लॉस आउटलेर्स से बचते हुए ग्रेडिएंट्स को रीवेट करता है, जिससे अनबायस्ड एस्टिमेशन बना रहता है।

मुख्य योगदान

विफलता-मोड लक्षण वर्णन (थ्योरम 2): लेखक औपचारिक रूप रूप से सिद्ध करते हैं कि कोई भी महत्त्व नमूनाकरण स्कोर जो प्रति-नमूना लॉस (ग्रेडिएंट नॉर्म सहित) के सापेक्ष गैर-घटता (non-decreasing) है, $\epsilon$ -संदूषण के तहत भ्रष्ट बिंदुओं को अनिवार्य रूप से अत्यधिक द्रव्यमान आवंटित करेगा। यह परिमाण-आधारित IS के लिए एक असंभवता परिणाम स्थापित करता है।
कंसन्ट्रेशन थ्योरम (थ्योरम 1): पेपर रैंक-असहमति स्कोर के लिए परिमित-नमूना कंसन्ट्रेशन बाउंड्स को सिद्ध करता है। यह प्रमाणित करता है कि $1-\delta$ $1 - δ$ प्रायिकता के साथ, बल्क भ्रष्ट उदाहरणों का अनुभवजन्य रैंक असहमति ऊपर से सीमित (bounded above) है, जबकि बाउंड्री-क्लीन उदाहरणों का नीचे से सीमित (bounded below) है।
- सेपरेशन गैप $O(\sqrt{\log(N/\delta)/K})$ के रूप में स्केल करता है।
- जब स्ट्रक्चरल एक्सपेक्टेशन गैप $\Delta'$ सकारात्मक होता है, तो विधि दोनों समूहों के बीच सख्त अलगाव को प्रमाणित करती है।
सबसेट कंटैमिनेशन सर्टिफिकेट्स: लेखक चयनित उपसमूह में शोर के रिसाव (noise leakage) पर पहला गैर-एसिम्प्टोटिक नियंत्रण प्रदान करते हैं। वे "एस्केपिंग टेल" (escaping tail) के भ्रष्ट बिंदुओं, टेल रैंक-वेरिएंस और 'कीप-फ्रैक्शन' $\alpha$ के संदर्भ में चयनित उपसमूह की कंटैमिनेशन दर पर एक स्पष्ट ऊपरी सीमा व्युत्पन्न करते हैं।
DR-IS फ्रेमवर्क: एक व्यावहारिक विधि जो $K=3$ हल्के वजन वाले प्रॉक्सी का उपयोग करती है जो कम कम्प्यूटेशनल ओवरहेड (<10%) बनाए रखती है और आउटलेर्स के मेमोराइजेशन को रोकती है।
AUM के साथ पूरकता: पेपर AUM के साथ DR-IS की तुलना करता है। जबकि AUM एकल प्रॉक्सी के भीतर टेम्पोरल फ्लक्चुएशन का लाभ उठाता है, DR-IS स्वतंत्र प्रॉक्सी के बीच क्रॉस-सेक्शनल असहमति का लाभ उठाता है। लेखक DR-IS के लिए एक समान परिमित-नमूना पहचान गारंटी प्रदान करते हैं जो AUM से जुड़ी युग्मवार (pairwise) AUROC सीमाओं से गुणात्मक रूप से भिन्न है।

अनुभवजन्य परिणाम (Empirical Results)

प्रयोग CIFAR-10, CIFAR-100 और Food-101 पर यूनिफॉर्म सिमेट्रिक नॉइज़ और लक्षित उच्च-नॉर्म हमलों (जहाँ शीर्ष- $\nu$ ग्रेडिएंट नॉर्म उदाहरणों के लेबल बदल दिए जाते हैं) के तहत किए गए।

लक्षित हमलों के प्रति सुदृढ़ता (Robustness to Targeted Attacks): 25% लक्षित शोर के तहत, परिमाण-आधारित विधियाँ (EL2N, Consensus-loss) लगभग चांस एक्यूरेसी (जैसे CIFAR-10 पर 9.39%) तक गिर गईं। इसके विपरीत, DR-IS ने उच्च सटीकता बनाए रखी (CIFAR-10 पर 81.86%, CIFAR-100 पर 60.96%), जो यूनिफॉर्म SGD से CIFAR-10 पर +9.5 प्रतिशत अंक बेहतर था।
सबसेट कंटैमिनेशन: DR-IS ने चयनित उपसमूह में भ्रष्ट उदाहरणों के अंश को ~5-7% तक कम कर दिया, जबकि EL2N के लिए यह ~86% और रैंडम सैंपलिंग के लिए ~0.25% (चांस) था।
क्लीन डेटा प्रदर्शन: क्लीन डेटा पर, DR-IS ने बाउंड्री उदाहरणों की ओर अपने झुकाव के कारण सरल कार्यों (CIFAR-10, -0.64 pp) पर मामूली कमी दिखाई, लेकिन जटिल कार्यों (CIFAR-C100, +0.56 pp) पर लाभ प्राप्त किया। ऑनलाइन वेरिएंट ने क्लीन डेटा पर यूनिफॉर्म SGD प्रदर्शन को ~1 pp के भीतर ट्रैक किया।
AUM के साथ तुलना: हालांकि AUM ने भी अच्छा प्रदर्शन किया, DR-IS ने मध्यम स्तर के भ्रष्टाचार और कम 'कीप-फ्रैक्शन' पर बेहतर फिडेलिटी (fidelity) प्रदान की। AUM ने अत्यधिक शोर ( $\epsilon \ge 0.40$ ) के तहत बेहतर स्थिरता दिखाई लेकिन Food-101 नेचुरल नॉइज़ सेटिंग में क्लीन डेटा पर अधिक पेनल्टी उठाई।

महत्व और दावे

पेपर का दावा है कि DR-IS एनसेम्बल असहमति (ensemble disagreement) का लाभ उठाकर महत्त्व नमूनाकरण की एक मौलिक भेद्यता को संबोधित करता है, न कि लॉस मैग्नीट्यूड का।

सैद्धांतिक कठोरता: यह महत्त्व नमूनाकरण में शोर अपवर्जन (noise exclusion) के लिए पहला स्पष्ट, गैर-एसिम्प्टोटिक प्रमाण प्रदान करता है, जो चयनित उपसमूह की कंटैमिनेशन दर को बांधता है।
मैकेनिस्टिक इनसाइट: यह पहचानता है कि SGD प्रॉक्सी का "सिम्प्लिसिटी बायस" भ्रष्ट लेबल्स को लगातार दंडित करता है (निम्न वेरिएंस), जबकि क्लीन बाउंड्री उदाहरण स्टोकेस्टिसिटी के प्रति संवेदनशील होते हैं (उच्च वेरिएस)। यह द्वि-मोडल वितरण (bimodal distribution) सुदृढ़ अलगाव की अनुमति देता है।
व्यावहारिक उपयोगिता: यह एक कम्प्यूटेशनल रूप से कुशल (<10% ओवरहेड) और सुदृढ़ विकल्प प्रदान करता है, जो विशेष रूप से उन लक्षित उच्च-नॉर्म हमलों के विरुद्ध प्रभावी है जो परिमाण-आधारित ह्यूरिस्टिक्स को विफल कर देते हैं।

लेखक सीमाओं को स्वीकार करते हुए कहते हैं कि विधि पर्याप्त समृद्ध बाउंड्री सेट (Assumption 3) और प्रॉक्सी के "सिम्प्लिसिटी बायस" (Assumption 2) के अस्तित्व पर निर्भर करती है। कम-जटिलता वाले प्रॉक्सी वाले सिंथेटिक सेटिंग्स में, जहाँ ये धारणाएँ विफल हो जाती हैं, विधि प्रभावी ढंग से भ्रष्ट डेटा को अलग नहीं कर पाएगी। हालाँकि, डीप लर्निंग प्रॉक्सी के साथ मानक बेंचमार्क पर, अनुभवजन्य अलगाव निरंतर थ्योरिटिकल वर्स्ट-केस बाउंड्स से आगे निकल जाता है।