💬 NLP

Uncertainty-based Debiasing and Unlearning for Decontamination

यह शोध पत्र अनसर्टेन्टी-बेस्ड डीकॉन्टैमिनेशन (UBD) को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो प्रति-नमूना मेमोराइजेशन (per-sample memorization) का अनुमान लगाने के लिए डीप एनसेम्बल्स का लाभ उठाता है और डीबायसिंग या अनलर्निंग के लिए अनसर्टेन्टी-ड्रिवन सुधार लागू करता है, जो बिना किसी अदूषित मॉडल तक पहुंच या दूषित नमूनों के पूर्व ज्ञान के, बड़े भाषा मॉडलों में डेटा संदूषण को प्रभावी ढंग से कम करता है।

मूल लेखक: Guangzhi Sun, Xiao Zhan, Mark Gales

प्रकाशित 2026-06-23

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Guangzhi Sun, Xiao Zhan, Mark Gales

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही कठिन परीक्षा दे रहे हैं। आपने कड़ी मेहनत की है, लेकिन आपने गलती से कुछ विशिष्ट अभ्यास प्रश्नों के उत्तर कुंजी (answer key) को भी याद कर लिया है। जब आप वास्तविक परीक्षा देते हैं, तो आप उन कुछ प्रश्नों को तुरंत सही कर देते हैं, इसलिए नहीं कि आप अवधारणा (concept) को समझते हैं, बल्कि इसलिए क्योंकि आपने पहले उन सटीक शब्दों को देखा था। यह तब होता है जब लार्ज लैंग्वेज मॉडल्स (LLMs) डेटा कंटैमिनेशन (data contamination) का शिकार होते हैं: वे प्रशिक्षण के दौरान बेंचमार्क प्रश्नों को याद करके "चीटिंग" करते हैं, जिससे उनके स्कोर कृत्रिम रूप से उच्च दिखाई देते हैं।

यह पेपर इस चीटिंग को पकड़ने और इसे ठीक करने का एक नया तरीका पेश करता है, बिना मूल "साफ" (clean) परीक्षा को देखे या यह जाने बिना कि कौन से प्रश्न लीक हुए हैं।

यहाँ उनके समाधान, अनसर्टेन्टी-बेस्ड डीकोंटामिनेशन (Uncertainty-Based Decontamination - UBD) का सरल उपमाओं (analogies) का विवरण दिया गया है:

1. समस्या: "ग्रुप प्रोजेक्ट" दोष

आमतौर पर, यह देखने के लिए कि क्या कोई छात्र नकल कर रहा है, आप अपने टेस्ट स्कोर की तुलना एक "परफेक्ट" छात्र से कर सकते हैं जिसने कभी उत्तर नहीं देखे। लेकिन वास्तविक दुनिया में, हमारे पास वह परफेक्ट छात्र नहीं होता है।

मौजूदा तरीके इसे पैराफ्रेसिंग (paraphrasing) (प्रश्नों को फिर से लिखना) या उत्तर विकल्पों को शफल (shuffling) (क्रम बदलना) करके ठीक करने की कोशिश करते हैं।

उपमा: कल्पना कीजिए कि एक छात्र ने "फ्रांस की राजधानी पेरिस है" को याद कर लिया है। यदि आप प्रश्न को बदलकर "क्या शहर फ्रांस की राजधानी है?" कर देते हैं या विकल्पों को शफल कर देते हैं, तो छात्र अभी भी इसे सही कर सकता है क्योंकि उसने अवधारणा को याद किया है, या वह इसे गलत कर सकता है क्योंकि उसने केवल सटीक स्ट्रिंग को याद किया था।
दोष: पेपर का तर्क है कि अंतिम स्कोर (सटीकता) को देखना एक ग्रुप प्रोजेक्ट ग्रेड को देखने जैसा है। दो छात्र एक ही "A" ग्रेड प्राप्त कर सकते हैं, लेकिन एक वास्तव में सामग्री को समझता है जबकि दूसरा केवल आधे प्रश्नों का सही अनुमान लगा लेता है। आपको यह देखने के लिए कि वे वास्तव में सीख रहे हैं या केवल रट रहे हैं, यह देखना होगा कि वे प्रत्येक विशिष्ट प्रश्न का उत्तर कैसे देते हैं।

2. नया विचार: "विशेषज्ञों की समिति" (Deep Ensembles)

लेखक एक "साफ" मॉडल की आवश्यकता के बिना चीटिंग का पता लगाने के लिए एक चतुर तकनीक का प्रस्ताव करते हैं। वे एक डीप एन्सेम्बल (Deep Ensemble) का उपयोग करते हैं।

उपमा: कल्पना कीजिए कि आपके पास एक अकेला शिक्षक है जिसने उत्तर कुंजी याद कर ली है। यह देखने के लिए कि क्या वे वास्तव में बुद्धिमान हैं या केवल रट रहे हैं, आप उन्हें एक ही पाठ को पांच अलग-अलग कक्षाओं को पढ़ाने के लिए कहते हैं, लेकिन प्रत्येक कक्षा के लिए उनके द्वारा पाठ्यपुस्तक पढ़ने का क्रम बदल देते हैं।
- यदि शिक्षक सामग्री को समझता है (एक "साफ" नमूना), तो वे हर बार एक ही तरह से पाठ पढ़ाएंगे, चाहे क्रम कुछ भी हो। वे आत्मविश्वासी और सुसंगत होते हैं।
- यदि शिक्षक ने उत्तर कुंजी याद (memorized) की है (एक "कंटैमिनेटेड" नमूना), तो पाठ्यपुस्तक का क्रम मायने रखता है। एक कक्षा में, वे आत्मविश्वास से "पेरिस" कह सकते हैं। दूसरी कक्षा में, क्योंकि उनकी स्मृति में संदर्भ थोड़ा बदल गया है, वे हिचकिचा सकते हैं या "लंदन" कह सकते हैं।
संकेत: पेपर इसे अनसर्टेन्टी (Uncertainty - अनिश्चितता) कहता है। यदि पांच "संस्करणों" वाले मॉडल एक-दूसरे से असहमत होते हैं (उच्च अनिश्चितता) लेकिन मॉडल अभी भी उच्च स्कोर देता है, तो यह रटने (memorization) का संकेत है। यदि वे सभी सहमत हैं, तो यह वास्तविक ज्ञान होने की संभावना है।

3. समाधान: चीटिंग को ठीक करने के दो तरीके

एक बार जब सिस्टम यह पहचान लेता है कि कौन से प्रश्न "चीट" किए गए होने की संभावना है (उच्च अनिश्चितता + उच्च आत्मविश्वास), तो यह दो में से एक सुधार लागू करता है:

A. UBD-डिबायसिंग (UBD-Debiasing) (द "पोस्ट-टेस्ट करेक्शन")

यह मॉडल को बदले बिना, मॉडल द्वारा उत्तर देने के बाद होता है।

उपमा: कल्पना कीजिए कि एक छात्र 99% सुनिश्चित है कि उत्तर "पेरिस" है क्योंकि उसने इसे याद किया है। "डिबायसिंग" सिस्टम छात्र की हिचकिचाहट (अनिश्चितता) को देखता है और कहता है, "आप उस प्रश्न के लिए बहुत आश्वस्त लग रहे हैं जिसे आपने शायद केवल रटा है।" यह फिर "पेरिस" में छात्र के आत्मविश्वास को धीरे से कम करता है और उस आत्मविश्वास को अन्य विकल्पों (लंदन, रोम, बर्लिन) में फैला देता है ताकि अनुमान अधिक यथार्थवादी लगे।
परिणाम: यह आउटपुट डिस्ट्रीब्यूशन को इस तरह से ठीक करता है कि वह एक ऐसे छात्र की तरह दिखे जिसने वास्तव में सामग्री सीखी है, न कि एक ऐसे छात्र की तरह जिसने उत्तर कुंजी रट ली है।

B. UBD-अनलर्निंग (UBD-Unlearning) (द "री-ट्रेनिंग")

यह वास्तव में मॉडल के मस्तिष्क (पैरामीटर्स) को बदल देता है।

उपमा: केवल टेस्ट में उत्तर को ठीक करने के बजाय, आप छात्र को वापस स्कूल ले जाते हैं। आप उन्हें वे प्रश्न दिखाते हैं जो उन्होंने याद किए थे और कहते हैं, "सिर्फ इसलिए 'पेरिस' मत कहो क्योंकि तुमने इसे किताब में देखा था। इसके बारे में फिर से सोचो।" आप मॉडल को उन विशिष्ट याद किए गए उत्तरों पर अपना आत्मविश्वास कम करने के लिए प्रशिक्षित करते हैं जब तक कि वह एक ऐसे छात्र की तरह व्यवहार न करने लगे जिसे समस्या पर विचार करना पड़ता है।

4. परिणाम: यह बेहतर क्यों काम करता है

पेपर ने गणित और सामान्य ज्ञान की परीक्षाओं (MMLU-Pro और MATH-MCQA) पर इसका परीक्षण किया।

पुराने तरीके (पैराफ्रेसिंग/शफलिंग): ये टेस्ट पर फॉन्ट बदलने जैसे थे। इन्होंने समग्र स्कोर को थोड़ा कम किया, लेकिन इन्होंने विशिष्ट प्रश्नों पर मॉडल के व्यवहार को वास्तव में ठीक नहीं किया। "ग्रुप ग्रेड" ठीक लग रहा था, लेकिन व्यक्तिगत उत्तर अभी भी अजीब थे।
UBD (नया तरीका): "विशेषज्ञों की समिति" का उपयोग करके रटने (memorization) का पता लगाकर, UBD सफलतापूर्वक मॉडल के उत्तरों को वैसा ही बना देता है जैसा कि एक ऐसा मॉडल होता है जिसने उत्तर कभी नहीं देखे होंगे।
- इसने कुछ मामलों में चीटिंग करने वाले मॉडल और एक साफ मॉडल के बीच की "दूरी" को 60% से अधिक कम कर दिया।
- महत्वपूर्ण रूप से, इसने यह सब बिना यह जाने कि कौन से प्रश्न लीक हुए थे या तुलना करने के लिए किसी साफ मॉडल तक पहुँच के बिना किया।

सारांश

पेपर का तर्क है कि हमें AI का निर्णय लेने के लिए केवल अंतिम टेस्ट स्कोर को नहीं देखना चाहिए। हमें प्रत्येक एकल उत्तर के "आत्मविश्वास" को देखना चाहिए। एक थोड़े अलग मॉडल की समिति का उपयोग करके यह पता लगाने के लिए कि क्या कोई AI एक रटे हुए तथ्य पर "बहुत अधिक आश्वस्त" है, हम या तो ऑन-द-फ्लाई (तुरंत) उत्तर को ठीक कर सकते हैं या AI को चीट शीट को भूलने के लिए फिर से प्रशिक्षित कर सकते हैं, जिससे इसका प्रदर्शन ईमानदार और निष्पक्ष बन जाता है।

तकनीकी सारांश: डीकंटैमिनेशन (Decontamination) के लिए अनिश्चितता-आधारित डिबायसिंग और अनलर्निंग

समस्या विवरण
बेंचमार्क-आधारित मूल्यांकन लार्ज लैंग्वेज मॉडल्स (LLMs) के आकलन के लिए मानक प्रतिमान है, फिर भी डेटा कंटैमिनेशन (data contamination)—जहाँ बेंचमार्क सैंपल प्रशिक्षण कॉर्पस में दिखाई देते हैं—इन मूल्यांकनों की वैधता को गंभीर रूप से कमजोर करता है। कंटैमिनेशन रिपोर्ट किए गए प्रदर्शन को कृत्रिम रूप से बढ़ा देता है क्योंकि यह मॉडल को वास्तविक तर्क क्षमता प्रदर्शित करने के बजाय संदर्भ उत्तरों को याद करने में सक्षम बनाता है। मौजूदा डीकंटैमिनेशन विधियाँ मुख्य रूप से समग्र सटीकता मेट्रिक्स (aggregate accuracy metrics) पर निर्भर करती हैं, जो प्रति-सैंपल मॉडल व्यवहार में महत्वपूर्ण अंतर को छिपा सकती हैं। इसके अलावा, कई वर्तमान दृष्टिकोणों के लिए एक uncontaminated "क्लीन" मॉडल तक पहुँच या यह पूर्व ज्ञान आवश्यक होता है कि कौन से विशिष्ट सैंपल कंटैमिनेटेड हैं, जो वास्तविक दुनिया के परिदृश्यों में उनकी व्यावहारिक प्रयोज्यता को सीमित करता है जहाँ ऐसे संसाधन उपलब्ध नहीं होते।

कार्यप्रणाली
यह शोध पत्र एक नवीन ढांचे का प्रस्ताव करता है जिसमें दो मुख्य घटक शामिल हैं: एक सैंपल-लेवल इवैल्यूएशन मेट्रिक और 'अनसर्टेन्टी-बेस्ड डीकंटैमिनेशन' (UBD) नामक डीकंटैमिनेशन विधियों का एक नया परिवार।

सैंपल-लेवल इवैल्यूएशन फ्रेमवर्क:
केवल डेटासेट-लेवल सटीकता पर निर्भर रहने के बजाय, लेखक ऐसे मेट्रिक्स पेश करते हैं जो एक डीकंटैमिनेटेड मॉडल और एक uncontaminated मॉडल के बीच प्रति-सैंपल आधार पर वितरण संबंधी दूरी (distributional distance) को मापते हैं।

KL-डाइवर्जेंस ( $D_{KL}$ ): प्रत्येक सैंपल के लिए uncontaminated और decontaminated मॉडल्स के पूर्ण आउटपुट वितरण के बीच विचलन को मापता है।
ग्राउंड-ट्रुथ प्रोबेबिलिटी डिफरेंस ( $D^*_{L1}$ ): दोनों मॉडल्स के बीच सही उत्तर ( $y^*$ ) को दी गई प्रायिकता (probability) के पूर्ण अंतर को मापता है।
इन मेट्रिक्स का उद्देश्य यह सुनिश्चित करना है कि डीकंटैमिनेशन वास्तविक आउटपुट वितरण को रिकवर करे, न कि केवल डेटा के विभिन्न उपसमुच्चयों (subsets) में सटीकता को स्थानांतरित करे।

अनसर्टेन्टी-बेस्ड डीकंटैमिनेशन (UBD):
UBD विधियों का एक परिवार है जो बिना किसी uncontaminated मॉडल या कंटैमिनेटेड डेटासेट के ज्ञान की आवश्यकता के कार्य करता है। यह प्रति-सैंपल मेमोराइजेशन (memorization) का अनुमान लगाने के लिए अनिश्चितता (uncertainty) के माध्यम से कंटैमिनेटेड मॉडल के डीप एन्सेम्बल (deep ensembles) का लाभ उठाता है।

अनसर्टेन्टी एस्टीमेशन (Uncertainty Estimation): लेखक देखते हैं कि "हार्ड बट मेमोराइज्ड" सैंपल (जहाँ कंटैमिनेशन के कारण मॉडल का उच्च आत्मविश्वास होता है) अलग-अलग बैच ऑर्डरिंग के साथ प्रशिक्षित मॉडल्स के एन्सेम्बल में भविष्यवाणियों में उच्च परिवर्तनशीलता प्रदर्शित करते हैं। यह एपिस्टेमिक अनसर्टेन्टी (epistemic uncertainty) कंटैमिनेशन के लिए एक सिग्नल के रूप में कार्य करती है।
कंटैमिनेशन स्केलर ( $\hat{\alpha}$ ): एन्सेम्बल में ग्राउंड-ट्रुथ प्रोबेबिलिटी के स्टैंडर्ड डेविएशन से एक प्रति-सैंपल स्केलर अनुमानित किया जाता है। उच्च स्टैंडर्ड डेविएशन मजबूत मेमोराइजेशन (कम $\alpha$ ) को दर्शाता है, जबकि कम स्टैंडर्ड डेविएशन वास्तविक सुगमता (उच्च $\alpha \approx 1$ ) को दर्शाता है।
UBD-डिबायसिंग (UBD-Debiasing): यह एक पोस्ट-हॉक इन्फरेंस-टाइम करेक्शन है जो आउटपुट वितरण को रीस्केल करता है। यह ग्राउंड-ट्रुथ उत्तर पर बढ़ी हुई प्रायिकता द्रव्यमान (probability mass) को दबा देता है और अनुमानित $\hat{\alpha}$ द्वारा निर्देशित होकर इसे अन्य विकल्पों में आनुपातिक रूप से पुनर्वितरित करता है।
UBD-अनलर्निंग (UBD-Unlearning): यह एक पैरामीटर अपडेट विधि है जहाँ कंटैमिनेटेड मॉडल को डिबायस्ड वितरण का उपयोग करके एक सॉफ्ट टारगेट के रूप में फाइन-ट्यून किया जाता है। यह मेमोराइजेशन को दबाता है जबकि आउटपुट वितरण के समग्र आकार को सुरक्षित रखता है।

प्रमुख योगदान

इवैल्यूएशन प्रतिमान में बदलाव: यह शोध पत्र तर्क देता है कि डेटासेट-लेवल मेट्रिक्स अपर्याप्त हैं और यह वितरण-दूरी मेट्रिक्स ( $D_{KL}$ और $D^*_{L1}$ ) का उपयोग करके एक सैंपल-लेवल इवैल्यूएशन फ्रेमवर्क प्रस्तावित करता है जो समग्र सटीकता द्वारा छिपे हुए व्यवहार संबंधी अंतरों को प्रकट करता है।
कंटैमिनेशन सिग्नल के रूप में अनसर्टेन्टी: लेखक प्रदर्शित करते हैं कि एन्सेम्बल अनसर्टेन्टी (विशेष रूप से ग्राउंड-ट्रुथ प्रोबेबिलिटीज का स्टैंडर्ड डेविएशन) वास्तव में आसान सैंपल्स और कंटैमिनेशन के कारण मेमोराइज किए गए कठिन सैंपल्स के बीच प्रभावी ढंग से अंतर करती है।
UBD विधियाँ: वे UBD-Debiasing और UBD-Unlearning पेश करते हैं, जो किसी क्लीन रेफरेंस मॉडल या विशिष्ट कंटैमिनेटेड सैंपल्स के ज्ञान की आवश्यकता के बिना डीकंटैमिनेशन प्राप्त करते हैं।

प्रायोगिक परिणाम
Llama-3.2-3B-Instruct और Qwen2.5-3B-Instruct बैकबोन का उपयोग करके MMLU-Pro और MATH-MCQA बेंचमार्क पर प्रयोग किए गए।

श्रेष्ठ सैंपल-लेवल रिकवरी: UBD विधियों ने पारफ़्रेज़िंग (paraphrasing), चॉइस परम्यूटेशन (choice permutation) और रेफरेंस-मॉडल-आधारित DeconIEP जैसे बेसलाइन्स की तुलना में प्रति-सैंपल आउटपुट वितरण को काफी करीब से रिकवर किया।
मेट्रिक सुधार: Llama-3.2 के साथ MMLU-Pro पर, UBD-Debiasing ने कंटैमिनेटेड मॉडल की तुलना में $D_{KL}$ और $D^*_{L1}$ में 40% से अधिक की सापेक्ष कमी हासिल की। Qwen2.5 पर, $D_{KL}$ में कमी लगभग 60% तक पहुँच गई।
बेसलाइन तुलना: जबकि पारफ़्रेज़िंग और चॉइस परम्यूटेशन ने डेटासेट स्तर पर रेसिडुअल कंटैमिनेशन (RC) को कम किया, वे सैंपल-लेवल वितरण दूरियों में सुधार करने में विफल रहे (अक्सर $D_{KL}$ को बढ़ा देते हैं)। DeconIEP ने बेसलाइन्स की तुलना में बेहतर प्रदर्शन किया लेकिन UBD द्वारा पीछे छोड़ दिया गया, विशेष रूप से गैर-कंटैमिनेटेड डेटा पर प्रदर्शन ( $D_{dev}$ ) को बनाए रखने के मामले में।
मजबूती (Robustness): सेंसिटिविटी एनालिसिस ने दिखाया कि UBD विधियाँ डीकंटैमिनेशन लागू करने के लिए विभिन्न थ्रेशोल्ड सेटिंग्स में मजबूत रहती हैं।

महत्व और दावे
यह शोध पत्र दावा करता है कि इसका प्राथमिक महत्व डेटासेट-लेवल प्रदर्शन मेट्रिक्स और वास्तविक सैंपल-लेवल मॉडल व्यवहार के बीच के "डिसकनेक्ट" को संबोधित करने में निहित है। अनसर्टेटी-आधारित संकेतों को पेश करके, लेखक डीकंटैमिनेशन के लिए एक व्यावहारिक समाधान प्रदान करते हैं जो क्लीन मॉडल तक पहुँच या कंटैमिनेटेड डेटा की ज्ञात सूची की अवास्तविक धारणा पर निर्भर नहीं करता है। यह कार्य प्रदर्शित करता है कि केवल कंटैमिनेटेड मॉडल और एन्सेम्बल तकनीकों का उपयोग करके मेमोराइजेशन को प्रभावी ढंग से दबाना और अनबायस्ड आउटपुट वितरण को रिकवर करना संभव है, जिससे LLM क्षमताओं के अधिक विश्वसनीय और निष्पक्ष बेंचमार्किंग को सक्षम बनाया जा सके।

सीमाएँ
लेखक दो प्राथमिक सीमाओं को स्वीकार करते हैं:

एन्सेम्बल की आवश्यकता: अनसर्टेन्टी का अनुमान लगाने के लिए विधि को मॉडल्स (या LoRA weights) के एक एन्सेम्बल की आवश्यकता होती है, जो बोझिल हो सकता है यदि मॉडल प्रदाता कई चेकपॉइंट्स जारी नहीं करते हैं।
कार्य का दायरा: UBD-Debiasing का वर्तमान स्वरूप वर्गीकरण कार्यों (जैसे मल्टीपल चॉइस प्रश्न) तक सीमित है। इस दृष्टिकोण को ओपन-एंडेड जनरेशन तक विस्तारित करना भविष्य के अनुसंधान का विषय है।