🤖 AI

Harnessing non-adversarial robustness in large language models

यह शोध पत्र एक सैद्धांतिक और प्रयोगात्मक रूपरेखा प्रस्तावित करता है जो यह प्रदर्शित करता है कि "मजबूती के लिए पूर्वाग्रह हटाना" (debiasing for robustness), जो प्रॉम्प्ट-प्रेरित पूर्वाग्रहों को लक्षित करने वाली एक सरल फाइन-ट्यूनिंग प्रक्रिया है, बिना महंगे पूर्ण-मॉडल पुनरप्रशिक्षण की आवश्यकता के, अर्थपूर्ण रूप से समान लेकिन शाब्दिक रूप से भिन्न प्रॉम्प्ट्स के प्रति बड़े भाषा मॉडलों की मजबूती को कुशलतापूर्वक बढ़ा सकता है।

मूल लेखक: Qinghua Zhou, Ellina Aleshina, Andrey Lovyagin, Oleg Somov, Mikhail Seleznyov, Alexander Panchenko, Ivan Oseledets, Elena Tutubalina, Ivan Y. Tyukin

प्रकाशित 2026-05-29

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Qinghua Zhou, Ellina Aleshina, Andrey Lovyagin, Oleg Somov, Mikhail Seleznyov, Alexander Panchenko, Ivan Oseledets, Elena Tutubalina, Ivan Y. Tyukin

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, अच्छी तरह से प्रशिक्षित रोबोट सहायक (एक लार्ज लैंग्वेज मॉडल, या LLM) है। आप उससे एक प्रश्न पूछते हैं, और वह एक सटीक उत्तर देता है। लेकिन फिर, आप गलती से एक छोटी सी टाइपिंग की गलती (typo) कर देते हैं, एक कॉमा को फुल स्टॉप से बदल देते हैं, या अपने प्रश्न को थोड़ा अलग तरीके से लिख देते हैं। अचानक, रोबोट भ्रमित हो जाता है और गलत उत्तर देने लगता है।

यह शोध पत्र इस बारे में है कि ऐसा क्यों होता है और इसे पूरे रोबोट को फिर से बनाए बिना कैसे ठीक किया जाए।

यहाँ उनकी खोज और समाधान का विवरण दिया गया, जिसे सरल उपमाओं (analogies) का उपयोग करके समझाया गया है:

समस्या: "डगमगाती मेज" का प्रभाव (The "Wobbly Table" Effect)

शोधकर्ताओं ने पाया कि जब आप AI को दिए जाने वाले टेक्स्ट में थोड़ा सा बदलाव करते हैं (भले ही अर्थ वही रहे), तो AI का आंतरिक "मस्तिष्क" केवल थोड़ा सा नहीं हिलता। इसके बजाय, उसके विचारों की औसत स्थिति एक विशिष्ट, अनुमानित दिशा में स्थानांतरित हो जाती है।

उपमा: कल्पना कीजिए कि AI की निर्णय लेने की प्रक्रिया एक मेज की तरह है जिस पर एक भारी गेंद रखी हुई है।

सामान्य अवस्था: गेंद बिल्कुल केंद्र में बैठी है।
परिवर्तन (The Perturbation): जब आप टेक्स्ट में थोड़ा सा बदलाव करते हैं (जैसे टाइपिंग की गलती), तो यह मेज पर धीरे से फूंक मारने जैसा है।
आश्चर्य: शोधकर्ताओं ने पाया कि मेज समतल नहीं है। क्योंकि AI की आंतरिक संरचना जटिल है, वह हल्की सी फूंक गेंद को केवल हिलाती नहीं है; बल्कि, वह वास्तव में मेज को झुका देती है ताकि गेंद एक नए औसत स्थान पर लुढ़क जाए। यह नया स्थान बिल्कुल किनारे के पास हो सकता है, जहाँ एक छोटा सा अतिरिक्त धक्का गेंद को गिरा सकता है (यानी AI गलती कर देता है)।

इस "झुकाव" को लेखक पर्टर्बेशन-इंड्यूस्ड बायस (perturbation-induced bias) कहते हैं। यह टेक्स्ट के शोर (noise) के कारण होने वाला AI के आंतरिक गणित का एक व्यवस्थित बदलाव है।

समाधान: "डिबायसिंग" (मेज को समतल करना)

बड़ा सवाल यह था: क्या हमें इस समस्या को ठीक करने के लिए पूरे AI को फिर से प्रशिक्षित (retrain) करने की आवश्यकता है (जिसमें महीनों और लाखों डॉलर लगते हैं)?

इसका उत्तर है नहीं।

लेखक डिबायसिंग (debiasing) नामक एक सरल समाधान प्रस्तावित करते हैं। AI को फिर से प्रशिक्षित करने के बजाय, वे बस AI की आंतरिक गणनाओं में एक छोटा सा "काउंटर-वेट" (प्रति-भार) जोड़ देते हैं।

उपमा:
यदि हवा (टेक्स्ट की त्रुटियों) के कारण मेज बाईं ओर झुक गई है, तो आपको मेज को फिर से बनाने की आवश्यकता नहीं है। आपको बस मेज को फिर से संतुलित करने के लिए दाईं ओर एक छोटा वजन खिसकाना होगा।

वे इसे कैसे करते हैं: वे ठीक से गणना करते हैं कि "हवा" AI के विचारों को केंद्र से कितना दूर धकेलती है। फिर, वे उस विशिष्ट मात्रा को AI के आउटपुट से घटा देते हैं।
परिणाम: AI का आंतरिक "गेंद" केंद्र में ही रहता है, भले ही टेक्स्ट अव्यवस्थित हो। बिना किसी पूर्ण रीबूट के, AI टाइपिंग की गलतियों और फॉर्मेटिंग के बदलावों के प्रति मजबूत (robust) हो जाता है।

यह एक बड़ी बात क्यों है

यह सस्ता और तेज़ है: आपको मॉडल को फिर से प्रशिक्षित करने की आवश्यकता नहीं है। यह एक मशीन बनाने के बजाय मशीन के एक पेंच (screw) को एडजस्ट करने जैसा है।
यह बिना शिक्षक के काम करता है: आमतौर पर, AI को ठीक करने के लिए आपको मानव द्वारा उसके उत्तरों को ग्रेड करने की आवश्यकता होती है (सुपरविजन)। यह तरीका तब भी काम करता है जब आपके पास "सही" उत्तर उपलब्ध न हों। आपको बस यह जानने की आवश्यकता है कि टेक्स्ट के बदलावों के प्रति AI कैसे प्रतिक्रिया देता है।
यह एक "सुरक्षा प्रमाणपत्र" प्रदान करता है: इसके पीछे का गणित यह प्रमाणित करने की अनुमति देता है कि AI अव्यवस्थित टेक्स्ट के बावजूद सही ढंग से काम करेगा। यह एक वारंटी मिलने जैसा है जो कहती है, "हम गारंटी देते हैं कि यह रोबोट गेंद को नहीं गिराएगा, भले ही आप मेज को थपथपा दें।"

ट्रेड-ऑफ (समझौता)

शोध पत्र में उल्लेख है कि कभी-कभी, जब आप "डगमगाती मेज" को ठीक करने के लिए यह काउंटर-वेट जोड़ते हैं, तो गेंद एक पूरी तरह से चिकनी मेज (साफ टेक्स्ट) पर भी थोड़ा अलग बैठ सकती है।

वास्तविकता: अधिकांश मामलों में, AI अव्यवस्थित टेक्स्ट को संभालने में बहुत बेहतर हो जाता है, और सटीक टेक्स्ट पर प्रदर्शन में होने वाली मामूली कमी, विश्वसनीयता में होने वाले बड़े लाभ के सामने तुच्छ है। यह एक ऐसा समझौता है जो आमतौर पर सफल रहता है।

सारांश

शोध पत्र का तर्क है कि AI मॉडल इसलिए नाजुक नहीं हैं कि वे "मूर्ख" हैं, बल्कि इसलिए क्योंकि उनके आंतरिक गणित में अव्यवस्थित टेक्स्ट के प्रति एक छिपा हुआ "झुकाव" होता है। इस झुकाव को मापकर और एक छोटा सा काउंटर-वेट (डिबायसिंग) जोड़कर, हम इन शक्तिशाली मॉडलों को बिना भारी लागत के बहुत अधिक विश्वसनीय और मजबूत बना सकते हैं।

तकनीकी सारांश: लार्ज लैंग्वेज मॉडल्स (LLMs) में नॉन-एडवर्सरियल रोबस्टनेस का दोहन करना

1. समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) उन प्रॉम्प्ट्स के प्रति अत्यधिक नाजुकता (fragility) प्रदर्शित करते हैं जो अर्थहीन रूप से भिन्न होते हैं (नॉन-एडवर्सरियल परटर्बेशन्स)। ये विविधताएं, जैसे कि फॉर्मेटिंग में बदलाव, ज़ीरो-विड्थ यूनिकोड कैरेक्टर्स, या मामूली टाइपो, मॉडल के प्रदर्शन को काफी हद तक कम कर सकती हैं।

मौजूदा रोबस्टनेस रणनीतियां महत्वपूर्ण सीमाओं का सामना करती हैं:

रिट्रेनिंग-आधारित विधियाँ: एडवर्सरियल ट्रेनिंग या लार्ज-मार्जिन क्लासिफायर जैसी दृष्टिकोणों के लिए सुपरवाइजरी ग्राउंड ट्रुथ और विशाल कंप्यूटेशनल संसाधनों की आवश्यकता होती है, जो बड़े पैमाने के LLMs के लिए अव्यवहारिक है।
पोस्ट-हॉक सर्टिफिकेट्स: रैंडमाइज्ड स्मूथिंग जैसी विधियाँ रोबस्टनेस गारंटी प्रदान करती हैं लेकिन प्रत्येक प्रॉम्प्ट के लिए कई इन्फरेंस पास की आवश्यकता होती है, जिससे उच्च कंप्यूटेशनल ओवरहेड होता है। इसके अलावा, उनकी गारंटियाँ मूल मॉडल के अपेक्षित प्रदर्शन से जुड़ी होती हैं; यदि बेस मॉडल परटर्बड इनपुट्स पर खराब प्रदर्शन करता है, तो स्टेबलाइज्ड मॉडल भी उसी कमजोरी को विरासत में प्राप्त करता है।
कार्य सीमाएँ: कई मौजूदा उपचार वर्गीकरण (classification) कार्यों तक सीमित हैं और जेनरेशन या अन्य LLM-विशिष्ट कार्यों में अच्छी तरह से सामान्यीकृत (generalize) नहीं हो पाते हैं।

केंद्रीय शोध प्रश्न यह है कि क्या महंगे रिट्रेनिंग या सुपरवाजरी ग्राउंड ट्रुथ तक पहुँच के बिना, कार्य-विशिष्ट मॉडल संशोधनों के माध्यम से अर्थहीन रूप से न्यूट्रल प्रॉम्प्ट परिवर्तनों के प्रति LLM रोबस्टनेस में सुधार किया जा सकता है।

2. सैद्धांतिक ढांचा और कार्यप्रणाली

2.1. परटर्बेशन-प्रेरित बायस (Perturbation-Induced Bias)

पेपर का सैद्धांतिक विश्लेषण एक महत्वपूर्ण, पहले कम आकलित कारक की पहचान करता है: परटर्बेशन-प्रेरित बायस।

घटना: एक मॉड्यूल $M$ के तहत रैंडम परटर्बेशन $\delta x$ के अंतर्गत LLMs का अपेक्षित आउटपुट, जिसे $E_{\delta x}[M(x + \delta x)]$ द्वारा दर्शाया गया है, अक्सर क्लीन इनपुट $M(x)$ के आउटपुट के साथ मेल नहीं खाता है।
कारण: यह विसंगति मॉडल की अंतर्निहित नॉन-लिनियरिटी (nonlinearities) और रैंडम परटर्बेशन्स के बीच की परस्पर क्रिया से उत्पन्न होती है। मानक डिस्ट्रिब्यूशनल शिफ्ट के विपरीत, यह बायस विशेष रूप से एडिटिव नॉइज़ द्वारा प्रेरित लेटेंट फीचर्स के अपेक्षित सांख्यिकीय गुणों में एक व्यवस्थित बदलाव (systematic shift) है।
प्रभाव: यह बायस मॉड्यूल के आउटपुट में एक व्यवस्थित बदलाव के रूप में कार्य करता है, जो प्रभावी रूप से रोबस्टनेस मार्जिन (डिसीजन बाउंड्री तक की दूरी) को कम करता है और प्रदर्शन में गिरावट का कारण बनता है।

2.2. रोबस्टनेस सर्टिफिकेट्स

लेखक ज्ञात रोबस्टनेस निर्धारकों (लिप्सचिट्ज़ कांस्टेंट, स्पैरसिटी, वेरिएंस) को इस नए बायस फैक्टर के साथ जोड़ते हुए सैद्धांतिक रोबस्टनेस सर्टिफिकेट्स व्युत्पन्न करते हैं।

एक लिप्सचिट्ज़ मॉड्यूल $\gamma_i$ कांस्टेंट के लिए, $1-\phi_i$ कॉन्फिडेंस के साथ प्रदर्शन सुनिश्चित करने के लिए आवश्यक रोबस्टनेस रेडियस $\epsilon_i$ है:
$\epsilon_i(\phi_i) = C_i + c\gamma_i \sqrt{2n \ln\left(\frac{2m}{\phi_i}\right)}$
जहाँ $C_i$ परटर्बेशन-प्रेरित बायस का ऊपरी स्तर ( $\sup |E_{\delta x}[f_i(x, \delta x)]|$ ) दर्शाता है।
मुख्य अंतर्दृष्टि: $C_i$ बायस टर्म को नियंत्रित करना लिप्सचिट्ज़ कांस्टेंट को नियंत्रित करने जितना ही महत्वपूर्ण है। $C_i$ को कम करने से आवश्यक रोबस्टनेस रेडियस में रैखिक कमी आती है और सर्टिफिकेशन प्रोबेबिलिटी में एक्सपोनेंशियल लाभ होता है।

2.3. विधि: रोबस्टनेस के लिए डिबायसिंग (Debiasing)

सिद्धांत से प्रेरित होकर, पेपर एक सरल, कंप्यूटेशनल रूप से कुशल हस्तक्षेप प्रस्तावित करता है: डिबायसिंग।
पूरे मॉडल को रिट्रेन करने के बजाय, यह विधि सीधे मॉड्यूल आउटपुट को संशोधित करती है:
$M^*_i(x) = M_i(x) - b_i \quad \text{या} \quad M^*_i(x) = M_i(x) - b_i(x)$
जहाँ $b_i$ एक बायस-करेक्टिंग टर्म है।

पेपर दो वेरिएंट्स का अन्वेषण करता है:

इनपुट-स्वतंत्र डिबायसिंग (Input-Independent Debiasing): न्यूरॉन्स (लॉगिट्स) में एक स्थिर बायस $b_i$ जोड़ा जाता है ताकि आउटपुट को कैलिब्रेट किया जा सके। इसे एक ट्रेनिंग सेट पर परटर्बेशन-प्रेरित बायस बाउंड $C^*_i$ को न्यूनतम करने के लिए अनुकूलित किया जाता है।
इनपुट-निर्भर डिबायसिंग (Input-Dependent Debiasing): एक फंक्शन $b_i(x)$ सीखा जाता है, जो आमतौर पर लीनियर रिज रिग्रेशन ( $b_i(x) = w_i \cdot \psi(x) + \beta_i$ ) के माध्यम से होता है, ताकि इनपुट फीचर्स के आधार पर बायस की भरपाई की जा सके। यह अधिक लचीलापन प्रदान करता है और परटर्बेशन्स के कारण खोए गए प्रदर्शन के एक बड़े हिस्से को पुनः प्राप्त कर सकता है।

कार्यान्वयन:

इस विधि को परटर्बड डेटा के लिए ग्राउंड ट्रुथ लेबल की आवश्यकता नहीं होती है (अनसुपरवाइज्ड सेटिंग), केवल कैलिब्रेशन के लिए क्लीन उदाहरणों की आवश्यकता होती है।
इसे मौजूदा संरचनाओं (जैसे LoRA एडेप्टर) के साथ एकीकृत किया जा सकता है या सीधे लॉगिट्स/इंटरमीडिएट फीचर्स पर लागू किया जा सकता है।
इसमें नगण्य इन्फरेंस ओवरहेड होता है (एकल पास)।

3. मुख्य योगदान

परटर्बेशन-प्रेरित बायस की पहचान: पेपर ने नॉन-एडवर्सियल नॉइज़ के तहत LLMs में रोबस्टनेस लॉस के प्राथमिक कारण के रूप में मॉड्यूल के अपेक्षित आउटपुट में व्यवस्थित बदलाव को अलग किया है।
एकीकृत रोबस्टनेस सर्टिफिकेट्स: लेखक पारंपरिक निर्धारकों (लिप्सचिट्ज़ कांस्टेंट, मार्जिन) को इस नए बायस फैक्टर के साथ एकीकृत करने वाले सैद्धांतिक सर्टिफिकेट्स प्रदान करते हैं, जो सरल और जटिल दोनों शोर मॉडलों पर लागू होते हैं।
कुशल डिबायसिंग एल्गोरिदम: सरल, क्लोज्ड-फॉर्म डिबायसिंग विधियों (दोनों इनपुट-स्वतंत्र और इनपुट-निर्भर) का प्रस्ताव, जो पूर्ण मॉडल रिट्रेनिंग के बिना रोबस्टनेस में सुधार करते हैं।
अनुभवजन्य सत्यापन (Empirical Validation): प्रयोगात्मक प्रमाण जो दिखाते हैं कि डिबायसिंग परटर्बड प्रॉम्प्ट्स पर प्रदर्शन को पुनः प्राप्त करता है और औपचारिक रोबस्टनेस सर्टिफिकेट्स को मजबूत करता है।

4. प्रयोगात्मक परिणाम

4.1. सेटअप

मॉडल्स: Qwen-3-8B, Llama-3.1-8B, Olmo-3-7B।
टास्क: Natural Instructions डेटासेट से 9 अद्वितीय कार्य (उच्च क्लीन एक्यूरेसी और परटर्बेशन के तहत महत्वपूर्ण गिरावट के लिए फ़िल्टर किए गए)।
परटर्बेशन्स: फॉर्मेट परटर्बेशन्स (स्ट्रक्चरल परिवर्तन) और टेक्स्ट परटर्बेशन्स (टाइपो, यूनिकोड कन्फ्यूसेबल्स)।

4.2. प्रदर्शन रिकवरी

इनपुट-स्वतंत्र डिबायसिंग: रोबस्टनेस रेडियस और परटर्बड एक्यूरेसी ( $\delta_{pert}$ ) में सुधार करने की क्षमता दिखाई, हालांकि अक्सर क्लीन एक्यूरेसी ( $\delta_{clean}$ ) की कीमत पर। विशिष्ट मॉडल्स और टास्क के लिए इष्टतम ओवरलैप क्षेत्र मौजूद थे।
इनपुट-निर्भर डिबायसिंग: इसने बेहतर प्रदर्शन प्रदर्शित किया। अधिकांश मॉडल्स और टास्क में, इसने परटर्बेशन्स के कारण होने वाली प्रदर्शन गिरावट के एक बड़े हिस्से को रिकवर किया (उच्च $p_{recover}$ $p_{r eco v er}$ )।
- ट्रेड-ऑफ: जबकि इसने आम तौर पर संयुक्त प्रदर्शन (क्लीन + परटर्बड) में सुधार किया, इसने अक्सर क्लीन-एग्जांपल प्रदर्शन में मामूली कमी की ( $p_{clean}$ नेगेटिव था)। हालांकि, शुद्ध संयुक्त सुधार ( $p_{combined}$ ) अधिकांश मामलों में पॉजिटिव रहा।

4.3. सर्टिफिकेशन में सुधार

प्रति-उदाहरण स्तर (Per-Example Level): डिबायसिंग ने उन उदाहरणों के प्रतिशत को काफी बढ़ा दिया जिन्हें औपचारिक रूप से रोबस्ट प्रमाणित किया जा सकता था। उदाहरण के लिए, टेक्स्ट परटर्बेशन्स के साथ Qwen-8B पर, प्रति-उदाहरण सर्टिफिकेशन रेट ( $p'_C$ ) 9.4% से बढ़कर 55.7% हो गया।
पॉपुलेशन स्तर: विधि ने जनसंख्या-स्तर के गारंटीकृत प्रमाणों को मापने योग्य रूप से मजबूत किया, जिससे प्रमाणित रोबस्टनेस वाले जनसंख्या के अंश में वृद्धि हुई।
सत्यापन (Verification): अनुभवजन्य सत्यापन ने दिखाया कि प्रमाणित क्लीन उदाहरणों ने अपने परटर्बड वेरिएंट्स पर लगभग 100% बैलेंस्ड एक्यूरेसी (BAC) बनाए रखी, जो अनसर्टिफाइड प्रॉम्प्ट्स से काफी बेहतर प्रदर्शन करती है।

4.4. सामान्यीकरण (Generalization)

इंटरमीडिएट लेयर फीचर्स को डिबायस करके (फीचर डिफरेंस पर PCA के माध्यम से) जेनरेशन टास्क (समराइजेशन, क्वेश्चन एनसरिंग) पर प्रारंभिक प्रयोगों ने मेथड को क्लासिफिकेशन से आगे ले जाने की क्षमता दिखाई, जिससे GSM-8K और XSum जैसे कार्यों पर प्रदर्शन को रिकवर किया गया।

5. महत्व और दावे

पेपर दावा करता है कि डिबायसिंग डिप्लॉयमेंट सेटिंग्स में LLM रोबस्टनेस बढ़ाने के लिए एक व्यावहारिक, सिद्धांतवादी हस्तक्षेप है, जहाँ प्रॉम्प्ट परिवर्तनशीलता की अपेक्षा की जाती है।

दक्षता: रैंडमाइज्ड स्मूथिंग या एडवर्सरियल ट्रेनिंग के विपरीत, यह विधि कोई इन्फरेंस ओवरहेड नहीं जोड़ती है और न ही इसके लिए महंगे रिट्रेनिंग की आवश्यकता होती है।
पहुंच: यह बिना सुपरवाइजरी ग्राउंड ट्रुथ के काम करता है, जिससे यह उन ओपन-वेट मॉडल्स के लिए लागू होता है जहाँ ट्रेनिंग डेटा या लेबल उपलब्ध नहीं हो सकते हैं।
सैद्धांतिक आधार: यह दृष्टिकोण केवल एक ह्यूरिस्टिक नहीं है बल्कि परटर्बेशन-प्रेड बायस के सैद्धांतिक विश्लेषण से प्राप्त है, जो औपचारिक रोबस्टनेस सर्टिफिकेट प्रदान करता है।
सीमाएं: लेखक स्वीकार करते हैं कि विधि के लिए मॉडल वेट्स तक व्हाइट-बॉक्स एक्सेस की आवश्यकता होती है, यह नॉन-एडवर्सियल (रैंडम) परटर्बेशन्स को मानती है, और क्लीन एवं परटर्बड प्रदर्शन के बीच एक ट्रेड-ऑफ शामिल है। वे यह भी नोट करते हैं कि प्रभावशीलता फीचर स्पेस की अंतर्निहित डाइमेंशनलिटी पर निर्भर हो सकती है।

निष्कर्षतः, यह कार्य डिबायसिंग को LLMs के प्रदर्शन में गिरावट को "वश में करने" के लिए एक हल्के, प्रभावी उपकरण के रूप में स्थापित करता है, जो सेमेंटिकली-न्यूट्रल प्रॉम्प्ट विविधताओं के कारण होता है, और तत्काल प्रदर्शन लाभ के साथ-साथ मजबूत औपचारिक गारंटी भी प्रदान करता है।