💬 NLP

Layer-wise Swapping for Generalizable Multilingual Safety

यह शोध पत्र एक प्रशिक्षण-मुक्त, सुरक्षा-जागरूक लेयर स्वैपिंग विधि का प्रस्ताव करता है जो विशेष मॉड्यूल को अनुकूल रूप से चुनकर अंग्रेजी विशेषज्ञ मॉडलों से कम-संसाधन वाली भाषाओं के विशेषज्ञों में सुरक्षा संरेखण (सेफ्टी अलाइनमेंट) को स्थानांतरित करता है, जिससे सामान्य भाषाई प्रदर्शन से समझौता किए बिना बहुभाषी सुरक्षा को बढ़ाया जा सके।

मूल लेखक: Hyunseo Shin, Wonseok Hwang

प्रकाशित 2026-02-16

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Hyunseo Shin, Wonseok Hwang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "लेयर-वाइज स्वैपिंग फॉर जनरलाइज़ेबल मल्टीलिंगुअल सेफ्टी" (Layer-wise Swapping for Generalizable Multilingual Safety) पेपर का सरल भाषा और रचनात्मक उपमाओं के साथ स्पष्टीकरण दिया गया।

बड़ी समस्या: "सेफ्टी गैप" (सुरक्षा अंतराल)

कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट सहायक (एक लार्ज लैंग्वेज मॉडल) है जो अंग्रेजी बखूबी बोलता है। क्योंकि इसे लाखों अंग्रेजी सुरक्षा नियमों पर प्रशिक्षित किया गया है, यह जानता है कि किसी खतरनाक काम को करने के लिए मना कैसे करना है, जैसे कि बम बनाना या नफरत भरे भाषण लिखना। यह बहुत विनम्र और सुरक्षित है।

हालाँकि, इस रोबोट को कोरियाई, बंगाली या स्वाहिली जैसी अन्य भाषाएँ भी बोलनी पड़ सकती हैं। जब शोधकर्ता इसे ये नई भाषाएँ सिखाते हैं, तो वे अक्सर उन भाषाओं में सुरक्षा नियम सिखाना भूल जाते हैं। इसके परिणामस्वरूप, रोबोट उन भाषाओं में एक "बुरा छात्र" बन जाता है। वह स्वाहिली में गणित के सवाल हल करने या कहानियाँ लिखने में सक्षम हो सकता है, लेकिन यदि आप उससे स्वाहिली में कोई खतरनाक सवाल पूछते हैं, तो वह खुशी-खुशी उसका पालन कर सकता है क्योंकि उसने उस विशिष्ट भाषा के लिए "सुरक्षा नियम" कभी नहीं सीखे थे।

पुराना समाधान: "पूरे घर का बदलाव" (The Whole House Swap)

पहले, शोधकर्ताओं ने अंग्रेजी विशेषज्ञ के "सेफ्टी ब्रेन" (सुरक्षा मस्तिष्क) को लेकर उसे स्वाहिली विशेषज्ञ पर चिपकाने की कोशिश करके इसे ठीक करने का प्रयास किया।

उपमा: कल्पना कीजिए कि आपके पास एक घर (AI मॉडल) है। अंग्रेजी वाले घर का मुख्य द्वार बहुत मजबूत और सुदृढ़ है (सुरक्षा)। स्वाहिली वाले घर का दरवाजा कमजोर है। पुराना तरीका ऐसा था जैसे कहना, "चलो अंग्रेजी घर का पूरा मुख्य दरवाजा निकालकर स्वाहिली घर पर लगा देते हैं।"
समस्या: यह बहुत ही भद्दा तरीका है। कभी-कभी अंग्रेजी का दरवाजा स्वाहिली के ढांचे में फिट नहीं बैठता, या पूरा दरवाजा बदलने से अंदर का गलियारा भी टूट जाता है। यह एक "एक ही आकार सबके लिए" (one-size-fits-all) वाला दृष्टिकोण है जो अक्सर रोबोट की भाषा बोलने की क्षमता को बिगाड़ देता है।

नया समाधान: "मॉड्यूलर स्वैप" (The Modular Swap)

इस पेपर के लेखक एक अधिक स्मार्ट और सटीक दृष्टिकोण प्रस्तावित करते हैं जिसे सेफ्टी-अवेयर लेयर स्वैपिंग (Safety-Aware Layer Swapping) कहा जाता है।

पूरे घर को बदलने के बजाय, वे रोबोट के मस्तिष्क के अंदर देखते हैं, जो कई छोटे कमरों (लेयर्स) और विशिष्ट उपकरणों (जैसे अटेंशन और MLP जैसे मॉड्यूल्स) से बना है। उन्होंने महसूस किया कि:

सुरक्षा का ज्ञान (Safety knowledge) मस्तिष्क के बीच के विशिष्ट कमरों में रहता है।
भाषा का ज्ञान (Language knowledge) मस्तिष्क के अलग-अलग हिस्सों में, मुख्य रूप से शुरुआत और अंत में रहता है।

यह कैसे काम करता है ("शेफ की रसोई" की उपमा)

कल्पना कीजिए कि AI मॉडल एक विशाल, हाई-टेक रसोई है।

अंग्रेजी सुरक्षा शेफ (English Safety Chef) के पास चाकू और मसालों का एक विशेष सेट है जो यह सुनिश्चित करता है कि रसोई में किसी को चोट न लगे।
स्वाहिली भाषा शेफ (Swahili Language Chef) स्वादिष्ट स्थानीय व्यंजन बनाने में माहिर है लेकिन उसके पास वे सुरक्षा वाले चाकू नहीं हैं।

पुराना तरीका पूरे स्वाहिली किचन को अंग्रेजी किचन से बदलने की कोशिश करता। यह अव्यवस्थित है और स्थानीय व्यंजनों को खराब कर देता है।

नया तरीका एक "स्मार्ट किचन स्वैप" की तरह है:

निरीक्षण (Inspection): शोधकर्ता रसोई में घूमते हैं और हर स्टेशन की जाँच करते हैं। वे पूछते हैं: "क्या इस स्टेशन को सुरक्षा वाले चाकुओं की आवश्यकता है?"
स्वचालित चयन (Automatic Selection):
- यदि कोई स्टेशन "खतरनाक सामग्री" (सुरक्षा कार्यों) को संभाल रहा है, तो वे स्वचालित रूप से अंग्रेजी सुरक्षा शेफ के औजारों को बदल देते हैं।
- यदि कोई स्टेशन "स्थानीय व्यंजनों" (भाषा कार्यों) को संभाल रहा है, तो वे स्वाहिली शेफ के औजारों को बरकरार रखते हैं।
- यदि कोई स्टेशन दोनों का मिश्रण है, तो वे औजारों को मिला देते हैं (जैसे स्वाहिली व्यंजन में थोड़ा सा अंग्रेजी मसाला मिलाना)।
परिणाम: आपको एक ऐसी रसोई मिलती है जो स्वादिष्ट स्वाहिली भोजन भी बनाती है और जिसमें ठीक वहीं सुरक्षा वाले चाकू लगे होते हैं जहाँ उनकी आवश्यकता होती है।

यह क्यों एक बड़ी बात है

कोई अतिरिक्त प्रशिक्षण नहीं: आमतौर पर, किसी रोबोट को नई भाषा में सुरक्षा सिखाने में महीनों का महंगा प्रशिक्षण लगता है। यह तरीका "प्लग-एंड-प्ले" अपग्रेड की तरह है। आप बस हिस्से बदलते हैं, और यह तुरंत काम करने लगता है।
यह बुद्धिमत्ता बनाए रखता है: क्योंकि वे केवल सुरक्षा के लिए आवश्यक विशिष्ट हिस्सों को ही बदलते हैं, रोबोट भाषा बोलना या गणित के सवाल हल करना नहीं भूलता। वह स्मार्ट भी रहता है और सुरक्षित भी।
यह हर जगह काम करता है: उन्होंने चार कठिन भाषाओं (कोरियाई, बंगाली, स्वाहिली, तेलुगु) पर इसका परीक्षण किया और यह पिछले तरीकों की तुलना में बहुत बेहतर रहा।

निष्कर्ष (The Takeaway)

यह पेपर "विदेशी भाषाओं में असुरक्षित AI" की समस्या को यह समझकर हल करता है कि सुरक्षा और भाषा कौशल AI के मस्तिष्क के अलग-अलग हिस्सों में रहते हैं। पूरे मॉडल को जबरदस्ती बदलने के बजाय, वे एक स्मार्ट, स्वचालित प्रणाली का उपयोग करते हैं जो अंग्रेजी विशेषज्ञ से सर्वश्रेष्ठ "सुरक्षा वाले हिस्सों" को चुनती है और उन्हें कम संसाधन वाली भाषा के मॉडल्स में स्थापित करती है।

यह एक स्थानीय गाइड को उनके नक्शे या स्थानीय रास्तों के ज्ञान को छीने बिना, एक सुरक्षा जैकेट और फर्स्ट-एड किट देने जैसा है। अब, वे पर्यटकों को किसी भी भाषा में सुरक्षित रूप से गाइड कर सकते हैं।

यहाँ ह्यूनसियो शिन और वोंसियोक ह्वांग के शोध पत्र "Layer-wise Swapping for Generalizable Multilingual Safety" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) ने तर्क (reasoning) और निर्देश पालन (instruction following) में महत्वपूर्ण प्रगति की है, लेकिन उनकी सुरक्षा संरेखण (safety alignment) विभिन्न भाषाओं में असमान है।

अंग्रेजी-केंद्रित पूर्वाग्रह (English-Centric Bias): अधिकांश सुरक्षा-ट्यूनिंग डेटासेट अंग्रेजी में हैं। इसके परिणामस्वरूप, कम संसाधन वाली भाषाओं (जैसे कोरियाई, बंगाली, स्वाहिली, तेलुगु) के लिए फाइन-ट्यून किए गए मॉडल अक्सर अपने अंग्रेजी समकक्षों की तुलना में असुरक्षित या हानिकारक जनरेशन की उच्च दर प्रदर्शित करते हैं।
मौजूदा विधियों की सीमाएँ:
- नाइव फाइन-ट्यूनिंग (Naive Fine-tuning): केवल कम-संसाधन वाले निर्देश डेटा पर मॉडल को प्रशिक्षित करने से अक्सर प्री-ट्रेनिंग के दौरान प्राप्त सुरक्षा ज्ञान का "कैटास्ट्रोफिक फॉरगेटिंग" (catastrophic forgetting) हो जाता है।
- मिक्स्ड सुपरवाइज्ड फाइन-ट्यूनिंग (Mixed SFT): सुरक्षा और भाषा डेटा पर संयुक्त रूप से प्रशिक्षण देना कम्प्यूटेशनल रूप से महंगा है और विविध भाषाओं में सुरक्षा अंतराल को लगातार नहीं भर पाता है।
- स्टैटिक लेयर स्वैपिंग (Static Layer Swapping): पिछले संरचनात्मक हस्तांतरण तरीके (जैसे, एक सुरक्षा विशेषज्ञ से विशिष्ट परतों को एक भाषा विशेषज्ञ में बदलना) मैन्युअल, स्टैटिक चयन पर निर्भर करते हैं, जो विभिन्न भाषाओं और मॉडल आर्किटेक्चर में अच्छी तरह से सामान्यीकृत (generalize) होने में विफल रहते हैं।

2. कार्यप्रणाली: सुरक्षा-जागरूक लेयर स्वैपिंग (Methodology: Safety-Aware Layer Swapping)

लेखक एक ट्रेनिंग-फ्री (training-free) रणनीति प्रस्तावित करते हैं जो बिना किसी अतिरिक्त ग्रेडिएंट अपडेट के, उच्च-संसाधन वाले अंग्रेजी "सुरक्षा विशेषज्ञ" (safety expert) से कम-संसाधन वाले "भाषा विशेषज्ञों" (language experts) में सुरक्षा संरेखण को स्थानांतरित करती है। यह विधि टास्क वेक्टर्स (Task Vectors) पर आधारित है और मॉड्यूल-वाइज स्वैपिंग (Module-wise Swapping) तक विस्तारित है।

मुख्य अवधारणाएं

टास्क वेक्टर्स (Task Vectors): फाइन-ट्यून किए गए पैरामीटर्स ( $\theta_{ft}$ ) और प्री-ट्रेन किए गए बेस पैरामीटर्स ( $\theta_{base}$ ) के बीच का अंतर एक टास्क वेक्टर ( $\tau = \theta_{ft} - \theta_{base}$ ) को परिभाषित करता है। यह वेक्टर विशिष्ट ज्ञान परिवर्तन (जैसे, सुरक्षा या बहुभाषी क्षमता) को एनकोड करता है।
लेयर-वाइज स्वैपिंग (Layer-wise Swapping): परतों को मैन्युअल रूप से चुनने के बजाय, यह विधि सुरक्षा बनाम बहुभाषी कार्यों के लिए प्रत्येक परत के सापेक्ष महत्व की गणना करती है।
मॉड्यूल-वाइज स्वैपिंग (Module-wise Swapping - मुख्य नवाचार): यह पहचानते हुए कि सब-मॉड्यूल्स (Self-Attention और MLP/FFN) पूर्ण परतों की तुलना में उच्च रैखिकता (linearity) प्रदर्शित करते हैं, यह विधि मॉडल को और अधिक विभाजित करती है। यह विश्लेषण करती है कि क्या एक परत के भीतर विशिष्ट मॉड्यूल्स सुरक्षा या भाषा के लिए अधिक विशिष्ट हैं।

एल्गोरिदम

अपडेट की गणना करें: बेस मॉडल के सापेक्ष सुरक्षा-ट्यून किए गए मॉडल और बहुभाषी-ट्यून किए गए मॉडल के लिए पैरामीटर अपडेट ( $\Delta W$ ) की गणना करें।
विशेषज्ञता को मापें: प्रत्येक परत ( $l$ ) में प्रत्येक मॉड्यूल ( $m$ ) के लिए सुरक्षा ($safe $) और बहुभाषी ($ multi $) दोनों कार्यों के लिए अपडेट के परिमाण को दर्शाने वाला एक सामान्यीकृत अनुपात ($ n$) ज्ञात करें।
$n_{l,m}^{safe} = \frac{\|\Delta W_{l,m}^{safe}\|^2}{\|\theta_{base}\|^2}$
प्रभुत्व निर्धारित करें: सामान्यीकृत सुरक्षा स्कोर और बहुभाषी स्कोर के बीच का अंतर ( $d_{l,m}$ ) ज्ञात करें।
$d_{l,m} = p_{l,m}^{safe} - p_{l,m}^{multi}$
अनुकूली चयन और सम्मिश्रण (Adaptive Selection & Blending):
- चयन (Selection): यदि $|d_{l,m}| > \tau$ (एक थ्रेशोल्ड), तो मॉड्यूल को सीधे उस विशेषज्ञ से चुना जाता है जो प्रभावी है (यदि धनात्मक है तो सुरक्षा विशेषज्ञ, यदि ऋणात्मक है तो भाषा विशेषज्ञ)।
- सम्मिश्रण (Blending): यदि $|d_{l,m}| \le \tau$ , तो मॉड्यूल्स को एक निश्चित इंटरपोलेशन वेट $\alpha$ का उपयोग करके मिश्रित किया जाता है:
  $\theta_{hybrid} = \alpha \theta_{safe} + (1-\alpha) \theta_{multi}$

यह दृष्टिकोण मॉडल को स्वचालित रूप से उन स्थानों पर सुरक्षा प्रतिनिधित्व प्रसारित करने की अनुमति देता है जहाँ वे सबसे प्रभावी हैं, जबकि नेटवर्क के अन्य हिस्सों में भाषा समझ की क्षमताओं को बनाए रखता है।

3. प्रमुख योगदान

व्यवस्थित सूत्रीकरण (Systematic Formulation): उन्होंने लेयर स्वैपिंग को बहुभाषी और सुरक्षा टास्क वेक्टर्स के संयोजन के रूप में औपचारिक रूप दिया है, जो इन क्षमताओं को मिलाने का एक सिद्धांत आधारित तरीका प्रदान करता है।
मॉड्यूल-स्तर की सूक्ष्मता (Module-Level Granularity): उन्होंने पारंपरिक लेयर स्वैपिंग को मॉड्यूल-वाइज स्वैपिंग (Attention बनाम MLP) तक विस्तारित किया है, जो विशेषज्ञता की डिग्री के आधार पर एक स्वचालित चयन तंत्र पेश करता है। यह स्टैटिक लेयर रिप्लेसमेंट की कठोरता को दूर करता है।
ट्रेनिंग-फ्री दक्षता (Training-Free Efficiency): इस विधि के लिए किसी अतिरिक्त प्रशिक्षण या फाइन-ट्यूनिंग की आवश्यकता नहीं है, जो इसे कम-संसाधन परिवेश में सुरक्षित मॉडल तैनात करने के लिए अत्यधिक कुशल बनाता है।
अनुभवजन्य सत्यापन (Empirical Validation): चार कम-संसाधन भाषाओं (कोरियाई, बंगाली, स्वाहिली, तेलुगु) के लिए सुरक्षा में महत्वपूर्ण सुधार प्रदर्शित किया, जबकि सामान्य भाषा प्रदर्शन को बनाए रखा।

4. प्रयोगात्मक परिणाम

लेखकों ने LLaMA 3.1 8B Instruct और Qwen3 8B का चार कम-संसाधन भाषाओं पर मूल्यांकन किया।

सुरक्षा प्रदर्शन (MultiJail Benchmark):
- केवल-भाषा (Language-only) विशेषज्ञों ने उच्च असुरक्षा दर दिखाई (जैसे, LLaMA पर स्वाहिली के लिए ~58%)।
- प्रस्तावित मॉड्यूल-वाइज स्वैपिंग ने असुरक्षा दरों को काफी कम कर दिया (जैसे, LLaMA पर स्वाहिली के लिए ~13% तक), जो स्टैटिक लेयर स्वैपिंग, टास्क अरिथमेटिक, TIES मर्ज़िंग और DARE से बेहतर प्रदर्शन करता है।
- 20 सुरक्षा मूल्यांकनों में, मॉड्यूल-वाइज दृष्टिकोण ने बेसलाइन्स के मुकाबले 65% बार जीत हासिल की।
सामान्य भाषा समझ (MMMLU, BELEBELE, MGSM):
- इस विधि ने सामान्य क्षमताओं को संरक्षित किया, तर्क और पठन बोध बेंचमार्क पर प्रतिस्पर्धी स्कोर प्राप्त किया।
- "मिक्स्ड SFT" के विपरीत, जिसमें उच्च भिन्नता (variance) देखी गई थी, स्वैपिंग विधियों ने भाषाओं में सुसंगत प्रदर्शन प्रदान किया।
- प्रस्तावित विधियों ने 68% सामान्य बेंचमार्क मामलों में फिक्स्ड लेयर स्वैपिंग को पछाड़ दिया।
विशेषज्ञता का विश्लेषण (Analysis of Specialization):
- विज़ुअलाइज़ेशन (चित्र 3 और 4) ने खुलासा किया कि सुरक्षा संरेखण (Safety alignment) आमतौर पर मध्यवर्ती परतों (middle layers) में उभरता है और अटेंशन एवं MLP दोनों मॉड्यूल्स में वितरित होता है, जबकि बहुभाषी अनुकूलन (Multilingual adaptation) अक्सर निचले/ऊपरी परतों और विशिष्ट मॉड्यूल्स में केंद्रित होता है। यह पुष्टि करता है कि स्टैटिक लेयर रिप्लेसमेंट के बजाय अनुकूली, मॉड्यूल-स्तरीय चयन की आवश्यकता है।

5. महत्व

सुरक्षा अंतराल को पाटना (Bridging the Safety Gap): यह कार्य LLM परिनियोजन (deployment) में एक महत्वपूर्ण नैतिक और व्यावहारिक अंतर को संबोधित करता है। यह हर भाषा के लिए विशाल सुरक्षा डेटासेट एकत्र करने या पुन: प्रशिक्षण की अत्यधिक लागत के बिना, सुरक्षित बहुभाषी मॉडल बनाने के लिए एक स्केलेबल समाधान प्रदान करता है।
दक्षता: ट्रेनिंग-फ्री होने के कारण, यह सुरक्षा संरेखण का लोकतंत्रीकरण करता है, जिससे शोधकर्ता और डेवलपर्स मौजूदा अंग्रेजी सुरक्षा विशेषज्ञों और मानक निर्देश डेटासेट का उपयोग करके सुरक्षित बहुभाषी मॉडल बना सकते हैं।
मॉडल आर्किटेक्चर में अंतर्दृष्टि: यह अध्ययन इस बात पर नई अंतर्दृष्टि प्रदान करता है कि सुरक्षा और भाषा क्षमताएं ट्रांसफॉर्मर आर्किटेक्चर के भीतर कैसे स्थानीयकृत होती हैं, जो यह सुझाव देती है कि सुरक्षा अखंड (monolithic) नहीं है बल्कि विशिष्ट कार्यात्मक घटकों (मॉड्यूल्स) में वितरित है जिन्हें सर्जिकल तरीके से स्थानांतरित किया जा सकता है।

निष्कर्षतः, यह शोध पत्र भाषाओं के बीच सुरक्षा संरेखण को स्थानांतरित करने के लिए एक मजबूत, स्वचालित और कुशल ढांचे को प्रस्तुत करता है, जो यह प्रदर्शित करता है कि टास्क वेक्टर्स के माध्यम से संरचनात्मक विलय (structural merging) बहुभाषी LLMs में सुरक्षा और सामान्य उपयोगिता के बीच प्रभावी ढंग से संतुलन बना सकता है।