AuthorMix: Modular Authorship Style Transfer via Layer-wise Adapter Mixing

यहाँ शोध पत्र "AuthorMix: Layer-wise Adapter Mixing के माध्यम से Modular Authorship Style Transfer" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लेखक शैली हस्तांतरण (Authorship Style Transfer) में मूल अर्थ को सख्ती से सुरक्षित रखते हुए पाठ (text) को किसी लक्षित लेखक की विशिष्ट लेखन शैली के अनुरूप फिर से लिखना शामिल है। मौजूदा पद्धतियाँ तीन प्राथमिक चुनौतियों का सामना करती हैं:

• अर्थ संरक्षण बनाम शैली हस्तांतरण (Meaning Preservation vs. Style Transfer): उच्च-सटीकता वाला शैली हस्तांतरण अक्सर "सिमेंटिक ड्रिफ्ट" (semantic drift) की ओर ले जाता है, जहाँ पुनर्गठित पाठ अपने मूल अर्थ को खो देता है।
• कम-संसाधन अनुकूलन (Low-Resource Adaptation): अधिकांश अत्याधुनिक (SoTA) विधियों को हजारों लेखक युग्मों वाले विशाल संग्रहों पर एक एकल, मोनोलिथिक मॉडल प्रशिक्षित करने की आवश्यकता होती है। यह एक नए, विशिष्ट लक्षित लेखक (विशेष रूप से जिसके पास कम उपलब्ध पाठ हों) के अनुकूल होने के लिए महंगा और अकुशल बनाता है।
• व्याख्यात्मकता (Interpretability): मौजूदा दृष्टिकोण (जैसे एम्बेडिंग हेरफेर या पॉलिसी ऑप्टिमाइज़ेशन) "ब्लैक बॉक्स" की तरह कार्य करते हैं, जो इस बारे में बहुत कम अंतर्दृष्टि प्रदान करते हैं कि विशिष्ट शैलीगत विशेषताओं को कैसे सीखा या संयोजित किया जाता है।

2. कार्यप्रणाली: AuthorMix

लेखक AuthorMix प्रस्तावित करते हैं, जो एक हल्का, मॉड्यूलर और व्याख्यात्मक ढांचा है जो शैली हस्तांतरण को तीन चरणों में विभाजित करता है। प्रत्येक लक्ष्य के लिए एक नया मॉडल प्रशिक्षित करने के बजाय, यह पूर्व-प्रशिक्षित एडेप्टर्स (adapters) को मिलाकर एक लक्ष्य-विशिष्ट मॉडल बनाता है।

चरण 1: लेखक एडेप्टर प्रशिक्षण (Author Adapter Training)

• आधार (Base): एक बड़े भाषा मॉडल (LLM) का उपयोग फ्रोजन बेस (LLaMA-3.1-8B-Instruct) के रूप में किया जाता है।
• एडेप्टर्स (Adapters): "उच्च-संसाधन" लेखकों (जैसे, प्रचुर पाठ वाले 10 क्लासिक लेखक) के लिए व्यक्तिगत LoRA (Low-Rank Adaptation) एडेप्टर प्रशिक्षित किए जाते हैं।
• प्रशिक्षण डेटा: एक बड़े LLM का उपयोग करके उच्च-संसाधन लेखक के ग्रंथों को "तटस्थ" शैली (शैलीगत चिह्नों को हटाकर लेकिन अर्थ बनाए रखकर) में पैराफ्रेस करके छद्म-समानांतर डेटा (pseudo-parallel data) उत्पन्न किया जाता है। फिर LoRA एडेप्टर को तटस्थ संस्करण से मूल शैलीगत पाठ को पुनर्गठित करने के लिए फाइन-ट्यून किया जाता है।

चरण 2: लेयर-वाइज़ वेट मिक्सिंग (Layer-wise Weight Mixing)

एक नए कम-संसाधन लक्षित लेखक (जिसके पास केवल कुछ उदाहरण पाठ हों) के लिए, AuthorMix एक नया मॉडल शुरू से प्रशिक्षित नहीं करता है। इसके बजाय, यह पूर्व-प्रशिक्षित उच्च-संसाधन एडेप्टर्स ($\theta^{(i)}$) को रैखिक रूप से मिलाकर एक लक्षित एडेप्टर ($\hat{\theta}$) बनाता है।

• सूक्ष्मता (Granularity): वैश्विक स्तर पर एडेप्टर को मिलाने वाले पिछले कार्यों के विपरीत, AuthorMix लेयर-वाइज़ (परत-वार) मिक्सिंग करता है। $L$ परतों वाले मॉडल के लिए, उसी परत $j$ पर लक्षित एडेप्टर के भार $n$ स्रोत एडेप्टर्स के भार का एक रैखिक संयोजन है:
  $$\hat{\theta}_j = \sum_{i=1}^{n} W_{i,j} \cdot \theta^{(i)}_j$$
• अनुकूलन (Optimization): मिक्सिंग भार ($W$) को एक संयुक्त स्कोर (Joint Score) को अधिकतम करने के लिए अनुकूलित किया जाता है, जो निम्नलिखित का ज्यामितीय माध्य (geometric mean) है:
  1. ट्वॉर्ड स्कोर (Toward Score): लक्षित लेखक के प्रति शैलीगत समानता।
  2. म्युचुअल इम्पलीकेशन स्कोर (MIS): स्रोत पाठ के प्रति अर्थ संबंधी समानता।
• अनुकूलन रणनीतियाँ:
  • LoRAHub: भार खोजने के लिए ग्रेडिएंट-मुक्त अनुकूलन (NGOpt) का उपयोग करता है।
    गत GRPO (Group Relative Policy Optimization): एडेप्टर मिक्सिंग भार सीखने के लिए सुदृढीकरण शिक्षण (Reinforcement Learning - RL) का एक अभिनव अनुप्रयोग। संयुक्त स्कोर (Joint Score) रिवॉर्ड फंक्शन के रूप में कार्य करता है।

चरण 3: एडेप्टर उपसमुच्चय चयन (Adapter Subset Selection)

दक्षता और प्रदर्शन में सुधार के लिए, सिस्टम सभी उपलब्ध एडेप्टर्स को नहीं मिलाता है। यह पहले लक्ष्य और उच्च-संसाधन लेखकों के बीच शैली समानता (स्टाइल एम्बेडिंग्स के कोसाइन डिस्टेंस के माध्यम से) की गणना करता है, और मिक्सिंग प्रक्रिया के लिए सबसे समान शीर्ष-$k$ एडेप्टर्स का चयन करता है।

3. मुख्य योगदान

1. मॉड्यूलर ढांचा: AuthorMix किसी भी लक्षित लेखक के लिए एक शैली-हस्तांतरण मॉडल के तीव्र निर्माण को सक्षम बनाता है, जिससे व्यापक पुन: प्रशिक्षण की आवश्यकता समाप्त हो जाती है।
2. लेयर-वाइज़ मिक्सिंग: यह पेपर एडेप्टर-वाइज़ मिक्सिंग के ऊपर लेयर-वाइज़ वेट मिक्सिंग को पेश करता है और प्रमाणित करता है। यह मॉडल को उन विशिष्ट विशेषताओं को पकड़ने की अनुमति देता है जो न्यूरल नेटवर्क की विभिन्न गहराइयों पर स्थित होती हैं।
3. RL-आधारित अनुकूलन: लेखक एडेप्टर मिक्सिंग भार सीखने के लिए GRPO (एक सुदृढीकरण शिक्षण एल्गोरिदम) को लागू करने वाले पहले व्यक्ति हैं, जो यह प्रदर्शित करता है कि यह शैली और अर्थ के बीच संतुलन बनाने में ग्रेडिएंट-मुक्त विधियों (LoRAHub) से बेहतर है।
4. व्याख्यात्मकता: सीखा गया लेयर-वाइज़ मिक्सिंग भार यह प्रकट करता है कि नेटवर्क में विशिष्ट शैलीगत लक्षण कहाँ एनकोड होते हैं (उदाहरण के लिए, मध्य परतें अक्सर शैली में सकारात्मक योगदान देती हैं, जबकि गहरी परतों को दबाया जा सकता है)।

4. प्रयोगात्मक परिणाम

प्रोजेक्ट गुटेनबर्ग साहित्यिक ग्रंथों पर 100 स्रोत-लक्ष्य लेखक युग्मों पर प्रयोग किए गए।

• प्रदर्शन: AuthorMix (विशेष रूप से $k=4$ के साथ GRPO लेयर-वाइज़ संस्करण) ने उच्चतम संयुक्त स्कोर (0.34) प्राप्त किया, जिसने SoTA बेसलाइन (ASTRAPOP, TinyStyler, STYLL) और यहाँ तक कि GPT-5.1 (फ्यू-शॉट) को भी पीछे छोड़ दिया।
• अर्थ संरक्षण: AuthorMix ने सभी विधियों में उच्चतम MIS (0.83) और सबसे कम विचरण (variance) प्राप्त किया। यह इंगित करता है कि यह उन विधियों की तुलना में अर्थ को काफी बेहतर तरीके से संरक्षित करता है जो तटस्थ पिवोट या आक्रामक पॉलिसी ऑप्टिमाइज़ेशन पर निर्भर करती हैं, जो अक्सर अर्थ को खराब कर देती हैं।
• शैली हस्तांतरण: इसने सर्वश्रेष्ठ बेसलाइन (ट्वॉर्ड स्कोर 0.16) की शैली हस्तांतरण क्षमता से मेल खाया।
• दक्षता:
  • प्रशिक्षण लागत: एक नए लक्ष्य के अनुकूल होने में एकल GPU पर केवल ~40 मिनट लगते हैं (लगभग 128 स्केलर भार सीखना)।
  • तुलना: यह ASTRAPOP-DPO (~48 घंटे) या TinyStyler (>48 घंटे) की तुलना में बहुत तेज़ है।
• एब्लेशन निष्कर्ष (Ablation Findings):
  • लेयर-वाइज़ > एडेप्टर-वाइज़: लेयर-वाइज़ मिक्सिंग ने वैश्विक एडेप्टर मिक्सिंग की तुलना में लगातार बेहतर प्रदर्शन किया।
  • अनुकूलन: GRPO ने लेयर-वाइज़ परिदृश्यों में LoRAHub से काफी बेहतर प्रदर्शन किया, क्योंकि ग्रेडिएंट-मुक्त विधियों को लेयर-वाइज़ भार के उच्च-आयामी खोज स्थान (high-dimensional search space) के साथ संघर्ष करना पड़ता है।
  • उपसमुच्चय आकार: प्रदर्शन $k=4$ (4 समान लेखकों को मिलाना) पर चरम पर था और बहुत अधिक एडेप्टर्स के साथ घट गया, जो प्रासंगिक उपसमुच्चय के चयन के महत्व की पुष्टि करता है।

5. महत्व और निहितार्थ

• स्केलेबिलिटी: AuthorMix शैली हस्तांतरण में "कम-संसाधन" बाधा को हल करता है। यह न्यूनतम डेटा और कंप्यूट के साथ विशिष्ट लेखकों या नए लक्ष्यों के लिए विशेष मॉडल बनाने की अनुमति देता है।
• सिमेंटिक फिडेलिटी (Semantic Fidelity): अर्थ संरक्षण के लिए शैली के साथ स्पष्ट रूप से अनुकूलन करके, यह वर्तमान शैली हस्तांतरण मॉडलों के एक महत्वपूर्ण विफलता मोड (सिमेंटिक ड्रिफ्ट) को संबोधित करता है।
• व्याख्यात्मकता: लेयर-वाइज़ मिक्सिंग भार LLM के आंतरिक तंत्र के लिए एक खिड़की प्रदान करते हैं, जो दिखाते हैं कि विभिन्न परतें एक लेखक की शैली के विभिन्न पहलुओं को एनकोड करती हैं।
• नैतिक विचार: लेखक प्रतिरूपण (impersonation) के जोखिम को स्वीकार करते हैं लेकिन इस कार्य को व्यक्तिगत अनुकूलन के लिए एक अनुसंधान उपकरण के रूप में प्रस्तुत करते हैं, जो तैनाती (जैसे पारदर्शिता, सहमति) के लिए सुरक्षा उपायों की आवश्यकता पर जोर देते हैं।

निष्कर्षतः, AuthorMix मोनोलिथिक, महंगे शैली हस्तांतरण मॉडलों से एक मॉड्यूलर, कुशल और व्याख्यात्मक दृष्टिकोण की ओर बदलाव का प्रतिनिधित्व करता है, जो कम-संसाधन सेटिंग्स में बेहतर परिणाम प्राप्त करने के लिए पैरामीटर-कुशल फाइन-ट्यूनिंग (LoRA) और उन्नत अनुकूलन तकनीकों (RL) की शक्तियों का लाभ उठाता है।