💬 NLP

Better Literary Translation: A Multi-Aspect Data Generation and LLM Training Approach

यह शोध पत्र एक बहु-आयामी पुनरावृत्ति परिशोधन ढांचे (multi-aspect iterative refinement framework) को प्रस्तुत करता है जो विशिष्ट एलएलएम (LLMs) को प्रशिक्षित करने के लिए उच्च गुणवत्ता वाले अनुवाद संदर्भ और प्राथमिकता डेटा उत्पन्न करता है, जिसके परिणामस्वरूप लिट-एमटी (LitMT) मॉडल प्राप्त होते हैं जो सुपरवाइज्ड फाइन-ट्यूनिंग और जीआरपीओ (GRPO)-आधारित सुदृढीकरण शिक्षण के माध्यम से प्रवाह और साहित्यिक प्रभाव को प्रभावी ढंग से संतुलित करके साहित्यिक अनुवाद बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त करते हैं।

मूल लेखक: Zhihao Lin, Ziqi Zhu, Hao Huang, Guanghui Wang, Peiyang He

प्रकाशित 2026-06-05

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC0 1.0

मूल लेखक: Zhihao Lin, Ziqi Zhu, Hao Huang, Guanghui Wang, Peiyang He

मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक सुंदर, जटिल कविता का अंग्रेजी से चीनी भाषा में अनुवाद करने की कोशिश कर रहे हैं। चुनौती केवल शब्दों को सही करने की नहीं है; बल्कि उस एहसास, उस लय और छिपे हुए रूपकों (metaphors) को पकड़ने की है, बिना वाक्य को अटपटा या अप्राकृतिक बनाए।

यह शोध पत्र यह प्रस्तुत करता है कि कैसे आर्टिफिशियल इंटेलिजेंस (AI) को इस तरह के "साहित्यिक अनुवाद" (literary translation) को पहले की तुलना में बेहतर, तेज़ और सस्ता करने के लिए सिखाया जा सकता है। यह उनकी कार्यप्रणाली की कहानी है, जिसे सरल अवधारणाओं में विभाजित किया गया है।

1. समस्या: "दो सिरों वाला" संकट (The "Two-Headed" Dilemma)

साहित्यिक अनुवाद को एक साथ दो अलग-अलग लक्ष्यों के साथ साइकिल चलाने की कोशिश के रूप में देखें:

लक्ष्य A: साइकिल सुचारू और चलाने में आसान होनी चाहिए (Fluency/प्रवाह)।
लक्ष्य B: साइकिल पर सुंदर, जटिल कलाकृति होनी चाहिए (Literary Effect/साहित्यिक प्रभाव)।

आमतौर पर, जब आप एक ही समय में दोनों को करने की कोशिश करते हैं, तो अंत में आपके पास या तो एक ऐसी साइकिल होती है जो सुचारू तो है पर बदसूरत है, या फिर कलात्मक है पर चलाने में असंभव है। पिछले AI तरीकों ने एक अत्यंत बुद्धिमान AI जज से हर एक प्रयास को ग्रेड देने के लिए कहकर इसे हल करने की कोशिश की, जो अविश्वसनीय रूप से महंगा और धीमा है—जैसे कि आपके द्वारा बनाए गए हर एक स्केच को ग्रेड देने के लिए एक प्रसिद्ध कला समीक्षक को काम पर रखना।

2. समाधान: एक विशेष "वर्कशॉप" (A Specialized "Workshop")

एक ही AI से सब कुछ करने के बजाय, लेखकों ने विशेष श्रमिकों के साथ एक बहु-आयामी वर्कशॉप (multi-aspect workshop) बनाई। वे इसे "Multi-Aspect Iterative Refinement" कहते हैं।

यहाँ उनका वर्कशॉप एक एकल वाक्य पर कैसे काम करता है:

ड्राफ्ट्समैन (Naive Translator): सबसे पहले, एक बुनियादी AI एक कच्चा मसौदा (rough draft) लिखता है। यह ठीक है, लेकिन बहुत अच्छा नहीं है।
क्रिटिक (Evaluator): एक बुद्धिमान AI उस मसौदे को पढ़ता है और कहता है, "यह हिस्सा अजीब लग रहा है," या "आपने यहाँ रूपक का जादू खो दिया है।"
दो विशेषज्ञ: एक ही AI द्वारा सब कुछ ठीक करने के बजाय, काम को दो विशेषज्ञों के बीच विभाजित किया जाता है:
- स्मूथ-टॉकर (Expression Optimizer): यह AI केवल वाक्य को स्वाभाविक रूप से प्रवाहित करने की परवाह करता है, जैसे कि कोई मूल वक्ता (native speaker) करता है। यह व्याकरण और शब्दों के चयन को ठीक करता है।
- पोएट (Literary Effect Preserver): यह AI केवल कला को जीवित रखने की परवाह करता है। यह सुनिश्चित करता है कि रूपक, स्वर और भावनाएँ लुप्त न हों।
एडिटर (Aggregator): एक अंतिम AI "स्मूथ" संस्करण और "पोएटिक" संस्करण को लेता है और उन्हें एक आदर्श अनुवाद में मिला देता है।
लूप (The Loop): क्रिटिक इस नए संस्करण को ग्रेड देता है। यदि यह पूर्ण नहीं है, तो लूप फिर से शुरू होता है, लेकिन इस बार विशेषज्ञ उन विशिष्ट समस्याओं को ठीक करने की कोशिश करते हैं जो क्रिटिक ने पाई हैं।

जादुвिक ट्रिक: क्योंकि यह प्रक्रिया अंतिम AI मॉडल को प्रशिक्षित करने से पहले होती है, लेखक "अच्छे बनाम बेहतर" उदाहरणों का एक विशाल पुस्तकालय बनाते हैं। उन्हें हर बार नया मॉडल प्रशिक्षित करने के लिए महंगे AI जजों के लिए भुगतान करने की आवश्यकता नहीं है; वे बस उस लाइब्रेरी का उपयोग करते हैं जो उन्होंने पहले ही बना ली है।

3. AI को प्रशिक्षित करना: "कोच" बनाम "जिम" (The "Coach" vs. The "Gym")

एक बार जब उनके पास उच्च गुणवत्ता वाले अनुवादों की यह लाइब्रेरी हो जाती है, तो उन्हें अपने स्वयं के AI मॉडल (जिन्हें LitMT-8B और LitMT-14B नाम दिया गया है) को प्रशिक्षित करने की आवश्यकता होती है।

पुराना तरीका (DPO): उन्होंने "Direct Preference Optimization" (DPO) नामक एक विधि आजमायी, जो एक छात्र को यह बताने जैसा है कि, "मुझे वह उत्तर पसंद है जो इस वाले से बेहतर है, इसलिए इससे सीखो।" आश्चर्यजनक रूप से, इसने AI को साहित्यिक अनुवाद में और खराब बना दिया। यह बिना शिक्षक के यह समझाए कि क्यों केवल "अच्छी बनाम बुरी" पेंटिंग्स को देखकर पेंटिंग सीखने की कोशिश करने जैसा था।
नया तरीका (GRPO + Reward Model): इसके बजाय, उन्होंने एक छोटा "कोच" (एक रिवॉर्ड मॉडल) बनाया जिसने उनकी लाइब्रेरी के आधार पर स्कोर देना सीखा। फिर, उन्होंने GRPO नामक एक विधि का उपयोग किया।
- कल्पना कीजिए कि AI एक जिम में है। यह एक साथ 16 अलग-अलग तरीकों से एक अनुवाद समस्या को हल करने की कोशिश करता है।
- "कोच" प्रत्येक प्रयास को एक स्कोर देता है।
- AI उन चीजों को करना सीखता है जिन्हें उच्च स्कोर मिला और उन चीजों से बचता है जिन्हें कम स्कोर मिला।
- इस पद्धति ने बहुत बेहतर काम किया, जिससे गुणवत्ता में महत्वपूर्ण वृद्धि हुई।

4. परिणाम: छोटे मॉडल, बड़ी प्रतिभा (Small Models, Big Talent)

लेखकों ने अपने नए मॉडलों का परीक्षण AI की दुनिया के दिग्गजों (जैसे Claude Sonnet 4.5 और GPT-5.2) के विरुद्ध किया।

अंडरडॉग की जीत: उनके LitMT-14B मॉडल (जो अपेक्षाकृत छोटा है) ने साहित्यिक अनुवाद परीक्षण में 69.07 का स्कोर किया।
दिग्गजों को पछाड़ना: यह स्कोर Claude Sonnet 4.5 (68.43) से अधिक था और विशाल GPT-5.2 (68.68) के बहुत करीब था।
सामान्यीकरण (Generalization): उन्होंने मॉडल का परीक्षण ओ. हेनरी की कहानियों (एक अलग लेखन शैली) पर भी किया। मॉडल ने इसे अच्छी तरह से संभाला, जिससे यह सिद्ध हुआ कि उसने केवल प्रशिक्षण डेटा को रटा नहीं है बल्कि वास्तव में साहित्यिक अनुवाद के कौशल को सीखा है।

5. यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)

लागत: प्रशिक्षण डेटा को एक बार उत्पन्न करके और उसे पुन: उपयोग करके, उन्होंने उस पद्धति की तुलना में भारी मात्रा में पैसा बचाया जिसमें प्रत्येक प्रशिक्षण चरण के लिए महंगे AI जजों की आवश्यकता होती है।
गति: उनके मॉडल्स को परिणाम उत्पन्न करने के लिए लंबे, धीमे तर्क (reasoning) की आवश्यकता नहीं होती है। वे तेजी से अनुवाद कर सकते हैं, जिससे वे वास्तविक समय के उपयोग के लिए व्यावहारिक बन जाते हैं।
गुणवत्ता: उन्होंने सिद्ध किया कि समस्या को "प्रवाह" (Fluency) और "साहित्यिक प्रभाव" (Literary Effect) में विभाजित करना और उन्हें मिलाने से पहले अलग-अलग हल करना, केवल एक बड़े AI से सब कुछ एक साथ करने के बजाय कहीं अधिक उच्च गुणवत्ता वाला डेटा बनाता है।

संक्षेप में, उन्होंने एक विशेष फैक्ट्री बनाई जो सटीक अनुवाद उदाहरणों का उत्पादन करती है, उन उदाहरणों का उपयोग करके एक स्मार्ट लेकिन कुशल रोबोट को प्रशिक्षित किया, और पाया कि यह रोबोट आज के कुछ सबसे महंगे, विशाल AI मॉडलों से बेहतर कविता और कहानियों का अनुवाद कर सकता है।

तकनीकी सारांश: मल्टी-आस्पेक्ट डेटा जनरेशन और LLM ट्रेनिंग के माध्यम से बेहतर साहित्यिक अनुवाद

समस्या विवरण

साहित्यिक अनुवाद विशिष्ट चुनौतियाँ प्रस्तुत करता है जो सामान्य-डोमेन मशीन ट्रांसलेशन से भिन्न होती हैं। इसके लिए अभिव्यक्ति प्रवाह (स्वाभाविकता, मुहावरेदार उपयोग) और साहित्यिक प्रभाव (रूपकों, सांस्कृतिक बारीकियों और शैलीगत युक्तियों का संरक्षण) के बीच एक सूक्ष्म संतुलन की आवश्यकता होती है। मौजूदा दृष्टिकोण दो प्राथमिक सीमाओं का सामना करते हैं:

डेटा की कमी: उच्च-गुणवत्ता वाले एनोटेटेड साहित्यिक अनुवाद डेटा की कमी है, और पेशेवर मानव अनुवाद महंगा और स्केल करने में कठिन है।
प्रशिक्षण अक्षमता: लंबी चेन-ऑफ-थॉट (CoT) रीजनिंग या "LLM-एज़-अ-जज" का उपयोग करने वाली हालिया विधियाँ अत्यधिक लागत का कारण बनती हैं। विशेष रूप से, प्रत्येक प्रशिक्षण नमूने के लिए विशाल LLMs को रिवॉर्ड सिग्नल के रूप में उपयोग करने से उच्च इन्फरेंस लेटेंसी (10× तक) और महंगे प्रशिक्षण चक्र होते हैं जो विभिन्न मॉडल इटरेशन के बीच आसानी से पुन: उपयोग नहीं किए जा सकते।

कार्यप्रणाली

लेखक एक मल्टी-आस्पेक्ट इटरेटिव रिफाइनमेंट फ्रेमवर्क प्रस्तावित करते हैं जिसे उच्च-गुणवत्ता वाला प्रशिक्षण डेटा (रेफरेंस और प्रेफरेंस पेयर्स) और एक संबंधित प्रशिक्षण पाइपलाइन उत्पन्न करने के लिए डिज़ाइन किया गया है।

1. मल्टी-आस्पेक्ट इटरेटिव रिफाइनमेंट पाइपलाइन

एक एकल मॉडल पर सभी पहलुओं को एक साथ अनुकूलित करने के लिए निर्भर रहने के बजाय, यह फ्रेमवर्क अनुवाद गुणवत्ता को दो अलग-अलग आयामों में विभाजित करता है: अभिव्यक्ति प्रवाह (Expression Fluency) और साहित्यिक प्रभाव (Literary Effect)। पाइपलाइन इस प्रकार कार्य करती है:

इनिशियलाइजेशन: एक "नेइव ट्रांसलेटर" एक प्रारंभिक अनुवाद उत्पन्न करता है।
मूल्यांकन: एक इवैल्यूएटर वर्तमान सर्वश्रेष्ठ अनुवाद को स्कोर देता है और विशिष्ट टेक्स्टुअल फीडबैक प्रदान करता है।
विशेषज्ञ रिफाइनमेंट: फीडबैक के आधार पर दो अलग-अलग LLM मॉड्यूल समानांतर में कार्य करते हैं:
- एक्सप्रेशन ऑप्टिमाइज़र: यह विशेष रूप से प्रवाह, प्राकृतिक शब्द क्रम और मुहावरेदार कोलोकेशंस पर ध्यान केंद्रित करता है।
- लिटरेरी इफेक्ट प्रिजर्वर: यह कलात्मक गुणों, रूपकों, अलंकारिक युक्तियों और टोन को संरक्षित करने पर विशेष ध्यान देता है।
एग्रीगेशन: एक एग्रीगेटर दोनों विशेषज्ञ मॉड्यूल के आउटपुट को एक एकल, संतुलित अनुवाद में संश्लेषित करता है।
इटरेशन: यह प्रक्रिया तब तक दोहराई जाती है (अधिकतम $K$ राउंड तक) जब तक कि स्कोर एक थ्रेशोल्ड से ऊपर नहीं हो जाता या कोई सुधार नहीं देखा जाता।

डेटा आउटपुट:

उच्च-गुणवत्ता वाले रेफरेंस: इटरेशन हिस्ट्री से सर्वश्रेष्ठ अनुवाद ( $T^*$ ) सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) के लिए लक्ष्य के रूप में कार्य करता है।
प्रेफरेंस पेयर्स: सभी मध्यवर्ती अनुवाद जहाँ एक उच्च-स्कोरिंग संस्करण ( $T_w$ ) के साथ एक निम्न-स्कोरिंग संस्करण ( $T_l$ ) मौजूद है, उन्हें प्रेफरेंस डेटा बनाने के लिए जोड़ा जाता है। यह बिना किसी बाहरी मानव एनोटेशन के सूक्ष्म गुणवत्ता ट्रेड-ऑफ को कैप्चर करता है।

2. प्रशिक्षण पाइपलाइन

जेनरेट किए गए डेटा का उपयोग दो चरणों वाली प्रक्रिया के माध्यम से मॉडल्स (LitMT-8B और LitMT-14B) को प्रशिक्षित करने के लिए किया जाता है:

सुपरवाइज्ड फाइन-ट्यूनिंग (SFT): मॉडल को क्रॉस-एन्ट्रॉपी लॉस का उपयोग करके उच्च-गुणवत्ता वाले रेफरेंस ट्रांसलेशन पर प्रशिक्षित किया जाता है।
रीइन्फोर्समेंट लर्निंग (RL): लेखक इम्प्लिसिट रिवॉर्ड मॉडलिंग (डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन - DPO, SimPO, CPO) की तुलना एक्सप्लिसिट रिवॉर्ड मॉडलिंग और ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइज़ेशन (GRPO) के संयोजन से करते हैं।
- रिवॉर्ड मॉडल: ब्रैडली-टेरी लॉस का उपयोग करके प्रेफरेंस पेयर्स पर एक कॉम्पैक्ट रिवॉर्ड मॉडल को प्रशिक्षित किया जाता है।
- कंपोजिट रिवॉर्ड: GRPO प्रशिक्षण के दौरान, पॉलिसी को एक कंपोजिट रिवॉर्ड सिग्नल का उपयोग करके अनुकूलित किया जाता है: $r = r_{RM} + 0.05 \cdot r_{BLEU} + r_{fmt}$ । यह सीखे गए रिवॉर्ड मॉडल स्कोर को एक लाइटवेट BLEU सिग्नल और स्थिरता एवं स्ट्रक्चर्ड आउटपुट सुनिश्चित करने के लिए एक फॉर्मेट कंस्ट्रेंट के साथ जोड़ता है।

मुख्य योगदान

डिकोम्पोज्ड डेटा जनरेशन: एक नवीन पाइपलाइन जो विशेषज्ञ मॉड्यूल में प्रवाह और साहित्यिक प्रभाव अनुकूलन को अलग करती है, जिससे उच्च-गुणवत्ता वाले रेफरेंस और प्रेफरेंस पेयर्स उत्पन्न होते हैं जो गुणवत्ता ट्रेड-ऑफ को कैप्चर करते हैं।
प्रशिक्षण रणनीति तुलना: एक व्यवस्थित मूल्यांकन जो दिखाता है कि साहित्यिक अनुवाद के लिए, GRPO के साथ एक्सप्लिसिट रिवॉर्ड मॉडलिंग DPO जैसे इम्प्लिसिट तरीकों की तुलना में काफी बेहतर प्रदर्शन करती है। लेखक इसका श्रेय दो-चरणीय प्रशिक्षण की स्थिरता और GRPO की ऑनलाइन एक्सप्लोरेशन क्षमताओं को देते हैं।
कुशल उच्च-प्रदर्शन मॉडल: परिणामी मॉडल, LitMT-8B और LitMT-14B, साहित्यिक बेंचमार्क पर स्टेट-ऑफ-द-आर्ट प्रदर्शन प्राप्त करते हैं और वास्तविक समय के अनुप्रयोगों के लिए व्यावहारिक बने रहते हैं (लंबे CoT तरीकों के विपरीत)।

प्रयोगात्मक परिणाम

मॉडल्स का मूल्यांकन MetaphorTrans बेंचमार्क (अंग्रेजी-से-चीनी साहित्यिक अनुवाद) और O. Henry Collection (आउट-ऑफ-डोमेन) पर किया गया।

MetaphorTrans पर प्रदर्शन:
- LitMT-8B ने 67.25 CEA100 प्राप्त किया, जो 235B-पैरामीटर Qwen3-235B-A22B (65.62) से बेहतर प्रदर्शन करता है और Claude Sonnet 4.5 (68.43) के साथ प्रतिस्पर्धा करता है।
- LitMT-14B ने 69.07 CEA100 प्राप्त किया, जो 235B मॉडल से आगे निकल गया और GPT-5.2 (68.68) जैसे फ्रंटियर मॉडल्स के साथ प्रतिस्पर्धी बना रहा।
सामान्यीकरण (Generalization): O. Henry Collection पर, LitMT-14B (73.71 CEA100) ने विशाल Qwen3-232B-A22B (74.01) के प्रदर्शन के करीब पहुँचकर मजबूत आउट-ऑफ-डोमेन सामान्यीकरण प्रदर्शित किया।
डेटा गुणवत्ता का प्रभाव: जेनरेट किए गए रेफरेंस ने मूल ग्राउंड ट्रुथ की तुलना में SFT प्रदर्शन में 8.65 CEA100 पॉइंट्स का सुधार किया।
प्रशिक्षण विधि का प्रभाव: DPO-आधारित तरीकों के परिणामस्वरूप प्रदर्शन में गिरावट (SFT से 2-3 अंक कम) आई, जबकि प्रस्तावित RM+GRPO दृष्टिकोण ने SFT पर 1.51 पॉइंट का अतिरिक्त सुधार दिया।
लागत दक्षता: प्रस्तावित डेटा जनरेशन एक बार की लागत ($168, 19k सैंपल्स के लिए) है, जबकि प्रत्येक प्रशिक्षण चरण के लिए ऑनलाइन LLM-एज़-अ-जज की आवश्यकता वाले तरीकों में हजारों डॉलर तक जाने वाली लागत होती है।

महत्व और दावे

पेपर का दावा है कि साहित्यिक अनुवाद की गुणवत्ता को मोनोलिथिक मॉडल्स या महंगे ऑनलाइन रिवॉर्ड सिग्नल्स पर भरोसा करने के बजाय, डेटा जनरेशन के दौरान विशेषज्ञ आयामों में कार्य को विभाजित करके प्रभावी ढंग से बढ़ाया जा सकता है।

डेटा पुन: प्रयोज्यता (Data Reusability): प्रत्येक प्रशिक्षण चरण के लिए फ्रेश LLM इन्फरेंस की आवश्यकता वाले तरीकों के विपरीत, प्रस्तावित फ्रेमवर्क रेफरेंस और प्रेफरेंस पेयर्स का एक स्टैटिक डेटासेट जेनरेट करता है जिसे कई प्रशिक्षण रन के लिए पुन: उपयोग किया जा सकता है, जिससे लागत में भारी कमी आती है।
प्रशिक्षण स्थिरता: अध्ययन इस बात पर प्रकाश डालता है कि साहित्यिक अनुवाद के लिए, GRPO के साथ एक्सप्लिसिट रिवॉर्ड मॉडलिंग, इम्प्लिसिट प्रेफरेंस ऑप्टिमाइज़ेशन (DPO) से बेहतर है, जिसे लेखकों ने इस विशिष्ट डोमेन में प्रदर्शन में गिरावट लाते हुए पाया।
व्यावहारिकता: इन्फरेंस के दौरान लंबी चेन-ऑफ-थॉट रीजनिंग से बचकर, परिणामी मॉडल कम लेटेंसी बनाए रखते हैं, जिससे वे बहुत बड़े प्रोप्रायटरी मॉडल्स के समान प्रदर्शन प्राप्त करते हुए भी वास्तविक समय के अनुप्रयोगों के लिए व्यवहार्य बनते हैं।

लेखक निष्कर्ष निकालते हैं कि उनका दृष्टिकोण साहित्यिक अनुवाद के भविष्य के अनुसंधान के लिए एक मजबूत, लागत प्रभावी आधार प्रदान करता है, हालांकि वे इस संबंध में सैद्धांतिक समझ और वर्तमान में अंग्रेजी-से-चीनी जोड़ों पर ध्यान केंद्रित करने के बारे में सीमाओं को नोट करते हैं।