💬 NLP

G^2C-MT: Graph-Guided Context Selection for Document-Level Machine Translation

यह शोध पत्र G^2C-MT का प्रस्ताव करता है, जो एक नवीन ढांचा है जो लंबी दूरी की निर्भरताओं को प्रभावी ढंग से कैप्चर करने के लिए डेप्थ-बायस्ड रैंडम वॉक का उपयोग करते हुए एक हल्के विमर्श ग्राफ (discourse graph) पर दस्तावेज़-स्तरीय मशीन अनुवाद संदर्भ चयन को एक संरचित पथ खोज समस्या के रूप में मॉडल करता है और विभिन्न बड़े भाषा मॉडलों में मौजूदा बेसलाइन से बेहतर प्रदर्शन करता है।

मूल लेखक: Baijun Ji, Zixuan Zhou, Xiangyu Duan, Yu Liu, Longbo Sun, Rupu Wei, Bohong Zhao

प्रकाशित 2026-06-03

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Baijun Ji, Zixuan Zhou, Xiangyu Duan, Yu Liu, Longbo Sun, Rupu Wei, Bohong Zhao

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप अंग्रेजी से चीनी में एक लंबे, जटिल उपन्यास का अनुवाद करने की कोशिश कर रहे हैं। यदि आप केवल एक समय में एक वाक्य देखते हैं, तो आप बड़ी तस्वीर को मिस कर सकते हैं। उदाहरण के लिए, वाक्य 50 में किसी पात्र को "वह" (he) के रूप में संदर्भित किया जा सकता है, लेकिन आपको पता नहीं चलेगा कि "वह" कौन है जब तक कि आप वाक्य 5 न पढ़ लें। या, एक विशिष्ट तकनीकी शब्द पहले अध्याय में परिभाषित किया जा सकता है लेकिन अंतिम अध्याय में फिर से उपयोग किया जा सकता है। यदि आप उस परिभाषा को भूल जाते हैं, तो आपका अनुवाद गलत होगा।

यही वह समस्या है जिसे G2C-MT (ग्राफ-गाइडेड कॉन्टेक्स्ट फॉर मशीन ट्रांसलेशन) हल करने की कोशिश करता है। यह AI (आर्टिफिशियल इंटेलिजेंस) को पूरे दस्तावेज़ों का अनुवाद करने में मदद करने का एक नया तरीका है, न कि केवल एकल वाक्यों का।

यह कैसे काम करता है, यहाँ सरल अवधारणाओं में दिया गया है:

1. समस्या: "अमनेसिया" (भूलने की बीमारी) और "शोर" की समस्याएँ

वर्तमान AI अनुवादक अक्सर दो चीजों के साथ संघर्ष करते हैं:

द विंडो प्रॉब्लम (खिड़की की समस्या): कुछ अनुवादक केवल पिछले कुछ वाक्यों को देखते हैं (जैसे एक छोटी खिड़की से देखना)। यदि किसी प्रश्न का उत्तर 50 वाक्यों पीछे है, तो वे उसे मिस कर देते हैं।
द "बैग ऑफ वर्ड्स" प्रॉब्लम (शब्दों का थैला समस्या): अन्य अनुवादक उन वाक्यों को खोजने की कोशिश करते हैं जो वर्तमान वाले के समान लगते हैं। लेकिन यह "एप्पल" (सेब) के बारे में वाक्य खोजने जैसा है क्योंकि वर्तमान वाक्य "एप्पल पाई" के बारे में है, भले ही वर्तमान वाक्य में "एप्पल" वास्तव में एक कंप्यूटर ब्रांड हो। वे गलत संदर्भ पकड़ लेते हैं, जिससे भ्रम पैदा होता है।

2. समाधान: कहानी का एक "मानचित्र" बनाना

केवल पिछले कुछ वाक्यों को देखने या यादृच्छिक समान वाक्यों को पकड़ने के बजाय, G2C-MT अनुवाद शुरू करने से पहले पूरे दस्तावेज़ का एक मानचित्र (ग्राफ) बनाता है।

दस्तावेज़ को एक शहर के रूप में सोचें, जहाँ प्रत्येक पैराग्राफ एक इमारत है।

सड़कें (Edges): सिस्टम इमारतों के बीच सड़कें खींचता है। लेकिन यह केवल पड़ोसियों (जैसे इमारत 1 और इमारत 2) के बीच सड़कें नहीं खींचता है। यह उन इमारतों के बीच भी सड़कें खींचता है जो साझा करती हैं:
- समान विषय: (सिमेंटिक समानता)
- साझा कीवर्ड: (जैसे कि एक विशिष्ट नाम या तकनीकी शब्द दोनों में दिखाई देता है)
- क्रम: (कौन सी इमारत दूसरी के ठीक बाद आती है)

यह एक डिस्कोर्स ग्राफ (Discourse Graph) बनाता है। यह एक हल्का मानचित्र है जो न केवल यह दिखाता है कि कौन किसके बगल में है, बल्कि पूरे दस्तावेज़ में कौन किससे जुड़ा है।

3. यात्रा: "डेप्थ-बायस्ड हाइकर" (गहराई की ओर झुका हुआ यात्री)

एक बार मानचित्र बन जाने के बाद, AI को वर्तमान वाक्य का अनुवाद करने से पहले यह तय करने की आवश्यकता होती है कि किन पिछले पैराग्राफों को पढ़ना है।

अगले दरवाजे तक जाने (एक मानक विंडो की तरह) या सबसे समान इमारत पर कूदने (एक यादृच्छिक खोज की तरह) के बजाय, G2C-MT एक विशेष कंपास के साथ एक हाइकर (यात्री) का उपयोग करता है।

हाइकर का लक्ष्य: हाइकर वर्तमान इमारत से शुरू होता है और सबसे सहायक इतिहास खोजने के लिए मानचित्र के माध्यम से पीछे की ओर चलता है।
कंपास (डेप्थ बायस/गहराई का झुकाव): हाइकर अतीत में गहराई तक जाने के लिए प्रेरित होता है। यदि किसी इमारत में कहानी की शुरुआत तक जाने वाली लंबी कनेक्शन श्रृंखला है, तो हाइकर उस पथ का अनुसरण करने की अधिक संभावना रखता है। यह सुनिश्चित करता है कि AI कहानी के "मूल" या परिभाषा को खोज ले, भले ही वह बहुत दूर हो।
पथ: हाइकर जुड़े हुए पैराग्राफों के एक एकल, तार्किक पथ का अनुसरण करता है। यह पथ वह "संदर्भ" बनता है जिसका उपयोग AI वर्तमान वाक्य का अनुवाद करने के लिए करता है।

4. सुरक्षा जाल: कई पथों को आज़माना

कभी-कभी, एक कहानी अस्पष्ट होती है। बिंदुओं को जोड़ने के दो अलग-अलग तार्किक तरीके हो सकते हैं।

G2C-MT केवल एक पथ नहीं लेता है। यह एक साथ कई हाइकर्स को भेजता है, जिनमें से प्रत्येक मानचित्र के माध्यम से थोड़ा अलग मार्ग अपनाता है।
प्रत्येक हाइकर एक अलग अनुवाद सुझाव लेकर आता है।
सिस्टम फिर सभी सुझावों को देखता है और उस सुझाव को चुनता है जो सबसे अधिक समझ में आता है ("बहुमत का वोट" या सबसे सुसंगत वाला)। यह अनुवाद को अधिक मजबूत बनाता है और मूर्खतापूर्ण गलती करने की संभावना कम करता है।

5. यह बेहतर क्यों है (परिणाम)

लेखकों ने इसे दो प्रकार के दस्तावेज़ों पर परखा:

तकनीकी मैनुअल (SAP): ये शुष्क, चरण-दर-चरण निर्देश हैं जहाँ शब्दों का सुसंगत होना आवश्यक है।
कथात्मक कहानियाँ (TED Talks): इनमें ढीली संरचना और लंबी दूरी के विषय होते हैं।

निष्कर्ष:

बेहतर सटीकता: G2C-MT ने लगातार अन्य तरीकों को पछाड़ दिया। इसने तकनीकी शब्दों का सही अनुवाद किया क्योंकि यह 10 पैराग्राफ पहले की परिभाषा को "याद" रख सकता था।
बेहतर प्रवाह: इसने कहानी को सुसंगत बनाए रखा क्योंकि इसने केवल यादृच्छिक समान शब्दों का नहीं, बल्कि पाठ के तार्किक पथ का अनुसरण किया।
दक्षता: अन्य तरीकों के विपरीत जिन्हें पूरे दस्तावेज़ की संरचना के बारे में सोचने के लिए महंगे और धीमे प्रक्रियाओं की आवश्यकता होती है, G2C-MT सरल गणित (जैसे कीवर्ड गिनना और समानता मापना) का उपयोग करके तेजी से अपना मानचित्र बनाता है और फिर मानचित्र पर चलता है। यह तेज़ है और कंप्यूटर की शक्ति बर्बाद नहीं करता है।

सारांश उपमा

कल्पना कीजिए कि आप एक रहस्यमय उपन्यास का अनुवाद कर रहे हैं।

पुराना तरीका (विंडो): आप केवल पिछले 3 पृष्ठ पढ़ते हैं। आप पृष्ठ 1 के सुराग को मिस कर देते हैं।
पुराना तरीका (रैंडम सर्च): आप "मर्डर" (हत्या) शब्द को खोजते हैं और एक ऐसा पृष्ठ ढूंढ लेते हैं जो पूरी तरह से अलग किताब का है जिसमें "मर्डर" का उल्लेख है, जिससे आपका अनुवाद भ्रमित हो जाता है।
G2C-MT: आपके पास एक स्मार्ट डिटेक्टिव (जासूस) है जो पूरी किताब का मानचित्र बनाता है। जब आप एक भ्रमित करने वाले सुराग पर पहुँचते हैं, तो जासूस मानचित्र के माध्यम से पीछे की ओर चलता है, सुरागों के उस विशिष्ट निशान का पीछा करता है जो शुरुआत तक जाता है, मूल परिभाषा पाता है, और आपको बताता है कि इसका वास्तव में क्या अर्थ है। यदि रास्ता कठिन है, तो जासूस कुछ अलग मार्गों की जांच करने के लिए एक टीम भेजता है और उस पथ को चुनता है जो रहस्य को सबसे अच्छी तरह सुलझाता है।

यह पेपर दावा करता है कि यह "मानचित्र-आधारित" दृष्टिकोण AI को पिछले तरीकों की तुलना में बहुत उच्च गुणवत्ता और निरंतरता के साथ लंबे दस्तावेज़ों का अनुवाद करने में मदद करता है।

तकनीकी सारांश: G2C-MT

समस्या विवरण
दस्तावेज़-स्तर के मशीन अनुवाद (DocMT) के लिए लेक्सिकल निरंतरता (lexical consistency), कोरेफरेंस रिज़ॉल्यूशन (coreference resolution) और तार्किक सुसंगतता सुनिश्चित करने हेतु दीर्घ-रेंज विमर्श निर्भरता (long-range discourse dependencies) को कैप्चर करना आवश्यक है। जबकि लार्ज लैंग्वेज मॉडल्स (LLMs) ने लंबे संदर्भों को संभालने में क्षमता दिखाई है, पूरे दस्तावेज़ को एक ही बार में अनुवादित करने से वाक्यों का छूटना, संदर्भ का क्षरण (context dilution), और इनपुट लंबाई के सापेक्ष LLMs की द्विघातीय जटिलता (quadratic complexity) के कारण अत्यधिक डिकोडिंग लागत जैसी समस्याएँ उत्पन्न होती हैं। मौजूदा समाधान इसे रिट्रीवल-आधारित विधियों या ग्राफ-आधारित रणनीतियों के माध्यम से कम करने का प्रयास करते हैं। हालाँकि, रिट्रीवल-आधारित दृष्टिकोण अक्सर वाक्यों को एक असंरचित संग्रह के रूप में देखते हैं, जिससे स्पष्ट विमर्श संरचना (discourse structure) को बनाए रखने में विफलता होती है। इसके विपरीत, मौजूदा ग्राफ-आधारित विधियाँ अक्सर एज (edge) परिभाषाओं के लिए महंगे LLM-आधारित संबंध वर्गीकरण पर निर्भर करती हैं, और प्रथम-क्रम के पड़ोसियों (first-order neighbors) के चयन तक सीमित हैं, जो वैश्विक दस्तावेज़ संरचना के लिए आवश्यक गहरे, मल्टी-हॉप विमर्श पथों को कैप्चर करने में असमर्थ हैं।

कार्यप्रणाली
लेखक G2C-MT (ग्राफ-गाइडेड कॉन्टेक्स्ट फॉर मशीन ट्रांसलेशन) प्रस्तावित करते हैं, जो एक हल्के विमर्श ग्राफ (lightweight discourse graph) पर संरचित पथ खोज समस्या के रूप में संदर्भ चयन को पुनर्गठित करता है। यह पाइपलाइन तीन चरणों से बनी है:

निर्देशित विमर्श ग्राफ निर्माण (Directed Discourse Graph Construction):
स्रोत दस्तावेज़ को एक भारित निर्देशित अचक्रीय ग्राफ (weighted directed acyclic graph - DAG) के रूप में मॉडल किया गया है जहाँ प्रत्येक पैराग्राफ एक नोड है। निर्देशित किनारे (edges) एक लक्षित पैराग्राफ को पिछले पैराग्राफों ( $j < i$ ) से जोड़ते हैं, जो अनुवाद की क्रमिक प्रकृति को दर्शाते हैं। किनारों के भार ( $w_{ij}$ ) की गणना तीन कारकों के संलयन (fusion) के माध्यम से की जाती है:

सिमेंटिक प्रासंगिकता ( $S_{sem}$ ): पैराग्राफ एम्बेडिंग्स के बीच कोसाइन सिमिलरिटी (cosine similarity), जिसे शोर को कम करने के लिए एक थ्रेशोल्ड द्वारा ट्रंकेट किया गया है।
अनुक्रमिक आसन्नता ( $S_{seq}$ ): स्थानीय सुसंगतता सुनिश्चित करने के लिए तुरंत बगल वाले पैराग्राफों के लिए एक निश्चित भार।
कीवर्ड ओवरलैप ( $S_{key}$ ): शब्दावली निरंतरता (जैसे कि संज्ञा/proper nouns) को कैप्चर करने के लिए एक TF-IDF आधारित स्कोर, जिसे सिमेंटिक समानता मिस कर सकती है।
यह निर्माण हल्का है, जो महंगे LLM इन्फरेंस के बजाय प्री-ट्रेंड एम्बेडिंग्स और TF-IDF पर निर्भर करता है।

डेप्थ-बायस्ड कॉन्टेक्स्ट पाथ सैंपलिंग (Depth-Biased Context Path Sampling):
एक लक्षित पैराग्राफ के लिए ऐतिहासिक संदर्भ चुनने हेतु, यह विधि लक्षित नोड से शुरू होकर और बैकट्रैकिंग करते हुए एक डेप्थ-बायस्ड रैंडम वॉक का उपयोग करती है।

डेप्थ ह्यूरिस्टिक (Depth Heuristic): एक डायनेमिक प्रोग्रामिंग दृष्टिकोण $\phi(v)$ की गणना करता है, जो एक नोड से पीछे की ओर सबसे लंबे पथ की लंबाई का प्रतिनिधित्व करता है, जो समृद्ध ऐतिहासिक संदर्भ प्रदान करने की इसकी क्षमता का अनुमान लगाता है।
प्रोबेबिलिस्टिक ट्रांजिशन (Probabilistic Transition): वॉकर एज वेट ( $w_{ij}$ ) और एक बायस टर्म $(\phi(v_{next}) + 1)^\lambda$ को संयोजित करने वाले प्रोबेबिलिटी डिस्ट्रीब्यूशन के आधार पर पिछले नोड्स में ट्रांजिशन करता है। हाइपरपैरामीटर $\lambda$ तत्काल पड़ोसियों के ऊपर गहरे, अधिक सूचनात्मक संदर्भ पथों की प्राथमिकता को नियंत्रित करता है।
मल्टी-पाथ सैंपलिंग (Multi-Path Sampling): वॉक की स्टोकेस्टिक प्रकृति के कारण, एक ही लक्ष्य के लिए कई अलग-अलग संदर्भ पथों को सैंपल किया जा सकता है।

पाथ-आधारित प्रासंगिक पीढ़ी (Path-Based Contextual Generation):
प्राकृतिक दस्तावेज़ क्रम को बहाल करने के लिए सैंपल किए गए पथ को रिवर्स किया जाता है और इसे स्रोत पैराग्राफ और उनके संबंधित अनुवादों वाले एक संरचित प्रॉम्प्ट में फॉर्मेट किया जाता है। इस प्रॉम्प्ट को वर्तमान लक्षित पैराग्राफ का अनुवाद उत्पन्न करने के लिए एक LLM को दिया जाता है।

एग्रीगेशन के माध्यम से मजबूती (Robustness via Aggregation): अस्पष्ट इनपुट के लिए, फ्रेमवर्क विभिन्न सैंपल किए गए पथों से कई अनुवाद उत्पन्न कर सकता है। अंतिम आउटपुट को इन उम्मीदवारों के क्लस्टरिंग (k-means के माध्यम से) और क्लस्टर सेंट्रॉइड के सबसे करीब वाले को चुनकर चुना जाता है।

प्रमुख योगदान

हल्का ग्राफ मॉडलिंग: यह पेपर एक नया फ्रेमवर्क पेश करता है जो दस्तावेज़ संदर्भ को एक DAG के रूप में मॉडल करता है, जिसमें एक कुशल निर्माण प्रक्रिया (एम्बेडिंग + TF-IDF) का उपयोग किया गया है, न कि महंगे LLM-आधारित संबंध वर्गीकरण का।
डेप्थ-बायस्ड ट्रैवर्सल: एक बायस्ड रैंडम वॉक मैकेनिज्म को विशेष रूप से गहरे संदर्भ पथों को प्राथमिकता देने के लिए डिज़ाइन किया गया है, जो उन दीर्घ-रेंज, गैर-रेखीय निर्भरताओं को प्राप्त करने में सक्षम है जिन्हें फिक्स्ड-विंडो या फर्स्ट-ऑर्डर नेबर विधियाँ मिस कर देती हैं।
मल्टी-पाथ मजबूती: संभाव्यता आधारित ट्रैवर्सल स्वाभाविक रूप से मल्टी-पाथ सैंपलिंग का समर्थन करता है, जिससे विमर्श-स्तरीय अस्पष्टता के विरुद्ध मजबूती में सुधार के लिए विविध अनुवाद उम्मीदवारों का एकत्रीकरण संभव होता है।

प्रायोगिक परिणाम
विधि का मूल्यांकन दो बेंचमार्क पर किया गया: SAP डेटासेट (तकनीकी IT डोमेन) और IWSDT 2017 डेटासेट (नैरेटिव/TED टॉक्स), जिसमें विभिन्न LLM बैकबोन (DeepSeek-V3, Gemini-2.5-Flash-lite, Qwen-2.5/3 सीरीज़) का उपयोग किया गया।

प्रदर्शन: G2C-MT ने स्ट्रॉन्ग बेसलाइन्स, जिनमें सेंटेंस-लेवल, विंडो-बेस्ड, सिमेंटिक-बेस्ड रिट्रीवल और GRAFT एवं DelTA जैसे एजेंटिक फ्रेमवर्क शामिल हैं, को लगातार पछाड़ दिया। इसने सभी ट्रांसलेशन दिशाओं और मॉडल बैकबोन में उच्चतम d-BLEU स्कोर प्राप्त किया।
डिस्कोर्स मेट्रिक्स: डिस्कोर्स-विशिष्ट मेट्रिक्स (BlonDe, d-Prism, d-Comet) पर, G2C-MT ने सर्वश्रेष्ठ स्कोर प्राप्त किया, जो केवल स्थानीय विंडो या वैश्विक सिमेंटिक समानता पर निर्भर करने वाली विधियों की तुलना में एंटिटीज, टेन्स और प्रोनाउन के बेहतर प्रबंधन को प्रदर्शित करता है।
दक्षता: एजेंट-आधारित विधियों के विपरीत, जिन्हें संदर्भ क्यूरेशन के लिए कई LLM कॉल्स की आवश्यकता होती है, G2C-MT को $N$ पैराग्राफों के लिए ठीक $N$ LLM कॉल्स की आवश्यकता होती है, क्योंकि ग्राफ निर्माण और पथ सैंपलिंग प्री-प्रोसेसिंग चरण हैं।
एब्लेशन (Ablation): कीवर्ड एज या डेप्थ-बायस्ड रैंडम वॉक को हटाने से प्रदर्शन में सबसे बड़ी गिरावट आई, जो शब्दावली निरंतरता और गहरे संदर्भ रिट्रीवल के महत्व को रेखांकित करता है।

महत्व और दावे
पेपर का दावा है कि G2C-MT संरचित विमर्श निर्भरताओं को स्पष्ट रूप से मॉडल करके दस्तावेज़-स्तर के अनुवाद के लिए एक मजबूत और गणनात्मक रूप से कुशल समाधान प्रदान करता है। संदर्भ चयन को ग्राफ पर पथ खोज समस्या के रूप में देखकर, विधि स्थानीय सुसंगतता (क्रमिक किनारों द्वारा कैप्चर की गई) और वैश्विक प्रासंगिकता (सिमेंटिक और कीवर्ड किनारों द्वारा कैप्चर की गई) के बीच के अंतर को सफलतापूर्वक पाटती है। लेखक तर्क देते हैं कि उनका दृष्टिकोण फिक्स्ड-विंडो सीमाओं और असंरचित सिमेंटिक रिट्रीवल के शोर के बीच के ट्रेड-ऑफ से बचता है, जो उच्च अनुवाद गुणवत्ता और सुसंगतता बनाए रखते हुए जटिल मल्टी-एजेंट फ्रेमवर्क के मुकाबले एक स्केलेबल विकल्प प्रदान करता है।