⚡ electrical engineering

Bhasha-Rupantarika: Algorithm-Hardware Co-design approach for Multilingual Neural Machine Translation

यह शोध पत्र भाषा-रूपांतरिका (Bhasha-Rupantarika) को प्रस्तुत करता है, जो एक एल्गोरिदम-हार्डवेयर सह-डिज़ाइन किया गया बहुभाषी न्यूरल मशीन ट्रांसलेशन सिस्टम है जो अल्ट्रा-लो प्रिसिजन क्वांटाइजेशन और FPGA एक्सेलेरेशन का लाभ उठाकर मॉडल के आकार और हार्डवेयर संसाधन उपयोग में महत्वपूर्ण कमी लाता है, साथ ही संसाधन-सीमित IoT उपकरणों के लिए उच्च-थ्रूपुट, रियल-टाइम इन्फरेंस प्रदान करता है।

मूल लेखक: Mukul Lokhande, Tanushree Dewangan, Mohd Sharik Mansoori, Tejas Chaudhari, Akarsh J., Damayanti Lokhande, Adam Teman, Santosh Kumar Vishvakarma

प्रकाशित 2026-06-02

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Mukul Lokhande, Tanushree Dewangan, Mohd Sharik Mansoori, Tejas Chaudhari, Akarsh J., Damayanti Lokhande, Adam Teman, Santosh Kumar Vishvakarma

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास किताबों का एक विशाल, अविश्वसनीय रूप से बुद्धिमान पुस्तकालय है जो दुनिया की किसी भी भाषा का अनुवाद कर सकता है। यह पुस्तकालय इतना विशाल और जटिल है कि इसे पढ़ने के लिए एक बहुत बड़े, अत्यधिक बिजली की खपत करने वाले सुपरकंप्यूटर की आवश्यकता होती है। अब, कल्पना कीजिए कि आप इस पुस्तकालय को एक छोटे, बैटरी से चलने वाले उपकरण में फिट करना चाहते हैं—जैसे कि एक स्मार्टवॉच या ग्रामीण गाँव का कियोस्क—ताकि लोग चलते-फिरते भाषाओं का अनुवाद कर सकें, बिना किसी विशाल सर्वर फार्म की आवश्यकता के।

यही वह काम है जिसे करने के लिए भाषा-रूपांतरिका (Bhasha-Rupantarika) के पीछे के शोधकर्ताओं ने प्रयास किया। उन्होंने सॉफ्टवेयर के चतुर संयोजन और कस्टम हार्डवेयर का उपयोग करके इस विशाल अनुवाद मस्तिष्क को एक छोटे, कुशल पैकेज में समेट दिया।

उन्होंने इसे कैसे किया, इसका सरल अवधारणाओं में विवरण यहाँ दिया गया है:

1. "आकार घटाने" की तकनीक (क्वांटाइजेशन - Quantization)

मूल अनुवाद मॉडल को एक हाई-डेफिनिशन 4K मूवी की तरह समझें। यह अद्भुत दिखता है, लेकिन फ़ाइल का आकार बहुत बड़ा होता है और इसे डाउनलोड करने और चलाने में लंबा समय लगता है।

शोधकर्ताओं ने पूछा: "क्या हमें हर किसी के लिए वास्तव में 4K की आवश्यकता है?"
उन्होंने तय किया कि वे इस मूवी को एक बहुत छोटे, कम-रिज़ॉल्यूशन वाले प्रारूप (जैसे कि एक कंप्रेस्ड MP3 या लो-रेज़ वीडियो) में सिकोड़ देंगे बिना कहानी खोए। तकनीकी शब्दों में, उन्होंने क्वांटाइजेशन (quantization) का उपयोग किया।

परिणाम: उन्होंने मॉडल के आकार को 4.1 गुना कम कर दिया (इसे बहुत कम स्थान में फिट करने के लिए) और इसे चलाने के लिए 4.2 गुना तेज़ बना दिया।
उपमा: यह एक भारी, भारी-भरकम सर्दियों के कोट को एक हल्के, गर्म जैकेट में बदलने जैसा है जो वही काम करता है लेकिन उसे ले जाना बहुत आसान है।

2. कस्टम "अनुवादक इंजन" (हार्डवेयर को-डिज़ाइन - Hardware Co-design)

आमतौर पर, जब आप सॉफ़्टवेयर चलाते हैं, तो आप एक सामान्य-उद्देश्य वाले प्रोसेसर (जैसे आपके लैपटॉप का CPU) का उपयोग करते हैं। यह एक स्विस आर्मी नाइफ (Swiss Army knife) का उपयोग करने जैसा है जो सब कुछ करने के लिए काम आता है: यह काम तो करता है, लेकिन किसी एक विशेष काम के लिए यह सबसे अच्छा उपकरण नहीं है।

शोधकर्ताओं ने एक कस्टम इंजन बनाया जो विशेष रूप से अनुवाद कार्यों के लिए डिज़ाइन किया गया है, जिसे FPGA (फील्ड-प्रोग्रामेबल गेट ऐरे) नामक चिप पर चलाया जा सकता है।

उपमा: इसके बजाय कि वे एक स्विस आर्मी नाइफ का उपयोग करें, उन्होंने बॉक्स पैक करने के लिए केवल एक विशेष, उच्च-गति वाली कन्वेयर बेल्ट बनाई।
दक्षता: क्योंकि यह इंजन विशेष रूप से इस काम के लिए बनाया गया था, इसने अन्य शीर्ष-स्तरीय प्रणालियों की तुलना में आधे संसाधनों (जैसे चिप पर जगह) का उपयोग किया और शब्दों को प्रोसेस करने में 2.2 से 4.6 गुना तेज़ था।

3. "वन-स्टॉप शॉप" दृष्टिकोण

परंपरागत रूप से, एक भारतीय भाषा (जैसे हिंदी) से विदेशी भाषा (जैसे इतालवी) में अनुवाद करने के लिए, आपको दो चरणों की आवश्यकता हो सकती है: हिंदी $\rightarrow$ अंग्रेजी $\rightarrow$ इतालवी। यह एक हब तक बस लेने, फिर अपने अंतिम गंतव्य तक पहुँचने के लिए दूसरी बस बदलने जैसा है। यह धीमा और अव्यवस्थित है।

भाषा-रूपांतरिका प्रणाली एक डायरेक्ट फ्लाइट (सीधी उड़ान) की तरह कार्य करती है। यह एक एकल, एकीकृत मॉडल का उपयोग करती है जो सीधे कई भाषाओं (200 अलग-अलग भाषाओं सहित) के बीच अनुवाद कर सकता है, बिना अंग्रेजी पर रुके।

लाभ: यह समय और ऊर्जा बचाता है, जो सीमित बैटरी लाइफ वाले उपकरणों के लिए अत्यंत महत्वपूर्ण है।

4. वास्तविक दुनिया का प्रभाव

पेपर इस बात पर प्रकाश डालता है कि यह प्रणाली संसाधन-सीमित परिवेशों के लिए डिज़ाइन की गई है, जैसे कि ग्रामीण क्षेत्र या IoT डिवाइस (स्मार्ट सेंसर)।

गति: यह प्रति सेकंड लगभग 66 शब्द अनुवादित कर सकता है, जो वास्तविक समय की बातचीत के लिए पर्याप्त तेज़ है।
आकार: अंतिम मॉडल केवल 0.56 GB का है, जो मामूली हार्डवेयर पर चलने के लिए पर्याप्त छोटा है।
पहुंच: इसका उद्देश्य उन लोगों की मदद करना है जो भारतीय भाषाएं बोलते हैं ताकि वे शेष विश्व के साथ संवाद कर सकें, जिससे पर्यटन, व्यवसाय और दैनिक जीवन में संचार के अंतराल को भरा जा सके, और इसके लिए महंगी बुनियादी संरचना की आवश्यकता न हो।

सारांश

संक्षेप में, टीम ने एक विशाल, धीमी अनुवाद मस्तिष्क को लिया, उसे स्मार्ट कंप्रेशन तकनीकों का उपयोग करके छोटा किया, और इसे चलाने के लिए एक कस्टम, उच्च-गति इंजन बनाया। परिणाम एक हल्का, तेज़ और कुशल अनुवादक है जो छोटे उपकरणों पर चल सकता है, जिससे वैश्विक संचार सुलभ हो जाता है, यहाँ तक कि उन स्थानों पर भी जहाँ सीमित तकनीक उपलब्ध है।

मुख्य निष्कर्ष: उन्होंने केवल सॉफ़्टवेयर को बेहतर नहीं बनाया; उन्होंने सॉफ़्टवेयर के अनुरूप हार्डवेयर को भी फिर से डिज़ाइन किया, जिससे एक आदर्श साझेदारी बनी जिसने अनुवाद को तेज़, सस्ता और पोर्टेबल बना दिया।

तकनीकी सारांश: भाषा-रूपांतरिका – बहुभाषी न्यूरल मशीन ट्रांसलेशन के लिए एल्गोरिदम-हार्डवेयर को-डिज़ाइन

समस्या विवरण
यह शोध पत्र संसाधन-सीमित वातावरण में बहुभाषी न्यूरल मशीन ट्रांसलेशन (MNMT) प्रणालियों को तैनात करने की चुनौती को संबोधित करता है, जो विशेष रूप से भारत के ग्रामीण क्षेत्रों और IoT उपकरणों को लक्षित करता है। पारंपरिक MNMT दृष्टिकोण अक्सर विभिन्न भाषा युग्मों के लिए अलग-अलग मॉडलों पर या उच्च-परिशुद्धता (FP32) गणनाओं पर निर्भर करते हैं, जिनमें महत्वपूर्ण कंप्यूटिंग शक्ति और मेमोरी की आवश्यकता होती है। यह सीमित संसाधनों वाले एज डिवाइसेस (edge devices) पर वास्तविक समय में अनुवाद के लिए एक बाधा उत्पन्न करता है। इसके अलावा, मौजूदा हार्डवेयर एक्सेलेरेटर अक्सर NLP इंजनों की विशिष्ट आवश्यकताओं को अनदेखा कर देते हैं, और विजन या सामान्य डीप लर्निंग कार्यों पर ध्यान केंद्रित करते हैं, जिससे ट्रांसफार्मर-आधारित अनुवाद मॉडलों को संभालने में एरिया (area), पावर और लेटेंसी (latency) में अक्षमता आती है।

कार्यप्रणाली
लेखक "भाषा-रूपांतरिका" का प्रस्ताव करते हैं, जो एक एज प्लेटफॉर्म पर कुशल बहुभाषी अनुवाद सक्षम करने के लिए एक सुदृढ़ एल्गोरिदम-हार्डवेयर को-डिज़ाइन दृष्टिकोण के माध्यम से डिज़ाइन किया गया है।

एल्गोरिदम रणनीति:
- एकीकृत मॉडल (Unified Model): अलग-अलग मॉडलों की श्रृंखला बनाने के बजाय (जैसे, भारतीय भाषा $\to$ अंग्रेजी $\to$ विदेशी भाषा), यह प्रणाली NLLB-200 (नो लैंग्वेज लेफ्ट बिहाइंड) पर आधारित एक एकल एकीकृत द्विदिश (bidirectional) मॉडल का उपयोग करती है। यह मॉडल 200 भाषाओं का समर्थन करता है, जिसमें कम-संसाधन वाली भारतीय भाषाएं भी शामिल हैं।
- क्वांटाइजेशन (Quantization): मुख्य एल्गोरिदम नवाचार आक्रामक सब-ऑक्टेट परिशुद्धता क्वांटाइजेशन है। यह अध्ययन FP8, INT8, INT4, और FP4 स्तरों पर परिनियोजन (deployment) की जांच करता है। NLLB-200 का एक डिस्टिल्ड (distilled) 600M-पैरामीटर वाला INT4 संस्करण उपयोग किया गया है, जो प्रति-टोकन कंप्यूट लागत को बढ़ाए बिना पैरामीटर दक्षता को प्रबंधित करने के लिए 'मिक्सचर-ऑफ-एक्सपर्ट्स' (MoE) परतों के साथ एक ट्रांसफार्मर एनकोडर-डिकोडर आर्किटेक्चर का उपयोग करता है।
- पाइपलाइन: सिस्टम विदेशी भाषा स्पीच-टू-टेक्स्ट के लिए OpenAI Whisper Large-v3, भारतीय भाषा स्पीच-टू-टेक्स्ट के लिए AI4Bharat IndicConformer, और टेक्स्ट-टू-स्पीच सिंथेसिस के लिए Coqui XTTS v3/IndicParler TTS को एकीकृत करता है, जिसे क्वांटाइज्ड NLLB ट्रांसलेशन कोर के चारों ओर व्यवस्थित किया गया है।
हार्डवेयर आर्किटेक्चर:
- न्यूरल प्रोसेसिंग इंजन (NPE): एक कस्टम हार्डवेयर एक्सेलेरेटर को SystemVerilog का उपयोग करके डिज़ाइन किया गया है, जिसमें एक कंट्रोल यूनिट (CU), मेमोरी रीड/राइट यूनिट्स, एक SIMD मैट्रिक्स मल्टीप्लाय इंजन (MME), और एक नॉन-लीनियर MIMD वेक्टर एरे (NMV) शामिल है।
- कस्टम कंप्यूट यूनिट्स:
  - MME: एक सिम्युलेटेड सिस्टोलिक एरे (systolic array) को लागू करता है जो SIMD MAC (मल्टीप्लाई-एक्युमुलेट) ऑपरेशंस पर आधारित है। यह एक नवीन RMMEC (रीकॉन्फ़िगरेबल मल्टी-मोड एक्सपोनेंट एंड मैंटिसा कंप्यूटेशन) ब्लॉक का उपयोग करके एक ही क्लॉक साइकिल में कई परिशुद्धताओं (1 $\times$ BF16, 3 $\times$ FP8, 6 $\times$ FP4, 6 $\times$ INT4) का समर्थन करता है।
  - NMV: CORDIC-आधारित FASST यूनिट का उपयोग करके नॉन-लीनियर एक्टिवेशन फंक्शन्स (NAFs) जैसे कि Sigmoid, Tanh, ReLU, और SoftMax को संभालता है। यह यूनिट पुन: कॉन्फ़िगर करने योग्य (reconfigurable) है और FP8 एवं BF16 परिशुद्धता का समर्थन करती है, जो कमर्शियल TPUs में NAF हार्डवेयर की उच्च एरिया लागत को संबोधित करती है।
- डेटाफ्लो: आर्किटेक्चर डेटा पुन: उपयोग को अधिकतम करने और ऑफ-चिप मेमोरी एक्सेस लेटेंसी को कम करने के लिए एक आउटपुट-स्टेशनरी डेटाफ्लो का उपयोग करता है।

प्रमुख योगदान

एकीकृत क्वांटाइज्ड मॉडल: यह प्रदर्शन करना कि एक एकल, डिस्टिल्ड INT4 NLLB-200 मॉडल जटिल मल्टी-मॉडल पाइपलाइनों को बदलने के बजाय भारतीय और अंतर्राष्ट्रीय भाषाओं के बीच द्विदिश अनुवाद को प्रभावी ढंग से संभाल सकता है।
कस्टम हार्डवेयर एक्सेलेरेटर: एक विशेष NPE आर्किटेक्चर का विकास जिसमें नवीन RMMEC और FASST यूनिट्स हैं जो अल्ट्रा-लो प्रिसिजन (4-बिट तक) ऑपरेशंस का समर्थन करते हैं, जो विशेष रूप से ट्रांसफार्मर वर्कलोड के लिए अनुकूलित हैं।
को-डिजाइन सत्यापन: एक व्यापक मूल्यांकन जो दिखाता है कि एल्गोरिदम क्वांटाइजेशन (FP4/INT4) को कस्टम हार्डवेयर डिज़ाइन के साथ मिलाने से मौजूदा FPGA और ASIC समाधानों की तुलना में संसाधन उपयोग और थ्रूपुट में महत्वपूर्ण लाभ प्राप्त होता है।

परिणाम
सिस्टम का मूल्यांकन ZCU104 FPGA का उपयोग करके किया गया और ASIC मेट्रिक्स के लिए Cadence Innovus (28nm CMOS) के माध्यम से सिम्युलेट किया गया।

मॉडल दक्षता: FP4 क्वांटाइज्ड मॉडल ने FP32 की तुलना में 4.1 $\times$ मॉडल आकार में कमी (0.56 GB तक) हासिल की।
इन्फरेंस प्रदर्शन: सिस्टम ने 66 टोकन/सेकंड का थ्रूपुट प्राप्त किया, जो इन्फरेंस गति में 4.2 $\times$ की तेजी और आधारभूत अपेक्षाओं की तुलना में 4.8 $\times$ थ्रूपुट में सुधार को दर्शाता है।
हार्डवेयर संसाधन उपयोग (FPGA):
- LUTs: सर्वश्रेष्ठ SoTA (स्टेट-ऑफ-द-आर्ट) NLP एक्सेलेरेटर (OPU) की तुलना में 1.96 $\times$ कम हुए।
- Flip-Flops (FFs): 1.65 $\times$ कम हुए।
- थ्रूपुट: OPU पर 2.2 $\times$ और HPTA पर 4.6 $\times$ की वृद्धि हासिल की।
ASIC मेट्रिक्स: कस्टम MAC और NAF यूनिट्स ने विशिष्ट पूर्व कार्यों की तुलना में एरिया और पावर खपत में महत्वपूर्ण कमी प्रदर्शित की, जिसमें MAC यूनिट ने पूर्व कार्यों की तुलना में LUT उपयोग में 90% की कमी दिखाई।
सटीकता: आक्रामक क्वांटाइजेशन के बावजूद, सिस्टम ने द्विदिश युग्मों (भारतीय $\leftrightarrow$ अंतर्राष्ट्रीय भाषाएं) के बीच संतोषजनक अनुवाद गुणवत्ता बनाए रखी, जैसा कि गुणात्मक आउटपुट (जैसे, "मॉडल सत्यापन और वैधीकरण") द्वारा सत्यापित किया गया है।

महत्व और दावे
यह शोध पत्र दावा करता है कि भाषा-रूपांतरिका कम-संसाधन वाले परिवेश में बहुभाषी AI के लिए एक व्यवहार्य, तैनात करने योग्य समाधान प्रदान करता है। यह सिद्ध करके कि अल्ट्रा-लो प्रिसिजन क्वांटाइजेशन (FP4/INT4) विशेष हार्डवेयर के साथ जुड़ने पर अनुवाद क्षमता से समझौता नहीं करता है, यह कार्य IoT उपकरणों और एज प्लेटफॉर्म पर वास्तविक समय के अनुवाद को सक्षम बनाता है। लेखक इस दृष्टिकोण को विशेष रूप रूप से उन आबादी के लिए महत्वपूर्ण मानते हैं जिनके पास औपचारिक शिक्षा सीमित है और जिन्हें पर्यटन या व्यवसाय के लिए विदेशी भाषाओं के साथ जुड़ने की आवश्यकता है। अध्ययन निष्कर्ष निकालता है कि एज NLP में प्रदर्शन, सटीकता और संसाधन बाधाओं के बीच संतुलन बनाने के लिए एल्गोरिदम-हार्डवेयर को-डिज़ाइन आवश्यक है, जो ऊर्जा-कुशल, टिकाऊ AI परिनियोजन के लिए एक मार्ग प्रदान करता है। लेखक नोट करते हैं कि हालांकि वर्तमान कार्य एज परिनियोजन पर केंद्रित है, इस दृष्टिकोण का स्केलेबिलिटी भविष्य में उच्च-प्रदर्शन क्लाउड कार्यान्वयन को भी लाभान्वित कर सकती है।

1. "आकार घटाने" की तकनीक (क्वांटाइजेशन - Quantization)

2. कस्टम "अनुवादक इंजन" (हार्डवेयर को-डिज़ाइन - Hardware Co-design)

3. "वन-स्टॉप शॉप" दृष्टिकोण

4. वास्तविक दुनिया का प्रभाव

सारांश

इसी तरह के और पेपर