TQLite: Multi-LLM Jury Guided Distillation for Real-time MQM Translation Quality Evaluation
यह शोध पत्र TQLite प्रस्तुत करता है, जो एक नवीन डिस्टिलेशन फ्रेमवर्क है जो उच्च गुणवत्ता वाले सिंथेटिक प्रशिक्षण डेटा को उत्पन्न करने के लिए एक मल्टी-LLM जूरी का लाभ उठाता है, जिससे छोटे भाषा मॉडलों को अत्यधिक गणनात्मक रूप से महंगे बड़े रीजनिंग मॉडलों के तुलनीय, वास्तविक समय में स्केलेबल अनुवाद गुणवत्ता मूल्यांकन प्रदर्शन प्राप्त करने में सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, वैश्विक अनुवाद सेवा चला रहे हैं। हर दिन, लाखों वाक्य आपके पास से गुजरते हैं, जो एक भाषा को दूसरी भाषा में बदल दिए जाते हैं। लेकिन आपको कैसे पता चलेगा कि अनुवाद वास्तव में अच्छा है या नहीं? पुराने दिनों में, आप हर एक वाक्य को पढ़ने के लिए एक मानव विशेषज्ञ को काम पर रखते, लेकिन वह धीमा और महंगा होता था। हाल ही में, वैज्ञानिकों ने पाया कि विशाल कंप्यूटर मस्तिष्क, जिन्हें लार्ज लैंग्वेज मॉडल्स (LLMs) कहा जाता है, इन विशेषज्ञों की भूमिका निभाने में आश्चर्यजनक रूप से सक्षम हैं। वे एक अनुवाद को पढ़ सकते हैं, गलतियाँ पकड़ सकते हैं, और उसे ग्रेड दे सकते हैं, बिल्कुल एक शिक्षक की तरह। हालाँकि, ये विशाल मस्तिष्क सुपरकंप्यूटर की तरह हैं: वे अविश्वसनीय रूप से शक्तिशाली हैं, लेकिन चलाने के लिए बहुत अधिक ऊर्जा, पैसा और समय लेते हैं। दूसरी ओर, "स्मॉल लैंग्वेज मॉडल्स" (SLMs) हैं। ये फुर्तीले, कुशल पॉकेट कैलकुलेटर की तरह हैं। वे तेज़ और सस्ते हैं, लेकिन वे अक्सर अनुवाद को सटीक रूप से ग्रेड करने के लिए आवश्यक जटिल तर्क (reasoning) में संघर्ष करते हैं। बड़ा सवाल तकनीकी दुनिया के लिए यह है: क्या हम इन फुर्तीले कैलकुलेटरों को बिना अपनी गति खोए सुपरकंप्यूटरों जितना स्मार्ट बना सकते हैं?
यही वह समस्या है जिसे नेटफ्लिक्स की टीम ने अपने नए पेपर, "TQLite" में हल करने का प्रयास किया। उन्होंने महसूस किया कि जबकि विशाल मॉडल ग्रेडिंग करने में बेहतरीन हैं, वे हर काम के लिए बहुत भारी हैं। इसलिए, उन्होंने "डिस्टिलेशन" (distillation) नामक एक चतुर तकनीक का आविष्कार किया। इसे ऐसे समझें जैसे एक मास्टर शेफ (विशाल मॉडल) एक सु-शेफ (छोटा मॉडल) को एक आदर्श व्यंजन बनाना सिखा रहा हो। केवल सु-शेफ को अनुमान लगाने देने के बजाय, टीम ने उपलब्ध सबसे स्मार्ट और शक्तिशाली AI शेफों की एक "जूरी" (jury) इकट्ठा की। उन्होंने इस जूरी से हजारों अनुवादों को ग्रेड करने के लिए कहा और फिर उन्हें अंतिम स्कोर पर मतदान करने के लिए कहा। यदि सभी शेफ एक ही ग्रेड पर सहमत हुए, तो वह एक "गोल्ड स्टैंडर्ड" उदाहरण बन गया। फिर उन्होंने इन उच्च-गुणवत्ता वाले उदाहरणों का उपयोग छोटे, फुर्तीले मॉडल्स को प्रशिक्षित करने के लिए किया। परिणाम? उन्होंने TQLite नामक एक प्रणाली बनाई, जहाँ छोटे मॉडल्स ने अनुवादों को लगभग उतना ही अच्छा ग्रेड करना सीखा जितना कि विशाल और महंगे मॉडल्स करते हैं, लेकिन बहुत अधिक तेज़ी और कम लागत के साथ।
शोधकर्ताओं ने सबसे पहले वर्तमान "दिग्गजों" का परीक्षण किया ताकि यह देखा जा सके कि ग्रेडिंग में कौन सबसे अच्छा है। उन्होंने पाया कि सबसे उन्नत "रीज़निंग मॉडल्स" (LRMs)—जो AI का एक विशेष प्रकार है जो अपने उत्तरों पर विचार करने के लिए अतिरिक्त समय लेता है—पूर्ण रूप से विजेता थे। एक विशिष्ट मॉडल ने, जब उसे उच्च स्तर का "रीज़निंग एफर्ट" दिया गया, तो 92.34% की सिस्टम-लेवल सटीकता हासिल की, जो एक नया उच्च स्कोर है। हालाँकि, ये मॉडल धीमे हैं और इन्हें चलाने में बहुत पैसा खर्च होता है। टीम ने यह भी देखा कि जब उन्होंने इन शक्तिशाली मॉडल्स को अपने उत्तरों को एक विशिष्ट प्रारूप (जैसे कि एक विशिष्ट सूची प्रारूप) में लिखने के लिए बहुत सख्त रहने को कहा, तो उनसे कभी-कभी अधिक गलतियाँ हुईं। लेकिन जब उन्होंने उन्हें थोड़े अधिक लचीले "स्ट्रक्चर्ड टेक्स्ट" प्रारूप में लिखने की अनुमति दी, तो परिणाम बहुत बेहतर रहे।
अपने "TQLite" सिस्टम को बनाने के लिए, टीम ने केवल एक स्मार्ट मॉडल को चुनने के बजाय, छोटे मॉडल्स को सिखाने के लिए एक "मल्टी-एलआरएम जूरी" (Multi-LRM Jury) बनाई। कल्पना कीजिए कि तीन अलग-अलग विशेषज्ञ न्यायाधीशों का एक पैनल है। प्रत्येक अनुवाद के लिए, उन्होंने तीनों से उनकी राय मांगी। यदि न्यायाधीश एक ही बात पर सहमत हुए (या काफी हद तक सहमत हुए), तो टीम जान गई कि वह उत्तर भरोसेमंद है। उन्होंने इस सहमति को एक फिल्टर के रूप में उपयोग किया, और उन उदाहरणों को हटा दिया जहाँ न्यायाधीश आपस में बहस कर रहे थे। फिर उन्होंने इन "सहमत" उदाहरणों को लिया और उनका उपयोग Gemma-12B-it और Gemma-3-4B-it नामक छोटे, ओपन-सोर्स मॉडल्स को प्रशिक्षित करने के लिए किया।
परिणाम प्रभावशाली थे। उच्च-गुणवत्ता वाले "जूरी" डेटा पर प्रशिक्षित होने के बाद, छोटे मॉडल्स की सेगमेंट-लेवल सटीकता लगभग 52.6% (जब वे केवल साधारण, अनट्रेन्ड मॉडल्स थे) से बढ़कर 55.03% हो गई। यह सुनने में बहुत बड़ी छलांग नहीं लग सकती है, लेकिन AI ग्रेडिंग की दुनिया में, यह एक बहुत बड़ी छलांग है। इसका मतलब है कि छोटे मॉडल्स अब उन अन्य ओपन-सोर्स मॉडल्स को पछाड़ रहे हैं जो बहुत बड़े और जटिल हैं। वास्तव में, टीम ने पाया कि उनके छोटे, डिस्टिल्ड मॉडल्स ने परीक्षण किए गए सभी अन्य ओपन-सोर्स "रीज़निंग मॉडल्स" से बेहतर प्रदर्शन किया, और वे सबसे महंगे, क्लोज्ड-सोर्स दिग्गजों के बहुत करीब पहुँच गए।
उनकी खोज का सबसे रोमांचक हिस्सा गति और बुद्धिमत्ता के बीच का संतुलन (trade-off) है। टीम ने एक ग्राफ बनाया जो दिखाता है कि एक अनुवाद को ग्रेड करने में कितना समय लगता बनाम वह ग्रेड कितना सटीक है। विशाल, महंगे मॉडल सटीकता के मामले में शीर्ष पर हैं लेकिन सोचने में लंबा समय लेते हैं। अनट्रेन्ड छोटे मॉडल तेज़ हैं लेकिन बहुत सटीक नहीं हैं। TQLite मॉडल, हालांकि, एक "स्वीट स्पॉट" में स्थित है: यह दिग्गजों की तुलना में काफी तेज़ है जबकि सटीकता का स्तर लगभग उतना ही अच्छा बनाए रखता है। यह एक ऐसी रेस कार की तरह है जो मोटरसाइकिल जितनी तेज़ चलती है लेकिन एक लग्जरी सेडान की तरह मोड़ संभालती है।
शोधकर्ताओं ने सावधानीपूर्वक यह नोट किया कि यह कोई जादुई छड़ी नहीं है जो सब कुछ हल कर देती है। छोटे मॉडल्स अभी भी सबसे अच्छे, सबसे महंगे क्लोज्ड-सोर्स मॉडल्स के शिखर प्रदर्शन तक नहीं पहुँच पाते हैं। साथ ही, उनका प्रशिक्षण डेटा मुख्य रूप से उन उदाहरणों से बना था जहाँ विशेषज्ञों की जूरी पूरी तरह से सहमत थी। इसका मतलब है कि छोटे मॉडल्स स्पष्ट मामलों को संभालने में बहुत अच्छे हैं, लेकिन वे उन अजीब, जटिल मामलों (edge-cases) में संघर्ष कर सकते हैं जहाँ विशेषज्ञ भी असहमत होते हैं। उन्होंने इसका परीक्षण अंग्रेजी, जर्मन, चीनी और रूसी जैसी भाषाओं पर किया, लेकिन उन्होंने अभी तक यह साबित नहीं किया है कि यह बहुत कम बोलने वाली या बहुत जटिल व्याकरण संरचना वाली भाषाओं के लिए भी काम करता है।
अंत में, TQLite एक व्यावहारिक मार्ग प्रदान करता है। यह दिखाता है कि उच्च-गुणवत्ता वाली अनुवाद ग्रेडिंग प्राप्त करने के लिए हमें आवश्यक रूप से विशाल, महंगे सुपरकंप्यूटर चलाने की आवश्यकता नहीं है। सबसे स्मार्ट मॉडल्स की एक "जूरी" का उपयोग करके एक आदर्श पाठ्यपुस्तक बनाने से, हम छोटे, कुशल मॉडल्स को भारी काम करने के लिए प्रशिक्षित कर सकते हैं। इसका अर्थ है कि कंपनियाँ गुणवत्ता से बहुत अधिक समझौता किए बिना, वास्तविक समय में अनुवादों को ग्रेड कर सकती हैं, जिससे पैसा और समय दोनों की बचत होती है। यह इस बात की याद दिलाता है कि कभी-कभी, स्मार्ट बनने का सबसे अच्छा तरीका एक बड़ा मस्तिष्क बनाना नहीं, बल्कि एक छोटे मस्तिष्क को दिग्गजों की एक टीम की तरह सोचना सिखाना होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।