When Flores Bloomz Wrong: Cross-Direction Contamination in Machine Translation Evaluation
यह शोध पत्र यह प्रदर्शित करता है कि Bloomz जैसे बहुभाषी LLMs में FLORES-200 बेंचमार्क संदूषण (contamination) क्रॉस-डायरेक्शनल मेमोराइजेशन (cross-directional memorization) का कारण बनता है जो अनदेखे दिशाओं में भी अनुवाद स्कोर को बढ़ा देता है, और नाम वाली संस्था के प्रतिस्थापन (named entity replacement) को ऐसे संदूषण का पता लगाने के लिए एक प्रभावी विधि के रूप में पहचानता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "When Flores Bloomz Wrong: Cross-Direction Contamination in Machine Translation Evaluation" शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ हिंदी अनुवाद दिया गया है।
बड़ी तस्वीर: "चीट शीट" (नकल की पर्ची) की समस्या
कल्पना कीजिए कि आप एक फाइनल परीक्षा दे रहे हैं। आपने कड़ी मेहनत से पढ़ाई की है, लेकिन आपने गलती से उस अभ्यास परीक्षण (प्रैक्टिस टेस्ट) के सटीक उत्तर भी याद कर लिए हैं जो आपके शिक्षक ने आपको दिया था। जब आप वास्तविक परीक्षा देखते हैं, तो आप वास्तव में समस्याओं को हल नहीं करते; आप बस उन उत्तरों को दोहराते हैं जो आपने याद किए थे। आपका स्कोर तो बेहतरीन आता है, लेकिन यह इस बात का प्रमाण नहीं है कि आपने विषय को सीखा है।
आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, इसे डेटा कंटैमिनेशन (Data Contamination) कहा जाता है। लार्ज लैंग्वेज मॉडल्स (LLMs) इंटरनेट से प्राप्त विशाल मात्रा में टेक्स्ट पर प्रशिक्षित होते हैं। कभी-कभी, वे "अभ्यास परीक्षण" (AI को ग्रेड देने के लिए उपयोग किए जाने वाले सार्वजनिक बेंचमार्क) उनके "पाठ्यपुस्तकों" (प्रशिक्षण डेटा) के साथ मिल जाते हैं। AI अनुवाद करना सीखने के बजाय उत्तर रट लेता है।
प्रयोग: दो छात्र, एक टेस्ट
शोधकर्ता यह देखना चाहते थे कि क्या यह नकल मशीन ट्रांसलेशन (AI को विभिन्न भाषाएँ सिखाना) में होती है। उन्होंने FLORES-200 नामक एक प्रसिद्ध परीक्षण का उपयोग किया, जो 200 भाषाओं को कवर करने वाला एक विशाल, बहुभाषी परीक्षा की तरह है।
उन्होंने दो "छात्रों" (AI मॉडल्स) की तुलना की:
- Bloomz: यह छात्र जाना-माना था कि इसने अपने प्रशिक्षण के दौरान FLORES अभ्यास परीक्षण का अध्ययन किया था।
- Llama: यह छात्र जाना-माना था कि इसने FLORES टेस्ट नहीं देखा था। यह एक "ईमानदार" कंट्रोल ग्रुप के रूप में कार्य करता था।
आश्चर्य: "क्रॉस-डायरेक्शन" (विपरीत दिशा) की नकल
शोधकर्ताओं को उम्मीद थी कि यदि Bloomz ने नकल की, तो यह केवल तभी होगा जब वह उस भाषा से अनुवाद करेगा जिसे उसने टेस्ट में देखा था, उस भाषा के लिए जिसे उसने टेस्ट में देखा था।
लेकिन उन्होंने कुछ अजीब खोजा: क्रॉस-डायरेक्शन कंटैमिनेशन (Cross-Direction Contamination)।
उपमा:
कल्पना कीजिए कि Bloomz ने स्पेनिश-से-अंग्रेजी परीक्षा के उत्तर याद कर लिए हैं।
- अपेक्षा: यदि आप Bloomz से अंग्रेजी-से-स्पेनिश में अनुवाद करने के लिए कहते हैं, तो उसे संघर्ष करना चाहिए क्योंकि उसने उस विशिष्ट दिशा को नहीं देखा था।
- वास्तविकता: Bloomz अंग्रेजी-से-स्पेनिश में आश्चर्यजनक रूप से अच्छा प्रदर्शन करता है, भले ही उसने उस विशिष्ट जोड़ी को कभी नहीं देखा था।
क्यों?
AI ने टारगेट (उत्तर पक्ष) को याद कर लिया था।
इसे इस तरह सोचें: यदि आप गणित के टेस्ट के उत्तर याद कर लेते हैं, तो आप समस्याओं को हल कर सकते हैं भले ही प्रश्न थोड़े अलग हों। Bloomz ने उन "अंग्रेजी" (या फ्रेंच, या चीनी) वाक्यों को याद कर लिया था जो उत्तर होने चाहिए थे। इसलिए, किसी भी चीज़ को अंग्रेजी में अनुवाद करने के लिए पूछे जाने पर, यह बस अपनी स्मृति से उन याद किए गए अंग्रेजी वाक्यों को निकाल लेता था, चाहे स्रोत भाषा कुछ भी हो।
जांच: क्या आप नकलची को बेवकूफ बना सकते हैं?
शोधकर्ताओं ने यह देखने के लिए Bloomz को चकमा देने की कोशिश की कि क्या वह वास्तव में "सोच" रहा है या सिर्फ "रट" रहा है।
1. "बैक-ट्रांसलेशन" (Back-Translation) की चाल
उन्होंने एक वाक्य लिया, उसे तीसरी भाषा (जैसे स्वाहिली) में अनुवादित किया, और फिर एक अलग AI का उपयोग करके मूल भाषा में वापस अनुवादित किया। इससे वाक्य का एक ऐसा संस्करण बना जो थोड़ा अलग था (जैसे कि एक पैराफ्रेज़/समानार्थक शब्द) लेकिन जिसका अर्थ वही था।
- परिणाम: इस थोड़े अलग वाक्य के साथ भी, Bloomz अभी भी वही याद किया गया उत्तर उगल रहा था। यह ऐसा था जैसे AI प्रश्न की "गंध" को पहचान रहा हो और तुरंत याद किया गया उत्तर दोहरा रहा हो, भले ही शब्दों में थोड़ा अंतर हो।
2. "नाम बदलने" (Name Swap) की चाल
शोधकर्ताओं ने वाक्यों में विशिष्ट नामों और संख्याओं को बदल दिया (जैसे, "John" को "Sarah" में या "1990" को "2024" में बदलना)।
- परिणाम: यह वास्तव में काम कर गया! जब उन्होंने नाम बदले, तो Bloomz का स्कोर काफी गिर गया।
- क्यों? ऐसा लगता है कि AI ने याद किए गए वाक्य के ढांचे और विशिष्ट नामों को पकड़ रखा था। जब नामों को बदला गया, तो याद किया गया पैटर्न टूट गया, और AI अब केवल उत्तर रट नहीं सका। इससे पता चलता है कि नाम बदलना AI की नकल पकड़ने का एक अच्छा तरीका है।
"नकली प्रशिक्षण" (Fake Training) प्रयोग
यह साबित करने के लिए कि यह केवल एक इत्तेफाक नहीं था, शोधकर्ताओं ने ईमानदार छात्र (Llama) को लिया और उसे FLORES टेस्ट का अध्ययन करने के लिए मजबूर किया (इसे डेटा पर फाइन-ट्यूनिंग करना)।
- परिणाम: एक बार जब Llama ने टेस्ट का अध्ययन कर लिया, तो वह बिल्कुल नकलची (Bloomz) की तरह व्यवहार करने लगा। वह उन दिशाओं में भी उच्च स्कोर प्राप्त करने लगा जिन्हें उसने नहीं देखा था, क्योंकि उसने लक्षित भाषाओं को याद कर लिया था। इसने पुष्टि की कि यह समस्या पूरी तरह से याद रखने (memorization) के बारे में है, न कि AI के "स्मार्ट" होने के बारे में।
निष्कर्ष (Takeaway)
शोध पत्र निष्कर्ष निकालता है कि:
- याद रखना चालाकी भरा है: एक AI उत्तरों (लक्षित भाषाओं) को याद कर सकता है और किसी भी ऐसे प्रश्न के लिए नकल करने के लिए उनका उपयोग कर सकता है जो उस उत्तर की मांग करता है, भले ही प्रश्न (स्रोत भाषा) पूरी तरह से अलग हो।
- मानक परीक्षण दोषपूर्ण हैं: यदि आप केवल स्कोर देखते हैं, तो आप सोच सकते हैं कि AI अनुवाद में बहुत अच्छा है। लेकिन यह केवल याद किए गए टेक्स्ट को दोहरा रहा हो सकता है।
- उन्हें कैसे पकड़ें: यदि आप जानना चाहते हैं कि क्या कोई AI अनुवाद परीक्षण में नकल कर रहा है, तो प्रश्नों में नाम और संख्याएं बदलने का प्रयास करें। यदि AI का स्कोर अचानक गिर जाता है, तो संभावना है कि वह केवल उत्तर याद कर रहा था, वास्तव में अनुवाद नहीं कर रहा था।
संक्षेप में: AI ने बोलना नहीं सीखा; उसने बस उत्तर कुंजी (answer key) याद कर ली। और क्योंकि उसने उत्तरों को याद कर लिया था, वह उन प्रश्नों पर भी नकल कर सका जिन्हें उसे कभी नहीं देखना चाहिए था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।