No Optimal Language Set Exists for Multilingual Instruction Tuning: Insights from a Linguistically-Informed Study
यह शोध पत्र बहुभाषी निर्देश ट्यूनिंग (instruction tuning) के लिए भाषाई रूप से सूचित भाषा चयन रणनीतियों का व्यवस्थित मूल्यांकन करता है और पाता है कि कोई सार्वभौमिक इष्टतम भाषा सेट मौजूद नहीं है, क्योंकि प्रदर्शन विशिष्ट कार्यों और मॉडलों पर अत्यधिक निर्भर करता है, जिसमें अधिक भाषाओं को जोड़ने से अक्सर बहुभाषात्मकता का अभिशाप (curse of multilinguality) उत्पन्न होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया की कल्पना एक विशाल, भूखी लाइब्रेरी के रूप में करें। हाल के वर्षों में, वैज्ञानिकों ने इन डिजिटल दिमागों को निर्देश मानने के लिए प्रशिक्षित किया है, न कि केवल अंग्रेजी जैसी एक भाषा में, बल्कि दर्जनों या सैकड़ों भाषाओं में। इसे "बहुभाषी निर्देश ट्यूनिंग" (multilingual instruction tuning) कहा जाता है। इसे एक नए कर्मचारी को प्रशिक्षित करने जैसा समझें जिसे दुनिया के हर देश के ग्राहकों से बात करने की आवश्यकता है। लक्ष्य इस कर्मचारी को इतना स्मार्ट बनाना है कि वह फ्रेंच में अनुरोध को समझ सके, स्वाहिली में उत्तर दे सके और जापानी में एक चुटकुले को समझा सके, और वह भी बिना भ्रमित हुए।
हालाँकि, इसमें एक पेंच है। लाइब्रेरी के पास सीमित शेल्फ स्पेस (कंप्यूटिंग पावर) और कर्मचारी को प्रशिक्षित करने के लिए सीमित समय है। यदि आप प्रशिक्षण कार्यक्रम में हर एक भाषा को जबरदस्ती भरने की कोशिश करते हैं, तो कर्मचारी अभिभूत हो सकता है और उनमें से किसी को भी अच्छी तरह से बोलना भूल सकता है। इसे "बहुभाषात्मकता का अभिशाप" (curse of multilinguality) कहा जाता है। इस कारण से, कई शोधकर्ता यह सोच रहे थे: क्या भाषाओं का एक आदर्श समूह चुनने के लिए कोई "जादुई रेसिपी" मौजूद है? शायद यदि हम ऐसी भाषाएँ चुनें जो भौगोलिक रूप से फैली हुई हों, या जो आपस में बहुत अलग हों, तो हम एक सुपर-स्मार्ट कर्मचारी बना सकते हैं जो हर जगह, हर किसी के लिए पूरी तरह से काम करे। यह एक उम्मीद भरा विचार है: एक आदर्श मिश्रण खोजें, और आपको सबसे अच्छा AI प्राप्त होगा।
यह शोध पत्र, जिसका शीर्षक "No Optimal Language Set Exists for Multilingual Instruction Tuning" है, उसी उम्मीद का परीक्षण करने के लिए लैब में जाता है। शोधकर्ताओं, गुरकान सोयकान और गोज़डे गुल शाहिन ने यह देखने के लिए प्रयोगों की एक श्रृंखला आयोजित की कि क्या वे उस जादुई रेसिपी को खोज सकते हैं। उन्होंने तीन अलग-अलग प्रकार के AI मॉडल (इन्हें तीन अलग-अलग प्रशिक्षुओं के रूप में सोचें जिनके सीखने के अलग-अलग तरीके हैं) लिए और उन्हें विभिन्न "भाषाई रूप से सूचित" रणनीतियों का उपयोग करके सिखाने की कोशिश की। ये रणनीतियाँ टीम चुनने के विभिन्न तरीकों की तरह थीं: एक टीम को मानचित्र पर भाषाओं के स्थान (भूगोल) के आधार पर चुना गया, दूसरी को उनके व्याकरणिक ढांचे (टाइपोलॉजी) के आधार पर, और अन्य को इस आधार पर कि उनके अर्थ कितने समान हैं या उन्हें कंप्यूटर द्वारा कैसे सीखा गया था। उन्होंने इन स्मार्ट चयनों की तुलना एक साधारण "रैंडम" चयन से की, जैसे टोपी से नाम निकालना।
परिणाम एक अप्रत्याशित मोड़ (प्लॉट ट्विस्ट) की तरह थे। लेखकों ने पाया कि कोई एक "सर्वश्रेष्ठ" भाषा टीम नहीं है जो हर बार जीतती हो। यह किसी सार्वभौमिक कुंजी को खोजने जैसा नहीं है जो हर दरवाजे को खोल सके। इसके बजाय, सबसे अच्छा चुनाव पूरी तरह से इस बात पर निर्भर करता था कि आप किस विशिष्ट AI मॉडल को प्रशिक्षित कर रहे हैं और आप उससे कौन सा विशिष्ट कार्य करने को कह रहे हैं। एक मॉडल के लिए, भूगोल के आधार पर भाषाएं चुनना बहुत अच्छा रहा; दूसरे के लिए, व्याकरण के आधार पर चुनना बेहतर था। कभी-कभी, "स्मार्ट" चयनों ने रैंडम तरीके से चुने गए नामों से भी खराब प्रदर्शन किया!
अध्ययन ने एक कठिन सीमा की भी खोज की। जब उन्होंने प्रशिक्षण मिश्रण में अधिक भाषाएँ जोड़ना जारी रखा, तो AI का प्रदर्शन हमेशा बेहतर होता नहीं गया। एक बार जब वे एक निश्चित बिंदु पर पहुँचे—लगभग 13 या 14 भाषाओं पर—तो प्रदर्शन वास्तव में गिरने लगा। यह एक बुफे (buffet) खाने की कोशिश करने जैसा है: पहले कुछ प्लेटें स्वादिष्ट होती हैं, लेकिन यदि आप अपनी प्लेट में और अधिक भोजन भरने लगते हैं, तो अंततः आप उसे पूरी तरह से आनंद लेने के लिए बहुत अधिक भर जाते हैं। इसने "बहुभाषात्मकता के अभिशाप" की पुष्टि की: प्रशिक्षण के एक निश्चित समय के साथ, बहुत अधिक भाषाएँ जोड़ने से AI की उन सभी को अच्छी तरह सीखने की क्षमता कम हो जाती है।
इसके अलावा, शोधकर्ताओं ने पाया कि जो एक AI मॉडल के लिए काम करता है वह दूसरे के लिए बहुत बुरा हो सकता है। एक रणनीति जिसने एक मॉडल को स्मार्ट बनाया, उसने दूसरे मॉडल को मूर्ख बना दिया। उन्होंने यह भी देखा कि कभी-कभी, AI को केवल एक भाषा (जैसे वियतनामी) में पढ़ाना, कई भाषाओं के मिश्रण में पढ़ाने के बराबर या उससे भी बेहतर था, जो मॉडल पर निर्भर करता है।
अंत में, यह पेपर सुझाव देता है कि एक एकल, पूर्ण "इष्टतम भाषा सेट" की खोज एक बंद रास्ता है। कोई एक ही समाधान सबके लिए उपयुक्त (one-size-fits-all) नहीं है। सबसे अच्छा दृष्टिकोण थोड़ा अधिक सतर्क होने वाला है: लगभग 10 से 15 भाषाओं का एक विविध समूह चुनना आमतौर पर एक सुरक्षित दांव है, लेकिन आपको प्रत्येक नए मॉडल और प्रत्येक नए कार्य के लिए विभिन्न संयोजनों का परीक्षण करने के लिए तैयार रहना होगा। लेखक चेतावनी देते हैं कि विभिन्न परीक्षणों के माध्यम से स्कोर का औसत निकालना भ्रामक हो सकता है, जो इस तथ्य को छिपा देता है कि एक रणनीति एक काम के लिए महान हो सकती है लेकिन दूसरे के लिए बहुत खराब। इसलिए, भले ही हम एक जादुई रेसिपी नहीं खोज सकते, लेकिन हम यह जानते हैं कि अपने भाषाओं को चुनने के बारे में विचारशील होना—और यह जानना कि और अधिक जोड़ना कब रोकना है—बेहतर, अधिक सहायक बहुभाषी AI बनाने की कुंजी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।