Stochasticity in Tokenisation Improves Robustness
यह शोध पत्र प्रदर्शित करता है कि बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) को समान रूप से नमूनाकृत स्टोकेस्टिक टोकेनाइज़ेशन (यूनिफॉर्मली सैम्पल्ड स्टोकेस्टिक टोकेनाइज़ेशन) के साथ प्रशिक्षित करना सटीकता और अनुमान दक्षता को बनाए रखते हुए उन्हें प्रतिकूल और यादृच्छिक विक्षोभों के विरुद्ध महत्वपूर्ण रूप से सुदृढ़ बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान लाइब्रेरियन (AI मॉडल) है जो आपके सवालों के जवाब देता है। लेकिन इसमें एक पेंच है: वह लाइब्रेरियन शब्दों को तभी समझता है जब वे एक बहुत ही विशिष्ट, कठोर तरीके से लिखे गए हों।
लार्ज लैंग्वेज मॉडल्स (LLMs) की दुनिया में, इस "लिखने की शैली" को टोकनाइज़ेशन (Tokenization) कहा जाता है। यह वाक्य को छोटे टुकड़ों (टोकन) में काटने की प्रक्रिया है जिसे कंप्यूटर पढ़ सके। आमतौर पर, यह एक ही एकल, नियत (deterministic) तरीके से किया जाता है। उदाहरण के लिए, "revolution" शब्द को हमेशा एक ही टुकड़े के रूप में काटा जा सकता है: revolution|
समस्या: "भंगुर" (Brittle) लाइब्रेरियन
पेपर तर्क देता है कि यदि आप अपने लाइब्रेरियन को केवल "revolution" शब्द को एक एकल टुकड़े के रूप में देखने के लिए प्रशिक्षित करते हैं, तो वे भंगुर (brittle) हो जाते हैं।
यदि कोई लाइब्रेरी में घुसपैकर शब्द को काटने का तरीका बदल दे—जैसे, उसे re, vol, और ution में विभाजित कर दे—तो लाइब्रेरियन घबरा जाता है। उन्हें लग सकता है कि यह पूरी तरह से एक अलग शब्द है या वे भ्रमित हो सकते हैं, जिससे गलत उत्तर मिलता है। पेपर इसे "गैर-मानक टोकनाइज़ेशन" (non-canonical tokenization) कहता है। यह ऐसा है जैसे आपने लाइब्रेरियन से कहा हो, "आज मैं 'rev-ol-u-tion' के बारे में पूछ रहा हूँ," और वे अचानक "revolution" पढ़ना भूल जाएं।
शोधकर्ताओं ने पाया कि ये मॉडल आश्चर्यजनक रूप से नाजुक होते हैं। शब्दों को तोड़ने के तरीके में एक छोटा सा, हानिरहित बदलाव भी AI को पूरी तरह से विफल कर सकता है, भले ही वाक्य का अर्थ बिल्कुल न बदला हो।
समाधान: "लचीला" (Flexible) लाइब्रेरियन
पेपर एक सरल लेकिन शक्तिशाली समाधान प्रस्तावित करता है: स्टोकेस्टिक टोकनाइज़ेशन (Stochastic Tokenization)।
लाइब्रेरियन को केवल यह देखने के लिए प्रशिक्षित करने के बजाय कि "revolution" revolution है, आप उन्हें इसे कई अलग-अलग तरीकों से देखने के लिए प्रशिक्षित करते हैं। कभी यह revolution होता है, कभी re-vol-ution, कभी rev-o-lution होता है।
इसे एक बच्चे को कुत्ता पहचानना सिखाने जैसा समझें।
- पुराना तरीका (Deterministic): आप बच्चे को केवल एक गोल्डन रिट्रीवर दिखाते हैं। यदि वह एक पूडल देखता है, तो वह उसे पहचान नहीं पाता।
- नया तरीका (Stochastic): आप उसे एक गोल्डन रिट्रीवर, एक पूडल, एक चिहुआहुआ और एक ग्रेट डेन दिखाते हैं। आप उसे सिखाते हैं कि "कुत्ता" कई अलग-अलग रूपों में दिख सकता है।
इस "रैंडमनेस" (stochasticity) के साथ AI को प्रशिक्षित करके, मॉडल शब्द के वास्तविक सार (essence) को समझता है, न कि केवल उस विशिष्ट तरीके को जिससे उसे काटा गया है। यह मजबूत (robust) बन जाता है।
प्रयोग: क्या हुआ?
शोधकर्ताओं ने इस विचार का तीन अलग-अलग "प्रशिक्षण शिविरों" (training camps) में परीक्षण किया:
- प्री-ट्रेनिंग (नींव): उन्होंने रैंडम तरीके से काटने का उपयोग करके एक छोटे मॉडल को शुरू से प्रशिक्षित किया।
- परिणाम: मॉडल शब्दों के सूक्ष्म विवरणों को समझने में बेहतर हो गया, लेकिन यह अपने आप में कोई चमत्कारिक इलाज नहीं था।
- फाइन-ट्यूनिंग (विशेषज्ञता): उन्होंने एक बड़े, शक्तिशाली मॉडल (जैसे Llama) को लिया और उसे एक "बूट कैंप" दिया जहाँ उसे रैंडमली कटे हुए शब्दों का उपयोग करके पहेलियाँ हल करनी थीं।
- परिणाम: भारी सफलता! मॉडल अविश्वसनीय रूप से सख्त हो गया। जब उन्होंने बाद में अजीब तरह से कटे हुए शब्दों के साथ इसे धोखा देने की कोशिश की, तो इसने कोई प्रतिक्रिया तक नहीं दी। इनपुट अव्यवस्थित होने के बावजूद इसने अपनी सटीकता को उच्च बनाए रखा।
- इन-कॉन्टेक्स्ट लर्निंग (त्वरित पाठ): उन्होंने चैट प्रॉम्प्ट में उदाहरण दिखाकर मॉडल को तुरंत सिखाने की कोशिश की।
- परिणाम: इससे थोड़ा मदद मिली, लेकिन उतना नहीं जितना मॉडल को वास्तव में प्रशिक्षित करने से मिला।
गुप्त सूत्र: एकरूपता (Uniformity)
पेपर ने यह भी खोजा कि सभी प्रकार की "रैंडमनेस" समान नहीं होती है।
- दोषपूर्ण विधि (STOCHASTOK): रैंडम काटने की पिछली विधि पक्षपाती थी। यह एक भारित पासे (weighted die) की तरह था; कुछ विभाजन बहुत अधिक बार होते थे।
- बेहतर विधि (Uniform Sampling): शोधकर्ताओं ने यह सुनिश्चित करने के लिए नई विधियाँ बनाईं कि शब्द को काटने के हर संभावित तरीके की समान संभावना हो।
- उपमा: एक लॉटरी की कल्पना करें। पुरानी विधि में कुछ नंबर बहुत अधिक बार निकाले जाते थे। नई विधि यह सुनिश्चित करती है कि हर नंबर को समान अवसर मिले। इस "निष्पक्षता" ने मॉडल को उन हमलावरों (adversarial attacks) के खिलाफ और भी मजबूत बनाया जो अजीब फॉर्मेटिंग के साथ इसे धोखा देने के लिए डिज़ाइन किए गए थे।
मुख्य निष्कर्ष
पेपर निष्कर्ष निकालता है कि रैंडमनेस AI सुरक्षा के लिए एक सुपरपावर है।
जानबूझकर AI मॉडल को शब्दों को तोड़ने के अस्त-व्यत, असंगत और रैंडम तरीकों को संभालने के लिए प्रशिक्षित करके, हम उन्हें बनाते हैं:
- मजबूत: जब कोई उन्हें अजीब फॉर्मेटिंग के साथ धोखा देने की कोशिश करता है, तो वे टूटते नहीं हैं।
- बुद्धिमान: वे शब्दों के वास्तविक अर्थ को समझते हैं, न कि केवल उस विशिष्ट कोड को जो उन्हें दिया गया था।
- सस्ता: आपको उन्हें चलाने के लिए अधिक कंप्यूटर पावर की आवश्यकता नहीं है; आपको बस उन्हें प्रशिक्षित करने का तरीका बदलना है।
संक्षेप में: यदि आप एक ऐसा AI चाहते हैं जिसे एक साधारण टाइपो या अजीब फ़ॉन्ट द्वारा आसानी से मूर्ख नहीं बनाया जा सके, तो उसे कठोर होना छोड़ दें। उसे लचीला, रैंडम और अनुकूलन योग्य बनना सिखाएं। यही एक मजबूत AI की कुंजी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।