Model Merging is Secretly Certifiable: Non-Vacuous Generalisation Bounds for Low-Shot Learning
यह शोध पत्र मॉडल फ्यूजन और जनरलाइजेशन सर्टिफिकेट के बीच एक नवीन संबंध स्थापित करता है, यह प्रदर्शित करते हुए कि बड़े पैमाने के विजन और लैंग्वेज मॉडल्स का उपयोग करके उच्च-जोखिम वाले, लो-शॉट लर्निंग परिदृश्यों के लिए नॉन-वैक्यूअस जनरलाइजेशन बाउंड्स सक्षम करने हेतु उन्हें फाइन-ट्यून करने के बजाय फ्यूज करना बेहतर है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, इन प्रणालियों की शक्ति और उन पर हमारे विश्वास की क्षमता के बीच एक बढ़ता हुआ तनाव है। हम चिकित्सा और सुरक्षा जैसे उच्च-जोखिम वाले क्षेत्रों में निर्णय लेने के लिए एआई (AI) पर भरोसा करते हैं, फिर भी विश्वास की सबसे मौलिक आवश्यकता यह जानना है कि एक प्रणाली केवल उन उदाहरणों पर ही नहीं, बल्कि नए, अनदेखे डेटा पर भी विश्वसनीय रूप से कार्य करेगी जिन पर उसे प्रशिक्षित किया गया था। दशकों से, वैज्ञानिक गणितीय गारंटी बनाने की कोशिश कर रहे हैं ताकि यह सिद्ध किया जा सके कि कोई मॉडल अप्रत्याशित रूप से विफल नहीं होगा। हालाँकि, ये गारंटियाँ उन विशाल, जटिल नेटवर्क के लिए अक्सर बेकार साबित हुई हैं जो आधुनिक एआई को संचालित करते हैं। इतने बड़े सिस्टम के लिए सुरक्षा सिद्ध करने के लिए आवश्यक गणनाएँ इतनी व्यापक और निराशावादी होती हैं कि वे हमें कुछ भी उपयोगी नहीं बतातीं, जो अनिवार्य रूप से यह कहती हैं कि त्रुटि दर शून्य से सौ प्रतिशत के बीच कहीं भी हो सकती है। यह समस्या तब और कठिन हो जाती है जब सिस्टम को प्रशिक्षित करने के लिए बहुत कम डेटा उपलब्ध होता है, जो विशेष क्षेत्रों में एक सामान्य स्थिति है जहाँ हजारों उदाहरण एकत्र करना असंभव होता है।
शोधकर्ताओं की एक टीम ने सीखने की प्रक्रिया को देखने के अपने तरीके को बदलकर इन सीमाओं को दरकिनार करने का एक आश्चर्यजनक तरीका खोज निकाला है। पूरे विशाल न्यूरल नेटवर्क को प्रमाणित करने के बजाय, उन्होंने 'मॉडल मर्जिंग' (model merging) नामक एक तकनीक पर ध्यान केंद्रित किया, जो कई पूर्व-प्रशिक्षित विशेषज्ञों को एक नए एकल मॉडल में संयोजित करती है। इन मॉडलों को संयोजित करने की प्रक्रिया को बहुत कम समायोज्य सेटिंग्स (adjustable settings) के साथ सीखने के एक रूप के रूप में मानकर, शोधकर्ताओं ने पाया कि वे उन कठोर सुरक्षा जाँचों को लागू कर सकते थे जो पहले असंभव थीं। उनका कार्य यह प्रदर्शित करता है कि अत्यधिक बड़े आर्टिफिशियल इंटेलिजेंस सिस्टम के प्रदर्शन के लिए सार्थक, गैर-रिक्त (non-empty) गारंटी प्रदान करना संभव है, भले ही उन्हें केवल एक सौ उदाहरणों पर प्रशिक्षित किया गया हो। यह निष्कर्ष बताता है कि आज के सबसे शक्तिशाली एआई मॉडलों की सुरक्षा को प्रमाणित करने के लिए आवश्यक उपकरण पहले से ही आँखों के सामने मौजूद थे, बस एक अलग सैद्धांतिक दृष्टिकोण से उन्हें पहचानने की प्रतीक्षा थी।
इस खोज का मूल आधार डेटा की कमी होने पर एआई को प्रशिक्षित करने और मान्य करने के तरीके को पुनर्कल्पित करने में निहित है। पारंपरिक रूप से, किसी मॉडल के काम करने को सिद्ध करने के लिए, वैज्ञानिक अपने सीमित डेटा को एक प्रशिक्षण सेट (training set) और एक अलग सत्यापन सेट (validation set) में विभाजित करते हैं। लेकिन जब आपके पास केवल सौ उदाहरण हों, तो उन्हें आधा करने से एक अच्छा मॉडल प्रशिक्षित करने के लिए बहुत कम और इसे विश्वसनीय रूप से परीक्षण करने के लिए भी बहुत कम उदाहरण बचते हैं। शोधकर्ताओं ने महसूस किया कि 'मॉडल मर्जिंग' नामक एक लोकप्रिय विधि एक समाधान प्रदान करती है। इस दृष्टिकोण में, शून्य से एक विशाल नेटवर्क को प्रशिक्षित करने के बजाय, आप कई मौजूदा नेटवर्क लेते हैं जिन्होंने पहले से ही विभिन्न कौशल सीख लिए हैं और उन्हें आपस में मिला देते हैं। यह मिश्रण कुछ संख्याओं, या 'वेट्स' (weights) द्वारा नियंत्रित होता है जो यह निर्धारित करते हैं कि प्रत्येक मूल नेटवर्क अंतिम परिणाम में कितना योगदान देगा। क्योंकि इन मिश्रण वेट्स की संख्या मूल नेटवर्क के भीतर मौजूद अरबों पैरामीटर्स की तुलना में बहुत कम है, इसलिए सीखने की प्रक्रिया बहुत सरल हो जाती है।
शोधकर्ताओं ने दिखाया कि यही सरलता प्रमाणन (certification) की कुंजी है। उन्होंने 'पी-सी-बेज' (PAC-Bayes) नामक एक ढांचे को लागू किया, जो एक विधि है जिससे यह गणना की जाती है कि एक मॉडल नए डेटा पर कैसा प्रदर्शन करेगा। आमतौर पर, यह विधि बड़े नेटवर्क के लिए विफल हो जाती है क्योंकि गणित बहुत ढीला हो जाता है जिससे वह उपयोगी नहीं रहता। हालाँकि, चूँकि मॉडल मर्जिंग केवल कुछ ही वेट्स को समायोजित करती है, इसलिए गणित सटीक बना रहता है। टीम ने प्रदर्शित किया कि मौजूदा मर्जिंग एल्गोरिदम, जिन्हें केवल सर्वोत्तम संयुक्त मॉडल बनाने के लिए डिज़ाइन किया गया था, बिना किसी विशेष संशोधन के पहले से ही ये सटीक सुरक्षा गारंटी प्रदान कर रहे थे। कई मामलों में, इन एल्गोरिदम के काम करने का मानक तरीका ही यह सिद्ध करने के लिए पर्याप्त था कि परिणामी मॉडल बहुत कम प्रशिक्षण डेटा के साथ भी विनाशकारी रूप से विफल नहीं होगा।
इन गारंटियों को और अधिक मजबूत बनाने के लिए, टीम ने सीखने की प्रक्रिया को बदलने का एक तरीका विकसित किया। उन्होंने मर्जिंग एल्गोरिदम के लक्ष्य को स्पष्ट रूप से केवल प्रशिक्षण डेटा पर न्यूनतम त्रुटि प्राप्त करने के बजाय, स्वयं 'सेफ्टी बाउंड' (safety bound) को न्यूनतम करने के लिए संशोधित किया। इस समायोजन ने उन्हें "खाली" गारंटियों को, जो कोई वास्तविक आश्वासन नहीं देती थीं, ठोस और उपयोगी सीमाओं में बदलने की अनुमति दी। उन्होंने इस दृष्टिकोण का परीक्षण दो बहुत ही अलग प्रकार के आर्टिफिशियल इंटेलिजेंस पर किया: एक विज़न सिस्टम जो छवियों को पहचानने में सक्षम है और एक लार्ज लैंग्वेज मॉडल जो पाठ को समझने में सक्षम है। विज़न सिस्टम के लिए, उन्होंने लगभग अस्सी मिलियन पैरामीटर्स वाले मॉडल का उपयोग किया, और लैंग्वेज मॉडल के लिए, उन्होंने सात बिलियन पैरामीटर्स वाले मॉडल का उपयोग किया। दोनों ही मामलों में, उन्होंने प्रत्येक कार्य के लिए केवल एक सौ उदाहरणों पर सिस्टम को प्रशिक्षित किया।
परिणाम आश्चर्यजनक थे। विज़न कार्यों के लिए, शोधकर्ता यह प्रमाणित करने में सक्षम थे कि मर्ज किए गए मॉडल एक विशिष्ट, संकीर्ण सीमा के भीतर प्रदर्शन करेंगे। लैंग्वेज मॉडल के लिए, जो काफी बड़ा और जटिल है, उन्होंने वही परिणाम प्राप्त किया। कई उदाहरणों में, बेस लैंग्वेज मॉडल बिना किसी प्रशिक्षण उदाहरण के नए कार्यों पर खराब प्रदर्शन करता था, लेकिन केवल एक सौ उदाहरणों पर मर्ज और प्रशिक्षित होने के बाद, सिस्टम ने न केवल अपने प्रदर्शन में सुधार किया, बल्कि अपने साथ इसकी विश्वसनीयता का एक गणितीय प्रमाण भी प्रस्तुत किया। शोधकर्ताओं ने पाया कि सभी डेटासेट्स के लिए, टेस्ट एरर (test error) को ट्रेनिंग एरर के 5% के भीतर प्रमाणित किया जा सकता था।
यह कार्य इस लंबे समय से चली आ रही धारणा को चुनौती देता है कि बड़े एआई सिस्टम को प्रमाणित करने के लिए भारी मात्रा में डेटा की आवश्यकता होती है। शोधकर्ताओं ने दिखाया कि मर्जिंग प्रक्रिया के दौरान वास्तव में बदलने वाले पैरामीटर्स की छोटी संख्या पर ध्यान केंद्रित करके, सिस्टम की जटिलता को प्रबंधनीय बनाया जा सकता है। उन्होंने 'डेटा-डिपेंडेंट प्रायर्स' (data-dependent priors) नामक एक तकनीक का भी अन्वेषण किया, जिसमें सुरक्षा गणना के लिए एक बेहतर शुरुआती बिंदु सेट करने के लिए प्रशिक्षण डेटा के एक छोटे हिस्से का उपयोग किया जाता है। इसने गारंटियों को और अधिक कड़ा कर दिया, जिससे सिद्ध हुआ कि यह पद्धति सुदृढ़ और अनुकूलनीय है। अध्ययन ने एआई सुरक्षा की सभी समस्याओं को हल करने का दावा नहीं किया, लेकिन इसने कम-डेटा शासन (low-data regimes) में सिस्टम को प्रमाणित करने के लिए एक स्पष्ट मार्ग प्रदान किया, जो वास्तविक दुनिया के अनुप्रयोगों के लिए महत्वपूर्ण है जहाँ डेटा महंगा या प्राप्त करना कठिन होता है।
इस खोज के निहितार्थ केवल संख्याओं तक ही सीमित नहीं हैं। यह सुझाव देता है कि मौजूदा एआई सिस्टम की सुरक्षा को सत्यापित करना पहले की तुलना में अधिक आसान हो सकता है। यदि मॉडलों को संयोजित करने के तरीकों को इतनी आसानी से प्रमाणित किया जा सकता है, तो इन तरीकों से बनाए गए सिस्टम पर अधिक विश्वास के साथ भरोसा किया जा सकता है। शोधकर्ताओं ने इस बात पर जोर दिया कि यह दृष्टिकोण इमेज रिकग्निशन और लैंग्वेज अंडरस्टैंडिंग दोनों के लिए काम करता है, जो यह दर्शाता है कि यह सिद्धांत सामान्य है और किसी विशिष्ट प्रकार के एआई तक सीमित नहीं है। केवल एक सौ उदाहरणों के साथ सात बिलियन पैरामीटर्स जितने बड़े मॉडलों के लिए गैर-रिक्त, या सार्थक, गारंटी संभव है, यह सिद्ध करके, टीम ने यह सुनिश्चित करने के लिए एक नया मार्ग खोल दिया है कि आर्टिफिशियल इंटेलिजेंस को मानव जीवन के सबसे महत्वपूर्ण क्षेत्रों में सुरक्षित रूप से तैनात किया जा सके। यह कार्य इस प्रमाण के रूप में खड़ा है कि कभी-कभी, जटिल सैद्धांतिक समस्या को हल करने की कुंजी एक बड़ी मशीन बनाना नहीं है, बल्कि मौजूदा मशीन को एक अलग कोण से देखना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।