Modular Pretraining Enables Access Control
यह शोध पत्र ग्रेडिएंट-रूटेड ऑक्सिलरी मॉड्यूल्स (GRAM) को प्रस्तुत करता है, जो एक लागत प्रभावी प्रीट्रेनिंग विधि है जो मॉड्यूल एब्लेशन के माध्यम से विशिष्ट क्षमताओं को चुनिंदा रूप से अक्षम करके और सामान्य प्रदर्शन को बनाए रखते हुए तथा पोस्ट-हॉक अनलर्निंग की तुलना में बेहतर तरीके से रिकवरी का विरोध करते हुए, दोहरे उपयोग वाले एआई (dual-use AI) के लिए स्केलेबल एक्सेस कंट्रोल सक्षम बनाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट शेफ है। यह शेफ जीवन रक्षक टीकों से लेकर खतरनाक जैविक हथियारों तक, सब कुछ बनाने में माहिर है। यह एक "दोहरे उपयोग" (dual-use) वाला संकट है: वही ज्ञान जो किसी बीमारी को ठीक कर सकता है, उसी का उपयोग प्लेग बनाने के लिए भी किया जा सकता है। यदि आप यह शेफ किसी अस्पताल को देते हैं, तो आपको इलाज मिलता है। यदि आप इसे किसी खलनायक को देते हैं, तो आपको मुसीबत मिलती है।
आमतौर पर, खलनायक को रोकने का एकमात्र तरीका शेफ को पूरी तरह से हटा देना है, जिसका अर्थ है कि अस्पताल इलाज खो देगा। या फिर, आप पाँच अलग-अलग शेफ काम पर रख सकते हैं, जिन्हें केवल एक विशिष्ट चीज़ जानने के लिए प्रशिक्षित किया गया है (एक वैक्सीन जानता है, एक साइबर-सुरक्षा, एक परमाणु भौतिकी, आदि)। लेकिन पाँच अलग-अलग शेफ को काम पर रखना और उन्हें प्रशिक्षित करना अविश्वसनीय रूप से महंगा और धीमा है।
यहाँ आता है GRAM (ग्रेडिएंट-रूटेड ऑक्सिलरी मॉड्यूल्स)। GRAM को पाँच अलग-अलग शेफ काम पर रखने के रूप में नहीं, बल्कि एक मास्टर शेफ के रूप में सोचें जिसके पास एक जादुई, मॉड्यूलर एप्रन (apron) है।
जादुई एप्रन
एक सामान्य AI में, सारा ज्ञान एक विशाल सूप की तरह आपस में मिला हुआ होता है। यदि आप "जैविक हथियार" की रेसिपी हटाना चाहते हैं, तो आपको पूरे बर्तन को हिलाना होगा, और आप अनजाने में "वैक्सीन" की रेसिपी को भी खराब कर सकते हैं।
GRAM रसोई के लेआउट को बदल देता है। यह शेफ को एक मुख्य एप्रन (द "कोर") देता है जो बुनियादी चीजें संभालता है, जैसे प्याज काटना और पानी उबालना। लेकिन यह उस पर कई छोटे, हटाने योग्य पॉकेट (जेब) भी जोड़ देता है।
- एक पॉकेट वायरोलॉजी (Virology) के लिए है।
- एक पॉकेट साइबर सुरक्षा (Cybersecurity) के लिए है।
- एक पॉकेट परमाणु भौतिकी (Nuclear Physics) के लिए है।
- एक पॉकेट विशेष कोड (Special Code) के लिए है।
यही असली जादू है: जब शेफ सीख रहा होता है, तो रसोई केवल वर्तमान पाठ के लिए आवश्यक विशिष्ट पॉकेट को ही खोलती है। यदि पाठ वायरस के बारे में है, तो "वायरोलॉजी पॉकेट" को सारा ध्यान और अपडेट मिलता है। "परमाणु पॉकेट" बंद रहती है और उस दिन के पाठ के बारे में कुछ नहीं सीखती है।
परिणाम: एक शेफ, कई व्यक्तित्व
क्योंकि ज्ञान इन अलग-अलग पॉकेटों में संग्रहीत है, आप केवल काम पर जाने से पहले पॉकेट को खोलकर या बंद करके यह नियंत्रित कर सकते हैं कि शेफ क्या जानता है।
- अस्पताल के लिए: आप "वैक्सीन" पॉकेट को खुला छोड़ देते हैं और "हथियार" पॉकेट को बंद रखते हैं। शेफ इलाजों में जीनियस है लेकिन उसे हथियार कैसे बनाया जाता है, इसका कोई अंदाजा नहीं है।
- लैब के लिए: आप "साइबर सुरक्षा" पॉकेट को खोलते हैं और बाकी सबको बंद कर देते हैं।
पेपर दिखाता है कि यह एकल शेफ, जिसे इस मॉड्यूलर एप्रन के साथ एक बार प्रशिक्षित किया गया था, लगभग उतना ही अच्छा प्रदर्शन करता है जितना कि यदि आपने शुरू से पाँच अलग-अलग शेफ को प्रशिक्षित किया होता। वास्तव में, जब उन्होंने इसे एक 5-बिलियन-पैरामीटर वाले मॉडल (एक विशाल मस्तिष्क) पर परखा, तो यह एकल मॉड्यूलर शेफ "अच्छे" कौशल को बनाए रखने और "बुरे" कौशल को भूलने में उतना ही सक्षम था, जितना कि महंगी विधि (अलग मॉडल प्रशिक्षण)।
यह अन्य तरीकों से बेहतर क्यों है
शोधकर्ताओं ने इस समस्या को हल करने के अन्य तरीकों को आज़माया, और उन्होंने उन्हें खारिज कर दिया:
- "पोस्ट-हॉक अनलर्निंग" (Post-Hoc Unlearning) का तरीका: यह शेफ के दिमाग से किसी याद को मिटाने की कोशिश करने जैसा है जिसके बाद उसने वह सीख लिया है। पेपर में पाया गया कि यह कमजोर है। यदि आप बाद में हथियार की रेसिपी को "अनलर्न" करने की कोशिश करते हैं, तो शेफ इसे आसानी से फिर से याद कर सकता है, बस थोड़े से अभ्यास (fine-tuning) के साथ। यह एक गाना गुनगुनाकर उसे भूलने की कोशिश करने जैसा है; यह टिकता नहीं है।
- "मॉडल ब्रांचिंग" (Model Branching) का तरीका: यह शेफ को बुनियादी बातों पर प्रशिक्षित करने जैसा है, फिर उसे बाद में पाँच अलग-अलग स्कूलों में विशिष्ट कौशल सीखने के लिए भेजने जैसा है। हालांकि यह ठीक काम करता है, लेकिन पेपर ने पाया कि GRAM का "मॉड्यूलर एप्रन" दृष्टिकोण कौशलों को अलग रखने में बेहतर है, खासकर जब आपके पास ऐसा डेटा हो जहाँ कुछ रेसिपी लेबल नहीं की गई हैं।
"पार्शियल लेबल" (Partial Label) का आश्चर्य
यहाँ एक अजीब लेकिन कूल खोज है: कभी-कभी, आपको नहीं पता होता कि कौन सी रेसिपी कौन सी है (शायद 50% डेटा बिना लेबल वाला है)।
- यदि आप अलग-अलग शेफ को प्रशिक्षित करने या "ब्रांचिंग" विधि का उपयोग करने का प्रयास करते हैं, तो वे अनजाने में खतरनाक कौशल भी सीख लेते हैं क्योंकि वे हर चीज़ को "बुनियादी" ज्ञान के रूप में देखते हैं।
- लेकिन GRAM शेफ आश्चर्यजनक रूप से स्मार्ट है। आधे लेबल गायब होने के बावजूद, मॉड्यूलर पॉकेट खतरनाक कौशल को अलग रखने में सफल रहते हैं। पेपर सुझाव देता है कि ऐसा इसलिए होता है क्योंकि एक बार जब कोई पॉकेट विशेषज्ञता हासिल करने लगती है, तो बिना लेबल वाला डेटा स्वाभाविक रूप से उसी पॉकेट की ओर "ड्रिफ्ट" (विस्थापित) हो जाता है, जिससे मुख्य मस्तिष्क साफ रहता है।
वे कितने आश्वस्त हैं?
लेखक अपने नंबरों को लेकर बहुत आश्वस्त हैं, लेकिन वे अपनी सीमाओं के प्रति भी सावधान हैं।
- उन्होंने सिंथेटिक कहानियों और वायरोलॉजी, साइबर सुरक्षा, परमाणु भौतिकी और विशेष कोड को कवर करने वाले वास्तविक दुनिया के डेटा पर परीक्षण किया।
- उन्होंने मॉडल को 50 मिलियन से 5 बिलियन पैरामीटर्स तक बढ़ाया।
- इन प्रयोगों में, GRAM ने लगातार "गोल्ड स्टैंडर्ड" (अलग मॉडल प्रशिक्षित करना) के प्रदर्शन का मुकाबला किया, जबकि उनके 5-प्रोफाइल सेटअप में 5 गुना कम कंप्यूट (training cost) का उपयोग किया।
- हालाँकि, पेपर स्वीकार करता है कि उन्होंने अभी तक सबसे बड़े "फ्रंटियर" मॉडल्स पर इसका परीक्षण नहीं किया है, इसलिए जबकि यह ट्रेंड 5 बिलियन पैरामीटर्स तक बहुत अच्छा दिखता है, वे यह गारंटी नहीं दे सकते कि यह बहुत बड़े पैमाने पर भी बिल्कुल इसी तरह काम करेगा।
निचोड़ (The Bottom Line)
GRAM सुझाव देता है कि AI डेवलपर्स को एक "लीस्ट प्रिविलेज" (न्यूनतम विशेषाधिकार) सिस्टम देने का एक तरीका है। सभी को पूरी रसोई देने के बजाय, आप केवल सही पॉकेट को खोलकर या बंद करके प्रत्येक उपयोगकर्ता को शेफ का एक विशिष्ट, सुरक्षित संस्करण दे सकते हैं। यह एक ऐसा तरीका है जिससे आप अपना केक (शक्तिशाली AI) पा भी सकते हैं और उसका आनंद भी ले सकते हैं (सुरक्षित एक्सेस कंट्रोल), बिना पाँच अलग-अलग केक बेक किए।
पेपर निष्कर्ष निकालता है कि यह हर समस्या को हल करने वाला कोई जादुई समाधान (magic bullet) नहीं है (कुछ कौशल बहुत उलझे हुए हैं जिन्हें अलग करना कठिन है), लेकिन यह सुरक्षित, अधिक लचीले AI की ओर एक आशाजनक कदम है जिसे हर काम के लिए एक नया मॉडल बनाने की आवश्यकता नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।