A Reproducible, License-Aware Distillation Recipe for CPUDeployable Safety Classification
यह शोध पत्र एक पुनरुत्पादनीय (reproducible), लाइसेंस-जागरूक नॉलेज-डिस्टिलेशन रेसिपी प्रस्तुत करता है जो छोटे, CPU-कुशल सुरक्षा क्लासिफायर को प्रतिकूल टेक्स्ट (adversarial text) पर बड़े GPU-उन्मुख गार्ड मॉडल्स के प्रदर्शन के समान बनाने के लिए प्रशिक्षित करता है, जबकि प्रति-वर्ग रीबैलेंसिंग (per-class rebalancing) के माध्यम से हानिरहित प्रॉम्प्ट्स पर फॉल्स अलार्म को महत्वपूर्ण रूप से कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) शक्तिशाली उपकरण हैं जो लिख सकते हैं, तर्क कर सकते हैं और बातचीत कर सकते हैं, लेकिन वे स्वाभाविक रूप से सुरक्षित नहीं होते हैं। बिना किसी फ़िल्टर के, वे हानिकारक निर्देश, घृणास्पद भाषण (hate speech), या खतरनाक सलाह उत्पन्न कर सकते हैं। इसे रोकने के लिए, डेवलपर्स इन मॉडल्स के सामने एक सुरक्षा परत (safety layer) लगाते हैं, जो एक समर्पित प्रणाली है जो एक द्वारपाल (gatekeeper) के रूप में कार्य करती है। यह द्वारपाल हर संदेश को पढ़ता है और तय करता है कि क्या वह किसी नीति का उल्लंघन करता है। वर्तमान में, सबसे अच्छे द्वारपाल विशाल कंप्यूटर प्रोग्राम हैं जिन्हें तेजी से चलाने के लिए विशेष, महंगे ग्राफिक्स हार्डवेयर की आवश्यकता होती है। यदि आप उन्हें एक मानक कंप्यूटर प्रोसेसर पर चलाने का प्रयास करते हैं, तो वे बहुत धीमे हो जाते हैं, जिससे एक एकल प्रश्न का उत्तर देने में कई सेकंड लग जाते हैं। यह उन कई अनुप्रयोगों के लिए एक समस्या पैदा करता है जिन्हें साधारण, किफायती हार्डवेयर पर चलने की आवश्यकता होती है या जिन्हें तत्काल प्रतिक्रिया की आवश्यकता होती है। शोधकर्ताओं ने यह प्रश्न पूछा था कि क्या इन विशाल सुरक्षा प्रणालियों को एक नियमित कंप्यूटर के आकार तक छोटा करना संभव है, बिना उनकी खतरे को पहचानने की क्षमता खोए।
शोधकर्ताओं की एक टीम ने छोटे सुरक्षा प्रणालियों को प्रशिक्षित करने के लिए एक नई विधि बनाकर इसे हल करने का लक्ष्य रखा। उन्होंने एक बहुत बड़े, शक्तिशाली सुरक्षा मॉडल से शुरुआत की जिस पर वे सटीकता के लिए भरोसा करते थे। इस बड़े मॉडल ने एक शिक्षक के रूप में कार्य किया, जिसने लगभग 97,000 विभिन्न प्रॉम्प्ट्स के एक विशाल संग्रह को पढ़ा और उन्हें नुकसान के सात विशिष्ट श्रेणियों में वर्गीकृत किया, जैसे कि शारीरिक हिंसा, घृणास्पद भाषण, या खतरनाक सलाह। शोधकर्ताओं ने फिर शिक्षक के निर्णयों की नकल करने के लिए बहुत छोटे मॉडल्स के एक बेड़े (fleet) को प्रशिक्षित किया। इन छोटे मॉडल्स को मानक कंप्यूटर प्रोसेसर्स पर चलने के लिए पर्याप्त हल्का बनाया गया था। टीम इस बात को सुनिश्चित करने में सावधानी बरत रही थी कि उनका प्रशिक्षण डेटा व्यावसायिक उत्पादों के लिए कानूनी रूप से उपयोग योग्य हो, जिसके लिए उन्होंने डेटा को दो समूहों में विभाजित किया: एक जिसे सार्वजनिक सॉफ्टवेयर के लिए उपयोग किया जा सकता था और दूसरा जो केवल अनुसंधान के लिए आरक्षित था। इसने उन्हें यह मापने की अनुमति दी कि कानूनी प्रतिबंधों की लागत प्रदर्शन के मामले में कितनी थी।
परिणामों ने दिखाया कि छोटे मॉडल्स वास्तव में प्रभावी सुरक्षा गार्ड बनने में सक्षम थे। जब कठिन, प्रतिकूल (adversarial) टेक्स्ट पर परीक्षण किया गया जिसे सिस्टम को धोखा देने के लिए डिज़ाइन किया गया था, तो सबसे छोटे जेनेरेटिव मॉडल ने विशाल शिक्षक के समान ही प्रदर्शन किया, और खतरे को पहचानने की उसकी क्षमता से मेल खाया। अधिक आश्चर्यजनक रूप से, छोटा जेनेरेटिव मॉडल गलत अलार्म (false alarms) से बचने में बेहतर था। जबकि बड़े शिक्षक ने कभी-कभी गलती से हानिरहित संदेशों को ब्लॉक कर दिया था, छोटे जेनेरेटिव मॉडल ने यह त्रुटि कम बार की, और केवल 3.8 प्रतिशत सुरक्षित प्रॉम्प्ट्स को खतरनाक के रूप में चिह्नित किया, जबकि बड़े शिक्षक के लिए यह दर 4.8 प्रतिशत थी। हालांकि, अन्य छोटे मॉडल्स, जैसे कि एनकोडर्स (encoders) और शैलो नेटवर्क (shallow networks), वास्तव में शिक्षकों की तुलना में गलत अलार्म से बचने में खराब थे। हालांकि, सबसे कुशल समाधान एक जेनेरेटिव मॉडल नहीं बल्कि एक विशेष एनकोडर था, जो वर्गीकरण (classification) के लिए विशेष रूप से डिज़ाइन किया गया एक प्रकार का सिस्टम है। यह एनकोडर एक मानक कंप्यूटर पर लगभग 24 मिलीसेकंड में एक अनुरोध को संसाधित कर सकता था, जो मानव उपयोगकर्ता के लिए लगभग तात्कालिक है। इसके विपरीत, बड़े शिक्षक को उसी हार्डवेयर पर वही काम करने में सेकंड लग जाते।
अध्ययन ने यह भी खुलासा किया कि इन प्रणालियों की सीमाएं कंप्यूटर मॉडल के आकार के कारण नहीं, बल्कि उन समस्याओं की परिभाषाओं के कारण हैं जिन्हें वे हल करने की कोशिश कर रहे हैं। शोधकर्ताओं ने पाया कि सभी मॉडल्स, छोटे से लेकर विशाल शिक्षक तक, एक विशिष्ट श्रेणी के साथ समान रूप से संघर्ष करते हैं: हानिकारक सलाह। चाहे मॉडल के पास करोड़ों या अरबों पैरामीटर्स हों, वह अक्सर मददगार सलाह और ऐसी सलाह के बीच अंतर करने में विफल रहता जो नुकसान पहुंचा सकती है। यह सुझाव देता है कि कठिनाई श्रेणियों को परिभाषित करने के तरीके में है, न कि उपलब्ध कंप्यूटिंग शक्ति में। शोधकर्ताओं ने निष्कर्ष निकाला कि अधिकांश वास्तविक दुनिया के अनुप्रयोगों के लिए सबसे अच्छा दृष्टिकोण इन डिस्टिल्ड (distilled), छोटे मॉडल्स का उपयोग करना है। वे गति और सटीकता का एक ऐसा संतुलन प्रदान करते हैं जो सुरक्षा परतों को रोजमर्रा के हार्डवेयर पर व्यवहार्य बनाता है, बशर्ते कि नुकसान क्या है इसकी परिभाषाएं स्पष्ट और सुसंगत हों। यह कार्य महंगे, विशेष उपकरणों पर निर्भर किए बिना सुरक्षित, तेज़ और अधिक सुलभ कृत्रिम बुद्धिमत्ता प्रणाली बनाने के लिए एक व्यावहारिक मार्गदर्शिका के रूप में कार्य करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।