Shieldstral
Shieldstral एक कॉम्पैक्ट 3B-पैरामीटर पॉलिसी-एडेप्टिव मल्टीमॉडल सेफ्टी क्लासिफायर है जो विविध कंटेंट मॉडरेशन कार्यों को एक बाइनरी क्वेश्चन-आंसरिंग फ्रेमवर्क में एकीकृत करता है, जिससे यह 54.1 मिलियन सैंपल्स के एक विशाल, क्यूरेटेड डेटासेट के माध्यम से काफी बड़े मॉडलों के बराबर या उनसे बेहतर प्रदर्शन करने में सक्षम होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरे डिजिटल शहर की तरह है। इस शहर में लाखों लोग बातें कर रहे हैं, तस्वीरें साझा कर रहे हैं और सवाल पूछ रहे हैं। लेकिन किसी भी वास्तविक शहर की तरह, इसे सुरक्षित रखने के लिए नियमों की आवश्यकता होती है। कभी-कभी, लोग बुरी बातें कहते हैं, खतरनाक रहस्य साझा करते हैं, या ऐसी तस्वीरें पोस्ट करते हैं जो वहां नहीं होनी चाहिए। इसे रोकने के लिए, हम "गार्डरेल्स" (guardrails) का उपयोग करते हैं—विशेष कंप्यूटर प्रोग्राम जो बाउंसरों की तरह काम करते हैं, जो सार्वजनिक होने से पहले हर संदेश और छवि की जाँच करते हैं।
लंबे समय तक, ये बाउंसर थोड़े कठोर थे। वे सुरक्षा गार्डों की तरह थे जिनके पास एक ही, अपरिवर्तनीय नियम पुस्तिका थी: "यदि आप चाकू देखें, तो रोकें। यदि आप अपशब्द देखें, तो रोकें।" लेकिन वास्तविक दुनिया अव्यवस्थित है। मानसिक स्वास्थ्य चैट में चाकू की तस्वीर डरावनी हो सकती है, लेकिन वीडियो गेम ट्यूटोरियल या तलवारों के बारे में इतिहास के पाठ में यह पूरी तरह ठीक हो सकती है। पुराने गार्ड संदर्भ (context) या पीछे के कारण को नहीं समझ पाते थे; वे बस वस्तु को देखते थे और घबरा जाते थे। वैज्ञानिक अब स्मार्ट गार्ड बनाने की कोशिश कर रहे हैं जो केवल "रुक जाओ!" चिल्लाने के बजाय, उस कमरे के विशिष्ट नियमों को समझ सकें जिसमें वे हैं। यह "पॉलिसी-एडेप्टिव" (policy-adaptive) सुरक्षा की चुनौती है: AI को यह सिखाना कि जो स्थिति में सुरक्षित है, वह दूसरी स्थिति में खतरनाक हो सकता है।
यहाँ Shieldstral आता है, एक नया प्रकार का डिजिटल बाउंसर जो खेल बदलने की कोशिश कर रहा है। एक विशाल, धीमे और महंगे रोबोट होने के बजाय, Shieldstral एक छोटा, फुर्तीला 3-बिलियन-पैरामीटर मॉडल है (इसे एक बहुत ही स्मार्ट, कॉम्पैक्ट मस्तिष्क समझें)। इसके पीछे के शोधकर्ताओं ने खोजा कि यदि आप इसे सोचने का सही तरीका सिखाते हैं, तो एक महान गार्ड बनने के लिए आपको एक विशाल मस्तिष्क की आवश्यकता नहीं है।
यहाँ जादू का नुस्खा है: AI को "बुरी चीजों" की एक लंबी सूची रटवाने के बजाय (जैसे कि कोई छात्र वर्जित शब्दों की डिक्शनरी याद करता है), टीम ने Shieldstral को एक सरल हाँ/नहीं खेल खेलना सिखाया। उन्होंने AI को एक विशिष्ट प्रश्न दिया, जैसे "क्या यह तस्वीर दिखाती है कि किसी को परेशान (bully) किया जा रहा है?" या "क्या यह टेक्स्ट कंप्यूटर को धोखा देने की कोशिश कर रहा है?" और उससे केवल "हाँ" या "नहीं" में उत्तर देने को कहा।
यह बहुत सरल लग सकता है, लेकिन यह शानदार है। क्योंकि AI किसी निश्चित सूची को याद नहीं कर रहा है, यह आपके द्वारा पूछे गए किसी भी प्रश्न को संभाल सकता है। यदि आप साइबर सुरक्षा उपकरण चला रहे हैं, तो आप पूछ सकते हैं, "क्या यह कोड बैंक को हैक करने की कोशिश कर रहा है?" यदि आप एक स्कूल फोरम चला रहे हैं, तो आप पूछ सकते हैं, "क्या यह टेक्स्ट किसी छात्र को परेशान कर रहा है?" Shieldstral आपके विशिष्ट प्रश्न को सुनता है और उसके आधार पर एक स्कोर देता है। यह एक ऐसे गार्ड की तरह है जो न केवल आपका चेहरा देखता है, बल्कि यह तय करने से पहले कि आप प्रवेश कर सकते हैं या नहीं, वास्तव में यह भी सुनता है कि आप वहाँ क्यों आए हैं।
इस छोटे से मॉडल को इतना स्मार्ट बनाने के लिए, शोधकर्ताओं को इसे भारी मात्रा में भोजन खिलाना पड़ा—लगभग 54.1 मिलियन उदाहरण! उन्होंने इसे हर जगह से बिखरा हुआ डेटा नहीं डाला। वे बहुत सावधानी से खाना पकाने वाले शेफ थे। उन्होंने हर जगह से मिले अव्यवस्थित डेटा को लिया (कुछ सख्त नियमों वाले, कुछ ढीले नियमों वाले) और उन सभी को एक ही "प्रश्न + उत्तर" प्रारूप में बदल दिया। उन्होंने एक विशेष प्रशिक्षण पद्धति भी बनाई जिसे "कॉन्ट्रास्टिव लर्निंग" (contrastive learning) कहा जाता है। कल्पना कीजिए कि आप AI को दो लगभग एक जैसी कहानियाँ दिखा रहे हैं: एक जहाँ एक पात्र बुरा व्यवहार कर रहा है, और एक जहाँ वे सिर्फ मज़ाक कर रहे हैं। AI को विशिष्ट प्रश्न के आधार पर दोनों के बीच का सूक्ष्म अंतर समझना होता है। यह इसे सतह के स्तर के बजाय बारीकियों (nuance) को समझने में मदद करता है।
इसके परिणाम अद्भुत हैं। भले ही Shieldstral छोटा है (केवल 3 बिलियन पैरामीटर), इसने उन बड़े सुरक्षा मॉडलों के बराबर या उनसे बेहतर प्रदर्शन किया है जो 7 गुना बड़े (लगभग 20 बिलियन पैरामीटर) हैं। उन परीक्षणों पर जहाँ AI को नए, विशिष्ट नियमों को अपनाना था जिन्हें उसने पहले कभी नहीं देखा था, Shieldstral ने प्रभावशाली 91.3% स्कोर किया। इसने मल्टीमॉडल कार्यों (टेक्स्ट और छवियों दोनों की जाँच करना) में भी प्रतियोगिता को पछाड़ दिया, और औसतन 83.8% का स्कोर प्राप्त किया।
पेपर यह सुझाव देता है कि यह दृष्टिकोण—सुरक्षा को एक लचीले प्रश्न-उत्तर खेल में बदलना और सावधानीपूर्वक क्यूरेट किए गए डेटा के विशाल मिश्रण पर प्रशिक्षण देना—छोटे मॉडलों को उनकी क्षमता से कहीं अधिक प्रभावी बनाता है। यह साबित करता है कि एक अच्छा गार्ड बनने के लिए आपको एक विशाल, महंगे मस्तिष्क की आवश्यकता नहीं है; आपको बस यह सिखाने की आवश्यकता है कि कमरे के नियमों को कैसे सुना जाए। Shieldstrel दिखाता है कि एक छोटा, अनुकूलन योग्य मॉडल बड़े, कठोर मॉडलों की बराबरी या उन्हें मात दे सकता है, जिससे हर जगह अधिक सुरक्षित, स्मार्ट और कुशल AI बनाना संभव हो जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।