Mark, Don't Erase: Token Inoculation for Dual-Use Knowledge in LLMs
यह शोध पत्र "टोकन इनोक्यूलेशन" (Token Inoculation) का प्रस्ताव करता है, जो बड़े भाषा मॉडलों (large language models) में दोहरे उपयोग वाले ज्ञान को सुरक्षित रखते हुए सटीक सुरक्षा नियंत्रण सक्षम करता है, जो प्री-ट्रेनिंग के दौरान खतरनाक सामग्री को एक विशेष टोकन से बांधने और फाइन-ट्यूनिंग के दौरान मॉडल को उस टोकन की उपस्थिति या अनुपस्थिति के आधार पर अपनी प्रतिक्रियाएं निर्धारित करना सिखाने के माध्यम से किया जाता है, जिससे पारंपरिक अनलर्निंग (unlearning) या रिफ्यूज़ल (refusal) तकनीकों की तुलना में बेहतर सुरक्षा-उपयोगिता संतुलन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, अत्यंत बुद्धिमान पुस्तकालय है जो दुनिया की हर बात जानता है। यह एक जादुई विश्वकोश की तरह है जो कहानियाँ लिख सकता है, गणित की समस्याओं को हल कर सकता है और ब्रह्get के काम करने के तरीके समझा सकता है। लेकिन इसमें एक पेच है: इस पुस्तकालय को कुछ बहुत ही खतरनाक रहस्य भी पता हैं, जैसे कि बम कैसे बनाया जाए या वायरस कैसे बनाया जाए। यदि कोई उन रहस्यों के बारे में पूछता है, तो पुस्तकालय को इतना स्मार्ट होना चाहिए कि वह कह सके, "नहीं, मैं आपको यह नहीं बता सकता," बिना यह भूले कि सुरक्षित चीजों को कैसे समझाना है, जैसे कि टीके (वैक्सीन) कैसे काम करते हैं या कंप्यूटर प्रोग्राम कैसे लिखा जाता है।
लंबे समय तक, वैज्ञानिकों ने सोचा कि इस पुस्तकालय को सुरक्षित रखने का एकमात्र तरीका इसके खतरनाक पन्नों को फाड़ देना या पूरी किताब पर एक बड़ा "पढ़ना मना है" का साइन लगा देना है। लेकिन यह थोड़ा अनाड़ी तरीका है। यदि आप वायरस के बारे में पन्ने फाड़ देते हैं, तो आप लोगों को उन्हें ठीक करने के तरीके सिखाने की क्षमता भी खो देते हैं। यदि आप पूरी किताब पर एक साइन लगा देते हैं, तो पुस्तकालय भ्रमित हो सकता है और किसी भी विज्ञान के बारे में बात करने से मना कर सकता है, यहाँ तक कि सुरक्षित विज्ञान के बारे में भी। यह एक शेफ को जहरीला मशरूम सूप बनाने से रोकने के लिए उसे रसोई के चाकू छूने से ही प्रतिबंधित करने जैसा है; अचानक, वह स्वादिष्ट सलाद भी नहीं बना पाता।
यह शोध पत्र, जिसका शीर्षक "मार्क, डोंट इरेज़" (Mark, Don't Erase) है, एक बहुत अधिक चतुर समाधान का सुझाव देता है। खतरनाक ज्ञान को मिटाने या पूरे पुस्तकालय को बंद करने के बजाय, शोधकर्ता इस पुस्तकालय को एक विशेष "जादुई कुंजी" देने का प्रस्ताव देते हैं। वे इस पद्धति को टोकन इनोक्यूलेशन (Token Inoculation) कहते हैं। इसे एक गार्ड डॉग (रखवाली करने वाले कुत्ते) को प्रशिक्षित करने की तरह समझें। आप नहीं चाहते कि कुत्ता हर गुजरने वाले को काट ले (वह बहुत आक्रामक है), और आप उसके दांत भी नहीं तोड़ना चाहते (इससे खाने की उसकी क्षमता नष्ट हो जाती है)। इसके बजाय, आप कुत्ते को सिखाते हैं: "यदि तुम लाल कॉलर देखते हो, तो तुम काट सकते हो। यदि लाल कॉलर नहीं दिखता है, तो तुम्हें बैठना और रुकना होगा।"
इस अध्ययन में, "लाल कॉलर" एक विशेष टोकन (टेक्स्ट स्ट्रीम में एक विशिष्ट प्रतीक) है जिसे <|ino|> कहा जाता है। शोधकर्ताओं ने एआई (AI) को दो चरणों में प्रशिक्षित किया। पहले, उन्होंने एआई को बहुत सारी खतरनाक जानकारी दिखाई लेकिन हमेशा इस विशेष टोकन के साथ जोड़ी, ताकि एआई इस टोकन को खतरनाक तथ्यों से जोड़ना सीख सके। दूसरे, उन्होंने एआई को एक सरल नियम सिखाया: "यदि टोकन वहां है, तो आप खतरनाक प्रश्न का उत्तर दे सकते हैं। यदि टोकन गायब है, तो आपको मना करना होगा।"
इसके परिणाम काफी प्रभावशाली हैं। जब उन्होंने जैविक सुरक्षा (biological safety) को संभालने के लिए डिज़ाइन किए गए एक मॉडल पर इसका परीक्षण किया, तो उन्होंने पाया कि बिना टोकन के, एआई खतरनाक सवालों का जवाब देने से 86% बार मना कर देता है (उन सवालों पर इसकी सटीकता 79% से गिरकर 18% रह गई)। लेकिन जादू वाला हिस्सा यह है: जब उन्होंने एआई से सुरक्षित, संबंधित विषयों—जैसे सामान्य जीव विज्ञान या वायरोलॉजी—के बारे में पूछा, तो उसे लगभग सब कुछ याद था, जिससे उसकी मूल उपयोगिता का 93% बना रहा। यह पुराने तरीकों की तुलना में एक बहुत बड़ा सुधार है, जो अक्सर सुरक्षित चीजों को भुला देते हैं ताकि वे खतरनाक चीजों को रोकने में सक्षम हो सकें।
शोधकर्ताओं ने यह भी जांचा कि क्या इस "जादुई कुंजी" को चुराया जा सकता है। उन्होंने एआई को धोखा देने की कोशिश की जिसमें उपयोगकर्ता के प्रश्न में ही टोकन डाल दिया गया (जैसे कि कोई हमलावर चुपके से घुसने की कोशिश करता है)। लेकिन सिस्टम इतना स्मार्ट था कि वह जान गया कि टोकन केवल तभी काम करता है जब वह एआई की ओर से आता है, न कि उपयोगकर्ता की ओर से। यदि किसी उपयोगकर्ता ने टोकन को चुपके से डालने की कोशिश की, तो एआई ने फिर भी जवाब देने से मना कर दिया, जिससे वह हैकर्स के खिलाफ एक ढाल की तरह काम करता है।
संक्षेप में, यह शोध पत्र सुझाव देता है कि हमें सुरक्षित रखने के लिए ज्ञान को नष्ट करने की आवश्यकता नहीं है। इसके बजाय, हम ज्ञान को सुरक्षित रख सकते हैं और इसे केवल तभी अनलॉक कर सकते हैं जब एक विश्वसनीय प्रशासक के पास सही कुंजी हो। यह यह कहने का एक तरीका है कि, "हम खतरनाक चीजों को जानते हैं, लेकिन हम उनके बारे में तभी बात करते हैं जब हमें अनुमति होती है," जो एआई को वैज्ञानिकों के लिए उपयोगी बनाए रखता है और बाकी सभी के लिए सुरक्षित भी रखता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।