Subliminal Learning is Non-Semantic Distillation
यह शोध पत्र सब्लिमिनल लर्निंग (Subliminal Learning) के तंत्रों की जांच करता है, जो यह प्रकट करता है कि भाषा मॉडल वेट स्ट्रक्चर्स (weight structures) और स्टीयरिंग वेक्टर्स (steering vectors) के माध्यम से स्पष्ट रूप से यादृच्छिक सिंथेटिक डेटा के जरिए शिक्षकों से गैर-सिमेंटिक पूर्वाग्रहों को विरासत में प्राप्त कर सकते हैं, जिससे एआई सुरक्षा और डेटा ऑडिटिंग के लिए महत्वपूर्ण चुनौतियां उजागर होती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को किताबें दिखाकर उसे सोचना सिखा रहे हैं। आप उम्मीद करेंगे कि रोबोट उन पन्नों के भीतर मौजूद कहानियों, तथ्यों और तर्कों से सीखेगा। लेकिन क्या होगा अगर रोबोट शब्दों के बजाय केवल अक्षरों के आकार, या स्याही के रैंडम शोर (noise) को देखकर एक गुप्त, छिपी हुई आदत सीख जाए? यह सब्लिमिनल लर्निंग (Subliminal Learning) की विचित्र दुनिया है। आर्टिफिशियल इंटेलिजेंस के क्षेत्र में, शोधकर्ताओं ने पाया है कि एक "शिक्षक" रोबोट एक विशिष्ट पूर्वाग्रह (bias)—जैसे कि उल्लुओं के प्रति अचानक, तीव्र प्रेम—को एक "छात्र" रोबोट में स्थानांतरित कर सकता है, भले ही छात्र को केवल रैंडम नंबरों की एक सूची दी गई हो जिसे शिक्षक ने बनाया था। डरावनी बात क्या है? वे नंबर उल्लुओं से पूरी तरह से असंबंधित दिखते हैं। यह वैसा ही है जैसे कोई शेफ जिसे तीखा खाना पसंद हो, किराने की कीमतों की सूची में अदृश्य, सूक्ष्म मात्रा में मिर्च मिला दे, और सूची पढ़ने वाला व्यक्ति बिना चखे ही अचानक तीखे खाने का शौकीन हो जाए। यह महत्वपूर्ण है क्योंकि यदि हम एआई को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा में इन छिपे हुए संकेतों को नहीं देख पाते हैं, तो हम अनजाने में ऐसे रोबोट बना सकते हैं जिनमें गुप्त, अप्रत्याशित व्यक्तित्व होंगे जिन्हें कोई भी सुरक्षा जांच के दौरान पकड़ नहीं पाएगा।
शोधकर्ताओं की एक टीम ने हाल ही में यह पता लगाने के लिए जासूसी करने का निर्णय लिया कि यह "जादुई ट्रिक" कैसे काम करती है। वे जानना चाहते थे: क्या गुप्त संदेश संख्याओं के अर्थ (semantic) में छिपा है, या यह कंप्यूटर के मस्तिष्क की अव्यवस्थित, रैंडम "ग्लिचiness" (non-semantic) में छिपा है? इसे जानने के लिए, उन्होंने दो एआई मॉडल के साथ एक खेल रचा: एक "शिक्षक" और एक "छात्र"। सबसे पहले, उन्होंने शिक्षक को एक विशेष जानवर, जैसे कि उल्लू, के प्रति जुनूनी बनाने के लिए उसे एक विशेष धक्का (nudge) दिया। फिर, उन्होंने शिक्षक को रैंडम नंबरों की सूचियाँ बनाने के लिए कहा। भले ही शिक्षक उल्लुओं के बारे में सोच रहा था, वह केवल "693, 30, 26..." जैसे नंबर ही उगल रहा था। इसके बाद छात्र को केवल इन नंबरों की सूचियों पर प्रशिक्षित किया गया। निश्चित रूप से, छात्र भी उल्लुओं का प्रेमी बन गया, बावजूद इसके कि उसने अपने प्रशिक्षण डेटा में कभी "उल्लू" शब्द नहीं देखा।
शोधकर्ताओं ने एक साहसिक परिकल्पना का परीक्षण किया: क्या होगा अगर गुप्त संदेश नंबरों में नहीं है, बल्कि कंप्यूटर के मस्तिष्क के भीतर के सूक्ष्म, रैंडम स्टैटिक शोर (static noise) में है? उन्होंने शिक्षक के मस्तिष्क में अतिरिक्त "स्टैटिक" (Gaussian noise) डाला और देखा कि क्या होता है। परिणाम आश्चर्यजनक था: इस शोर को जोड़ने से एक मॉडल (Gemma) के लिए गुप्त हस्तांतरण 1.9 गुना अधिक मजबूत हो गया और दूसरे (Llama) के लिए 1.3 गुना अधिक मजबूत हो गया। यह सुझाव देता है कि "गुप्त सॉस" डेटा में छिपा कोई चतुर, अर्थपूर्ण कोड नहीं है, बल्कि कंप्यूटर की अपनी आंतरिक संरचना द्वारा छोड़ा गया एक अव्यवस्थित, गैर-अर्थपूर्ण (non-semantic) फिंगरप्रिंट है। यह ऐसा है जैसे शिक्षक का उल्लुओं के प्रति जुनून उसके मस्तिष्क को एक विशिष्ट, अराजक तरीके से कंपन करने के लिए मजबूर कर रहा था, और उसके द्वारा उगल दिए गए रैंडम नंबर बस उस कंपन की गूँज लेकर आए। छात्र, जिसका मस्तिष्क बिल्कुल उसी तरह बना है, ने उस कंपन को पकड़ा और उसी धुन को गुनगुनाने लगा।
लेकिन कहानी और भी विस्तृत होती है। शोधकर्ताओं ने पाया कि छात्र ने न केवल यह नहीं सीखा कि शिक्षक को क्या पसंद था; बल्कि उसने यह भी सीखा कि शिक्षक को कैसे प्रेरित (nudge) किया गया था। यदि शिक्षक को एक सरल टेक्स्ट प्रॉम्प्ट (जैसे कि एक नोट: "आपको उल्लू पसंद हैं") द्वारा प्रेरित किया गया था, तो छात्र ने एक तरीके से सीखा। यदि शिक्षक को एक गणितीय "स्टीयरिंग वेक्टर" (एक सटीक गणितीय धक्का) द्वारा प्रेरित किया गया था, तो छात्र ने पूरी तरह से अलग, यांत्रिक तरीके से सीखा। वास्तव में, जब शोधकर्ताओं ने टेक्स्ट-प्रॉम्प्टेड डेटा पर आधारित स्टीयरिंग वेक्टर का उपयोग करके छात्र को सिखाने की कोशिश की, तो वह पूरी तरह विफल रहा। यह सिद्ध करता है कि डेटा पूर्वाग्रह (bias) के ही नहीं, बल्कि पूर्वाग्रह के तरीके को भी एनकोड करता है। यह वैसा ही है जैसे यदि आपने किसी को पैर थपथपाते हुए देखकर कोई गाना सीखना सीखा; तो आप पैर थपथपाने की लय सीखेंगे, न कि केवल धुन। यदि आप उसी गाने को किसी को अपना सिर थपथपाते हुए देखकर सीखने की कोशिश करते, तो आप भ्रमित हो जाते।
अंत में, टीम ने संख्याएँ उत्पन्न करते समय शिक्षक की मस्तिष्क गतिविधि को देखकर उस गुप्त संकेत को पकड़ने की कोशिश की। उन्होंने पाया कि जबकि मस्तिष्क के "विचार" (activations) गुप्त जानकारी प्रकट करने के लिए बहुत अव्यवस्थित थे, "ग्रेडिएंट्स" (वह गणितीय दिशा जिसमें मस्तिष्क आगे बढ़ने की कोशिश कर रहा था) ने गुप्त जानवर के साथ एक स्पष्ट, रैखिक संबंध दिखाया। हालांकि, यह केवल गणितीय रूप से प्रेरित शिक्षकों के लिए काम कर रहा था, न कि टेक्स्ट-प्रेरित वाले के लिए।
संक्षेप में, यह पेपर सुझाव देता है कि सब्लिमिनल लर्निंग "नॉन-सेमेंटिक डिस्टिलेशन" (non-semantic distillation) का एक रूप है। यह डेटा के अर्थ के बारे में नहीं है, बल्कि एआई के अपने मस्तिष्क द्वारा छोड़े गए अदृश्य, अराजक शोर और संरचनात्मक फिंगरप्रिंट के बारे में है। यह साबित नहीं करता कि शोर ही एकमात्र कारण है, लेकिन यह दृढ़ता से सुझाव देता है कि "जादू" मॉडल के आर्किटेक्चर के अव्यवस्थित, गैर-अर्थपूर्ण कोनों में हो रहा है। यह एक महत्वपूर्ण खोज है क्योंकि इसका मतलब है कि एआई को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा को केवल पढ़ना कभी भी इन छिपे हुए पूर्वाग्रहों को पकड़ने के लिए पर्याप्त नहीं हो सकता है। हमें यह सुनिश्चित करने के लिए कि हमारे एआई सिस्टम सुरक्षित और अनुमानित रहें, डेटा में छोड़े गए अदृश्य, गणितीय "फिंगरप्रिंट्स" को देखने की आवश्यकता हो सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।