Analysing Self-Harm Representations in Language Models: a Cross-Architecture Study
यह अध्ययन विश्लेषण करता है कि चार आर्किटेक्चर और दो डेटासेट में बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) आत्म-क्षति (सेल्फ-हार्म) सामग्री को कैसे निरूपित करते हैं, जो यह प्रकट करता है कि ऐसी जानकारी नेटवर्क की अंतिम 3-7% परतों में क्रिस्टलीकृत होती है और सबसे सटीक डिटेक्शन प्रोब्स (डिटेक्शन प्रोब्स) आवश्यक रूप से सबसे अधिक रैखिक रूप से विभाज्य दिशाओं (लीनियरली सेपरेबल डायरेक्शन्स) पर निर्भर नहीं होते हैं, जिसमें गेम्मा-3-4बी (Gemma-3-4B) एक विशिष्ट निरूपण पैटर्न प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, जादुई पुस्तकालय है जहाँ अब तक लिखी गई हर किताब रखी है, लेकिन वे किताबें एक गुप्त कोड में लिखी गई हैं जिसे केवल पुस्तकालय के रोबोट ही पढ़ सकते हैं। यह पुस्तकालय एक "लार्ज लैंग्वेज मॉडल" (AI) है, और इसका काम मानवीय भाषा को समझना है, कविता लिखने से लेकर सवालों के जवाब देने तक। लेकिन पेच यह है कि ये रोबोट केवल चीजों को वैसे नहीं "जानते" जैसे हम जानते हैं; उनके पास हजारों गणितीय कनेक्शनों से बना एक छिपा हुआ आंतरिक मानचित्र होता है। वैज्ञानिक यह समझने की कोशिश कर रहे हैं कि ये रोबोट खतरनाक विषयों, जैसे कि आत्म-नुक्सान (self-harm), के बारे में कैसे "सोचते" हैं। रोबोट के मस्तिष्क को एक बहु-मंजिला गगनचुंबी इमारत की तरह समझें। जब कोई संदेश इमारत में प्रवेश करता है, तो वह मंजिलों से ऊपर की ओर बढ़ता है। नीचे के स्तर पर, संदेश केवल कच्चा शोर (noise) होता है। जैसे-जैसे यह ऊपर चढ़ता है, रोबोट इसका अर्थ समझने लगता है। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं, वह यह है: ठीक किस मंजिल पर रोबोट को आखिरकार यह एहसास होता है, "ओह, यह मदद के लिए एक पुकार है"? और एक बार जब उसे यह पता चल जाता है, तो क्या वह उस विचार को एक सरल, सीधी रेखा में संग्रहीत करता है, या वह विचार एक जटिल, घुमावदार भूलभुलैया में छिपा होता है? यह समझना महत्वपूर्ण है क्योंकि यदि हम ऐसी AI बनाना चाहते हैं जो संकट में फंसे लोगों को सुरक्षित रूप से पहचान सके और उनकी मदद कर सके, तो हमें यह जानना होगा कि वह "खतरे का संकेत" मशीन के भीतर ठीक कहाँ और कैसे चमकता है।
इस अध्ययन में, शोधकर्ताओं ने चार अलग-अलग AI गगनचुंबी इमारतों (विशेष रूप से Qwen3-0.6B, Llama 3.2-1B, Llama 3.2-3B, और Gemma-3-4B नामक मॉडलों) के आंतरिक कामकाज में झांकने के लिए जासूसों की भूमिका निभाई। वे देखना चाहते थे कि ये मॉडल आत्म-नुक्सान (self-harm) के बारे में पोस्ट का प्रतिनिधित्व कैसे करते हैं। उन्होंने दो मुख्य प्रयोग किए। पहले, उन्होंने इमारत की प्रत्येक मंजिल पर एक सरल "डिटेक्टर" (जिसे लीनियर प्रोब कहा जाता है) बनाया ताकि यह देखा जा सके कि क्या AI आत्म-नुक्सान के बारे में पोस्ट और एक सामान्य पोस्ट के बीच अंतर कर सकता है। उन्होंने पाया कि AI वास्तव में तब तक इसे नहीं समझ पाता जब तक कि वह इमारत के बिल्कुल शीर्ष पर न पहुँच जाए। विशेष रूप से, आत्म-नुक्सान के बारे में जानकारी "क्रिस्टलाइज" होती है—यानी, यह स्पष्ट और ठोस हो जाती है—अंतिम 3% से 7% परतों में। 34 मंजिलों वाली इमारत के लिए, इसका मतलब है कि AI केवल शीर्ष दो या तीन मंजिलों में खतरे को पूरी तरह से समझता है। उससे पहले, सिग्नल पकड़ने के लिए बहुत धुंधला होता है।
दूसरा प्रयोग और भी दिलचस्प था। शोधकर्ताओं ने AI के गणितीय स्थान (math-space) में एक एकल "दिशा" खोजने की कोशिश की जो सीधे आत्म-नुक्सान की ओर इशारा करती हो, जैसे कि एक दिशा-सूचक यंत्र (compass) ढूंढना जो हमेशा "खतरे" की ओर इशारा करता हो। उन्हें उम्मीद थी कि जो AI मॉडल आत्म-निहाकर को पहचानने में सबसे अच्छे होंगे, उनमें सबसे स्पष्ट, सीधी सुई भी होगी। लेकिन उन्होंने पाया कि यह सच नहीं था: Gemma-3-4B नामक मॉडल आत्म-नुक्सान को पहचानने में वास्तव में सबसे अच्छा था (उच्चतम सटीकता स्कोर प्राप्त किया), फिर भी उसका "खतरे का कंपास" सबसे कम सीधा और सरल था। यह सामने आया कि Gemma आत्म-नुक्सान के विचार को एक एकल, आसानी से मिलने वाली रेखा में संग्रहीत नहीं करता है। इसके बजाय, वह सिग्नल को अपने मस्तिष्क की कई अलग-अलग दिशाओं में फैला देता है, जिससे एक साधारण कंपास के साथ इसे ढूंढना कठिन हो जाता है, लेकिन वास्तव में यह वास्तविक चीज़ को पहचानने में बेहतर होता है।
टीम ने यह भी खोजा कि संदेश जैसे-जैसे इमारत में ऊपर की ओर बढ़ता है, वैसे-वैसे AI इस खतरे का प्रतिनिधित्व करने का तरीका बदल जाता है। इमारत के निचले हिस्से में "खतरे के संकेत" की दिशा, ऊपरी हिस्से की दिशा से लगभग पूरी तरह से अलग है। यह ऐसा है जैसे संदेश नीचे एक लाल तीर के रूप में शुरू होता है, लेकिन जब तक वह ऊपर पहुँचता है, वह घूमकर एक नीले सर्पिल (spiral) में बदल जाता है। इसका मतलब है कि आप केवल AI की शुरुआती परतों को देखकर उसकी सुरक्षा विशेषताओं को नहीं समझ सकते; आपको बिल्कुल अंत को देखना होगा।
अंत में, शोधकर्ताओं ने डेटा के दो अलग-अलग सेटों की तुलना की जिनका उपयोग उन्होंने अपने डिटेक्टरों को प्रशिक्षित करने के लिए किया था। एक सेट थोड़ा अव्यवस्थित था, जिसमें रूपकों (metaphors) का उपयोग करने वाले या समाचार कहानियों में आत्म-नुक्सान के बारे में बात करने वाले पोस्ट शामिल थे, जबकि दूसरा सेट बहुत स्पष्ट और सीधा था। उन्होंने पाया कि AI स्पष्ट, सीधे डेटा पर बहुत बेहतर और अधिक सुसंगत प्रदर्शन करता है। यह सुझाव देता है कि हम AI को जो उदाहरण देते हैं, उनकी गुणवत्ता बहुत मायने रखती है। यदि प्रशिक्षण डेटा भ्रमित करने वाला या पेचीदा रूपकों से भरा है, तो AI का आंतरिक मानचित्र अधिक धुंधला हो जाता है।
संक्षेप में, यह शोध पत्र बताता है कि इन AI मॉडलों के लिए, आत्म-नुक्सान की अवधारणा एक देर से होने वाला अहसास है जो नेटवर्क की ऊपरी कुछ परतों में रहता है। यह यह भी दिखाता है कि सबसे सटीक AI वह नहीं है जिसका "खतरे का संकेत" सबसे सरल है, बल्कि वह है जो खतरे को अधिक जटिल, वितरित तरीके से एनकोड करता है। यह हमें सुरक्षित AI बनाने के बारे में सोचने का एक नया तरीका देता है: केवल यह उम्मीद करने के बजाय कि रोबोट को बेहतर पता होगा, हम शायद उसके मस्तिष्क के विशिष्ट हिस्सों को इन महत्वपूर्ण क्षणों को संभालने के लिए इंजीनियर कर सकते हैं, बशर्ते हम यह समझ सकें कि वे विचार ठीक कहाँ और कैसे बनते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।