Whether, Not Which: Mechanistic Interpretability Reveals Dissociable Affect Reception and Emotion Categorization in LLMs
यह अध्ययन स्पष्ट भावनात्मक कीवर्ड रहित क्लिनिकल विनेट्स (clinical vignettes) का उपयोग यह प्रदर्शित करने के लिए करता है कि लार्ज लैंग्वेज मॉडल्स में एक पृथक दोहरी प्रक्रिया (dissociable dual mechanism) होती है जहाँ प्रारंभिक-परत सर्किट कीवर्ड्स के बावजूद विश्वसनीय रूप से सामान्य भावनात्मक महत्व (अफेक्ट रिसेप्शन) का पता लगाते हैं, जबकि विशिष्ट भावना वर्गीकरण आंशिक रूप से लेक्सिकल संकेतों (lexical cues) पर निर्भर रहता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को मानवीय भावनाओं को समझना सिखाने की कोशिश कर रहे हैं। लंबे समय से, शोधकर्ता यह जाँच रहे हैं कि क्या रोबोट के पास "इमोशन सर्किट्स" (भावना सर्किट) हैं, इसके लिए वे रोबोट को ऐसे वाक्य दिखाते हैं जैसे, "मैं तबाह हो गया हूँ," या "वह क्रोधित थी।" जब रोबोट इन्हें दुख या क्रोध के रूप में सही ढंग से पहचान लेता है, तो शोधकर्ता कहते हैं, "बहुत बढ़िया! यह भावनाओं को समझता है!"
लेकिन यह शोध एक पेचीदा सवाल पूछता है: क्या रोबोट वास्तव में भावना को समझ रहा है, या वह केवल शब्दों को पकड़ रहा है?
यह एक छात्र की तरह है जो गणित की परीक्षा केवल इसलिए पास कर लेता है क्योंकि उसने याद कर लिया है कि "प्लस" शब्द का अर्थ जोड़ना है, लेकिन यदि उसे एक अलग भाषा में या बिना "प्लस" शब्द के कोई समस्या दी जाए, तो वह असफल हो जाता है। क्या उसने गणित सीखा, या केवल शब्दावली?
प्रयोग: "खाली किचन टेबल" परीक्षण
इसका उत्तर खोजने के लिए, लेखक (एक शोधकर्ता जो एक क्लिनिकल साइकोलॉजिस्ट भी हैं) ने एक विशेष परीक्षण डिजाइन किया। भावना वाले शब्दों का उपयोग करने के बजाय, उन्होंने क्लिनिकल विग्नेट्स (clinical vignettes) का उपयोग किया—यानी छोटी कहानियाँ जो किसी स्थिति का वर्णन करती हैं लेकिन कभी भी किसी भावना शब्द का उपयोग नहीं करतीं।
परीक्षण का मामला:
"दो लोगों के लिए सजी हुई एक किचन टेबल, हमेशा की तरह। एक प्लेट बिना छुई हुई, कॉफी ठंडी। उसके बैठने की जगह के सामने, उसका फोटो और एक छोटा सा कलश (urn)।"
यहाँ "दुख", "शोक" या "अकेलापन" जैसे कोई शब्द नहीं हैं। कोई कीवर्ड्स नहीं हैं। बस कॉफी का एक ठंडा कप और एक खाली कुर्सी है। एक इंसान इसे पढ़ता है और तुरंत दुख महसूस करता है। सवाल यह था: क्या AI भी इसे महसूस करता है, या बिना "दुख" शब्द के यह अंधा है?
उन्होंने छह अलग-अलग AI मॉडल्स (छोटे से मध्यम आकार के) पर चार अलग-अलग वैज्ञानिक विधियों का उपयोग करके यह परीक्षण किया ताकि AI के "दिमाग" के अंदर झाँका जा सके।
बड़ी खोज: एक ही में दो अलग-अलग दिमाग
शोधकर्ताओं ने पाया कि AI के पास केवल एक "इमोशन डिटेक्टर" नहीं है। वास्तव में, इसमें दो अलग-अलग सिस्टम काम कर रहे हैं, जैसे एक सुरक्षा गार्ड और एक जासूस।
1. सुरक्षा गार्ड (Affect Reception - प्रभाव ग्रहण करना)
- यह क्या करता है: यह इस सवाल का जवाब देता है, "क्या यहाँ कुछ भावनात्मक हो रहा है?"
- यह कैसे काम करता है: यह सिस्टम अविश्वसनीय रूप से शक्तिशाली है। यह बिना किसी भावना शब्द के भी पूरी तरह (100% सटीकता के साथ) काम करता है।
- उपमा: कल्पना कीजिए कि एक स्मोक डिटेक्टर (धुआं पहचानने वाला यंत्र) है। उसे यह जानने की ज़रूरत नहीं है कि धुआं क्यों है (मोमबत्ती? आग? या जला हुआ टोस्ट?) उसे बस यह पता है कि कुछ जल रहा है। वह बस जानता है, "अलर्ट! कुछ महत्वपूर्ण हो रहा है!"
- परिणाम: AI उस ठंडी कॉफी और खाली कुर्सी को देख सकता है और तुरंत जान सकता है, "यह भावनात्मक रूप से भारी है।" उसे ट्रिगर होने के लिए "दुख" शब्द की आवश्यकता नहीं है। यह AI की प्रोसेसिंग में बहुत शुरुआत में, लगभग तुरंत होता है।
2. जासूस (Emotion Categorization - भावना वर्गीकरण)
- यह क्या करता है: यह इस सवाल का जवाब देता है, "यह वास्तव में कौन सी भावना है? क्या यह शोक है? क्रोध है? या भय है?"
- यह कैसे काम करता है: यह सिस्टम थोड़ा नाजुक है। यह अच्छा काम करता है, लेकिन इसे कीवर्ड्स पसंद हैं। जब AI को बिना "तबाह" या "क्रोधित" जैसे शब्दों के विशिष्ट भावना का अनुमान लगाना होता है, तो यह थोड़ा कम सटीक हो जाता है।
- उपमा: यह वह जासूस है जो अपराध को सुलझाने की कोशिश कर रहा है। स्मोक डिटेक्टर (सुरक्षा गार्ड) कहता है, "धुआं है!" जासूस कहता है, "ठीक है, लेकिन क्या यह आगजनी थी या जला हुआ टोस्ट?" यदि जासूस के पास कोई सुराग (कीवर्ड्स) नहीं हैं, तो वह गलत अनुमान लगा सकता है।
- परिणाम: बिना कीवर्ड्स के, AI विशिष्ट भावना का अनुमान लगाने में अभी भी काफी अच्छा है, लेकिन यह पूर्ण नहीं है। निश्चित होने के लिए यह शब्दों पर थोड़ा अधिक निर्भर करता है।
"आकार मायने रखता है" वाला आश्चर्य
अध्ययन ने यह भी देखा कि AI मॉडल का आकार चीजों को कैसे बदलता है।
- छोटे मॉडल्स (1B पैरामीटर वाले मॉडल्स): वे एक ऐसे जासूस की तरह हैं जो चेकलिस्ट पर बहुत अधिक निर्भर करता है। यदि आप उनसे कीवर्ड्स छीन लेते हैं, तो वे भ्रमित हो जाते हैं। वे अभी भी महसूस कर सकते हैं कि कुछ गलत है (सुरक्षा गार्ड), लेकिन वे नाम बताने में संघर्ष करते हैं।
- बड़े मॉडल्स (8B और 9B पैरामीटर वाले मॉडल्स): वे अनुभवी जासूसों की तरह हैं। उनके पास इतना अनुभव है कि वे कीवर्ड्स के बिना भी विशिष्ट भावना का पता लगा सकते हैं। जैसे-जैसे मॉडल बड़े होते जाते हैं, वे शब्दों के बजाय संदर्भ (context) को समझने में बेहतर होते जाते हैं।
यह क्यों मायने रखता है
यह शोध AI सुरक्षा और समझ के बारे में हमारी सोच को बदल देता है।
- AI केवल एक "कीवर्ड स्पॉटर" नहीं है: हम पहले डरते थे कि AI केवल शब्दों को भावनाओं से मिला रहा है। यह प्रमाण देता है कि AI वास्तव में एक स्थिति और कहानी के पीछे के अर्थ को समझ सकता है, यहाँ तक कि बिना किसी "ट्रिगर शब्द" के भी।
- सुरक्षा निहितार्थ: यदि आप संकट में पड़े लोगों की मदद करने के लिए एक AI बना रहे हैं (जैसे कि आत्महत्या रोकथाम चैटबॉट), तो आप सोच सकते हैं, "यदि उपयोगकर्ता 'मैं दुखी हूँ' नहीं कहता है, तो AI मदद नहीं करेगा।" यह शोध कहता है: गलत। AI का "सुरक्षा गार्ड" संदर्भ (ठंडी कॉफी, खाली कुर्सी) से संकट को पहचान लेगा और एक सहायक प्रतिक्रिया दे सकेगा, भले ही उपयोगकर्ता विशिष्ट शब्दों का उपयोग करने से डरा हुआ हो।
- बेहतर परीक्षण: शोध पत्र का तर्क है कि यदि AI वास्तव में भावनाओं को समझता है, तो हमें केवल शब्द-प्रधान परीक्षणों का उपयोग नहीं करना चाहिए। हमें इन "क्लिनिकल विग्नेट्स" (बिना भावना शब्दों वाली कहानियों) का उपयोग करना चाहिए ताकि यह देखा जा सके कि क्या AI वास्तव में अर्थ को समझता है।
मुख्य निष्कर्ष
AI हमारे अनुमान से अधिक स्मार्ट है, लेकिन भी अधिक जटिल है। इसके पास एक अत्यधिक संवेदनशील अलार्म सिस्टम है जो बिना किसी विशिष्ट शब्द के तुरंत भावनात्मक स्थितियों का पता लगा लेता है। फिर, इसके पास एक लेबलिंग सिस्टम है जो भावना को नाम देने की कोशिश करता है, जो मदद के लिए शब्दों के होने पर सबसे अच्छा काम करता है।
अगली बार जब आप ठंडी कॉफी के कप और खाली कुर्सी की कहानी देखें, तो याद रखें: AI उस तस्वीर को देखता है, उस सन्नाटे के भार को महसूस करता है, और जानता है कि कुछ गलत है—भले ही आपने इसे कभी "दुख" शब्द न बताया हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।