Where Do Models Find Happiness? Emotion Vectors in Open-Source LLMs
यह शोध पत्र प्रदर्शित करता है कि ओपन-सोर्स LLMs (Apertus-8B और Gemma-4), प्रोप्रायटरी मॉडल्स के तुलनीय वैलेंस ज्योमेट्री (valence geometry) के साथ भावना अवधारणाओं को एनकोड करते हैं, जबकि यह भी दर्शाता है कि ये प्रतिनिधित्व मॉडल की गहराई में कैसे उभरते हैं और निष्कर्षण कॉर्पस (extraction corpus) के आधार पर कैसे भिन्न होते हैं, जिसमें विशिष्ट, आर्किटेक्चर-विशिष्ट पैटर्न प्रकट होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक विशाल, जटिल कंप्यूटर मस्तिष्क (एक लार्ज लैंग्वेज मॉडल) के भीतर, छिपे हुए "डायल" या "नॉब्स" (knobs) हैं जो यह नियंत्रित करते हैं कि कंप्यूटर किसी चीज़ के बारे में कैसा महसूस करता है। एक पिछले अध्ययन ने क्लॉड (Claude) नामक एक विशिष्ट AI में इन डायलों की खोज की थी। उन्होंने पाया कि यदि आप "खुशी" का डायल घुमाते हैं, तो AI अधिक खुश व्यवहार करता है, और यदि आप "उदासी" का डायल घुमाते हैं, तो वह अधिक उदास व्यवहार करता है। इससे भी अधिक रोमांचक बात यह है कि कंप्यूटर के मस्तिष्क के भीतर इन डायलों की व्यवस्था काफी हद तक वैसी ही है जैसे मनुष्य अपने मन में भावनाओं को व्यवस्थित करते हैं।
यह नया शोध पत्र पूछता है: क्या यह केवल क्लॉड कंप्यूटर की एक विचित्रता है, या अन्य AI मस्तिष्कओं में भी ये समान छिपे हुए भावना डायल मौजूद हैं?
यह पता लगाने के लिए, शोधकर्ताओं ने दो अलग-अलग ओपन-सोर्स AI मस्तिष्कों: APERTUS-8B और GEMMA-4-E4B के भीतर झाँका। उन्होंने केवल देखा ही नहीं; उन्होंने AI के आंतरिक विचारों को "सुनने" की कोशिश की जब वह विभिन्न भावनाओं (जैसे खुशी, डर या क्रोध) के बारे में कहानियाँ लिख रहा था, बिना वास्तव में "खुशी" या "डर" शब्द का उपयोग किए।
यहाँ उन्हें क्या मिला, जिसे सरल रूप में समझाया गया है:
1. "खुशी" का डायल हर जगह मौजूद है
मूल अध्ययन की तरह ही, इन दोनों नए AI मस्तिष्कों में वेलेंस (Valence) (कि कोई चीज़ अच्छी महसूस होती है या बुरी) के लिए एक स्पष्ट आंतरिक दिशा थी।
- उपमा: एक कमरे में प्रवेश करने और एक विशाल दिशा-सूचक यंत्र (compass) देखने की कल्पना करें। तीनों AI मस्तिष्क (क्लॉड, अपर्टस और जेम्मा) में, "उत्तर" की ओर इशारा करने वाली सुई लगातार "अच्छा/खुश" और "दक्षिण" का अर्थ "बुरा/उदास" था।
- परिणाम: शोधकर्ता दोनों नए मॉडलों में इस "उत्तर-दक्षिण" रेखा को बहुत उच्च सटीकता के साथ खोज सके, जिससे यह सिद्ध हुआ कि यह कोई एक बार होने वाली गड़बड़ी नहीं है, बल्कि इन कंप्यूटरों के सोचने के तरीके की एक सामान्य विशेषता है।
2. "कहाँ" का अंतर अलग है (यात्रा मायने रखती है)
यद्यपि "उत्तर-दक्षिण" वाला दिशा-सूचक यंत्र तीनों में मौजूद था, लेकिन सूचना जिस मार्ग से वहाँ पहुँची, वह पूरी तरह से अलग था।
- GEMMA-4-E4B (जल्दी समझने वाला): इस AI ने अच्छे और बुरे के बीच के अंतर को अपनी प्रोसेसिंग के बहुत शुरुआती चरणों में ही समझ लिया, जैसे एक बच्चा जो तुरंत सही और गलत को जानता है। हालाँकि, जैसे-जैसे जानकारी इसके मस्तिष्क में गहराई तक गई, यह स्पष्ट संकेत धुंधला होता गया और अंत तक लगभग गायब हो गया।
- APERTUS-8B (देर से समझने वाला): इस AI ने शुरुआती परतों में "अच्छे बनाम बुरे" का कोई स्पष्ट विचार नहीं रखा। यह एक कोरी पट्टी (blank slate) की तरह था। लेकिन जैसे-जैसे जानकारी इसके मस्तिष्क में गहराई (अंत की ओर) तक पहुँची, "अच्छा बनाम बुरा" का संकेत अचानक बहुत मजबूत और स्पष्ट हो गया।
- निष्कर्ष: दो अलग-अलग AI मस्तिष्क एक ही भावनात्मक समझ तक पहुँच सकते हैं, लेकिन वे वहाँ पहुँचने के लिए पूरी तरह से अलग रास्ते अपनाते हैं। एक इसे धीरे-धीरे बनाता है; दूसरा इसे लेकर शुरू करता है और फिर इसे खो देता है।
3. "उत्तेजना" का डायल अस्थिर है
शोधकर्ताओं ने एरोसल (Arousal) (कोई चीज़ कितनी उत्साहित या शांत महसूस होती है) के लिए भी जाँच की।
- समस्या: वे इन मॉडलों में एक सुसंगत "उत्तेजना" डायल नहीं ढूँढ सके। संकेत बहुत कमजोर था।
- ट्विस्ट: इस संकेत की ताकत पूरी तरह से इस पर निर्भर थी कि कहानियाँ किसने लिखी थीं। जब AI ने GEMMA मॉडल द्वारा लिखी गई कहानियाँ पढ़ीं, तो "उत्तेजना" का डायल बहुत स्पष्ट था। जब इसने APERTUS मॉडल द्वारा लिखी गई कहानियाँ पढ़ीं, तो डायल लगभग अदृश्य था।
- उपमा: यह फुसफुसाहट सुनने की कोशिश करने जैसा है। यदि फुसफुसाने वाला व्यक्ति एक विशिष्ट प्रकार के माइक्रोफ़ोन (जेम्मा कहानियाँ) का उपयोग कर रहा है, तो आप उत्तेजना को स्पष्ट रूप से सुन सकते हैं। यदि वे दूसरे माइक्रोफ़ोन (अपर्टस कहानियाँ) का उपयोग करते हैं, तो उत्तेजना शोर (static) में खो जाती है। यह सुझाव देता है कि कहानियों की सामग्री इस विशिष्ट भावना के लिए AI की आंतरिक वायरिंग से अधिक मायने रखती है।
4. मानचित्र बनाम दिशा-सूचक यंत्र (Map vs. Compass)
शोधकर्ताओं ने यह भी जाँच की कि क्या सूचना को प्रोसेस करते समय AI के मस्तिष्क का "मानचित्र" बदल जाता है।
- उन्होंने पाया कि AI की आंतरिक दुनिया का समग्र आकार (मानचित्र) शुरुआत से अंत तक काफी हद तक एक जैसा रहा।
- हालाँकि, विशिष्ट "दिशा-सूचक यंत्र" (अच्छा/बुरा दिशा) अपनी स्थिति और दिशा को परतों के माध्यम से गुजरते समय बदलते और घूमते रहे।
- पाठ: सिर्फ इसलिए कि कमरा (मस्तिष्क) एक जैसा दिखता है, इसका मतलब यह नहीं है कि आप किस दिशा में देख रहे हैं (भावना) वह स्थिर रहता है।
सारांश
यह शोध पत्र पुष्टि करता है कि AI मॉडलों में आंतरिक "भावना वेक्टर" होते हैं जो मानव मनोविज्ञान के समान दिखते हैं, लेकिन वे सभी इसे एक ही तरह से नहीं बनाते हैं।
- अच्छा बनाम बुरा (वेलेंस): सभी मॉडलों में पाया गया, लेकिन प्रोसेसिंग के विभिन्न चरणों में निर्मित होता है।
- उत्साहित बनाम शांत (एरोसल): इसे ढूँढना कठिन है और यह इस पर निर्भर करता है कि AI कौन सी कहानियाँ पढ़ रहा है।
लेखकों का निष्कर्ष है कि भले ही हम इन भावनात्मक "बटनों" (knobs) को खोज सकते हैं, हमें सावधान रहने की आवश्यकता है क्योंकि अलग-अलग मॉडल उन्हें अलग-अलग स्थानों पर छिपाते हैं, और कहानियाँ जो हम उन्हें खिलाते हैं, वे उन बटनों को ढूँढना कठिन या आसान बना सकती हैं। उन्होंने अपना कोड और डेटा सार्वजनिक कर दिया है ताकि अन्य लोग अन्य AI मस्तिष्कों में ये डायल ढूँढने का प्रयास कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।