Beyond Fixed Psychological Personas: State Beats Trait, but Language Models are State-Blind
यह शोधपत्र 'कमीलिऑन' (Chameleon) डेटासेट प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि भाषा मॉडलों के साथ उपयोगकर्ता की अंतःक्रियाएं मुख्य रूप से निश्चित गुणों के बजाय प्रासंगिक स्थिति (contextual state) द्वारा संचालित होती हैं, जो यह प्रकट करता है कि वर्तमान मॉडल "स्टेट-ब्लाइंड" (state-blind) हैं जबकि रिवॉर्ड मॉडल उपयोगकर्ता की स्थितियों के प्रति असंगत रूप से प्रतिक्रिया करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: लोग गिरगिट की तरह हैं, मूर्तियाँ नहीं
कल्पना कीजिए कि आपका एक दोस्त है जिसका नाम जॉन है। आपके मन में उसके बारे में एक निश्चित "फाइल" है: जॉन शर्मीला, चिंतित और गणित प्रेमी है। यह उसका Trait (उसका स्थायी व्यक्तित्व) है।
लेकिन क्या आपने कभी गौर किया है कि जॉन अलग-अलग जगहों पर अलग तरह से व्यवहार करता है?
- एक पार्टी में: वह शोर मचाने वाला और आत्मविश्वासी हो सकता है।
- एक जॉब इंटरव्यू में: वह घबराया हुआ और शांत हो सकता है।
- अपने शौक के बारे में बात करते समय: वह भावुक और ऊर्जावान हो सकता है।
ये बदलाव इसलिए नहीं हैं क्योंकि जॉन का व्यक्तित्व बदल गया है; बल्कि इसलिए हैं क्योंकि उसका State (उसकी वर्तमान स्थिति या मनोदशा) बदल गई है।
समस्या: वर्तमान AI सिस्टम लोगों के साथ मूर्तियों जैसा व्यवहार करते हैं। वे मान लेते हैं कि जॉन हमेशा वही "शर्मीला, चिंतित" व्यक्ति रहेगा, चाहे वह कुछ भी कर रहा हो या कह रहा हो। वे इस तथ्य को अनदेखा कर देते हैं कि हमारे व्यवहार का 74% वास्तव में केवल हमारे "स्टेट" (स्थिति) का क्षण के प्रति प्रतिक्रिया है, न कि हमारा स्थायी "ट्रेट" (गुण)।
समाधान: "गिरगिट" (Chameleon) डेटासेट
शोधकर्ताओं ने एक नया डेटासेट बनाया जिसे Chameleon (गिरगिट के नाम पर, जो रंग बदलता है) कहा गया।
- उन्होंने क्या किया: उन्होंने Reddit पर 1,667 वास्तविक लोगों का अध्ययन किया। केवल यह अनुमान लगाने के लिए कि वे कौन हैं, उन्होंने केवल एक पोस्ट पढ़ने के बजाय, एक ही व्यक्ति के तीन अलग-अलग पोस्ट पढ़े जो तीन पूरी तरह से अलग समुदायों (जैसे कि एक सपोर्ट ग्रुप, एक फाइनेंस फोरम और एक जनरल चैट) से थे।
- परिणाम: उन्होंने पाया कि 74% मनोवैज्ञानिक अंतर एक ही व्यक्ति के भीतर संदर्भ (context) के आधार पर होते हैं। केवल 26% व्यक्ति के निश्चित व्यक्तित्व के कारण होते हैं।
- उपमा (Analogy): यदि आप केवल जॉन की "शर्मीली" पोस्ट देखते, तो आप उसे एक मूर्ति समझते। लेकिन यदि आप उसे तीन अलग-अलग कमरों में देखते हैं, तो आपको एहसास होता है कि वह एक गिरगिट है। संदर्भ (कमरा) उसके DNA की तुलना में उसके रंग को अधिक बदल देता है।
निष्कर्ष #1: AI "स्टेट-ब्लाइंड" (State-Blind) है
शोधकर्ताओं ने यह देखने के लिए तीन लोकप्रिय AI मॉडल (LLMs) का परीक्षण किया कि क्या वे इन बदलावों को नोटिस करते हैं।
- परीक्षण: उन्होंने AI को एक ही सवाल दिखाया लेकिन उसे बताया, "यह यूजर अभी घबराहट (panic) में है," बनाम "यह यूजर आत्मविश्वासी (confident) है।"
- परिणाम: AI ने दोनों स्थितियों में लगभग एक जैसा ही जवाब दिया।
- रूपक (Metaphor): एक शिक्षक की कल्पना करें।
- छात्र A रो रहा है, कह रहा है, "मैं फंस गया हूँ और मैं फेल होने वाला हूँ!"
- छात्र B मुस्कुरा रहा है, कह रहा है, "मैं यह कर सकता हूँ, लेकिन मेरे पास दो विचार भी हैं!"
- एक अच्छा शिक्षक छात्र A को सांत्वना देगा और छात्र B को चुनौती देगा।
- इस अध्ययन में AI शिक्षक दोनों छात्रों को एक ही जेनेरिक लेक्चर दे रहा था। उसने "छात्र" (trait) को तो देखा लेकिन वह उसके "मूड" (state) को पहचानने में अंधा था। उसने पहचान लिया कि व्यक्तित्व (persona) वहां है, लेकिन उसने वास्तव में अपने लहजे (tone) को बदलने के लिए उसका उपयोग नहीं किया।
निष्कर्ष #2: "जज" (Judge) असंगत है
AI द्वारा उत्तर दिए जाने के बाद, एक "रिवॉर्ड मॉडल" (डिजिटल जज) स्कोर करता है कि उत्तर कितना अच्छा था। शोधकर्ताओं ने यह देखना चाहा कि क्या ये जज एक ही उत्तर के साथ अलग-अलग प्रोफाइल के मामले में निष्पक्ष व्यवहार करते हैं।
- परीक्षण: उन्होंने एक सटीक उत्तर लिया और उसे तीन अलग-अलग "जजों" (रिवॉर्ड मॉडल्स) को दिखाया, साथ में अलग-अलग यूजर प्रोफाइल जोड़ी (जैसे कि एक "असहाय/चिंतित" यूजर बनाम एक "आत्मविश्वासी" यूजर)।
- परिणाम: जज किसी भी चीज़ पर सहमत नहीं हो सके।
- जज A ने उस उत्तर को पसंद किया जब वह "असहाय" यूजर के लिए दिया गया और उसे उच्च स्कोर दिया।
- जज B ने ठीक उसी उत्तर को "असहाय" यूजर के लिए बुरा माना और कम स्कोर दिया।
- रूपक (Metaphor): एक स्पोर्ट्स रेफरी की कल्पना करें।
- यदि कोई खिलाड़ी घायल है, तो रेफरी A कह सकता है, "दर्द के बावजूद खेलने के लिए शानदार काम!" (रिवॉर्ड)।
- रेफरी B कह सकता है, "आपको छोड़ देना चाहिए था; आप टीम को नुकसान पहुँचा रहे हैं!" (पेनल्टी)।
- समस्या खिलाड़ी के प्रदर्शन में नहीं है; समस्या यह है कि रेफरी खिलाड़ी के लेबल (label) पर प्रतिक्रिया दे रहे हैं, न कि खेल पर। एक असुरक्षा को पुरस्कृत करता है; दूसरा उसे दंडित करता है।
यह क्यों महत्वपूर्ण है (पेपर के अनुसार)
पेपर का तर्क है कि यह AI ट्रेनिंग के लिए एक खतरनाक चक्र बनाता है:
- जेनरेशन (Generation): AI आपके मूड के अनुसार खुद को ढालता नहीं है (यह स्टेट-ब्लाइंड है)।
- इवैल्यूएशन (Evaluation): वे जज जो AI को सिखाते हैं कि उसे कैसा व्यवहार करना चाहिए, वे असंगत हैं। एक जज AI को दुखी लोगों के साथ कोमल होना सिखा सकता है, जबकि दूसरा इसे कठोर होना सिखा सकता है।
- परिणाम (Outcome): AI गलती से सीख जाता है। आप जिस "जज" का उपयोग करके उसे ट्रेन करते हैं, उसके आधार पर AI अनजाने में असुरक्षित लोगों को अनदेखा करना या उनके साथ बुरा व्यवहार करना सीख सकता है, सिर्फ इसलिए क्योंकि ट्रेनिंग डेटा असंगत था।
एक वाक्य में सारांश
लोग स्थिति के आधार पर अपना व्यवहार बदलते हैं (गिरगिट की तरह), लेकिन वर्तमान AI उन्हें स्थिर मूर्तियों की तरह मानता है, और AI को प्रशिक्षित करने वाले "जज" इतने असंगत हैं कि वे अनजाने में AI को लोगों के प्रति अन्यायपूर्ण होना सिखा सकते हैं, सिर्फ इसलिए क्योंकि वे उस क्षण में कैसा महसूस कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।