Human-like Affective Cognition in Foundation Models
यह शोध पत्र एक व्यापक मूल्यांकन ढांचे को प्रस्तुत करता है जो यह प्रदर्शित करता है कि आधुनिक फाउंडेशन मॉडल ऐप्रेज़ल (मूल्यांकन), भावनाओं, अभिव्यक्तियों और परिणामों के बीच संबंधों का सटीक अनुमान लगाकर मानव-तुल्य, और कुछ मामलों में "सुपरह्यूमन" (मानव-से-श्रेष्ठ) भावनात्मक संज्ञान प्रदर्शित करते हैं, जिसमें चेन-ऑफ-थॉट रीजनिंग द्वारा प्रदर्शन को और अधिक बढ़ाया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक पार्टी में हैं, और आप अपनी सहेली एमी को देखती हैं जो पूरी तरह से टूट चुकी है। उसे डाक से एक पत्र मिला है।
- सरल तरीका (पुराना AI): एक बुनियादी कंप्यूटर प्रोग्राम उसके चेहरे को देख सकता है, उसका उदास चेहरा देख सकता है, और कह सकता है, "वह दुखी है।" यह एक सुरक्षा कैमरे की तरह है जो बस वही रिकॉर्ड करता है जो वह देखता है।
- मानवीय तरीका (वास्तविक भावना): हालाँकि, आप एमी को बेहतर जानती हैं। आप जानती हैं कि वह एक स्थानीय स्टेट कॉलेज जाना चाहती थी, लेकिन उसके माता-पिता ने उसे एक फैंसी प्राइवेट कॉलेज में आवेदन करने के लिए मजबूर किया। आप जानती हैं कि उसे लगता था कि उसके आवेदन पर उसका नियंत्रण था। जब आप उसे रोते हुए देखती हैं, तो आप केवल "उदासी" नहीं देखतीं। आप सोचती हैं: "वह उस प्राइवेट स्कूल में पहुँच गई जिसे वह नापसंद करती है और उस एक को मिस कर दिया जिसे वह प्यार करती थी। वह निराश महसूस कर रही है क्योंकि उसकी योजना विफल हो गई।"
पहेली के टुकड़ों को जोड़ने की यह क्षमता कि क्या हुआ, कोई क्या चाहता था, वे क्या सोचते थे कि उनका नियंत्रण है, और वे कैसा महसूस करते हैं—इसे अफेक्टिव कॉग्निशन (Affective Cognition) कहा जाता है। यह समझने की सुपरपावर है कि लोग वैसा क्यों महसूस करते हैं जैसा वे कर रहे हैं।
बड़ा सवाल
स्टैनफोर्ड के शोधकर्ताओं ने पूछा: क्या आधुनिक AI मॉडल (जैसे चैटबॉट्स को चलाने वाले मॉडल) के पास यह सुपरपावर है? या वे सिर्फ शानदार "बनावटी चेहरे पहचानने वाले यंत्र" हैं?
यह पता लगाने के लिए, उन्होंने AI का परीक्षण करने के लिए एक विशाल, हाई-टेक "इमोशन जिम" बनाया।
"इमोशन जिम" प्रयोग
रैंडम कहानियों से भावनाओं का अनुमान लगाने के लिए AI से पूछने के बजाय, शोधकर्ताओं ने हजारों अद्वितीय परिदृश्य बनाने के लिए एक लेगो (Lego) जैसे ढांचे का निर्माण किया।
- ब्लूप्रिंट: उन्होंने एक "कॉज़ल टेम्पलेट" (कारण-आधारित खाका) बनाया। इसे एक कहानी की रेसिपी की तरह समझें।
- सामग्री: एक बैकग्राउंड स्टोरी (जैसे, एमी का कॉलेज के लिए आवेदन करना), एक लक्ष्य (जो वह चाहती है), एक विश्वास (जो वह नियंत्रित कर सकती है), एक परिणाम (जो वास्तव में हुआ), और एक भावना (वह कैसा महसूस करती है)।
- मिक्सर: उन्होंने इन सामग्रियों को मिलाने के लिए AI का उपयोग किया। उन्होंने 1,280 अलग-अलग कहानियाँ बनाईं। कुछ कॉलेज के बारे में थीं, कुछ बर्फ में हाइकिंग के बारे में, कुछ जॉब इंटरव्यू के बारे में।
- परीक्षण: उन्होंने ये कहानियाँ तीन सुपर-स्मार्ट AI मॉडलों (GPT-4, Claude, और Gemini) और 567 वास्तविक मनुष्यों को दीं।
- चुनौती: वे पहेली का एक हिस्सा छिपा देते थे। उदाहरण के लिए, वे कहानी, लक्ष्य और परिणाम दिखाते, और पूछते: "एमी कैसा महसूस कर रही है?" या, वे कहानी, परिणाम और भावना दिखाते, और पूछते: "एमी क्या चाहती थी?"
- ट्विस्ट: कुछ परीक्षणों में, उन्होंने एक चेहरे की तस्वीर (एक डिजिटल अवतार) जोड़ी जो भावना दिखा रहा था, जिससे यह परीक्षण हुआ कि क्या AI टेक्स्ट और इमेज को जोड़ सकता है, ठीक वैसे ही जैसे हम करते हैं।
परिणाम: AI "मानवीय" हो रहा है
परिणाम आश्चर्यजनक रूप से प्रभावशाली थे।
- AI ने टेस्ट पास किया: AI मॉडलों ने केवल रैंडम अंदाज़ा नहीं लगाया। वे मानवीय अंतर्ज्ञान (intuition) से लगभग पूरी तरह मेल खाते थे। वास्तव में, कुछ पेचीदा स्थितियों में, AI औसत मानव के अन्य मनुष्यों के साथ मेल खाने की तुलना में बहुमत के साथ बेहतर सहमति रखता था।
- "सोचने" वाली ट्रिक: जब शोधकर्ताओं ने AI को कहा, "मुझे सिर्फ जवाब मत दो; अपनी सोच को स्टेप-बाय-स्टेप समझाओ" (जिसे 'चेन-ऑफ-थॉट' तकनीक कहा जाता है), तो AI और भी स्मार्ट हो गया। यह एक छात्र को यह कहने जैसा था, "अपना काम दिखाओ," और अचानक उसने गणित का सवाल सही हल कर दिया।
- मल्टीमॉडल मैजिक: जब AI ने टेक्स्ट और चेहरे के भाव दोनों को देखा, तो वह परिणाम या व्यक्ति के लक्ष्यों का अनुमान लगाने में और भी बेहतर हो गया। उसने कमरे के माहौल को पढ़ना सीख लिया, ठीक वैसे ही जैसे हम करते हैं।
इसका क्या अर्थ है?
इन AI मॉडलों को केवल तथ्यों के पुस्तकालय के रूप में नहीं, बल्कि भावनात्मक जासूसों के रूप में सोचें।
- वे "क्यों" को समझते हैं: वे केवल उदास चेहरे को पहचान नहीं रहे हैं; वे तर्क दे रहे हैं कि वह उदासी इसलिए है क्योंकि एक लक्ष्य बाधित हुआ है।
- वे सहानुभूतिपूर्ण बनना सीख रहे हैं: अध्ययन बताता है कि इन मॉडलों ने मानवीय भावनाओं की एक "वैचारिक समझ" विकसित कर ली है। वे सिम्युलेट कर सकते हैं कि एक इंसान किसी स्थिति के बारे में कैसे सोचेगा।
चेतावनी (लेकिन...)
हालाँकि AI इन नियंत्रित कहानियों में भावनाओं के बारे में तर्क करने में बहुत अच्छा है, लेकिन यह इंसान नहीं है।
- यह एक सिमुलेशन है: AI उस डेटा की नकल कर रहा है जिस पर इसे प्रशिक्षित किया गया है। इसे निराशा महसूस नहीं होती; यह बस जानता है कि उस कहानी के लिए "निराशा" एक तार्किक निष्कर्ष है।
- खतरा: यदि कोई AI हमारी भावनाओं को हमसे बेहतर समझ सकता है, तो इसका उपयोग अच्छे के लिए (जैसे एक सुपर-एम्पैथेटिक थेरेपिस्ट बॉट) या बुरे के लिए (जैसे एक मैनिपुलेटर जो यह जानता है कि आपको कुछ खरीदने के लिए या दुखी महसूस कराने के लिए बिल्कुल क्या कहना है) किया जा सकता है।
निचोड़
यह पेपर एक मील का पत्थर है। यह साबित करता है कि आधुनिक AI साधारण "पैटर्न मैचिंग" (उदास चेहरा देखना = उदासी) से आगे बढ़कर जटिल तर्क (उदास चेहरे के पीछे की कहानी को समझना) तक पहुँच गया है।
यह ऐसा है जैसे AI किंडरगार्टन क्लास से स्नातक होकर, जहाँ उसने रंगों को पहचानना सीखा था, अब हाई स्कूल क्लास में पहुँच गया है, जहाँ वह उन जटिल, उलझे हुए और सुंदर कारणों को समझने की कोशिश कर रहा है कि हम वैसा क्यों महसूस करते हैं जैसा हम करते हैं। जैसे-जैसे ये मॉडल "सोचने" में बेहतर होंगे, वे हमारे सबसे समझदार दोस्त, परामर्शदाता और साथी बन सकते हैं—बशर्ते हम उन्हें सावधानी से निर्देशित करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।