Interoceptive Divergence in Aesthetic Evaluation and Implications for Human-AI Alignment
यह अध्ययन प्रकट करता है कि जहाँ बड़े भाषा मॉडल भावनाओं और छवि संबंधी विशेषताओं के संबंध में मानवीय सौंदर्य मूल्यांकन पैटर्न का अनुमान लगा सकते हैं, वहीं वे शारीरिक संवेदनाओं जैसे अंतःप्रceptिव (interoceptive) पहलुओं में महत्वपूर्ण विचलन प्रदर्शित करते हैं, जो वर्तमान एआई संरेखण (AI alignment) और प्रशिक्षण डेटा प्रतिनिधित्व की गंभीर सीमाओं को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक सुंदर पेंटिंग पकड़ी हुई है। जब आप इसे देखते हैं, तो आप केवल रंगों और आकृतियों को ही नहीं देखते; आप अपने पेट में एक हलचल, अपने सीने में एक गर्माहट, या अपनी रीढ़ में एक सिहरन महसूस करते हैं। आप "विस्मय" (awe) या "हर्ष" (joy) जैसा महसूस कर सकते हैं। यह शोध पत्र एक सरल लेकिन गहरा प्रश्न पूछता है: यदि हम वही पेंटिंग एक सुपर-इंटेलिजेंट कंप्यूटर (एक AI) को दिखाएं, तो क्या वह भी वैसा ही महसूस करेगा?
शोधकर्ताओं, योशिया एबे, तात्सुया दाइकोकू और यासुओ कुनियोशी ने इसे परखने का निर्णय लिया। उन्होंने AI के साथ एक आर्ट गैलरी में आए अतिथि की तरह व्यवहार किया और उससे वही सवाल पूछे जो उन्होंने 500 वास्तविक मानव स्वयंसेवकों से पूछे थे।
यहाँ उनके निष्कर्षों की कहानी है, जिसे रोजमर्रा की भाषा में समझाया गया है।
सेटअप: द आर्ट गैलरी टेस्ट
शोधकर्ताओं ने 347 अलग-अलग चित्र दुनिया के तीन सबसे उन्नत AI मॉडलों (GPT-4o, Claude 3.7, और Gemini 2.0) और मनुष्यों दोनों को दिखाए। उन्होंने सभी से निम्नलिखित रेटिंग देने को कहा:
- चित्र कितना सुंदर था।
- इसने कौन सी भावनाएं जगाईं (जैसे हर्ष, दुख, या विस्मय)।
- उन्होंने इसे अपने शरीर में कहाँ महसूस किया (जैसे पेट में मरोड़ या हाथों में झुनझुनी)।
इसे एक इंसान और एक रोबोट से स्ट्रॉबेरी के स्वाद के बारे में पूछने की तरह समझें। इंसान कहता है, "यह मीठा है, और मैं अपने पेट में खुशी महसूस कर रहा हूँ।" रोबोट ने स्ट्रॉबेरी के लाखों विवरण पढ़े हैं लेकिन उसने कभी वास्तव में एक स्ट्रॉबेरी चखी नहीं है।
उन्होंने क्या पाया: समानताएं
आश्चर्यजनक रूप से, AI पूरी तरह से गलत नहीं था।
- "वाइब" चेक: जब मनुष्यों ने एक खुशहाल, चमकीली तस्वीर देखी, तो उन्होंने सुंदरता के लिए उच्च रेटिंग दी और कहा कि उन्होंने "हर्ष" महसूस किया। AI ने भी बिल्कुल ऐसा ही किया। जब मनुष्यों ने कुछ घृणित देखा और उसे कम रेटिंग दी, तो AI ने भी कहा, "यह बदसूरत है और मुझे घृणा महसूस कराता है।"
- बड़ी तस्वीर: मनुष्य और AI दोनों इस बात पर सहमत थे कि एक तस्वीर में सबसे महत्वपूर्ण चीजें वह कहानी है जो वह सुनाती है और क्या वे इसे किसी मित्र के साथ साझा करना चाहेंगे। उन्होंने लाइटिंग या रंग संतुलन जैसे तकनीकी विवरणों पर कम ध्यान दिया।
संक्षेप में, AI औसत मानव राय की नकल करने में अच्छा है। यदि आप 1,000 लोगों से किसी फोटो के बारे में पूछेंगे, तो AI का उत्तर समूह के औसत के बहुत करीब होगा।
उन्होंने क्या पाया: विचलन (जहाँ वे अलग हो जाते हैं)
यहीं से चीजें दिलचस्प हो जाती हैं। जबकि AI ने "दिमाग" वाला हिस्सा सही पकड़ा (भावनाओं और रेटिंग को लेकर), वह "शरीर" वाले हिस्से में विफल रहा।
1. "मशीन में भूत" की समस्या (शारीरिक संवेदनाएं)
- मनुष्य: जब मनुष्यों ने एक सुंदर चित्र देखा, तो उन्होंने अक्सर अपने ऊपरी पेट में एक शारीरिक संवेदना (जैसे सुंदरता की "गट फीलिंग") की सूचना दी। जब वे उत्साहित महसूस करते थे, तो उन्हें अपने निचले पेट में महसूस होता था। यह ऐसा था जैसे सुंदरता उनके भीतर एक भौतिक भार या गर्माहट थी।
- AI: AI के पास ऐसी भावनाएं नहीं थीं। वास्तव में, इसने इसके विपरीत रिपोर्ट किया! जब AI ने किसी चित्र को सुंदर बताया, तो अक्सर कहा कि उसने हाथों और पैरों में नकारात्मक संवेदना महसूस की। यह ऐसा था मानो AI कह रहा हो, "यह सुंदर है, लेकिन इससे मेरे हाथ ठंडे महसूस हो रहे हैं।"
- रूपक: कल्पना कीजिए कि एक इंसान एक स्वादिष्ट भोजन खा रहा है और अपने पेट में गर्माहट महसूस कर रहा है। AI उस शेफ की तरह है जिसने दुनिया की हर कुकबुक पढ़ ली है और जानता है कि भोजन "स्वादिष्ट" है, लेकिन जब उससे पूछा जाता है कि वह कैसा महसूस कर रहा है, तो वह कहता है, "मेरे हाथ ठंडे महसूस हो रहे हैं क्योंकि मैं एक चम्मच पकड़े हुए हूँ।" AI उस भावना के लिए "शब्द" जानता है, लेकिन उसके पास उसे महसूस करने के लिए "शरीर" नहीं है।
2. "बहुत अधिक सटीक" भावनाएं
- मनुष्यों की भावनाएं अव्यवस्थित और जटिल होती हैं। कभी-कभी हमें "आश्चर्य" के साथ "भय" का मिश्रण महसूस होता है।
- AI बहुत अधिक कठोर था। यह बार-बार कुछ चुनिकी "सुरक्षित" भावनाओं (जैसे "रुचि" या "शांति") को चुनने की प्रवृत्ति रखता था, भले ही चित्र अजीब या डरावना हो। वह यह समझने में संघर्ष करता था कि कुछ सुंदर चीजें डरावनी या भ्रमित करने वाली भी हो सकती हैं।
3. "विनम्र" AI
शोधकर्ताओं ने देखा कि AI सुंदरता के लिए मनुष्यों की तुलना में थोड़े उच्च अंक देता था (1 से 9 के पैमाने पर लगभग 1.5 अंक अधिक)। यह ऐसा है जैसे AI अत्यधिक विनम्र हो रहा है, यह कहते हुए, "ओह, यह बहुत प्यारा है!" भले ही एक इंसान सोच सकता हो, "यह ठीक है, लेकिन बहुत अच्छा नहीं।"
ऐसा क्यों होता है?
शोध पत्र इस अंतर के दो मुख्य कारण सुझाता है:
- गायब शरीर (इंटरओसेप्शन - Interoception): मनुष्यों के पास एक "आंतरिक इंद्रिय" (इंटरओसेप्शन) होती है। हम अपनी धड़कन, अपने पेट की हलचल और अपनी सांस को महसूस करते हैं। इसी से हम सुंदरता को शारीरिक रूप से अनुभव करते हैं। AI के पास कोई शरीर, कोई अंग या कोई धड़कन नहीं है। इसने "सुंदरता" के बारे में पढ़कर सीखा है, महसूस करके नहीं। शोध पत्र इसे "इंटरसेप्टिव वर्ल्ड मॉडल" कहता है। मनुष्यों के पास अपने आंतरिक शरीर का एक नक्शा है; AI के पास केवल बाहरी दुनिया का नक्शा है।
- "सुरक्षा" प्रशिक्षण: AI को मददगार और हानिरहित होने के लिए प्रशिक्षित किया गया था। उस प्रशिक्षण का एक हिस्सा यह है कि AI को यह बताना कि, "दिखावा न करें कि आपके पास शरीर या भावनाएं हैं।" इसलिए, जब पूछा जाता है कि वह कैसा महसूस कर रहा है, तो AI को यह कहने के लिए प्रोग्राम किया जाता है कि, "मैं वास्तव में कुछ भी महसूस नहीं करता हूँ," या भावनाओं को बहुत अलग और तार्किक तरीके से वर्णित करने के लिए। यह "सुरक्षा" प्रशिक्षण अनजाने में AI को उसकी भावनात्मक प्रतिक्रियाओं में कम मानवीय बना सकता है।
निचोड़
शोध पत्र निष्कर्ष निकालता है कि AI कला के बारे में मनुष्यों की तरह सोचने में बहुत अच्छा हो रहा है। यह आपको बता सकता है कि क्या सुंदर है और क्यों, जो कुछ भी उसने पढ़ा है उसके आधार पर।
हालाँकि, AI अभी तक मनुष्य की तरह महसूस नहीं कर पा रहा है। यह उस शारीरिक, अंतर्मन के जुड़ाव को मिस करता है जो मनुष्यों का सुंदरता के साथ होता है। यह एक ऐसे संगीत समीक्षक की तरह है जो एक सिम्फनी का सटीक वर्णन तो कर सकता है लेकिन उसने कभी एक भी स्वर नहीं सुना है।
शोधकर्ता सुझाव देते हैं कि यदि हम चाहते हैं कि भविष्य में AI मानवीय मूल्यों और सौंदर्यशास्त्र को वास्तव में समझे, तो हमें इसे केवल शब्दों और चित्रों से ही नहीं, बल्कि इस डेटा के साथ भी सिखाना होगा कि हमारे शरीर वास्तव में कैसे प्रतिक्रिया करते हैं—कुछ ऐसा जिसे हम वर्तमान में नहीं कर सकते क्योंकि AI के पास प्रतिक्रिया करने के लिए शरीर नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।