Personalization, Personas, and Forecasting in Value Alignment
यह अध्ययन प्रदर्शित करता है कि प्रॉम्प्ट फ्रेमिंग—विशेष रूप से यह कि मॉडलों से व्यक्तिगत करने, भूमिका निभाने या तीसरे व्यक्ति के दृष्टिकोण का पूर्वानुमान लगाने के लिए कहा जाता है या नहीं—मानव आबादी के साथ उनके सांस्कृतिक मूल्य संरेखण को महत्वपूर्ण रूप से बदल देती है, जिसमें तीसरे व्यक्ति के पूर्वानुमान से विविध भाषाओं और मूल्य आयामों में आम तौर पर सबसे स्थिर और सटीक परिणाम प्राप्त होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट से बात कर रहे हैं जिसने लगभग हर लिखी हुई किताब पढ़ ली है। आप सोच सकते हैं कि इस रोबोट का एक एकल, निश्चित व्यक्तित्व होगा, जैसे किसी इंसान का एक सेट मान्यताओं वाला होता है। लेकिन आर्टिफिशियल इंटेलिजेंस की दुनिया में, ये रोबोट गिरगिट की तरह हैं। वे आपके पूछने के तरीके के आधार पर अपनी "आवाज़" और "राय" बदल सकते हैं। अध्ययन के इस क्षेत्र को वैल्यू अलाइनमेंट (value alignment) कहा जाता है, जो बस एक फैंसी तरीका है यह पूछने का: "क्या इस रोबोट का उत्तर वास्तव में वही है जो असली इंसान सोचते हैं?"
इसे समझने के लिए, आपको इन रोबोट्स से बात करने के तीन तरीकों के बारे में जानना आवश्यक है। पहला, पर्सनलाइजेशन (Personalization) ऐसा है जैसे आप रोबोट को बता रहे हों, "हे, मैं ब्राजील का एक व्यक्ति हूँ; तुम क्या सोचते हो?" रोबोट आपके लिए एक मददगार दोस्त बनने की कोशिश करता है। दूसरा, रोल-प्लेइंग (Role-playing) या पर्सोना (Personas) एक वेशभूषा पहनने जैसा है। आप कहते हैं, "मान लो कि तुम ब्राजील के एक व्यक्ति हो," और रोबोट उस भूमिका को निभाता है। तीसरा, फोरकास्टिंग (Forecasting) एक जासूस होने जैसा है। आप पूछते हैं, "एक ब्राजीली व्यक्ति क्या उत्तर देगा?" बिना रोबोट को वह व्यक्ति बनने के लिए कहे। लंबे समय तक, वैज्ञानिकों ने सोचा कि क्या बात करने के ये तीन तरीके मूल रूप से एक ही चीज़ हैं। यदि आप एक रोबोट को ब्राजीली बनने के लिए कहते हैं, या उसे एक ब्राजीली से बात करने के लिए कहते हैं, या उससे एक ब्राजीली के विचार का अनुमान लगाने के लिए कहते हैं, तो क्या उसे बिल्कुल एक जैसा उत्तर देना चाहिए?
एक टीम ने इस विचार का परीक्षण करने का निर्णय लिया और इसके लिए उन्होंने वर्ल्ड वैल्यूज सर्वे (World Values Survey) नामक एक विशाल, वास्तविक दुनिया के सर्वेक्षण का उपयोग किया, जो धर्म, काम और समाज पर दुनिया भर के लाखों लोगों से उनकी मान्यताओं के बारे में पूछता है। उन्होंने दुनिया के चार सबसे स्मार्ट AI रोबोटों से 13 अलग-अलग भाषाओं और देशों में 101 सर्वेक्षण प्रश्नों के उत्तर देने के लिए कहा। उन्होंने यह देखने के लिए तीनों तरीकों को आज़माया—एक उपयोगकर्ता से बात करना, रोल-प्ले करना और फोरकास्टिंग करना—कि कौन सा तरीका रोबोट के उत्तरों को वास्तविक मानव डेटा के साथ सबसे बेहतर तरीके से मिलाता है।
यहाँ एक मोड़ आया जो उन्होंने पाया: आप प्रश्न कैसे पूछते हैं, यह उत्तर को बदल देता है। शोधकर्ताओं ने पाया कि ये तीन तरीके एक-दूसरे के विकल्प नहीं हैं। वास्तव में, प्रॉम्प्ट को तैयार करने का तरीका एक बहुत बड़ा कारक है कि रोबोट उस देश के वास्तविक इंसान की तरह सुनाई देता है या नहीं।
सबसे आश्चर्यजनक निष्कर्ष यह था कि फोरकास्टिंग (forecasting) स्पष्ट विजेता था। जब शोधकर्ताओं ने रोबोट से पूछा, "एक व्यक्ति [देश X] के बारे में क्या कहेगा?", तो रोबोट उस व्यक्ति को "होने" या उस व्यक्ति से "बात करने" के बजाय वास्तविक मानव उत्तरों के बहुत करीब पहुँच गए। ऐसा लगता है कि रोबbot किसी दूसरे के विचारों का अनुमान लगाने वाले एक स्मार्ट पर्यवेक्षक होने में, उस व्यक्ति का अभिनय करने की तुलना में कहीं अधिक बेहतर हैं। उनके द्वारा परीक्षण किए गए चार रोबोटों में से तीन के लिए, यह "अनुमान लगाने" वाला तरीका सांस्कृतिक रूप से सटीक उत्तर प्राप्त करने का सबसे मजबूत तरीका था।
हालाँकि, रोबोट सब कुछ सही नहीं कर पाए। शोधकर्ताओं ने पाया कि रोबोट बड़े, स्पष्ट सांस्कृतिक अंतरों को पकड़ने में माहिर थे, जैसे कि धर्म कितना महत्वपूर्ण है या लोग लैंगिक भूमिकाओं को कैसे देखते हैं। लेकिन जब बात सरकार में विश्वास, लोकतंत्र या संस्थानों के कामकाज जैसे अधिक पेचीदा, जटिल विषयों की आई, तो वे संघर्ष करते दिखे। यहाँ तक कि जब उन्होंने अनुमान लगाने की कोशिश की, तब भी वे सूक्ष्म मुद्दों पर अक्सर चूक गए।
अध्ययन ने यह भी दिखाया कि रोबोट केवल बेतरतीब ढंग से अपने उत्तर नहीं बदलते थे; वे विशिष्ट दिशाओं में बदलते थे। उदाहरण के लिए, धर्म के बारे में पूछे जाने पर, रोबोट के उत्तर वास्तविक मानव डेटा की ओर मजबूती से बढ़े। लेकिन भ्रष्टाचार या राजनीतिक विश्वास जैसे प्रश्नों के लिए, उत्तर अक्सर उनके डिफ़ॉल्ट "ग्लोबल" मोड में ही अटके रहे या वास्तविक मनुष्यों के विचारों से दूर चले गए।
तो, इसका क्या अर्थ है? यह सुझाव देता है कि यदि आप चाहते हैं कि कोई AI किसी विशिष्ट संस्कृति को समझे, तो आप इसे केवल एक स्थानीय व्यक्ति की तरह "अभिनय करने" के लिए नहीं कह सकते। आपको यह पूछकर बेहतर परिणाम मिल सकते हैं कि एक स्थानीय व्यक्ति क्या सोचेगा। लेकिन फिर भी, रोबोट मानवता का पूर्ण दर्पण नहीं है; वह बड़े, शोर वाले सांस्कृतिक संकेतों को देखने में बेहतर है, न कि शांत और जटिल संकेतों को। शोधकर्ता निष्कर्ष निकालते हैं कि हम इन प्रश्नों को कैसे पूछते हैं, यह केवल एक कॉस्मेटिक चुनाव नहीं है—यह मौलिक रूप से बदल देता है कि रोबोट क्या कहता है और वह वास्तविक दुनिया के साथ कितनी अच्छी तरह मेल खाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।