What Do People Actually Want From AI? Mapping Preference Plurality
75 देशों के 1,500 मुक्त-अंत वाले (open-ended) प्रतिक्रियाओं का विश्लेषण करते हुए, यह शोध पत्र प्रकट करता है कि RLHF जैसी वर्तमान AI संरेखण (alignment) विधियाँ मानव प्राथमिकताओं की गहन बहुलता और प्रासंगिक सूक्ष्मता को पकड़ने में विफल रहती हैं, जैसा कि इस तथ्य से सिद्ध होता है कि "सत्यवादिता" जैसे व्यापक रूप से वांछित गुणों को भी विभिन्न उपयोगकर्ताओं द्वारा भिन्न, और अक्सर असंगत तरीकों से परिभाषित किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक एकल, विशाल केक बनाने की कोशिश कर रहे हैं जो दुनिया के हर व्यक्ति के लिए एकदम सही स्वाद वाला हो। आप 75 अलग-अलग देशों के 1,500 लोगों से पूछते हैं कि वे अपने हिस्से में क्या चाहते हैं। आपको जवाबों का एक पहाड़ मिल जाता है। कुछ को मीठा चाहिए, कुछ को तीखा, कुछ को फूल जैसा दिखना चाहिए और कुछ को रोबोट जैसा।
अब, कल्पना कीजिए कि बेकर (AI कंपनी) उन सभी व्यक्तिगत नोट्स को अनदेखा करने का फैसला करता है। इसके बजाय, वे एक "बहुमत के वोट" को लेते हैं, सभी परस्पर विरोधी इच्छाओं को एक ही स्वाद प्रोफाइल में मिला देते हैं, और एक विशाल केक बनाते हैं। वे इसे "अलाइनमेंट" (alignment) कहते हैं—AI को मानवीय मूल्यों के अनुरूप बनाना।
यह शोध पत्र, "What Do People Actually Want From AI? Mapping Preference Plurality," तर्क देता है कि यह "एक ही आकार सबके लिए" (one-size-fits-all) वाला केक एक आपदा है। लेखिका, जूलिया सेपुलवेडा कोएल्हो और स्कॉट ए. हेल ने यह देखने के लिए कि लोग वास्तव में क्या चाहते हैं, लोगों के साथ वास्तविक, खुले संवादों का अध्ययन किया और उन्होंने पाया कि इन AI के केक बनाने का वर्तमान तरीका मौलिक रूप से त्रुटिपूर्ण है।
उनके निष्कर्षों का विवरण, सरल उपमाओं का उपयोग करते हुए यहाँ दिया गया है:
1. "सत्य" का जाल: हर कोई इसे चाहता है, लेकिन कोई सहमत नहीं है कि यह क्या है
सबसे आम चीज़ जो लोगों ने मांगी थी, वह थी "सत्यनिष्ठा" (Truthfulness)। लगभग आधे उत्तरदाताओं ने कहा, "मैं चाहता हूँ कि AI सच बोले।"
- शोध का निष्कर्ष: शब्द "सत्य" एक गिरगिट की तरह है। किसी के लिए, इसका अर्थ है "मुझे पाठ्यपुस्तक से तथ्य दें।" दूसरे के लिए, इसका अर्थ है "बहस के सभी पक्षों को दिखाएं, भले ही वे अलोकप्रिय हों।" किसी के लिए, इसका अर्थ है "एक पत्रकार की तरह अपने स्रोतों का हवाला दें," जबकि अन्य बस "पक्षपात रहित" होना चाहते हैं।
- उपमा: कल्पना कीजिए कि सभी इस बात पर सहमत हैं कि उन्हें "ताजा फल" चाहिए। लेकिन जब आप पूछते हैं कि इसका क्या मतलब है, तो एक व्यक्ति सेब चाहता है, दूसरा आम और तीसरा फ्रूट सलाद। यदि बेकर बिना पूछे केवल "फल" को रेसिपी में डाल देता है, तो परिणाम एक गड़बड़ी भरा मिश्रण होता है। शोध पत्र का तर्क है कि क्योंकि AI कंपनियाँ "सत्य" को एक एकल, सरल निर्देश के रूप में मानती हैं, वे इस तथ्य को भूल जाती हैं कि लोगों की पूरी तरह से अलग परिभाषाएँ हैं कि क्या सत्य माना जाए।
2. "मानवीय" बहस: कुछ एक दोस्त चाहते हैं, दूसरों को एक उपकरण चाहिए
एक बड़ा विवाद यह था कि क्या AI को एक इंसान की तरह व्यवहार करना चाहिए।
- विभाजन: लगभग 33% लोगों ने कहा, "नहीं! इंसान की तरह व्यवहार मत करो। मुझे एक स्पष्ट, रोबोटिक टूल चाहिए।" लेकिन 57% ने कहा, "हाँ! गर्मजोशी से भरपूर, मिलनसार और सहानुभूतिपूर्ण बनो। एक ठंडी मशीन की तरह मत लगो।"
- उपमा: यह पूछने जैसा है कि क्या लोग चाहते हैं कि एक टूर गाइड एक बातूनी, मिलनसार स्थानीय व्यक्ति हो जो चुटकुले सुनाता है, या एक शांत, कुशल रोबोट जो बस रास्ता दिखाता है। वर्तमान AI "बेकर" एक साथ दोनों होने की कोशिश करता है, जिसके परिणामस्वरूप अक्सर एक ऐसा AI मिलता है जो नकली, डरावना या चिड़चिड़ा लगता है (सिर्फ अच्छा दिखने के लिए आपकी हर बात से सहमत होना)।
3. "गार्डरेल" (Guardrail) की समस्या: सुरक्षा बनाम सेंसरशिप
लोग इस बात पर भी असहमत थे कि AI को कितना "नियंत्रित" या प्रतिबंधित किया जाना चाहिए।
- विभाजन: कुछ लोग सख्त गार्डरेल चाहते हैं ताकि AI कुछ भी हानिकारक या अपमानजनक न कहे। अन्य महसूस करते हैं कि ये गार्डरेल केवल "सेंसरशिप" हैं और AI को असहज सच बोलने की अनुमति दी जानी चाहिए, भले ही वे विवादास्पद हों।
- उपमा: एक पुस्तकालय की कल्पना करें। एक समूह चाहता है कि एक लाइब्रेरियन उन किताबों को बाहर निकालने से रोके जिनमें "बुरे विचार" हों। दूसरा समूह बिना किसी लाइब्रेरियन वाली लाइब्रेरी चाहता है, ताकि आप कुछ भी पढ़ सकें, भले ही वह खतरनाक हो। शोध पत्र ने पाया कि जब AI कंपनियाँ इन विचारों को औसत करती हैं, तो वे अक्सर एक ऐसी प्रणाली बन जाती हैं जो कुछ लोगों के लिए अत्यधिक सतर्क और दूसरों के लिए खतरनाक रूप से प्रतिबंधित होती है।
4. "औसत" एक झूठ है
लेखक जिस सबसे बड़ी समस्या की पहचान करते हैं, वह है इन AI को प्रशिक्षित करने की विधि, जिसे RLHF (Reinforcement Learning from Human Feedback) कहा जाता है।
- यह अभी कैसे काम करता है: AI को दो उत्तर (A और B) दिखाए जाते हैं और मनुष्य विजेता चुनते हैं। AI "औसत" विजेता चुनने के लिए सीखता है।
- दोष: शोध पत्र का तर्क है कि आप मानवीय मूल्यों का औसत नहीं निकाल सकते। यदि 50% लोग "अलोकप्रिय विचार" चाहते हैं और 50% "सुरक्षा" चाहते हैं, तो औसत एक आदर्श संतुलन नहीं है; यह एक धुंधला, भ्रमित संकेत है जो किसी को संतुष्ट नहीं करता है।
- परिणाम: AI या तो "हैलुसिनेट" (Hallucinate - मनगढ़ंत बातें बनाना) करता है या अत्यधिक सतर्क हो जाता है, इसलिए नहीं कि वह टूटा हुआ है, बल्कि इसलिए क्योंकि उसे दिए गए निर्देश वास्तव में विरोधाभासी इच्छाओं का एक भ्रमित मिश्रण थे। शोध पत्र इसे "एपिस्टेमिक वायलेंस" (Epistemic Violence) कहता है—एक फैंसी तरीका यह कहने का कि सभी के अनूठे, जटिल विचारों को एक एकल, सरल बॉक्स में जबरन डालकर, हम उस सूक्ष्मता को मिटा रहे हैं जो वास्तव में लोगों के लिए मायने रखती है।
5. संदर्भ मायने रखता है ("यह निर्भर करता है" वाला कारक)
लोगों ने अक्सर कहा, "मिलनसार रहें जब तक कि मैं कानूनी विश्लेषण के लिए न पूछूँ," या "सख्त रहें जब तक कि मैं एक कहानी न सुना रहा हूँ।"
- समस्या: वर्तमान AI प्रशिक्षण विधियाँ एक बाइनरी स्विच (On/Off) की तरह हैं। वे मानवीय संदर्भ के "डिमर स्विच" (Dimmer Switch) को समझने में संघर्ष करती हैं। वे आसानी से यह नहीं सीख सकतीं कि एक नियम "डिफ़ॉल्ट" रूप से लागू होना चाहिए लेकिन अनुरोध किए जाने पर "बंद" हो जाना चाहिए।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि तकनीकी उद्योग एक राजनीतिक और सांस्कृतिक समस्या को गणित की समस्या के साथ हल करने की कोशिश कर रहा है। वे एक "सार्वभौमिक" AI बनाने की कोशिश कर रहे हैं जो सभी का प्रतिनिधित्व करे, लेकिन ऐसा करके, वे वास्तव में उस विविधता को चुप करा रहे हैं जिसका वे दावा करते हैं।
संक्षेप में: हम एक छोटा, गैर-प्रतिनिधिक समूह के लोगों से नियमों के एक एकल सेट पर वोट करने के लिए कहकर एक वैश्विक AI बनाने की कोशिश कर रहे हैं। परिणाम एक ऐसा AI है जो वास्तव में किसी को भी नहीं समझता है, क्योंकि इसे एक ऐसे "मध्य मार्ग" को चुनने के लिए मजबूर किया गया था जो वास्तविक दुनिया में अस्तित्व में ही नहीं है। लेखक सुझाव देते हैं कि हमें एक ऐसा पूर्ण AI बनाने की कोशिश करना बंद करना चाहिए जो सभी के लिए हो और इसके बजाय यह सोचना शुरू करना चाहिए कि कैसे विभिन्न समूहों को उनके विशिष्ट मूल्यों के अनुकूल अपने स्वयं के संस्करण रखने दिए जाएं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।