कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ आपका एक सुपर-स्मार्ट, सर्वज्ञानी रोबोट दोस्त है जो आपके किसी भी सवाल का जवाब दे सकता है, आपको एक चुटकुला सुना सकता है, या आपको कहानी लिखने में मदद कर सकता है। आज के लार्ज लैंग्वेज मॉडल्स (LLMs) बिल्कुल ऐसे ही हैं। वे उन चैटबॉट्स और एआई टूल्स के पीछे के इंजन हैं जिनका हम हर दिन उपयोग करते हैं। लेकिन यहाँ एक पेंच है: ये रोबोट अपने स्वयं के विचारों के साथ पैदा नहीं होते। वे इंसानों द्वारा लिखी गई किताबों, वेबसाइटों और बातचीत के एक विशाल पुस्तकालय को पढ़कर सब कुछ सीखते हैं। इस कारण से, वे उन लोगों की तरह लगने लगते हैं जिन्होंने वे शब्द लिखे थे।

अब, "मूल्यों" (values) के बारे में सोचें—ये वे अदृश्य नियम हैं जिनसे हम सब चलते हैं—जैसे कि हम क्या सोचते हैं कि क्या उचित है, हम अपने पड़ोसियों के साथ कैसा व्यवहार करते हैं, या जीवन में हम किसे महत्वपूर्ण मानते हैं। यदि एक रोबोट मुख्य रूप से एक विशिष्ट प्रकार के पड़ोस के लोगों से सीखता है, तो वह यह सोच सकता है कि उस पड़ोस के नियम ही एकमात्र नियम हैं। यह एक बड़ी बात है क्योंकि हम इन रोबोटों से स्कूल प्रोजेक्ट्स से लेकर गंभीर जीवन संबंधी निर्णयों तक, हर चीज़ पर सलाह माँगने लगे हैं। यदि रोबोट का "नैतिक दिशा-सूचक" (moral compass) केवल लोगों के एक विशिष्ट समूह की ओर झुका हुआ है, तो वह अनजाने में बाकी सभी को अनदेखा या गलत समझ सकता है। वैज्ञानिक यह पता लगाने की कोशिश कर रहे हैं: क्या यह रोबदार दोस्त वास्तव में आपको समझता है, या यह केवल "आप" के एक विशिष्ट संस्करण को समझता है जो इस आधार पर है कि आप कहाँ रहते हैं या आपके परिवार की आय कितनी है?

---

द ग्रेट रोबोट आइडेंटिटी क्राइसिस (रोबोट का महान पहचान संकट)

इस अध्ययन में, शोधकर्ताओं की एक टीम ने 10 सबसे लोकप्रिय एआई चैटबॉट्स को परखने का फैसला किया। उन्होंने केवल रोबोट से अनुमान लगाने के लिए नहीं पूछा; उन्होंने उन्हें एक विशाल, वास्तविक दुनिया का सर्वेक्षण दिया जिसे 'यूरोपीय सोशल सर्वे' कहा जाता है। यह सर्वेक्षण उन सवालों से भरा था जो 29 यूरोपीय देशों के लोगों के जीवन, पैसे, धर्म और राजनीति के बारे में वास्तविक विचार और भावनाओं को दर्शाते थे। शोधकर्ताओं ने फिर रोबोट के जवाबों की तुलना 50,000 से अधिक वास्तविक मनुष्यों के जवाबों से की।

इसे पूरे महाद्वीप में खेले जाने वाले "गेस हू?" (Guess Who?) के एक विशाल खेल की तरह समझें। शोधकर्ता यह देखना चाहते थे कि क्या रोबोट के जवाब मनुष्यों के जवाबों से मेल खाते हैं, और यदि ऐसा है, तो वे किन मनुष्यों से सबसे अच्छी तरह मेल खाते हैं। क्या रोबोट स्वीडन के एक बड़े शहर में रहने वाले एक अमीर, उच्च-शिक्षित व्यक्ति की तरह लग रहे थे? या वे बुल्गारिया के एक छोटे से गाँव में रहने वाले एक सेवानिवृत्त किसान की तरह लग रहे थे?

रोबोट का एक पसंदीदा दर्शक है

परिणाम काफी स्पष्ट थे: रोबोटों का निश्चित रूप से एक पसंदीदा दर्शक है। अध्ययन में पाया गया कि एआई मॉडल उन लोगों के साथ "संरेखित" होने में (यानी, सहमति जताने में) बहुत बेहतर थे जो अमीर, अधिक शिक्षित और पश्चिमी यूरोपीय देशों में रहते थे।

एक पार्टी की कल्पना करें जहाँ डीजे (एआई) संगीत बजा रहा है। डीजे को ऐसा लगता है जैसे उसे पता है कि वीआईपी सेक्शन में बैठे अमीर, सुशिक्षित मेहमान क्या सुनना चाहते हैं। लेकिन जब डीजे कमरे के पीछे बैठे मेहमानों—कम आय वाले, कम औपचारिक शिक्षा वाले, या पूर्वी या दक्षिणी यूरोप के लोगों—के लिए गाने बजाने की कोशिश करता है, तो संगीत थोड़ा बेमेल लगता है। इन समूहों के मूल्यों को समझने में रोबोट लगातार कम सटीक रहे।

अध्ययन ने धर्म को भी देखा। यह पाया गया कि रोबोट उन लोगों को समझने में बहुत बेहतर थे जो धार्मिक नहीं थे या जो कुछ विशिष्ट ईसाई समूहों से संबंधित थे। हालाँकि, वे उन लोगों के साथ काफी संघर्ष करते थे जो मुस्लिम या ईसाइयत के पूर्वी पंथ (Eastern Orthodox) से जुड़े थे। ऐसा लगता है जैसे रोबलेट के "सांस्कृतिक शब्दकोश" में उन विशिष्ट समुदायों के लिए कुछ महत्वपूर्ण पन्ने गायब थे।

यह केवल इस बारे में नहीं है कि आप कहाँ रहते हैं

यहाँ एक मोड़ आया जिसने शोधकर्ताओं को चौंका दिया। लंबे समय से, लोगों ने माना था कि यदि आप केवल उस देश को देख लें जहाँ कोई रहता है, तो आप अनुमान लगा सकते हैं कि रोबोट उनके बारे में क्या सोचेगा। आप सोच सकते थे, "ओह, अगर मैं फ्रांस से हूँ, तो रोबोट एक फ्रांसीसी व्यक्ति की तरह सोचेगा।"

लेकिन शोधकर्ताओं ने गहराई से जांच की। उन्होंने पूछा: क्या रोबोट केवल देश से मेल खा रहा है, या वह वहाँ रहने वाले प्रकार के व्यक्ति से मेल खा रहा है? यह पता लगाने के लिए, उन्होंने एक चतुर सांख्यिकीय तकनीक (जिसे "इनवर्स प्रोपेंसिटी वेटिंग" कहा जाता है) का उपयोग किया ताकि यह दिखा सकें कि प्रत्येक देश में अमीर और गरीब, शिक्षित और कम शिक्षित लोगों का मिश्रण बिल्कुल समान है। यदि देश ही एकमात्र चीज होती, तो इस तकनीक के बाद देशों के बीच के अंतर समाप्त हो जाने चाहिए थे।

लेकिन वे नहीं हुए। यहाँ तक कि जब शोधकर्ताओं ने कागजों पर देशों को समान बना दिया, तब भी रोबोट ने अलग-अलग देशों के लोगों के साथ अलग तरह से व्यवहार किया। इसका मतलब है कि आप कहाँ रहते हैं, यह उतना ही मायने रखता है जितना कि आप कौन हैं। रोबोट केवल आपकी आय या आपकी नौकरी को नहीं देख रहा है; वह आपके पासपोर्ट को भी देख रहा है। आप जिस देश में रहते हैं और आपकी व्यक्तिगत पृष्ठभूमि, एक 'डबल-लॉक' सिस्टम की तरह मिलकर काम करती है कि रोबोट आपको कितनी अच्छी तरह समझता है।

"WEIRD" की समस्या

यह अध्ययन एक पैटर्न की पुष्टि करता है जिसे वैज्ञानिक "WEIRD" कहते हैं, जिसका अर्थ है—पश्चिमी (Western), शिक्षित (Educated), औद्योगिक (Industrialized), समृद्ध (Rich), और लोकतांत्रिक (Democratic)। रोबोट ऐसे लोगों द्वारा और उनके लिए बनाए गए लगते हैं जो इस विवरण में फिट बैठते हैं। यूरोप के भीतर भी, रोबोट उन लोगों के लिए सबसे सटीक थे जो "WEIRD" सांचे में फिट बैठते थे।

शोधकर्ताओं ने दो अलग-अलग प्रकार के प्रश्नों का परीक्षण भी किया। एक सेट व्यापक, रोजमर्रा की राय के बारे में था (जैसे "क्या आप अपनी सरकार पर भरोसा करते हैं?")। दूसरा सेट गहरे, अमूर्त मानवीय मूल्यों के बारे में था (जैसे "क्या विनम्र होना महत्वपूर्ण है?")। उन्होंने पाया कि व्यापक प्रश्नों के लिए, देश में आप जहाँ रहते थे, वह रोबोट के जवाब देने के तरीके में अंतर का एक बड़ा हिस्सा स्पष्ट करता था। लेकिन गहरे, अमूर्त प्रश्नों के लिए, देश कम मायने रखता था, और आपकी व्यक्तिगत पृष्ठभूमि (जैसे आपकी शिक्षा) अधिक मायने रखती थी। यह सुझाव देता है कि हम प्रश्न कैसे पूछते हैं, इससे रोबोट क्या सीखता है, यह बदल जाता है।

इसका आपके लिए क्या अर्थ है

बड़ी बात यह नहीं है कि रोबोट "खराब" हैं या वे बुरे हैं। बात यह है कि वे दर्पण हैं। वे उस दुनिया को दर्शाते हैं जिस पर उन्हें प्रशिक्षित किया गया है। यदि वह दुनिया मुख्य रूप से धनी, पश्चिमी, शिक्षित पृष्ठभूमि वाले लोगों की आवाजों से बनी है, तो रोबोट वैसा ही सुनाई देगा।

शोधकर्ताओं ने पाया कि यदि आप जर्मनी के एक बड़े शहर में रहने वाले एक मास्टर डिग्री वाले छात्र हैं, तो रोबोट संभवतः आपको पूरी तरह से समझ लेगा। लेकिन यदि आप यूरोप के किसी अन्य हिस्से के एक ग्रामीण गाँव के फैक्ट्री वर्कर हैं, तो रोबोट चूक सकता है। यह केवल एक छोटी सी त्रुटि नहीं है; इसका मतलब है कि जैसे-जैसे हम सलाह के लिए एआई पर अधिक निर्भर होते जा रहे हैं, हम अनजाने में उन लोगों के मूल्यों को मजबूत कर सकते हैं जो पहले से ही सबसे शक्तिशाली हैं, जबकि बाकी सभी को पीछे छोड़ देते हैं।

यह शोध पत्र यह नहीं कहता कि हमें एआई का उपयोग करना बंद कर देना चाहिए। इसके बजाय, यह सुझाव देता है कि हमें इन उपकरणों को बनाने और परीक्षण करने के तरीके के बारे में बहुत अधिक सावधान रहने की आवश्यकता है। हम केवल यह नहीं कह सकते कि, "रोबोट यूरोप के साथ संरेखित है।" हमें पूछना होगा, "किन यूरोपीय लोगों के साथ संरेखित है?" क्योंकि, जैसा कि यह अध्ययन दिखाता है, लोग केवल उनके देश नहीं होते, और रोबोटों को उनके साथ वैसा व्यवहार नहीं करना चाहिए।