Large language models perceive cities through a culturally uneven baseline
यह अध्ययन प्रकट करता है कि बड़े भाषा मॉडल शहरों को सांस्कृतिक रूप से तटस्थ दृष्टिकोण से नहीं देखते हैं, बल्कि एक सांस्कृतिक रूप से असमान आधार के माध्यम से देखते हैं जो व्यवस्थित रूप से पश्चिमी दृष्टिकोणों का पक्ष लेता है और गैर-पश्चिमी सांस्कृतिक दृष्टिकोणों के साथ संकेत दिए जाने पर भी भावनात्मक मूल्यांकनों को प्रभावित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट है जिसने इंटरनेट पर मौजूद लगभग हर किताब, लेख और वेबसाइट को पढ़ लिया है। आप उस रोबोट से एक वीडियो कैमरे के माध्यम से एक सड़क के दृश्य का वर्णन करने के लिए कहते हैं। आप सोच सकते हैं, "चूंकि उसने सब कुछ देख लिया है, इसलिए उसका दुनिया के प्रति एक पूरी तरह से संतुलित, तटस्थ दृष्टिकोण होना चाहिए।"
यह शोध पत्र एक जासूसी कहानी की तरह है जो यह सिद्ध करता है कि वह रोबोट बिल्कुल भी तटस्थ नहीं है। वास्तव में, वह दुनिया को एक बहुत ही विशिष्ट, सांस्कृतिक रूप से पक्षपाती चश्मे के माध्यम से देखता है जिसे वह खुद भी नहीं पहचान पाता।
यहाँ शोधकर्ताओं द्वारा की गई खोजों का विवरण दिया गया, जिसमें कुछ रोजमर्रा के उपमाओं (analogies) का उपयोग किया गया है:
1. "तटस्थ" सेटिंग एक धोखा है
शोधकर्ताओं ने तीन अलग-अलग AI मॉडल (इन्हें तीन अलग-अलग सुपर-इंटेलिजेंट छात्रों के रूप में समझें) से दुनिया भर के 3,000 सड़क दृश्यों का वर्णन करने के लिए कहा। सबसे पहले, उन्होंने उनसे बस "बताओ कि तुम क्या देख रहे हो" (Neutral प्रॉम्प्ट) पूछा।
खोज: भले ही AI को तटस्थ रहने के लिए कहा गया था, लेकिन इसका वर्णन बिल्कुल वैसा ही था जैसे यूरोप या उत्तरी अमेरिका का कोई व्यक्ति देख रहा हो।
- उपमा: कल्पना कीजिए कि आप लोगों के एक समूह से एक "मानक" कॉफी का वर्णन करने के लिए कहते हैं। यदि आप सिएटल के एक बरिस्ता, इथियोपिया के एक किसान और जापान के एक चाय पीने वाले से पूछते हैं, तो वे सभी इसे अलग तरह से वर्णित करेंगे। लेकिन यदि आप एक ऐसे रोबोट से पूछते हैं जिसे मुख्य रूप से अमेरिकी और यूरोपीय इंटरनेट डेटा पर प्रशिक्षित किया गया है, और आप उसे "तटस्थ" होने के लिए कहते हैं, तो वह कॉफी का वर्णन ठीक वैसे ही करेगा जैसे सिएटल का बरिस्ता करेगा। वह सोचता है कि उसका संस्करण "डिफ़ॉल्ट" है, लेकिन वास्तव में यह केवल एक विशिष्ट सांस्कृतिक स्वाद है।
2. "रोल-प्ले" प्रयोग
इसकी जांच करने के लिए, शोधकर्ताओं ने AI को कहा: "कल्पना करो कि तुम [एक विशिष्ट क्षेत्र, जैसे कि उप-सहारा अफ्रीका या लैटिन अमेरिका] के एक व्यक्ति हो जो इस सड़क को देख रहा है।"
खोज:
- बदलाव: जब AI ने किसी अन्य संस्कृति का होने का नाटक किया, तो उसके वर्णन में बदलाव आया। उसने अलग-अलग चीजें देखना और अलग-अलग शब्दों का उपयोग करना शुरू कर दिया।
- पेंच: हालांकि, "तटस्थ" (Neutral) वर्णन अभी भी यूरोप/उत्तरी अमेरिका वाले संस्करण के सबसे करीब था। अन्य संस्कृतियों को एक अलग परिप्रेक्ष्य तक पहुँचने के लिए AI के मन में बहुत लंबी यात्रा करनी पड़ी।
- उपमा: AI के मन को एक मानचित्र की तरह समझें। "तटस्थ" बिंदु मानचित्र के बीच में नहीं है; यह लंदन या न्यूयॉर्क में अटका हुआ है। जब आप AI को टोक्यो से होने का नाटक करने के लिए कहते हैं, तो उसे वहां तक पहुँचने के लिए एक लंबा, घुमावदार रास्ता तय करना पड़ता है। जब आप उसे लंदन से होने के लिए कहते हैं, तो वह पहले से ही वहीं खड़ा होता है। AI की दुनिया का "केंद्र" पूरी दुनिया नहीं है; यह पश्चिम (West) है।
3. "हाइप" फैक्टर (बहुत अधिक सकारात्मक)
शोधकर्ताओं ने यह भी जांचा कि AI इन जगहों के बारे में कैसा महसूस करता है।
- खोज: AI अत्यधिक सकारात्मक था। जब इंसान एक कठिन, व्यस्त या थोड़े उदास सड़क का वर्णन करते हैं, तो वे कह सकते हैं, "यह अराजक है लेकिन जीवंत है," या "यह थोड़ा पुराना लगता है।" हालांकि, AI अक्सर कहता था, "यह जीवंत और जीवन से भरपूर है!" भले ही तस्वीर खराब दिख रही हो।
- उपमा: यह एक ऐसे पर्यटक की तरह है जो शहर के केवल पोस्टकार्ड वाले संस्करण को ही देखता है। सड़क कितनी भी अस्त-व्यस्त क्यों न हो, AI गुलाबी चश्मा पहन लेता है और कहता है, "कितनी सुंदर, ऊर्जावान जगह है!" उसमें उस गंदगी या उदासी को देखने की सूक्ष्मता (nuance) की कमी है जो एक स्थानीय इंसान देख सकता है।
4. "सुरक्षा" और "धन" का पूर्वाग्रह
दूसरे भाग में, AI को "यह कितना सुरक्षित है?" या "यह कितना समृद्ध दिखता है?" जैसी चीजों पर रेटिंग देनी थी।
- खोज: AI की रेटिंग बहुत अधिक बदल गई, यह इस पर निर्भर करता था कि वह किस "संस्कृति" का नाटक कर रहा है। लेकिन फिर से, "तटस्थ" रेटिंग लगभग पश्चिमी रेटिंग के समान ही थी।
- उपमा: कल्पना कीजिए कि एक जज एक घर के बारे में निर्णय ले रहा है कि वह "सुरक्षित" है या नहीं। यदि जज एक धनी उपनगर (suburb) से है, तो वह एक बाड़ (fence) को "सुरक्षात्मक" मान सकता है। यदि जज किसी अन्य संस्कृति से है, तो वह उसी बाड़ को "अलग-थलग करने वाला" देख सकता है। AI का "डिफ़ॉल्ट जज" धनी उपनगर का जज है, और उसे एहसास नहीं है कि अन्य जज उस बाड़ को अलग तरह से देख सकते हैं।
5. यह क्यों महत्वपूर्ण है
शोध पत्र निष्कर्ष निकालता है कि ये AI मॉडल "कहीं से भी नहीं" देख रहे हैं। वे एक सांस्कृतिक रूप से असमान आधार रेखा (baseline) से देख रहे हैं।
- बड़ी तस्वीर: यदि हम इन AI का उपयोग शहरों की योजना बनाने, सुरक्षा का निर्णय लेने या पड़ोस को डिजाइन करने में मदद करने के लिए करते हैं, तो हम अनजाने में यह सोच सकते हैं कि शहर को देखने का "पश्चिमी" तरीका ही एकमात्र सही तरीका है। हम यह सोच सकते हैं कि कोई मोहल्ला "असुरक्षित" है क्योंकि AI ऐसा कहता है, यह जाने बिना कि AI केवल अपनी सांस्कृतिक धारणाओं को छवि पर थोप रहा है।
निष्कर्ष (Takeaway)
लार्ज लैंग्वेज मॉडल्स (LLMs) को एक दर्पण के रूप में न देखें जो पूरी दुनिया को पूरी तरह से प्रतिबिंबित करता है, बल्कि एक फनहाउस मिरर (funhouse mirror) के रूप में देखें जो थोड़ा झुका हुआ है। यह दुनिया को प्रतिबिंबित करता है, लेकिन यह यूरोप और उत्तरी अमेरिका की छवि को बड़ा और अधिक "सामान्य" दिखाने के लिए खींच देता है, जबकि अन्य संस्कृतियों को पृष्ठभूमि में दबा देता है।
शोधकर्ता हमें चेतावनी दे रहे हैं: AI को तटस्थ होने के लिए भरोसा न करें। यदि आप चाहते हैं कि वह दुनिया को एक स्थानीय व्यक्ति की तरह देखे, तो आपको उसे स्पष्ट रूप से एक स्थानीय होने के लिए कहना होगा, और तब भी, यह केवल एक नकल है, वास्तविक मानवीय अनुभव नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।