Large language models create an uneven informational layer over cities
यह अध्ययन प्रकट करता है कि बड़े भाषा मॉडल डिजिटल रूप से विरल क्षेत्रों में स्थानों का व्यवस्थित रूप से निर्माण करके और लगभग आधे वास्तविक प्रतिष्ठानों की चुनिंदा रूप से अनदेखी करके शहरों के ऊपर एक असमान सूचनात्मक परत बना देते हैं, जिससे आर्थिक दृश्यता और राजस्व का पुनर्वितरण उन तरीकों से होता है जो स्वतंत्र भोजन (डाइनिंग) के पक्ष में होते हैं और विभिन्न पड़ोसों एवं उपयोगकर्ता जनसांख्यिकीओं में शहरी असमानता को बढ़ाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक शहर की कल्पना एक विशाल, हलचल भरे बाज़ार के रूप में करें। लंबे समय तक, यदि आप खाने की जगह ढूंढना चाहते थे, तो आपको अपनी याददाश्त, एक भौतिक मानचित्र, या अन्य लोगों द्वारा लिखे गए समीक्षाओं की सूची पर भरोसा करना पड़ता था। ये उपकरण आपको वह सब कुछ दिखाते थे जो मौजूद था, भले ही कुछ स्थान सूची के निचले हिस्से में हों। आप नीचे स्क्रॉल कर सकते थे और छिपे हुए रत्नों, चेन रेस्टोरेंट्स और स्थानीय पसंदीदा स्थानों को देख सकते थे।
अब, कल्पना करें कि इस बाज़ार के ऊपर कांच की एक नई, अदृश्य परत रख दी गई है। यह कांच लार्ज लैंग्वेज मॉडल्स (LLMs) से बना है—वे स्मार्ट AI चैटबॉट्स जिनका उपयोग हम "बोस्टन में मुझे कहाँ खाना चाहिए?" जैसे प्रश्न पूछने के लिए करते हैं।
यह शोध पत्र जांच करता है कि जब हम इस नए कांच के माध्यम से शहर को देखते हैं तो क्या होता है। शोधकर्ताओं ने पाया कि यह कांच न केवल हमें शहर दिखाता है; बल्कि यह इसे सक्रिय रूप से पुनर्गठित (reshape) भी करता है, जो अक्सर अनुचित और असमान तरीकों से होता है। यहाँ उनके द्वारा की गई खोजों का सरल अवधारणाओं में विवरण दिया गया है:
1. "भूतिया" रेस्टोरेंट्स (चीजें बनाना)
कभी-कभी, जब आप AI से किसी रेस्टोरेंट के बारे में पूछते हैं, तो वह ऐसी जगहें बना देता है जो वास्तव में अस्तित्व में ही नहीं हैं।
- उपमा: यह एक ऐसे टूर गाइड की तरह है जो, एक छोटे, शांत पड़ोस के बारे में पूछे जाने पर, आत्मविश्वास से एक शानदार कैफे की ओर इशारा करता है जो कभी बनाया ही नहीं गया था।
- निष्कर्ष: AI इन "भूतिया" रेस्टोरेंट्स को सबसे अधिक तब बनाता है जब वे ऐसे पड़ोसों में होते हैं जो गरीब, कम आबादी वाले, या जहाँ कम लोग ऑनलाइन मौजूद हैं। यदि किसी पड़ोस की "डिजिटल फुटप्रिंट" (कम समीक्षाएं, कम लोग इंटरनेट पर) मजबूत नहीं है, तो AI के वहां एक फर्जी जगह बनाने की संभावना अधिक होती है।
- समाधान: जब शोधकर्ताओं ने AI को केवल वास्तविक रेस्टोरेंट्स की सूची में से चुनने के लिए मजबूर किया, तो वे फर्जी रेस्टोरेंट्स गायब हो गए। इसका मतलब है कि AI केवल अनुमान लगा रहा था क्योंकि उसके पास सही डेटा नहीं था, न कि इसलिए कि वह बुरा व्यवहार करने की कोशिश कर रहा था।
2. "अदृश्य" रेस्टोरेंट्स (असली रेस्टोरेंट्स को अनदेखा करना)
भले ही AI को वास्तविक रेस्टोरेंट्स की सूची में से चुनने के लिए मजबूर किया जाए, फिर भी यह बड़ी संख्या में रेस्टोरेंट्स को अनदेखा कर देता है।
- उपमा: कल्पना करें कि एक मेनू में 100 व्यंजन हैं। AI हर किसी को उनमें से केवल 3 या 4 की सिफारिश करता है, चाहे कोई भी पूछ रहा हो। बाकी 96 व्यंजन पूरी तरह से अदृश्य हैं, जैसे कि उनका अस्तित्व ही न हो।
- निष्कर्ष: लगभग 47.5% वास्तविक रेस्टोरेंट्स को AI ने कभी भी रिकमेंड (सिफारिश) नहीं किया, भले ही AI जानता था कि वे वहां मौजूद हैं। यह केवल एक गलती नहीं है; यह एक पैटर्न है। AI लगातार कुछ विशेष प्रकार के स्थानों को अनदेखा करता है, विशेष रूप से विशिष्ट पड़ोसों में।
- साझा अंधापन (Shared Blind Spot): शोधकर्ताओं ने तीन अलग-अलग AI मॉडल (अलग-अलग कंपनियों के) का परीक्षण किया। उन्होंने पाया कि अनदेखा किए गए रेस्टोरेंट्स में से 31.9% तीनों मॉडल्स के लिए एक ही थे। यह सुझाव देता है कि यह पूर्वाग्रह किसी एक कंपनी के कोड की खराबी नहीं है; बल्कि यह एक साझा आदत है जो इंटरनेट डेटा के उसी पूल से सीखी गई है।
3. "व्यक्तिगत" लेंस (अलग लोग, अलग शहर)
सबसे आश्चर्यजनक बात यह है कि AI अलग-अलग लोगों को एक अलग शहर दिखाता है, भले ही वे एक ही स्थान पर खड़े हों।
- उपमा: कल्पना करें कि दो लोग एक ही कोने पर खड़े हैं। एक अमीर पर्यटक है, और दूसरा कम आय वाला स्थानीय निवासी है।
- अमीर पर्यटक को महंगे, ट्रेंडी और दूर के स्थानों के बारे में बताया जाता है जो कम भीड़भाड़ वाले हैं।
- स्थानीय निवासी को सस्ते, बहुत लोकप्रिय और पास के स्थानों के बारे में बताया जाता है।
- बच्चों को मुख्यधारा के, कम लागत वाले स्थानों के बारे में बताया जाता है।
- पुरुषों और महिलाओं को भी थोड़े अलग प्रकार के स्थानों के बारे में दिखाया जाता है।
- निष्कर्ष: AI केवल आपके प्रश्न का उत्तर नहीं देता; वह आपके विवरण के आधार पर यह अनुमान लगाता है कि आप कौन हैं और फिर दुनिया को उस चीज़ के अनुरूप फ़िल्टर करता है जो उसके अनुसार आपके जैसे लोगों को पसंद आती है। वह मान लेता है कि अमीर लोग अनोखे भोजन के लिए दूर यात्रा करना पसंद करते हैं, जबकि स्थानीय लोग परिचित, सस्ते स्थानों तक ही सीमित रहते हैं।
4. आर्थिक प्रभाव (कौन जीतता है और कौन हारता है)
यदि सभी लोग इन AI सिफारिशों पर भरोसा करने लगें, तो शहर की अर्थव्यवस्था अलग तरह से चलेगी।
- उपमा: शहर की अर्थव्यवस्था को पाइपों के माध्यम से बहते पानी के रूप में सोचें। AI एक वाल्व की तरह काम करता है जो पानी को पुनर्निर्देशित (redirect) करता है।
- निष्कर्ष: AI लोगों को फास्ट-फूड चेन (जैसे मैकडॉनल्ड्स) और क्विक-सर्विस कैफे से दूर और स्वतंत्र, फुल-सर्विस रेस्टोरेंट्स (जैसे स्थानीय सिट-डाउन डाइनर) की ओर धकेलता है।
- स्वतंत्र रेस्टोरेंट्स को संभवतः अधिक ग्राहक और पैसा मिलेगा।
- बड़ी चेन को राजस्व में महत्वपूर्ण कमी का सामना करना पड़ेगा।
- फास्ट फूड स्थान, जो अक्सर कीमत के प्रति संवेदनशील ग्राहकों की सेवा करते हैं, सबसे बड़े नुकसान उठाने वाले होंगे।
मुख्य चित्र (The Big Picture)
यह शोध पत्र निष्कर्ष निकालता है कि ये AI मॉडल हमारे शहरों के लिए एक चयनात्मक फिल्टर (selective filter) के रूप में कार्य कर रहे हैं। वे केवल यह नहीं दिखा रहे हैं कि वहां क्या है; बल्कि वे यह तय कर रहे हैं कि क्या दिखना चाहिए।
- स्थानों के लिए: यदि कोई रेस्टोरेंट किसी गरीब पड़ोस में है या उसकी ऑनलाइन समीक्षाएं कम हैं, तो AI ऐसा दिखा सकता है कि उसका अस्तित्व ही नहीं है।
- लोगों के लिए: AI रूढ़ियों (stereotypes) को पुख्ता करता है कि कौन कहाँ जाता है, जिससे संभावित रूप से विभिन्न समूहों को शहर के अपने ही "बुलबुलों" (bubbles) में सीमित रखा जा सकता है।
लेखक चेतावनी देते हैं कि यदि हम इन उपकरणों पर बहुत अधिक निर्भर करते हैं, तो हम अनजाने में एक ऐसा शहर बना सकते हैं जहाँ कुछ पड़ोस और कुछ प्रकार के व्यवसाय अदृश्य हो जाते हैं, इसलिए नहीं कि वे बुरे हैं, बल्कि इसलिए क्योंकि AI ने उन्हें दिखाने का निर्णय लिया था। यह एक नया प्रकार का "डिजिटल असमानता" है जो हमारी भौतिक सड़कों के ऊपर एक परत की तरह बिछा हुआ है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।