Evidence of political bias in search engines and language models before major elections
यह शोध पत्र 2024 के यूरोपीय और अमेरिकी चुनावों से पहले खोज इंजनों (सर्च इंजन) और भाषा मॉडलों के एक बड़े पैमाने के ऑडिट को प्रस्तुत करता है, जो व्यवस्थित राजनीतिक पूर्वाग्रहों—जैसे कि यूरोप में दक्षिणपंथी कट्टरपंथी संस्थाओं का अत्यधिक प्रतिनिधित्व और अमेरिका में विविध मुद्दों की प्राथमिकता में भिन्नता—को प्रकट करता है, जो लोकतांत्रिक प्रक्रियाओं की रक्षा के लिए नियमित एल्गोरिदम जांच की आवश्यकता को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, हलचल भरे पुस्तकालय में खड़े हैं, जो एक बड़े चुनाव से ठीक पहले का समय है। आप लाइब्रेरियन से पूछते हैं, "मुझे किसे वोट देना चाहिए?" या "सबसे महत्वपूर्ण मुद्दे क्या हैं?"
आप उम्मीद करते हैं कि लाइब्रेरियन आपको सभी उम्मीदवारों और पार्टियों का प्रतिनिधित्व करने वाली किताबों का एक संतुलित ढेर थमा देगा, जो लगभग उस अनुपात में हो जैसे वास्तव में कितने लोग उन्हें समर्थन देते हैं। लेकिन क्या होगा यदि लाइब्रेरियन, आपकी जानकारी के बिना, आपको "दक्षिणपंथी" (Far-Right) अनुभाग की किताबें देता रहे, भले ही उन उम्मीदवारों की लोकप्रियता कम हो? या क्या होगा यदि वे "ग्रीन" (Green) अनुभाग को पूरी तरह से अनदेखा कर दें?
यही वह चीज़ है जिसकी यह शोध पत्र जांच करता है। लेखकों ने "सीक्रेट शॉपर" (कंप्यूटर "बॉट्स" का उपयोग करके) बनकर इंटरनेट के "लाइब्रेरियन" का परीक्षण किया: सर्च इंजन (जैसे Google, Bing) और AI चैटबॉट्स (जैसे ChatGPT, Copilot)। उन्होंने यह परीक्षण यूरोपीय संसद के 2024 के चुनावों और अमेरिकी राष्ट्रपति चुनाव के ठीक पहले किया।
यहाँ उनके निष्कर्षों का विवरण दिया गया है, कुछ सरल उपमाओं का उपयोग करते हुए:
1. सेटअप: "सीक्रेट शॉपर" टेस्ट
शोधकर्ताओं ने केवल एक प्रश्न नहीं पूछा। उन्होंने पांच यूरोपीय देशों और 15 अमेरिकी काउंटियों में 25 अलग-अलग "बॉट्स" (इंसानों का नाटक करने वाले कंप्यूटर प्रोग्राम) भेजे।
- प्रश्न: उन्होंने "आपको किसे वोट देना चाहिए?" या "मुख्य मुद्दे क्या हैं?" जैसे तटस्थ प्रश्न पूछे। उन्होंने निष्पक्ष रहने के लिए "क्या उम्मीदवार X अच्छा है?" जैसे प्रश्न पूछने से परहेज किया।
- लक्ष्य: यह देखना कि क्या खोज परिणाम या AI उत्तर स्वाभाविक रूप से एक राजनीतिक पक्ष की ओर झुके हुए थे, या क्या वे वास्तव में तटस्थ थे।
2. यूरोपीय परिणाम: "एम्प्लीफायर" (प्रवर्धक) प्रभाव
यूरोप में, शोधकर्ताओं ने एक अजीब विरूपण पाया।
- निष्कर्ष: सर्च इंजन और AI ने दक्षिणपंथी (Far-Right) पार्टियों और राजनेताओं का उल्लेख वास्तविक सर्वेक्षणों, पिछले चुनावी परिणामों, या यहाँ तक कि इस बात पर कितनी चर्चा हो रही है, इसके आधार पर मिलने वाले "हक" से कहीं अधिक बार किया।
- उपमा: कल्पना कीजिए कि एक कॉन्सर्ट में एक बैंड प्रदर्शन कर रहा है। दक्षिणपंथी बैंड वास्तव में एक छोटा, शांत गाना बजा रहा था जिसे भीड़ का केवल 10% हिस्सा पसंद करता था। लेकिन सर्च इंजन ने एक विशाल माइक्रोफोन और स्पीकर सिस्टम की तरह काम किया जिसने उनकी आवाज़ को 100% तक बढ़ा दिया, जिससे ऐसा लगा कि वे मुख्य कलाकार हैं, जबकि अन्य बैंड (मुख्यधारा के वामपंथी, ग्रीन, आदि) मुश्किल से सुनाई दे रहे थे।
- आश्चर्य: यह उन देशों में भी हुआ जहाँ दक्षिणपंथी पार्टियाँ सर्वेक्षणों में बहुत पीछे थीं। एल्गोरिदम में इस तरह की सामग्री के प्रति एक "भूख" दिखाई दी, चाहे वास्तविकता कुछ भी हो।
3. अमेरिकी परिणाम: "इश्यू फ़िल्टर" (मुद्दा फ़िल्टर)
अमेरिका में कहानी थोड़ी अलग थी क्योंकि वहां की व्यवस्था मुख्य रूप से दो पार्टियों (डेमोक्रेट्स बनाम रिपब्लिकन) के इर्द-गिर्द घूमती है।
- निष्कर्ष: जब उम्मीदवारों के बारे में पूछा गया, तो परिणाम काफी संतुलित थे। लेकिन जब मुद्दों (जैसे अप्रवासन, गर्भपात, या अर्थव्यवस्था) के बारे में पूछा गया, तो Google ने उन विषयों को अत्यधिक प्राथमिकता दी जो रिपब्लिकन सबसे अधिक पसंद करते हैं।
- उपमा: कल्पना कीजिए कि आप एक टूर गाइड से पूछते हैं, "मुझे इस शहर में क्या देखना चाहिए?"
- यदि आप एक Google टूर गाइड से पूछते हैं, तो वे आपको केवल वही संग्रहालय और पार्क दिखाते हैं जिन्हें रिपब्लिकन पर्यटक पसंद करते हैं, भले ही शहर वास्तव में अन्य चीजों से भरा हो।
- अन्य सर्च इंजन (जैसे Bing या DuckDuckGo) अधिक संतुलित थे, जो दोनों पक्षों द्वारा पसंद किए जाने वाले विषयों का मिश्रण दिखा रहे थे।
- AI ट्विस्ट: AI चैटबॉट्स (ChatGPT और Copilots) आम तौर पर Google की तुलना में अधिक संतुलित थे, लेकिन उनकी अपनी कुछ विशेषताएं थीं। वे कभी-कभी जवाब देने से मना कर देते थे (यह कहते हुए कि "मैं इस बारे में बात नहीं कर सकता") और कभी-कभी ग्रीन पार्टियों का बहुत अधिक उल्लेख करते थे, शायद "सुरक्षित" या "तटस्थ" दिखने की बहुत अधिक कोशिश में।
4. यह क्यों मायने रखता है? "इको चैंबर" का जाल
लेखक तर्क देते हैं कि यह केवल एक मामूली गड़बड़ी नहीं है; यह लोकतंत्र के लिए एक खतरा है।
- "लेट डिसाइडर" (देर से निर्णय लेने वाले) की समस्या: कई मतदाता चुनाव से ठीक एक सप्ताह पहले तक अपना मन नहीं बना लेते हैं। ये वे लोग हैं जिनके द्वारा Google पर प्रश्न टाइप करने की संभावना सबसे अधिक होती है।
- खतरा: यदि "लाइब्रेरियन" (एल्गोरिदम) आपको एक विशिष्ट अनुभाग से किताबें देता रहता है, तो आप यह सोचने लग सकते हैं कि वही एकमात्र महत्वपूर्ण अनुभाग है। आप किसी उम्मीदवार या नीति के लिए इसलिए वोट दे सकते हैं क्योंकि एल्गोरिदम ने इसे ऐसा दिखाया कि यही एकमात्र विकल्प मौजूद है, न कि इसलिए कि वह आपकी पसंद है।
5. "ब्लैक बॉक्स" रहस्य
पेपर स्वीकार करता है कि हमें ठीक से नहीं पता कि ऐसा क्यों होता है।
- क्या यह डेटा है? शायद इंटरनेट पहले से ही दक्षिणपंथी सामग्री से भरा है, और AI ने बस उससे सीखा है।
- क्या यह क्लिक हैं? शायद लोग दक्षिणपंथी लिंक पर अधिक क्लिक करते हैं, इसलिए एल्गोरिदम सोचता है, "ओह, लोग इसे पसंद करते हैं, चलो इसे और दिखाएं!"
- एक दुष्चक्र: यह एक लूप है। एल्गोरिदम आपको सामग्री दिखाता है आप उस पर क्लिक करते हैं एल्गोरिदम सोचता है कि यह लोकप्रिय है वह इसे और अधिक लोगों को दिखाता है।
निचोड़
पेपर निष्कर्ष निकालता है कि तटस्थता एक भ्रम है। भले ही आप एक सरल, तटस्थ प्रश्न पूछें, जिस तकनीक का आप हर दिन उपयोग करते हैं वह चुपचाप आपकी राजनीतिक दुनिया को आकार दे रही है।
सीख: सिर्फ इसलिए कि कोई खोज परिणाम सूची में सबसे ऊपर है, इसका मतलब यह नहीं है कि वह "सत्य" या "सबसे लोकप्रिय" है। यह केवल वही हो सकता है जिसे एल्गोरिदम ने हाइलाइट करने का निर्णय लिया है। हमें इन अदृश्य फिल्टरों के प्रति अधिक जागरूक होने की आवश्यकता है, ठीक वैसे ही जैसे हम पक्षपाती समाचार रिपोर्टरों के प्रति जागरूक होते हैं। लेखक इन "डिजिटल लाइब्रेरियन" की लगातार जांच करने के लिए स्वतंत्र ऑडिटर्स की मांग कर रहे हैं ताकि यह सुनिश्चित हो सके कि वे गुप्त रूप से खेल को बिगाड़ नहीं रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।