Empire Amplifier: Uncovering and Contesting the Prioritization of Colonial Content on Platforms Through Community-Informed Algorithmic Auditing
यूट्यूब के एक समुदाय-सूचित एल्गोरिदम ऑडिट के माध्यम से, यह अध्ययन प्रकट करता है कि प्लेटफॉर्म की अनुशंसा प्रणाली बच्चों के उपयोगकर्ताओं के लिए किर्गिज़ की तुलना में रूसी-भाषा की सामग्री को असमान रूप से प्राथमिकता देती है, जिससे औपनिवेशिक भाषाई विचारधाराओं को सुदृढ़ता मिलती है और विविध आवाजों को बढ़ाने के दावों के बावजूद स्वदेशी भाषा के पुनरुद्धार के लिए खतरा पैदा होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक जादुई, अनंत पुस्तकालय है जिसे YouTube कहा जाता है। इस पुस्तकालय का मालिक (एल्गोरिदम) एक बहुत ही उत्साही, अति-सुरक्षात्मक लाइब्रेरियन की तरह है जो यह अनुमान लगाने की कोशिश करता है कि आप आगे क्या पढ़ना चाहते हैं।
यह शोध पत्र इस बारे में है कि कैसे शोधकर्ताओं का एक समूह किर्गिस्तान गया, जो मध्य एशिया का एक देश है, यह जांचने के लिए कि क्या यह लाइब्रेरियन वास्तव में स्थानीय लोगों की मदद कर रहा था या क्या वह अनजाने में (या जानबूझकर) उन्हें एक अलग संस्कृति की ओर धकेल रहा था।
यहाँ उनकी खोज की कहानी है, जिसे सरल शब्दों में बताया गया है:
बड़ी चिंता: "पुस्तकालय हमारी भाषा चुरा रहा है"
लंबे समय से, किर्गिस्तान के लोग चिंतित हैं। वे अपनी मातृभाषा किर्गिज़ बोलते हैं, लेकिन वे रूसी भी बोलते हैं क्योंकि रूसी साम्राज्य और सोवियत संघ के साथ उनके इतिहास के कारण वे इसे बोलते हैं।
किर्गिस्तान के माता-पिता ने कुछ डरावना नोटिस किया: उनके बच्चे किर्गिज़ से ज्यादा रूसी बोलने लगे थे। उन्होंने इसके लिए "जादुई पुस्तकालय" (YouTube) को जिम्मेदार ठहराया। उन्हें लगा कि भले ही वे अपने बच्चों को किर्गिज़ कार्टून दिखाने की कोशिश करें, पुस्तकालय उन्हें रूसी वीडियो थमाता रहता है। उन्हें डर था कि पुस्तकालय उनके बच्चों को यह सिखा रहा है कि रूसी "कूल" है और किर्गिज़ "बोरिंग" है, जिससे प्रभावी रूप से उनकी संस्कृति मिट रही है।
जांच: "सॉक पपेट" (Sock Puppet) टेस्ट
शोधकर्ताओं ने केवल माता-पिता से नहीं पूछा; वे सबूत चाहते थे। इसलिए, उन्होंने डिजिटल "सॉक पपेट्स" बनाए।
इन सॉक पपेट्स को रोबोट पुतलों के रूप में सोचें।
- उन्होंने सैकड़ों ऐसे रोबट बनाए।
- कुछ रोबोटों ने राजधानी शहर में नए उपयोगकर्ताओं होने का नाटक किया।
- कुछ ने एक बहुत ही छोटे, दूरदराज के गाँव में नए उपयोगकर्ताओं होने का नाटक किया जहाँ लगभग कोई रूसी नहीं बोलता।
- कुछ ने बच्चों होने का नाटक किया जिन्हें किर्गिज़ कार्टून पसंद हैं।
- कुछ ने बच्चों होने का नाटक किया जिन्हें रूसी कार्टून पसंद हैं।
ये रोबोट पुस्तकालय में गए, वीडियो पर क्लिक किए, और ठीक से लिखा कि लाइब्रेरियन ने आगे क्या सिफारिश (recommend) की। उन्होंने यह 10,000 बार से अधिक किया।
चौंका देने वाले परिणाम
रोबोटों ने पाया कि लाइब्रेरियन स्थानीय संस्कृति को नहीं सुन रहा था। यहाँ क्या हुआ:
- "न्यू यूजर" की समस्या: भले ही एक रोबोट पहली बार एक ऐसे दूरदराज के गाँव में पुस्तकालय में गया जहाँ कोई भी रूसी नहीं बोलता, लाइब्रेरियन ने तुरंत रूसी वीडियो की सिफारिश की। इससे कोई फर्क नहीं पड़ता था कि रोबोट कहाँ था; लाइब्रेरियन ने मान लिया कि हर कोई रूसी सामग्री चाहता है।
- "बच्चे" की समस्या: जब रोबोटों ने उन चीजों को खोजने का नाटक किया जो बच्चों को पसंद होती हैं (जैसे "कार्टून" या "परिकथाएं"), तो लाइब्रेरियन ने उन्हें ज्यादातर रूसी परिणाम दिए, भले ही रोबोट ने खोज शब्द किर्गिज़ में टाइप किए हों।
- "फिल्टर बबल" का जाल: यह सबसे आश्चर्यजनक हिस्सा था। जब रोबोटों ने उन बच्चों की तरह व्यवहार किया जिन्हें किर्गिज़ सामग्री बहुत पसंद है (लगातार 10 किर्गिज़ कार्टून देखना), तो लाइब्रेरियन ने किर्गिज़ वीडियो की सिफारिश करना बंद कर दिया! वास्तव में इसने अंग्रेजी या रूसी वीडियो की सिफारिश करना शुरू कर दिया।
- उपमा: कल्पना कीजिए कि आप एक दोस्त से कहते हैं, "मैं केवल सेब खाना चाहता हूँ।" वे आपको एक सेब लाते हैं, लेकिन फिर वे कहते हैं, "ठीक है, अब जब आपने एक खा लिया है, तो यहाँ संतरों और केलों की एक पूरी टोकरी है क्योंकि मुझे लगता है कि आप सेबों से ऊब गए हैं।" पुस्तकालय ने बच्चों को उनकी अपनी संस्कृति को पसंद करने के लिए दंडित किया।
ऐसा क्यों होता है?
शोधकर्ताओं ने यह जांचा कि क्या केवल किर्गिज़ वीडियो की कमी थी। उन्होंने पाया कि वहाँ किर्गिज़ बच्चों की सामग्री के हजारों घंटों का भंडार मौजूद था, जिसमें सरकार और यूनिसेफ (UNICEF) जैसे बड़े अंतरराष्ट्रीय समूहों द्वारा बनाई गई शो भी शामिल थे।
समस्या सामग्री की कमी नहीं थी। समस्या एल्गोरिदम के दिमाग की थी। ऐसा लग रहा था कि यह "साम्राज्य" की भाषा (रूसी) को स्थानीय भाषा पर प्राथमिकता देने के लिए बना हुआ है, जो पुरानी सत्ता संरचनाओं को मजबूत करता है जहाँ उपनिवेशवादी की संस्कृति को श्रेष्ठ माना जाता है।
अच्छी खबर: मुकाबला कैसे करें
शोधकर्ताओं ने केवल समस्या की ओर इशारा नहीं किया; उन्होंने माता-पिता से पूछा, "हम क्या कर सकते हैं?" और कुछ विचारों का परीक्षण किया। उन्होंने लाइब्रेरियन को चकमा देने के लिए कुछ "हैक्स" पाए:
- डिवाइस साझा करें: यदि बच्चा अपने खुद के फोन का उपयोग करता है, तो पुस्तकालय सोचता है कि वह एक "रूसी बच्चा" है और उसे रूसी वीडियो दिखाता है। लेकिन यदि बच्चा एक पारिवारिक टैबलेट साझा करता है जिसे माता-पिता देखते हैं जो किर्गिज़ सामग्री देखते हैं, तो पुस्तकालय भ्रमित हो जाता है। वह माता-पिता के इतिहास को देखता है और बच्चे को भी किर्गिज़ वीडियो की सिफारिश करने लगता है।
- खोज का अनुवाद करें: यदि बच्चा रूसी में किसी वीडियो के लिए पूछता है, तो माता-पिता टाइप करने से पहले उस अनुरोध का किर्गिज़ में अनुवाद कर सकते हैं। यह पुस्तकालय को किर्गिज़ परिणाम दिखाने के लिए मजबूर करता है।
मुख्य निष्कर्ष
शोध पत्र यह निष्कर्ष निकालता है कि जबकि प्रौद्योगिकी कंपनियाँ अक्सर कहती हैं, "हम यहाँ हर किसी को अपनी संस्कृति साझा करने में मदद करने के लिए हैं," इस मामले में, तकनीक वास्तव में एक साम्राज्य को बढ़ा रही थी। यह एक स्थानीय संस्कृति को जीवित रहने में कठिन बना रही थी।
हालाँकि, कहानी निराशाजनक नहीं है। यह समझकर कि लाइब्रेरियन कैसे काम करता है, परिवार सरल ट्रिक्स (जैसे डिवाइस साझा करना) का उपयोग करके नियंत्रण वापस ले सकते हैं और यह सुनिश्चित कर सकते हैं कि उनके बच्चे अपनी भाषा और संस्कृति देखें, न कि केवल वही जो एल्गोरिदम को लगता है कि उन्हें देखना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।