Beyond the Feed: How Generative AI is Reshaping Children's Social Media Ecologies in the Global South
यह शोध पत्र एक "दोहरा मध्यस्थता" (double mediation) ढांचा प्रस्तावित करता है ताकि यह विश्लेषण किया जा सके कि कैसे जनरेटिव एआई और प्लेटफॉर्म डेटा लॉजिक्स संयुक्त रूप से ग्लोबल साउथ में बच्चों के सोशल मीडिया अनुभवों को नया आकार देते हैं, जिसमें मिस्र को एक केस स्टडी के रूप में उपयोग करते हुए यह तर्क दिया गया है कि वर्तमान आयु-प्रतिबंध नीतियां इन एआई प्रणालियों में अंतर्निहित जटिल सांस्कृतिक और भाषाई पूर्वाग्रहों को संबोधित करने में विफल रहती हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
द दशकों से, बच्चे ऑनलाइन कैसे बड़े होते हैं, इस अध्ययन ने स्क्रीन को एक खिड़की के रूप में देखा है। शोधकर्ताओं ने लंबे समय से समझा है कि सोशल मीडिया प्लेटफॉर्म तटस्थ पृष्ठभूमि नहीं हैं; वे सक्रिय द्वारपाल (gatekeepers) हैं जो यह तय करते हैं कि एक बच्चा क्या देखेगा, उसे क्या करने के लिए प्रोत्साहित किया जाएगा, और उसे कैसे ट्रैक किया जाएगा। यह प्रक्रिया, जिसे अक्सर 'डेटाफिकेशन' (datafication) कहा जाता है, हर क्लिक और स्क्रॉल को एक ऐसे रिकॉर्ड में बदल देती है जिसका उपयोग कंपनियाँ ध्यान बेचने और व्यवहार को आकार देने के लिए करती हैं। चिंता हमेशा से यह रही है कि ये डिजिटल वातावरण बच्चों को देखते रहने के लिए डिज़ाइन किए गए हैं, जो अक्सर उनकी गोपनीयता या कल्याण की कीमत पर होता है। लेकिन हमारे पैरों के नीचे का परिदृश्य बदल गया है। जिन उपकरणों का उपयोग बच्चे दोस्तों से बात करने और तस्वीरें साझा करने के लिए करते हैं, वे अब केवल डेटा एकत्र नहीं कर रहे हैं; वे अब नई वास्तविकताएं उत्पन्न कर रहे हैं। आर्टिफिशियल इंटेलिजेंस (AI) एक अलग उपकरण से बदलकर, जिसे एक बच्चा होमवर्क में मदद के लिए खोल सकता था, उन ऐप्स में सीधे बुना हुआ एक अदृश्य स्तर बन गया है जिनका वे हर दिन उपयोग करते हैं। ये सिस्टम कैप्शन लिख सकते हैं, बातचीत का अनुकरण कर सकते हैं, और यहाँ तक कि पूरे पात्र (characters) भी बना सकते हैं जो वापस बात करते हैं। शोधकर्ताओं के लिए सवाल अब केवल यह नहीं है कि प्लेटफॉर्म सामग्री का चयन कैसे करता है, बल्कि यह है कि इसके भीतर मौजूद आर्टिफिशियल इंटेलिजेंस कैसे नई सामग्री बनाता है, और क्या होता है जब वे दोनों ताकतें मिलकर एक बढ़ते हुए बच्चे के मन पर प्रभाव डालती हैं।
नेर्मीन सिंगर, फतह अल शकरवी और अमीरा इस्माइल एक नए तरीके से इस जटिल स्थिति को समझने का प्रस्ताव देते हैं, एक अवधारणा जिसे वे "डबल मीडिएशन" (दोहरा मध्यस्थता) कहते हैं। उनका तर्क है कि हम अब सोशल मीडिया और आर्टिफिशियल इंटेलिजेंस को अलग-अलग मुद्दों के रूप में नहीं देख सकते। इसके बजाय, एक बच्चे का अनुभव अब दो बार आकार लेता है। पहला स्तर परिचित है: प्लेटफॉर्म का एल्गोरिदम जो उस सामग्री को छाँटता और चुनता है जो एक उपयोगकर्ता को व्यस्त रखने के आधार पर होती है। दूसरा स्तर नया है: जनरेटिव आर्टिफिशियल इंटेलिजेंस जो उस चयन के ऊपर स्थित है, जो अपने प्रशिक्षण के आधार पर नया टेक्स्ट, चित्र और बातचीत बनाता है। शोधकर्ता सुझाव देते हैं कि ये दो परतें केवल जुड़ती नहीं हैं; वे आपस में मिलकर प्रभाव को बढ़ा देती हैं (compound)। आर्टिफिशियल इंटेलिजेंस प्रणाली केवल बच्चे को जवाब नहीं देती; यह अपनी अंतर्निहित सांस्कृतिक, भाषाई और पहचान संबंधी धारणाओं के साथ जवाब देती है, जिसे फिर प्लेटफॉर्म के एल्गोरिदम में वापस फीड किया जाता है, जिससे वह चीज़ और भी सीमित हो जाती है जो बच्चा देखता और अनुभव करता है।
इस विचार का परीक्षण करने के लिए, लेखक मिस्र और व्यापक अरब क्षेत्र पर ध्यान केंद्रित करते हैं, जो एक ऐसी जगह है जहाँ इस दोहरी परत का प्रभाव विशिष्ट और काफी हदतः अनदेखा है। जबकि बच्चों और तकनीक पर अधिकांश शोध संयुक्त राज्य अमेरिका और यूरोप से आता है, लेखक बताते हैं कि इन वैश्विक ऐप्स को चलाने वाले आर्टिफिशियल इंटेलिजेंस सिस्टम मुख्य रूप से अंग्रेजी डेटा और पश्चिमी सांस्कृतिक मानदंडों पर प्रशिक्षित थे। मिस्र में, जहाँ इंटरनेट का उपयोग आबादी के लगभग 82 प्रतिशत द्वारा किया जाता है और जहाँ सोशल मीडिया लाखों युवाओं के लिए जीवन जीने का एक डिफ़ॉल्ट तरीका है, यह बेमेल (mismatch) एक विशिष्ट समस्या पैदा करता है। जब एक मिस्र का किशोर किसी ऐप का उपयोग करता है, तो मध्यस्थता का पहला स्तर उसे उस सामग्री की ओर धकेलता है जो वैश्विक स्तर पर लोकप्रिय है और अक्सर पश्चिमी-कोडित है। दूसरा स्तर, यानी आर्टिफिशियल इंटेलिजेंस, फिर प्रतिक्रियाएं या सुझाव उत्पन्न करता है जो पश्चिमी सांस्कृतिक संदर्भों, खाद्य पदार्थों और सामाजिक मानदंडों की ओर झुके होते हैं, जो अक्सर मिस्र की अरबी बोली, स्थानीय धार्मिक प्रथाओं या पारिवारिक संरचनाओं की बारीकियों को समझने या उनका सम्मान करने में विफल रहते हैं।
शोधकर्ता इस बात पर प्रकाश डालते हैं कि यह कोई मामूली तकनीकी त्रुटि नहीं बल्कि एक व्यवस्थित पूर्वाग्रह (systematic bias) है। अध्ययन बताते हैं कि जब आर्टिफिशियल इंटेलिजेंस मॉडल को स्वाभाविक और प्रवाहपूर्ण अरबी में सामग्री उत्पन्न करने के लिए कहा जाता है, तो वे अक्सर पश्चिमी संस्थाओं और विचारों की ओर झुक जाते हैं, भले ही उपयोगकर्ता अपनी स्थानीय बोली में बात कर रहा हो। मिस-र में एक बच्चे के लिए, इसका मतलब है कि खुद को अभिव्यक्त करने के लिए डिज़ाइन किए गए उपकरण—जैसे कि एक चैटबॉट साथी या कैप्शन जनरेटर—उनकी पहचान को सूक्ष्म रूप से एक ऐसे सांस्कृतिक रजिस्टर की ओर मोड़ सकते हैं जो उनका अपना नहीं है। यह विशेष रूप से महत्वपूर्ण है क्योंकि मिस्र में पारिवारिक और सामुदायिक मध्यस्थता अक्सर सामूहिक जिम्मेदारी और धार्मिक ढांचे पर निर्भर करती है जो इन कई AI साथियों में निर्मित व्यक्तिवादी, चिकित्सीय मॉडलों से भिन्न होती है। एक बच्चा एक निजी बातचीत के लिए AI की ओर मुड़ सकता है, एक गैर-निर्णयात्मक कान की उम्मीद में, केवल यह देखने के लिए कि वह एक ऐसा सिस्टम है जो उसके सांस्कृतिक संदर्भ को गलत समझता है या उसके परिवार के नेटवर्क के महत्व को पहचानने में विफल रहता है।
लेखक यह भी जांचते हैं कि वर्तमान कानून बच्चों की रक्षा करने की कैसे कोशिश कर रहे हैं, यह देखते हुए कि ये नियम अक्सर समस्या के दूसरे हिस्से को छोड़ देते हैं। वे ऑस्ट्रेलिया के हालिया कानून को देखते हैं, जो सोलह वर्ष से कम उम्र के बच्चों को सोशल मीडिया से प्रतिबंधित करता है, और ब्रिटेन तथा फ्रांस में समान प्रस्तावों को देखते हैं। जबकि ये कानून आयु सत्यापन और पहुंच नियंत्रण पर ध्यान केंद्रित करते हैं, शोधकर्ताओं का तर्क है कि वे मध्यस्थता के केवल पहले स्तर को संबोधित करते हैं। भले ही कोई कानून सफलतापूर्वक एक बच्चे को प्लेटफॉर्म से दूर रखता है, वह उस आर्टिफिशियल इंटेलिजेंस सिस्टम को नहीं बदलता जो उस किशोर के अनुभव को आकार देगा जो सोलह वर्ष का होने पर पहुंच प्राप्त करेगा। कानून एक बच्चे को लॉग इन करने से रोक सकता है, लेकिन यह यह सुनिश्चित नहीं करता कि उनके लिए प्रतीक्षा कर रहा AI साथी सांस्कृतिक रूप से उत्तरदायी है या उसके द्वारा उत्पन्न सामग्री उनकी स्थानीय पहचान का सम्मान करती है। लेखक सुझाव देते हैं कि मिस्र की अपनी उभरती विधायी बहस बेहतर करने का एक अवसर प्रदान करती है, यह प्रस्तावित करते हुए कि नियमों को यह खुलासा करने की आवश्यकता होनी चाहिए कि बच्चे आर्टिफिशियल इंटेलिजेंस के साथ बातचीत कर रहे हैं या नहीं, और उन्हें केवल अंग्रेजी या मानक अरबी पर निर्भर रहने के बजाय स्थानीय भाषाओं में सांस्कृतिक पूर्वाग्रह के लिए अपने सिस्टम का परीक्षण करना चाहिए।
अंततः, यह शोध पत्र शोधकर्ताओं और नीति निर्माताओं के लिए एक आह्वान है कि वे सोशल मीडिया और आर्टिफिशियल इंटेलिजेंस को अलग-अलग क्षेत्रों के रूप में मानना बंद करें। लेखक सुझाव देते हैं कि हमें नए अध्ययनों की आवश्यकता है जो सीधे इस बात पर नज़र रखें कि ग्लोबल साउथ के बच्चे मध्यस्थता की इन दोहरी परतों के माध्यम से कैसे आगे बढ़ते हैं। उनका तर्क है कि बिना यह समझे कि आर्टिफिशियल इंटेलिजेंस के सांस्कृतिक पूर्वाग्रह प्लेटफॉर्म के डेटा-संचालित तर्क के साथ कैसे परस्पर क्रिया करते हैं, हम लाखों युवाओं के डिजिटल बचपन को पूरी तरह से नहीं समझ सकते। लक्ष्य यह कहना नहीं है कि आर्टिफिशियल इंटेलिजेंस स्वाभाविक रूप से हानिकारक है, बल्कि यह पहचानना है कि इसका वर्तमान डिज़ाइन एक विशिष्ट, असमान अनुभव बनाता है उन बच्चों के लिए जिनकी भाषा और संस्कृति तकनीक के रचनाकारों का प्राथमिक केंद्र नहीं है। इन दोनों साहित्यों को एक साथ लाकर, शोधकर्ता डिजिटल दुनिया की एक स्पष्ट तस्वीर बनाने की आशा करते हैं, जहाँ आर्टिफिशियल इंटेलिजेंस की अदृश्य शक्ति को अंततः उसके वास्तविक रूप में देखा जा सके: एक शक्तिशाली, दूसरी परत की मध्यस्थता जो पहचान, संस्कृति और जुड़ाव को उन तरीकों से आकार देती है जिन्हें हम अभी समझना शुरू कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।