Shaping the Future of Generative AI for Black Communities: A Frame Analysis of Public Discourse and Empirical Scholarly Research
यह शोध पत्र 91 अनुभवजन्य अध्ययनों और 28 सार्वजनिक विमर्श संसाधनों के फ्रेम विश्लेषण का उपयोग करते हुए एक महत्वपूर्ण विसंगति को प्रकट करता है जहाँ जनरेटिव एआई पर विद्वत्तापूर्ण अनुसंधान 'ब्लैक्नेस' (Blackness) को तकनीकी चरों तक सीमित कर देता है जबकि सार्वजनिक विमर्श प्रणालीगत कारणों को संबोधित करता है, यह तर्क देते हुए कि दोनों ही रजिस्टर संरचनात्मक रूप से एंटी-ब्लैक्नेस (anti-Blackness) द्वारा आकार लेते हैं ताकि ब्लैक एपिस्टेमिक एजेंसी (Black epistemic agency) को मिटाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ कंप्यूटर इंसानी बातचीत की सहजता के साथ कहानियाँ लिख सकते हैं, चित्र बना सकते हैं और सवालों के जवाब दे सकते हैं। यह तकनीक, जिसे जनरेटिव आर्टिफिशियल इंटेलिजेंस (जेनरेटिव एआई) के रूप में जाना जाता है, तेजी से विज्ञान कथाओं से निकलकर स्कूलों, अस्पतालों और कार्यस्थलों में पहुँच रही है। लेकिन जैसे-जैसे ये उपकरण दैनिक जीवन का हिस्सा बनते जा रहे हैं, एक महत्वपूर्ण प्रश्न उठता है: ये किसके लिए काम करते हैं, और ये किसे पीछे छोड़ देते हैं? दशकों से, शोधकर्ता जानते हैं कि कंप्यूटर सिस्टम अपने रचनाकारों के पूर्वाग्रहों को सीख सकते हैं, और अक्सर लोगों के प्रति, विशेषकर अश्वेत लोगों के प्रति, अनुचित व्यवहार कर सकते हैं। यह नया अध्ययन इस बारे में बात करने के हमारे तरीके पर एक गहरा सवाल उठाता है। यह उन दो अलग-अलग समूहों को देखता है जो इन समस्याओं को ठीक करने की कोशिश कर रहे हैं: पत्रकार और सामुदायिक नेता जो समाचारों में लिखते हैं, और वैज्ञानिक जो अकादमिक जर्नल्स में शोध पत्र प्रकाशित करते हैं। शोधकर्ता यह देखना चाहते थे कि क्या ये दोनों समूह एक ही समस्या को एक ही तरह से देख रहे हैं, या वे पूरी तरह से अलग भाषा बोल रहे हैं।
शोधकर्ताओं की एक टीम द्वारा किए गए इस अध्ययन ने यह निर्धारित करने का लक्ष्य रखा कि जनता ब्लैक समुदायों के लिए आर्टिफिशियल इंटेलिजेंस के खतरों को कैसे समझती है और वैज्ञानिक उन्हीं खतरों का अध्ययन कैसे करते हैं। उन्होंने विश्लेषण करने के लिए दो बड़े टेक्स्ट संग्रह एकत्र किए। पहला संग्रह 28 सार्वजनिक संसाधनों का था, जैसे समाचार लेख, विचार लेख और थिंक टैंक की रिपोर्ट, जो यह दर्शाते हैं कि आम जनता और मीडिया इन मुद्दों पर चर्चा कैसे करते हैं। दूसरा संग्रह 2010 से 2025 के बीच प्रमुख कंप्यूटर विज्ञान सम्मेलनों में प्रकाशित 91 वैज्ञानिक शोध पत्रों की एक व्यवस्थित समीक्षा थी। टीम ने इन ग्रंथों को पढ़ने के लिए 'फ्रेम विश्लेषण' (frame analysis) नामक पद्धति का उपयोग किया। यह दृष्टिकोण केवल शब्दों को नहीं गिनता; बल्कि यह देखता है कि एक कहानी कैसे बनाई जाती है। यह चार विशिष्ट प्रश्न पूछता है: समस्या को कैसे परिभाषित किया गया है? कारण के रूप में किसे पहचाना गया है? स्थिति का नैतिक निर्णय क्या है? और क्या समाधान प्रस्तावित किया गया है? समाचार और विज्ञान दोनों पर इस लेंस को लागू करके, शोधकर्ता यह मानचित्रित कर सके कि दोनों दुनियाएँ कहाँ मिलती हैं और कहाँ अलग हो जाती हैं।
निष्कर्षों से पता चलता है कि जनता के दृष्टिकोण और शोधकर्ताओं द्वारा समाधान खोजने के तरीके के बीच एक महत्वपूर्ण अंतर है। सार्वजनिक विमर्श में, कहानी स्पष्ट और संरचनात्मक है। जब पत्रकार और सामुदायिक नेता आर्टिफिशियल इंटेलिजेंस के कारण होने वाले नुकसान पर चर्चा करते हैं, तो वे लगभग हमेशा गहरे, ऐतिहासिक मूलों की ओर इशारा करते हैं। वे समस्या को सदियों के प्रणालीगत नस्लवाद और अनुचित नीतियों का परिणाम बताते हैं जिन्होंने समाज को आकार दिया है। उनके प्रस्तावित समाधान भी उतने ही व्यापक हैं, जो सरकारी नियमों, भर्ती प्रक्रियाओं में बदलाव और समुदाओं की रक्षा के लिए नए कानूनों की मांग करते हैं। वे इस तकनीक को एक टूटे हुए समाज को प्रतिबिंबित करने वाले दर्पण के रूप में देखते हैं, और उनका तर्क है कि दर्पण को ठीक करने के लिए समाज को ठीक करना आवश्यक है।
इसके विपरीत, वैज्ञानिक साहित्य एक अलग, बहुत संकीर्ण कहानी बताता है। शोधकर्ताओं ने पाया कि 91 अकादमिक शोध पत्रों में से अधिकांश ने लगभग विशेष रूप से तकनीकी सुधारों पर ध्यान केंद्रित किया। जब वैज्ञानिकों ने किसी समस्या की पहचान की, तो उन्होंने इतिहास या समाज को कारण के रूप में शायद ही कभी देखा। इसके बजाय, उन्होंने प्रशिक्षण डेटा (training data) की ओर इशारा किया जिसका उपयोग कंप्यूटर मॉडल को प्रशिक्षित करने के लिए किया गया था। उनका तर्क था कि पूर्वाग्रह इसलिए मौजूद था क्योंकि प्रशिक्षण डेटा त्रुटिपूर्ण था। फलस्वरूप, उनके समाधान लगभग पूरी तरह से तकनीकी थे: उन्होंने बेहतर डेटासेट बनाने, त्रुटियों का पता लगाने के लिए नया कोड लिखने या एल्गोरिदम को समायोजित करने का प्रस्ताव दिया। जहाँ सार्वजनिक विमर्श कानूनों और सामाजिक परिवर्तन की मांग कर रहा था, वहीं वैज्ञानिक शोध पत्रों ने बेहतर इंजीनियरिंग की मांग की। अध्ययन सुझाव देता है कि यह कोई दुर्घटना या मतभेद का साधारण मामला नहीं है। बल्कि, यह संकेत देता है कि वैज्ञानिक समुदाय काफी हद से उन गहरे संरचनात्मक कारणों को संबोधित करने से पीछे हट गया है जो पूर्वाग्रह को अस्तित्व में आने देते हैं।
शायद सबसे चौंकाने वाली खोज वह थी जिस पर दोनों समूह सहमत थे, और जिसे दोनों ने अनदेखा कर दिया। समाचार लेखों और वैज्ञानिक शोध पत्रों, दोनों ने इस बात पर सहमति व्यक्त की कि सबसे दृश्यमान नुकसान "प्रतिनिधिक हानि" (representational harm) है। यह उस तरीके को संदर्भित करता है जिससे ये प्रणालियाँ अश्वेत पहचान को विकृत या मिटा देती हैं, जैसे कि अश्वेत लोगों के हल्के रंग के चित्रों को उत्पन्न करना या पाठ में रूढ़ियों (stereotypes) का उपयोग करना। चूंकि दोनों समूहों ने इस विशिष्ट प्रकार के नुकसान पर इतना अधिक ध्यान केंद्रित किया, इसलिए दोनों ने छवियों और शब्दों को अधिक सटीक बनाने के उद्देश्य से समाधान प्रस्तावित किए। हालाँकि, ऐसा करने में, दोनों समूहों ने एक महत्वपूर्ण दृष्टिकोण को पूरी तरह से अनदेखा कर दिया: यह विचार कि ब्लैक समुदायों को इन तकनीकों के डिजाइन और निर्णय लेने में नेतृत्व करना चाहिए। अध्ययन में पाया गया कि समाचारों में, अश्वेत लोगों को अक्सर सुरक्षा की आवश्यकता वाले पीड़ितों के रूप में चित्रित किया गया, जबकि वैज्ञानिक शोध पत्रों में, उन्हें अध्ययन के विषयों या डेटा बिंदुओं के रूप में माना गया। न तो पत्रकारों और न ही वैज्ञानिकों ने लगातार ब्लैक समुदायों को उन विशेषज्ञों या वास्तुकारों के रूप में प्रस्तुत किया जिन्हें यह तय करना चाहिए कि इन शक्तिशाली उपकरणों को कैसे बनाया और संचालित किया जाए।
शोधकर्ताओं का तर्क है कि प्रतिनिधित्व पर यह साझा ध्यान, हालांकि महत्वपूर्ण है, एक जाल है। केवल तकनीक को अधिक निष्पक्ष या सटीक बनाने पर ध्यान केंद्रित करके, दोनों समूह बड़ी तस्वीर को चूक रहे हैं। वे मशीन के आउटपुट को ठीक करने की कोशिश कर रहे हैं बिना उस मशीन के निर्माण को नियंत्रित करने वाले नियमों पर सवाल उठाए। अध्ययन का सुझाव है कि वास्तविक प्रगति के लिए केवल बेहतर डेटा या नए कानूनों से अधिक की आवश्यकता है; इसके लिए उस शक्ति में मौलिक बदलाव की आवश्यकता है कि कौन इसे नियंत्रित करता है। यह एक ऐसे भविष्य का आह्वान करता है जहाँ ब्लैक समुदाय केवल औपचारिकता के रूप में परामर्श देने के लिए नहीं, बल्कि उन विशेषज्ञों के रूप में पहचाने जाएँ जो यह तय करेंगे कि इन तकनीकों का क्या किया जाना चाहिए और उनका उपयोग कैसे किया जाना चाहिए। जब तक वैज्ञानिक समुदाय तकनीकी सुधारों से आगे बढ़कर समाज की संरचनात्मक वास्तविकताओं के साथ जुड़ता है, और जब तक सार्वजनिक विमर्श ब्लैक लोगों को तकनीक के निष्क्रिय प्राप्तकर्ता के रूप में देखना बंद नहीं करता, तब तक आर्टिफिशियल इंटेलिजेंस के वादे और इसके प्रभाव की वास्तविकता के बीच की खाई बनी रहेगी। अध्ययन का निष्कर्ष है कि इस अंतर को पाटने के लिए सोचने के एक नए तरीके की आवश्यकता है, जो ब्लैक ज्ञान और अनुभव को केवल सुधारने योग्य एक चर (variable) के रूप में नहीं, बल्कि एक बेहतर भविष्य के निर्माण के लिए आधार के रूप में देखता हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।