Decolonizing AI Ethics in Education: A Systematic Review and Glocalized Framework (FGAIEE)

एक ऐसी दुनिया की कल्पना करें जहाँ हमारे एक-दूसरे के साथ व्यवहार करने के नियम लोगों के एक ही समूह द्वारा लिखे गए हों, जो केवल अपने स्वयं के इतिहास और भाषा का उपयोग करते हैं, और फिर उन्हें बाकी सभी पर लागू किया जाता है। स्कूलों में आर्टिफिशियल इंटेलिजेंस (AI) के लिए यह वर्तमान वास्तविकता है। जैसे-जैसे कंप्यूटर अधिक स्मार्ट होते जा रहे हैं, उनका उपयोग टेस्ट को ग्रेड करने, पाठों की सिफारिश करने और यहाँ तक कि यह तय करने के लिए भी किया जा रहा है कि किसे विश्वविद्यालय में प्रवेश मिलेगा। लेकिन इन प्रणालियों को निष्पक्ष बनाए रखने के लिए जो नैतिक दिशा-निर्देश बनाए गए हैं, वे ज्यादातर समृद्ध, पश्चिमी देशों द्वारा निर्मित हैं। ये दिशा-निर्देश यह मानकर चलते हैं कि हर कोई एक ही तरह से सोचता, बोलता और सीखता है। जब इन नियमों को अफ्रीका, एशिया या लैटिन अमेरिका के छात्रों पर लागू किया जाता है, तो वे अक्सर विफल हो जाते हैं। वे किसी छात्र के लहजे को गलत समझ सकते हैं, स्थानीय सांस्कृतिक मूल्यों को अनदेखा कर सकते हैं, या बस इसलिए काम नहीं करते क्योंकि इंटरनेट कनेक्शन बहुत धीमा है। परिणाम स्वरूप, एक ऐसी प्रणाली सामने आती है जो निष्पक्ष होने का दावा तो करती है लेकिन वास्तव में कुछ समूहों को हाशिए पर धकेल देती है।

इस असंतुलन ने शोधकर्ताओं के बीच एक नया प्रश्न पैदा कर दिया है: यह तय करने का अधिकार किसे है कि क्या सही है? इंडोनेशिया के विद्वानों की एक टीम ने यह समझने का प्रयास करते हुए इसका उत्तर देने की कोशिश की है कि दुनिया भर के क्लासरूम में AI नैतिकता वास्तव में कैसे उपयोग की जाती है। उन्होंने केवल नियमों को नहीं पढ़ा; उन्होंने उन 84 प्रकाशित अध्ययनों का विश्लेषण किया जो उन लोगों, छात्रों और स्थानों के बारे में चर्चा करते हैं जिन्हें ये दिशा-निर्देश प्रभावित करते हैं। उनका लक्ष्य यह खोजने का तरीका ढूंढना था जिससे AI नैतिकता सभी के लिए काम कर सके, न कि केवल उन कुछ लोगों के लिए जिनके पास दिशा-निर्देश लिखने की शक्ति है। वे इस दृष्टिकोण को "ग्लोकल" (glocal) कहते हैं, जो वैश्विक (global) और स्थानीय (local) का मिश्रण है, जो यह सुझाव देता है कि अच्छे नियम दुनिया के पूरे हिस्से को ध्यान में रखकर बनाए जाने चाहिए लेकिन उन्हें प्रत्येक समुदाय की विशिष्ट आवश्यकताओं के अनुरूप बनाया जाना चाहिए।

शोधकर्ताओं ने 2015 और 2025 के बीच प्रकाशित 84 अलग-अलग अध्ययनों को एकत्र करके शुरुआत की। उन्होंने उस किसी भी शोध की तलाश की जो यह चर्चा करता हो कि शिक्षा में AI का उपयोग कैसे किया जाता है और क्या यह निष्पक्ष है। उन्होंने हजारों लेखों को छाँटा, केवल उन्हीं को रखा जिन्होंने वास्तविक साक्ष्य या इन प्रणालियों के कार्य करने के तरीके का गहरा विश्लेषण प्रदान किया। उन्होंने "ग्लोबल साउथ" के अध्ययनों पर विशेष ध्यान दिया, जो उन क्षेत्रों के लिए उपयोग किया जाने वाला शब्द है जिन्हें अक्सर तकनीक के बारे में मुख्य चर्चाओं से बाहर रखा गया है, जिसमें अफ्रीका, लैटिन अमेरिका और एशिया के कुछ देश शामिल हैं। मौजूदा साहित्य के भीतर इन आवाजों पर ध्यान केंद्रित करके, टीम को उम्मीद थी कि वे इस बात की एक अलग तस्वीर देख पाएंगे कि नैतिक AI कैसा दिखना चाहिए।

उन्होंने पाया कि एक स्पष्ट विभाजन है। अधिकांश नियम और दिशा-निर्देश यूरोप और उत्तरी अमेरिका के संस्थानों से आते हैं। ये नियम अक्सर मूल्यों की एक सरल चेकलिस्ट के रूप में लिखे जाते हैं, जैसे "निष्पक्ष रहें" या "पारदर्शी रहें।" हालांकि, अध्ययन से पता चलता है कि ये चेकलिस्ट दुनिया के अन्य हिस्सों में वास्तव में स्कूलों में चीजों को कैसे बदलती हैं, इस पर बहुत कम प्रभाव डालती हैं। कई मामलों में, ग्लोबल साउथ के स्कूलों को बिना उनकी राय लिए इन पश्चिमी नियमों को अपनाने के लिए कहा जाता है। शोधकर्ताओं ने पाया कि जब AI सिस्टम केवल अंग्रेजी डेटा और पश्चिमी विचारों का उपयोग करके बनाए जाते हैं, तो वे उन छात्रों के लिए अधिक गलतियाँ करते हैं जो अन्य भाषाएँ बोलते हैं या अलग सांस्कृतिक पृष्ठभूमि से आते हैं। उदाहरण के लिए, स्वचालित ग्रेडिंग उपकरण अक्सर गैर-अंग्रेजी मूल के वक्ताओं के साथ संघर्ष करते हैं, जिससे उन्हें कम अंक मिलते हैं, इसलिए नहीं कि उनका काम खराब है, बल्कि इसलिए क्योंकि कंप्यूटर उनके बोलने के तरीके को नहीं समझता है।

अध्ययन ने यह भी खुलासा किया कि वे लोग जिन्हें इन नियमों द्वारा संरक्षित किया जाना चाहिए—शिक्षक, छात्र और स्थानीय नेता—दुर्ly ही निर्णय लेने की प्रक्रिया का हिस्सा होते हैं। उन कुछ मामलों में जहाँ स्थानीय समुदायों को शामिल किया गया था, वहां भागीदारी अक्सर केवल एक औप bersama (औपचारिकता) थी, एक ऐसा बॉक्स जिसे केवल टिक करना था, न कि एक वास्तविक साझेदारी। शोधकर्ताओं ने नोट किया कि जब स्थानीय आवाजों को नजरअंदाज किया जाता है, तो तकनीक अक्सर उन समस्याओं को हल करने में विफल रहती है जिन्हें ठीक करने के लिए इसे बनाया गया था। सभी को सीखने में मदद करने के बजाय, यह मौजूदा असमानताओं को गहरा कर सकता है, जिससे उन लोगों के लिए और कठिन हो जाता है जो पहले से ही पिछड़ रहे हैं।

हालाँकि, कहानी विफलता पर समाप्त नहीं होती है। शोधकर्ताओं ने स्थानीय समाधानों के एक बढ़ते आंदोलन की भी खोज की जो बहुत बेहतर काम कर रहे हैं। उदाहरण के लिए, घाना में, स्कूल "उबंटू" (Ubuntu) नामक एक अवधारणा का उपयोग कर रहे हैं, जो इस बात पर जोर देता है कि एक व्यक्ति दूसरे लोगों के माध्यम से ही व्यक्ति बनता है। इस विचार का उपयोग ऐसे AI सिस्टम को डिजाइन करने के लिए किया जा रहा है जो व्यक्तिगत स्कोर के बजाय सामुदायिक विश्वास और साझा जिम्मेदारी पर ध्यान केंद्रित करते हैं। दक्षिण पूर्व एशिया में, "गोतों रॉयोंग" (gotong royong) नामक एक अन्य दृष्टिकोण का उपयोग किया जा रहा है, जिसका अर्थ है सामान्य भलाई के लिए मिलकर काम करना, ताकि यह सुनिश्चित किया जा सके कि तकनीक के उपयोग में सभी की बात सुनी जाए। ये स्थानीय तरीके केवल बड़े वैश्विक नियमों में छोटे समायोजन नहीं हैं; वे सही और गलत के बारे में सोचने के पूरी तरह से अलग तरीके हैं। वे स्थानीय ज्ञान को पश्चिमी विज्ञान के समान ही महत्वपूर्ण मानते हैं।

टीम ने निष्कर्ष निकाला कि काम करने का वर्तमान तरीका त्रुटिपूर्ण है क्योंकि यह नैतिकता को "एक आकार सबके लिए उपयुक्त" (one-size-fits-all) उत्पाद के रूप में मानता है। वे तर्क देते हैं कि हमें पूरी दुनिया पर नियमों का एक एकल सेट थोपने की कोशिश करना बंद कर देना चाहिए। इसके बजाय, वे "ग्लोकलाइज्ड AI एथिक्स इन एजुकेशन फ्रेमवर्क" (Framework for Glocalized AI Ethics in Education) नामक एक नया ढांचा प्रस्तावित करते हैं। यह दृष्टिकोण सुझाव देता है कि नैतिक नियम ज़मीन से (नीचे से ऊपर की ओर) बनाए जाने चाहिए। इसका अर्थ यह है कि जब किसी दूसरे देश का स्कूल AI का उपयोग करना चाहता है, तो वे अपनी संस्कृति, भाषा और जरूरतों के अनुरूप नियमों को आकार देने में सक्षम होने चाहिए। इसका मतलब यह भी है कि जो कंपनियाँ इन उपकरणों को बेच रही हैं, उन्हें यह साबित करने के लिए बाध्य होना चाहिए कि उनके सिस्टम स्थानीय छात्रों के लिए निष्पक्ष रूप से काम करते हैं, इससे पहले कि वे उन्हें बेच सकें।

शोधकर्ता इसे साकार करने के लिए तीन मुख्य चरणों का सुझाव देते हैं। पहला, इन प्रणालियों का मार्गदर्शन करने वाला ज्ञान कई अलग-अलग जगहों से आना चाहिए, न कि केवल एक से। दूसरा, जो लोग तकनीक का उपयोग करते हैं, उनकी डिजाइन और जांच में वास्तविक आवाज होनी चाहिए। तीसरा, यदि तकनीक निष्पक्ष होने में विफल रहती है, तो वास्तविक परिणाम होने चाहिए, जैसे कि उन उपकरणों को खरीदने से इनकार करना जो सबके लिए काम नहीं करते हैं। यह केवल दयालु होने के बारे में नहीं है; यह सुनिश्चित करने के बारे में है कि तकनीक वास्तव में काम करे। अध्ययन दिखाता है कि जब डिजाइन में स्थानीय समुदायों को शामिल किया जाता है, तो सिस्टम में विश्वास बढ़ जाता है, और तकनीक सभी के लिए अधिक उपयोगी हो जाती है।

सोचने का यह नया तरीका सभी पुराने नियमों को फेंक देने का अर्थ नहीं है। इसके बजाय, इसका अर्थ है उन्हें बनाने के तरीके को बदलना। यह यह पहचानने के बारे में है कि नैतिक होने के कई तरीके हैं, ठीक वैसे ही जैसे भाषा बोलने या पाठ पढ़ाने के कई तरीके होते हैं। शोधकर्ताओं का मानना है कि यदि हम एक ऐसी प्रणाली बना सकते है जो इन अंतरों का सम्मान करती है, तो हम ऐसा AI बना सकते हैं जो वास्तव में सभी छात्रों को सीखने में मदद करे। वे यह नहीं कह रहे हैं कि यह आसान है या यह रातों-रात नहीं होगा। लेकिन वे स्पष्ट हैं कि वर्तमान मार्ग, जहाँ कुछ शक्तिशाली समूह सभी के लिए निर्णय लेते हैं, काम नहीं कर रहा है। शिक्षा में AI का भविष्य उन लोगों को सुनने पर निर्भर करता है जो वास्तव में इसका उपयोग कर रहे हैं, और यह सुनिश्चित करने पर कि उनके भविष्य को आकार देने वाले उपकरणों के डिजाइन में उनकी आवाज़ सुनी जाए।