Bias Taught: Linguistic and Model Stereotypes in AI-Based Educational Evaluations
यह अध्ययन प्रकट करता है कि लार्ज लैंग्वेज मॉडल्स शैक्षिक मूल्यांकनों में व्यवस्थित भाषाई और सांस्कृतिक पूर्वाग्रह प्रदर्शित करते हैं, जो विभिन्न भाषाओं में भिन्न कठिनाई और लंबाई के साथ आकलन उत्पन्न करते हैं जो PISA स्कोर के साथ सह-संबंध रखते हैं और पश्चिमी संदर्भों में सहानुभूति पर तथा एशियाई संदर्भों में पदानुक्रम पर बल देने वाले रूढ़िबद्ध धारणाओं को सुदृढ़ करते हैं, जिससे तैनाती से पहले सांस्कृतिक रूप से टिकाऊ ऑडिट की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक कक्षा में, एक शांत क्रांति हो रही है। शिक्षक और छात्र तेजी से आर्टिफिशियल इंटेलिजेंस, विशेष रूप से लार्ज लैंग्वेज मॉडल्स (बड़े भाषा मॉडलों) की ओर मुड़ रहे हैं, ताकि टेस्ट डिजाइन करने, पेपर जांचने और फीडबैक देने में मदद मिल सके। ये कंप्यूटर प्रोग्राम इंटरनेट से प्राप्त विशाल मात्रा में टेक्स्ट पर प्रशिक्षित होते हैं, जिससे वे यह अनुमान लगाना सीखते हैं कि वाक्य में अगले शब्द क्या होने चाहिए। क्योंकि वे मानवीय लेखन की नकल करने में इतने कुशल हैं, इसलिए स्कूल दुनिया भर के छात्रों के लिए शैक्षिक सामग्री बनाने के लिए इनका उपयोग करने लगे हैं। हालांकि, एक बढ़ती हुई चिंता है कि ये उपकरण उतने निष्पक्ष नहीं हो सकते जितने वे दिखाई देते हैं। जिस तरह एक व्यक्ति के मन में विभिन्न समूहों के सीखने के तरीकों के बारे में अनजाने विश्वास हो सकते हैं, उसी तरह इन कंप्यूटर प्रोग्रामों ने भी उस डेटा से समान पूर्वाग्रहों को आत्मसात किया होगा जिस पर उन्हें प्रशिक्षित किया गया था। यदि कोई एआई (AI) सिस्टम किसी छात्र के साथ केवल इसलिए अलग व्यवहार करता है क्योंकि उसने किसी अलग भाषा में प्रश्न पूछा है, तो यह एक ऐसा अनुचित शिक्षण वातावरण बना सकता है जो छात्रों को सफल होने में मदद करने के बजाय पुराने रूढ़िवादी विचारों को ही मजबूत करता है।
बोडाउन कॉलेज के शोधकर्ताओं की एक टीम ने यह परीक्षण करने का निर्णय लिया कि क्या ये डिजिटल उपकरण वास्तव में निष्पक्ष हैं। उन्होंने यह देखने के लिए प्रयास किया कि क्या छात्र द्वारा मदद मांगने के लिए उपयोग की जाने वाली भाषा, कंप्यूटर द्वारा दिए जाने वाले कार्य की कठिनाई को बदल देगी। ऐसा करने के लिए, उन्होंने चार सबसे लोकप्रिय एआई मॉडलों से पंद्रह वर्षीय छात्रों के लिए गणित, पठन और विज्ञान के परीक्षण बनाने के लिए कहा। उन्होंने प्रत्येक कंप्यूटर को बिल्कुल समान निर्देश दिए, लेकिन उन निर्देशों का आठ अलग-अलग भाषाओं में अनुवाद किया: अरबी, अंग्रेजी, फ्रेंच, जर्मन, हिंदी, मंदारिन, पुर्तगाली और स्पेनिश। कुल मिलाकर, शोधकर्ताओं ने मशीनों से चार हजार से अधिक प्रतिक्रियाएं एकत्र कीं। इसके बाद उन्होंने परीक्षणों की लंबाई, मॉडलों ने परीक्षणों को कितना कठिन बताया, और मॉडलों ने किस प्रकार के व्यवहार को "अच्छे" या "बुरे" छात्र और शिक्षक के रूप में देखा, इसका विश्लेषण किया।
परिणामों ने एक चौंकाने वाला पैटर्न प्रकट किया। जब शोधकर्ताओं ने एआई से हिंदी या मंदारिन में टेस्ट बनाने के लिए कहा, तो कंप्यूटर ने अरबी, जर्मन या स्पेनिश की तुलना में लगातार बहुत लंबे और अधिक कठिन असाइनमेंट तैयार किए। उदाहरण के लिए, एक मॉडल ने अनुमान लगाया कि मंदारिन में लिखे गए गणित के टेस्ट को पूरा करने में एक छात्र को दो घंटे लगेंगे, जबकि स्पेनिश में एक टेस्ट में एक घंटे से भी कम समय लगेगा, भले ही निर्देश समान थे। मॉडलों ने हिंदी और मंदारिन के टेस्ट की कठिनाई को भी काफी अधिक बताया। यह कोई यादृच्छिक त्रुटि (रैंडम ग्लिच) नहीं थी; अंतर इतना सुसंगत था कि यह उन चारों अलग-अलग एआई सिस्टमों में दिखाई दिया जिनका शोधकर्ताओं ने परीक्षण किया था। अध्ययन में पाया गया कि एआई-जनित परीक्षणों की कठिनाई और लंबाई वास्तविक दुनिया के अंतरराष्ट्रीय छात्र प्रदर्शन रैंकिंग से मजबूती से मेल खाती थी। दूसरे शब्दों में, कंप्यूटरों को ऐसा लगा कि उच्च टेस्ट स्कोर वाले देशों के छात्र कठिन काम के योग्य हैं, जबकि कम स्कोर वाले देशों के छात्र आसान काम के योग्य हैं, चाहे स्क्रीन के सामने बैठा वास्तविक छात्र कोई भी हो।
केवल टेस्ट बनाने के अलावा, शोधकर्ताओं ने एआई से यह भी पूछा कि एक "अच्छा" शिक्षक या छात्र कैसा दिखता है। यहाँ भी, उपयोग की गई भाषा ने उत्तर बदल दिया। जब प्रॉम्प्ट अंग्रेजी, जर्मन या पुर्तगाली में था, तो एआई ने अच्छे शिक्षकों को सहानुभूति रखने वाला, धैर्यवान और छात्रों के साथ संबंध बनाने पर केंद्रित बताया। हालाँकि, जब प्रॉम्प्ट हिंदी या मंदारिन में था, तो एआई ने अच्छे शिक्षकों को सख्त, अनुशासित और ज्ञान एवं पदानुक्रम (हायरार्की) पर केंद्रित बताया। इसी तरह, मॉडलों ने भाषा के आधार पर "बुरे" छात्रों को अलग तरह से वर्णित किया। कुछ भाषाओं में, एआई ने अनुशासन की कमी या टालमटोल पर ध्यान केंद्रित किया, जबकि अन्य में, इसने सम्मान की कमी या सामान्य दुर्व्यवहार पर ध्यान केंद्रित किया। ये अंतर बताते हैं कि एआई केवल शब्दों का अनुवाद नहीं कर रहा है; यह दुनिया के विभिन्न हिस्सों में शिक्षा कैसे काम करती है, इसके सांस्कृतिक रूढ़िवादी विचारों के डेटाबेस से जानकारी निकाल रहा है।
शोधकर्ता इस बात की जांच करने में सावधानी बरत रहे थे कि क्या ये अंतर केवल इसलिए हैं क्योंकि विभिन्न देशों के अलग-अलग पाठ्यक्रम हैं। उन्होंने दुनिया भर के शिक्षकों के एक समूह से परामर्श किया कि क्या एआई केवल राष्ट्रीय मानकों का पालन कर रहा है। उन्होंने पाया कि पाठ्यक्रम के अंतर केवल परिणामों के एक बहुत छोटे हिस्से की व्याख्या कर सकते थे। अधिकांश भिन्नता स्वयं एआई से आई थी। अध्ययन बताता है कि इन कंप्यूटर प्रोग्रामों ने कुछ विशिष्ट भाषाओं को विशिष्ट शैक्षणिक अपेक्षाओं के साथ जोड़ना सीख लिया है, जो प्रभावी रूप से वैश्विक असमानताओं के दर्पण के रूप में कार्य करते हैं। यदि गैर-पश्चिमी देश का कोई छात्र एआई ट्यूटर का उपयोग करता है, तो उसे अपनी भाषा के कारण पश्चिमी देश के छात्र की तुलना में बहुत अधिक कठिन कार्यभार या अलग प्रकार का फीडबैक दिया जा सकता है।
यह शोध शिक्षा के भविष्य के लिए एक गंभीर समस्या को उजागर करता है। जैसे-जैसे स्कूल पाठों को डिजाइन करने और छात्रों का मूल्यांकन करने के लिए आर्टिफिशियल इंटेलिजेंस पर अधिक निर्भर हो रहे हैं, यह जोखिम है कि ये उपकरण चुपचाप हानिकारक रूढ़ियों को मजबूत करेंगे। एआई इन निर्णयों को इसलिए नहीं ले रहा है क्योंकि वह छात्रों को समझता है; बल्कि यह उन पैटर्नों को दोहरा रहा है जो उसने अपने प्रशिक्षण डेटा में पाए हैं। अध्ययन का निष्कर्ष है कि इन उपकरणों का व्यापक रूप से उपयोग करने से पहले, यह सुनिश्चित करने के लिए उनका ऑडिट किया जाना चाहिए कि वे छात्रों के साथ उनकी भाषा के आधार पर असमान व्यवहार न करें। इस जांच के बिना, व्यक्तिगत और वैश्विक शिक्षा का वादा वास्तव में एक ऐसी प्रणाली बन सकता है जो छात्रों के बीच की खाई को गहरा कर देती है, जिससे उन्हें यह सिखाया जाता है कि उनकी क्षमता उनकी अपनी क्षमताओं के बजाय उनकी बोली जाने वाली भाषा से परिभाषित होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।