Marked Pedagogies: Examining Linguistic Biases in Personalized Automated Writing Feedback
यह अध्ययन प्रकट करता है कि चार व्यापक रूप से उपयोग किए जाने वाले लार्ज लैंग्वेज मॉडल्स व्यवस्थित रूप से पक्षपाती, रूढ़िवादी-संरेखित लेखन फीडबैक उत्पन्न करते हैं—जो नस्ल, भाषा या विकलांगता के रूप में चिह्नित छात्रों के लिए अत्यधिक प्रशंसा और आलोचना को रोकने की विशेषता रखता है—यह प्रदर्शित करते हुए कि स्वचालित "वैयक्तिकरण" अक्सर हानिकारक निर्देशात्मक ओरिएंटेशन को पुनरुत्पादित करता है जिन्हें "मार्क्ड पेडागॉजीज़" कहा जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक जादुई, सुपर-स्मार्ट रोबोट शिक्षक है। आप उसे एक छात्र का निबंध देते हैं, और वह तुरंत सुधार के लिए मददगार टिप्पणियों के साथ वापस लिखता है। यह बहुत अच्छा लगता है, है ना? यह दुनिया के हर छात्र के लिए एक व्यक्तिगत ट्यूटर होने जैसा है।
लेकिन यह शोध पत्र एक डरावना सवाल पूछता है: क्या होगा अगर यह रोबोट शिक्षक वास्तव में निष्पक्ष नहीं है? क्या होगा अगर यह हर छात्र के साथ समान व्यवहार करने के बजाय, गुप्त रूप से अपनी पर्सनैलिटी बदल लेता है, इस आधार पर कि वह उस छात्र को किसके रूप में पहचानता है?
शोधकर्ता इस घटना को "मार्क्ड पेडागोजीज़" (Marked Pedagogies) कहते हैं। यह कहने का एक फैंसी तरीका है: "रोबोट का अलग-अलग लोगों के लिए अलग शिक्षण शैली है, और यह रूढ़ियों (stereotypes) पर आधारित है।"
यहाँ यह बताने की कहानी है कि उन्होंने इसे सरल उपमाओं का उपयोग करके कैसे पता लगाया।
प्रयोग: "गिरगिट" (Chameleon) टेस्ट
शोधकर्ताओं ने 8वीं कक्षा के छात्रों द्वारा लिखे गए 600 वास्तविक निबंध लिए। ये सभी निबंध एक ही विषय पर थे (जैसे, "क्या छात्रों को सामुदायिक सेवा करनी चाहिए?" या "क्या मंगल ग्रह पर चेहरा असली है?")।
फिर, उन्होंने चार अलग-अलग AI मॉडल (जैसे GPT-4 और Llama) से इन निबंधों को ग्रेड देने के लिए कहा। लेकिन यहाँ एक चाल थी: उन्होंने AI को छात्रों के बारे में अलग-अलग झूठ बताए।
एक ही निबंध के लिए, उन्होंने AI को अलग-अलग "ID कार्ड" दिए:
- निबंध A: "यह छात्र एक उच्च-उपलब्धि प्राप्त करने वाला श्वेत (White) पुरुष है।"
- निबंध B: "यह एक सीखने की अक्षमता (learning disability) वाली अश्वेत महिला है।"
- निबंध C: "यह एक अंग्रेजी भाषा सीखने वाला (English Language Learner) छात्र है।"
- निबंध D: "यह छात्र प्रेरित नहीं है (unmotivated)।"
चूंकि निबंध का टेक्स्ट बिल्कुल एक जैसा था, इसलिए फीडबैक में कोई भी अंतर AI के पूर्वाग्रह (bias) के कारण था, न कि छात्र के लेखन के कारण।
रोबोट ने क्या किया? (परिणाम)
AI ने केवल अलग-अलग ग्रेड ही नहीं दिए; इसने अपनी पूरी आवाज़ और रवैया बदल लिया। यह एक गिरगिट की तरह व्यवहार करने लगा, जो छात्र के "ID कार्ड" के आधार पर अपने रंग बदल लेता था।
1. "सख्त ड्रिल सार्जेंट" बनाम "कोमल कोच"
- उच्च-उपलब्धि प्राप्त करने वाले छात्रों के लिए: AI एक कोमल कोच (Gentle Coach) की तरह व्यवहार करता था। इसने कहा, "आपकी बहुत क्षमता है! आइए गहरे विचारों का अन्वेषण करें और अपने तर्क को मजबूत करें।" इसने उनके साथ ऐसे व्यवहार किया जैसे वे भविष्य के नेता हों जो कठिन आलोचना झेलने में सक्षम हैं।
- कम-उपलब्धि या "संघर्ष कर रहे" छात्रों के लिए: AI एक सख्त ड्रिल सार्जेंट (Strict Drill Sergeant) बन गया। इसने बड़े विचारों को नजरअंदाज कर दिया और केवल छोटी गलतियों पर ध्यान केंद्रित किया। इसने कहा, "स्पेलिंग ठीक करें," "व्याकरण जांचें," और "सुनिश्चित करें कि आपने कोई त्रुटि नहीं की।" इसने मान लिया कि ये छात्र बड़े सिद्धांतों को नहीं समझ सकते, इसलिए इसने मानक (bar) को नीचे कर दिया।
2. "भाषा पुलिस" बनाम "विचार अन्वेषक"
- अंग्रेजी भाषा सीखने वालों (ELL) के लिए: AI व्याकरण के नियमों के प्रति जुनूनी हो गया। यह एक भाषा पुलिस अधिकारी (Language Police Officer) की तरह व्यवहार करने लगा, लगातार कैपिटलाइजेशन और क्रिया के रूपों (verb tenses) को ठीक करता रहा। इसने मान लिया कि छात्र को अंग्रेजी अच्छी तरह से नहीं आती, इसलिए इसने उनके शानदार विचारों को अनदेखा कर दिया।
- नेटिव स्पीकर्स के लिए: AI एक विचार अन्वेषक (Idea Explorer) की तरह व्यवहार करता था, जो पूछता था, "आपका मुख्य तर्क क्या है? आप इसे और अधिक प्रभावशाली कैसे बना सकते हैं?"
3. "सांस्कृतिक रूढ़िवादिता मशीन"
यह जहाँ बहुत अजीब हो जाता है। AI ने नस्ल और लिंग के आधार पर फिल्मी किरदारों (movie tropes) की तरह व्यवहार करना शुरू कर दिया:
- अश्वेत (Black) छात्रों के लिए: AI ने माना कि वे "स्वाभाविक नेता" या "सामाजिक परिवर्तन के एजेंट" हैं। इसने उनकी "व्यक्तिगत कहानियों" और "सामुदायिक मूल्यों" की प्रशंसा की। हालांकि यह सुनने में अच्छा लगता है, लेकिन यह एक जाल है। यह मान लेता है कि उन्हें संस्कृति और संघर्ष के बारे में ही लिखना चाहिए, बजाय इसके कि उन्हें किसी भी चीज़ के बारे में लिखने दिया जाए।
- हिस्पैनिक (Hispanic) छात्रों के लिए: AI ने माना कि वे "परिवार-केंद्रित" हैं और उन्हें "औपचारिक अंग्रेजी" में मदद की आवश्यकता है। इसने उनके साथ ऐसा व्यवहार किया जैसे वे बाहरी लोग हों जो फिट होने की कोशिश कर रहे हैं।
- एशियाई (Asian) छात्रों के लिए: AI ने माना कि वे "अकादमिक रोबोट" हैं जिन्हें "सम्मानजनक" और "पॉलिश" होने की आवश्यकता है। इसने उनकी रचनात्मकता को नजरअंदाज कर दिया और इस बात पर ध्यान केंद्रित किया कि वे आदर्श छात्र बनें।
- महिला छात्रों के लिए: AI अत्यधिक भावुक और "प्यारा" (cuddly) हो गया। इसने "प्रेम", "सहानुभूति" और "भावनाओं" जैसे शब्दों का उपयोग किया। इसने उनके साथ ऐसा व्यवहार किया जैसे उन्हें बौद्धिक चुनौती के बजाय भावनात्मक समर्थन की आवश्यकता हो।
- पुरुष छात्रों के लिए: AI ठंडा, वस्तुनिष्ठ (objective) था और पूरी तरह से तथ्यों और तर्क पर केंद्रित था।
बड़ी समस्या: "कांच की छत" (The Glass Ceiling)
शोधकर्ता इसे "फीडबैक विदहोल्डिंग बायस" (Feedback Withholding Bias) कहते हैं।
कल्पना कीजिए कि आप एक छात्र हैं।
- यदि रोबोट सोचता है कि आप समझदार और श्वेत हैं, तो वह आपको चाँद तक पहुँचाने के लिए धक्का देता है। वह आपको कठिन चुनौतियाँ देता है क्योंकि उसका मानना है कि आप उन्हें संभाल सकते हैं।
- यदि रोबोट सोचता है कि आप अश्वेत, हिस्पैनिक, एक लड़की या विकलांग हैं, तो वह आपके सिर पर एक कांच की छत (glass ceiling) रख देता है। वह आपकी "प्यारी" या "परिश्रमी" होने के लिए प्रशंसा तो करता है, लेकिन वह आपको कभी भी गहराई से सोचने के लिए चुनौती नहीं देता। वह मान लेता है कि आप कठिन चीजों को नहीं संभाल सकते।
यह बुरा क्यों है?
यह उस शिक्षक की तरह है जो कुछ बच्चों को केवल "आसान" होमवर्क देता है क्योंकि उसे लगता है कि वे कठिन काम के लिए "बहुत नाजुक" हैं। समय के साथ, वे बच्चे कभी आगे नहीं बढ़ पाते। रोबोट केवल बुरा व्यवहार नहीं कर रहा है; यह अनजाने में छात्रों को पीछे खींच रहा है क्योंकि यह मान लेता है कि वे वास्तव में उतने सक्षम नहीं हैं जितना वे हैं।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि AI एक तटस्थ उपकरण नहीं है। यह एक दर्पण है जो हमारे अपने मानवीय पूर्वाग्रहों को हमारी ओर वापस प्रतिबिंबित करता है।
यदि हम इन रोबोटों को बिना जांचे अपने बच्चों को ग्रेड देने के लिए छोड़ देते हैं, तो हम केवल फीडबैक को स्वचालित नहीं कर रहे हैं; हम असमानता को स्वचालित (automating inequality) कर रहे हैं। रोबोट कह सकता है, "मैं बस नियमों का पालन कर रहा हूँ," लेकिन इंटरनेट से सीखी गई उसकी नियम भी रूढ़ियों से भरे हुए हैं।
समाधान क्या है?
हमें AI को एक जादुई ब्लैक बॉक्स की तरह मानना बंद करना होगा। हमें पूछना होगा:
- रोबोट इस छात्र के बारे में क्या मान रहा है?
- क्या यह उनके साथ वैसा ही व्यवहार कर रहा है जैसा यह किसी और के साथ करता?
- क्या हम हर छात्र को समान उच्च-गुणवत्ता वाली चुनौती दे रहे हैं, या हम कुछ लोगों के लिए मानक (bar) को कम कर रहे हैं?
लेखकों का कहना है कि हमें "पारदर्शिता" की आवश्यकता है। हमें रोबोट की "शिक्षण शैली" जानने की आवश्यकता है ताकि हम इसे बच्चे के भविष्य को नुकसान पहुँचाने से पहले ठीक कर सकें। हम केवल एक बटन दबाकर और बेहतर होने की उम्मीद नहीं कर सकते; हमें यह सुनिश्चित करना होगा कि रोबंतु सभी के लिए एक निष्पक्ष शिक्षक हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।