Contestability without recourse: post-decision safeguards for disabled learners in AI-supported educational decision-making

तकनीकी सारांश: बिना उपचार के चुनौती देने की क्षमता (Contestability without Recourse)

समस्या का विवरण
यह शोध पत्र विकलांगता और विशेष शैक्षिक आवश्यकताओं (SEN) वाले शिक्षार्थियों के संबंध में आर्टिफिशियल इंटेलिजेंस (AI) से संबंधित साहित्य में एक महत्वपूर्ण विषमता को संबोधित करता है। जहाँ शोध ने एल्गोरिदम संबंधी पूर्वाग्रह (bias), निष्पक्षता (fairness) और निर्णयों के तकनीकी उत्पादन का व्यापक रूप से मानचित्रण किया है, वहीं इसने चुनौती देने की क्षमता (contestability) के प्रश्न को काफी हद तक विस्थापित कर दिया है: अर्थात, एक consequential (परिणामी) निर्णय लिए जाने के बाद एक शिक्षार्थी या उनके प्रतिनिधि के पास क्या उपचार (recourse) उपलब्ध है। लेखक का तर्क है कि एक निर्णय प्रदर्शन के मामले में (उसके उत्पादन के संदर्भ में) प्रमाणित रूप से निष्पक्ष हो सकता है, फिर भी वह प्रभावित विषय के पास उसे बदलने का कोई तंत्र न छोड़ सकता है। मूल समस्या निर्णय-पश्चात सुरक्षा उपायों (post-decision safeguards) की अनुपस्थिति है—ऐसे तंत्र जो एक शिक्षार्थी को AI-समर्थित शैक्षिक निर्णय को चुनौती देने, सुधारने या पलटने की अनुमति देते हैं।

कार्यप्रणाली
यह अध्ययन अनुसंधान साहित्य की एक व्यवस्थित समीक्षा और कॉर्पस विश्लेषण (corpus analysis) का उपयोग करता है, जो इस प्रकार संरचित है:

• कॉर्पस निर्माण: "आर्टिफिशियल इंटेलिजेंस," "विकलांगता/SEN," और "शिक्षा" से संबंधित शब्दों का उपयोग करते हुए 12 ग्रंथ सूची स्रोतों (Scopus, ERIC, और Crossref सहित) में खोज की गई। महत्वपूर्ण रूप से, खोज शब्दों में निष्पक्षता, पूर्वाग्रह, अपील या चुनौती से संबंधित अवधारणाओं को बाहर रखा गया ताकि कॉर्पस तुलना के किसी भी पक्ष की ओर झुका हुआ न रहे।
• चयन मानदंड: 1,690 रिकॉर्ड्स के प्रारंभिक समूह में से, 727 का शीर्षक/सार (abstract) के माध्यम से परीक्षण किया गया, और 138 पूर्ण-पाठ रिपोर्ट प्राप्त और विश्लेषित की गईं। समावेशन मानदंडों के लिए मेटाडेटा में तीनों मुख्य अवधारणाओं (AI, विकलांगता, शिक्षा) की पुष्टि आवश्यक थी।
• मापन प्रोटोकॉल: विश्लेषण ने "निर्णय" (decision) शब्दों के निकट विशिष्ट अवधारणाओं की निकटता को मापा (240-कैरेक्टर विंडो के भीतर)।
  • निर्णय-पूर्व अवधारणाएं: पूर्वाग्रह (bias), निष्पक्षता (fairness), नैतिकता (ethics), गोपनीयता (privacy), सटीकता (accuracy), व्याख्यात्मकता (explainability), सहमति (consent)।
  • निर्णय-पश्चात तंत्र: मानवीय पुनर्विचार (human reconsideration), डेटा सुधार (data correction), अपील (appeal), निवारण/उपचार (redress/remedy), और चुनौती के लिए स्पष्टीकरण (explanation-for-challenge)।
• परिभाषाएं और अपवर्जन: यह शोध पत्र "निर्णय-पश्चात सुरक्षा उपायों" को कड़ाई से परिभाषित करता है और उन अवधारणाओं को बाहर रखता है जिन्हें अक्सर उपचार (recourse) के साथ भ्रमित किया जाता है, जैसे:
  • व्याख्यात्मकता (Explainability): चुनौती के मार्ग के बिना निर्णय का विवरण प्रदान करना।
  • मानवीय निरीक्षण (Human Oversight): निर्णय लेने की प्रक्रिया में शिक्षक या चिकित्सक की भागीदारी (जो ऑपरेटर-पक्ष का नियंत्रण है, शिक्षार्थी का अधिकार नहीं)।
  • तैनाती-पूर्व ऑडिट (Pre-deployment Audits): किसी भी निर्णय के अस्तित्व में आने से पहले होने वाली जाँच।
  • सहमति (Consent): डेटा संग्रह के लिए अनुमतियाँ, न कि परिणामों के लिए उपचार।
• सत्यापन: दो स्वतंत्र समीक्षकों ने 138 पूर्ण पाठों का मूल्यांकन किया कि क्या उनमें शिक्षार्थी द्वारा आह्वान योग्य सुरक्षा उपाय मौजूद थे। यह निर्धारित करने के लिए कि क्या AI-विशिष्ट कॉर्पस के बाहर विकलांग शिक्षार्थियों के लिए उपचार पर कोई साहित्य मौजूद है, एक माध्यमिक, लक्षित खोज भी की गई।

प्रमुख योगदान

1. वैचारिक अंतर: यह शोध पत्र चुनौती देने की क्षमता (contestability) को व्याख्यात्मकता (explainability) और निष्पक्षता (fairness) से औपचारिक रूप से अलग करता है। यह तर्क देता है कि निष्पक्षता इस बात से संबंधित है कि निर्णय कैसे लिया जाता है, जबकि चुनौती देने की क्षमता इस बात से संबंधित है कि विषय बाद में क्या कर सकता है।
2. परिचालन परिभाषा: यह एक "निर्णय-पश्चात सुरक्षा उपाय" की सटीक, पांच-भाग वाली परिभाषा प्रदान करता है (मानवीय पुनर्विचार, डेटा सुधार, अपील, निवारण, और चुनौती के लिए स्पष्टीकरण) जो अनुसंधान रिपोर्टों में मापने के लिए पर्याप्त विशिष्ट है।
3. कानूनी अंतराल विश्लेषण: यह शोध पत्र जनरल डेटा प्रोटेक्शन रेगुलेशन (GDPR), EU AI एक्ट, और विकलांग व्यक्तियों के अधिकारों पर संयुक्त राष्ट्र कन्वेंशन (UNCRPD) का विश्लेषण करता है। यह निष्कर्ष निकालता है कि हालांकि ये उपकरण चुनौती देने के अधिकार को पूर्वमान्य करते हैं, लेकिन इनमें से कोई भी स्कूल-स्तर की प्रक्रिया को निर्दिष्ट नहीं करता है जहाँ एक शिक्षार्थी पुनर्विचार शुरू कर सके।
4. अनुभवजन्य मापन: यह निर्णय की गुणवत्ता (पूर्वाग्रह/निष्पक्षता) पर अत्यधिक ध्यान केंद्रित करने और उपचार (recourse) की अनदेखी करने के अनुसंधान ध्यान के अंतर को मात्रात्मक रूप से प्रदर्शित करता है।

परिणाम
138-दस्तावेज़ों के कॉर्पस विश्लेषण से निम्नलिखित निष्कर्ष प्राप्त हुए:

• निर्णय-पूर्व प्रभुत्व: "पूर्वाग्रह" या "निष्पक्षता" को दर्शाने वाले शब्द निर्णय शब्द के निकट 74.6% दस्तावेजों में दिखाई दिए। "व्याख्यात्मकता" 19.6% में दिखाई दी।
• निर्णय-पश्चात अनुपस्थिति: "अपील," "चुनौती," या "उचित प्रक्रिया" को दर्शाने वाले शब्द निर्णय शब्द के निकट 0.0% दस्तावेजों में दिखाई दिए।
• अलग शब्दावली: हालांकि "निवारण" (redress) या "मानवीय पुनर्विचार" जैसे शब्द दस्तावेजों में दिखाई दिए, वे लगातार निर्णय संदर्भ से अलग (detached) थे। वे सार (abstract) या सामान्य चर्चा में तो दिखाई दिए, लेकिन कभी भी किसी विशिष्ट परिणाम को चुनौती देने वाले तंत्र से नहीं जुड़े।
• शिक्षक-केंद्रित "निरीक्षण": "मानवीय पुनर्विचार" के कुछ उदाहरण (6.5% दस्तावेज़) शिक्षकों या चिकित्सकों द्वारा रखी गई क्षमताओं (जैसे मैनुअल ओवरराइड) का वर्णन करते थे, न कि शिक्षार्थी या उनके परिवार के पास रखे गए अधिकारों का।
• लक्षित खोज के निष्कर्ष: "उपचार" (recourse) और "विकलांगता/शिक्षा" के लिए एक अलग खोज ने 102 प्रासंगिक रिकॉर्ड की पहचान की। हालाँकि, इनमें से किसी भी शीर्षक में AI, एल्गोरिदम या मशीन लर्निंग का उल्लेख नहीं था। यह इंगित करता है कि विकलांग शिक्षार्थियों के लिए शैक्षिक उपचार पर साहित्य और शिक्षा में AI से संबंधित साहित्य, दो अलग-अलग, गैर-अतिव्यापी क्षेत्र हैं।

महत्व और दावे
यह शोध पत्र दावा करता है कि शिक्षा में AI के क्षेत्र ने इस बात के मूल्यांकन के लिए परिष्कृत मानक विकसित किए हैं कि निर्णय कैसे लिए जाते हैं, लेकिन यह इस बात को संबोधित करने में विफल रहा है कि निर्णय लिए जाने के बाद क्या होता है।

• "निष्पक्षता" का भ्रम: लेखक का तर्क है कि निष्पक्षता पर ध्यान केंद्रित करना अपर्याप्त है; एक निष्पक्ष एल्गोरिदम अभी भी ऐसा निर्णय उत्पन्न कर सकता है जो प्रभावित शिक्षार्थी के लिए अपरिवर्तनीय हो।
• प्रक्रियात्मक आवश्यकता: शोध पत्र का कहना है कि चुनौती देने की क्षमता एक प्रक्रियात्मक आवश्यकता है, न कि तकनीकी। इसके लिए शिक्षार्थी (या उनके प्रतिनिधि) को समीक्षा शुरू करने के लिए शक्ति सौंपने की आवश्यकता होती है, एक ऐसा कदम जो वर्तमान "ह्यूमन-इन-द-लूप" मॉडल प्रदान नहीं करते हैं।
• अनुसंधान की दृष्टि दोष (Blind Spot): साहित्य में उपचार की अनुपस्थिति विकलांगता अधिकारों के प्रति सामान्य विद्वत्तापूर्ण ध्यान की कमी के कारण नहीं है, बल्कि AI-समर्थित निर्णय लेने के साथ उस विद्वत्ता को जोड़ने में विफलता के कारण है।
• सीमित दायरा: लेखक स्पष्ट रूप से कहता है कि उनके निष्कर्ष अनुसंधान साहित्य का वर्णन करते हैं, न कि अनिवार्य रूप से स्कूलों के वास्तविक व्यवहार का। वे स्वीकार करते हैं कि स्कूलों में प्रभावी पुनर्विचार प्रथाएं मौजूद हो सकती हैं लेकिन वे दस्तावेजीकृत नहीं हैं, या इसके विपरीत, वैधानिक अधिकार मौजूद हो सकते हैं लेकिन व्यवहार में अप्रभावी हो सकते हैं। शोध पत्र निष्कर्ष निकालता है कि अनुसंधान समुदाय को केवल निर्णय उत्पादन को अनुकूलित करने से हटकर निर्णय-पश्चात चुनौती के तंत्र स्थापित करने की ओर ध्यान केंद्रित करने की आवश्यकता है।