Beyond Explanation: Evidentiary Rights for Algorithmic Accountability
यह शोध पत्र तर्क देता है कि एल्गोरिद्मिक जवाबदेही के लिए स्पष्टीकरण पर ध्यान केंद्रित करने के बजाय साक्ष्यत्मक और प्रतितथ्यात्मक पूछताछ अधिकारों की स्थापना की ओर स्थानांतरित होना आवश्यक है, क्योंकि 168 कानूनी मामलों का अनुभवजन्य विश्लेषण यह प्रकट करता है कि पारदर्शिता के बावजूद, साक्ष्यों तक पहुँच के बिना सार्थक चुनौती देना लगभग असंभव है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ शोध पत्र "Beyond Explanation: Evidentiary Rights for Algorithmic Accountability" का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ हिंदी अनुवाद दिया गया है।
बड़ी समस्या: "ब्लैक बॉक्स" डिनर
कल्पना कीजिए कि आप एक शानदार रेस्टोरेंट में गए और आपने एक स्टेक (steak) ऑर्डर किया। वेटर उसे लेकर आता है, लेकिन वह जल चुका है। आप पूछते हैं, "यह क्यों जला हुआ है?"
शेफ (एल्गोरिदम) एक नोट भेजता है: "स्टेक को 400 डिग्री पर 15 मिनट तक पकाया गया था।"
आप नोट पढ़ लेते हैं। आप स्पष्टीकरण को समझते हैं। लेकिन फिर भी आप इसे ठीक नहीं कर सकते। आपको यह नहीं पता कि:
- क्या थर्मामीटर खराब था?
- क्या शेफ ने गलत किस्म का मांस इस्तेमाल किया था?
- अगर आपने 15 मिनट के बजाय 10 मिनट के लिए कहा होता, तो क्या यह एकदम सही होता?
क्योंकि आप किचन के अंदर नहीं देख सकते, इसलिए आप यह साबित नहीं कर सकते कि शेफ ने गलती की है। आपके पास बस जला हुआ स्टेक खाने या बिना रिफंड के वापस जाने का विकल्प बचता है।
AI की वर्तमान स्थिति यही है। जब कोई एल्गोरिदम आपको लोन, नौकरी या घर देने से मना करता है, तो कंपनियाँ आपको एक "कारण" देती हैं (जैसे, "आपका ऋण-से-आय अनुपात बहुत अधिक है")। आप कारण को समझ जाते हैं, लेकिन आप उसे चुनौती (contest) नहीं दे सकते। आप गणित की जाँच नहीं कर सकते, आप यह परीक्षण नहीं कर सकते कि एक छोटा सा बदलाव इसे कैसे सुधार सकता है, और आप यह साबित नहीं कर सकते कि सिस्टम पक्षपाती है।
शोध पत्र का समाधान: "टेस्ट किचन" (Test Kitchen)
लेखक, मैथ्यू स्टीवर्ट का तर्क है कि हमें केवल निर्णय के स्पष्टीकरण पर ध्यान केंद्रित करना बंद करना चाहिए और लोगों को निर्णय का परीक्षण (test) करने का अधिकार देना शुरू करना चाहिए।
वे एक नया अधिकार प्रस्तावित करते हैं जिसे "काउंटरफैक्चुअल इंटरोगेशन" (Counterfactual Interrogation) कहा जाता है।
उपमा (Analogy):
शेफ के नोट को पढ़ने के बजाय, कल्पना करें कि कानून कहता है: "यदि आपको स्टेक देने से मना किया जाता है, तो आपको किचन में 30 मिनट बिताने का मौका मिलता है। आप गुप्त रेसिपी (कोड) नहीं देख सकते, लेकिन आप यह देखने के लिए अलग-अलग सेटिंग्स के साथ स्टेक पकाने की कोशिश कर सकते हैं कि क्या होता है।"
- आप कोशिश करते हैं: "अगर मैं इसे 10 मिनट तक पकाऊं?" -> परिणाम: एकदम सही।
- आप कोशिश करते हैं: "अगर मैं अलग किस्म का मांस इस्तेमाल करूं?" -> परिणाम: एकदम सही।
- आप कोशिश करते हैं: "अगर मैं ऑर्डर फॉर्म पर अपना नाम बदल दूँ?" -> परिणाम: अभी भी जला हुआ।
यदि किसी मामूली, अप्रासंगिक विवरण (जैसे नाम या पकाने का समय) को बदलने से परिणाम बदल जाता है, तो आपके पास सबूत (evidence) है कि सिस्टम टूटा हुआ या पक्षपाती है। आपको यह जानने की ज़रूरत नहीं है कि शेफ कैसे सोचता है; आपको बस यह देखने की ज़रूरत है कि परिणाम अनुचित है।
सबूत: डेटा क्या कहता है
लेखक ने 168 वास्तविक जीवन के अदालती मामलों का अध्ययन किया जहाँ लोगों ने एल्गोरिदम संबंधी निर्णयों (जैसे नौकरी से निकाला जाना, लोन न मिलना या गिरफ्तार होना) के खिलाफ लड़ाई लड़ी थी।
उन्होंने एक बड़ा पैटर्न पाया, जिसे वे "दो-द्वार" (Two-Gate) प्रणाली कहते हैं:
गेट 1: साक्ष्य द्वार (The Evidence Gate)। क्या व्यक्ति सिस्टम का परीक्षण करने के लिए किचन में प्रवेश कर सकता है?
- पहुँच के बिना: 91% लोग हार गए। वे कुछ भी साबित नहीं कर सके, इसलिए जज ने केस खारिज कर दिया।
- पहुँच के साथ: 93% लोग जीत गए। एक बार जब वे सिस्टम का परीक्षण करने और परिणाम दिखाने में सक्षम हुए, तो कंपनियों को मानना पड़ा कि वे गलत थे।
गेट 2: कानून द्वार (The Law Gate)। भले ही आप साबित कर दें कि सिस्टम टूटा हुआ है, क्या कानून वास्तव में इसकी परवाह करता है?
- लेखक को एक अपवाद मिला: सोशल मीडिया प्लेटफॉर्म। यहाँ तक कि जब लोगों ने साबित कर दिया कि फेसबुक या गूगल के एल्गोरिदम हानिकारक थे, तब भी वे हार गए क्योंकि एक विशिष्ट कानून (Section 230) है जो प्लेटफॉर्म को उपयोगकर्ताओं द्वारा पोस्ट की गई सामग्री के लिए मुकदमा झेलने से बचाता है। यह दर्शाता है कि सबूत होना आवश्यक है, लेकिन कभी-कभी कानून को भी बदलने की आवश्यकता होती है।
"स्पष्टीकरण" पर्याप्त क्यों नहीं है
यह शोध पत्र दो चीजों के बीच स्पष्ट अंतर करता है:
- स्पष्टीकरण (Explanation): "यहाँ बताया गया है कि हमने मना क्यों किया।" (जैसे वेटर का नोट)।
- प्रतिवाद/चुनौती (Contestation): "यहाँ प्रमाण है कि आपका 'ना' गलत था।" (जैसे टेस्ट किचन के परिणाम)।
वर्तमान में, GDPR (यूरोप में) और FCRA (अमेरिका में) जैसे कानून स्पष्टीकरण पर ध्यान केंद्रित करते हैं। वे कहते हैं, "आपको व्यक्ति को बताना होगा कि क्यों।"
लेखक कहते हैं: यह पर्याप्त नहीं है। आप एक गलत निर्णय के लिए एक सटीक स्पष्टीकरण दे सकते हैं। आपको साक्ष्य अधिकार (Evidentiary Rights) की आवश्यकता है—सत्यापित करने, तुलना करने और परीक्षण करने का अधिकार।
वास्तविक जीवन में यह कैसे काम करेगा
कल्पना कीजिए कि आप एक 58 वर्षीय महिला हैं जो नौकरी के लिए आवेदन कर रही हैं। AI आपको 0.42 के स्कोर के साथ खारिज कर देता है (आपको 0.60 की आवश्यकता थी)।
नए सिस्टम के तहत:
- आपको एक "टेस्ट पोर्टल" का लिंक मिलता है।
- आप एक फर्जी आवेदन जमा करती हैं जहाँ आप अपनी स्नातक वर्ष (graduation year) 1991 से बदलकर 2011 कर देती हैं (ताकि आप छोटी दिखें)।
- परिणाम: आपका स्कोर 0.71 हो जाता है, और आपको नौकरी मिल जाती है!
- प्रमाण: अब आपके पास एक दस्तावेज़ है जो दिखाता है कि AI आपकी योग्यता के बजाय आपकी उम्र के आधार पर निर्णय ले रहा है।
- परिणाम: आप इस प्रमाण के साथ अपील दायर करती हैं। कंपनी को यह समझाना होगा कि उम्र क्यों मायने रखती है, या उन्हें सिस्टम को ठीक करना होगा।
मुख्य निष्कर्ष
हम केवल बेहतर निर्देश मांगकर एक टूटे हुए सिस्टम को ठीक करने की कोशिश कर रहे हैं। यह शोध पत्र कहता है कि हमें लोगों को सिस्टम को तोड़ने और यह साबित करने के उपकरण देने की ज़रूरत है कि वह टूटा हुआ है।
- वर्तमान स्थिति: "हम पर भरोसा करें, कंप्यूटर ने 'ना' कहा है।"
- प्रस्तावित स्थिति: "हमें परीक्षण के परिणाम दिखाएं। यदि कंप्यूटर परीक्षण में विफल रहता है, तो हम इसे ठीक करेंगे।"
यह अंध विश्वास से सत्यापन योग्य निष्पक्षता की ओर बढ़ने के बारे में है। आपको इंजन कैसे काम करता है यह जानने की ज़रूरत नहीं है यह जानने के लिए कि कार सुरक्षित है या नहीं; आपको बस उसे टेस्ट ड्राइव लेने की क्षमता होनी चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।