Same System, Opposite Verdicts: Metric Discretion in AI Ethics Audits and the Limits of Disclosure
यह शोध पत्र यह प्रदर्शित करता है कि एआई नैतिकता में मानकीकृत निष्पक्षता मेट्रिक्स (fairness metrics) का अभाव मनमाने और विरोधाभासी ऑडिट परिणामों की अनुमति देता है, और यह तर्क देता है कि एक एकल सही मीट्रिक को अनिवार्य करने के बजाय, वित्तीय वैकल्पिक प्रदर्शन उपायों (financial alternative performance measures) के समान प्रकटीकरण आवश्यकताओं को लागू करना इस विवेकाधिकार को काफी कम कर सकता है और पारदर्शिता में सुधार कर सकता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अदालत में न्यायाधीश हैं, लेकिन दोषी या निर्दोष का निर्णय करने के बजाय, आप यह तय कर रहे हैं कि क्या एक कंप्यूटर प्रोग्राम निष्पक्ष है। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, "निष्पक्षता" (fairness) ऊंचाई या वजन की तरह कोई एक सरल संख्या नहीं है। यह एक रेसिपी (विधि) की तरह है। आप एक केक बना सकते हैं जिसका स्वाद मीठा हो, या खट्टा हो, या जो पूरी तरह से संतुलित हो, यह इस पर निर्भर करता है कि आप कौन सी सामग्री चुनते हैं और उसमें से कितनी मात्रा मिलाते हैं। उसी तरह, AI को निष्पक्ष मापने के लिए, आपको यह चुनना होगा कि कौन सी गणितीय रेसिपी का उपयोग करना है। आपको यह तय करना होगा कि तुलना करने के लिए "समूह" (group) किसे माना जाए, "पास" होने के लिए कौन सा स्कोर गिना जाए, और कौन सा विशिष्ट गणितीय सूत्र चलाया जाए।
लंबे समय तक, विशेषज्ञों ने इस बात पर बहस की कि कौन सी रेसिपी "सही" थी। कुछ ने कहा, "हमें यह देखना चाहिए कि कितने लोगों को नौकरी मिली," जबकि अन्य ने कहा, "नहीं, हमें यह देखना चाहिए कि कितने लोगों को खारिज किया गया।" यह शोध पत्र उस अस्त-व्यस्त रसोई में कदम रखता है ताकि यह देखा जा सके कि क्या होता है जब अलग-अलग शेफ एक ही सामग्री पर अलग-अलग रेसिपी का उपयोग करते हैं। बड़ा सवाल यह है: क्या यह मायने रखता है कि आप कौन सी रेसिपी चुनते हैं? उत्तर निकलता है एक ज़ोरदार, गूँजता हुआ "हाँ।" यदि आप रेसिपी बदलते हैं, तो आप अपने फैसले को "यह AI निष्पक्ष है" से बदलकर "यह AI पक्षपाती है" पर ला सकते हैं, भले ही कंप्यूटर ने एक भी चीज़ न बदली हो। यह महत्वपूर्ण है क्योंकि सरकारें और कंपनियाँ अब बड़े निर्णय लेने के लिए—जैसे कि किसे ऋण, नौकरी, या यहाँ तक कि अदालत में स्वतंत्रता मिले—इन निष्पक्षता स्कोर की मांग कर रही हैं। यदि स्कोर पूरी तरह से उस रेसिपी पर निर्भर करता है जिसे आपने चुना है, और कोई आपको यह नहीं बताता कि कौन सी रेसिपी इस्तेमाल की गई थी, तो वह स्कोर अर्थहीन हो सकता है।
द ग्रेट AI फेयरनेस स्विचिरू (The Great AI Fairness Switcheroo)
यह शोध पत्र एक विशाल प्रयोग की तरह है जहाँ लेखक, शे शै त्सबन (Shay Tsaban), एक अत्यंत सूक्ष्म ऑडिटर की भूमिका निभाते हैं। उन्होंने चार अलग-अलग AI सिस्टम लिए—एक वास्तविक उपकरण जिसका उपयोग फ्लोरिडा की एक जेल में यह अनुमान लगाने के लिए किया जाता है कि क्या कोई व्यक्ति दोबारा अपराध करेगा, और तीन प्रसिद्ध परीक्षण डेटासेट जिनका उपयोग वैज्ञानिक आय, क्रेडिट और नौकरियों में पक्षपात की जांच के लिए करते हैं। फिर, उन्होंने केवल एक परीक्षण नहीं किया। उन्होंने परीक्षण के 91,572 अलग-अलग संस्करण चलाए।
इसे ऐसे समझें: कल्पना कीजिए कि आपके पास लेगो (Legos) का एक विशाल डिब्बा है जो एक AI सिस्टम का प्रतिनिधित्व करता है। लेखक ने एक ऐसी मशीन बनाई जो यह देखने के लिए हर संभव संयोजन को जोड़ सकती थी कि वह किस तरह का टावर बनाएगी। उन्होंने निष्पक्षता मापने के हर बचाव योग्य तरीके को आज़माया: गणितीय सूत्र बदलना, "पास" के लिए कटऑफ स्कोर बदलना, समूहों के तुलना करने के तरीके को बदलना, और यहाँ तक कि उपयोग किए गए डेटा के विशिष्ट वर्ष को भी बदलना।
चौंकाने वाला परिणाम: फैसला पलट जाता है
इस शोध पत्र ने जो सबसे चौंकाने वाली बात पाई, वह यह है कि प्रत्येक सिस्टम के लिए, परिणाम बार-बार पलटता रहा। उन सभी 7 विशिष्ट मामलों में (जैसे "ब्लैक बनाम व्हाइट अपराधी" या "पुरुष बनाम महिला"), एक सेट के नियमों के तहत AI को "निष्पक्ष" घोषित किया जा सकता था और दूसरे सेट के तहत "अनुचित"।
यह और भी विचित्र हो जाता है। कभी-कभी, वह समूह जिसे "वंचित" (disadvantaged) लेबल किया गया था (जिन्हें अन्यायपूर्ण व्यवहार का सामना करना पड़ा), बदल जाता था! एक रेसिपी के तहत, AI समूह A को नुकसान पहुँचा रहा था। दूसरी, समान रूप से वैध रेसिपी के तहत, AI समूह B को नुकसान पहुँचा रहा था। शोध पत्र ने पाया कि रिपोर्ट किए गए अंक सामान्य "सैंपलिंग एरर" (वह मामूली अंतर जो हम यादृच्छिक संयोग से उम्मीद करते हैं) से 6 से 30 गुना अधिक उतार-चढ़ाव दिखा सकते हैं। वास्तव में, अंतिम स्कोर में अंतर के लिए गणितीय सूत्र का चुनाव 45% जिम्मेदार था, जबकि यादृच्छिक संयोग (random chance) ने केवल एक बहुत छोटे हिस्से को प्रभावित किया।
"फेयरवाशिंग" (Fairwashing) की समस्या
शोध पत्र ने यह भी देखा कि कंपनियाँ और सरकारें वास्तव में क्या कर रही हैं। उन्होंने 6,797 सार्वजनिक दस्तावेज़ पढ़े जहाँ संगठनों ने दावा किया था कि उन्होंने अपने AI का ऑडिट किया है। परिणाम? लगभग कोई भी जानकारी के साथ निष्पक्षता से खेल नहीं रहा है।
- उन लगभग 7,000 दस्तावेज़ों में से केवल 38 ने वास्तव में निष्पक्षता के लिए एक विशिष्ट संख्या दी।
- उन 38 में से, किसी ने भी यह नहीं बताया कि उन्होंने उस विशिष्ट गणितीय रेसिपी को क्यों चुना।
- किसी ने भी यह नहीं बताया कि उन्होंने किन अन्य रेसिपीज़ पर विचार किया और उन्हें क्यों खारिज किया।
- किसी ने भी वर्तमान स्कोर की पिछले वर्ष के स्कोर से तुलना नहीं की कि चीजें बेहतर हो रही हैं या बदतर।
यह एक शेफ की तरह है जो आपसे कहता है, "यह केक स्वादिष्ट है," लेकिन यह बताने से इनकार कर देता है कि उसने चीनी का उपयोग किया या नमक का, या उसने इसे 10 मिनट तक पकाया या एक घंटे तक। आप यह नहीं बता सकते कि केक वास्तव में अच्छा है या वे बस रेसिपी के कारण भाग्यशाली रहे।
समाधान: "रेसिपी कार्ड" नियम
तो, हम इसे कैसे ठीक कर सकते हैं? शोध पत्र सुझाव देता है कि वित्त (finance) की दुनिया से एक तरकीब उधार ली जाए। अकाउंटिंग में, कंपनियों को "समायोजित आय" (उनके लाभ का अपना संस्करण) रिपोर्ट करने की अनुमति है, लेकिन उन्हें एक "रिकॉन्सिलिएशन" (reconciliation) तालिका दिखानी होती है जो स्पष्ट करती है कि उन्होंने मानक लाभ से उस संख्या तक कैसे पहुँचा।
लेखक ने एक सिमुलेशन चलाया यह देखने के लिए कि क्या होगा यदि AI ऑडिटर्स को भी ऐसा ही करना पड़े। उन्होंने पाया कि यदि ऑडिटर्स को बस चार चीजें लिखनी पड़तीं:
- उन्होंने किस गणितीय परिवार (math family) को चुना (रेसिपी)।
- उन्होंने किन विशिष्ट नियमों का उपयोग किया (सामग्री)।
- उन्होंने किसकी तुलना की (डाइनर्स/उपभोक्ता)।
- क्या उन्होंने समय के साथ नियमों को समान रखा (निरंतरता)।
...तो यह सरल प्रकटीकरण (disclosure) 78% के "उतार-चढ़ाव" (wiggle room) को बंद कर देता। यह परिणामों को बहुत अधिक सुसंगत और ईमानदार बना देता, बिना इस बात पर सहमत हुए कि कौन सी एकल रेसिपी "सही" है। इससे भी बेहतर, यदि वे यह भी रिपोर्ट करते कि समय के साथ स्कोर कैसे बदला, तो यह 82% के उतार-चढ़ाव को बंद कर देता।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि हमें इस उलझन को सुलझाने के लिए "परफेक्ट" निष्पक्षता की परिभाषा खोजने की असंभव गणितीय समस्या को हल करने की आवश्यकता नहीं है। हमें बस अपनी पसंद को छिपाना बंद करने की आवश्यकता है। यदि एक AI सिस्टम को केवल उस पैमाने को बदलकर "निष्पक्ष" या "अनुचित" घोषित किया जा सकता है जिसका उपयोग आप मापने के लिए कर रहे हैं, तो वह पैमाना स्वयं रिपोर्ट का हिस्सा होना चाहिए।
अभी, "अवशिष्ट" (residual) समस्या—वह मामूली उतार-चढ़ाव जो लोगों को उनके चुनाव बताने के लिए मजबूर करने के बाद भी बच जाता है—स्केल पर लगभग 0.16 है। यह पारदर्शिता द्वारा ठीक किए जाने योग्य सीमा है। लेकिन शोध पत्र दिखाता है कि अधिकांश भ्रम इस बात से आता है कि लोग हमें यह नहीं बता रहे हैं कि उन्होंने किन नियमों का पालन किया। उन्हें अपना काम दिखाने के लिए मजबूर करके, हम "वही सिस्टम, विपरीत नतीजे" के खेल को रोक सकते हैं और वास्तविक उत्तर प्राप्त करना शुरू कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।