Measuring Perceptions of Fairness in AI Systems: The Effects of Infra-marginality
यह शोध पत्र एक उपयोगकर्ता अध्ययन प्रस्तुत करता है जो यह प्रदर्शित करता है कि एआई (AI) प्रणालियों में निष्पक्षता के प्रति मानवीय धारणाएं न केवल सांख्यिकीय समानता या परिणामों से, बल्कि असमानताओं के अंतर्निहित कारणों के बारे में विश्वासों से भी महत्वपूर्ण रूप से आकार लेती हैं, विशेष रूप से यह कि चिकित्सा निर्णय लेने की स्थितियों में इन्फ्रा-मार्जिनैलिटी (infra-marginality) और डेटा वितरण के अंतर निर्णयों को कैसे प्रभावित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ सरल भाषा और रचनात्मक उपमाओं का उपयोग करके शोध पत्र की व्याख्या दी गई है।
मुख्य विचार: क्यों "समानता" का अर्थ हमेशा "न्यायसंगत" नहीं होता
कल्पना कीजिए कि आप एक जज हैं जो यह तय कर रहे हैं कि छात्रवृत्ति किसे मिलनी चाहिए। आपके पास आवेदकों के दो समूह हैं: समूह A और समूह B।
लंबे समय से, कंप्यूटर वैज्ञानिक AI को "निष्पक्ष" बनाने के लिए इसे दोनों समूहों के साथ बिल्कुल एक जैसा व्यवहार करने के लिए मजबूर करने की कोशिश करते रहे हैं। वे चाहते हैं कि AI को समूह A के लिए उतने ही सही उत्तर मिले जितने वह समूह B के लिए देता है। इसे सांख्यिकीय समानता (Statistical Parity) कहा जाता है।
लेकिन यह शोध पत्र एक पेचीदा सवाल पूछता है: क्या होगा अगर समूह A और समूह B वास्तव में शुरुआत से ही अलग हों?
लेखक इस समस्या को "इन्फ्रा-मार्जिनैलिटी" (Infra-marginality) कहते हैं। यह एक भारी-भरकम शब्द है जिसका अर्थ है: "मैदान समतल नहीं है क्योंकि खिलाड़ी अलग-अलग पहाड़ियों से शुरू हुए थे।"
प्रयोग: मेडिकल AI टेस्ट
यह जानने के लिए कि आम लोग (केवल गणित विशेषज्ञ ही नहीं) इस बारे में कैसा महसूस करते हैं, शोधकर्ताओं ने 85 लोगों के साथ एक अध्ययन किया। उन्होंने एक काल्पनिक परिदृश्य बनाया:
- सेटअप: एक AI भविष्यवाणी करने की कोशिश कर रहा है कि किसे कैंसर है।
- समूह: दो अलग-अलग नस्लीय समूह (जिन्हें नस्ल A और नस्ल B लेबल किया गया है)।
- ट्विस्ट: शोधकर्ताओं ने प्रतिभागियों को उस डेटा के बारे में अलग-अलग बातें बताईं जिस पर AI को प्रशिक्षित किया गया था।
उन्होंने प्रतिभागियों से तीन अलग-अलग AI मॉडलों को रेट करने के लिए कहा:
- "सुपर मॉडल" (The Super Model): यह दोनों समूहों में समान उच्च सटीकता (accuracy) सुनिश्चित करता है (भले ही इसका मतलब उस समूह के लिए गलत अनुमान लगाना हो जो स्वाभाविक रूप से आसानी से अनुमान लगाने योग्य था)।
- "समझौता मॉडल" (The Compromise Model): यह दोनों समूहों के लिए समान औसत सटीकता सुनिश्चित करता है।
- "यथार्थवादी मॉडल" (The Realist Model): यह समूह A को उच्च सटीकता और समूह B को कम सटीकता लेने देता है, ठीक वैसा ही जैसा डेटा ने स्वाभाविक रूप से दिखाया।
चौंकाने वाले परिणाम
शोधकर्ता उम्मीद कर रहे थे कि लोग हमेशा "सुपर मॉडल" (विकल्प 1) को पसंद करेंगे क्योंकि यह सबसे अधिक समान लगता है। लेकिन परिणाम बहुत अधिक सूक्ष्म थे।
1. जब समूह एक जैसे दिखते हैं (या हमें कुछ पता नहीं होता)
यदि शोधकर्ताओं ने प्रतिभागियों को यह नहीं बताया कि समूह अलग थे, या यदि दोनों समूहों ने अपने दम पर समान प्रदर्शन किया, तो लोगों ने "सुपर मॉडल" को बहुत पसंद किया।
- उपमा: यदि आपके पास दो धावक हैं जो दिखने में एक जैसे हैं और उनके जूते भी एक जैसे हैं, तो आप उम्मीद करते हैं कि वे दौड़ एक ही समय पर पूरी करेंगे। यदि एक बहुत आगे निकल जाता है, तो आपको लगता है कि दौड़ में धांधली हुई है।
2. जब समूह स्वाभाविक रूप से अलग होते हैं
यहाँ बड़ी खोज हुई: जब प्रतिभागियों को पता चला कि एक समूह स्वाभाविक रूप से कठिन था (या जिसके पास कम डेटा था), तो उन्होंने वास्तव में "यथार्थवादी मॉडल" (विकल्प 3) को प्राथमिकता दी।
उन्हें लगा कि AI को यह दिखाने के लिए मजबूर करना कि दोनों समूह एक समान हैं (यदि वे नहीं हैं) अन्यायपूर्ण है।
- उपमा: एक बास्केटबॉल कोच की कल्पना करें।
- समूह A पेशेवर NBA खिलाड़ियों की एक टीम है।
- समूह B 10 साल के बच्चों की एक टीम है।
- यदि कोच AI को यह अनुमान लगाने के लिए मजबूर करता है कि दोनों टीमें 100 अंक बनाएंगी, तो AI बच्चों के बारे में गलत होगा (यह अनुमान लगाकर कि वे 100 अंक बनाएंगे जबकि वे नहीं बनाएंगे) और प्रोफेशनल्स के बारे में भी गलत होगा (यह अनुमान लगाकर कि वे 100 अंक बनाएंगे जबकि वे शायद 120 अंक बना सकते हैं)।
- प्रतिभागियों का दृष्टिकोण: उन्होंने कहा, "यह सही है कि प्रोफेशनल्स के उच्च अंक बनाने और बच्चों के कम अंक बनाने की भविष्यवाणी की जाए। यह वास्तविकता है। यदि आप AI को यह कहने के लिए मजबूर करते हैं कि 'दोनों टीमें 50 अंक बनाएंगी', तो आप बच्चों की क्षमता के बारे में झूठ बोल रहे हैं और प्रोफेशनल्स के कौशल के बारे में भी।"
3. "डेटा उपलब्धता" की भूमिका
अध्ययन ने यह भी देखा कि समूह क्यों अलग थे।
- यदि समूह A के पास अधिक डेटा (अधिक प्रशिक्षण उदाहरण) था और उसने बेहतर प्रदर्शन किया, तो लोगों ने सोचा, "ठीक है, यह समझ में आता है। उन्हें अधिक अभ्यास मिला था।"
- लेकिन यदि समूह A के पास कम डेटा था और फिर भी उसने बेहतर प्रदर्शन किया, तो लोग संदिग्ध हो गए। उन्होंने सोचा, "रुको, यदि उनके पास कम अभ्यास था लेकिन फिर भी वे जीत गए, तो शायद AI समूह B के खिलाफ पक्षपाती है?"
"एंकरिंग" (The Anchor Effect) का प्रभाव
शोध पत्र ने पाया कि लोग निष्पक्षता को शून्य में नहीं आंकते। वे एंकरिंग (Anchoring) का उपयोग करते हैं।
- रूपक: कल्पना कीजिए कि आप एक कार खरीद रहे हैं।
- यदि एक कार की कीमत आमतौर पर \20,000 होती है, और आप उसे \18,000 में देखते हैं, तो आप सोचते हैं कि यह एक बहुत अच्छी डील है।
- यदि एक कार की कीमत आमतौर पर \10,000 होती है, और आप उसे \12,000 में देखते हैं, तो आप सोचते हैं कि यह लूट है।
- अध्ययन में: लोगों ने प्रत्येक समूह के "प्राकृतिक प्रदर्शन" को एंकर के रूप में उपयोग किया। यदि समूह B स्वाभाविक रूप से संघर्ष कर रहा था, तो लोगों ने सोचा कि AI का उनके साथ संघर्ष करना उचित है। यदि AI अचानक उनके साथ बिल्कुल सटीक व्यवहार करने लगा (उनके स्वाभाविक संघर्ष को अनदेखा करते हुए), तो लोगों को लगा कि यह वास्तव में अन्यायपूर्ण है क्योंकि इसने स्थिति की वास्तविकता को अनदेखा कर दिया।
यह क्यों मायने रखता है?
वर्तमान में, कई AI सिस्टम "परिणाम की समानता" (यह सुनिश्चित करना कि सभी को समान स्कोर मिले) को लागू करने के लिए बनाए जाते हैं। यह शोध पत्र तर्क देता है कि यह उल्टा भी पड़ सकता है।
- जोखिम: यदि आप AI को समूहों के बीच वास्तविक अंतरों (जैसे अलग बीमारी दर या अलग डेटा गुणवत्ता) को अनदेखा करने के लिए मजबूर करते हैं, तो आप गलत निर्णय ले सकते हैं। आप खतरनाक अपराधियों को रिहा कर सकते हैं क्योंकि आपने केवल सांख्यिकी से मेल खाने के लिए उन्हें सुरक्षित बताने का दबाव डाला। या आप उन लोगों को चिकित्सा उपचार से वंचित कर सकते हैं जिन्हें वास्तव में इसकी आवश्यकता है क्योंकि AI "बही-खातों को संतुलित" करने की कोशिश कर रहा है।
- समाधान: हमें ऐसे AI की आवश्यकता है जो संदर्भ (Context) को समझे।
- यदि अंतर पक्षपात (अनुचित डेटा संग्रह) के कारण है, तो हमें इसे ठीक करना चाहिए।
- यदि अंतर वास्तविकता (अलग बेस रेट या कार्य की कठिनाई) के कारण है, तो हमें इसका सम्मान करना चाहिए।
निष्कर्ष (The Takeaway)
निष्पक्षता का अर्थ केवल संख्याओं को समान दिखाना नहीं है। यह यह समझने के बारे में है कि संख्याएँ क्यों अलग हैं।
यदि आप दो अलग-अलग समूहों के साथ बिल्कुल एक जैसा व्यवहार करते हैं जब वे मौलिक रूप से भिन्न होते हैं, तो आप निष्पक्ष नहीं हो रहे हैं; बल्कि आप अंधे हो रहे हैं। सच्ची निष्पक्षता का अर्थ है स्थिति की वास्तविकता को स्वीकार करना और ऐसे निर्णय लेना जो उन अंतरों का सम्मान करते हैं, न कि एक झूसी समानता को थोपना जो सभी को नुकसान पहुँचाती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।