Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review
यह सर्वेक्षण हाइब्रिड मशीन लर्निंग विधियों की एक व्यापक समीक्षा प्रदान करता है जो समूह (Group) और व्यक्तिगत (Individual) निष्पक्षता को संयुक्त रूप से संबोधित करते हैं, जो उनके सैद्धांतिक आधारों, अनुकूलन रणनीतियों और ट्रेड-ऑफ का व्यवस्थित रूप से विश्लेषण करते हुए सिद्धांत-आधारित, संदर्भ-जागरूक निष्पक्षता समाधान विकसित करने के लिए खुली चुनौतियों की पहचान करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल अदालत के मुख्य न्यायाधीश हैं जहाँ एक AI सिस्टम यह तय करने में मदद कर रहा है कि किसे ऋण (loan), नौकरी या चिकित्सा उपचार मिलना चाहिए। आपको दो बहुत महत्वपूर्ण, लेकिन अक्सर परस्पर विरोधी नियमों का पालन करना होगा ताकि न्याय सुनिश्चित किया जा सके:
- "समूह नियम" (Group Fairness): यह नियम कहता है, "हमें यह सुनिश्चित करना चाहिए कि प्रत्येक जनसांख्यिकीय समूह (demographic group) के लिए सफलता की समग्र दर समान हो।" यदि समूह A को 50% बार स्वीकृति मिलती है, तो समूह B को भी 50% बार स्वीकृति मिलनी चाहिए। यह बड़े चित्र और आंकड़ों के बारे में है।
- "पड़ोसी नियम" (Individual Fairness): यह नियम कहता है, "हमें समान व्यक्तियों के साथ समान व्यवहार करना चाहिए।" यदि दो व्यक्तियों के बायोडाटा (resume), क्रेडिट स्कोर और जीवन की कहानियाँ लगभग एक जैसी हैं, तो उन्हें एक ही निर्णय मिलना चाहिए, चाहे वे किसी भी समूह से हों। यह विशिष्ट विवरणों के बारे में है।
बड़ी समस्या:
यह शोध पत्र, जिसे स्पेन की एक टीम ने लिखा गया है, इस निराशाजनक वास्तविकता की ओर इशारा करता है: आप अक्सर इन दोनों नियमों का एक साथ पूरी तरह से पालन नहीं कर सकते।
इसे केक काटने की तरह समझें।
- यदि आप केक इस तरह काटते हैं कि हर मेज को केक की समान मात्रा मिले (Group Fairness), तो आपको संतुलन बनाने के लिए एक बहुत भूखे व्यक्ति को छोटा टुकड़ा और एक कम भूखे व्यक्ति को बहुत बड़ा टुकड़ा देना पड़ सकता है। यह पड़ोसी नियम का उल्लंघन करता है क्योंकि दो समान रूप से भूखे पड़ोसियों को अलग-अलग टुकड़े मिलते हैं।
- यदि आप इस तरह केक काटते हैं कि प्रत्येक भूखे व्यक्ति को एक ही आकार का टुकड़ा मिले (Individual Fairness), तो मेजों के पास कुल केक की मात्रा बहुत अलग हो सकती है। एक मेज के पास केक का पहाड़ होगा जबकि दूसरी के पास लगभग कुछ भी नहीं होगा। यह समूह नियम का उल्लंघन करता है।
यह शोध पत्र क्या करता है:
एक समाधान देने के बजाय कि "यह असंभव है," यह शोध पत्र अन्य शोधकर्ताओं के लिए एक व्यापक मानचित्र (comprehensive map) के रूप में कार्य करता है। यह उन सभी विभिन्न उपकरणों और तरीकों की समीक्षा करता है जिन्हें लोगों ने इन दोनों नियमों को संतुलित करने का प्रयास करने के लिए आविष्कार किया है।
लेखकों ने इन तरीकों को तीन मुख्य "वर्कशॉप" में व्यवस्थित किया है जहाँ निष्पक्षता का जादू होता है:
- डेटा तैयारी वर्कशॉप (Pre-processing): इससे पहले कि AI सीखना शुरू करे, शोधकर्ता डेटा में बदलाव करते हैं। वे डेटासेट में नंबरों को बदल सकते हैं या नकली "क्या होगा अगर" वाले परिदृश्य जोड़ सकते हैं (जैसे, "क्या होगा अगर यह व्यक्ति किसी अन्य समूह से होता?") ताकि AI को शुरुआत से ही निष्पक्ष बनाया जा सके।
- ट्रेनिंग जिम (In-processing): जब AI सीख रहा होता है, तब शोधकर्ता इसके प्रशिक्षण में अतिरिक्त "भार" (weights) या "नियम" जोड़ते हैं। यह AI पर एक बाधा (handicap) लगाने जैसा है: "यदि आप समान लोगों के साथ अलग व्यवहार करना शुरू करते हैं, तो आपको दंड मिलेगा।" AI को सटीक और निष्पक्ष दोनों होने के लिए सीखना होगा।
- अंतिम समीक्षा (Post-processing): AI द्वारा निर्णय लिए जाने के बाद, एक मानव (या दूसरा एल्गोरिदम) परिणामों को समायोजित करने के लिए हस्तक्षेप करता है। यदि AI समूह A को 60% बार "हाँ" कहता है और समूह B को 40% बार "हाँ" कहता है, तो यह चरण चीज़ों को बराबर करने के लिए समूह B के लिए मानक (bar) को थोड़ा कम कर सकता है, जबकि यह कोशिश करता है कि समान लोगों के साथ समान व्यवहार हो।
शोध पत्र ने क्या पाया:
- समझौता (Trade-off) वास्तविक है: शोध पत्र पुष्टि करता है कि एक प्रकार की अनिरंतरता (unfairness) को ठीक करने का प्रयास अक्सर दूसरी को बदतर बना देता है। यहाँ "मुफ्त का लाभ" (free lunch) नहीं है।
- अधिकांश तरीके महंगे हैं: इनमें से कई फैंसी संतुलन प्रक्रियाओं के लिए बहुत अधिक कंप्यूटर शक्ति और समय की आवश्यकता होती है। यह एक मैराथन दौड़ते समय रूबिक क्यूब (Rubik's cube) को हल करने जैसा है।
- हमारे पास पर्याप्त डेटा नहीं है: अधिकांश तरीकों का परीक्षण कुछ पुराने, सरल डेटासेट्स (जैसे, "Adult" या "COMPAS" डेटासेट्स) पर किया जाता है। हमें वास्तव में यह नहीं पता कि वे जटिल, वास्तविक दुनिया की स्थितियों जैसे कि मेडिकल इमेजिंग या रचनात्मक नौकरियों के लिए भर्ती में कैसे काम करते हैं।
- कोड गायब है: समीक्षा किए गए लगभग आधे तरीकों के कंप्यूटर कोड सार्वजनिक रूप से साझा नहीं किए गए हैं। यह एक स्वादिष्ट केक की रेसिपी पढ़ने जैसा है लेकिन आपको उसकी सामग्री की सूची देखने की अनुमति नहीं है।
निष्कर्ष:
शोध पत्र निष्कर्ष निकालता है कि हम इस पहेली को सुलझाने के शुरुआती दिनों में हैं। हालांकि हमारे पास "समूह नियम" और "पड़ोसी नियम" को संतुलित करने के लिए कई उपकरण हैं, हमें उन्हें उपयोग करने की लागत को मापने के बेहतर तरीके, विभिन्न वास्तविक-विश्व परिदृश्यों में अधिक परीक्षण और जब वे आपस में टकराते हैं तो किस नियम को प्राथमिकता देनी है, इसके लिए स्पष्ट दिशा-निर्देशों की आवश्यकता है। लक्ष्य एक पूर्ण समाधान खोजना नहीं है (क्योंकि शायद ऐसा कोई मौजूद ही न हो), बल्कि ऐसे सिस्टम बनाना है जहाँ हम समझौतों को समझ सकें और सूचित, नैतिक विकल्प बना सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।