Do Counterfactually Fair Image Classifiers Satisfy Group Fairness? -- A Theoretical and Empirical Study
यह शोध पत्र मानव-लेबल वाले काउंटरफैक्चुअल (counterfactual) के नए डेटासेट बनाकर इमेज क्लासिफिकेशन में काउंटरफैक्चुअल और ग्रुप फेयरनेस (group fairness) के बीच के संबंध की जांच करता है, जो यह प्रकट करता है कि लेटेंट एट्रिब्यूट कोरिलेशन (latent attribute correlations) के कारण काउंटरफैक्चुअल फेयरनेस स्वाभाविक रूप से ग्रुप फेयरनेस की गारंटी नहीं देती है, और इस समस्या को कम करने के लिए एक काउंटरफैक्चुअल नॉलेज डिस्टिलेशन (Counterfactual Knowledge Distillation) पद्धति का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक कंपनी के लिए एक मैनेजर को काम पर रख रहे हैं। आप यह सुनिश्चित करना चाहते हैं कि आपका भर्ती करने वाला एल्गोरिदम निष्पक्ष (fair) हो। लेकिन "निष्पक्षता" का वास्तव में क्या अर्थ है?
यह शोध पत्र निष्पक्षता की दो अलग-अलग परिभाषाओं का अन्वेषण करता है और पता लगाता है कि वे हमेशा एक साथ नहीं चलतीं, विशेष रूप से लोगों की तस्वीरों को देखते समय। यहाँ उनके निष्कर्षों की कहानी है, जिसे सरल रूप में समझाया गया है।
निष्पक्षता की दो परिभाषाएँ
निष्पक्षता को एक खेल के दो अलग-अलग नियमों की तरह सोचें:
- ग्रुप फेयरनेस (समूह निष्पक्षता - "टीम स्कोर" का नियम): यह नियम कहता है कि यदि आप लोगों के दो अलग-अलग समूहों (जैसे, पुरुष और महिला) को देखते हैं, तो एल्गोरिदम को औसतन उनके साथ समान व्यवहार करना चाहिए। यदि 90% पुरुषों को काम पर रखा जाता है, तो 90% महिलाओं को भी काम पर रखा जाना चाहिए। यह बड़े स्तर के आंकड़ों के बारे में है।
- काउंटरफैक्चुअल फेयरनेस (प्रति-तथ्यात्मक निष्पक्षता - "क्या होता अगर" का नियम): यह एक अधिक दार्शनिक नियम है। यह पूछता है: "यदि हम इस विशिष्ट व्यक्ति को लें, और केवल उनका लिंग बदल दें (लेकिन उनके बारे में बाकी सब कुछ बिल्कुल समान रखें), तो क्या एल्गोरिदम वही निर्णय लेगा?" यदि उत्तर "हाँ" है, तो एल्गोरिदम काउंटरफैक्टुअली फेयर है। यह व्यक्ति के लिए निरंतरता के बारे में है।
समस्या: "जादुई दर्पण" मौजूद नहीं है
"क्या होता अगर" नियम (Counterfactual Fairness) का परीक्षण करने के लिए, आपको एक विशेष प्रकार की फोटो की आवश्यकता होती है। आपको एक व्यक्ति की तस्वीर चाहिए, और फिर उसी व्यक्ति की एक दूसरी तस्वीर जहाँ केवल उनका लिंग बदल गया हो (उदाहरण के लिए, दाढ़ी वाला एक पुरुष बिना दाढ़ी वाले पुरुष में बदल जाता है, लेकिन नाक, आँखें और बैकग्राउंड समान रहता है)।
वास्तविक दुनिया में, आप किसी व्यक्ति की फोटो लेकर उसका लिंग जादू से बदल नहीं सकते और साथ ही उसकी पहचान को पूरी तरह से समान रख सकते हैं। पिछले अध्ययनों ने कंप्यूटर-जनित छवियों का उपयोग करने का प्रयास किया, लेकिन वे अक्सर नकली दिखते थे या गलती से अन्य चीजों (जैसे बैकग्राउंड) को भी बदल देते थे।
शोध का पहला कदम: लेखकों ने एक हाई-टेक एआई इमेज एडिटर (जिसे InstructPix2Pix कहा जाता है) का उपयोग करके एक "मैजिक मिरर" बनाया। उन्होंने मशहूर हस्तियों की वास्तविक तस्वीरें लीं और उनके लिंग को बदलने के लिए उन्हें एडिट किया (जैसे, एक महिला को पुरुष में बदलना) जबकि यह कोशिश की कि बाकी सब कुछ समान रहे। इसके बाद उन्होंने यह सुनिश्चित करने के लिए मानव विशेषज्ञों से इन तस्वीरों की जांच करवाई कि बदलाव सटीक हैं और कुछ भी गलत नहीं हुआ है। उन्होंने इस उद्देश्य के लिए दो नए, उच्च-गुणवत्ता वाले डेटासेट बनाए।
बड़ी खोज: "बालों की लंबाई" का जाल
लेखकों ने अपने नए फोटो डेटासेट का उपयोग करके अपने निष्पक्षता नियमों का परीक्षण किया। उन्होंने कुछ ऐसा पाया जो स्प्रेडशीट (टेबुलर डेटा) पर किए गए पिछले शोध के विपरीत था:
फोटो में, "काउंटरफक्चुअली फेयर" होना गारंटी नहीं देता कि आप "ग्रुप फेयर" भी होंगे।
क्यों? लेखक इसे बालों की लंबाई के एक चतुर उदाहरण के माध्यम से समझाते हैं।
कल्पना करें कि एल्गोरिदम यह अनुमान लगाने की कोशिश कर रहा है कि क्या कोई व्यक्ति "हेयर स्टाइलिस्ट" की नौकरी (लक्ष्य) के लिए आवेदन कर रहा है।
- संवेदनशील विशेषता (Sensitive Attribute): लिंग (पुरुष/महिला)।
- जाल (Attribute G): बालों की लंबाई।
वास्तविक दुनिया में, बालों की लंबाई लिंग के साथ अत्यधिक सह-संबंधित है (कई पुरुषों के बाल छोटे होते हैं, कई महिलाओं के बाल लंबे होते हैं), लेकिन बालों की लंबाई किसी के लिंग का कारण नहीं होती है। यह केवल एक दुष्प्रभाव है।
यहाँ वह जाल है:
- एल्गोरिदम "काउंटरफैक्टुअली फेयर" बनना सीखता है। वह सफलतापूर्वक "लिंग" लेबल को अनदेखा कर देता है।
- हालांकि, क्योंकि वह "लिंग" को अनदेखा करने में इतना कुशल है, वह निर्णय लेने के लिए बालों की लंबाई पर बहुत अधिक निर्भर करने लगता है।
- अब, यदि आपके पास लंबे बालों वाला एक पुरुष है, तो एल्गोरिदम उसे बालों के कारण एक महिला की तरह मानता है। यदि आपके पास छोटे बालों वाली एक महिला है, तो वह उसे एक पुरुष की तरह मानता है।
- भले ही एल्गोरिदम "क्या होता अगर" के संदर्भ में "फेयर" हो (वह लिंग लेबल को अनदेखा करता है), वह "ग्रुप" के संदर्भ में भारी अनिरुद्धता पैदा करता है क्योंकि वह लोगों के साथ उनके बालों के आधार पर अलग व्यवहार कर रहा है, जो अभी भी उनके लिंग से जुड़ा हुआ है।
शोध पत्र इस छिपे हुए चर को G (तीसरे पक्ष का गुण) कहता है। यह एक "शॉर्टकट" है जिसे एल्गोरिदम लेता है।
समाधान: एल्गोरिदम को शॉर्टकट को अनदेखा करना सिखाना
लेखक एक सरल समाधान प्रस्तावित करते हैं जिसे काउंटरफैक्टुअल नॉलेज डिस्टिलेशन (CKD) कहा जाता है।
इसे एक शिक्षक-छात्र संबंध की तरह समझें:
- छात्र (Student): नया एआई मॉडल जो निष्पक्षता सीखने की कोशिश कर रहा है।
- शिक्षक (Teacher): एक मॉडल जिसे बिना किसी निष्पक्षता नियमों के प्रशिक्षित किया गया है (एक "वैनिला" मॉडल)।
आश्चर्यजनक रूप से, "शिक्षक" मॉडल "छात्र" मॉडल की तुलना में "बालों की लंबाई" के जाल को अनदेखा करने में बेहतर है जो निष्पक्ष होने की कोशिश कर रहा है। "छात्र" मॉडल "लिंग" लेबल को अनदेखा करने पर इतना केंद्रित है कि वह ओवर-करेक्ट करता है और "बालों की लंबाई" से चिपक जाता है।
CKD विधि इस प्रकार काम करती है:
- शिक्षक एक फोटो और उसके "क्या होता अगर" वाले संस्करण को देखता है। वह एक भविष्यवाणी देता है।
- छात्र शिक्षक की सोचने की प्रक्रिया की नकल करने की कोशिश करता है।
- शिक्षक की नकल करके, छात्र "बालों की लंबाई" के जाल को अनदेखा करना सीखता है और साथ ही "क्या होता अगर" के नियम का सम्मान भी करता है।
परिणाम
जब लेखकों ने इस "शिक्षक-छात्र" पद्धति का उपयोग किया:
- मॉडल काउंटरफैक्टुअली फेयर बन गए (उन्होंने "क्या होता अगर" वाले परिदृश्यों को सही ढंग से संभाला)।
- और वे ग्रुप फेयर भी बन गए (उन्होंने कुल मिलाकर पुरुषों और महिलाओं के साथ समान व्यवहार किया)।
सारांश
यह शोध पत्र दिखाता है कि इमेज रिकग्निशन में, व्यक्तिगत रूप से निष्पक्ष होने की कोशिश (Counterfactual Fairness) अनजाने में पूरे समूह को अनफेयर बना सकती है यदि एआई बालों की लंबाई जैसे छिपे हुए संकेतों पर निर्भर हो जाता है। इन छिपे हुए संकेतों से एआई को दूर ले जाने के लिए एक "शिक्षक" मॉडल का उपयोग करके, वे दोनों मोर्चों पर निष्पक्षता प्राप्त करने में सफल रहे।
महत्वपूर्ण नोट: शोध पत्र सख्ती से इमेज क्लासिफिकेशन (जैसे चेहरों या तस्वीरों में गुणों को पहचानना) पर केंद्रित है और यह दावा नहीं करता है कि ये परिणाम चिकित्सा निदान, वास्तविक दुनिया के भर्ती निर्णयों या वर्णित सैद्धांतिक और प्रयोगात्मक दायरे से परे अन्य विशिष्ट अनुप्रयोगों पर लागू होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।