💻 computer science

CIFA: Contextual-Intersectional Fairness Auditing for Hidden Subgroup Discovery in Face Analysis

यह शोध पत्र CIFA को प्रस्तुत करता है, जो चेहरे के विश्लेषण प्रणालियों में प्रासंगिक-अंतर्विभागीय निष्पक्षता (contextual-intersectional fairness) के ऑडिट के लिए एक ढांचा है, जो यह प्रकट करता है कि जनसांख्यिकीय और प्रासंगिक कारकों के बीच की अंतःक्रियाएं कैसे छिपे हुए उपसमूहों को बनाती है जिनमें महत्वपूर्ण प्रदर्शन असमानताएं होती हैं, जिन्हें अक्सर पारंपरिक समग्र या केवल जनसांख्यिकीय मूल्यांकनों द्वारा छिपा दिया जाता है और जो मौजूदा शमन रणनीतियों के साथ पूरी तरह से समाप्त करना कठिन बना रहता है।

मूल लेखक: Nazia Aslam, Khalid Adnan Alsayed, Thomas B. Moeslund, Kamal Nasrollahi

प्रकाशित 2026-08-11

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Nazia Aslam, Khalid Adnan Alsayed, Thomas B. Moeslund, Kamal Nasrollahi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक टैलेंट शो में एक जज हैं, लेकिन पूरे मंच को देखने के बजाय, आप केवल पूरी दर्शक दीर्घा के औसत स्कोर को देखते हैं। आप सोच सकते हैं, "वाह, शो बहुत बड़ा हिट है!" लेकिन क्या होगा अगर सामने की पंक्ति के जज ज़ोर-ज़ोर से तालियाँ बजा रहे हों जबकि पीछे की पंक्ति के लोग हूटिंग कर रहे हों? कंप्यूटर विज्ञान की दुनिया में, विशेष रूप से कंप्यूटर विज़न नामक एक क्षेत्र में, मशीनों को छवियों को "देखने" और समझने के लिए सिखाया जाता है, जैसे कि चेहरों को पहचानना। लंबे समय तक, वैज्ञानिकों ने यह जाँचने के लिए कि क्या ये मशीनें निष्पक्ष हैं, उनके समग्र स्कोर को देखा और यह जांचा कि क्या वे विभिन्न समूहों के लोगों, जैसे कि पुरुषों और महिलाओं या विभिन्न नस्लों के लोगों के लिए समान रूप से अच्छा काम करती हैं। यह औसत तालियों की जाँच करने जैसा है। हालाँकि, यहाँ एक छिपी हुई समस्या है: एक मशीन औसतन तो उत्तम दिख सकती है लेकिन विशिष्ट, कठिन स्थितियों में बुरी तरह विफल हो सकती है—जैसे कि जब रोशनी कम हो, फोटो धुंधली हो, या व्यक्ति ने चश्मा पहना हो। इन कठिन स्थितियों को "कॉन्टेक्स्ट" (संदर्भ) कहा जाता है, और जब ये किसी व्यक्ति की पहचान के साथ मिलती हैं, तो ये ऐसे छिपे हुए समूह बना देती हैं जहाँ मशीन संघर्ष करती है, भले ही समग्र स्कोर बहुत अच्छा दिख रहा हो।

यह शोध पत्र CIFA (कॉन्टेक्स्टुअल-इंटरसेक्शनल फेयरनेस ऑडिटिंग) नामक एक नए जासूसी उपकरण का परिचय देता है ताकि इन छिपी हुई विफलताओं को पकड़ा जा सके। शोधकर्ताओं ने, फेस एनालिसिस सिस्टम के साथ काम करते हुए, यह देखना चाहा कि क्या केवल यह देखना पर्याप्त है कि मशीन "किसे" देखती है, या हमें यह भी देखना चाहिए कि वह उन्हें "कैसे" और "कहाँ" देखती है। उन्होंने एक ऐसा ढांचा बनाया जो न केवल बड़े चित्र को देखता है बल्कि ज़ूम करके उन विशिष्ट संयोजनों को ढूंढता है जहाँ लोग और स्थितियाँ मिलकर मशीन को उलझा देते हैं। इसे एक ऐसे मैकेनिक की तरह समझें जो केवल यह नहीं जाँचता कि कार का इंजन चलता है या नहीं; वे यह भी परीक्षण करते हैं कि इंजन कैसा प्रदर्शन करता है जब बारिश हो रही हो, जब सड़क बर्फीली हो, और जब ड्राइवर एक किशोर हो, और वे सभी चीज़ें एक साथ।

टीम ने दो लोकप्रिय कंप्यूटर विज़न मॉडलों (ResNet-50 और ViT-B/16) का उपयोग करके तीन अलग-अलग फेस डेटासेट पर CIFA का परीक्षण किया। उन्होंने कुछ आश्चर्यजनक पाया: एक मशीन की समग्र सटीकता बहुत अधिक हो सकती है—कभी-कभी 98% से अधिक—लेकिन फिर भी वह विशिष्ट छिपे हुए समूहों के लिए बुरी तरह विफल हो सकती है। उदाहरण के लिए, एक डेटासेट पर, मशीन कुल मिलाकर 92.34% बार सही थी, लेकिन सबसे खराब प्रदर्शन करने वाले समूह के लिए (विशिष्ट जनसांख्यिकी और दृश्य स्थितियों का मिश्रण), वह केवल 65.91% बार सही थी। यह 26.43 प्रतिशत अंकों का एक विशाल अंतर है! शोध पत्र सुझाव देता है कि केवल "औसत" स्कोर पर भरोसा करना एक प्लास्टर के नीचे टूटी हुई टांग को छिपाने जैसा है; मशीन दूर से ठीक दिखती है, लेकिन वास्तव में वह विशिष्ट, वास्तविक दुनिया की स्थितियों में संघर्ष कर रही होती है।

इसे ठीक करने के लिए, शोधकर्ताओं ने कई मानक "बैंड-एड" (शमन रणनीतियों) को आज़माया जैसे कि मशीन के डेटा से सीखने के तरीके को बदलना या प्रशिक्षण तस्वीरों में अधिक विविधता जोड़ना। उन्होंने यह जाँचने के लिए अपने CIFA टूल का उपयोग किया कि क्या ये सुधार वास्तव में काम करते हैं। परिणामों ने दिखाया कि जबकि कुछ रणनीतियों ने मदद की, लेकिन किसी भी एक समाधान ने हर डेटासेट या हर मशीन के लिए समस्या को हल नहीं किया। कभी-कभी एक सुधार ने एक समूह की मदद की लेकिन दूसरे की नहीं, या इसने औसत स्कोर में सुधार किया बिना सबसे खराब स्थिति को ठीक किए। लेखक निष्कर्ष निकालते हैं कि हम केवल एक सुधार लागू नहीं कर सकते और यह मान नहीं सकते कि काम पूरा हो गया है। इसके बजाय, हमें ऑडिट, फिक्स और री-ऑडिट (जाँच, सुधार और पुनः जाँच) के निरंतर चक्र की आवश्यकता है। हमें इन छिपे हुए, इंटरसेक्शनल विफलताओं को खोजने के लिए CIFA जैसे उपकरणों का उपयोग करना जारी रखना चाहिए, क्योंकि एक मशीन जो "औसत पर निष्पक्ष" है, वह अभी भी एक धुंधली, कम रोशनी वाली फोटो के साये में पक्षपाती हो सकती है।

तकनीकी सारांश: CIFA – फेस एनालिसिस में छिपे हुए सबग्रुप की खोज के लिए कॉन्टेक्स्टुअल-इंटरसेक्शनल फेयरनेस ऑडिटिंग

समस्या विवरण (Problem Statement)

कंप्यूटर विज़न में वर्तमान निष्पक्षता मूल्यांकन (fairness evaluation) मुख्य रूप से समग्र सटीकता (aggregate accuracy) और जनसांख्यिकीय सबग्रुप विश्लेषण (जैसे कि नस्ल, लिंग, आयु) पर निर्भर करता है। जबकि ये मेट्रिक्स मानक हैं, वे जनसांख्यिकीय विशेषताओं और संदर्भ कारकों (contextual factors) जैसे कि प्रकाश व्यवस्था (illumination), ब्लर (blur), इमेज क्वालिटी, चेहरे के सहायक उपकरण (facial accessories) और पोज़ के बीच होने वाली अंतःक्रिया के कारण होने वाले प्रदर्शन ह्रास को पकड़ने में विफल रहते हैं।

यह शोध पत्र तर्क देता है कि विजुअल मॉडल उच्च समग्र सटीकता और स्वीकार्य जनसांख्यिकीय निष्पक्षता प्रदर्शित कर सकते हैं, जबकि साथ ही वे विशिष्ट कॉन्टेक्स्टुअल-इंटरसेक्शनल सबग्रुप्स (contextual-intersectional subgroups) के भीतर गंभीर विफलताओं का शिकार हो सकते हैं। ये "छिपे हुए सबग्रुप्स" (hidden subgroups) तब उत्पन्न होते हैं जब जनसांख्यिकीय गुण चुनौतीपूर्ण विजुअल स्थितियों के साथ मिलते हैं, जिससे ऐसे प्रदर्शन अंतर पैदा होते हैं जो पारंपरिक मूल्यांकन प्रोटोकॉल द्वारा अनकहे रह जाते हैं। लेखक रॉबर्ट विलियम्स की गलत गिरफ्तारी का उदाहरण देते हैं, जो ऐसे पूर्वाग्रहों का वास्तविक परिणाम है, जहाँ एक सिस्टम जनसांख्यिकीय और प्रासंगिक कारकों के बीच की अंतःक्रिया के कारण व्यक्ति की सही पहचान करने में विफल रहा, जिसे मानक ऑडिट द्वारा नहीं पकड़ा जा सका था।

कार्यप्रणाली: CIFA फ्रेमवर्क (Methodology: The CIFA Framework)

इस अंतराल को भरने के लिए, लेखक कॉन्टेक्स्टुअल-इंटरसेक्शनल फेयरनेस ऑडिटिंग फ्रेमवर्क (CIFA) का प्रस्ताव करते हैं। CIFA एक संरचित, मॉडल-अज्ञेयवादी (model-agnostic) प्रोटोकॉल है जिसे एक एकीकृत ऑडिट-मिटिगेट-री-ऑडिट (audit–mitigate–re-audit) पाइपलाइन के माध्यम से छिपे हुए सबग्रुप कमजोरियों की पहचान करने, उन्हें रैंक करने और पुनर्मूल्यांकन करने के लिए डिज़ाइन किया गया है।

1. बहु-स्तरीय ऑडिटिंग (Multi-Level Auditing)

CIFA एक डेटासेट $D = \{(x_i, y_i, a_i, c_i)\}$ पर परिभाषित तीन अलग-अलग समूहों के माध्यम से मॉडल प्रदर्शन का मूल्यांकन करता है, जहाँ $x$ इमेज है, $y$ लेबल है, $a$ जनसांख्यिकीय गुण (demographic attributes) है, और $c$ प्रासंगिक गुण (contextual attributes) है:

डेमोग्राफिक ऑडिटिंग ( $\mathcal{G}_d$ ): स्वतंत्र रूप से जनसांख्यिकीय समूहों (जैसे, नस्ल, लिंग) के प्रदर्शन का मूल्यांकन करता है।
कॉन्टेक्स्टुअल ऑडिटिंग ( $\mathcal{G}_c$ ): स्वतंत्र रूप से प्रासंगिक स्थितियों (जैसे, कम रोशनी, ब्लर, चश्मा) के प्रदर्शन का मूल्यांकन करता है।
कॉन्टेक्स्टुअल-इंटरसेक्शनल ऑडिटिंग ( $\mathcal{G}_{dc}$ ): जनसांख्यिकीय और प्रासंगिक गुणों के प्रतिच्छेदन (intersection) का मूल्यांकन करता है (जैसे, "कम रोशनी में अश्वेत महिलाएं")। यह मुख्य नवाचार है, जिसे $g = \text{race} \times \text{age} \times \text{illumination} \times \text{image quality}$ के रूप में परिभाषित किया गया है।

2. वर्स्ट-ग्रुप डिस्कवरी (Worst-Group Discovery)

फ्रेमवर्क ग्रुप-लेवल सटीकता ( $A_g$ ) की गणना करता है और सबसे खराब प्रदर्शन करने वाले सबग्रुप ( $A_{\text{worst}}$ ) की पहचान करता है। यह ओवरऑल-टू-ग्रुप गैप ( $\Delta_g = A_{\text{all}} - A_g$ ) और ग्रुप एक्यूरेसी के स्टैंडर्ड डेविएशन (मानक विचलन) की गणना करता है ताकि असमानता को मापा जा सके। यह प्रक्रिया उन एट्रिब्यूट संयोजनों को रैंक करती है जो सबसे बड़े विफलताओं के लिए जिम्मेदार हैं, जिससे "दृश्य" (visible) असमानताओं (जो केवल जनसांख्यिकीय ऑडिट द्वारा पता चलती हैं) और "छिपी हुई" (hidden) असमानताओं (जो केवल कॉन्टेक्स्टुअल-इंटरसेक्शनल विश्लेषण के तहत प्रकट होती हैं) के बीच अंतर किया जाता है।

3. ऑडिट–मिटिगेट–री-ऑडिट प्रोटोकॉल (Audit–Mitigate–Re-Audit Protocol)

CIFA शमन (mitigation) प्रभावशीलता को सत्यापित करने के लिए एक व्यवस्थित वर्कफ़्लो का समर्थन करता है:

ऑडिट (Audit): बेसलाइन प्रदर्शन स्थापित करें और सबसे खराब मामलों वाले सबग्रुप की पहचान करें।
मिटिगेट (Mitigate): उन्हीं सबग्रुप परिभाषाओं का उपयोग करके स्थापित रणनीतियों को लागू करें। शोध पत्र निम्नलिखित का मूल्यांकन करता है:
- कॉन्टेक्स्ट ऑग्मेंटेशन (Context Augmentation): इल्यूमिनेशन/क्वालिटी के लिए लेबल-संरक्षण रूपांतरण।
- बैलेंस्ड सैंपलिंग (Balanced Sampling): कम प्रतिनिधित्व वाले समूहों का ओवरसैंपलिंग।
- ग्रुप-वेटेड क्रॉस-एंट्रॉपी (Group-Weighted Cross-Entropy): ग्रुप फ्रीक्वेंसी के आधार पर लॉस को रीवेट करना।
- ग्रुप डिस्ट्रीबशनली रोबस्ट ऑप्टिमाइजेशन (Group DRO):
- उपरोक्त का संयोजन।
री-ऑडिट (Re-Audit): मिटिगेट किए गए मॉडल पर CIFA प्रोटोकॉल को फिर से लागू करें। प्रभावशीलता को केवल समग्र सटीकता के बजाय $A_{\text{worst}}$ , $\Delta_{\text{worst}}$ , और ग्रुप वेरिएंस में बदलाव द्वारा मापा जाता है।

प्रयोगात्मक सेटअप (Experimental Setup)

फ्रेमवर्क का मूल्यांकन तीन डेटासेट्स पर ResNet-50 और ViT-B/16 आर्किटेक्चर का उपयोग करके जेंडर क्लासिफिकेशन कार्यों पर किया गया:

FairFace: संतुलित नस्ल, लिंग और आयु एनोटेशन।
UTKFace: आयु, लिंग और जातीयता (ethnicity) में भिन्नता।
CelebA: समृद्ध फेशियल एट्रिब्यूट एनोटेशन (चश्मा, मेकअप आदि) जिनका उपयोग प्रासंगिक चरों (contextual variables) के रूप में किया गया है।

प्रासंगिक गुणों (contextual attributes) को डेटासेट एनोटेशन से प्राप्त किया गया या इमेज-लेवल सांख्यिकी (जैसे, ब्राइटनेस के लिए इल्यूमिनेशन, इमेज क्वालिटी के लिए लैपलेसियन वेरिएंस) के माध्यम से अनुमानित किया गया।

मुख्य परिणाम (Key Results)

प्रयोगों से पता चलता है कि समग्र सटीकता अक्सर गंभीर सबग्रुप विफलताओं को छिपा देती है:

छिपी हुई असमानताएं (Hidden Disparities): जबकि समग्र सटीकता (92.34% – 98.94%) उच्च बनी रही, वर्स्ट-ग्रुप सटीकता काफी गिर गई। ResNet-50 के साथ UTKFace पर, वर्स्ट-ग्रुप सटीकता 65.91% थी, जिससे समग्र से 26.43% का अंतर पैदा हुआ। FairFace पर भी 21% से अधिक के समान अंतर देखे गए।
प्रासंगिक प्रभाव (Contextual Impact): प्रासंगिक कारकों (जैसे, कम इमेज क्वालिटी, उच्च इल्यूमिनेशन, ब्लर) ने स्वतंत्र रूप से प्रदर्शन को कम किया, लेकिन जनसांख्यिकी के साथ उनके प्रतिच्छेदन ने सबसे गंभीर विफलताओं को जन्म दिया।
शमन की सीमाएं (Mitigation Limitations): किसी भी एकल शमन रणनीति ने सभी डेटासेट्स और आर्किटेक्चर में असमानताओं को लगातार समाप्त नहीं किया।
- Group DRO ने UTKFace पर महत्वपूर्ण गैप रिडक्शन दिखाया (ResNet-50 के लिए गैप को 26.43% से घटाकर 16.68% कर दिया)।
- Group-weighted Cross-Entropy ने CelebA और FairFace पर अच्छा प्रदर्शन किया।
- Context Augmentation ने FairFace पर वर्स्ट-ग्रुप सटीकता में सुधार किया लेकिन सभी सेटिंग्स में गैप को लगातार कम नहीं कर सका।
री-ऑडिट की आवश्यकता (Re-Audit Necessity): परिणाम पुष्टि करते हैं कि शमन रणनीतियों का मूल्यांकन विशिष्ट सबग्रुप परिभाषाओं के री-ऑडिटिंग के माध्यम से किया जाना चाहिए, क्योंकि समग्र सटीकता में सुधार गारंटी नहीं देता है कि वर्स्ट-ग्रुप असमानताएं भी कम हो जाएंगी।

महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि CIFA फेस एनालिसिस सिस्टम में छिपे हुए सबग्रुप जोखिमों की खोज, प्राथमिकता देने और पुनर्मूल्यांकन के लिए एक पुनरुत्पादक ढांचा (reproducible framework) प्रदान करता है। इसके प्राथमिक योगदान हैं:

एकीकृत ढांचा (Unified Framework): यह एक एकल प्रोटोकॉल के भीतर जनसांख्यिकीय, प्रासंगिक और कॉन्टेक्स्टुअल-इंटरसेक्शनल ऑडिटिंग को एकीकृत करने वाला पहला है जो पुनरावृत्त शमन (iterative mitigation) और पुनर्मूल्यांकन का समर्थन करता है।
छिपी हुई कमजोरियों का अनावरण (Exposure of Hidden Vulnerabilities): यह प्रदर्शित करता है कि उच्च समग्र सटीकता पर्याप्त कॉन्टेक्स्टुअल-इंटरसेक्शनल विफलताओं को छिपा सकती है, जो विशेष रूप से चुनौतीपूर्ण विजुअल स्थितियों में कम प्रतिनिधित्व वाले समूहों को प्रभावित करती है।
शमन का मूल्यांकन (Evaluation of Mitigation): यह स्थापित करता है कि मानक शमन रणनीतियों की प्रभावशीलता परिवर्तनशील है, और यह सत्यापित करने के लिए कि क्या विशिष्ट कमजोरियां वास्तव में कम हुई हैं, व्यवस्थित री-ऑडिटिंग आवश्यक है।

लेखक CIFA को केवल जनसांख्यिकीय-आधारित निष्पक्षता से आगे एक आवश्यक विकास के रूप में प्रस्तुत करते हैं, और तर्क देते हैं कि उच्च-दांव (high-stakes) अनुप्रयोगों में न्यायसंगत प्रदर्शन सुनिश्चित करने के लिए विजुअल कॉन्टेक्स्ट को एक स्पष्ट ऑडिटिंग आयाम के रूप में माना जाना चाहिए। शोध पत्र विनम्रतापूर्वक निष्कर्ष निकालता है, यह नोट करते हुए कि हालांकि इसके परिणाम जेंडर क्लासिफिकेशन में महत्वपूर्ण मुद्दों को उजागर करते हैं, उन्हें सभी कंप्यूटर विज़न कार्यों या मॉडल परिवारों के लिए व्यापक साक्ष्य के रूप में नहीं देखा जाना चाहिए, और भविष्य के कार्यों को इस ढांचे को व्यापक कार्यों और फाउंडेशन मॉडल्स तक विस्तारित करना चाहिए।