तकनीकी सारांश: सुदृढ़ निष्पक्षता ऑडिट का एक ज्यामितीय सिद्धांत

समस्या विवरण

पड़ोस-आधारित (Neighborhood-based) निष्पक्षता ऑडिट, व्यक्तिगत निष्पक्षता के मूल्यांकन के लिए एक मानक विधि है। ये ऑडिट इस धारणा पर कार्य करते हैं कि समान व्यक्तियों (विशेषता स्थान में निकटता द्वारा परिभाषित) को समान भविष्यवाणियाँ प्राप्त होनी चाहिए। आमतौर पर, इसे एक व्यक्ति की भविष्यवाणी की तुलना उसके $k$-निकटतम पड़ोसियों (k-NN) की भविष्यवाणियों से करके लागू किया जाता है।

यद्यपि इनका व्यापक रूप से उपयोग किया जाता है, लेकिन ऑडिटिंग प्रक्रिया की सुदृढ़ता (robustness) की उपेक्षा की गई है। मौजूदा साहित्य भविष्यवाणियों के मॉडल को प्रतिकूल विक्षोभ (adversarial perturbations) के प्रति सुदृढ़ बनाने पर केंद्रित है, लेकिन यह मान लेता है कि ऑडिटिंग तंत्र स्थिर है। व्यवहार में, हालांकि, विशेषता स्थान में मामूली विक्षोभ—जो शोर, प्रीप्रोसेसिंग, सामान्यीकरण या लुप्त मानों के कारण हो सकते हैं—निकटतम-पड़ोसी संबंधों को बदल सकते हैं। यह "पड़ोस प्रतिस्थापन" (neighborhood replacement) एक ही मॉडल के लिए काफी भिन्न निष्पक्षता मूल्यांकन की ओर ले जा सकता है, जिससे वास्तविक अनिरंतरता और ऑडिट अस्थिरता के बीच अंतर करना कठिन हो जाता है। वर्तमान में ऐसा कोई सैद्धांतिक ढांचा नहीं है जो यह समझा सके कि ये ऑडिट विशेषता विक्षोभ के तहत कब स्थिर रहते हैं या ज्यामितीय परिवर्तन ऑडिट परिणामों में कैसे प्रसारित होते हैं।

कार्यप्रणाली

लेखक बंधित विशेषता स्थान विक्षोभ (bounded feature space perturbations) के तहत पड़ोस-आधारित निष्पक्षता ऑडिट की सुदृढ़ता का विश्लेषण करने के लिए एक एकीकृत ज्यामितीय ढांचे का प्रस्ताव करते हैं।

1. ऑडिट का औपचारिककरण

यह ढांचा एक स्थानीय निष्पक्षता ऑडिट को दो-चरणीय प्रक्रिया के रूप में मॉडल करता है:

1. द्विपक्षीय निष्पक्षता मूल्यांकन: एक फलन $g$ एक व्यक्ति $x_i$ और उसके पड़ोसियों $x_j \in N_k(i)$ के बीच निष्पक्षता संबंध का मूल्यांकन करता है।
2. एकत्रीकरण (Aggregation): एक ऑपरेटर $\Phi$ इन द्विपक्षीय स्कोर को एक एकल स्थानीय ऑडिट स्कोर $A_i(X)$ में एकत्रित करता है।

लेखक अपने विश्लेषण को लिप्सचिट्ज एकत्रीकरण ऑपरेटरों (परिभाषा 1) तक सीमित रखते हैं। इस वर्ग में अंकगणितीय माध्य, भारित माध्य, ट्रिम्ड मीन (trimmed means), और रोबस्ट M-एस्तेमेटर शामिल हैं, जो यह सुनिश्चित करता है कि ढांचा मौजूदा ऑडिटिंग विधियों (जैसे, कंसिस्टेंसी-बेस्ड ऑडिट, FaiTH) की एक विस्तृत श्रृंखला पर लागू होता है।

2. ज्यामितीय विक्षोभ मॉडल

विश्लेषण एक निश्चित भविष्यवाणी मॉडल $f$ और एक डेटासेट $X$ को मानता है जो एक मेट्रिक स्पेस $(M, d)$ में एम्बेडेड है। एक विचलित डेटासेट $X'$ को $\epsilon$-बद्ध ज्यामितीय विक्षोभ के रूप में परिभाषित किया गया है, जहाँ मूल बिंदु $x_i$ और उसके विचलित संस्करण $x'_i$ के बीच की दूरी $\epsilon$ से अधिक नहीं है।

प्रस्तुत मुख्य ज्यामितीय अवधारणा स्थानीय पृथक्करण मार्जिन ($\gamma_i$) है, जिसे सबसे दूर के पड़ोसी और निकटतम गैर-पड़ोसी के बीच के अंतर के रूप में परिभाषित किया गया है:
$$\gamma_i = \min_{x_j \notin N_k(i)} d(x_i, x_j) - \max_{x_j \in N_k(i)} d(x_i, x_j)$$

3. सैद्धांतिक व्युत्पत्ति

यह पत्र स्थिरता गारंटी की एक श्रृंखला स्थापित करता है:

• दूरी स्थिरता: बंधित विक्षोभ ($\epsilon$), द्विपक्षीय दूरी में अधिकतम $2\epsilon$ का परिवर्तन करते हैं (लेम्मा 1)।
• मार्जिन में कमी: स्थानीय पृथक्करण मार्जिन $4\epsilon$ से अधिक कम हो जाता है (लेम्मा 2)।
• पड़ोस अपरिवर्तनीयता: यदि मूल पृथक्करण मार्जिन $\gamma_i > 4\epsilon$ है, तो $k$-निकटतम पड़ोसियों का सेट अपरिवर्तित रहता है (थ्योरम 3)।
• ऑडिट स्थिरता: जब पड़ोस बदलते हैं, तो ऑडिट स्कोर में विचलन एकत्रीकरण ऑपरेटर के लिप्सचिट्ज स्थिरांक ($L_\Phi$), अधिकतम द्विपक्षीय स्कोर ($M$), और पड़ोस प्रतिस्थापन सेट के आकार ($|R_i|$) द्वारा सीमित होता है (थ्योरम 6)।
• ऑडिट अस्थिरता (Audit Volatility): लेखक ऑडिट अस्थिरता ($\kappa$) पेश करते हैं, जिसे बार-बार होने वाले स्टोकेस्टिक विक्षोभ के तहत ऑडिट स्कोर के अपेक्षित परिवर्तन के रूप में परिभाषित किया गया है। वे सिद्ध करते हैं कि अस्थिरता, पड़ोस प्रतिस्थापन सेट के अपेक्षित आकार द्वारा सीमित है (थ्योरम 8)।

मुख्य योगदान

1. समस्या का सूत्रीकरण: यह शोध भविष्यवाणियों के मॉडल की सुदृढ़ता से ध्यान हटाकर ऑडिटिंग प्रक्रिया की स्वयं की विश्वसनीयता की ओर ले जाता है।
2. एकीकृत ढांचा: यह पड़ोस-आधारित ऑडिट के लिए एक ज्यामितीय अमूर्तता प्रदान करता है, जो विभिन्न मौजूदा विधियों को एक एकल सैद्धांतिक छत्र के नीचे लाता है।
3. सुदृढ़ता गारंटी: लेखक नियतात्मक (deterministic), संभावabilistic, और अपेक्षित सुदृढ़ता गारंटी प्राप्त करते हैं। वे पहचानते हैं कि स्थानीय पृथक्करण मार्जिन पड़ोस संरक्षण के लिए एक पर्याप्त ज्यामितीय प्रमाण है और पड़ोस प्रतिस्थापन ऑडिट अस्थिरता को चलाने वाला मौलिक तंत्र है।
4. मात्रात्मक माप: ऑडिट अस्थिरता का परिचय बार-बार होने वाले विक्षोभों के तहत ऑडिट स्कोर की अपेक्षित संवेदनशीलता के लिए एक मात्रात्मक माप प्रदान करता है।

प्रयोगात्मक परिणाम

सैद्धांतिक ढांचे को तीन बेंचमार्क डेटासेट्स पर मान्य किया गया: Adult Income, Bank Marketing, और COMPAS।

• ज्यामितीय स्थिरता: प्रयोगों ने पुष्टि की कि देखे गए द्विपक्षीय दूरी विरूपण और पृथक्करण मार्जिन में कमी, सैद्धांतिक ऊपरी सीमाओं $2\epsilon$ और $4\epsilon$ के मुकाबले काफी कम रहे।
• पड़ोस संरक्षण: पड़ोस संरक्षण दर (NPR) विक्षोभ त्रिज्या बढ़ने के साथ निरंतर घटती गई। बड़े अंतर्निहित पृथक्करण मार्जिन वाले डेटासेट्स (Adult, Bank) ने COMPAS की तुलना में उच्च स्थिरता बनाए रखी।
• ऑडिट अस्थिरता तंत्र: परिणामों ने दिखाया कि पड़ोस प्रतिस्थापन की मात्रा और ऑडिट अस्थिरता के बीच एक मजबूत सहसंबंध है। विभिन्न विक्षोभ मॉडलों (यूनिफॉर्म, गॉसियन, स्पार्स) में, ऑडिट अस्थिरता मुख्य रूप से पड़ोस प्रतिस्थापन की सीमा द्वारा निर्धारित की गई थी, जो सिद्धांत की वितरण-स्वतंत्र प्रकृति का समर्थन करती है।
• एकत्रीकरण संवेदनशीलता: विभिन्न एकत्रीकरण ऑपरेटरों (अंकगणितीय माध्य, ट्रिम्ड मीन, मीडियन, वर्स्ट नेबर) की तुलना करने पर पाया गया कि कम लिप्सचिट्ज स्थिरांक वाले ऑपरेटरों (जैसे, ट्रिम्ड मीन, मीडियन) ने कम ऑडिट अस्थिरता प्रदान की, जिससे पुष्टि हुई कि एकत्रीकरण संवेदनशीलता सुदृढ़ता का एक प्रमुख निर्धारक है।
• डेटासेट ज्यामिति: प्रयोगों ने सत्यापित किया कि बड़े स्थानीय पृथक्करण मार्जिन वाले डेटासेट्स ने काफी कम पड़ोस प्रतिस्थापन और ऑडिट अस्थिरता प्रदर्शित की, जो अच्छी तरह से अलग किए गए पड़ोसों के लिए शून्य के करीब पहुँच गई।

महत्व और दावे

यह शोध दावा करता है कि यह विशेषता स्थान विक्षोभ के तहत स्थानीय निष्पक्षता ऑडिट की स्थिरता का विश्लेषण करने वाला पहला सैद्धांतिक ढांचा प्रदान करता है। इसका प्राथमिक महत्व है:

• अस्थिरता का निदान: यह पहचानता है कि ऑडिट अस्थिरता केवल मॉडल संवेदनशीलता का परिणाम नहीं है, बल्कि मौलिक रूप से स्थानीय पड़ोस की ज्यामितीय नाजुकता (विशेष रूप से, पड़ोस के प्रतिस्थापन) द्वारा संचालित होती है।
• पूर्वानुमान शक्ति: यह ढांचा चिकित्सकों को केवल अनुभवजन्य अवलोकन पर निर्भर रहने के बजाय, डेटासेट के ज्यामितीय गुणों (पृथक्करण मार्जिन) और एकत्रीकरण ऑपरेटर के चयन के आधार पर ऑडिट स्थिरता का अनुमान लगाने की अनुमति देता है।
• मापन विश्वसनीयता: निष्पक्षता को एक मापन समस्या के रूप में मानकर, यह कार्य निष्पक्षता मूल्यांकन में डेटा प्रीप्रोसेसिंग और शोर द्वारा उत्पन्न अविश्वसनीयता को मापने और कम करने के उपकरण प्रदान करके जिम्मेदार AI के मौजूदा प्रयासों का पूरक बनता है।

लेखक निष्कर्ष निकालते हैं कि पड़ोस प्रतिस्थापन वह प्रमुख ज्यामितीय तंत्र है जो ऑडिट स्थिरता को नियंत्रित करता है, और प्रस्तावित ढांचा अधिक सुदृढ़ पड़ोस-आधारित निष्पक्षता ऑडिट विधियों को डिजाइन करने के लिए एक व्यवस्थित आधार स्थापित करता है।