Unbiased Model Prediction Without Using Protected Attribute Information

यहाँ मजुमदार एवं अन्य द्वारा लिखित शोध पत्र "Unbiased Model Prediction Without Using Protected Attribute Information" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

डीप लर्निंग मॉडल अक्सर पक्षपात (bias) प्रदर्शित करते हैं, जिससे विभिन्न जनसांख्यिकीय उपसमूहों (जैसे लिंग, जाति, आयु) के बीच प्रदर्शन में असमानता आती है। यह पक्षपात इसलिए उत्पन्न होता है क्योंकि मॉडल अनजाने में उन विशेषताओं को सीख लेते हैं और संहिताबद्ध (encode) कर लेते हैं जो संरक्षित गुणों (protected attributes) (जैसे जाति या लिंग जैसे संवेदनशील डेटा) के साथ सह-संबंधित होती हैं।

• वर्तमान समाधानों की सीमा: अधिकांश मौजूदा डिबायसिंग (debiasing) एल्गोरिदम को निष्पक्षता संबंधी बाधाओं को लागू करने के लिए प्रशिक्षण के दौरान संरक्षित गुणों के पूर्व ज्ञान (a priori knowledge) की आवश्यकता होती है।
• वास्तविक दुनिया की बाधा: कई व्यावहारिक परिदृश्यों में, गोपनीयता कानूनों, कानूनी प्रतिबंधों, या संवेदनशील लेबल के साथ बड़े डेटासेट को एनोटेट करने की अत्यधिक कठिनाई के कारण संरक्षित गुणों की जानकारी उपलब्ध नहीं होती है।
• मुख्य चुनौती: जब प्रशिक्षण चरण के दौरान संरक्षित गुण अज्ञात हों, तो पक्षपात को कैसे कम किया जाए और निष्पक्ष भविष्यवाणियां कैसे प्राप्त की जाएं?

2. कार्यप्रणाली: गैर-संरक्षित गुण-आधारित डिबायसिंग (NPAD)

लेखक NPAD एल्गोरिदम का प्रस्ताव करते हैं, जो संरक्षित गुणों के लेबल तक पहुँच के बिना पक्षपात को कम करता है। इसके बजाय, यह गैर-संरक्षित गुणों (जैसे "चश्मा पहनना," "मुस्कुराना," "बड़ी नाक") का लाभ उठाता है जो अक्सर डेटासेट्स में उपलब्ध होते हैं और अज्ञात संरक्षित गुणों के साथ सह-संबंधित हो सकते हैं।

कार्यप्रणाली के दो मुख्य चरण हैं:

चरण 1: बुद्धिमान गैर-संरक्षित गुण चयन (Intelligent Non-Protected Attribute Selection)

चूंकि सभी गैर-संरक्षित गुण डिबायसिंग के लिए समान रूप से उपयोगी नहीं होते हैं, इसलिए एल्गोरिदम बुद्धिमानी से उन गुणों के एक उपसमुच्चय (subset) का चयन करता है जो लक्षित गुण (target attribute) के संबंध में उच्च विषमता (disparity) प्रदर्शित करते हैं।

1. विषमता गणना (Disparity Computation): एक मॉडल को लक्षित गुण ($A_i$) की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है। इसके बाद इस मॉडल का मूल्यांकन अन्य गैर-संरक्षित गुणों के वर्गों (classes) के आधार पर किया जाता है। प्रत्येक गैर-संरक्षित गुण के लिए विषमता (वर्गीकरण सटीकता का मानक विचलन) की गणना की जाती है।
2. चयन तर्क (Selection Logic): वे गुण जो उच्चतम विषमता दिखाते हैं, उन्हें पहले चुना जाता है, क्योंकि वे संभवतः संरक्षित गुण के साथ सह-संबंधित जानकारी को समाहित करते हैं।
3. स्वतंत्रता जाँच (Independence Check): विविधता सुनिश्चित करने और अतिरेक (redundancy) को कम करने के लिए, आगामी गुणों को पहले से चयनित गुणों से सांख्यिकीय स्वतंत्रता ( $\chi^2$ परीक्षण का उपयोग करके) के आधार पर चुना जाता है।

चरण 2: नवीन लॉस फंक्शन के माध्यम से पक्षपात शमन (Bias Mitigation via Novel Loss Functions)

एक बार गैर-संरक्षित गुण चुन लिए जाने के बाद, मॉडल को एक कनवल्शनल न्यूरल नेटवर्क (CNN) फीचर एक्सट्रैक्टर और दो नवीन लॉस फंक्शन का उपयोग करके अनुकूलित किया जाता है:

1. एट्रिब्यूट क्लस्टर लॉस के माध्यम से डिबायसिंग (DACL):

   • अवधारणा: लक्षित गुण ($A_i$) के वर्गों को चयनित गैर-संरक्षित गुणों के वर्गों के साथ मिलाकर $2^{n+1}$ अद्वितीय क्लस्टर बनाए जाते हैं (जहाँ $n$ चयनित गैर-संरक्षित गुणों की संख्या है)।
   • तंत्र: DACL इन क्लस्टरों को फीचर स्पेस में अलग करने के लिए एक सुपरविजन सिग्नल के रूप में कार्य करता है। यह इंट्रा-क्लास दूरी को कम करता है (फीचर रिप्रेजेंटेशन के मूविंग स्टैंडर्ड डेविएशन को कम करके) और इंटर-क्लास दूरी को अधिकतम करता है (विभिन्न क्लस्टरों के मूविंग एवरेज के बीच की दूरी बढ़ाकर)।
   • लक्ष्य: मॉडल को ऐसे फीचर्स सीखने के लिए मजबूर करना जो इन विशिष्ट गुणों के संयोजन को अलग कर सकें, जिससे अज्ञात संरक्षित गुण के साथ सह-संबंध टूट सके।

2. फिल्टर रेडंडेंसी लॉस (FRL):

   • ** अवधारणा:** मानक CNN फिल्टर्स अक्सर अत्यधिक सह-संबंधित (अतिरेखी) फीचर्स सीख लेते हैं, जो निष्पक्षता में बाधा डाल सकते हैं।
   • तंत्र: FRL मीन-नॉर्मलाइज्ड फिल्टर्स के डॉट प्रोडक्ट को कम करता है। यह मॉडल को गैर-अतिरेखी, विविध फीचर्स सीखने के लिए प्रोत्साहित करता है।
   • लक्ष्य: समग्र मॉडल प्रदर्शन और फीचर अभिव्यक्तता (expressiveness) को बढ़ावा देना, जो DACL के पूरक के रूप में कार्य करता है।

अंतिम ऑब्जेक्टिव फंक्शन:
$$\mathcal{L} = \lambda_1 \mathcal{L}_{C} + \lambda_2 \mathcal{L}_{F}$$
जहाँ $\mathcal{L}_{C}$ , DACL है और $\mathcal{L}_{F}$ , FRL है।

3. प्रमुख योगदान (Key Contributions)

1. NPAD एल्गोरिदम: पक्षपात शमन के लिए एक नवीन ढांचा जो संरक्षित गुण की जानकारी के बिना कार्य करता है, और इसके स्थान पर सहायक गैर-संरक्षित गुणों का उपयोग करता है।
2. नवीन लॉस फंक्शन:
   • DACL: लक्षित और गैर-संरक्षित गुणों के संयोजन से बने क्लस्टरों को अलग करने के लिए क्लास-विशिष्ट सुपरविजन प्रदान करता है।
   • FRL: फीचर की रेडंडेंसी को कम करके मॉडल की मजबूती और निष्पक्षता को बढ़ाता है।
3. नया मूल्यांकन मीट्रिक (OPE): लेखक ओवरऑल परफॉरमेंस इक्वैलिटी (OPE) पेश करते हैं।
   • मौजूदा मीट्रिक्स के साथ समस्या: "डिफरेंस इन इक्वैलिटी ऑफ अपॉर्चुनिटी" जैसे मीट्रिक भ्रामक हो सकते हैं यदि मॉडल सभी नमूनों की भविष्यवाणी एक ही क्लास के रूप में करता है (जिसके परिणामस्वरूप शून्य विषमता लेकिन खराब प्रदर्शन होता है)।
   • समाधान: OPE उपसमूहों में समग्र प्रदर्शन (ट्रू/फॉल्स पॉजिटिव और नेगेटिव दोनों को ध्यान में रखते हुए) की विषमता को मापता है, यह सुनिश्चित करता है कि निष्पक्षता सटीकता की कीमत पर न आए।
4. व्यापक मूल्यांकन: फेशियल एट्रिब्यूट प्रेडिक्शन के लिए LFWA और CelebA डेटासेट्स पर व्यापक प्रयोग।

4. प्रयोगात्मक परिणाम (Experimental Results)

यह शोध पत्र NPAD एल्गोरिदम का मूल्यांकन बेसलाइन मॉडल ट्रेनिंग (BMT), एक प्रोटेक्टेड एट्रिब्यूट-आधारित डिबायसिंग (PAD) विधि (जो मानती है कि ग्राउंड ट्रुथ ज्ञात है), और "लर्निंग फ्रॉम फेल्योर" (LfF) एल्गोरिदम के विरुद्ध करता है।

• प्रदर्शन बनाम निष्पक्षता (Performance vs. Fairness):
  • NPAD, सटीकता और निष्पक्षता (कम डिग्री ऑफ बायस - DoB, और कम OPE) दोनों में BMT से काफी बेहतर प्रदर्शन करता है।
  • NPAD, PAD एल्गोरिदम (जिसके पास संरक्षित लेबल तक पहुँच है) के तुलनीय और कुछ मामलों में बेहतर प्रदर्शन प्राप्त करता है।
  • विशेष रूप से, दो चयनित गैर-संरक्षित गुणों (NPAD Two) का उपयोग करना अक्सर सबसे अच्छे परिणाम देता है, बशर्ते कि गुण संरक्षित गुण के साथ अत्यधिक सह-संबंधित हों।
• एब्लेशन स्टडीज (Ablation Studies):
  • DACL को हटाने से सटीकता में महत्वपूर्ण गिरावट और पक्षपात में वृद्धि होती है, जो क्लस्टर सेपरेशन के लिए इसकी आवश्यकता को सिद्ध करता है।
  • FRL को हटाने से प्रदर्शन कम हो जाता है, जो फीचर एक्सप्रेसिवनेस में इसकी भूमिका की पुष्टि करता है।
  • NPAD में उपयोग की जाने वाली इंटेलिजेंट सिलेक्शन रणनीति की तुलना में रैंडम चयन कमजोर प्रदर्शन करता है।
• क्रॉस-डेटासेट सामान्यीकरण (Cross-Dataset Generalization): एल्गोरिदम मजबूत सामान्यीकरण प्रदर्शित करता है जब LFWA पर प्रशिक्षित मॉडलों का परीक्षण CelebA पर और इसके विपरीत किया जाता है।
• ARL के साथ तुलना: NPAD, एडवरसेरियली रीवेटेड लर्निंग (ARL) से बेहतर प्रदर्शन करता है (जो संरक्षित गुणों का उपयोग नहीं करता है), क्योंकि यह केवल सबसे खराब प्रदर्शन करने वाले समूह के बजाय सभी समूहों में विषमता को कम करने पर ध्यान केंद्रित करता है।

5. महत्व और निष्कर्ष (Significance and Conclusion)

यह शोध AI निष्पक्षता के एक महत्वपूर्ण अंतर को संबोधित करता है: जब संवेदनशील डेटा कानूनी या व्यावहारिक रूप से अनुपलब्ध हो, तो डिबायसिंग तकनीकों को लागू करने में असमर्थता।

• व्यावहारिक प्रयोज्यता: गैर-संरक्षित गुणों (जो अक्सर एनोटेट करना आसान होता है या डेटासेट्स में पहले से मौजूद होते हैं) पर निर्भर करके, NPAD एल्गोरिदम निष्पक्षता को उन वास्तविक अनुप्रयोगों में भी संभव बनाता है जहाँ गोपनीयता कानून (जैसे GDPR) या डेटा की कमी संरक्षित लेबल के उपयोग को रोकती है।
• सैद्धांतिक अंतर्दृष्टि: यह कार्य दर्शाता है कि गैर-संरक्षित और संरक्षित गुणों के बीच के सह-संबंध का उपयोग समस्या के स्रोत के रूप में करने के बजाय, पक्षपात को कम करने के लिए सकारात्मक रूप से किया जा सकता है।
• मीट्रिक नवाचार: OPE की शुरूआत एक अधिक मजबूत तरीका प्रदान करती है, जो मौजूदा मीट्रिक्स के "अनुचित रूप से सटीक" या "अनुचित रूप से पक्षपाती लेकिन कम प्रदर्शन करने वाले" जाल से बचाती है।

संक्षेप में, यह शोध पत्र निष्पक्ष डीप लर्निंग के लिए एक सुदृढ़, लेबल-कुशल दृष्टिकोण प्रस्तुत करता है, जो यह सिद्ध करता है कि सहायक डेटा का बुद्धिमान उपयोग प्रशिक्षण के दौरान संवेदनशील संरक्षित लेबल की आवश्यकता को प्रभावी ढंग से प्रतिस्थापित कर सकता है।