Bias Mitigation in Face Recognition via Demographic-based Supervised Contrastive Learning
यह शोध पत्र डेमोग्राफिक-आधारित सुपरवाइज्ड कॉन्ट्रास्टिव लर्निंग (DeSCon) का प्रस्ताव करता है, जो एक नवीन लॉस फंक्शन है जो जनसांख्यिकीय-जागरूक बैच संरचना और युग्म चयन के माध्यम से नॉन-मैच स्कोर वितरण की पूंछ (tail) में त्रुटि दरों को विशेष रूप से लक्षित करके चेहरे की पहचान में निष्पक्षता में सुधार करता है, जिससे साधारण प्रशिक्षण डेटा संतुलन द्वारा प्राप्त की जा सकने वाली सीमाओं से परे पूर्वाग्रह को कम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, भीड़भाड़ वाले डिजिटल गलियारे से गुजर रहे हैं जहाँ एक सुरक्षा गार्ड हर किसी का आईडी चेक करता है। यह गार्ड एक AI है, एक सुपर-स्मार्ट कंप्यूटर प्रोग्राम जिसे चेहरों को पहचानने के लिए प्रशिक्षित किया गया है। लंबे समय से, ये गार्ड अपने काम में अविश्वसनीय रूप से अच्छे रहे हैं, लेकिन उनमें एक गुप्त दोष था: वे कुछ लोगों को दूसरों की तुलना में पहचानने में बहुत बेहतर थे। यदि आपकी त्वचा का रंग, आयु या लिंग एक निश्चित प्रकार का था, तो गार्ड शायद अधिक ध्यान से देखता, अधिक गलतियाँ करता, या गलत व्यक्ति को भी अंदर जाने देता। यह केवल एक तकनीकी खराबी नहीं है; यह एक पूर्वाग्रह (bias) है। समस्या इसलिए शुरू हुई क्योंकि AI को इंटरनेट की एक ऐसी "क्लास फोटो" पर प्रशिक्षित किया गया था जिसमें कुछ समूहों की बहुत अधिक तस्वीरें थीं और दूसरों की बहुत कम। यह एक छात्र को गोल्डन रिट्रीवर की तस्वीरों वाला टेक्स्टबुक दिखाकर जानवरों को पहचानना सिखाने जैसा है जिसमें पग (pug) की कोई तस्वीर नहीं है; छात्र भ्रमित हो जाएगा जब वह एक पग को देखेगा।
इसे ठीक करने के लिए, वैज्ञानिकों ने कुछ चीजें आजमाईं। कुछ ने बाद में गार्ड के दिमाग को "री-ट्यून" करने की कोशिश की, विभिन्न समूहों के लिए नियमों को समायोजित किया। अन्य ने यह प्रयास किया कि प्रशिक्षण वाली "क्लास फोटो" को पूरी तरह से संतुलित बनाया जाए, जिससे प्रत्येक समूह को तस्वीरों की समान संख्या मिले। लेकिन यहाँ पेचीदा हिस्सा यह है: भले ही आप फोटो एल्बम को पूरी तरह से संतुलित कर दें, फिर भी AI वास्तविक दुनिया में काम करते समय भ्रमित हो सकता है, खासकर तब जब उसे किसी बहुत ही कठिन चेहरे पर "ना" का निर्णय लेना हो। असली परीक्षण केवल औसत को सही करना नहीं है; बल्कि यह सुनिश्चित करना है कि जब AI गलती करने की कगार पर हो, तो वह अनुचित तरीके से विफल न हो। यहीं पर एक नया अध्ययन एक अलग दृष्टिकोण अपनाने के लिए कदम रखता है, जो इस बात पर ध्यान केंद्रित करता है कि AI समान चेहरों के बीच अंतर करना कैसे सीखता है ताकि वह उनकी पहचान (demographic) से प्रभावित न हो।
इस अध्ययन के पीछे के शोधकर्ता, यू लिंगहु (Yu Linghu) और उनकी ज्यूरिख विश्वविद्यालय की टीम, चेहरा पहचान प्रणाली को प्रशिक्षित करने का एक नया तरीका प्रस्तावित करते हैं जिसे DeSCon (डेमोग्राफिक-आधारित सुपरवाइज्ड कॉन्ट्रास्टिव लर्निंग) कहा जाता है। AI की सीखने की प्रक्रिया को म्यूजिकल चेयर के खेल की तरह समझें, लेकिन कुर्सियों के बजाय, खिलाड़ी चेहरे हैं।
आमतौर पर, AI को प्रशिक्षित करते समय, लक्ष्य यह सुनिश्चित करना होता है कि "व्यक्ति A" के सभी चेहरे कमरे के एक विशिष्ट कोने में एक साथ बैठें, जबकि "व्यक्ति B" के चेहरे दूसरे कोने में हों। यह "व्यक्ति A" के चेहरों को एक साथ खींचने के लिए चुंबक का उपयोग करने जैसा है। हालाँकि, करने का पुराना तरीका कभी-कभी इस तथ्य को अनदेखा कर देता था कि "व्यक्ति A" थोड़ा "व्यक्ति C" जैसा दिख सकता है यदि वे एक समान त्वचा के रंग या आयु को साझा करते हैं, भले ही वे अलग व्यक्ति हों। AI भ्रमित हो सकता है और सोच सकता है कि "व्यक्ति A", "व्यक्ति C" है क्योंकि वे उन विशिष्ट तरीकों से समान दिखते हैं।
टीम का नया तरीका, DeSCon, इस खेल में एक विशेष नियम जोड़ता है। यह कहता है: "ठीक है, सभी 'व्यक्ति A' के चेहरों को एक साथ लाओ, लेकिन साथ ही 'व्यक्ति C' के चेहरों को, जो दिखने में सबसे अधिक उनके समान हैं, उनसे दूर भी धकेलो, विशेष रूप से उसी जनसांख्यिकीय समूह (demographic group) के भीतर।" यह एक सख्त शिक्षक की तरह है जो न केवल छात्रों को अपने दोस्तों के साथ बैठने के लिए कहता है, बल्कि विशेष रूप से उन छात्रों को जो एक-दूसरे के समान दिखते हैं, दूर बैठने के लिए भी कहता है ताकि वे आपस में मिक्स न हो जाएं।
शोधकर्ताओं ने यह चुनने के तीन अलग-अलग तरीकों का परीक्षण किया कि किन "एक जैसे दिखने वाले" जोड़ों को दूर धकेला जाए:
- "सभी का" दृष्टिकोण (The "Everyone" approach): किसी भी दो लोगों को अलग करें जो एक ही व्यक्ति नहीं हैं, चाहे वे कोई भी हों।
- "समूह" दृष्टिकोण (The "Group" approach): केवल उन लोगों को अलग करें जो एक ही जनसांख्यिकीय समूह में हैं (जैसे, केवल दो अलग एशियाई चेहरों को, या दो अलग वृद्ध चेहरों को अलग करना)।
- "हार्ड मोड" दृष्टिकोण (The "Hard Mode" approach - DeSCon-Hard): यह मुख्य आकर्षण है। यह विशेष रूप से उन "कठिन" जोड़ों को ढूंढता है—जो एक ही समूह के भीतर सबसे अधिक भ्रमित करने वाले रूप में समान दिखते हैं—और AI को उनके बीच अंतर करने के लिए मजबूर करता है।
परिणाम बताते हैं कि यह "हार्ड मोड" दृष्टिकोण सबसे अच्छा काम करता है। जब उन्होंने विभिन्न डेटासेट्स पर अपने सिस्टम का परीक्षण किया, जिसमें पूरी तरह से संतुलित और अव्यवस्थित/असंतुलित डेटासेट्स भी शामिल थे, तो DeSC0n-Hard ने AI को उसके मुख्य कार्य को खराब किए बिना निष्पक्ष बनाने में सफलता प्राप्त की। वास्तव में, इसने अक्सर चेहरों को पहचानने की समग्र सटीकता में सुधार किया और साथ ही अनुचित गलतियों की संख्या को भी कम किया।
यह शोध पत्र इस विचार के विरुद्ध तर्क देता है कि केवल प्रशिक्षण डेटा को संतुलित करना ही पर्याप्त है। वे दिखाते हैं कि एक संतुलित डेटासेट के साथ भी, AI पक्षपाती हो सकता है यदि वह उन "कठिन" मामलों को नहीं संभाल पाता जहाँ अलग-अलग लोग बहुत समान दिखते हैं। उन्होंने यह भी पाया कि AI के दिमाग से जनसांख्यिकीय जानकारी को पूरी तरह से हटाना (ताकि वह नस्ल या लिंग को "देख" न सके) अक्सर AI को चेहरों को पहचानने में कमजोर बना देता है। इसके बजाय, उनका तरीका AI को उन विवरणों का उपयोग करने के लिए प्रशिक्षित करता है ताकि वह अधिक सटीक हो सके, यह सुनिश्चित करते हुए कि किसी व्यक्ति की पहचान के कारण गलती न हो।
अपने प्रयोगों में, टीम ने सफलता को मापने के लिए मानक बेंचमार्क का उपयोग किया। उन्होंने पाया कि उनके नए तरीके ने, विशेष रूप से "हार्ड मोड" संस्करण ने, विभिन्न समूहों के बीच त्रुटि दरों (error rates) के अंतर को लगातार कम किया। उदाहरण के लिए, एक परीक्षण में, "हार्ड मोड" संस्करण ने मानक तरीकों की तुलना में गलत मिलान (यह कहना कि दो अलग लोग एक ही व्यक्ति हैं) में अनfairness को काफी कम कर दिया, जबकि समग्र सटीकता को उच्च बनाए रखा। उन्होंने यह भी नोट किया कि हालांकि उनका तरीका उनके द्वारा उपयोग किए गए डेटासेट्स पर अच्छा काम करता है, लेकिन उनके पास मौजूद प्रशिक्षण डेटा बड़ी टेक कंपनियों द्वारा उपयोग किए जाने वाले विशाल डेटासेट्स की तुलना में छोटा था, इसलिए यह देखने के लिए अभी भी काम किया जाना बाकी है कि यह बड़े पैमाने पर कैसे काम करता है।
अंततः, यह पेपर सुझाव देता है कि एक वास्तव में निष्पक्ष चेहरा पहचान प्रणाली बनाने के लिए, हमें केवल हिसाब-किताब को संतुलित करने की कोशिश करना बंद करना होगा और AI को उन कठिन, भ्रमित करने वाले मामलों पर विशेष ध्यान देने के लिए सिखाना शुरू करना होगा जहाँ पूर्वाग्रह अक्सर छिपा होता है। प्रत्येक समूह के भीतर सबसे "कठिन" दिखने वाले लोगों पर ध्यान केंद्रित करके, AI एक ही समय में अधिक निष्पक्ष और अधिक सटीक बनना सीखता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।