Explanatory Interactive Machine Learning for Bias Mitigation in Visual Gender Classification
यह अध्ययन प्रदर्शित करता है कि एक्सप्लेनेटरी इंटरएक्टिव लर्निंग (XIL) रणनीतियाँ, विशेष रूप से CAIPI और एक नवीन हाइब्रिड दृष्टिकोण, मॉडलों को प्रासंगिक विशेषताओं पर ध्यान केंद्रित करने के लिए निर्देशित करके विजुअल जेंडर क्लासिफिकेशन में पूर्वाग्रह को प्रभावी ढंग से कम करती हैं और निष्पक्षता में सुधार करती हैं, जो अक्सर सटीकता को बनाए रखते हुए या उसमें सुधार करते हुए होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन थोड़े नादान रोबोट को फोटो में पुरुषों और महिलाओं के बीच अंतर करना सिखा रहे हैं।
समस्या: रोबोट की बुरी आदतें
शुरुआत में, रोबोट हजारों तस्वीरों को देखकर सीखता है। लेकिन वह आलसी है और गलत शॉर्टकट पकड़ लेता है। इसके बजाय कि वह किसी व्यक्ति के चेहरे या शरीर को देखे, वह यह तय कर सकता है, "ओह, अगर टाई है, तो यह एक पुरुष है," या "अगर स्कर्ट है, तो यह एक महिला है।" वह बैकग्राउंड (पृष्ठभूमि) के आधार पर भी अनुमान लगा सकता है, जैसे यह सोचना कि रसोई में मौजूद व्यक्ति एक महिला है और गैरेज में मौजूद व्यक्ति एक पुरुष है। इन्हें बायस (पक्षपात) या स्पुरियस कोरिलेशन (भ्रामक संबंध) कहा जाता है। रोबमा अक्सर "सही" होता है, लेकिन गलत कारणों से।
समाधान: "व्याख्यात्मक" शिक्षक
शोधकर्ताओं ने इस पेपर में केवल और अधिक डेटा डालकर इसे ठीक करने के बजाय, एक तरीका इस्तेमाल किया जिसे एक्सप्लेनेटरी इंटरैक्टिव लर्निंग (XIL) कहा जाता है।
इसे ऐसे समझें जैसे एक शिक्षक रोबोट के साथ पढ़ाई करते समय उसके पास खड़ा हो।
- रोबोट अनुमान लगाता है: रोबोट एक फोटो देखता है और कहता है, "यह एक पुरुष है!"
- रोबोट व्याख्या करता है: रोबोट फोटो के ऊपर एक चमकता हुआ नक्शा (मैप) बनाता है ताकि यह दिखा सके कि उसे क्यों लगता है कि वह एक पुरुष है। शायद वह चमक टाई पर, या बैकग्राउंड पर, या व्यक्ति के चेहरे पर है।
- शिक्षक सुधार करता है: मानव शिक्षक उस चमकते हुए नक्शे को देखता है। यदि चमक टाई पर है (एक बुरा सुराग), तो शिक्षक कहता है, "नहीं, चेहरे को देखो! टाई को अनदेखा करो।"
- रोबोट सीखता है: रोबोट अपने मस्तिष्क को चेहरे पर ध्यान देने और टाई को अनदेखा करने के लिए समायोजित करता है।
शोधकर्ताओं ने रोबोट को सुधारने के तीन अलग-अलग तरीके का परीक्षण किया:
1. "फोटो एडिटर" विधि (CAIPI)
कल्पना कीजिए कि शिक्षक एक स्कर्ट पहने हुए पुरुष की फोटो लेता है (एक भ्रमित करने वाली छवि)। शिक्षक एक फोटो एडिटर का उपयोग करके जादुई रूप से स्कर्ट को मिटा देता है और उसे एक रैंडम पैटर्न से बदल देता है, लेकिन लेबल "पुरुष" को बरकरार रखता है।
- सबक: रोबोट उसी पुरुष को देखता है, लेकिन बिना "स्कर्ट के सुराग" के। उसे एहसास होता है, "रुको, मैं अभी भी जानता हूँ कि यह एक पुरुष है, भले ही स्कर्ट न हो। मुझे लगता है कि मैं पहले गलत चीज़ देख रहा था!"
- परिणाम: यह विधि रोबोट को अप्रासंगिक बैकग्राउंड ऑब्जेक्ट्स पर ध्यान केंद्रित करने से रोकने में बहुत अच्छी थी।
2. "स्ट्रिक्ट ग्रेडर" (सख्त परीक्षक) विधि (RRR)
यहाँ, शिक्षक फोटो को नहीं बदलता है। इसके बजाय, शिक्षक रोबोट को एक विशेष टेस्ट देता है।
- सबक: शिक्षक कहता है, "तुमने सही उत्तर प्राप्त किया (यह एक पुरुष है), लेकिन तुम्हारा कारण गलत था क्योंकि तुम्हारा चमकता हुआ नक्शा बैकग्राउंड पर है। मैं इसके लिए तुम्हें दंड (खराब ग्रेड) दूँगा।"
- परिणाम: रोबोट सीखता है कि "सही कारणों से सही कैसे होना है।" वह कोशिश करता है कि उसका चमकता हुआ नक्शा वास्तविक व्यक्ति से मेल खाए, न कि बैकग्राउंड से।
3. "सुपर कॉम्बो" (हाइब्रिड)
यह दोनों को एक साथ उपयोग करने जैसा है—फोटो एडिटर और स्ट्रिक्ट ग्रेडर। रोबोट को अभ्यास करने के लिए एडिट की गई तस्वीरें मिलती हैं, और उसे इस बात पर सख्ती से ग्रेड दिया जाता है कि वह कहाँ देख रहा है।
उन्होंने क्या पाया?
- रोबोट स्मार्ट (निष्पक्ष) हो गया: तीनों विधियों ने रोबट को रूढ़ियों (stereotypes) पर निर्भर करने से रोकने में मदद की। इसने कपड़ों या कमरे के बजाय व्यक्ति के चेहरे और शरीर को देखना शुरू कर दिया।
- "फोटो एडिटर" (CAIPI) विजेता रहा: आश्चर्यजनक रूप से, फोटो एडिट करने वाली विधि (CAIPI) सबसे प्रभावी थी। इसने न केवल रोबोट को निष्पक्ष बनाया; कुछ मामलों में, इसने वास्तव में इसे सही अनुमान लगाने में और बेहतर बना दिया।
- "स्ट्रिक्ट ग्रेडर" (RRR) अच्छा था, लेकिन पेचीदा: इसने पक्षपात को कम करने में मदद की, लेकिन कभी-कभी रोबोट थोड़ा भ्रमित हो जाता था और इसकी समग्र सटीकता थोड़ी सी गिर जाती थी।
- आत्मविश्वास मायने रखता है: शोधकर्ताओं ने पाया कि रोबोट को उन तस्वीरों का उपयोग करके सिखाना बेहतर था जिनके बारे में रोबोट पहले से ही काफी आश्वस्त था (हाई-कॉन्फिडेंस), बजाय उन तस्वीरों के जिनसे वह भ्रमित था। यह अन्य अधिकांश शिक्षण विधियों के बिल्कुल विपरीत है!
मुख्य निष्कर्ष
यह पेपर दिखाता है कि हमें पक्षपाती AI को एक "ब्लैक बॉक्स" मानकर स्वीकार करने की आवश्यकता नहीं है जिसे हम नियंत्रित नहीं कर सकते। AI की "सोचने की प्रक्रिया" (उसकी व्याख्याओं) के साथ मनुष्यों को बातचीत करने देकर, हम इसे अधिक निष्पक्ष और सटीक बनाने के लिए धीरे-धीरे निर्देशित कर सकते हैं।
यह वैसा ही है जैसे यह महसूस करना कि एक छात्र केवल उत्तर याद नहीं कर रहा है, बल्कि वास्तव में यह सीख रहा है कि कैसे सोचना है। रोबोट ने "डिस्ट्रैक्टर्स" (जैसे टाई या बैकग्राउंड) को अनदेखा करना और वास्तव में जो महत्वपूर्ण है (व्यक्ति) उस पर ध्यान केंद्रित करना सीख लिया।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।