BioPro: Towards Difference-Aware Gender Fairness for Vision-Language Models
यह शोध पत्र BioPro का प्रस्ताव करता है, जो एक प्रशिक्षण-मुक्त ढांचा है जो एक प्रतितथ्यात्मक एम्बेडिंग उपसमष्टि (counterfactual embedding subspace) में ऑर्थोगोनल प्रोजेक्शन के माध्यम से तटस्थ संदर्भों में लिंग पूर्वाग्रह को चुनिweise रूप से निष्प्रभावी करते हुए और स्पष्ट परिदृश्यों में वैध लिंग भेदों को संरक्षित करते हुए विजन-लैंग्वेज मॉडल्स में अंतर-जागरूक लिंग निष्पक्षता प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ कंप्यूटर किसी फोटो को देखकर उसके बारे में एक कहानी बता सकते हैं, या एक वाक्य पढ़कर उससे मेल खाती एक तस्वीर बना सकते हैं। यह विज़न-लैंग्वेज मॉडल्स (VLMs) का रोमांचक क्षेत्र है, जो एक प्रकार की कृत्रिम बुद्धिमत्ता (AI) है जो देखने और पढ़ने के बीच के अंतर को पाटती है। इन मॉडल्स को ऐसे सुपर-पावर्ड छात्रों के रूप में सोचें जिन्होंने दुनिया कैसे काम करती है, यह सीखने के लिए इंटरनेट पर मौजूद हर किताब पढ़ी है और हर छवि देखी है। हालाँकि, ठीक उसी तरह जैसे कोई छात्र जो केवल पुराने समाचार पत्र ही पढ़ता है, ये AI छात्र कभी-कभी पुरानी या अनुचित रूढ़ियों (stereotypes) को भी अपना लेते हैं। उदाहरण के लिए, वे स्वतः ही मान सकते हैं कि डॉक्टर एक पुरुष है या नर्स एक महिला है, सिर्फ इसलिए क्योंकि उन्होंने अपने प्रशिक्षण डेटा में सबसे अधिक बार यही देखा था।
बड़ा सवाल जो वैज्ञानिक पूछ रहे हैं वह यह है: हम AI को वास्तविक अंतरों के प्रति "अंधा" बनाए बिना इसकी अनुचित आदतों को कैसे ठीक करें? एक बच्चे को निष्पक्ष होना सिखाने की कल्पना करें। यदि आप उसे कहते हैं, "कभी लिंग (gender) का उल्लेख मत करो, कभी भी," तो वह किसी विशिष्ट व्यक्ति का सही वर्णन करने में विफल हो सकता है जब लिंग वास्तव में महत्वपूर्ण हो (जैसे कि एक महिला अंतरिक्ष यात्री के बारे में कहानी में)। लेकिन यदि आप उसे बिल्कुल भी नहीं सिखाते हैं, तो वे तब गलत अनुमान लगा सकते हैं जब लिंग का महत्व न हो (जैसे कि किसी धुंधली फोटो का वर्णन करते समय)। चुनौती "अंतर-जागरूक" (difference-aware) होने का तरीका खोजने की है—यह जानना कि कब निष्पक्ष होने के लिए लिंग को अनदेखा करना है, और कब सटीक होने के लिए उसका सम्मान करना है।
यहीं पर बायोप्रो (BioPro) नामक एक नया अध्ययन काम आता है। शोधकर्ताओं ने, जिनका नेतृत्व युजीLin और सहयोगियों ने किया, महसूस किया कि वर्तमान तरीके अक्सर AI को "ठीक" करने की कोशिश करते हैं, जिससे हर स्थिति के साथ एक जैसा व्यवहार किया जाता है, जो अनजाने में महत्वपूर्ण विवरणों को मिटा सकता है। इसके बजाय, उन्होंने एक चतुर, ट्रेनिंग-मुक्त उपकरण बनाया है जो एक स्मार्ट फिल्टर की तरह कार्य करता है। उन्होंने पाया कि AI मॉडल्स अपने मस्तिष्क (गणितीय रूप से कहें तो, एक सबस्पेस) के भीतर एक विशिष्ट, छिपी हुई "दिशा" में लिंग के बारे में जानकारी संग्रहीत करते हैं। बायोप्रो इस दिशा को खोजता है और AI के विचारों को उससे धीरे से दूर धकेलता है, लेकिन केवल तभी जब AI लिंग के बारे में अनिश्चित हो। यदि AI किसी पुरुष या महिला की स्पष्ट तस्वीर देख रहा है, तो बायोप्रो लिंग संबंधी जानकारी को अकेला छोड़ देता है।
टीम ने इसे दो मुख्य कार्यों पर परखा: छवियों का वर्णन करना (इमेज कैप्शनिंग) और टेक्स्ट से छवियां बनाना (टेक्स्ट-टू-इमेज जनरेशन)। प्रयोगों में, उन्होंने पाया कि बायोप्रो ने AI को लिंग का अनुमान लगाने से सफलतापूर्वक रोका जब वह स्पष्ट नहीं था, जबकि इसे किसी विशिष्ट लिंग का सही वर्णन करने या बनाने देने में सक्षम बनाया जब इसके लिए कहा गया हो। उदाहरण के लिए, यदि आपने "एक डॉक्टर की फोटो" मांगी, तो AI पुरुषों और महिलाओं का एक संतुलित मिश्रण उत्पन्न करेगा बजाय केवल एक के। लेकिन यदि आपने "एक महिला डॉक्टर की फोटो" मांगी, तो यह वफादारी से एक महिला को चित्रित करेगा। और भी शानदार बात यह है कि शोधकर्ताओं ने दिखाया कि यही "फिल्टर" वाला तरीका गैर-मानवीय चीजों के लिए भी काम करता है, जैसे कि किसी दृश्य की चमक (brightness) को समायोजित करना। यदि कोई AI हमेशा जंगल के दृश्यों को बहुत चमकदार बनाता है, तो बायोप्रो इसे चित्र को खराब किए बिना गहरे, अधिक मूडी जंगल बनाने के लिए प्रेरित कर सकता है। यह शोध पत्र सुझाव देता है कि यह दृष्टिकोण AI को सच बताने की अपनी क्षमता खोए बिना निष्पक्ष बनाने का एक आशाजनक, लचीला तरीका प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।