GGSS: Geodesic-Gated Spherical Steering for Inference-Time Debiasing of Generative Vision-Language Models
यह शोध पत्र GGSS को प्रस्तुत करता है, जो एक नॉर्म-प्रिजर्विंग (norm-preserving) इन्फरेंस-टाइम हस्तक्षेप है जो जनरेटिव विजन-लैंग्वेज मॉडल्स में जनसांख्यिकीय पूर्वाग्रह को प्रभावी ढंग से कम करने के लिए विजुअल टोकन्स को यूनिट हाइपरस्फीयर पर जियोडेसिक आर्क (geodesic arcs) के साथ निर्देशित करता है, जबकि उनकी मूल विजुअल-लैंग्वेज क्षमताओं को बनाए रखता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
देखने और बोलने में सक्षम आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम हमारे दैनिक जीवन में सामान्य सहायक बनते जा रहे हैं, जो रिज्यूमे को छांटने, सवालों के जवाब देने और मेडिकल इमेज की व्याख्या करने में मदद कर रहे हैं। ये सिस्टम, जिन्हें विजन-लैंग्वेज मॉडल कहा जाता है, लाखों तस्वीरों और उनके साथ दिए गए टेक्स्ट विवरणों का अध्ययन करके सीखते हैं। हालाँकि, क्योंकि वे मानव-निर्मित डेटा से सीखते हैं, वे अक्सर हमारे भीतर मौजूद नस्ल, लिंग और व्यवसाय के बारे में उन्हीं अनुचित रूढ़ियों (stereotypes) को आत्मसात कर लेते हैं। एक कंप्यूटर किसी व्यक्ति की फोटो देखकर, केवल उनकी कथित नस्ल या लिंग के आधार पर, किसी दूसरे व्यक्ति की तुलना में अलग वेतन या नौकरी के पद का अनुमान लगा सकता है, भले ही दृश्य विवरण बिल्कुल समान हों। उच्च-दांव वाले निर्णयों में उपयोग की जाने वाली तकनीक के लिए यह एक गंभीर समस्या है, फिर भी इसे ठीक करना कठिन है। पारंपरिक रूप से, इन पूर्वाग्रहों को हटाने के लिए, डेवलपर्स को पूरे विशाल कंप्यूटर मॉडल को शुरू से फिर से प्रशिक्षित करना पड़ता था, जो एक ऐसी प्रक्रिया है जिसमें अत्यधिक कंप्यूटिंग शक्ति और समय की आवश्यकता होती है। इसके अलावा, पूर्वाग्रह को ठीक करने के लिए डिज़ाइन किए गए कई मौजूदा तरीके पुराने प्रकार के AI के लिए बनाए गए थे जो एक छवि को एक एकल सारांश के रूप में प्रोसेस करते हैं, न कि आधुनिक प्रणालियों के लिए जो एक छवि को समझने के लिए उसे हजारों छोटे टुकड़ों में तोड़ देती हैं।
शोधकर्ताओं की एक टीम ने अब इन पूर्वाग्रहों को मॉडल को पुन: प्रशिक्षित किए बिना ठीक करने का एक नया तरीका विकसित किया है। वे अपने इस तरीके को GGSS कहते हैं, जिसका अर्थ है 'जियोडेसिक-गेटेड स्फेरिकल स्टीयरिंग' (Geodesic-Gated Spherical Steering)। AI को फिर से बनाने के बजाय, वे एक छोटा, हल्का समायोजन (adjustment) डालते हैं जो मॉडल के सोचने के दौरान ही काम करता है। कल्पना कीजिए कि किसी छवि के प्रति AI की आंतरिक समझ विभिन्न अवधारणाओं की ओर इशारा करने वाले दिशाओं का एक संग्रह है। जब AI एक चेहरा देखता है, तो इनमें से कुछ दिशाएं व्यक्ति की पहचान की ओर इशारा करती हैं, जबकि अन्य उनके काम या पृष्ठभूमि की ओर। शोधकर्ताओं ने पाया कि नस्ल या लिंग के प्रति AI का पूर्वाग्रह इन दिशाओं के एक विशिष्ट सेट में केंद्रित है, जबकि बाकी जानकारी तटस्थ रहती है। उनका लक्ष्य इन पूर्वाघड दिशाओं को व्यक्ति के वास्तविक स्वरूप या छवि के संदर्भ को बाधित किए बिना, धीरे से रूढ़िवादिता से दूर धकेलना था।
शोधकर्ताओं ने अपने तरीके का परीक्षण चार अलग-अलग आधुनिक विजन-लैंग्वेज मॉडल्स पर किया। सबसे पहले, उन्होंने मॉडल्स को नियंत्रित छवियों की एक श्रृंखला दिखाई जहाँ व्यक्ति की कथित नस्ल या लिंग के अलावा बाकी सब कुछ—जैसे कि उनके कपड़े, मुद्रा और पृष्ठभूमि—बिल्कुल एक समान था। यह देखते हुए कि केवल नस्ल या लिंग बदलने पर मॉडल के आंतरिक संकेत कैसे बदलते हैं, उन्होंने उस विशिष्ट "बायस पाथ" (bias path) का मानचित्र तैयार किया जिसे मॉडल अपनाता है। फिर उन्होंने सामान्य उपयोग के दौरान इसे ठीक करने के लिए एक दो-चरणीय प्रक्रिया बनाई। पहले चरण में उन विशिष्ट हिस्सों की पहचान करना शामिल है जो छवि के पूर्वाग्रह को ट्रिगर करते हैं। छवि का हर हिस्सा समान रूप से पूर्वाग्रही नहीं होता है; उदाहरण के लिए, एक चेहरा नस्ल का एक मजबूत संकेत दे सकता है, जबकि पृष्ठभूमि या व्यक्ति के जूते लगभग कोई संकेत नहीं देते। नया तरीका एक स्मार्ट फिल्टर का उपयोग करता है ताकि वह अपने सुधारों को केवल उन हिस्सों पर केंद्रित कर सके जो वास्तव में पूर्वाग्रह रखते हैं, जिससे तटस्थ हिस्सों को अकेला छोड़ा जा सके।
दूसरा चरण यह है कि सुधार कैसे किया जाता है। पुराने तरीकों ने केवल पूर्वाग्रह को घटाने की कोशिश की, जैसे कि किसी ड्राइंग से एक रेखा को मिटाना। शोधकर्ताओं ने पाया कि इस "हार्ड" घटाव ने अक्सर छवि के अर्थ को विकृत कर दिया, जिससे AI की तस्वीर को सही ढंग से समझने की क्षमता कम हो गई। इसके बजाय, उन्होंने एक ऐसी तकनीक का उपयोग किया जो सूचना को एक घुमावदार पथ के माध्यम से ले जाती है, ठीक वैसे ही जैसे एक विमान जमीन के माध्यम से एक सीधी रेखा के बजाय पृथ्वी के वक्र का अनुसरण करके दो शहरों के बीच सबसे छोटा रास्ता तय करता है। यह AI को समग्र धारणा के आकार और शक्ति को बरकरार रखते हुए, अपनी समझ को रूढ़िवादिता से दूर घुमाने की अनुमति देता है। इस घुमावदार गति को स्मार्ट फिल्टर के साथ जोड़कर, जो केवल पूर्वाग्रही हिस्सों को लक्षित करता है, सिस्टम सामान्य बुद्धिमत्ता को तोड़े बिना निष्पक्षता को कम कर सकता है।
उनके परीक्षणों के परिणाम स्पष्ट और महत्वपूर्ण थे। जब उन्होंने इस पद्धति को चार अलग-अलग AI मॉडल्स पर लागू किया, तो इसने मॉडल्स के उत्तरों में पूर्वाग्रह को बड़े अंतर से कम कर दिया। कुछ मामलों में, मॉडल्स द्वारा वेतन या व्यवसायों के मूल्यांकन में अनैतिक अंतर 90 प्रतिशत से अधिक गिर गया। महत्वपूर्ण रूप से, मॉडल्स ने अन्य कार्यों को करने की अपनी क्षमता नहीं खोई। शोधकर्ताओं ने विज्ञान, गणित और तर्क को कवर करने वाले 1,500 प्रश्नों के एक मानक परीक्षण का उपयोग करके मॉडल्स के सामान्य ज्ञान और तर्क कौशल की जांच की। जिन मॉडल्स में पूर्वाग्रह सुधार किया गया था, उन्होंने मूल, बिना सुधारे गए मॉडल्स के समान ही प्रदर्शन किया, और उनकी सटीकता में एक प्रतिशत अंक से भी कम का बदलाव आया। इसने यह सिद्ध कर दिया कि इन प्रणालियों को मूर्ख बनाए बिना उन्हें निष्पक्ष बनाना संभव है।
अध्ययन ने यह भी दिखाया कि यह दृष्टिकोण पिछले प्रयासों की तुलना में अधिक विश्वसनीय है। जब उन्होंने पुराने, सरल तरीकों का उपयोग करने की कोशिश की जिनमें घुमावदार पथ या स्मार्ट फिल्टर का उपयोग नहीं किया गया था, तो मॉडल्स अक्सर भ्रमित हो गए या प्रश्नों का उत्तर देने में विफल रहे। शोधकर्ताओं ने पाया कि घुमावदार पथ विशेष रूप से सबसे बड़े और जटिल मॉडल्स के लिए महत्वपूर्ण था, जहाँ सरल सुधारों के कारण सिस्टम पूरी तरह से विफल हो गया। उन्होंने यह भी प्रदर्शित किया कि यह तरीका लचीला है; सुधार को कितनी मजबूती से लागू किया जाना है, इसे समायोजित करके, उपयोगकर्ता पूर्वाग्रह को काफी कम कर सकते हैं और फिर भी मॉडल को जनसांख्यिकीय विवरणों को पहचानने की अनुमति दे सकते हैं यदि किसी विशिष्ट कार्य के लिए इसकी आवश्यकता हो, जैसे कि मेडिकल डॉक्यूमेंटेशन में।
यह कार्य आर्टिफिशियल इंटेलिजेंस को अधिक न्यायसंगत बनाने के लिए एक व्यावहारिक उपकरण प्रदान करता है। यह दिखाता है कि हमें अपने सबसे उन्नत AI सिस्टम को ठीक करने के लिए उन्हें पूरी तरह से छोड़ने और फिर से बनाने की आवश्यकता नहीं है। इसके बजाय, सिस्टम के चलते समय किया गया एक लक्षित, सावधानीपूर्ण समायोजन, मॉडल की दुनिया को देखने और समझने की क्षमता को संरक्षित करते हुए पूर्वाग्रहों को हटा सकता है। शोधकर्ताओं ने अपना कोड उपलब्ध कराया है ताकि अन्य लोग इस दृष्टिकोण का परीक्षण और उपयोग कर सकें, जो शक्तिशाली और निष्पक्ष दोनों तरह के AI सिस्टम को तैनात करने की दिशा में एक नया मार्ग प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।