Mitigating Bias in Large Vision-Language Models via Counterfactual Ensemble Decoding

आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, एक नई पीढ़ी के सिस्टम उभरे हैं जो उल्लेखनीय प्रवाह के साथ देख और बोल सकते हैं। ये बड़े विजन-लैंग्वेज मॉडल दृश्य जगत और मानवीय भाषा के बीच सेतु का कार्य करते हैं, जो छवियों के बारे में प्रश्नों के उत्तर देने या दृश्यों का विस्तृत वर्णन करने में सक्षम हैं। उन्हें इंटरनेट से तस्वीरों और टेक्स्ट के विशाल संग्रहों पर प्रशिक्षित किया जाता है, जिससे वे यह सीखते हैं कि किसी चित्र के बाद किन शब्दों का आना चाहिए। हालाँकि, क्योंकि वे मानवीय डेटा से सीखते हैं, वे मानवीय दोषों को भी आत्मसात कर लेते हैं। जिस प्रकार मनुष्य अनजाने पूर्वाग्रह रख सकते हैं, ये मशीनें भी अक्सर सामाजिक रूढ़ियों को सोख लेती हैं, जिससे वे कुछ विशेष व्यवसायों, गुणों या भावनाओं को विशिष्ट लिंगों या नस्लों के साथ जोड़ने लगती हैं। जब कोई मॉडल एक महिला की तस्वीर देखता है, तो वह स्वतः ही अनुमान लगा सकता है कि वह एक नर्स है न कि डॉक्टर, या जब वह एक पुरुष को देखता है, तो वह मान सकता है कि वह एक सीईओ है। यह केवल एक तकनीकी त्रुटि नहीं है; यह वास्तविक दुनिया की असमानताओं का प्रतिबिंब है जो हानिकारक पूर्वाग्रहों को सुदृढ़ कर सकती हैं और तकनीक में विश्वास को कम कर सकती है।

शोधकर्ताओं ने मॉडल को स्वच्छ डेटा पर पुन: प्रशिक्षित करके या मशीन को निष्पक्ष रहने के लिए विशेष निर्देश देकर इसे ठीक करने का लंबे समय से प्रयास किया है। फिर भी, ये विधियाँ अक्सर महंगी होती हैं, इन्हें बड़े पैमाने पर लागू करना कठिन होता है, या ये "निष्पक्षता" की एक एकल, कठोर परिभाषा पर निर्भर करती हैं। एक नया अध्ययन एक अलग दृष्टिकोण प्रस्तावित करता है, जो मॉडल को उसके ज्ञान से मुक्त करने का प्रयास नहीं करता, बल्कि उसे एक साथ कई दृष्टिकोणों पर विचार करने के लिए आमंत्रित करता है। शोधकर्ताओं ने, जिसमें बेइहेंग यूनिवर्सिटी के यीसोंग जिओ और उनके सहयोगियों का नेतृत्व था, 'काउंटरफैक्चुअल एनसेम्बल डिकोडिंग' (Counterfactual Ensemble Decoding) नामक एक तकनीक विकसित की। मॉडल को केवल पक्षपाती होने से रोकने के बजाय, वे उससे एक ही दृश्य को विभिन्न सामाजिक समूहों के दृष्टिकोण से एक साथ देखने के लिए कहते हैं। मशीन द्वारा अपना अगला शब्द चुनने के क्षण के दौरान इन विविध दृष्टिकोणों को मिश्रित करके, सिस्टम एक एकल, रूढ़िवादी वृत्तांत के प्रभुत्व से मुक्त हो सकता है।

इस पद्धति का मूल एक सरल लेकिन शक्तिशाली विचार में निहित है: विविधता निष्पक्षता को बढ़ावा देती है। वास्तविक दुनिया में, यदि एक कमरा विभिन्न पृष्ठभूमियों के लोगों से भरा है, तो इस बात की संभावना कम होती है कि बातचीत एक संकीकर दृष्टिकोण द्वारा नियंत्रित हो। शोधकर्ताओं ने इस सिद्धांत को आर्टिफिशियल इंटेलिजेंस के डिजिटल मस्तिष्क पर लागू किया। जब मॉडल किसी छवि को देखता है, जैसे कि बिजनेस सूट पहने व्यक्ति की फोटो, तो वह आमतौर पर अपने प्रशिक्षण के आधार पर विचारों का एक एकल प्रवाह उत्पन्न करता है। नया सिस्टम इस महत्वपूर्ण क्षण में हस्तक्षेप करता है और छवि के आंतरिक प्रतिनिधित्व के "काउंटरफैक्चुअल" (counterfactual) संस्करण बनाता है। ये नई तस्वीरें नहीं हैं; बल्कि, ये कंप्यूटर द्वारा छवि को देखने के तरीके में गणितीय समायोजन हैं, जो शेष दृश्य को बिल्कुल वैसा ही रखते हुए, व्यक्ति को एक अलग लिंग या नस्ल का कल्पना करने के लिए ध्यान केंद्रित करते हैं। यह मॉडल को समानांतर भविष्यवाणियों का एक सेट उत्पन्न करने की अनुमति देता है: एक मूल छवि के लिए, और अन्य इस बात के लिए कि यदि व्यक्ति किसी अन्य सामाजिक समूह से होता तो छवि क्या संकेत देती।

एक बार जब ये कई दृष्टिकोण उत्पन्न हो जाते हैं, तो सिस्टम के सामने एक चुनौती होती है: मॉडल की सटीकता को कम किए बिना उन्हें कैसे संयोजित किया जाए। शोधकर्ताओं ने पाया कि इन विभिन्न दृष्टिकोणों के बीच का संघर्ष मॉडल की प्रोसेसिंग के दौरान समान नहीं होता है। न्यूरल नेटवर्क की कुछ परतें, जो सोचने के गहरे स्तरों की तरह कार्य करती हैं, मूल दृश्य और काउंटरफैक्चुअल दृश्यों के बीच सबसे मजबूत असहमति दिखाती हैं। सिस्टम इन विशिष्ट परतों की पहचान करता है जहाँ तनाव उच्चतम होता है। इस अधिकतम विचलन के बिंदु पर, विधि भविष्यवाणियों को सावधानीपूर्वक मिश्रित करती है। यह उन्हें केवल औसत नहीं निकालती; इसके बजाय, यह आत्मविश्वास के आधार पर विकल्पों को तौलती है। यदि मॉडल एक दृष्टिकोण में एक शब्द के प्रति बहुत आश्वस्त है लेकिन दूसरे में अनिश्चित है, तो सिस्टम आश्वस्त विकल्प को प्राथमिकता देता है। यह सुनिश्चित करता है कि अंतिम आउटपुट एक धुंधला समझौता नहीं, बल्कि एक संतुलित निर्णय हो जो उसके द्वारा विचार किए गए सभी विभिन्न दृष्टिकोणों के अंतर्दृष्टि का सम्मान करता है।

इस दृष्टिकोण के परिणामों का परीक्षण व्यवसायों, विवरणों और व्यक्तिगत गुणों में पूर्वाग्रह को मापने के लिए डिज़ाइन किए गए कई कठोर बेंचमार्क पर किया गया। नौकरी के शीर्षकों में लैंगिक पूर्वाग्रह से संबंधित एक परीक्षण में, इस नई पद्धति ने पूर्वाग्रह को औसतन 61.21 प्रतिशत तक कम कर दिया, जो पिछली तकनीकों की तुलना में एक महत्वपूर्ण सुधार है। नस्लीय रूढ़ियों को मापने वाले परीक्षणों में, पूर्वाग्रह लगभग 48 प्रतिशत कम हो गया। उदाहरण के लिए, एक महिला सीईओ का वर्णन करते समय, पुराने तरीके अभी भी "आकर्षक" जैसे रूढ़िवादी विशेषणों की ओर झुक सकते थे, जबकि यह नया सिस्टम सफलतापूर्वक विवरण को "सक्षम" जैसे तटस्थ, पेशेवर शब्दों की ओर ले गया। महत्वपूर्ण रूप से, शोधकर्ताओं ने पाया कि यह निष्पक्षता इसकी बुद्धिमत्ता की कीमत पर नहीं आई। मॉडल ने सामान्य प्रश्नों के उत्तर देने और जटिल समस्याओं को हल करने की अपनी क्षमता बनाए रखी, जिसमें समग्र प्रदर्शन में केवल एक मामूली, अक्सर नगण्य गिरावट आई। वास्तव में, कुछ तर्क परीक्षणों पर, डिबायस्ड (debiased) मॉडल पहले की तुलना में थोड़ा बेहतर प्रदर्शन करता है, जो यह सुझाव देता है कि रूढ़ियों के शोर को हटाने से मॉडल वास्तव में तथ्यों पर अधिक स्पष्टता से ध्यान केंद्रित करने में मदद मिल सकती है।

यह कार्य प्रदर्शित करता है कि आर्टिफिशियल इंटेलिजेंस में निष्पक्षता के लिए मॉडल के ज्ञान को त्यागने या शून्य से शुरुआत करने की आवश्यकता नहीं है। सिस्टम में एक ऐसा तंत्र पेश करके जो उसे एक ही समय में अपने मन में कई दृष्टिकोण रखने के लिए मजबूर करता है, शोधकर्ताओं ने दिखाया कि मशीन अपनी सबसे गहरी आदतों पर निर्भर हुए बिना मानव समाज की जटिलता को नेविगेट करना सीख सकती है। यह विधि उस सटीक क्षण को खोजने और उस संघर्ष को विविध विचारों के भारित मिश्रण के साथ हल करने का कार्य करती है जहाँ मॉडल का आंतरिक तर्क सबसे अधिक द्वंद्व में होता है। हालाँकि इस तकनीक के लिए वर्तमान में मॉडल के आंतरिक कामकाज तक पहुँच की आवश्यकता होती है, जो इसके उपयोग को शोधकर्ताओं और डेवलपर्स तक सीमित करता है न कि अंतिम उपयोगकर्ताओं तक, फिर भी यह एक आशाजनक मार्ग प्रस्तुत करता है। यह सुझाव देता है कि नैतिक एआई का भविष्य केवल सख्त नियमों या स्वच्छ डेटा में नहीं, बल्कि इन प्रणालियों को एक व्यापक, अधिक समावेशी दृष्टिकोण के साथ सोचने के लिए सिखाने में निहित है।