Gender Disparities in LLM-Based Intimate Partner Violence Detection
यह अध्ययन प्रदर्शित करता है कि बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) अंतरंग साथी हिंसा (इंटिमेट पार्टनर वायलेंस) का पता लगाने में महत्वपूर्ण लैंगिक पूर्वाग्रह प्रदर्शित करते हैं, जो व्यवस्थित रूप से तब दुर्व्यवहार और अपराधी के इरादे को कम करके आंकते हैं जब पीड़ित पुरुष और अपराधी महिला होती है, जिससे उनके प्रशिक्षण डेटा से लैंगिक रूढ़ियों का प्रतिबिंब झलकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास चार बहुत ही बुद्धिमान, सुशिक्षित डिजिटल सहायक (AI मॉडल) हैं जिन्हें पूरे इंटरनेट पर प्रशिक्षित किया गया है। आप यह परीक्षण करना चाहते हैं कि क्या वे पहचान सकते हैं कि कोई व्यक्ति किसी रिश्ते में शोषण (abuse) का शिकार हो रहा है। इसे करने के लिए, आप ऑनलाइन सलाह माँगने वाले लोगों की 475 वास्तविक कहानियों को लेते हैं और "क्या होगा अगर" का एक खेल खेलते हैं।
प्रयोग: जेंडर स्वैप (लिंग परिवर्तन)
प्रत्येक कहानी को एक फिल्म की पटकथा (script) के रूप में सोचें। मूल पटकथा में, पीड़ित और शोषण करने वाले व्यक्ति के विशिष्ट लिंग (जैसे एक पुरुष और एक महिला) होते हैं। शोधकर्ताओं ने इन पटकथाओं के लिए चार अलग-अलग "संस्करण" बनाए, केवल नाम और सर्वनाम बदलकर:
- महिला पीड़ित / महिला शोषणकर्ता
- महिला पीड़ित / पुरुष शोषणकर्ता
- पुरुष पीड़ित / महिला शोषणकर्ता
- पुरुष पीड़ित / पुरुष शोषणकर्ता
बुरे व्यवहार का वर्णन करने वाले वास्तविक शब्द (अपमान, नियंत्रण, धमकियाँ) बिल्कुल समान रहे। केवल जेंडर लेबल बदले गए। फिर, उन्होंने चार AI मॉडलों से इन पटकथाओं को पढ़ने और कुछ प्रश्न पूछने के लिए कहा जैसे: "क्या यह शोषण है?" "क्या शोषण करने वाले का इरादा नुकसान पहुँचाने का था?" और "क्या यह एक रोमांटिक रिश्ता है?"
बड़ी खोज: "पुरुष पीड़ित" का ब्लाइंड स्पॉट (अंधा मोड़)
परिणामों से पता चला कि AI मॉडल केवल कार्यों को नहीं देख रहे हैं; वे शामिल व्यक्तियों के लिंग को भी देख रहे हैं। यह ऐसा है जैसे मॉडलों के दिमाग में एक गुप्त नियम पुस्तिका है जो कहती है, "शोषण आमतौर पर एक पुरुष द्वारा महिला को नुकसान पहुँचाने जैसा दिखता है।"
जब कहानी में एक पुरुष पीड़ित और एक महिला शोषणकर्ता शामिल थी, तो AI मॉडल यह कहने में बहुत कम सक्षम थे कि, "हाँ, यह शोषण है।"
- "अदृश्य" पीड़ित: यदि किसी पुरुष ने बताया कि उसे एक महिला द्वारा नियंत्रित या दुखी किया जा रहा है, तो AI अक्सर इसे कम करके आंकता था। वह महिला को "बुरे इरादों" वाला मानने या स्थिति को हिंसा के रूप में लेबल करने में कम तत्पर था।
- "दृश्यमान" पीड़ित: इसके विपरीत, जब पीड़ित एक महिला थी और शोषणकर्ता एक पुरुष था, तो AI इसे शोषण के रूप में चिह्नित करने में बहुत अधिक तेज़ था।
"दोहरे मानदंड" की उपमा
कल्पना कीजिए कि एक क्लब में एक सुरक्षा गार्ड (AI) लोगों के आईडी चेक कर रहा है।
- यदि एक महिला कहती है, "मेरा बॉयफ्रेंड मुझ पर चिल्ला रहा है," तो गार्ड तुरंत पुलिस को बुला लेता है (इसे शोषण के रूप में चिह्नित करता है)।
- यदि एक पुरुष कहता है, "मेरी गर्लफ्रेंड मुझ पर चिल्ला रही है," तो गार्ड कंधे उचका लेता है और कहता है, "ओह, यह शायद सिर्फ एक गलतफहमी है," भले ही शब्द बिल्कुल समान हों।
शोध पत्र में पाया गया कि AI मॉडल इस गार्ड की तरह व्यवहार करते हैं। वे उस इंटरनेट डेटा से पूर्वाग्रह (bias) को आत्मसात कर चुके हैं, जिस पर उन्हें प्रशिक्षित किया गया है, जो अक्सर पुरुष पीड़ितों को कम "वास्तविक" या कम मदद के योग्य मानता है।
मॉडल के अंतर
सभी AI मॉडल एक जैसा व्यवहार नहीं करते थे:
- कुछ मॉडल (जैसे Llama) इन जेंडर स्वैप के प्रति बहुत संवेदनशील थे, जो इस आधार पर अपने उत्तर नाटकीय रूप से बदल देते थे कि कौन कौन था।
- अन्य (जैसे GPT और Grok) थोड़े अधिक सुसंगत थे लेकिन फिर भी पुरुष पीड़ित होने पर शोषण को पहचानने में चूकने की प्रवृत्ति दिखाते थे।
- दिलचस्प बात यह है कि जब कहानी में दो महिलाएँ शामिल थीं (महिला/महिला), तो कुछ मॉडल वास्तव में शोषण को पहचानने में अधिक सक्षम हो गए, जैसे कि वे "मानक" पुरुष-पीड़ित परिदृश्य की अनुपस्थिति में अति-सुधार (over-correcting) कर रहे हों।
मुख्य निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि ये AI उपकरण तटस्थ पर्यवेक्षक नहीं हैं। उन्होंने दुनिया को एक लैंगिक दृष्टिकोण से देखना सीख लिया है, जहाँ वे उम्मीद करते हैं कि शोषण एक विशिष्ट तरीके से होगा (पुरुष द्वारा महिला को नुकसान पहुँचाना)। इस कारण से, यदि कोई पुरुष अपनी महिला साथी के संबंध में मदद के लिए AI के पास जाता है, तो AI खतरे को पहचानने में विफल हो सकता है, जिससे वह उसे आवश्यक सहायता से वंचित छोड़ सकता है। लेखक चेतावनी देते हैं कि इससे पहले कि हम इन AI को संकट में पड़े लोगों की मदद करने दें, हमें इन 'ब्लाइंड स्पॉट्स' को ठीक करने की आवश्यकता है ताकि वे सभी पीड़ितों के साथ समान व्यवहार करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।