← नवीनतम पेपर
💬 NLP

Neuron-Level Interventions for Gendered and Gender-Neutral Generation in Language Models

यह शोध पत्र एक न्यूरॉन-स्तरीय हस्तक्षेप विधि प्रस्तुत करता है जो लिंग-विशिष्ट न्यूरॉन्स की पहचान और हेरफेर करती है, जो मुख्य रूप से भाषा मॉडलों की प्रारंभिक परतों में केंद्रित होते हैं, ताकि पूर्वाग्रह को कम करते हुए और अर्थ संबंधी अर्थ को संरक्षित करते हुए स्त्री, पुरुष और लिंग-तटस्थ पीढ़ी पर सटीक नियंत्रण प्राप्त किया जा सके।

मूल लेखक: Zhiwen You, Nafiseh Nikeghbal, Jana Diesner

प्रकाशित 2026-06-01
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Zhiwen You, Nafiseh Nikeghbal, Jana Diesner

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक बड़े भाषा मॉडल (जैसे कि चैटबॉट्स को चलाने वाले मॉडल) की कल्पना एक विशाल, हलचल भरे कारखाने के रूप में करें। इस कारखाने के अंदर, लाखों नन्हे कर्मचारी हैं जिन्हें न्यूरॉन्स (neurons) कहा जाता है। जब आप कारखाने को एक वाक्य लिखने के लिए कहते हैं, तो ये कर्मचारी सक्रिय हो जाते हैं और अंतिम आउटपुट बनाने के लिए एक-दूसरे को संदेश भेजते हैं।

समस्या यह है कि जब आप कारखाने को एक तटस्थ कहानी (जैसे, "डॉक्टर ने मरीज का इलाज किया") लिखने के लिए कहते हैं, तो कारखाना कभी-कभी अनजाने में लिंग पूर्वाग्रह (gender bias) जोड़ देता है, जिससे पुराने रूढ़िवादी विचारों के आधार पर डॉक्टर को "वह" (पुरुष या महिला) बना दिया जाता है।

यह शोध पत्र एक टीम जासूसों की तरह है जो इस कारखाने के अंदर गए ताकि यह पता लगा सकें कि ठीक कौन से कर्मचारी यह तय करने के लिए जिम्मेदार हैं कि कोई वाक्य "पुल्लिंग," "स्त्रीलिंग," या "लिंग-तटस्थ" (gender-neutral) सुनाई देगा।

यहाँ उनके अन्वेषण का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. नया मानचित्र: केवल दो नहीं, तीन रंग

अधिकांश पिछले अध्ययनों ने कारखाने को केवल एक "बाइनरी" (दोहरा) लेंस से देखा: क्या कर्मचारी चीज़ों को लाल (पुल्लिंग) बना रहा है या नीला (स्त्रीलिंग)? उन्होंने हरे (लिंग-तटस्थ) कर्मचारियों की अनदेखी की।

लेखकों ने महसूस किया कि वास्तविक दुनिया में, हमें तीनों रंगों की आवश्यकता है। वे उन विशिष्ट कर्मचारियों को खोजना चाहते थे जो संभालते हैं:

  • लाल: शब्द जैसे he, man, father (वह, आदमी, पिता)।
  • नीला: शब्द जैसे she, woman, mother (वह, महिला, माँ)।
  • हरा: शब्द जैसे they, person, parent (वे, व्यक्ति, माता-पिता)।

2. जासूसी कार्य: "विशेषज्ञों" की खोज

शोधकर्ताओं ने इन विशिष्ट कर्मचारियों की पहचान करने के लिए एक नई विधि विकसित की। उन्होंने केवल अनुमान नहीं लगाया; उन्होंने एक "स्कोरकार्ड" का उपयोग किया यह देखने के लिए कि कौन से न्यूरॉन्स सबसे अधिक मजबूती से सक्रिय होते हैं जब मॉडल किसी विशिष्ट लिंग के बारे में बात कर रहा होता है, जबकि अन्य को अनदेखा करते हैं।

खोज:
उन्होंने पाया कि ये लिंग-विशेषज्ञ कर्मचारी कारखाने में बेतरतीब ढंग से बिखरे हुए नहीं हैं। इसके बजाय, वे कारखाने के शुरुआती कुछ कमरों में (शुरुआती परतों में) एक साथ झुंड में रहते हैं।

  • उपमा: एक रिले रेस की कल्पना करें। "कौन दौड़ रहा है" (लिंग) का निर्णय लगभग शुरुआत में ही ले लिया जाता है, न कि फिनिश लाइन पर। एक बार जब पहले कुछ कर्मचारियों ने तय कर लिया कि "यह एक 'स्त्री' की कहानी है," तो बाकी कारखाना बस उसी का अनुसरण करता है।

3. प्रयोग: "म्यूट बटन" परीक्षण

इन सही कर्मचारियों को खोजने के लिए सिद्ध करने हेतु, शोधकर्ताओं ने एक "नियंत्रित प्रयोग" किया। उन्होंने एक वाक्य लिया और मॉडल को दूसरे लिंग में फिर से लिखने के लिए कहा (उदाहरण के लिए, एक "पुरुष" की कहानी को "महिला" की कहानी में बदलना)।

  • आधार रेखा (Baseline): बिना मदद के, मॉडल अक्सर भ्रमित हो जाता है या गलत श्रेणी के शब्दों को लीक कर देता है (जैसे, "The woman firefighter" कहना लेकिन बाद में "he" का उपयोग करना)।
  • हस्तक्षेप (Intervention): शोधकर्ताओं ने लक्षित लिंग के लिए जिम्मेदार कर्मचारियों को छोड़कर बाकी सभी को चुप कराने के लिए एक "म्यूट बटन" (मास्किंग) का उपयोग किया।
    • यदि वे एक स्त्रीलिंग कहानी चाहते थे, तो उन्होंने "पुल्लिंग" और "तटस्थ" कर्मचारियों को शांत कर दिया और केवल "स्त्रीलिंग" कर्मचारियों को बोलने दिया।
    • परिणाम: मॉडल अनुरोधित लिंग के प्रति बहुत बेहतर हो गया। यह पृष्ठभूमि के शोर को बंद करने जैसा था ताकि विशिष्ट आवाज स्पष्ट रूप से सुनी जा सके।

4. परिणाम: सटीकता और गुणवत्ता

यह पत्र दावा करता है कि उनकी विधि पिछले प्रयासों की तुलना में बेहतर है क्योंकि:

  • कम लीकेज (Less Leaking): यह मॉडल को अनजाने में लिंगों को मिलाने (जैसे, "she" कहना जब आपने "they" मांगा हो) से रोकता है।
  • अर्थ सुरक्षित रहता है: कहानी ने अपना मूल अर्थ नहीं खोया; इसने केवल लिंग लेबल को सही ढंग से बदला।
  • दक्षता: क्योंकि उन्होंने पाया कि "लिंग-कर्मचारी" शुरुआती परतों में केंद्रित हैं, उन्हें पूरे कारखाने को बंद करने की आवश्यकता नहीं पड़ी, केवल कुछ विशिष्ट कमरों को ही बंद करना पड़ा।

5. डेटासेट: "प्रशिक्षण मैदान"

इसका परीक्षण करने के लिए, लेखकों ने दो नए "प्रशिक्षण मैदान" (डेटासेट) बनाए।

  • एक डेटासेट मौजूदा लिंग-आधारित वाक्यों को लेकर और उन्हें तटस्थ बनाकर बनाया गया था।
  • दूसरा शून्य से बनाया गया था जिसमें लिंग-आधारित और तटस्थ शब्दों की एक डिक्शनरी का उपयोग किया गया था ताकि यह सुनिश्चित हो सके कि प्रत्येक वाक्य को पूरी तरह से लाल, नीले या हरे के रूप में लेबल किया गया है।
  • मनुष्यों ने इन वाक्यों की जांच की ताकि यह सुनिश्चित हो सके कि वे व्याकरण की दृष्टि से सही हैं और वास्तव में इच्छित लिंग से मेल खाते हैं।

सारांश

संक्षेप में, यह पत्र कहता है: "हमने AI के मस्तिष्क के उन विशिष्ट स्विचों को खोज लिया है जो लिंग को नियंत्रित करते हैं। वे ज्यादातर सोचने की प्रक्रिया के बिल्कुल शुरुआत में स्थित हैं। इन विशिष्ट स्विचों को बदलकर और दूसरों को शांत करके, हम AI को एक विशिष्ट लिंग (पुरुष, महिला या तटस्थ) में लिखने के लिए मजबूर कर सकते हैं, बिना वाक्य को तोड़े या उसका मूल अर्थ खोए।"

लेखक कोड और डेटासेट प्रदान करते हैं ताकि अन्य लोग भी इस "स्विच-फ्लिपिंग" तकनीक को स्वयं आजमा सकें।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💬 cs.CL →