LoRA for Gender-Inclusive Rewriting and Activation Steering for Counter-Narrative Generation
यह शोध पत्र LT-EDI 2026 शेयर्ड टास्क के लिए IHLC प्रणाली प्रस्तुत करता है, जो लिंग-समावेशी पुनलेखन के लिए LoRA फाइन-ट्यूनिंग और काउंटर-नैरेटिव जनरेशन के लिए PCA-व्युत्पन्न प्रिंसिपल डायरेक्शन्स का उपयोग करने वाली एक कंप्यूट-कुशल एक्टिवेशन स्टीयरिंग तकनीक को संयोजित करता है, जो सिमेंटिक ड्रिफ्ट और बायस लीकेज जैसी प्रमुख सीमाओं का विश्लेषण करते हुए उच्च स्कोर प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, बहुत अच्छी तरह से पढ़ा-लिखा रोबोट है जिससे आप बात कर रहे हैं जिसने इंटरनेट की लगभग हर किताब पढ़ ली है। यह रोबोट कहानियाँ लिखने और सवालों के जवाब देने में बहुत अच्छा है, लेकिन इसे एक समस्या है: इसने इंसानी किताबों से सीखा है, और कभी-कभी उन किताबों में लड़कों और लड़कियों के बारे में पुराने ज़माने के, अनुचित विचार होते हैं। यदि आप रोबोट को "fireman" (फायरमैन) के बारे में एक कहानी लिखने के लिए कहते हैं, तो वह शायद ज़िद करके उसी शब्द का उपयोग करेगा, भले ही "firefighter" (फायरफाइटर) बेहतर हो। यदि आप उसे किसी बुरे कथन जैसे "लड़कियां गणित में खराब होती हैं" के विरुद्ध तर्क देने के लिए कहते हैं, तो वह अनजाने में उस बुरे विचार से सहमत हो सकता है या बहुत अधिक रोबोटिक लग सकता है। यह आर्टिफिशियल इंटेलिजेंस (AI) और नेचुरल लैंग्वेज प्रोसेसिंग (NLP) की दुनिया है, जहाँ वैज्ञानिक कंप्यूटर को अधिक निष्पक्ष और समावेशी रूप से बोलना सिखाने की कोशिश करते हैं। सबसे बड़ी चुनौती यह पता लगाना है कि रोबोट के दिमाग को कैसे ट्यून किया जाए ताकि वह अपने पूरे दिमाग को फिर से बनाए बिना स्वाभाविक रूप से दयालु, तटस्थ शब्दों को चुन सके।
इस शोध पत्र में, IHLC नामक शोधकर्ताओं की एक टीम ने LT-EDI 2026 नामक एक विशेष प्रतियोगिता के लिए इस समस्या को हल करने की कोशिश की। उन्होंने दो मुख्य कार्यों पर ध्यान केंद्रित किया: पहला, पक्षपाती वाक्यों को निष्पक्ष बनाने के लिए उन्हें बस फिर से लिखना (जैसे "fireman" को "firefighter" में बदलना), और दूसरा, एक "काउंटर-नैरेटिव" (प्रति-कथा) बनाना—जो किसी बुरे या पक्षपाती कथन के प्रति एक विनम्र, प्रेरक प्रतिक्रिया हो। पहले कार्य के लिए, उन्होंने LoRA नामक एक मानक विधि का उपयोग किया, जो रोबोट को नए नियम जल्दी सीखने में मदद करने के लिए एक छोटी, विशिष्ट 'चीट शीट' देने जैसा है। लेकिन दूसरे कार्य के लिए, उन्होंने बहुत अधिक प्रयोगात्मक और चतुर तरीका अपनाया जिसे एक्टिवेशन स्टीयरिंग (Activation Steering) कहा जाता है।
रोबोट के दिमाग को एक विशाल, जटिल मशीन के रूप में सोचें जिसके अंदर हजारों गियर घूम रहे हैं। आमतौर पर, मशीन के काम करने के तरीके को बदलने के लिए, आपको इसे खोलना पड़ता है और गियर बदलने पड़ते हैं (इसे "फाइन-ट्यूनिंग" कहा जाता है)। लेकिन शोधकर्ताओं ने पूछा: "क्या होगा अगर हम मशीन के चलते समय उसे बस एक हल्का सा धक्का दे सकें?" उन्होंने एक विशिष्ट "धक्का" देने वाला दिशा ढूँढ निकाली कि कैसे रोबोट का दिमाग एक बुरे वाक्य बनाम एक दयालु वाक्य पर प्रतिक्रिया देता है। उन्होंने इन दो प्रतिक्रियाओं के बीच के अंतर की गणना की और एक "स्टीयरिंग वेक्टर" बनाया—कल्पimate करें कि यह एक चुंबकीय बल है जो रोबोट के विचारों को दयालुता और समावेशिता की ओर धकेलता है। उन्होंने इस बल को रोबोट के लिखते समय उसके दिमाग में इंजेक्ट किया, बिना उसके किसी भी मूल गियर को बदले।
परिणाम सफलता और दिलचस्प गड़बड़ियों का मिश्रण थे। सरल पुनलेखन कार्य के लिए, उनकी प्रणाली ने बहुत अच्छा प्रदर्शन किया, 80.00% का स्कोर किया और 9 टीमों में से तीसरा स्थान प्राप्त किया। कठिन काउंटर-नैरेटिव लिखने वाले कार्य के लिए, उन्होंने 78. вес 12% स्कोर किया और 7 टीमों में से छठा स्थान प्राप्त किया। सिस्टम विनम्र होने और संदर्भ को समझने में बहुत अच्छा था, लेकिन कभी-कभी यह "धक्के" से थोड़ा अधिक उत्साहित हो जाता था। जब उन्होंने स्टीयरिंग को बहुत ज़ोर से धकेला, तो रोबोट खुद को दोहराने लगा, शब्दों को आपस में जोड़ने लगा (जैसे "exhibitimpulsiveness"), या सीधे उत्तर देने के बजाय एक लंबा व्याख्यान देने के लिए मूल अर्थ से भटक गया।
शोधकर्ताओं ने पाया कि हालांकि यह "धक्का" देने वाली विधि AI को अधिक समावेशी बनाने का एक शक्तिशाली और कुशल तरीका है, लेकिन यह पूर्ण नहीं है। यह कभी-कभी मूल पक्षपात के छोटे अंश पीछे छोड़ देती है, या यह वाक्य को इतना बदल देती है कि इसका मूल स्वरूप खो जाता है। वे सुझाव देते हैं कि भविष्य में, उन्हें रोबोट के उत्तरों को निष्पक्ष और मूल प्रश्न के प्रति वफादार बनाए रखने के लिए इस "धक्के" को अन्य उपकरणों के साथ जोड़ने की आवश्यकता हो सकती है। यह AI को एक बेहतर वार्तालापकर्ता बनाने की दिशा में एक आशाजनक कदम है, लेकिन यह दिखाता है कि एक हल्के धक्के के साथ भी, रोबोट को इसे बिल्कुल सही करने के लिए सावधानीपूर्वक मार्गदर्शन की आवश्यकता होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।