ConGA: Guidelines for Contextual Gender Annotation. A Framework for Annotating Gender in Machine Translation
यह शोध पत्र कॉन्टेक्स्टुअल जेंडर एनोटेशन (ConGA) फ्रेमवर्क प्रस्तुत करता है, जो शब्द-स्तरीय लिंग एनोटेशन के लिए एक भाषाई रूप से आधारित दिशानिर्देश है, जो अंग्रेजी से इतालवी में मशीन अनुवाद में लिंग पूर्वाग्रह को संबोधित करने के लिए एक गोल्ड-स्टैंडर्ड डेटासेट बनाकर वर्तमान एमटी (MT) प्रणालियों के प्रदर्शन का मूल्यांकन और सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अनुवादक हैं जो एक कहानी को अंग्रेजी से इतालवी (Italian) में समझाने की कोशिश कर रहे हैं।
अंग्रेजी में, भाषा लिंग (gender) के मामले में एक गिरगिट (chameleon) की तरह है। आप कह सकते हैं, "The doctor is here," और शब्द "doctor" यह नहीं बताता कि वह व्यक्ति पुरुष है या महिला। यह तटस्थ (neutral) है। आप यह भी कह सकते हैं, "They are happy," और "they" कोई भी हो सकता है।
लेकिन इतालवी में, भाषा एक सख्त ड्रेस कोड (strict dress code) की तरह है। आपको लिंग चुनना ही होगा। आप सिर्फ "doctor" नहीं कह सकते; आपको कहना होगा il dottore (पुरुष डॉक्टर) या la dottoressa (महिला डॉक्टर)। आप सिर्फ "happy" नहीं कह सकते; आपको contento (पुरुष खुश) या contenta (महिला खुश) चुनना होगा।
समस्या: "डिफ़ॉल्ट" सेटिंग
समस्या यह है कि जब कंप्यूटर (मशीन ट्रांसलेशन सिस्टम) अंग्रेजी से इतालवी में अनुवाद करने की कोशिश करते हैं, तो वे फंस जाते हैं। चूंकि अंग्रेजी स्रोत (source) कोई सुराग नहीं देता, इसलिए कंप्यूटर घबरा जाता है और "सुरक्षित" विकल्प चुन लेता है: पुरुष संस्करण (male version)।
यह एक वेटर की तरह है, जब उससे पूछा जाता है "आप क्या पीना चाहेंगे?" और ग्राहक कहता है "कुछ तटस्थ (neutral)," तो वह स्वचालित रूप से बीयर परोस देता है क्योंकि "ज्यादातर लोग बीयर पीते हैं," भले ही ग्राहक जूस चाहता हो। समय के साथ, यह कंप्यूटर के मन में दुनिया को एक ऐसी जगह बना देता है जहाँ हर कोई एक पुरुष है, जो पुराने रूढ़िवादी विचारों (जैसे यह सोचना कि सभी नर्स महिलाएं हैं और सभी इंजीनियर पुरुष हैं) को बढ़ावा देता है।
समाधान: ConGA (जासूस की नोटबुक)
इस शोध पत्र के लेखकों ने ConGA (कॉन्टेक्स्टुअल जेंडर एनोटेशन) नामक नियमों का एक नया सेट बनाया है। ConGA को अनुवादकों के लिए एक जासूस की नोटबुक (detectives notebook) के रूप में समझें।
केवल अनुमान लगाने के बजाय, शोधकर्ताओं ने हजारों वाक्यों को देखा और शब्दों पर "स्टिकर नोट्स" लगाए ताकि यह सटीक रूप से चिह्नित किया जा सके कि लिंग की स्थिति क्या थी।
अंग्रेजी पक्ष (सुराग): उन्होंने अंग्रेजी वाक्य को देखा और पूछा: "क्या हम लिंग जानते हैं?"
- M (Masculine/पुल्लिंग): हाँ, यह एक पुरुष है।
- F (Feminine/स्त्रीलिंग): हाँ, यह एक महिला है।
- A (Ambiguous/अस्पष्ट): हम नहीं जानते। यह दोनों में से कुछ भी हो सकता है। (यही पेचीदा हिस्सा है)।
इतालवी पक्ष (कार्रवाई): उन्होंने इतालवी अनुवाद को देखा और पूछा: "क्या कंप्यूटर ने कोई चुनाव किया?"
- यदि अंग्रेजी अस्पष्ट (A) थी, लेकिन इतालवी अनुवाद ने पुरुष या महिला अंत (ending) को मजबूर किया, तो जासूस की नोटबुक इसे चिह्नित करती है।
- यदि कंप्यूटर नहीं जानने पर 10 में से 9 बार "पुरुष" का अनुमान लगाता था, तो नोटबुक इसे एक पूर्वाग्रह (bias) के रूप में रिकॉर्ड करती है।
प्रयोग: कंप्यूटरों का परीक्षण
शोधकर्ताओं ने दो शक्तिशाली AI अनुवादकों (एक जिसे TowerLLM कहा जाता है और दूसरा mBART) को ये वाक्य अनुवाद करने के लिए दिए। फिर, उन्होंने अपने "जासूस की नोटबुक" का उपयोग करके उनके काम को ग्रेड दिया।
उन्होंने क्या पाया:
- "पुरुष डिफ़ॉल्ट" वास्तविक है: जब AI को लिंग का पता नहीं होता था, तो इसने लगभग हमेशा "पुरुष" का अनुमान लगाया। यह एक ऐसे सिक्के की तरह था जिसका एक तरफ वजन ज्यादा था।
- महिलाओं को छोड़ देना: AI को "पुरुष" के अनुमान सही करने में बहुत बेहतर था जब वह लिंग जानता था, लेकिन वह अक्सर "महिला" के सुरागों को पूरी तरह से मिस कर देता था, जिससे गलती से एक महिला नर्स को पुरुष नर्स में बदल दिया जाता था।
- बायस स्कोर (Bias Score): उन्होंने एक स्कोर (जैसे रिपोर्ट कार्ड) की गणना की जिससे पता चला कि हालांकि AI स्मार्ट हो रहा है, लेकिन इसमें अभी भी एक भारी "पुरुष पूर्वाग्रह" की आदत है जिसे वह तोड़ नहीं पा रहा है।
यह क्यों मायने रखता है
यह केवल व्याकरण के बारे में नहीं है; यह निष्पक्षता (fairness) के बारे में है।
यदि AI सिस्टम "The doctor" को "He" और "The nurse" को "She" के रूप में अनुवाद करना जारी रखते हैं (भले ही अंग्रेजी में ऐसा न कहा गया हो), तो वे दुनिया को सिखा रहे हैं कि पुरुष डिफ़ॉल्ट इंसान हैं और महिलाएं अपवाद हैं।
ConGA वह उपकरण है जो हमें इसे पकड़ने में मदद करता है। यह हमें यह मापने का तरीका देता है कि एक कंप्यूटर कितना पक्षपाती है, ताकि हम इसे ठीक कर सकें। यह एक ऐसी कार पर स्पीड कैमरा लगाने जैसा है जो हमेशा तेज चलती है; एक बार जब हम गति देख लेते हैं, तो हम अंततः एक ऐसा सिस्टम बना सकते हैं जो निष्पक्षता से चले।
निष्कर्ष (Takeaway)
यह शोध पत्र हमें एक नियम पुस्तिका और एक स्कोरकार्ड देता है ताकि कंप्यूटर यह मान लेना बंद कर दें कि हर कोई एक पुरुष है क्योंकि वे बेहतर नहीं जानते। AI को यह सिखाकर कि वह कब लिंग नहीं जानता है, और उसे "पुरुष" का अनुमान लगाने के बजाय तटस्थ रहने (या मदद मांगने) के लिए प्रेरित करके, हम एक ऐसा भविष्य बना सकते हैं जहाँ तकनीक वास्तविक, विविध दुनिया को प्रतिबिंबित करे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।