GemDetox at TextDetox CLEF 2025: Enhancing a Massively Multilingual Model for Text Detoxification on Low-resource Languages
GemDetox सिस्टम, जो पैरामीटर-कुशल फाइन-ट्यूनिंग, फ्यू-शॉट प्रॉम्प्टिंग और रिट्रीवल-ऑगमेंटेड कॉन्टेक्स्ट द्वारा संवर्धित एक 12B-पैरामीटर जेम्मा-3 मॉडल का लाभ उठाता है, ने उच्च- और निम्न-संसाधन दोनों भाषाओं में विषाक्त टेक्स्ट को तटस्थ पैराफ्रेज में प्रभावी ढंग से पुनर्गठित करके CLEF 2025 टेक्स्टडिटॉक्स चुनौती में शीर्ष रैंकिंग प्राप्त की।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि सोशल मीडिया एक विशाल, हलचल भरे शहर के चौक जैसा है। कभी-कभी, लोग अपमान चिल्लाते हैं, नफरत फैलाते हैं, या ऐसी अभद्र भाषा का उपयोग करते हैं जिससे दूसरों को असुरक्षित महसूस हो। यूनिवर्सिटी ऑफ कोपेनहेगन की "GemDetox" टीम ने इस चौक को साफ करने के लिए एक डिजिटल "शांति रक्षक" (peacekeeper) बनाया है, ताकि लोगों की आवाज़ को दबाए बिना इसे साफ किया जा सके।
यहाँ उन्होंने इसे कैसे किया, इसका सरल विवरण दिया गया है:
मिशन: संदेश को मिटाए बिना गंदगी को साफ करना
चुनौती एक ऐसे वाक्य को लेना था जो जहरीले शब्दों (जैसे अपमान या अपशब्द) से भरा हो और उसे इस तरह से फिर से लिखना था कि वह विनम्र और तटस्थ लगे, लेकिन उसका मूल अर्थ भी बना रहे।
- उपमा: कल्पना कीजिए कि कोई चिल्ला रहा है, "तुम एक बेकार मूर्ख हो!" लक्ष्य पूरे वाक्य को हटा देना नहीं है (जो कि सेंसरशिप होगी) या विषय को बदलना नहीं है। इसके बजाय, सिस्टम इसे फिर से लिखता है: "मैं आपके प्रदर्शन से निराश हूँ।" गुस्सा चला गया है, लेकिन शिकायत बनी हुई है।
मस्तिष्क: एक सुपर-अनुवादक जिसकी याददाश्त भी है
टीम ने शून्य से एक नया मस्तिष्क नहीं बनाया। उन्होंने एक बहुत ही स्मार्ट, पहले से मौजूद AI मॉडल का उपयोग किया जिसे Gemma-3 कहा जाता है (जिसमें 12 बिलियन "न्यूरॉन्स" या पैरामीटर्स हैं)। इस मॉडल को एक ऐसे बहुभाषी व्यक्ति के रूप में सोचें जो पहले से ही 15 अलग-अलग भाषाओं में पारंगत है, जैसे अंग्रेजी और स्पेनिश से लेकर तातार और हिंग्लिश (हिंदी और अंग्रेजी का मिश्रण) तक।
हालाँकि, इस बहुभाषी व्यक्ति को एक विशिष्ट कार्य सीखने की आवश्यकता थी: कैसे विनम्र बना जाए।
प्रशिक्षण: AI को सौम्य बनाना सिखाना
AI को सिखाने के लिए, टीम ने तीन अलग-अलग तरीकों का उपयोग करके एक विशेष प्रशिक्षण नियमावली तैयार की:
- मानव हैंडबुक: उन्होंने मनुष्यों द्वारा लिखे गए 3,600 वास्तविक उदाहरणों से शुरुआत की, जो दिखाते हैं कि एक जहरीले वाक्य को अच्छे वाक्य में कैसे बदला जाए।
- मशीन अनुवादक: चूंकि उनके पास छह भाषाओं के लिए मानव उदाहरण नहीं थे, इसलिए उन्होंने उन 3,600 उदाहरणों को लापता भाषाओं में बदलने के लिए एक मशीन अनुवादक का उपयोग किया। यह एक रेसिपी बुक की फोटोकॉपी करने और उसकी सामग्री की सूची को नई भाषा में अनुवाद करने जैसा है।
- अभ्यास ड्रिल: उन्होंने AI का उपयोग करके अतिरिक्त अभ्यास वाक्य भी बनाए, लेकिन वे अपने फिल्टर के प्रति बहुत सख्त थे। यदि AI का पुनर्गठित वाक्य मूल अपमान के बहुत समान था (जैसे केवल एक अक्षर बदलना), तो उन्होंने उसे फेंक दिया। उन्होंने केवल उन्हीं को रखा जो वास्तव में अलग थे लेकिन जिनका अर्थ अभी भी वही था।
"सोचने" की तकनीक:
टीम ने AI को सोचने का एक विशेष तरीका सिखाया जिसे Chain-of-Thought कहा जाता है। उत्तर का अनुमान लगाने के बजाय, AI को बोलने से पहले चार-चरणीय चेकलिस्ट का पालन करने के लिए प्रेरित किया गया:
- बुरे शब्दों की पहचान करें।
- समझें कि वाक्य वास्तव में किस बारे में है।
- अच्छे शब्दों का उपयोग करके इसे फिर से लिखें।
- दोबारा जांचें कि नया वाक्य बुरा तो नहीं है।
परिणाम: अधिकांश के लिए जीत, लेकिन सभी के लिए नहीं
जब उन्होंने प्रतियोगिता में अपने सिस्टम का परीक्षण किया:
- विजेता: उनका सिस्टम अधिकांश भाषाओं के लिए, विशेष रूप से उन भाषाओं के लिए जिनमें प्रचुर मात्रा में डेटा उपलब्ध था (जैसे अंग्रेजी, जर्मन और फ्रेंच), प्रथम स्थान पर आया।
- संघर्ष: सिस्टम "कम-संसाधन" वाली भाषाओं (कम डेटा उपलब्ध वाली भाषाएं, जैसे अम्मारािक या तातार) के साथ अधिक संघर्ष करता है। इन मामलों में, AI कभी-कभी निरर्थक बातें उत्पन्न करता है या सूक्ष्म अपमानों को छोड़ देता है।
- अंतराल: टीम ने पाया कि उनके सिस्टम के प्रदर्शन का सबसे बड़ा कारक केवल उस भाषा के लिए मौजूद डेटा की मात्रा थी। यदि किसी भाषा के लिए बहुत सारे प्रशिक्षण उदाहरण मौजूद थे, तो AI ने शानदार काम किया। यदि कम थे, तो AI लड़खड़ा गया।
वास्तविकता की जाँच: यह पूर्ण नहीं है
लेखक इनके दोषों के बारे में ईमानदार हैं:
- "निर्णायक" का असहमति: जब उन्होंने एक अन्य, अत्यधिक उन्नत AI से उनके काम को ग्रेड करने के लिए कहा (एक मानव निर्णायक के रूप में कार्य करने के लिए), तो उनका सिस्टम पहले स्थान से तीसरे स्थान पर आ गया। यह बताता है कि हालांकि उनका सिस्टम नियमों का पालन करने में अच्छा है, लेकिन यह उस सूक्ष्म "मानवीय अहसास" को मिस कर सकता है जो वास्तव में अपमानजनक होता है।
- सांस्कृतिक अंध बिंदु: AI कभी-कभी क्षेत्रीय अपशब्दों या स्लैंग को मिस कर देता है क्योंकि इसे मुख्य रूप से मानक भाषा पर प्रशिक्षित किया गया था। उदाहरण के लिए, इसने अर्जेंटीना के एक विशिष्ट स्लैंग शब्द को मिस कर दिया जो "बेकार" के लिए उपयोग किया जाता था क्योंकि वह इसके प्रशिक्षण डेटा में नहीं था।
- पूर्वाग्रह की समस्या: उनके द्वारा उपयोग किया गया अंतर्निहित AI मॉडल इंटरनेट डेटा के एक विशाल भंडार पर प्रशिक्षित है जिसे हम देख नहीं सकते। इसका मतलब है कि AI में पहले से ही कुछ अंतर्निहित पूर्वाग्रह हो सकते हैं जिन्हें टीम पूरी तरह से ठीक नहीं कर सकी।
निष्कर्ष
Gemetox टीम ने एक शक्तिशाली उपकरण बनाया है जो स्वचालित रूप से 15 अलग-अलग भाषाओं में जहरीली सोशल मीडिया पोस्ट को साफ कर सकता है। यह तब सबसे अच्छा काम करता है जब सीखने के लिए बहुत सारा डेटा उपलब्ध हो और जब AI को "चरण-दर-चरण सोचने" के लिए सिखाया जाए। हालांकि यह पूर्ण नहीं है और अभी भी जटिल सांस्कृतिक बारीकियों के साथ संघर्ष करता है, यह मुक्त भाषण को दबाए बिना मॉडरेटर्स को ऑनलाइन स्थानों को सुरक्षित रखने में मदद करने की दिशा में एक महत्वपूर्ण कदम है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।