ADAB: Arabic Dataset for Automated Politeness Benchmarking -- A Large-Scale Resource for Computational Sociopragmatics
यह शोध पत्र ADAB को प्रस्तुत करता है, जो विभिन्न ऑनलाइन प्लेटफार्मों और बोलियों से 10,000 नमूनों वाला एक बड़े पैमाने का एनोटेटेड अरबी डेटासेट है, जिसे विनम्र, अशिष्ट और तटस्थ श्रेणियों में शिष्टाचार पहचान (politeness detection) के लिए एक बेंचमार्क प्रदान करके कम्प्यूटेशनल सोशियोप्रैगमैटिक्स (computational sociopragmatics) को आगे बढ़ाने के लिए डिज़ाइन किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप मध्य पूर्व के एक हलचल भरे, शोर-शलगों वाले बाज़ार में जा रहे हैं। इस बाज़ार में, लोग कई अलग-अलग लहजों (बोलियों) में बात करते हैं, जटिल रूपकों का उपयोग करते हैं, और सम्मान या अनादर दिखाने के लिए अनकहे सामाजिक नियमों पर बहुत अधिक भरोसा करते हैं। कभी-कभी, एक वाक्यांश जो आशीर्वाद जैसा लगता है, वह वास्तव में एक अभिशाप हो सकता है, यह इस बात पर निर्भर करता है कि लहजा कैसा है और बोलने वाला कौन है।
अब, कल्पना कीजिए कि आप एक रोबोट (एक AI) बनाने की कोशिश कर रहे हैं जो इस बाज़ार में जाकर यह समझ सके कि कौन विनम्र है और कौन असभ्य। यही वह चुनौती है जिसे यह शोध पत्र संबोधित करता है।
यह ADAB की कहानी है, एक नया टूल जिसे कंप्यूटर को अरबी विनम्रता को समझना सिखाने के लिए बनाया गया है।
1. समस्या: "अनुवाद में खोया हुआ" रोबोट
लंबे समय से, कंप्यूटर अंग्रेजी विनम्रता को समझने में बहुत अच्छे रहे हैं। यदि कोई "कृपया" या "धन्यवाद" कहता है, तो कंप्यूटर जानता है कि वे दयालु हो रहे हैं। लेकिन अरबी अलग है। यह एक रोबोट को उस नृत्य को समझने के लिए सिखाने जैसा है जहाँ कदम बदल जाते हैं यदि आप मिस्र, सऊदी अरब या मोरक्को में हों।
- डिग्लोसिया पहेली (The Diglossia Puzzle): अरबी के दो "चेहरे" हैं: एक औपचारिक संस्करण (जैसे सूट और टाई) और कई बोली संस्करण (जैसे कैजुअल स्ट्रीट क्लोथ्स)। एक रोबट जिसे केवल औपचारिक संस्करण पर प्रशिक्षित किया गया है, वह भ्रमित हो जाता है जब लोग अनौपचारिक रूप से बात करते हैं।
- छिपा हुआ अर्थ: अरबी में, आप एक धार्मिक वाक्यांश का उपयोग करके अविश्वसनीय रूप से विनम्र हो सकते हैं, या उसी वाक्यांश का व्यंग्यात्मक लहजे के साथ उपयोग करके अविश्वसनीय रूप से असभ्य हो सकते हैं। एक मानक कंप्यूटर शब्दों को देखता है लेकिन "वाइब" (भाव) को मिस कर देता है।
अब तक, इन बारीकियों को सिखाने के लिए कोई बड़ा उदाहरणों का पुस्तकालय नहीं था। यह किसी को बिना पूल के तैराकी सिखाने जैसा था।
2. समाधान: "ADAB" पूल का निर्माण
शोधकर्ताओं ने ADAD नामक एक विशाल नया डेटासेट बनाया जिसका अर्थ है "विनम्रता" (अरबी में)। इसे एक विशाल, व्यवस्थित पुस्तकालय के रूप में सोचें जिसमें इंटरनेट से ली गई 10,000 वास्तविक बातचीत शामिल हैं।
उन्हें टेक्स्ट कहाँ से मिले? उन्होंने केवल नकली वाक्य नहीं लिखे। उन्होंने निम्नलिखित से वास्तविक टिप्पणियाँ एकत्र कीं:
- YouTube: वीडियो पर प्रतिक्रिया देने वाले लोग ("स्ट्रीट टॉक")।
- ऑनलाइन शॉपिंग: कपड़ों की समीक्षा करने वाले लोग ("कस्टमर सर्विस टॉक")।
- Twitter: समाचारों पर बहस करने वाले या चैट करने वाले लोग ("पब्लिक स्क्वायर टॉक")।
- बैंकिंग ऐप्स: पैसे के बारे में शिकायत करने वाले लोग ("फॉर्मल कंप्लेंट टॉक")।
मानवीय स्पर्श: इन टेक्स्ट को लेबल करने के लिए, उन्होंने केवल कंप्यूटर का उपयोग नहीं किया। उन्होंने अरबी भाषा के पीएचडी विशेषज्ञों के दो विशेषज्ञों को काम पर रखा। ये विशेषज्ञ जासूसों की तरह थे, जो हर वाक्य को पढ़कर यह तय करते थे कि:
- विनम्र (Polite): "आप एक आशीर्वाद हैं," "ईश्वर आपकी रक्षा करे।"
- असभ्य (Impolite): "तुम मूर्ख हो," "चले जाओ।"
- तटस्थ (Neutral): "उत्पाद ठीक है," "मैंने यह खरीदा।"
उन्होंने यह भी टैग किया कि कोई चीज़ विनम्र या असभ्य क्यों थी (जैसे, "यह एक प्रार्थना है," "यह एक अपमान है," "यह कटाक्ष है")।
3. बड़ा टेस्ट: सबसे अच्छा जासूस कौन है?
एक बार जब उन्होंने लाइब्रेरी बना ली, तो उन्होंने 40 अलग-अलग प्रकार के "रोबोट्स" (AI मॉडल्स) को यह देखने के लिए टेस्ट किया कि कौन कमरे के माहौल को बेहतर ढंग से पढ़ सकता है। उन्होंने तीन पीढ़ियों के रोबोट्स का परीक्षण किया:
- पुराने स्कूल के रोबोट (पारंपरिक मशीन लर्निंग): ये कैलकुलेटर की तरह हैं। ये विशिष्ट कीवर्ड (जैसे "धन्यवाद") को देखते हैं लेकिन पूरे वाक्य को नहीं समझते।
- परिणाम: वे ठीक थे, लेकिन अक्सर सूक्ष्म चुटकुलों या व्यंग्य को मिस कर गए।
- सुपर-रीडर्स (ट्रांसफॉर्मर्स/LLMs): ये आधुनिक AI दिग्गज हैं (जैसे वे जो ChatGPT के पीछे हैं)। वे पूरे वाक्य को पढ़ते हैं और संदर्भ को समझते हैं।
- परिणाम: उन्होंने बहुत बेहतर प्रदर्शन किया।
- "लोकल" बनाम "ग्लोबल" रोबोट: उन्होंने उन रोबोट्स का परीक्षण किया जो सभी भाषाओं पर प्रशिक्षित थे बनाम उन रोबोट्स का जो विशेष रूप से अरबी पर प्रशिक्षित थे।
- विजेता: MARBERT रोबोट (एक अरबी विशेषज्ञ) दौड़ जीत गया। इसने 91% सटीकता प्राप्त की।
- सबक: जैसे एक पर्यटक स्थानीय स्लैंग के साथ संघर्ष कर सकता है, एक "ग्लोबल" AI अरबी बारीकियों के साथ संघर्ष करता है। "लोकल" AI, जिसने अरबी बोलियों और सोशल मीडिया स्लैंग का अध्ययन किया था, संस्कृति को बहुत बेहतर समझता था।
4. जहाँ रोबोट अभी भी लड़खड़ाते हैं (द ग्लिच)
सबसे अच्छे रोबोट ने भी गलतियाँ कीं। शोधकर्ताओं ने चार मुख्य कारण पाए कि क्यों:
- "सेफ ज़ोन" पूर्वाग्रह: रोबोट कुछ भी "असभ्य" या "अत्यधिक विनम्र" कहने से डरते थे। वे डिफ़ॉल्ट रूप से सब कुछ "तटस्थ" (बस ठीक) कहने की ओर झुक जाते थे। यह एक ऐसे रोबोट की तरह है जो सोचता है, "मैं 100% सुनिश्चित नहीं हूँ, इसलिए मैं बस कह दूँगा कि यह ठीक है।"
- धार्मिक जाल: कुछ वाक्यांशों में धार्मिक शब्दों का उपयोग होता है जो संदर्भ के आधार पर आशीर्वाद या अभिशाप हो सकते हैं। रोबोट यहाँ अक्सर भ्रमित हो जाते थे।
- स्लैंग की दीवार: रोबोट विशिष्ट बोलियों (जैसे मिस्र या मगरेबी अरबी) के साथ संघर्ष करते थे क्योंकि उन्होंने उनके पर्याप्त उदाहरण नहीं देखे थे।
- "सूक्ष्म अपमान": कभी-कभी लोग बुरे शब्दों का उपयोग किए बिना भी असभ्य होते हैं (पैसिव-अग्रेसिव)। रोबलेट इन "सॉफ्ट" अपमानों को मिस कर गए।
5. यह क्यों मायने रखता है?
हमें क्यों परवाह है कि एक रोबोट "ईश्वर आपको आशीर्वाद दे" और "ईश्वर आपकी मदद करे" के बीच अंतर जानता है या नहीं?
- ग्राहक सेवा (Customer Service): एक चैटबॉट की कल्पना करें जो जानता है कि ग्राहक कब गुस्सा हो रहा है और उन्हें शांत करने के लिए अत्यधिक विनम्र लहजे में बदल जाता है।
- सोशल मीडिया: एक ऐसे टूल की कल्पना करें जो अरबी कमेंट्स में बुलीइंग या उत्पीड़न को पहचान सके, भले ही बुली (परेशान करने वाला) चतुर और छिपे हुए अपमानों का उपयोग कर रहा हो।
- सम्मान: यह तकनीक को उस संस्कृति का सम्मान करने में मदद करता है जिसकी वह सेवा कर रही है, बजाय इसके कि सभी भाषाओं के साथ वैसा ही व्यवहार किया जाए जैसा कि अंग्रेजी के साथ किया जाता है।
निचोड़ (The Bottom Line)
यह शोध पत्र अरबी भाषी दुनिया के लिए विशेष रूप से निर्मित "भावनाओं के शब्दकोश" के निर्माण जैसा है। यह हमें दिखाता है कि जबकि AI स्मार्ट हो रहा है, इसे वास्तव में हमें समझने के लिए स्थानीय संस्कृति, बोलियों और विनम्रता के छिपे हुए अर्थों को सीखने की आवश्यकता है। ADAB डेटासेट वह पाठ्यपुस्तक है जो भविष्य के रोबोट्स को ये सबक सीखने में मदद करेगी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।