Learning Moral Diversity: Modelling Individual Perspectives in Moral Classification of Texts
यह शोध पत्र प्रीट्रेन्ड लैंग्वेज मॉडल्स को एनोटेटर-विशिष्ट विशेषताओं के साथ विस्तारित करके नैतिक टेक्स्ट वर्गीकरण में व्यक्तिगत एनोटेटर दृष्टिकोणों को मॉडल करने की एक विधि प्रस्तावित करता है, जो यह प्रदर्शित करता है कि व्यक्तिपरक असहमति को ध्यान में रखने से पारंपरिक दृष्टिकोणों की तुलना में, जो लेबल को एकल ग्राउंड ट्रुथ में एकत्रित करते हैं, अधिक सटीक भविष्यवाणियां और गहन अंतर्दृष्टि प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि लोग किसी विशिष्ट समाचार कहानी या एक ट्वीट के बारे में कैसा महसूस करते हैं। आप अपने 23 अलग-अलग दोस्तों से इसे पढ़ने के लिए कहते हैं और उनसे पूछते हैं कि उनके व्यक्तिगत नैतिक विवेक (moral compass) के आधार पर यह "अच्छा," "बुरा," या "तटस्थ" है या नहीं।
अतीत में, शोधकर्ता उन सभी 23 उत्तरों को एक साथ मिला देते थे और कहते थे, "ठीक है, बहुमत कहता है कि यह 'बुरा' है, इसलिए यही सत्य है।" वे दोस्तों के बीच के मतभेद को केवल "शोर" (noise) या गलतियों के रूप में देखते थे जिन्हें अनदेखा किया जाना चाहिए।
यह शोध पत्र तर्क देता है कि मतभेद को अनदेखा करना ही असली गलती है।
यहाँ एक सरल विवरण दिया गया कि शोधकर्ताओं ने क्या किया, जिसमें रोजमर्रा के उपमाओं (analogies) का उपयोग किया गया है:
1. समस्या: "औसत" मित्र अस्तित्व में नहीं होता
शोधकर्ताओं ने ट्वीट्स का एक विशाल संग्रह देखा जहाँ कई लोगों ने उन्हें नैतिक मूल्यों (जैसे "निष्पक्षता," "निष्ठा," या "शुद्धता") के साथ लेबल किया था। उन्होंने देखा कि लोग अक्सर बहुत अधिक असहमत होते हैं। एक व्यक्ति किसी ट्वीट को "सत्ता" (Authority) के उल्लंघन के रूप में देख सकता है, जबकि दूसरा उसे "निष्पक्षता" के समर्थक के रूप में देख सकता है।
मानक AI मॉडल एक एकल "औसत" उत्तर खोजने की कोशिश करते हैं। शोधकर्ता कहते हैं कि यह एक जटिल पेंटिंग का वर्णन करने के लिए उसके सभी पिक्सेल के औसत रंग को देखने जैसा है। आप कलाकार के विवरण, बनावट और विशिष्ट इरादे को खो देते हैं। एक एकल "ग्राउंड ट्रुथ" (ground truth) थोपकर, AI यह समझने में विफल रहता है कि मनुष्य वास्तव में कैसे सोचते हैं, जो कि बहुत समृद्ध और जटिल है।
2. समाधान: AI को "व्यक्तित्व" देना
टीम ने एक नए प्रकार का AI मॉडल बनाया। एक मानक AI मॉडल को एक सामान्य अनुवादक के रूप में सोचें जो एक सार्वभौमिक भाषा बोलता है।
उनका नया मॉडल एक ऐसे अनुवादक की तरह है जिसके पास 23 अलग-अलग "व्यक्तित्व" या "मुखौटे" हैं।
- उन्होंने एक शक्तिशाली, प्री-ट्रेंड AI (जिसे BERT कहा जाता है) लिया जो पहले से ही टेक्स्ट पढ़ने में कुशल है।
- उन्होंने इसके ऊपर एक विशेष "एनोटेटर लेयर" (Annotator Layer) जोड़ी।
- यह लेयर प्रत्येक 23 दोस्तों के लिए एक व्यक्तिगत फिल्टर के रूप में कार्य करती है। यह सीखती है कि "मित्र #5" "शुद्धता" के प्रति बहुत सख्त है, जबकि "मित्र #12" "देखभाल" (Care) के प्रति बहुत संवेदनशील है।
यह पूछने के बजाय कि, "इस ट्वीट का वास्तविक नैतिक मूल्य क्या है?", मॉडल पूछता है, "मित्र #5 इस ट्वीट के बारे में क्या कहेगा?" और "मित्र #12 क्या कहेगा?"
3. परिणाम: बेहतर अनुमान और नई अंतर्दृष्टि
जब उन्होंने इस नए मॉडल का परीक्षण किया:
- यह व्यक्तिगत राय का अनुमान लगाने में बेहतर हो गया: पुराने "औसत" मॉडल की तुलना में, यह मॉडल यह अनुमान लगाने में काफी सटीक हो गया कि एक विशिष्ट व्यक्ति किसी ट्वीट को कैसे लेबल करेगा। इसकी सटीकता लगभग 10% बढ़ गई।
- इसने छिपे हुए पैटर्न प्रकट किए: क्योंकि मॉडल ने एनोटेटर्स के "व्यक्तित्वों" को सीखा, शोधकर्ता डेटा को देखकर यह देख सके कि: "ओह, दोस्तों का यह समूह हमेशा ट्वीट्स को 'नैतिक उल्लंघन' के रूप में देखता है, जबकि उस समूह का एक अन्य समूह बहुत सतर्क है और शायद ही कभी किसी चीज़ को नैतिक लेबल देता है।"
- "एग्रीगेटेड" (Aggregated) जाल: जब उन्होंने अपने इस नए, अत्यधिक व्यक्तिगत मॉडल को एक एकल "औसत" उत्तर देने के लिए मजबूर किया (पुराने तरीके की नकल करने के लिए), तो इसका प्रदर्शन वास्तव में गिर गया। इसने यह साबित कर दिया कि लेबल को औसत बनाने का पुराना तरीका इस तथ्य को छिपा रहा था कि लोग वास्तव में दुनिया को अलग तरह से देखते हैं। "औसत" उत्तर आवश्यक रूप से "सर्वश्रेष्ठ" उत्तर नहीं था; यह केवल एक समझौता था जिसने सूक्ष्मता (nuance) को खो दिया।
4. मुख्य निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि असहमति कोई बग (त्रुटि) नहीं है; यह एक विशेषता (feature) है।
नैतिक निर्णय की दुनिया में, लोग केवल गलतियाँ नहीं करते; उनके पास अलग-अलग दृष्टिकोण होते हैं। इन व्यक्तिगत दृष्टिकोणों का सम्मान और उनसे सीखकर AI का निर्माण करके, हमें मानव नैतिकता की अधिक स्पष्ट तस्वीर मिलती है। शोधकर्ता सुझाव देते हैं कि भविष्य के AI को केवल "एक सही उत्तर" खोजने की कोशिश नहीं करनी चाहिए, बल्कि विभिन्न तरीकों को समझना सीखना चाहिए जिनसे लोग दुनिया की व्याख्या करते हैं।
संक्षेप में: उन्होंने एक AI को यह मानना छोड़ दिया कि हर कोई एक जैसा सोचता है, और इसके बजाय, यह सीखना सिखाया कि प्रत्येक विशिष्ट व्यक्ति कैसे सोचता है। परिणाम एक स्मार्ट और अधिक ईमानदार मॉडल था जो मानवीय राय की जटिल वास्तविकता को समझता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।