Learning Sexism Detection Using Multi-Agent Perspectivist Preference Optimization
यह शोध पत्र मल्टी-एजेंट पर्सपेक्टिविस्ट प्रेफरेंस ऑप्टिमाइजेशन (MAP-PO) फ्रेमवर्क प्रस्तुत करता है, जो लेबलिंग व्यवहारों को क्लस्टर करके और विविध दृष्टिकोणों को संरक्षित करते हुए बहुसंख्यक लेबल के साथ संरेखण बनाए रखने के लिए समन्वयित विशेष भाषा मॉडल एजेंटों को फाइन-ट्यून करके, सेक्सिज्म डिटेक्शन में एनोटेटर असहमति का समाधान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को यह सिखाने की कोशिश कर रहे हैं कि एक बुरा मज़ाक कैसे पहचाना जाए। आप दस अलग-अलग लोगों से एक मज़ाक पढ़ने और यह तय करने के लिए कहते हैं कि क्या वह लैंगिक रूप से भेदभावपूर्ण (sexist) है। कुछ कहते हैं "हाँ, यह बहुत बुरा है," जबकि अन्य कहते हैं "नहीं, यह तो बस एक मज़ाक है।" पुराने समय के कंप्यूटर विज्ञान में, यदि बहुमत ने "हाँ" कहा, तो कंप्यूटर बस "नहीं" वाले वोटों को अनदेखा कर देता था और उसे एक तथ्य मान लेता था। लेकिन क्या होगा अगर वे "नहीं" वाले वोट गलतियाँ नहीं हैं? क्या होगा अगर वे केवल अलग-अलग दृष्टिकोणों से दुनिया को देखने वाले लोग हैं? यह "परिप्रेक्ष्यवादी" (perspectivist) विज्ञान नामक एक क्षेत्र का मूल है। यह तर्क देता है कि जब मनुष्य असहमत होते हैं, तो वह असहमति मिटाने योग्य 'शोर' नहीं है; बल्कि वह अध्ययन करने योग्य एक 'संकेत' है। बड़ा सवाल यह है: आप एक ऐसा कंप्यूटर कैसे बनाते हैं जो केवल एक विजेता नहीं चुनता, बल्कि वास्तव में यह समझता है कि विभिन्न लोग चीजों को अलग तरह से क्यों देखते हैं?
यह शोध पत्र ठीक इसी समस्या को हल करने के लिए MAP-PO (मल्टी-एजेंट पर्सपेक्टिविस्ट प्रेफरेंस ऑप्टिमाइज़ेशन) नामक एक चतुर नई प्रणाली पेश करता है। एक ही रोबोट को "परफेक्ट" जज बनाने की कोशिश करने के बजाय, शोधकर्ताओं ने तीन विशेष रोबोट एजेंटों की एक टीम बनाई। उन्होंने इसे इस प्रकार किया: सबसे पहले, उन्होंने डेटा को लेबल करने वाले लोगों (इंसानों) को देखा और उन्हें उम्र या लिंग के आधार पर समूहबद्ध नहीं किया। इसके बजाय, उन्होंने उन्हें इस आधार पर समूहबद्ध किया कि वे कैसे वोट दे रहे थे। कुछ इंसान बहुत सख्त थे और अक्सर "हाँ" कहते थे; अन्य अधिक उदार थे। शोधकर्ताओं ने पाया कि डेटा को समझने की असली कुंजी इंसानों की पृष्ठभूमि नहीं, बल्कि उनके "मतदान करने की शैलियाँ" थीं।
इसके बाद, उन्होंने प्रत्येक इन तीन मतदान शैलियों की नकल करने के लिए एक रोबोट एजेंट को प्रशिक्षित किया। लेकिन यहाँ पेचीदा बात यह थी: यदि वे केवल प्रत्येक रोबोट को कहते, "केवल अपने समूह की बात सुनो," तो रोबोट पागल हो जाते। वे अत्यधिक अतिरंजित पात्र बन जाते, जिसमें एक रोबोट हर चीज़ के लिए "हाँ" कहता और दूसरा हर चीज़ के लिए "नहीं" कहता, जिससे वे उन वास्तविक इंसानों से संपर्क खो देते जिनका उन्हें प्रतिनिधित्व करना था। शोध पत्र में पाया गया कि इसे ठीक करने के लिए, रोबोट्स को एक "टीम सिग्नल" की आवश्यकता थी। उन्हें न केवल अपनी शैली के प्रति सच्चा रहने के लिए, बल्कि सही समग्र उत्तर प्राप्त करने के लिए मिलकर काम करने के लिए भी पुरस्कृत किया जाना था। जब उन्होंने यह टीम रिवॉर्ड जोड़ा, तो रोबोट संतुलित रहे। उन्होंने अपनी पहचान बनाए रखते हुए भी अपना मानसिक संतुलन नहीं खोया। अंत में, इन तीन रोबोटों की यह टीम किसी भी एकल रोबोट या किसी पुराने ढंग के कंप्यूटर प्रोग्राम की तुलना में सेक्सिज्म (लैंगिक भेदभाव) को पहचानने में बेहतर थी, जो यह सिद्ध करता है कि विभिन्न दृष्टिकोणों को जीवित रखने से एक अधिक स्मार्ट और ईमानदार प्रणाली बनती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।