PluriHarms: Benchmarking the Full Spectrum of Human Judgments on AI Harm
यह शोधपत्र PluriHarms को प्रस्तुत करता है, जो एक नवीन बेंचमार्क है जिसे बाइनरी सुरक्षा आकलन से आगे बढ़कर, विशेष रूप से मानव निर्णयों के पूर्ण स्पेक्ट्रम का व्यवस्थित रूप से विश्लेषण करने के लिए डिज़ाइन किया गया है, जो हानिकारक आयामों की गंभीरता और अंतर-एनोटेटर असहमति पर ध्यान केंद्रित करता है ताकि अधिक बहुलवादी और व्यक्तिगत AI सुरक्षा प्रणालियों के विकास को सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को यह सिखाने की कोशिश कर रहे हैं कि "अच्छा" होना क्या होता है। वर्तमान के अधिकांश सुरक्षा तंत्र एक सख्त ट्रैफिक पुलिसकर्मी की तरह काम करते हैं जिनके पास केवल दो संकेत हैं: हरा (जाओ, यह सुरक्षित है) और लाल (रुको, यह खतरनाक है)।
समस्या यह है, जैसा कि यह शोध पत्र बताता है, कि वास्तविक जीवन केवल हरे और लाल रंग तक सीमित नहीं है। यह पीली बत्तियों, धुंधले चौराहों और उन उलझन भरे रास्तों से भरा हुआ है जहाँ लोग वास्तव में असहमत होते हैं। एक व्यक्ति को कोई मज़ाक मज़ेदार लग सकता है; दूसरे को वह अपमानजनक लग सकता है। एक व्यक्ति किसी राजनीतिक प्रश्न को बहस के रूप में देख सकता है; दूसरा उसे एक खतरे के रूप में देख सकता है।
इस शोध पत्र के लेखक, PLURIHARMS, तर्क देते हैं कि केवल स्पष्ट रूप से "बुरे" कार्यों को खोजने पर ध्यान केंद्रित करके, हम उस जटिल मध्य क्षेत्र (मिडल ग्राउंड) को अनदेखा कर रहे हैं जहाँ वास्तव में AI सुरक्षा विफल होती है। उन्होंने इस ग्रे एरिया (धुंधले क्षेत्र) का अध्ययन करने के लिए एक नया उपकरण बनाया है।
यहाँ उनके कार्य का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. समस्या: "एक ही आकार सबके लिए" वाला सुरक्षा जाल (The "One-Size-Fits-All" Safety Net)
वर्तमान AI सुरक्षा एक कुकी कटर की तरह है। यह मानव बातचीत के हर टुकड़े को एक आदर्श वृत्त (सुरक्षित) या एक टेढ़े-मेढ़े वर्ग (असुरक्षित) में काटने की कोशिश करती है।
- दोष: यदि आप लोगों के एक समूह से पूछें, "क्या यह मज़ाक बुरा है?" तो आपको एक उत्तर नहीं मिलेगा। आपको एक स्पेक्ट्रम (श्रेणी) मिलेगा। कुछ हंसेंगे, कुछ झेंप जाएंगे, और कुछ अपमानित महसूस करेंगे।
- गलती: वर्तमान AI इन अलग-अलग मतों को "शोर" या गलतियों के रूप में मानती है जिन्हें औसत निकालकर तब तक मिटा दिया जाता है जब तक कि सभी एक ही "सुरक्षित" उत्तर पर सहमत न हो जाएं। लेखक कहते हैं कि यह गलत है। असहमति ही वह संकेत है। यह हमें बताता है कि लोगों के अलग-अलग मूल्य, पृष्ठभूमि और अनुभव हैं।
2. समाधान: "हार्म स्पेक्ट्रम" बेंचमार्क (The "Harm Spectrum" Benchmark)
टीम ने PLURIHARMS नामक एक नया डेटासेट बनाया है। इसे स्टॉपलाइट के बजाय एक कलर व्हील (रंग चक्र) के रूप में समझें।
- सेटअप: उन्होंने 150 अलग-अलग प्रश्न (प्रॉम्प्ट्स) तैयार किए जो "पूरी तरह से हानिरहित" (जैसे मौसम के बारे में पूछना) से लेकर "स्पष्ट रूप से खतरनाक" (जैसे बच्चों की तस्करी के बारे में पूछना) तक फैले हुए हैं।
- मध्य क्षेत्र (The Middle Ground): महत्वपूर्ण रूप से, उन्होंने अपना ध्यान मध्यवर्ती रंगों—यानी पीले और नारंगी प्रॉम्प्ट्स—पर केंद्रित किया। ये वे पेचीदा प्रश्न हैं जहाँ लोग सबसे अधिक असहमत होते हैं (जैसे, "क्या किसी विवादास्पद ऐतिहासिक पात्र के बारे में कहानी लिखना ठीक है?")।
- मानवीय तत्व: उन्होंने केवल AI को इनका निर्णय करने के लिए नहीं कहा। उन्होंने 100 वास्तविक मनुष्यों से प्रत्येक प्रॉम्प्ट को 0 से 100 के पैमाने पर रेट करने के लिए कहा।
- डेटा: उन्होंने इन मनुष्यों से उनके जीवन के बारे में भी पूछा: उनकी आयु, शिक्षा, राजनीतिक विचार, वे सोशल मीडिया का कितना उपयोग करते हैं, और उन्हें ऑनलाइन कितनी बार परेशान (bully) किया गया है।
3. उन्होंने क्या खोजा: हम असहमत क्यों हैं?
जब उन्होंने डेटा का विश्लेषण किया, तो उन्होंने पाया कि "हानि" (harm) केवल प्रश्न में मौजूद शब्दों के बारे में नहीं है; यह इस बारे में भी है कि पूछने वाला कौन है और जवाब देने वाला कौन है।
- "ठोस खतरा" का नियम (The "Tangible Danger" Rule): मनुष्य आम तौर पर इस बात पर सहमत होते हैं कि चीजें जो तत्काल शारीरिक नुकसान पहुँचाती हैं (जैसे बच्चे को चोट पहुँचाना या अपराध करना) बुरी होती हैं। यह "लाल" क्षेत्र है।
- "पहचान" का कारक (The "Identity" Factor): जहाँ लोग असहमत होते हैं, वह "पीला" क्षेत्र है।
- उपमा: कल्पना कीजिए कि संगीत के एक विशिष्ट प्रकार के बारे में एक प्रश्न है। एक व्यक्ति जिसे ऑनलाइन बहुत परेशान किया गया है, वह उस संगीत के बारे में प्रश्न को "बहुत हानिकारक" मान सकता है क्योंकि यह उसे सदमे (trauma) की याद दिलाता है। एक अलग पृष्ठभूमि वाला व्यक्ति उसी प्रश्न को "हानिरहित" मान सकता है।
- निष्कर्ष: शोध पत्र दिखाता है कि आपकी पृष्ठभूमि (जैसे आपकी शिक्षा का स्तर या आप सोशल मीडिया का कितना उपयोग करते हैं) और आपके पिछले अनुभव (जैसे ऑनलाइन विषाक्तता के शिकार होने का अनुभव) धूप के चश्मे की तरह काम करते हैं। वे दुनिया को देखने वाले रंग को बदल देते हैं। यदि आपने पहले चोट खाई है, तो आप उसी प्रॉम्प्ट में किसी ऐसे व्यक्ति की तुलना में अधिक खतरा देखेंगे जिसने ऐसा नहीं किया है।
4. AI का परीक्षण: क्या रोबोट विभिन्न आँखों से देखना सीख सकते हैं?
लेखकों ने इस नए "कलर व्हील" डेटासेट पर विभिन्न AI सुरक्षा मॉडलों का परीक्षण किया ताकि यह देखा जा सके कि क्या वे यह अनुमान लगा सकते हैं कि विशिष्ट मनुष्य कैसी प्रतिक्रिया देंगे।
- पुराना तरीका (आम सहमति/Consensus): उन्होंने AI को औसत मानवीय राय की भविष्यवाणी करने के लिए प्रशिक्षित करने का प्रयास किया।
- परिणाम: वे इसमें ठीक थे, लेकिन वे सूक्ष्मता (nuance) को पकड़ नहीं पाए। यह एक व्यक्ति से पूछकर पूरी भीड़ के विचार का अनुमान लगाने जैसा था।
- नया तरीका (वैयक्तिकरण/Personalization): उन्होंने यह अनुमान लगाने के लिए AI को प्रशिक्षित करने का प्रयास किया कि उस व्यक्ति का क्या विचार होगा, जो उस व्यक्ति की प्रोफाइल पर आधारित हो।
- परिणाम: यह बहुत बेहतर रहा! जब AI को किसी विशिष्ट उपयोगकर्ता के मूल्यों और इतिहास को समझने के लिए "वैयक्तिकृत" (personalized) किया गया, तो वह उनके सुरक्षा रेटिंग की बहुत अधिक सटीकता से भविष्यवाणी कर सका।
- मुख्य बात: "एक ही आकार सबके लिए" वाला सुरक्षा नियम कमजोर है। एक सुरक्षा प्रणाली जो यह समझने में सक्षम है कि उपयोगकर्ता कौन है, वह बहुत अधिक मजबूत है।
सारांश
PLURIHARMS एक नया उपकरण है जो कहता है: "सबको इस बात पर सहमत होने के लिए मजबूर करना बंद करें कि क्या सुरक्षित है।"
इसके बजाय, यह असहमति को एक त्रुटि (bug) के बजाय एक विशेषता (feature) के रूप में देखता है। यह दिखाता है कि सुरक्षा एक व्यक्तिगत अनुभव है। जिस तरह आप हाइकिंग के लिए अलग और डांस करने के लिए अलग जूते पहन सकते हैं, उसी तरह AI सुरक्षा को एक एकल कठोर नियम पुस्तिका नहीं होनी चाहिए। इसे यह समझने के लिए पर्याप्त लचीला होना चाहिए कि एक व्यक्ति के लिए "हानिकारक" प्रश्न दूसरे के लिए "हानिरहित" हो सकता है, और सबसे अच्छे AI सुरक्षा सिस्टम वे होंगे जो उन विभिन्न दृष्टिकोणों को समझ और अनुकूलित कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।