Contextual Value Alignment via Multilayer Combinatorial Fusion
यह शोध पत्र MCF-CVA ढांचे का प्रस्ताव करता है, जो नैतिक बहुलवाद और बहु-एजेंट नैतिक तर्क को बेहतर ढंग से पकड़ने के माध्यम से लार्ज लैंग्वेज मॉडल्स में सुदृढ़ प्रासंगिक मूल्य संरेखण प्राप्त करने के लिए कई नैतिक एजेंटों और स्कोर एवं रैंक स्पेस में एक विस्तार-न्यूनीकरण एल्गोरिदम के माध्यम से एक बहुस्तरीय संयोजन संलयन प्रक्रिया का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अत्यंत बुद्धिमान रोबोट को एक अच्छा इंसान बनना सिखाने की कोशिश कर रहे हैं। यह केवल उसे "चोरी न करना" या "झूठ न बोलना" जैसे नियमों का पालन करना सिखाने के बारे में नहीं है। यह उसे मानवीय मूल्यों की उस उलझी हुई, जटिल और कभी-कभी विरोधाभासी दुनिया को समझाने के बारे में है। कभी-कभी, "निष्पक्ष" होने का अर्थ वादा तोड़ना होता है, और कभी-कभी "वफादार" होने का अर्थ किसी सत्य को छिपाना होता है। यही वैल्यू एलाइनमेंट (मूल्य संरेखण) की चुनौती है: आर्टिफिशियल इंटेलिजेंस (AI) को यह समझने में मदद करना कि मानवीय नैतिकता कोई एकल, निश्चित निर्देश पुस्तिका नहीं है, बल्कि एक बदलता हुआ परिदृश्य है जो स्थिति के अनुसार बदल जाता है।
इसे हल करने के लिए, वैज्ञानिक अक्सर एक "रिवॉर्ड सिस्टम" (पुरस्कार प्रणाली) बनाने की कोशिश करते हैं, जैसे कि एक वीडियो गेम स्कोर, जहाँ AI को उन कार्यों के लिए अंक मिलते हैं जो मनुष्यों को पसंद आते हैं। लेकिन यहाँ एक पेंच है: मनुष्य इस बात पर सहमत नहीं होते कि "अच्छा" क्या दिखता है। एक व्यक्ति केयर (देखभाल/करुणा) को महत्व दे सकता है (दयालु होना), जबकि दूसरा अथॉरिटी (सत्ता/आधिकार) को महत्व दे सकता है (नियमों का पालन करना)। यदि आप एक रोबोट को केवल दयालुता की परवाह करने के लिए प्रशिक्षित करते हैं, तो वह महत्वपूर्ण नियमों को अनदेखा कर सकता है। यदि आप उसे केवल नियमों का पालन करने के लिए प्रशिक्षित करते हैं, तो वह कठोर और निर्दयी हो सकता है। बड़ा सवाल यह है: आप एक ऐसा AI कैसे बना सकते हैं जो एक साथ सभी अलग-अलग, कभी-कभी टकराने वाले नैतिक दृष्टिकोणों को बिना भ्रमित हुए संभाल सके?
यहीं पर एक नया अध्ययन आता है, जो एक चतुर तरीका प्रस्तावित करता है जिससे AI मल्टीलेयर कॉम्बिनेटोरियल फ्यूजन (बहुस्तरीय संयोजन संलयन) नामक तकनीक का उपयोग करके खुद के साथ "बहस" कर सके। इसे एक आदर्श रोबट बनाने के रूप में नहीं, बल्कि पाँच अलग-अलग रोबोट विशेषज्ञों की एक टीम बनाने के रूप में सोचें, जिनमें से प्रत्येक का एक विशिष्ट व्यक्तित्व एक मूल नैतिक मूल्य पर आधारित है: एक पूरी तरह से केयर (देखभाल) के बारे में है, दूसरा फेयरनेस (निष्पक्षता) के बारे में, तीसरा लॉयल्टी (वफादारी) के बारे में, चौथा अथॉरिटी (सत्ता) के बारे में है, और पाँचवाँ सैन्क्टिटी (पवित्रता/पवित्रता के प्रति सम्मान) के बारे में है।
इन पाँचों रोबोटों को तुरंत सहमत होने के लिए मजबूर करने के बजाय, शोधकर्ता उन्हें एक नैतिक प्रश्न का अपना उत्तर उत्पन्न करने देते हैं। फिर, वे इन उत्तरों को मिलाने के लिए एक विशेष गणितीय "मिक्सिंग बाउल" (मिश्रण पात्र) का उपयोग करते हैं। लेकिन वे उन्हें केवल बेतरतीब ढंग से नहीं मिलाते। वे एक्सपेंशन एंड रिडक्शन (विस्तार और न्यूनीकरण - EAR) नामक एक प्रक्रिया का उपयोग करते हैं। कल्पना कीजिए कि पाँचों रोबोट पहले अपने उत्तरों को "मोरल यूनिट्स" (नैतिक इकाइयों) नामक छोटे निर्माण खंडों में तोड़ देते हैं—जैसे कि व्यक्तिगत वाक्य या वाक्यांश। सिस्टम फिर इन ब्लॉकों को हर संभव तरीके से जोड़कर हजारों नए संयोजन बनाता है, और यह स्कोर करता है कि कौन से जोड़े एक साथ सबसे अच्छा काम करते हैं।
जादुई हिस्सा यह है: सिस्टम यहीं नहीं रुकता। यह सबसे अच्छे संयोजनों को लेता है, उन्हें फिर से मिलाता है, और इस प्रक्रिया को बार-बार, परत-दर-परत दोहराता है। प्रत्येक परत के साथ, "शोर" और विरोधाभासी विचारों को फ़िल्टर किया जाता है, जबकि सबसे विविध और सहायक अंतर्दृष्टि को बढ़ाया जाता है। यह दोस्तों के एक समूह द्वारा फिल्म तय करने जैसा है। पहले दौर में, हर कोई अपनी पसंदीदा फिल्म चिल्लाकर बताता है। दूसरे दौर में, वे अपने विचारों को जोड़ते हैं ("क्या होगा यदि हम एक कॉमेडी और एक एक्शन मूवी देखें?")। तीसरे दौर में, वे उन जोड़ों को और परिष्कृत करते हैं। अंत तक, उन्होंने केवल सबसे लोकप्रिय फिल्म नहीं चुनी है; बल्कि उन्होंने एक अनूठा संयोजन खोज लिया है जो अकेले किसी भी व्यक्ति की तुलना में अधिक बेहतर तरीके से सभी की विभिन्न पसंद को संतुष्ट करता है।
शोधकर्ताओं ने पाया कि यह बहु-स्तरीय दृष्टिकोण अविश्वसनीय रूप से अच्छा काम करता है। जब उन्होंने हजारों प्रश्नों पर अपने सिस्टम का परीक्षण किया, तो पाँच नैतिक रोबोटों की इस "टीम" ने, कई परतों के मिश्रण और शोधन के बाद, ऐसे उत्तर दिए जो किसी भी अकेले रोबोट द्वारा किए गए उत्तरों से काफी बेहतर थे। वास्तव में, परिणाम पिछले तरीकों से भी बेहतर था जिन्होंने एक ही चरण में कई रोबोटों को संयोजित करने का प्रयास किया था। यह अध्ययन सुझाव देता है कि विभिन्न नैतिक दृष्टिकोणों की विविधता को अपनाने और उन्हें फ्यूजन की इन परतों के माध्यम से परस्पर क्रिया करने देने से, हम ऐसा AI बना सकते हैं जो न केवल स्मार्ट है, बल्कि वास्तव में बुद्धिमान और अनुकूलन योग्य भी है। यह एक ऐसे AI की ओर एक कदम है जो केवल एक स्क्रिप्ट का पालन नहीं करता, बल्कि मानव होने की सूक्ष्मता को समझता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।