Multi-Agent LLMs as Ethics Advocates for AI-Based Systems
यह शोध पत्र एक मल्टी-एजेंट एलएलएम (LLM) फ्रेमवर्क का प्रस्ताव और मूल्यांकन करता है जिसमें एक एथिक्स एडवोकेट एजेंट शामिल है जो एआई प्रणालियों के लिए नैतिक आवश्यकताओं का प्रभावी ढंग से मसौदा तैयार करता है, हालांकि यह विश्वसनीयता सुनिश्चित करने के लिए मानवीय निरीक्षण की निरंतर आवश्यकता पर बल देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट बना रहे हैं, लेकिन यह कोई साधारण रोबोट नहीं है—यह एक ऐसा रोबोट है जो डॉक्टरों को बीमारियों का निदान करने में मदद करता है, यह तय करता है कि किसे ऋण (लोन) मिलना चाहिए, या बधिरों के लिए सांकेतिक भाषा का अनुवाद करता है। इससे पहले कि आप "स्टार्ट" बटन दबाएं, आपको इसके लिए एक नियम पुस्तिका लिखनी होगी। इस नियम पुस्तिका को "रिक्वायरमेंट्स इंजीनियरिंग" (आवश्यकता इंजीनियरिंग) कहा जाता है। यह एक घर के ब्लूप्रिंट की तरह है; यदि ब्लूप्रिंट कहता है "यहाँ एक खिड़की लगाओ," तो निर्माता वहाँ खिड़की लगा देता है। लेकिन क्या होगा अगर ब्लूप्रिंट यह लिखना भूल जाए कि, "सुनिश्चित करें कि खिड़की इतनी बड़ी न हो कि उसमें से तूफान अंदर आ जाए"? आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, उन छूटे हुए नियमों को "एथिक्स रिक्वायरमेंट्स" (नैतिकता संबंधी आवश्यकताएं) कहा जाता है। ये वे निर्देश हैं जो AI को पक्षपाती या गुप्त होने के बजाय निष्पक्ष, पारदर्शी और दयालु होने के लिए बताते हैं।
समस्या यह है कि इन नैतिक नियमों को लिखना कठिन है। इसके लिए आमतौर पर बहुत सारे अलग-अलग लोगों—इंजीनियरों, वकीलों, समुदाय के सदस्यों—के साथ एक बड़ी बैठक की आवश्यकता होती है ताकि वे घंटों तक बहस और मंथन कर सकें। यह धीमा है, महंगा है, और कभी-कभी, क्योंकि हर कोई थक जाता है, सबसे महत्वपूर्ण नैतिक नियम भुला दिए जाते हैं। यह शोध पत्र एक बड़ा सवाल पूछता है: क्या हम बड़े भाषा मॉडल (LLMs) नामक 'सुपर-स्मार्ट कंप्यूटर दिमागों' की एक टीम का उपयोग कर सकते हैं, जो एक "नैतिक वॉचडॉग" (नैतिक प्रहरी) के रूप में कार्य करे और इन नियमों को तेज़ी से लिखने में मदद करे? इसे अपने रोबोट के ब्लूप्रिंट की जांच करने के लिए AI जासूसों की एक टीम को काम पर रखने जैसा समझें, जो निर्माण शुरू करने से पहले चिल्लाकर कहे, "हे, आपने यह जांचना भूल गए कि क्या यह निष्पक्ष है!"
AI जासूसों की टीम
शोधकर्ताओं, अस्मा यामानी, मलाक बास्लीमन और मुताज़ अहमद ने एक प्रणाली बनाई है जिसे वे MALEA (मल्टी-एजेंट एलएलएम एथिक्स-एडवोकेट) कहते हैं। एक अकेले कंप्यूटर को सारा सोचने के लिए कहने के बजाय, उन्होंने चार AI एजेंटों की एक आभासी टीम बनाई, जिनमें से प्रत्येक के पास एक विशिष्ट कार्य है, जो एक कहानी संपादित करने वाले दोस्तों के समूह की तरह मिलकर काम करते हैं।
सबसे पहले, रिक्वायरमेंट्स इंजीनियर है, जो एक सिस्टम के सरल विवरण (जैसे, "एक ऐप जो नकली समीक्षाओं को ढूंढता है") को लेता है और शुरुआती नियम लिखने का प्रयास करता है। इसके बाद, एक क्वालिटी एश्योरेंस एजेंट एक सख्त संपादक की तरह कार्य करता है, यह जांचने के लिए कि क्या नियम स्पष्ट हैं और समझ में आते हैं। फिर मुख्य आकर्षण आता है: एथिक्स एडवोकेट (नैतिकता समर्थक)। इस एजेंट का एकमात्र काम नियमों को देखना और यह कहना है, "रुको, क्या यह निष्पक्ष है? गोपनीयता का क्या होगा? क्या होगा अगर किसी को चोट पहुँचती है?" अंत में, एक डॉक्यूमेंटेशन असिस्टेंट सब कुछ करीने से लिख देता है।
ये एजेंट केवल एक कतार में काम नहीं करते; वे एक लूप में एक-दूसरे से बात करते हैं। इंजीनियर एक नियम लिखता है, क्वालिटी एजेंट व्याकरण ठीक करता है, एथिक्स एजेंट नैतिकता की आलोचना करता है, और इंजीनियर इसे ठीक करने के लिए वापस जाता है। वे तब तक गेंद को एक-दूसरे की ओर पास करते रहते हैं जब तक कि सभी इस बात पर सहमत नहीं हो जाते कि नियम अच्छे हैं। शोधकर्ताओं ने इस टीम का परीक्षण दो वास्तविक दुनिया के परिदृश्यों पर किया: अरबी में लिखी गई नकली ऑनलाइन समीक्षाओं को पकड़ने के लिए डिज़ाइन किया गया एक सिस्टम, और सऊदी सांकेतिक भाषा को टेक्स्ट में अनुवाद करने वाला एक ऐप।
टीम को क्या पता चला
जब शोधकर्ताओं ने अपने AI टीम की तुलना एक मानव विशेषज्ञ और एक एकल AI कंप्यूटर से की, तो परिणाम "वाह!" और "ओह!" का मिश्रण थे।
फेक रिव्यू डिटेक्टर के मामले में, मानव विशेषज्ञ ने 30 मिनट की बैठक में 8 नैतिक नियम खोजे। एकल AI कंप्यूटर ने लगभग 6 नियम खोजे (75% रिकॉल), लेकिन MALEA टीम ने उनमें से 7 खोज निकाले (87.5% रिकॉल)। AI टीम मानव की गलतियों को पकड़ने में बेहतर थी। उदाहरण के लिए, मानव "फॉल्स पॉजिटिव्स" (जब एक वास्तविक समीक्षा को गलती से फर्जी के रूप में चिह्नित किया जाता है) को ट्रैक करने के बारे में एक नियम भूल गया था, लेकिन AI टीम ने इन त्रुटियों को ट्रैक करने के लिए त्रैमासिक रिपोर्टों की आवश्यकता का एक नियम जोड़ा।
सांकेतिक भाषा ऐप के परिदृश्य में, मानव विशेषज्ञ ने 13 नियम खोजे। एकल AI ने लगभग 8 (62%) खोजे, जबकि MALEA टीम ने लगभग 7 (54%) खोजे। यहाँ, मानव विशेषज्ञ ने तकनीकी विवरणों को पकड़ने में थोड़ा बेहतर काम किया, जैसे कि 5 सेकंड से कम का रिस्पॉन्स टाइम आवश्यक होना। हालाँकि, AI टीम उन नए विचारों को जोड़ने में माहिर थी जो मानव के दिमाग में नहीं आए थे। AI टीम ने "ऑडिटेड एनोनिमाइजेशन" (उपयोगकर्ता की पहचान छिपाने का एक तरीका जिसे जांचा जा सके) और विशिष्ट एन्क्रिप्शन मानकों (जैसे TLS 1.3) का सुझाव दिया जो मानव पूरी तरह से भूल गया था।
शोध पत्र सुझाव देता है कि AI टीम नैतिक विचारों का एक विस्तृत जाल बुनने और अस्पष्ट नियमों को बहुत विशिष्ट बनाने में उत्कृष्ट है। उदाहरण के लिए, केवल "डेटा सुरक्षित रखें" कहने के बजाय, AI टीम ने "AES-256 एन्क्रिप्शन का उपयोग करें" लिखा। लेकिन, पेपर चेतावनी भी देता है कि AI पूर्ण नहीं है। कभी-कभी यह विशिष्ट सांस्कृतिक बारीकियों को मिस कर देता है या संख्याओं को गलत कर देता है। एक रन में, AI ने ध्यान दिया कि सऊदी अरब में महिलाएं विभिन्न प्रकार के सिर ढकने वाले वस्त्र पहनती हैं और सुझाव दिया कि प्रशिक्षण डेटा में प्रत्येक प्रकार के वीडियो की विशिष्ट संख्या शामिल होनी चाहिए। लेकिन एक अलग रन में, यह इस विवरण को पूरी तरह से भूल गया। यह दर्शाता है कि AI एक रचनात्मक लेखक की तरह है जो कभी विवरण याद रखता है और कभी भूल जाता है।
निष्कर्ष: एक सहायक, प्रतिस्थापन नहीं
मुख्य निष्कर्ष यह है कि यह मल्टी-एजेंट सिस्टम नैतिक नियमों का एक "पहला ड्राफ्ट" जल्दी तैयार करने के लिए एक शक्तिशाली उपकरण है। यह एक एकल कंप्यूटर की तुलना में अधिक विचार उत्पन्न कर सकता है और अधिक विशिष्ट हो सकता है, और अक्सर उन चीजों को पकड़ लेता है जिन्हें मानव एक छोटी बैठक में अनदेखा कर सकते हैं। हालाँकि, शोधकर्ता बहुत स्पष्ट हैं: यह मनुष्यों का स्थान नहीं लेता है।
AI सुझाव देने में अच्छा है, लेकिन इसे एक इंसान की आवश्यकता होती है जो कह सके, "हाँ, यह एक अच्छा विचार है," या "नहीं, यह हमारी संस्कृति के अनुकूल नहीं है।" सिस्टम यहाँ तक कि छोटे "प्लेसहोल्डर्स" (जैसे [INSERT NUMBER HERE]) भी छोड़ देता है ताकि इंजीनियरों को याद दिला सके कि उन्हें विशिष्ट विवरण भरने की आवश्यकता है। शोध पत्र का तर्क है कि हमें नैतिकता को पूरी तरह से स्वचालित करने की कोशिश नहीं करनी चाहिए; इसके बजाय, हमें इन AI टीमों का उपयोग प्रक्रिया को तेज करने के लिए करना चाहिए, ताकि मनुष्य बुनियादी नियम लिखने के बजाय कठिन, महत्वपूर्ण सवालों पर चर्चा करने के लिए अधिक समय बिता सकें।
संक्षेप में, शोध पत्र सुझाव देता है कि AI एजेंटों की एक टीम एक शानदार "नैतिक मंथन साथी" के रूप में कार्य कर सकती है, जिससे हमें सुरक्षित और निष्पक्ष AI सिस्टम बनाने में मदद मिल सकती है, लेकिन केवल तभी जब हम अंतिम निर्णय लेने के लिए एक मानव को इसमें शामिल रखें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।