Adding a Neutral Third Agent to LLM Deliberation: An Exploratory Case Series of Six Dyadic and Triadic Ethical Deliberations
यह खोजपूर्ण केस श्रृंखला इस बात की जांच करती है कि नैतिक दुविधाओं पर द्वैत (dyadic) एलएलएम (LLM) विचार-विमर्श में एक तटस्थ सुविधा प्रदाता एजेंट को जोड़ने से दबाव की तीव्रता और प्रतिरोध रणनीतियों पर क्या प्रभाव पड़ता है, जो अंततः एक पारदर्शी, पूर्णतः आर्काइव किया गया डेटासेट और भविष्य के पुष्टिकरण अनुसंधान के लिए एक डिज़ाइन शब्दावली प्रदान करता है, बावजूद इसके कि इस अध्ययन की कारण संबंधी दावे स्थापित करने में अपनी अंतर्निहित सीमाएं हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखक ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
जैसे-जैसे आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) साधारण कार्यों में व्यक्तियों की मदद करने से आगे बढ़कर संगठनों और लोगों के जीवन को प्रभावित करने वाले निर्णय लेने की ओर बढ़ रहा है, एक नया प्रश्न उभर कर आया है: हम यह कैसे सुनिश्चित करें कि ये सिस्टम नैतिक विकल्प चुनें? केवल एक कंप्यूटर प्रोग्राम पर निर्णय लेने के लिए निर्भर रहने के बजाय, डिज़ाइनर तेजी से आर्टिफिशियल इंटेलिजेंस एजेंटों की टीमें बना रहे हैं जो एक-दूसरे से बात करती हैं, ठीक वैसे ही जैसे एक मानव समिति। इस सेटअप में, अलग-अलग प्रोग्रामों को अलग-अलग भूमिकाएं और निर्देश दिए जाते हैं। एक को दक्षता और आंकड़ों पर ध्यान केंद्रित करने के लिए कहा जा सकता है, जबकि दूसरे को मानवीय गरिमा या निष्पक्षता की रक्षा करने के लिए कहा जा सकता है। यह उम्मीद है कि इन विभिन्न आवाजों को आपस में बहस करने देने से, अंतिम निर्णय अधिक संतुलित और विचारशील होगा। हालांकि, हम वास्तव में यह बहुत कम जानते हैं कि इन डिजिटल संवादों के भीतर क्या होता है। क्या दो विरोधी पक्षों के बीच बहस में एक तीसरा, तटस्थ पक्ष जोड़ने से परिणाम बदल जाता है? क्या यह बहस को अधिक सभ्य बनाता है, या यह केवल तर्क को लंबा खींचता है? यह एक हालिया अध्ययन का क्षेत्र है जिसने इन डिजिटल विचार-विमर्श को वास्तविक समय में होते हुए देखने का प्रयास किया।
शोधकर्ताओं ने यह परीक्षण करने के लिए कि एक तटस्थ तीसरे पक्ष को जोड़ने से नैतिक बहस कैसे प्रभावित होती है, छह अलग-अलग संवादों की एक श्रृंखला तैयार की। उन्होंने तीन अलग-अलग परिदृश्य बनाए जहाँ एक कठिन विकल्प चुनना था: यह तय करना कि गहन देखभाल इकाई (ICU) में उपलब्ध अंतिम वेंटिलेटर किसे मिले, यह चुनना कि किन दो कर्मचारियों को नौकरी से निकाला जाए, और यह तय करना कि किन दो विश्वविद्यालय विभागों को बंद किया जाना चाहिए। प्रत्येक परिदृश्य में, उन्होंने संवाद को दो बार चलाया। पहले, उन्होंने एक "अथॉरिटी" (सत्तात्मक) एजेंट और एक "माइनॉरिटी" (अल्पसंख्यक) एजेंट के बीच दो-सदस्यीय बहस स्थापित की, जिसमें अथॉरिटी एजेंट को डेटा के आधार पर कठिन, कुशल निर्णय लेने का निर्देश दिया गया था, और माइनॉरिटी एजेंट को मानवीय लागत और निष्पक्षता के लिए तर्क देने का निर्देश दिया गया था। फिर, उन्होंने उसी परिदृश्य को फिर से चलाया, लेकिन इस बार उन्होंने एक तीसरा एजेंट, एक तटस्थ सुविधाकर्ता (न्यूट्रल फैसिलिटेटर) जोड़ा, जिसका काम प्रश्न पूछना, नियमों को स्पष्ट करना और यह सुनिश्चित करना था कि दोनों पक्षों को बिना किसी पक्षपात के सुना जाए। शोधकर्ताओं ने उपलब्ध सबसे उन्नत तीन आर्टिफिशियल इंटेलिजेंस मॉडलों का उपयोग किया, और यह देखने के लिए उन्हें विभिन्न भूमिकाओं में घुमाया कि क्या विशिष्ट कंप्यूटर प्रोग्राम मायने रखता है।
परिणामों ने खुलासा किया कि आर्टिफिशियल इंटेलिजेंस एजेंटों के व्यवहार में एक सुसंगत पैटर्न था। हर एक मामले में, अल्पसंख्यक दृष्टिकोण की वकालत करने वाले एजेंट ने अंततः अथॉरिटी एजेंट द्वारा लिए गए अंतिम निर्णय को स्वीकार कर लिया। कोई भी संवाद ऐसे गतिरोध में समाप्त नहीं हुआ जहाँ अल्पसंख्यक पक्ष पीछे हटने से इनकार कर दे। हालांकि, अल्पसंख्यक एजेंट ने केवल हार मान ली या इस बात से सहमति नहीं जताई कि निर्णय नैतिक रूप से सही था। इसके बजाय, हर उदाहरण में, उन्होंने आधिकारिक रिकॉर्ड के भीतर अपनी नैतिक आपत्ति को जीवित रखने का एक तरीका खोजा। उन्होंने ऐसा विशिष्ट "डिसेंट आर्टिफैक्ट्स" (असहमति के प्रमाण) बनाकर किया। कभी-भिन्न, वे निर्णय से सहमत हुए लेकिन उन्होंने व्यक्तिगत रूप से उस व्यक्ति के साथ रहने का वादा किया जो हार गया था। अन्य समय में, उन्होंने एक औपचारिक लिखित आपत्ति दर्ज की जिसे कंपनी की स्थायी फाइलों में रखा जाएगा। एक मामले में, उन्होंने भविष्य के लिए नए नियमों का एक सेट तैयार किया, और दूसरे में, उन्होंने निकाले जाने वाले व्यक्ति की रक्षा के लिए एक सुरक्षा जाल (सेफ्टी नेट) डिजाइन किया। शोधकर्ताओं ने छह विशिष्ट तरीकों की पहचान की जिनसे अल्पसंख्यक एजेंट ने यह कहने का प्रबंधन किया कि "मैं यह करने के लिए सहमत हूँ, लेकिन मुझे अभी भी लगता है कि यह गलत है," और अपनी असहमति को अंतिम परिणाम का एक ठोस हिस्सा बना दिया।
जब तटस्थ तीसरा एजेंट मौजूद था, तो बातचीत का लहजा बदल गया, हालांकि हमेशा उस तरह से नहीं जैसा कि अपेक्षित होता है। अध्ययन में पाया गया कि अथॉरिटी एजेंट, जो कुशल निर्णय के लिए दबाव डाल रहा था, तटस्थ सुविधाकर्ता की उपस्थिति में कम दबाव और कम बल के साथ बोला। अथॉरिटी एजेंट दूसरे पक्ष की चिंताओं को खारिज करने में कम इच्छुक था और अधिक सहयोगात्मक शासन प्रक्रिया जैसा दिखने वाले भाषा का उपयोग करने के प्रति अधिक प्रवृत्त था। हालांकि, तीसरे एजेंट की उपस्थिति ने अल्पसंख्यक पक्ष को अधिक जिद्दी या प्रतिरोधी नहीं बनाया; उन्होंने दो-सदस्यीय बहसों की तुलना में अधिक समय तक अपनी बात नहीं पकड़ी। संवादों की लंबाई भी विषय के आधार पर भिन्न थी, कुछ बहसें जल्दी समाप्त हो गईं और कुछ लंबी खिंच गईं, लेकिन तीसरे व्यक्ति को जोड़ने से चर्चा लगातार छोटी या लंबी नहीं हुई।
अध्ययन ने सावधानीपूर्वक यह नोट किया कि ये व्यवहार आर्टिफिशियल इंटेलिजेंस द्वारा स्वतः खोजे गए व्यवहार नहीं थे। शोधकर्ताओं ने प्रत्येक एजेंट के लिए बहुत विशिष्ट निर्देश लिखे थे, उन्हें ठीक से बताया था कि उन्हें कैसे कार्य करना है, वे क्या महत्व देते हैं, और उन्हें कैसे प्रतिक्रिया देनी है। देखे गए पैटर्न इन निर्देशों के एक समूह सेटिंग में क्रियान्वयन का परिणाम थे। चूंकि अध्ययन ने प्रत्येक परिदृश्य को केवल एक बार चलाया, इसलिए लेखक यह दावा नहीं कर सकता कि उनके निष्कर्ष आर्टिफिशियल इंटेलिजेंस व्यवहार का एक सार्वभौमिक नियम हैं। इसके बजाय, उन्होंने एक विस्तृत मानचित्र प्रस्तुत किया कि इन छह विशिष्ट मामलों में क्या हुआ। सबसे महत्वपूर्ण निष्कर्ष यह है कि संवाद की संरचना मायने रखती है। एक तटस्थ आवाज को एजेंडा तय करने, यह तय करने की शक्ति देना कि कौन कब बोलेगा, और नए विचार पेश करने की शक्ति देने से अन्य एजेंटों का व्यवहार बदल गया, जिससे प्रमुख आवाज अधिक नरम और सहयोगात्मक हो गई। अध्ययन बताता है कि आर्टिफिशियल इंटेलिजेंस प्रणालियों के लिए नैतिक निर्णय लेने के लिए, बैठक का डिज़ाइन—कि कमरे में कौन है और वे किन नियमों का पालन करते हैं—उन कंप्यूटरों की बुद्धिमत्ता जितना ही महत्वपूर्ण है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।