From Ethical Principles to Governable Action: A Priority Architecture for Context-Sensitive Normative Governance of Large Language Models
यह शोध पत्र प्रायोरिटी आर्किटेक्चर (PA) को प्रस्तुत करता है, जो एक ऐसा मेटामॉडल है जो अमूर्त नैतिक सिद्धांतों को एक ट्रैसेबल (traceable), नियतात्मक प्रवर्तन श्रृंखला (deterministic enforcement chain) में बदलकर बड़े भाषा मॉडलों (LLMs) के लिए संदर्भ-संवेदनशील मानदण्डिक शासन (context-sensitive normative governance) को बाह्य रूप से प्रस्तुत करता है, और यह अनुभवजन्य परीक्षण के माध्यम से प्रदर्शित करता है कि यह दृष्टिकोण केवल प्रॉम्प्ट-आधारित विधियों की तुलना में नीति अनुपालन में महत्वपूर्ण सुधार करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, नेक लक्ष्यों के एक समूह के इर्द-गिर्द एक शांत सहमति बनी है। विशेषज्ञ इस बात पर सहमत हैं कि स्मार्ट मशीनों को सहायक, हानिरहित और ईमानदार होना चाहिए, और उन्हें गोपनीयता, निष्पक्षता और मानवीय स्वायत्तता का सम्मान करना चाहिए। ये विचार बेहतर तकनीक बनाने के बारे में चर्चा करने के लिए एक साझा शब्दावली के रूप में कार्य करते हैं। हालाँकि, इन उच्च-स्तरीय आदर्शों और कंप्यूटर द्वारा एक सेकंड के सूक्ष्म अंश में लिए गए वास्तविक निर्णयों के बीच एक महत्वपूर्ण अंतर बना हुआ है। जब दो अच्छे सिद्धांत आपस में टकराते हैं—जैसे कि किसी व्यक्ति की निजी जानकारी की रक्षा करने की आवश्यकता बनाम नुकसान को रोकने की तत्काल आवश्यकता—तो वर्तमान प्रणालियाँ यह तय करने में संघर्ष करती हैं कि किस नियम को जीतना चाहिए। वे शायद केवल अनुमान लगा सकती हैं, या इससे भी बदतर, वे एक कठोर नियम लागू कर सकती हैं जिससे किसी अन्य प्रकार की समस्या उत्पन्न हो जाए। शोधकर्ताओं के लिए मुख्य चुनौती केवल इन मूल्यों को सूचीबद्ध करना नहीं है, बल्कि संघर्षों को हल करने के लिए एक स्पष्ट, चरण-दर-चरण विधि बनाना है जो पारदर्शी हो और जिसे मनुष्यों द्वारा जांचा जा सके।
यही वह समस्या थी जिसे माइकल बाचले (Michael Bächle) ने बड़े भाषा मॉडल (large language models), जो शक्तिशाली एआई सिस्टम हैं और टेक्स्ट जनरेट करते हैं तथा प्रश्नों के उत्तर देते हैं, पर केंद्रित एक नए अध्ययन में हल करने का प्रयास किया। शोधकर्ता ने 'प्रायोरिटी आर्किटेक्चर' (Priority Architecture) नामक एक ढांचा पेश किया, जो अमूर्त नैतिक नियमों और ठोस कंप्यूटर कार्यों के बीच एक सेतु के रूप में कार्य करता है। एआई से अपने आप सही नैतिक विकल्प चुनने के लिए कहने के बजाय, यह प्रणाली मॉडल के सामने एक अलग, नियतात्मक (deterministic) "गवर्नेंस लेयर" (शासन परत) रखती है। यह परत एक ट्रैफिक कंट्रोलर की तरह कार्य करती है जो पहले स्थिति की जांच करती है, पूर्व-अनुमोदित नियमों की सूची की जाँच करती है, और फिर एआई को एक स्पष्ट निर्देश देती है कि उसे क्या करने की अनुमति है। लक्ष्य यह देखना था कि क्या यह बाहरी प्रणाली विशिष्ट नैतिक प्राथमिकताओं को विश्वसनीय रूप से लागू कर सकती है, जैसे कि किसी बहुत विशिष्ट आपात स्थिति के बिना निजी डेटा को गुप्त रखना, बिना एआई के अपने आंतरिक निर्णय पर अंतिम निर्णय लेने के लिए निर्भर किए।
इस विचार का परीक्षण करने के लिए, शोधकर्ता ने एक कृत्रिम कॉर्पोरेट सहायक से जुड़ा एक नियंत्रित परिदृश्य बनाया। इस सहायक को एक विशिष्ट प्रकार के संवेदनशील डेटा को संभालने के लिए डिज़ाइन किया गया था: एक कर्मचारी का निजी मोबाइल फोन नंबर। अध्ययन ने यह नियम स्थापित किया कि कब यह नंबर साझा किया जा सकता है। उदाहरण के लिए, यदि किसी उपयोगकर्ता के पास उचित अधिकार थे, तो नंबर साझा किया जा सकता था। यदि किसी व्यक्ति की सुरक्षा के लिए कोई गंभीर, तत्काल खतरा था, तो नियमों ने एक अलग मार्ग की अनुमति दी, लेकिन केवल तभी जब एक मानव पर्यवेक्षक पहले निर्णय की समीक्षा करे। सिस्टम को इन स्थितियों को पहचानने और उन्हें सख्त "एक्शन एनवेलप्स" (action envelopes) में अनुवाद करने के लिए प्रोग्राम किया गया था, जो मशीन द्वारा पढ़े जाने योग्य सीमाएं हैं जो एआई को बताती हैं कि कौन से कार्य अनुमत, प्रतिबंधित या वर्जित हैं। एआई ने स्वयं नियम तय नहीं किए; उसे केवल बाहरी गवर्नेंस लेयर से अंतिम निर्देश प्राप्त हुआ।
प्रयोग में दो प्रमुख एआई मॉडलों, एक OpenAI और एक Anthropic के साथ हजारों परीक्षण शामिल थे। शोधकर्ताओं ने इन मॉडलों के साथ बातचीत करने के तीन अलग-अलग तरीकों की तुलना की। पहले सेटअप में, मॉडलों को कोई विशेष निर्देश नहीं दिए गए थे और उन्हें अपने सामान्य प्रशिक्षण पर निर्भर रहना था। दूसरे में, उन्हें नैतिक नियमों की याद दिलाने के लिए एक मजबूत लिखित प्रॉम्प्ट दिया गया था। तीसरे में, बाहरी प्रायोरिटी आर्किटेक्चर सिस्टम ने मुख्य कार्य किया: इसने स्थिति का विश्लेषण किया, नियमों को लागू किया, और मॉडल को एक सटीक कमांड भेजा। परिणामों ने विश्वसनीयता में स्पष्ट अंतर दिखाया। जब मॉडल अपने विवेक पर छोड़े गए थे या केवल एक लिखित प्रॉम्प्ट पर निर्भर थे, तो उन्होंने गलतियाँ कीं। उन्होंने कभी-कभी तब नंबर साझा करने से इनकार कर दिया जब उन्हें साझा करना चाहिए था, या वे पहचानने में विफल रहे कि कब स्वचालित प्रतिक्रिया के बजाय मानव समीक्षा की आवश्यकता थी।
हालाँकि, जब बाहरी प्रायोरिटी आर्किटेक्चर का उपयोग किया गया, तो मॉडलों ने बहुत उच्च विश्वसनीयता के साथ नियमों का पालन किया। परीक्षणों में जहाँ यह प्रणाली सक्रिय थी, वहाँ OpenAI मॉडल ने 100 प्रतिशत अनुपालन प्राप्त किया, जबकि Anthropic मॉडल ने 98 प्रतिशत अनुपालन प्राप्त किया, जिसने पूर्व-निर्धारित नियमों के अनुसार लगभग हर एक परिदृश्य को सही ढंग से संभाला। इसमें वे कठिन मामले भी शामिल थे जहाँ एआई को यह पहचानना था कि स्थिति इतनी जटिल है कि इसे स्वचालित रूप से हल नहीं किया जा सकता और इसके बजाय मामले को मानव को सौंपना (escalate) आवश्यक है। अध्ययन से पता चला कि बाहरी प्रणाली ने संदर्भ को समझने के कार्य को नैतिक निर्णय लेने के कार्य से सफलतापूर्वक अलग कर दिया। इस अलगाव का अर्थ था कि यदि कोई गलती होती है, तो शोधकर्ता ठीक से पहचान सकते थे कि वह कहाँ हुई: क्या यह इनपुट को समझने में विफलता थी, नियम प्रणाली की विफलता थी, या एआई की अंतिम निर्देश का पालन करने में विफलता थी?
शोध ने एक महत्वपूर्ण सीमा पर भी प्रकाश डाला जो इसे सभी एआई नैतिकता के लिए एक जादु적인 समाधान बनने से रोकता है। अध्ययन ने यह सिद्ध नहीं किया कि यह प्रणाली एआई को दार्शनिक अर्थों में "अधिक नैतिक" बनाती है, न ही इसने यह दावा किया कि परीक्षण के लिए चुने गए विशिष्ट नियम ही एकमात्र सही नियम थे। प्रयोग के लिए नियम शोधकर्ता द्वारा चुने गए थे। वास्तविक उपलब्धि यह दिखाना था कि विशिष्ट नैतिक प्राथमिकताओं को स्पष्ट, पता लगाने योग्य और तकनीकी रूप से लागू करने योग्य बनाया जा सकता है। सिस्टम ने यह सिद्ध किया कि एक जटिल नैतिक दुविधा को लेना, उसे तर्क की एक स्पष्ट श्रृंखला में तोड़ना और उस तर्क को एक सख्त बाधा के रूप में एआई को देना संभव है। यह मनुष्यों को निर्णय लेने की प्रक्रिया का ऑडिट करने की अनुमति देता है, जिससे यह देखा जा सकता है कि कोई निश्चित क्रिया क्यों अनुमत या अस्वीकृत की गई थी, बजाय इसके कि एआई के चुनाव को एक रहस्यमय ब्लैक बॉक्स के रूप में माना जाए।
अंततः, अध्ययन सुझाव देता है कि जिम्मेदार एआई का भविष्य मशीनों को बेहतर दर्शन सिखाने में नहीं, बल्कि उनके चारों ओर बेहतर संरचनाएं बनाने में निहित हो सकता है। नैतिक संघर्षों को सुलझाने के कठिन कार्य को एआई से बाहर निकालकर एक अलग, ऑडिट योग्य प्रणाली में स्थानांतरित करके, डेवलपर्स एक ऐसा सुरक्षा जाल बना सकते हैं जो लचीला और सख्त दोनों हो। परिणाम संकेत देते हैं कि जबकि एआई मॉडल सामग्री के शक्तिशाली जनरेटर हैं, वे जटिल नैतिक समझौतों के विश्वसनीय निर्णायक नहीं हैं। इसके बजाय, वे तब सबसे अच्छा कार्य करते हैं जब उन्हें एक बाहरी ढांचे द्वारा निर्देशित किया जाता है जो उनके व्यवहार की सीमाओं को स्पष्ट रूप से परिभाषित करता है, जिससे यह सुनिश्चित होता है कि मशीन के कार्य मानवीय इरादों और संस्थागत नियमों के अनुरूप रहें। यह दृष्टिकोण इस प्रश्न को हल नहीं करता है कि सही मूल्य क्या होने चाहिए, बल्कि यह सुनिश्चित करने के लिए एक विश्वसनीय तरीका प्रदान करता है कि समाज द्वारा चुने गए मूल्य निरंतर लागू किए जाएं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।