Implementing Computational Law in Wolfram Language for the Governance of Artificial Intelligence
यह शोध पत्र एआई गवर्नेंस (AI governance) के लिए वोल्फ्राम लैंग्वेज (Wolfram Language) में रीफाइड इनपुट/आउटपुट लॉजिक (Reified Input/Output Logic) का एक कार्यान्वयन प्रस्तुत करता है, जो ऑडिट योग्य एजेंट व्यवहार के लिए कानूनी मानदंडों को निष्पादन योग्य कोड में अनुवादित करने की इसकी क्षमता को प्रदर्शित करता है और इस औपचारिकीकरण प्रक्रिया को स्वचालित करने के लिए लार्ज लैंग्वेज मॉडल्स (LLMs) के उपयोग में वर्तमान सीमाओं को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान रोबोट को नियमों से भरी दुनिया में व्यवहार करना सिखाने की कोशिश कर रहे हैं। समस्या यह है कि रोबोट का मस्तिष्क एक "ब्लैक बॉक्स" है। आप इसके अंदर झाँककर यह नहीं देख सकते कि यह वास्तव में कैसे सोचता है या यह कोई निर्णय क्यों लेता है। यह एक जादूगर से उसके करतब के दौरान ही जादू समझाने के लिए कहने जैसा है। आमतौर पर, हम इसे इस उम्मीद में ठीक करने की कोशिश करते हैं कि रोबिम मानव की तरह सोचना सीख जाएगा, लेकिन यह जोखिम भरा है क्योंकि मानवीय भाषा अव्यवस्थित है, छिपे हुए अर्थों से भरी है और इसमें खामियों (loopholes) की भरमार है।
यहीं पर कंप्यूटेशनल लॉ (Computational Law) काम आता है। इसे एक अव्यवस्थित, हाथ से लिखे गए नियम पुस्तिका को एक सख्त कंप्यूटर प्रोग्राम में बदलने के रूप में समझें। "बुरा व्यवहार न करें" लिखने के बजाय, आप ऐसा कोड लिखते हैं जो कहता है: "यदि घटना X होती है, तो परिणाम Y होना चाहिए।" यह क्षेत्र कानूनी नियमों को इतना सटीक बनाने की कोशिश करता है कि एक कंप्यूटर उन्हें पढ़ सके, उनका पालन कर सके और यह सिद्ध कर सके कि उसने उनका पालन किया है। जिस शोध पत्र को हम देख रहे हैं, वह इस विचार का पता लगाने के लिए वुल्फ्राम लैंग्वेज (Wolfram Language) नामक एक विशेष प्रोग्रामिंग भाषा का उपयोग करता है। यह कानूनों को गणितीय समीकरणों की तरह मानता है जहाँ आप यह जाँच सकते हैं कि क्या एक रोबोट नियमों का पालन कर रहा है, भले ही आप रोबोट के दिमाग के काम करने के तरीके को न समझते हों। बड़ा सवाल यह है: क्या हम बस एक सुपर-स्मार्ट AI (जैसे कि यह टेक्स्ट लिख रहा है) से हमारी अव्यवस्थित अंग्रेजी कानूनों को सटीक कंप्यूटर कोड में अनुवाद करने के लिए कह सकते हैं?
शोध पत्र का बड़ा प्रयोग: क्या AI नियम लिख सकता है?
लेखक, जेम्स के. वाइल्स ने इस विचार का परीक्षण करने का निर्णय लिया। उन्होंने वुल्फ्रम लैंग्वेज में एक सिस्टम बनाया है जो एक "कानूनी अनुवादक" के रूप में कार्य करता है। यह सिस्टम रीफाइड इनपुट/आउटपुट लॉजिक (Reified Input/Output Logic) नामक एक विशेष तर्क का उपयोग करता है। इसे समझने के लिए, एक वेंडिंग मशीन की कल्पना करें। आप एक सिक्का डालते हैं (इनपुट), और मशीन आपको सोडा देती है (आउटपुट)। इस कानूनी प्रणाली में, "इनपुट" एक तथ्य है (जैसे "रात का समय है") और "आउटपुट" एक नियम है (जैसे "आपको रुकना चाहिए")। यह सिस्टम "रीफिकेशन" जैसे जटिल विचारों को भी संभालता है, जो केवल एक घटना (जैसे "एलिस द्वारा बॉब को किताब देना") को एक भौतिक वस्तु में बदलने का एक औपचारिक तरीका है जिसे कंप्यूटर पकड़ सकता है, माप सकता है और जिसके बारे में बात कर सकता है।
लेखक ने फिर एक शक्तिशाली AI (GPT-4) से अनुवादक के रूप में कार्य करने के लिए कहा। उन्होंने AI को चार सरल अंग्रेजी कानूनी वाक्य दिए और उसे वह कंप्यूटर कोड बनाने के लिए कहा जिसकी उसके सिस्टम को आवश्यकता थी।
परिणाम: जादू और गड़बड़ियों का मिश्रण
प्रयोग ने दिखाया कि हालांकि AI तेज़ है और ऐसा कोड लिख सकता है जो सही दिखता है, लेकिन अभी तक अकेले इस पर भरोसा करना सुरक्षित नहीं है। यहाँ चार परीक्षण वाक्यों के साथ क्या हुआ, इसका विवरण दिया गया है:
- "टाई और ब्लोंड" टेस्ट: AI से उन लोगों के बारे में नियम का अनुवाद करने के लिए कहा गया जो टाई नहीं पहने हुए हैं या सुनहरे बालों (blond) वाले हैं और उन्हें कमरे से बाहर जाना होगा। AI ने ऐसा कोड लिखा जो काम करता हुआ प्रतीत हुआ। हालाँकि, जब लेखक ने गणित की जाँच की, तो उन्हें एक 'साइलेंट बग' मिला: कोड इस तरह से टूटा हुआ था कि वह हर किसी के लिए "सत्य" (True) कह रहा था, यहाँ तक कि उन लोगों के लिए भी जिन्होंने टाई पहनी थी और जिनके बाल गहरे रंग के थे। AI ने एक ऐसा नियम बना दिया था जो वास्तव में कुछ भी जाँच नहीं कर रहा था।
- "प्रत्येक पुरुष" टेस्ट: AI से "प्रत्येक पुरुष को दौड़ने के लिए बाध्य किया जाता है" का अनुवाद करने के लिए कहा गया। AI ने कोड लिखा जो काम तो करता था, लेकिन इसने "पुरुष" को परिभाषित करने में गलती की। यह जाँचने के बजाय कि व्यक्ति वास्तव में एक पुरुष है या नहीं, कोड ने मान लिया कि व्यक्ति एक पुरुष है क्योंकि नियम में ऐसा कहा गया था। यह किसी क्लब के बाउंसर जैसा है जो सबको अंदर आने देता है क्योंकि उसने तय कर लिया है कि हर कोई वीआईपी है, बजाय इसके कि वह आईडी चेक करे।
- "मैनेजर और सेक्रेटरी" टेस्ट: AI ने एक नियम का अनुवाद करने की कोशिश की जहाँ एक सेक्रेटरी को मैनेजर के कार्यों को लिखना होता है। AI ने ऐसा कोड लिखा जो एकदम सही लग रहा था और उसने एक टिप्पणी (comment) भी जोड़ी कि "डेव एक मैनेजर नहीं है, इसलिए कोई बाध्यता नहीं है।" लेकिन जब कोड वास्तव में चला, तो इसने सेक्रेटरी को कार्य लिखने के लिए मजबूर कर दिया, अपनी ही टिप्पणी को अनदेखा करते हुए। AI का कोड और उसका अपना स्पष्टीकरण एक-दूसरे के विरोधाभासी थे।
- "सैटेलाइट" टेस्ट: AI से एक नियम लिखने के लिए कहा गया कि एक सैटेलाइट को इंटरनेशनल स्पेस स्टेशन से 200 किलोमीटर दूर रहना चाहिए। AI ने ऐसा कोड लिखा जिसमें वास्तविक सैटेलाइट डेटा का उपयोग किया गया था, जो प्रभावशाली था। लेकिन गणित गलत था: इसने पृथ्वी की सतह के साथ दूरी मापी (जैसे सड़क पर गाड़ी चलाना), न कि अंतरिक्ष के माध्यम से सीधी रेखा की दूरी। दो सैटेलाइट वर्टिकल (ऊर्ध्वाधर) रूप से 400 किलोमीटर दूर हो सकते हैं, लेकिन कोड कहेगा कि वे आपस में छू रहे हैं।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि AI एक बेहतरीन सहायक (assistant) है, लेकिन एक बुरा बॉस (boss) है। यह नियमों का मसौदा तेज़ी से तैयार कर सकता है, लेकिन यह "साइलेंट एरर" (मौन त्रुटियाँ) करता है—ऐसी गलतियाँ जो प्रोग्राम को क्रैश नहीं करतीं लेकिन रोबोट को गलत काम करने पर मजबूर कर देती हैं। लेखक का तर्क है कि हम केवल AI को अन्य AI के लिए कानून लिखने की अनुमति नहीं दे सकते। इसके बजाय, हमें एक टीम दृष्टिकोण की आवश्यकता है: AI कोड का मसौदा तैयार करता है, लेकिन मनुष्यों को यह सुनिश्चित करने के लिए हर एक लाइन की सख्त परीक्षणों के साथ जाँच करनी चाहिए कि तर्क सही है या नहीं।
"फ्लफी" केस स्टडी: एक रोबोट गार्ड डॉग
यह दिखाने के लिए कि वास्तविक दुनिया में यह कैसा दिखता है, लेखक ने फ्लफी (Fluffy) नामक एक रोबोट गार्ड डॉग का केस स्टडी बनाया। फ्लफी एक AI कंपनी के स्वामित्व में है और एक "कंप्यूटेशनल कॉन्ट्रैक्ट" के तहत काम करता है। यह कोई कागजी अनुबंध नहीं है; नियम सीधे फ्लफी के मस्तिष्क में लिखे गए हैं।
अनुबंध में तीन सरल नियम थे:
- घुसपैठियों को रोकना: यदि कोई व्यक्ति रात में घर के 100 मीटर के भीतर आता है, तो फ्लफी को उसे रोकना होगा।
- करीब रहना: फ्लफी को घर के 200 मीटर के भीतर रहना चाहिए।
- बल प्रयोग की अनुमति: फ्लफी को अपने टेज़र (taser) का उपयोग करने की अनुमति है, लेकिन वह इसके लिए बाध्य नहीं है।
खास बात यह है कि फ्लफी के कार्य ऑडिट योग्य (auditable) हैं। यदि फ्लफी अपने टेज़र का उपयोग करता है, तो सिस्टम केवल यह नहीं कहता कि "मैंने ऐसा किया।" यह एक प्रतीकात्मक रसीद (symbolic receipt) उत्पन्न करता है जो कहता है: "मैंने टेज़र का उपयोग किया क्योंकि: तथ्य A (व्यक्ति 80 मीटर पर है) + तथ्य B (यह रात का समय है) + नियम 1 = रोकने की बाध्यता।" यह एक स्पष्ट, अपरिवर्तनीय दस्तावेजी प्रमाण (paper trail) बनाता है जो साबित करता है कि रोबोट ने कानून का पालन किया।
यह क्यों महत्वपूर्ण है
शोध पत्र का तर्क है कि हमें रोबोट के हमारे कानूनों को "समझने" की उम्मीद करने के बजाय, उन्हें ऐसे कानून देने चाहिए जिन्हें वे निष्पादित (execute) कर सकें। हम तब तक प्रतीक्षा नहीं कर सकते जब तक कि हम AI के दिमाग के ब्लैक बॉक्स के अंदर देख सकें। इसके बजाय, हमें ब्लैक बॉक्स को निष्पादित नियमों के पिंजरे में लपेटने की आवश्यकता है।
लेखक का सुझाव है कि हालांकि हम हर कानून को कोड में नहीं बदल सकते (कुछ चीजें बहुत अस्पष्ट हैं, जैसे "उचित व्यवहार करना"), हम निश्चित रूप से सुरक्षा-महत्वपूर्ण मशीनों के नियमों को कोड में बदल सकते हैं और बदलना चाहिए। लक्ष्य मानव न्यायाधीशों को बदलना नहीं है, बल्कि हमें ऐसे उपकरण देना है जो यह जाँच सकें कि क्या एक रोबोट अभी, वास्तविक समय में नियमों का पालन कर रहा है।
शोध पत्र एक चेतावनी के साथ समाप्त होता है: हम शक्तिशाली मशीनें बना रहे हैं, और यदि हम उन्हें स्पष्ट, निष्पादनीय नियम नहीं देते हैं, तो हम एक ऐसे भविष्य में फंस सकते हैं जहाँ एक रोबोट एक भयानक निर्णय लेता है, और हमें पता भी नहीं चलता कि क्यों। कंप्यूटेशनल लॉ का उपयोग करके, हम यह सुनिश्चित कर सकते हैं कि भले ही रोबोट एक ब्लैक बॉक्स हो, उसके नियम स्पष्ट हों, और हम हमेशा यह जाँच सकें कि क्या उसने वह किया जो उसे करना चाहिए था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।