Algebraic Semantics of Governed Execution: Monoidal Categories, Effect Algebras, and Coterminous Boundaries
यह शोध पत्र गवर्नड निष्पादन (governed execution) के लिए एक यांत्रिक बीजगणितीय अर्थविज्ञान (mechanized algebraic semantics) प्रस्तुत करता है, जिसे इंटरेक्शन ट्रीज़ (interaction trees) और को-इंडक्शन (coinduction) का उपयोग करते हुए 32 रॉक मॉड्यूल (Rocq modules) में औपचारिक रूप दिया गया है, जो एक सममित मोनॉइडल श्रेणी (symmetric monoidal category) स्थापित करता है जहाँ गवर्नेंस को स्वयंसिद्ध (axiomatized), कंपोजिशनल (compositional) और अभिव्योजकता (expressibility) के साथ सह-सीमांत (coterminous) बनाया गया है, जो यह सुनिश्चित करता है कि सभी निर्मित प्रोग्राम गवर्नड हैं जबकि ट्यूरिंग पूर्णता (Turing completeness) को संरक्षित किया गया है और अनमध्यस्थ I/O (unmediated I/O) को वर्जित किया गया है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जटिल रोबोट बना रहे हैं जो सोच सकता है, बात कर सकता है, चीजें याद रख सकता है, और यहाँ तक कि किराने का सामान खरीदने या किसी दोस्त को फोन करने के लिए बाहर भी जा सकता है। आप चाहते हैं कि यह रोबोट अविश्वसनीय रूप से स्मार्ट और सक्षम हो, लेकिन आपको यह भी सुनिश्चित करना होगा कि वह काम करते समय कभी भी कुछ खतरनाक, अवैध या नियमों के विरुद्ध न करे।
यह शोध पत्र ऐसे रोबोट के "मस्तिष्क" और "नियमों" को डिजाइन करने का एक नया तरीका प्रस्तुत करता है। केवल इस उम्मीद में कि रोबोट अच्छा व्यवहार करेगा, इसके बजाय लेखकों ने इसके कार्यों के चारों ओर एक गणितीय किला बनाया है। वे इसे "गवर्नड एक्जीक्यूशन" (Governed Execution) कहते हैं।
यहाँ उनके विचार का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. समस्या: AI का "वाइल्ड वेस्ट" (Wild West)
वर्तमान में, हम AI को दो तरीकों से नियंत्रित करने की कोशिश करते हैं:
- "फ़िल्टर" दृष्टिकोण (The Filter Approach): हम AI को विनम्र होने के लिए प्रशिक्षित करते हैं या उसके बोलने के बाद उसके उत्तरों को फ़िल्टर करते हैं। यह एक टपकते हुए नल को रोकने के लिए फर्श को पोंछने जैसा है। यह पानी को बाहर आने से नहीं रोकता; यह बस बाद में उसे साफ करने की कोशिश करता है।
- "गार्डरेल" दृष्टिकोण (The Guardrail Approach): हम रोबोट के चारों ओर बाड़ लगाते हैं। लेकिन अक्सर, ये बाड़ केवल सुझाव या नरम नियम होते हैं जिन्हें रोबोट गलती से (या जानबूझकर) कूदकर पार कर सकता है।
लेखक तर्क देते हैं कि हमें एक ऐसी प्रणाली की आवश्यकता है जहाँ नियम रोबोट की कार्य करने की क्षमता के मूल ताने-बाने में ही हार्ड-कोडेड हों। यदि रोबोट बिना अनुमति के कुछ करने की कोशिश करता है, तो वह वास्तव में उसे कर ही नहीं सकता।
2. समाधान: "तीन पैरों वाला स्टूल" (The Algebra)
लेखकों ने एक गणितीय ढांचा बनाया है जिसे "गवर्नेंस अलजेब्रा" (Governance Algebra) कहा जाता है। इसे एक तीन पैरों वाले स्टूल के रूप में सोचें जिसे काम करने के लिए पूरी तरह से संतुलित होना चाहिए। यदि इसका कोई भी पैर गायब होता है, तो पूरा सिस्टम गिर जाएगा। इसके तीन पैर हैं:
- सुरक्षा (Safety): रोबलेट को बिना "अनुमति पर्ची" (गवर्नेंस चेक) के कोई भी कार्य नहीं करना चाहिए।
- पारदर्शिता (Transparency): यदि रोबोट के पास अनुमति है, तो नियम यह नहीं बदलना चाहिए कि वह क्या करता है, बल्कि केवल यह कि उसने पहले चेक किया। (इसे रोबोट को धीमा नहीं करना चाहिए या उसका उत्तर नहीं बदलना चाहिए, बस यह सुनिश्चित करना चाहिए कि वह सुरक्षित है)।
- उचितता (Properness): नियम सुसंगत होने चाहिए। यदि दो रोबोट एक ही काम करते हैं, तो नियमों को उनके साथ बिल्कुल एक जैसा व्यवहार करना चाहिए।
3. "इंटरैक्शन ट्री": रोबोट की विचार प्रक्रिया
यह सिद्ध करने के लिए कि यह काम करता है, वे रोबोट की सोच को एक विशाल "पेड़" (Tree) के रूप में दर्शाते हैं।
- शाखाएं (The Branches): हर बार जब रोबोट सोचता है, तो वह शाखाओं में विभाजित हो जाता है।
- पत्तियां (The Leaves): अंतिम क्रियाएं (जैसे "दोस्त को कॉल करना" या "फाइल लिखना")।
- तना (The Trunk): वह रास्ता जो रोबोट वहां तक पहुँचने के लिए लेता है।
उनके सिस्टम में, पेड़ की हर एक शाखा को बढ़ने से पहले एक सुरक्षा द्वार (Security Gate) (गवर्नेंस ऑपरेटर) से गुजरना ही होगा। यदि कोई शाखा गेट से गुजरे बिना बढ़ने की कोशिश करती है, तो पेड़ अस्तित्व में आने से ही इनकार कर देता है।
4. "दोहरा आश्वासन": आईडी कार्ड और सुरक्षा गार्ड (The Dual Guarantee)
शोध पत्र एक चतुर दो-भाग वाली सुरक्षा प्रणाली पेश करता है:
- आईडी कार्ड (Capabilities): शुरू करने से पहले, रोबोट को एक आईडी कार्ड मिलता है जिसमें स्पष्ट रूप से लिखा होता है कि वह क्या करने की अनुमति रखता है (जैसे, "फाइल पढ़ सकता है," "फाइल डिलीट नहीं कर सकता")। यह एक स्थिर सूची है।
- सुरक्षा गार्ड (Governance): जैसे-जैसे रोबोट आगे बढ़ता है, एक सुरक्षा गार्ड हर कदम की जांच करता है। भले ही रोबोट के पास आईडी कार्ड हो, यदि विशिष्ट कार्य उस क्षण संदिग्ध दिखता है, तो गार्ड उसे रोक देता है।
शोध पत्र सिद्ध करता है कि दोनों को एक साथ होना ही होगा। आप केवल आईडी कार्ड के साथ नहीं रह सकते (क्योंकि रोबोट भ्रमित हो सकता है), और आप केवल गार्ड के साथ भी नहीं रह सकते (क्योंकि गार्ड कुछ चूक सकता है)। वे यह सुनिश्चित करने के लिए मिलकर काम करते हैं कि प्रत्येक क्रिया अधिकृत भी हो और जांची भी गई हो।
5. "कोटर्मिनस बाउंड्री": सटीक मिलान (The Coterminous Boundary)
यह इस शोध पत्र का सबसे रोमांचक हिस्सा है। लेखक एक "परफेक्ट मैच" प्रमेय सिद्ध करते हैं।
- दावा: उनके सिस्टम में, रोबोट जो कुछ भी बनाने में सक्षम है, वह स्वतः ही सुरक्षित है।
- उपमा: एक खिलौना फैक्ट्री की कल्पना करें जहाँ आप केवल वही खिलौने बना सकते हैं जो सुरक्षा प्रमाणपत्र के साथ आते हैं। आप गलती से भी असुरक्षित खिलना नहीं बना सकते। यदि वह सुरक्षित नहीं है, तो फैक्ट्री की मशीन आपको उसे बनाना शुरू करने तक नहीं देगी।
- परिणाम: "सुरक्षित" क्षेत्र और "संभव" क्षेत्र का आकार बिल्कुल एक समान है। ऐसा कोई "ग्रे एरिया" (धुंधला क्षेत्र) नहीं है जहाँ रोब सहित जोखिम भरा काम कर सके। यदि रोबोट किसी विचार या क्रिया को व्यक्त कर सकता है, तो यह गारंटी है कि वह शासित (governed) है।
6. "ब्लैक बॉक्स" प्रमाण
लेखकों ने केवल इसे लिखा नहीं है; उन्होंने एक विशाल डिजिटल प्रमाण मशीन बनाई है (Rocq नामक टूल का उपयोग करके) जिसमें 12,000 से अधिक लाइनें का कोड और 454 गणितीय प्रमाण हैं।
- उन्होंने सिद्ध किया कि यदि आप उनके नियमों का पालन करते हैं, तो रोबोट गलती से भी कुछ बुरा नहीं कर सकता।
- उन्होंने यह भी सिद्ध किया कि रोबोट अभी भी जटिल कार्य करने के लिए पर्याप्त स्मार्ट है (यह "ट्यूरिंग कम्पलीट" है, जिसका अर्थ है कि यह किसी भी समस्या को हल कर सकता है)।
- उन्होंने एक "लेजर" (Ledger - जैसे कि एक छेड़छाड़-मुक्त डायरी) भी बनाया है जो प्रत्येक अनुमति जांच और क्रिया को रिकॉर्ड करता है, ताकि यदि बाद में कोई धोखाधड़ी करने की कोशिश करे, तो डायरी साबित कर सके कि उन्होंने ऐसा किया था।
सारांश
यह शोध पत्र कहता है: "हमने AI कार्यों के लिए एक गणितीय पिंजरा बनाया है। इस पिंजरे के भीतर, AI वह सब कुछ करने के लिए स्वतंत्र है जो वह चाहता है, लेकिन उसके लिए कुछ भी असुरक्षित करना भौतिक रूप से असंभव है। नियम केवल सुझाव नहीं हैं; वे इस विशिष्ट प्रणाली के लिए भौतिकी के नियम हैं।"
उन्होंने इसे गणितीय रूप से सिद्ध किया है, लाखों रैंडम परिदृश्यों के साथ परीक्षण किया है, और दिखाया है कि सुरक्षित संस्करण वाला AI असुरक्षित संस्करण की तरह ही तेजी से काम करता है। यह AI को खतरनाक बनाए बिना उसे शक्तिशाली बनाने का एक तरीका है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।