Effect-Transparent Governance for AI Workflow Architectures: Semantic Preservation, Expressive Minimality, and Decidability Boundaries
यह शोधपत्र रॉक (Rocq) में एक मशीन-चेक्ड औपचारिकीकरण प्रस्तुत करता है जो यह प्रदर्शित करता है कि एआई (AI) वर्कफ़्लो के लिए प्रभाव-पारदर्शी शासन, आंतरिक कम्प्यूटेशनल अभिव्यंजकता या अर्थगत पारदर्शिता से समझौता किए बिना, बाहरी प्रभावों को सख्ती से सीमित कर सकता है और सुरक्षा विधेयकों को लागू कर सकता है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक शानदार, अत्यंत सक्षम AI सहायक है। यह कोड लिख सकता है, चीजें याद रख सकता है, बाहरी टूल्स को कॉल कर सकता है, और जटिल समस्याओं को हल करने के लिए अन्य AI मॉडल के साथ चैट भी कर सकता है। लेकिन आप चिंतित हैं: क्या होगा अगर यह कुछ खतरनाक करने का निर्णय ले ले, जैसे आपकी फाइलें डिलीट कर देना या ऐसी किसी सेवा को कॉल करना जिसे इसे नहीं करना चाहिए?
पारंपरिक रूप से, लोगों ने सोचा था कि आपको सुरक्षा (safety) और क्षमता (capability) के बीच किसी एक को चुनना होगा। या तो आप AI को वह सब करने दें जो वह चाहता है (जो जोखिम भरा है) या उस पर भारी प्रतिबंध लगा दें जो उसे अपना काम सही ढंग से करने से रोक सकते हैं (जो मूर्खतापूर्ण है)।
यह पेपर एक नया तरीका पेश करता है जिससे AI सिस्टम बनाने के बारे में यह सिद्ध होता है कि आपको यह समझौता करने की आवश्यकता नहीं है। यह दिखाता है कि आप AI के चारों ओर एक "गवर्नेंस" (शासन) परत लगा सकते हैं जो बुरे कार्यों को रोकता है, बिना AI के सोचने के तरीके या समस्याओं को हल करने के तरीके को बदले।
यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:
1. मूल विचार: "बाउंसर" बनाम "संपादक" (The "Bouncer" vs. The "Editor")
अधिकांश वर्तमान सुरक्षा विधियाँ एक संपादक (Editor) की तरह कार्य करती हैं। AI अपना काम करता है, एक कहानी लिखता है, और फिर संपादक उसे पढ़ता है। यदि कहानी में कोई बुरा शब्द है, तो संपादक उसे काट देता है या वाक्य को फिर से लिख देता है।
- समस्या: संपादक कहानी को बदल देता है। AI की मूल विचार प्रक्रिया बदल जाती है, और अंतिम परिणाम वह नहीं होता जो AI ने वास्तव में चाहा था।
यह पेपर एक बाउंसर (Bouncer) दृष्टिकोण प्रस्तावित करता है (जिसे "इफेक्ट-ट्रांसपेरेंट गवर्नेंस" कहा जाता है)।
- यह कैसे काम करता है: AI एक कमरे में है। इससे पहले कि वह कोई दरवाजा खोल सके (जैसे मेमोरी एक्सेस करना, किसी टूल को कॉल करना, या किसी LLM से पूछना), उसे बाउंसर को अपना आईडी दिखाना होगा।
- जादू: यदि बाउंसर कहता है "आगे बढ़ो," तो AI दरवाजे से बाहर निकलता है और ठीक वही करता है जो उसने योजना बनाई थी। बाउंसर ने AI की विचार प्रक्रिया को नहीं बदला; उन्होंने केवल आईडी की जांच की।
- परिणाम: यदि AI को आगे बढ़ने की अनुमति दी जाती है, तो परिणाम बिल्कुल वैसा ही होता जैसा कि बाउंसर के बिना होता। AI का "मस्तिष्क" अछूता रहता है।
2. "इंटरैक्शन ट्री" (ब्लूप्रिंट)
लेखकों ने "इंटरैक्शन ट्रीज़" नामक चीज़ का उपयोग करके AI वर्कफ़्लो का एक गणितीय मॉडल बनाया है।
- उपमा: एक AI वर्कफ़्लो को एक पेड़ के रूप में सोचें। तना (trunk) AI का तर्क है। शाखाएं (branches) वे चीजें हैं जो वह करना चाहता है (जैसे "डेटाबेस को कॉल करना" या "एक प्रश्न पूछना")।
- "गवर्नेंस" इस पेड़ की शाखाओं के सिरों के चारों ओर एक आवरण (wrapper) है। यह हर एक शाखा को बढ़ने से पहले जांचता है। यदि कोई शाखा अनधिकृत है, तो पेड़ वहीं रुक जाता है (वह "डाइवर्ज" हो जाता है या एक ही जगह घूमता रहता है)। यदि वह अधिकृत है, तो शाखा ठीक वैसे ही बढ़ती है जैसा कि AI ने डिज़ाइन किया है।
3. सात प्रमुख खोजें ("सात स्तंभ")
लेखकों ने एक कंप्यूटर का उपयोग करके गणितीय रूप से यह सिद्ध करने के लिए सात चीजें बनाईं:
- P1 और P2: यह अभी भी सुपर स्मार्ट है। बाउंसर द्वारा आईडी चेक करने के बावजूद, AI अभी भी वह सब कुछ कर सकता है जो एक सामान्य कंप्यूटर कर सकता है (ट्यूरिंग कम्पलीट/Turing Complete) और वह अभी भी LLM जैसे उन्नत टूल्स का उपयोग कर सकता है। सुरक्षा जाल ने AI को "कम बुद्धिमान" नहीं बनाया।
- P3: "डिसाइडेबिलिटी बाउंड्री" (रेत में खींची गई रेखा)। बाउंसर संरचनात्मक नियमों (जैसे, "क्या यह एक मेमोरी अनुरोध है?" "क्या इस उपयोगकर्ता के पास लेवल 5 का बैज है?") को जांचने में अच्छा है। इन्हें तुरंत जांचना आसान है। हालांकि, बाउंसर यह अनुमान नहीं लगा सकता कि AI अनंत काल तक लूप में फंस जाएगा या कोई जटिल गणितीय समस्या कभी समाप्त होगी या नहीं। पेपर यह सिद्ध करता है कि बाउंसर अपने दायरे में रहता है: वह नियम जाँचता है, AI के भविष्य के व्यवहार के बारे में गहरे दार्शनिक प्रश्न नहीं पूछता।
- P4: लक्ष्य संरक्षण (Goal Preservation)। यदि AI को चलने की अनुमति दी जाती है, तो वह अपने लक्ष्य को प्राप्त करेगा। यदि उसे
2+2की गणना करनी थी, तो वह अभी भी4की गणना करेगा। सुरक्षा जांच ने गणित को नहीं बदला। - P5: अभिव्यंजक न्यूनतमता (Expressive Minimality)। यह सिस्टम विशिष्ट उपकरणों (कंप्यूट, मेमोरी, रीजनिंग, टूल्स को कॉल करना, ऑब्जर्विंग) का उपयोग करता है। लेखकों ने सिद्ध किया कि यदि आप इनमें से किसी भी एक टूल को हटा देते हैं, तो AI अपनी एक विशिष्ट प्रकार की शक्ति खो देता है। आप जटिल कार्य करने की इसकी क्षमता को तोड़े बिना सिस्टम को और सरल नहीं बना सकते।
- P6: "बाउंसर" "संपादक" से अधिक शक्तिशाली है। पेपर सिद्ध करता है कि एक्शन (संरचनात्मक गवर्नेंस) की जांच करना, केवल आउटपुट (कंटेंट गवर्नेंस) को फ़िल्टर करने से बेहतर है। एक बाउंसर किसी भी बुरे एक्शन को होने से पहले ही रोक सकता है। एक संपादक केवल एक बुरे परिणाम को होने के बाद ठीक करने की कोशिश कर सकता है, जो कम विश्वसनीय है।
- P7: सिमेंटिक ट्रांसपेरेंसी (द "घोस्ट" इफेक्ट)। यह सबसे महत्वपूर्ण हिस्सा है। हर उस रन में जहाँ AI को काम करने की अनुमति दी जाती है, परिणाम एक अन-गवर्नड (बिना शासन वाले) रन के अवलोकन योग्य रूप से समान (observationally equivalent) होता है। एक बाहरी पर्यवेक्षक के लिए, यह ऐसा ही है जैसे गवर्नेंस लेयर अदृश्य (एक भूत की तरह) थी, सिवाय इस तथ्य के कि इसने बुरे कामों को सफलतापूर्वक रोका।
4. "आर्टिफैक्ट" (प्रमाण)
लेखकों ने इसे केवल लिखा नहीं है; उन्होंने इसे Rocq (गणित को सत्यापित करने वाला एक टूल) के भीतर बनाया है।
- उन्होंने 12,000 लाइनें लिखीं।
- उन्होंने 454 प्रमेय (theorems) सिद्ध किए।
- उन्होंने शून्य त्रुटियां स्वीकार कीं (0 admitted lemmas)।
- इसका अर्थ है कि कंप्यूटर ने उनके तर्क की दोबारा जांच की है और पुष्टि की है कि यह 100% गणितीय रूप से सुदृढ़ है।
सारांश
यह पेपर तर्क देता है कि हम एक सख्त गेटकीपर की तरह कार्य करने वाले "सेफ्टी रैपर" के साथ AI सिस्टम बना सकते हैं। यह गेटकीपर अनधिकृत कार्यों (जैसे हैकिंग या अनधिकृत कॉल्स) को रोकता है, लेकिन महत्वपूर्ण रूप से, यह AI की सोचने की प्रक्रिया में हस्तक्षेप नहीं करता है जब कार्य की अनुमति होती है।
यह सिद्ध करता है कि सुरक्षा (Safety) और बुद्धिमत्ता (Intelligence) दुश्मन नहीं हैं। आप एक ऐसा सिस्टम बना सकते हैं जो पूरी तरह से शासित और सुरक्षित है, फिर भी इसमें गणना करने, तर्क करने और कार्य करने की अपनी पूरी क्षमता बनी रहती है, बशर्ते कि कार्य अधिकृत हों। गवर्नेंस लेयर AI की सफलता के लिए पारदर्शी है, जो केवल अनधिकृत प्रभावों के खिलाफ एक ढाल के रूप में कार्य करती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।