← नवीनतम पेपर
🤖 AI

Certified Purity for Cognitive Workflow Executors: From Static Analysis to Cryptographic Attestation

यह शोधपत्र एक प्रमाणित शुद्धता आर्किटेक्चर (certified purity architecture) प्रस्तुत करता है जो प्रतिबंधित वेबअसेम्बली संकलन (restricted WebAssembly compilation), क्रिप्टोग्राफिक शुद्धता प्रमाणपत्रों (cryptographic purity certificates) और रिमोट अटैस्टेशन (remote attestation) के माध्यम से रनटाइम परंपराओं को संरचनात्मक सीमाओं से बदलकर संज्ञानात्मक वर्कफ़्लो गवर्नेंस (cognitive workflow governance) को सुदृढ़ करता है, जिससे नगण्य रनटाइम ओवरहेड बनाए रखते हुए प्रतिकूल बायपास (adversarial bypasses) के उन्मूलन को गणितीय रूप से सिद्ध किया जाता है।

मूल लेखक: Alan L. McCann

प्रकाशित 2026-05-06
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC0 1.0

मूल लेखक: Alan L. McCann

मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक उच्च-स्तरीय रसोई चला रहे हैं जहाँ शेफ की एक टीम (AI एजेंट) वीआईपी मेहमानों के लिए जटिल भोजन (संज्ञानात्मक वर्कफ़्लो) तैयार करती है। नियम सख्त हैं: शेफ भोजन की योजना बना सकते हैं और लिख सकते हैं कि उन्हें किन सामग्रियों की आवश्यकता है, लेकिन वे वास्तव में चूल्हा छूने, फ्रिज खोलने या डिलीवरी ड्राइवर को बुलाने के लिए पूरी तरह से वर्जित हैं। केवल मुख्य शेफ (जिसे "गवर्नेंस पाइपलाइन" कहा जाता है) को ही ये कार्य करने की अनुमति है।

लंबे समय तक, रसोई एक सरल नियम पर निर्भर थी: "नियमों का पालन करने के लिए शेफ पर भरोसा करें।" रसोई प्रबंधक शेफ की रेसिपी बुक्स (स्टैटिक एनालिसिस) को देखते थे ताकि यह देख सकें कि उन्होंने कोई वर्जित निर्देश तो नहीं लिखे हैं। यदि रेसिपी साफ दिखती थी, तो शेफ को काम करने की अनुमति दी जाती थी।

समस्या: "जादुई ट्रिक" का लूपहोल (खामी)
यह पेपर बताता है कि इस "रेसिपी पर भरोसा करने वाले" सिस्टम में एक घातक दोष है। एक दृढ़ निश्चयी, चालाक शेफ रेसिपी बुक में लिखे बिना नियमों को बायपास करने के लिए जादुई ट्रिक्स का उपयोग कर सकता है। जिस विशिष्ट किचन प्लेटफॉर्म (BECAM/Erlang) का वे उपयोग करते हैं, उस पर एक शेफ:

  1. किसी और होने का ढोंग कर सकता है: किसी फंक्शन को उसके नाम से आखिरी सेकंड में कॉल कर सकता है, जिससे यह छिप जाता है कि वह एक खतरनाक टूल को कॉल कर रहा है।
  2. मौके पर नए नियम लिख सकता है: खाना बनाते समय एक नया कमांड टाइप कर सकता है, जो प्रभावी रूप से भोजन के बीच में ही अपनी खुद की रेसिपी को फिर से लिख देता है।
  3. एक बॉडीगार्ड रख सकता है: एक गुप्त, पहले से लिखा गया टूल ("NIF") लोड कर सकता है जो कुछ भी कर सकता है, जिसमें फ्रिज खोलना भी शामिल है।
  4. एक रनर भेज सकता है: सामग्री लेने के लिए रसोई के बाहर एक अलग व्यक्ति को नियुक्त कर सकता है।
  5. रेसिपी बुक बदल सकता है: खाना बनाते समय एक पूरी तरह से अलग, खतरनाक रेसिपी बुक लोड कर सकता है।

क्योंकि ये ट्रिक्स शेफ के काम करने के दौरान होती हैं, इसलिए रेसिपी बुक को पहले से देखना (स्टैटिक एनालिसिस) इन्हें नहीं पकड़ सकता। यह शो से पहले जादूगर की जेबें चेक करने जैसा है; वह बाद में एक छिपा हुआ कार्ड निकाल सकता है।

समाधान: "सर्टिफाइड प्योरिटी" किचन
यह पेपर एक बिल्कुल नए किचन डिज़ाइन का प्रस्ताव देता है जो इन जादुई ट्रिक्स को केवल नियमों के विरुद्ध नहीं, बल्कि भौतिक रूप से असंभव बना देता है।

1. नया किचन (WebAssembly Sandbox)
इसके बजाय कि शेफ को खुली रसोई में काम करने दिया जाए, अब वे एक पारदर्शी, सीलबंद कांच के बॉक्स के अंदर काम करते हैं।

  • कोई जादुई ट्रिक नहीं: इस बॉक्स के अंदर, "छिपाने," "फिर से लिखने," या "बॉडीगार्ड रखने" के उपकरण मौजूद ही नहीं हैं। बॉक्स को इस तरह बनाया गया है कि बाहर निकलने का एकमात्र तरीका एक एकल, लॉक किया गया दरवाजा है।
  • व्हाइटलिस्ट (अनुमत सूची): इस बॉक्स के पास केवल उन विशिष्ट उपकरणों की एक सूची है जिनका उपयोग वह कर सकता है (जैसे कैलकुलेटर, नोटपैड और एक "अनुरोध फॉर्म")। यह चूल्हा या फ्रिज को नहीं छू सकता। यदि कोई टूल सूची में नहीं है, तो बॉक्स के पास उसका हैंडल ही नहीं होता।

2. आईडी कार्ड (प्योरिटी सर्टिफिकेट)
इससे पहले कि एक शेफ रसोई में प्रवेश करे, उसे एक विशेष आईडी कार्ड प्राप्त करना होगा।

  • प्रमाण: एक विश्वसनीय प्राधिकरण शेफ के कोड ("बाइनरी") को देखता है और जांचता है कि वह केवल अनुमत उपकरणों का उपयोग करता है।
  • सील: वे कार्ड पर एक क्रिप्टोग्राफिक सील (जैसे मोहर) लगाते हैं। यह सील प्रमाणित करती है कि इस विशिष्ट संस्करण का शेफ कोड साफ है।
  • एंटी-टैम्पर (छेड़छाड़ विरोधी): यदि शेफ अपने कोड में थोड़ा सा भी बदलाव करने की कोशिश करता है (एक गुप्त टूल जोड़ने के लिए), तो सील टूट जाती है। कार्ड अमान्य हो जाता है। आप शेफ A से साफ कार्ड लेकर संशोधित शेफ B को नहीं दे सकते।

3. सुरक्षा गार्ड (रनटाइम गेट)
जब एक शेफ रसोई के दरवाजे पर आता है, तो एक सुरक्षा गार्ड कार्ड की जांच करता है।

  • जांच: गार्ड सील को सत्यापित करता है, यह पुष्टि करता है कि कोड कार्ड से मेल खाता है, और यह भी सुनिश्चित करता है कि उपकरणों की सूची अभी भी "अनुमत" सूची में है।
  • परिणाम: यदि कार्ड वैध है, तो शेफ प्रवेश करता है। यदि नहीं, तो उसे तुरंत बाहर कर दिया जाता है। यह हर बार, भोजन शुरू करने से पहले होता है।

4. क्रॉस-किचन पासपोर्ट (रिमोट अटेशन)
क्या होगा यदि शेफ A, किचन A में काम करता है, लेकिन उसे किचन B से शेफ B को काम पर रखने की आवश्यकता है?

  • शेफ B एक "पासपोर्ट" (अटेशन रिकॉर्ड) लाता है जो यह प्रमाणित करता है कि उसे अपने स्वयं के किचन के सुरक्षा गार्ड द्वारा जांचा गया था और उसका किचन भी उन्हीं सख्त नियमों का पालन करता है।
  • किचन A इस पासपोर्ट को पढ़ सकता है और शेफ B पर भरोसा कर सकता है, बिना शेफ B के सोर्स कोड को देखे या कोई अनुबंध साइन किए। यह विश्वास का एक मशीन-पठनीय प्रमाण है।

यह क्यों मायने रखता है (परिणाम)
यह पेपर साबित करता है कि यह सिस्टम गणितीय रूप से काम करता है:

  • कोई लूपहोल नहीं: क्योंकि नए किचन में "जादुई ट्रिक्स" (बायपास क्लासेस) संरचनात्मक रूप से अनुपस्थित हैं, इसलिए एक चालाक शेफ उन्हें वास्तव में नहीं कर सकता। ऐसा नहीं है कि उन्हें पकड़ा जाता है; बल्कि ऐसा है कि वे हो ही नहीं सकते।
  • तेज़: कार्ड की जांच करने में पलक झपकने से भी कम समय (लगभग 40 माइक्रोसेकंड) लगता है। भोजन पकाने के समय में यह अतिरिक्त समय, डिलीवरी ट्रक के इंतजार के समय के 0.4% से भी कम है।
  • ट्रस्टलेस (विश्वास-मुक्त): आपको शेफ, किचन मैनेजर या दूसरे किचन पर भरोसा करने की आवश्यकता नहीं है। आपको केवल सील के पीछे के गणित और कांच के बॉक्स के डिज़ाइन पर भरोसा करना है।

सारांश में
यह पेपर गवर्नेंस को "कृपया चोरी न करें" के बोर्ड (जो लोगों द्वारा नियमों का पालन करने पर निर्भर करता है) से बदलकर "आप भौतिक रूप से चोरी नहीं कर सकते" की दीवार (जो इमारत की संरचना पर निर्भर करती है) में बदल देता है। यह एक वादे को गणितीय गारंटी में बदल देता है, यह सुनिश्चित करता है कि AI एजेंट योजना बना सकते हैं और सोच सकते हैं, लेकिन वे कभी भी गुप्त रूप से नियमों के बाहर कार्य नहीं कर सकते।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.AI →