💻 computer science

Capability Safety as Datalog: A Foundational Equivalence

यह शोध पत्र क्षमता सुरक्षा (capability safety) और प्रपोज़िशनल डैटलॉग (propositional Datalog) के बीच एक सटीक तुल्यता स्थापित करता है, जिससे मौजूदा क्षमता हाइपरग्राफ फ्रेमवर्क की संरचनात्मक सीमाओं को दूर करने के लिए ऑडिट सतह समावेशन (audit surface containment) हेतु एक कुशल वृद्धिशील रखरखाव (incremental maintenance) और एक निर्णय प्रक्रिया सक्षम होती है।

मूल लेखक: Cosimo Spera

प्रकाशित 2026-03-31

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Cosimo Spera

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

बड़ी तस्वीर: AI सुरक्षा के लिए एक नया नजरिया

कल्पना कीजिए कि आप एक विशाल, हाई-टेक निर्माण स्थल (construction site) के मैनेजर हैं। आपके पास रोबोट्स की एक टीम (AI एजेंट्स) है, और प्रत्येक रोबोट के पास विशिष्ट उपकरणों (capabilities) का एक सेट है।

लक्ष्य: आप जानना चाहते हैं कि वे रोबोट मिलकर क्या बना सकते हैं।
खतरा: आपके पास "निषिद्ध क्षेत्रों" (जैसे कि न्यूक्लियर रिएक्टर कोर या संवेदनशील डेटा वाला वॉल्ट) की एक सूची है। आपको यह सुनिश्चित करना होगा कि रोबोट अनजाने में कुछ ऐसा न बना दें जो उन्हें किसी निषिद्ध क्षेत्र तक ले जाए।

लंबे समय से, शोधकर्ता इसे एक जटिल "हाइपरग्राफ" (एक फैंसी कनेक्शन वाला वेब) का उपयोग करके मैप करने की कोशिश कर रहे थे। लेकिन इस मैप की दो बड़ी समस्याएं थीं:

यह धीमा था: हर बार जब आप किसी रोबमंद को एक नया टूल देते या एक टूल वापस लेते, तो आपको पूरा का पूरा मैप फिर से शुरू से बनाना पड़ता था।
यह अपारदर्शी (opaque) था: यह साबित करना कठिन था कि विशिष्ट उपकरणों का एक संयोजन क्यों खतरनाक था, या यह जांचना कठिन था कि क्या एक सुरक्षा योजना दूसरी की तुलना में "अधिक सुरक्षित" है।

बड़ी सफलता:
यह पेपर सिद्ध करता है कि यह जटिल "निर्माण स्थल" वाली समस्या वास्तव में प्रपोजिशनल डैटालॉग (Propositional Datalog) नामक एक बहुत ही विशिष्ट, सुस्थापित प्रकार की लॉजिक पहेली है।

डैटालॉग को एक विशाल, सुपर-कुशल रेसिपी बुक (व्यंजन पुस्तिका) के रूप में समझें।

सामग्री (Ingredients): वे उपकरण जो रोबोट्स के पास हैं।
नियम (Rules): "यदि आपके पास हथौड़ा AND कील है, तो आप एक शेल्फ बना सकते हैं।"
निषिद्ध व्यंजन (Forbidden Dish): "यदि आप एक शेल्फ बनाते हैं, तो आप किचन में प्रवेश नहीं कर सकते।"

लेखक दिखाते हैं कि यह उलझा हुआ "हाइपरग्राफ" वास्तव में इस रेसिपी बुक के गणितीय रूप से समान है। क्योंकि हम 30 वर्षों से रेसिपी बुक्स (डैटालॉग) का अध्ययन कर रहे हैं, हम अचानक इस AI सुरक्षा समस्या को हल करने के लिए 30 वर्षों की उन्नत गणितीय तरकीबों को लागू कर सकते हैं।

मुख्य अवधारणाएं (एनालॉजी के साथ)

1. "रेसिपी बुक" बनाम "वेब"

पुराना तरीका (हाइपरग्राफ): कल्पना कीजिए कि आप एक शहर में अफवाह को ट्रैक करने की कोशिश कर रहे हैं और हर उस व्यक्ति के बीच एक रेखा खींच रहे हैं जिसने वह अफवाह सुनी है। यदि एक व्यक्ति अपनी कहानी बदलता है, तो आपको हजारों रेखाएं मिटानी और फिर से बनानी पड़ती हैं।
नया तरीका (डैटालॉग): कल्पना कीजिए कि अफवाह एक रेसिपी है। "यदि एलिस बॉब को बताती है, और बॉब चार्ली को बताता है, तो डेव को पता चलता है।" यदि एलिस बात करना बंद कर देती है, तो आपको केवल एलिस से जुड़े विशिष्ट नियम की जांच करनी है। आपको पूरा शहर फिर से नहीं बनाना पड़ता।
परिणाम: लेखकों ने सिद्ध किया कि देखने के इन दोनों तरीकों में वास्तव में एक ही चीज़ है। इसका मतलब है कि हमें पहिए का पुनरुद्धार करने की आवश्यकता नहीं है और हम "रेसिपी बुक" के टूल्स का उपयोग कर सकते हैं।

2. "लोकैलिटी गैप" (स्पीड बूस्ट)

यह पेपर की सबसे बड़ी व्यावहारिक जीत है।

समस्या: पुराने सिस्टम में, यदि आप रोबोट को एक नया टूल देते थे, तो कंप्यूटर को यह देखने के लिए पूरे सिस्टम के हर एक संभावित परिणाम की जांच करनी पड़ती थी कि क्या वह सुरक्षित है। यह एक 1,000 कमरों वाले होटल में केवल एक दरवाजे का लॉक बदलने के कारण हर कमरे की जांच करने जैसा था।
समाधान: क्योंकि यह एक "रेसिपी बुक" है, कंप्यूटर को केवल उन विशिष्ट रेसिपीज़ की जांच करने की आवश्यकता है जिनमें उस नए टूल का उपयोग किया गया है।
एनालॉजी: यदि आप सूप में एक नया घटक (ingredient) जोड़ते हैं, तो आपको केवल उस चम्मच को चखने की आवश्यकता है जिसमें वह घटक है, न कि पूरे बर्तन को।
परिणाम: यह पेपर सिद्ध करता है कि बड़े सिस्टमों के लिए, यह नया तरीका एक्सपोनेंशियल रूप से तेज़ (exponentially faster) है। यह एक "लोकैलिटी गैप" बनाता है, जिसका अर्थ है कि सिस्टम के बढ़ने के साथ सुरक्षा जांचने में लगने वाला समय बहुत धीरे बढ़ता है, जबकि पुराना तरीका भारी बोझ के नीचे क्रैश हो जाता।

3. "AND" निरीक्षण (हम धोखाधड़ी क्यों नहीं कर सकते)

कुछ नियम ट्रिकी होते हैं। वे "AND" नियम हैं: "आपको दरवाजा खोलने के लिए एक चाबी (Key) और एक कोड (Code) की आवश्यकता है।"

अंतर्दृष्टि: पेपर एक कड़वा सच सिद्ध करता है: यह जानने के लिए कि एक "AND" नियम ट्रिगर होता है या नहीं, आपको इसके हर एक हिस्से की जांच करनी ही होगी।
एनालॉजी: कल्पना कीजिए कि 10 तालों वाला एक बैंक वॉल्ट है। यह जानने के लिए कि वॉल्ट खुलता है या नहीं, आप केवल 9 तालों की जांच नहीं कर सकते। आपको सभी 10 की जांच करनी ही होगी। यदि आप एक भी छोड़ देते हैं, तो आप यह पहचानने में चूक सकते हैं कि वॉल्ट खुला है।
परिणाम: यह समझाता है कि सुरक्षा "नॉन-कंपोजिशनल" क्यों है (आप सुरक्षित हिस्सों को जोड़कर एक सुरक्षित संपूर्ण नहीं बना सकते)। यदि आपके पास दो सुरक्षित टीमें हैं, तो उन्हें एक साथ रखने से एक खतरनाक "AND" संयोजन बन सकता है। गणित सिद्ध करता है कि आपको हर बार पूरे संयोजन की जांच करनी होगी।

4. "सर्टिफिकेट" (रसीद)

जब सिस्टम कहता है, "X करना सुरक्षित है," तो पहले यह केवल "हाँ" कहता था।

नया तरीका: अब, यह एक प्रोवेनेंस सर्टिफिकेट (Provenance Certificate) जनरेट कर सकता है।
एनालॉजी: केवल यह कहने के बजाय कि "यह भोजन खाने के लिए सुरक्षित है," सिस्टम आपको एक रसीद देता है जो कहती है: "यह भोजन सुरक्षित है क्योंकि इसमें सामग्री A (सप्लायर 1 से) और सामग्री B (सप्लायर 2 से) का उपयोग किया गया था, और उनमें से कोई भी जहरीला नहीं है।"
परिणाम: यह ऑडिटर्स और रेगुलेटर्स को यह देखने की अनुमति देता है कि निर्णय क्यों लिया गया था। यह एक "ब्लैक बॉक्स" को एक पारदर्शी, सत्यापन योग्य प्रक्रिया में बदल देता है।

भविष्य के लिए यह क्यों मायने रखता है

तेज़ AI सिस्टम: AI एजेंट्स को अब रियल-टाइम में अपडेट किया जा सकता है। यदि कोई कंपनी किसी AI को एक नया टूल देती है, तो सुरक्षा जांच तुरंत हो जाती है, लंबे इंतजार के बाद नहीं।
बेहतर ऑडिटिंग: रेगुलेटर्स पूछ सकते हैं, "क्या यह नया AI सेटअप पुराने वाले से अधिक सुरक्षित है?" और उन्हें तेजी से गणितीय "हाँ/नहीं" उत्तर मिलता है।
कठिन समस्याओं को हल करना: यह पेपर AI सुरक्षा के सभी अनसुलझे रहस्यों को 30 साल पुराने गणितीय समस्याओं से जोड़ देता है जिन्हें डेटाबेस विशेषज्ञों ने पहले ही आंशिक रूप से हल कर लिया है। यह एक ऐसे खजाने के नक्शे को खोजने जैसा है जो जवाबों से भरी लाइब्रेरी की ओर ले जाता है।

एक वाक्य में सारांश

यह पेपर सिद्ध करता है कि AI एजेंट्स को सुरक्षित रखने का जटिल गणित वास्तव में एक मानक लॉजिक पहेली है, जिससे हम डेटाबेस की गति बढ़ाने वाली 30 साल पुरानी तकनीकों का उपयोग करके AI सुरक्षा को तेज़, सस्ता और सत्यापित करना आसान बना सकते हैं।

यहाँ कोसिमो स्पेरा (मार्च 2026) के शोध पत्र "Capability Safety as Datalog: A Foundational Equivalence" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र AI सुरक्षा के लिए कैपेबिलिटी हाइपरग्राफ (Capability Hypergraph) ढांचे में मौजूद मौलिक सीमाओं को संबोधित करता है, जिसे पूर्व में स्पेरा [2026] द्वारा औपचारिक रूप दिया गया था। जबकि हाइपरग्राफ मॉडल एजेंट की क्षमताओं और वर्जित अवस्थाओं (forbidden states) का प्रभावी ढंग से प्रतिनिधित्व करता है, यह दो महत्वपूर्ण संरचनात्मक कमियों से ग्रस्त है:

कुशल वृद्धिशील रखरखाव (Efficient Incremental Maintenance) का अभाव: सिस्टम में कोई भी परिवर्तन (एक टूल जोड़ना, क्षमता वापस लेना, या हाइपरएज को संशोधित करना) "सेफ ऑडिट सरफेस" ( $G_F(A)$ ) को शून्य से पुनर्गणना करने की मांग करता है, जिसकी लागत $O(|V| \cdot (n + mk))$ है।
निर्णय प्रक्रियाओं (Decision Procedures) का अभाव: प्रमुख संरचनात्मक प्रश्न, जैसे कि यह निर्धारित करना कि क्या एक ऑडिट सरफेस दूसरे के भीतर समाहित है ( $G_F(A) \subseteq G_F(A')$ ), एक बहुपद-समय (polynomial-time) निर्णय प्रक्रिया की कमी थी।
गैर-संयोजकता (Non-Compositionality): ढांचे ने प्रदर्शित किया कि सुरक्षा गैर-संयोजक है (दो सुरक्षित सेट मिलकर एक असुरक्षित संघ बना सकते हैं), लेकिन इसके क्यों होने का कोई गहरा संरचनात्मक स्पष्टीकरण नहीं दिया।

मुख्य समस्या एक ऐसा कम्प्यूटेशनल लेंस खोजने की है जो डेटाबेस सिद्धांत से स्थापित एल्गोरिद्मिक परिणामों का लाभ उठाकर इन सीमाओं को हल कर सके।

2. कार्यप्रणाली (Methodology)

यह शोध पत्र प्रपोजिशनल डैटालॉग (Propositional Datalog - $Datalog_{prop}$ )—जो कि फर्स्ट-ऑर्डर लॉजिक का फंक्शन-फ्री, ग्राउंड, मोनैडिक खंड है—और कैपेबिलिटी हाइपरग्राफ ढांचे के बीच एक सटीक औपचारिक समानता (tight formal equivalence) स्थापित करता है।

एन्कोडिंग (The Encoding):
- हाइपरग्राफ से डैटालॉग: प्रत्येक क्षमता नोड $v$ को एक प्रपोजिशनल एटम $has(v) $में मैप किया जाता है। प्रत्येक हाइपरएज$ (S, {v}) $(जहाँ$ S$ पूर्वशर्तों का एक सेट है) को एक हॉर्न क्लॉज (Horn clause) में मैप किया जाता है: $\bigwedge_{s \in S} has(s) \Rightarrow has(v)$ ।
- डैटालॉग से हाइपरग्राफ: इसके विपरीत, प्रत्येक प्रपोजिशनल हॉर्न नियम को वापस एक हाइपरएज में मैप किया जाता है।
सिमेंटिक संरक्षण (Semantic Preservation): लेखक सिद्ध करते हैं कि हाइपरग्राफ का क्लोजर ऑपरेटर ( $cl_H(A)$ ), संगत डैटालॉग प्रोग्राम का 'लीस्ट फिक्स्ड-पॉइंट मॉडल' (least fixed-point model) है।
स्तरीकरण (Stratification): सुरक्षा जाँच (यह सुनिश्चित करना कि कोई वर्जित अवस्था तक न पहुँचा जाए) को स्ट्रैटिफाइड नेगेशन (stratified negation) का उपयोग करके मॉडल किया गया है, जिसमें सुरक्षा प्रेडिकेट को क्षमता व्युत्पत्ति नियमों से उच्च स्तर (higher stratum) पर रखा गया है।

3. मुख्य योगदान (Key Contributions)

A. लोकैलिटी गैप थ्योरम (The Locality Gap Theorem - एल्गोरिद्मिक सफलता)

यह प्राथमिक एल्गोरिद्मिक योगदान है। सेफ ऑडिट सरफेस $G_F(A)$ को एक स्ट्रैटिफाइड डैटालॉग व्यू के रूप में पहचानकर, यह शोध पत्र वृद्धिशील रखरखाव के लिए DRed (Delete and Re-derive) एल्गोरिदम का उपयोग करने में सक्षम बनाता है।

पुरानी लागत: नैव रीकंप्यूटेशन की लागत प्रति अपडेट $O(|V| \cdot (n + mk))$ है।
नई लागत: वृद्धिशील रखरखाव की लागत $O(|\Delta| \cdot (n + mk))$ है, जहाँ $|\Delta|$ परिवर्तन से सीधे प्रभावित एटम्स की संख्या है।
द गैप (The Gap): यह शोध पत्र हाइपरग्राफों का एक स्पष्ट परिवार निर्मित करता है जहाँ $|\Delta| = O(1)$ है लेकिन $|V| = n$ है, जो वृद्धिशील रखरखाव और पूर्ण पुनर्गणना के बीच एक $\Omega(n)$ एसिम्प्टोटिक गैप को सिद्ध करता है।
लोअर बाउंड (Lower Bound): एक "AND-इन्स्पेक्शन लोअर बाउंड" (याओ के मिनिमैक्स सिद्धांत के माध्यम से सिद्ध) यह दर्शाता है कि सक्रियण को सत्यापित करने के लिए किसी नियम के प्रीकंडीशन में सभी $k+1$ एटम्स की जांच करना आवश्यक है, जो यह पुष्टि करता है कि DRed दृष्टिकोण इष्टतम है।

B. प्रोवेनेंस थ्योरम (The Provenance Theorem - सिमेंटिक सफलता)

यह शोध पत्र व्युत्पत्ति प्रमाण-पत्रों (derivation certificates - यह प्रमाण कि एक क्षमता कैसे प्राप्त की गई) को एक कम्यूटेटिव सेमिरिंग बीजगणित (commutative semiring algebra) के भीतर 'व्हाई-प्रोवेनेंस विटनेस' (why-provenance witnesses) के रूप में पुनर्व्याख्या करता है।

संरचना: व्युत्पत्ति प्रमाण-पत्र वियोजन ( $\oplus$ ) और संयोजन ( $\otimes$ ) के तहत एक सेमिरिंग बनाते हैं।
निहितार्थ: यह प्रमाण-पत्र संपीड़न (compression), संयोजन और समान सत्यापन की अनुमति देता है। न्यूनतम असुरक्षित एंटीचेन $B(F)$ को "वर्जित" एटम के 'व्हाई-प्रोवेनेंस' के न्यूनतम तत्वों के रूप में पहचाना गया है।

C. कंटेनमेंट डिसाइडेबिलिटी (Containment Decidability)

यह जाँचने का प्रश्न कि क्या एक ऑडिट सरफेस दूसरे में समाहित है ( $G_F(A) \subseteq G_F(A')$ ), डैटालॉग क्वेरी कंटेनमेंट में बदल जाता है।

परिणाम: यह समस्या प्रपोजिशनल प्रोग्रामों के लिए पॉलिनोमियल टाइम (P-time) में हल करने योग्य (decidable) है, जो इस सुरक्षा गुण के लिए पहला कुशल निर्णय प्रक्रिया प्रदान करती है।

D. गैर-संयोजकता का संरचनात्मक स्पष्टीकरण (Structural Explanation of Non-Compositionality)

यह शोध पत्र सिद्ध करता है कि सुरक्षा की गैर-संयोजकता (थ्योरम 9.1) प्रपोजिशनल डैटालॉग में AND-रूल सिमेंटिक्स का सीधा परिणाम है।

यदि $D_1$ में $p_1$ की कमी है और $D_2$ में $p_2$ की कमी है, तो दोनों सुरक्षित हैं। हालाँकि, $D_1 \cup D_2$ में दोनों मौजूद हैं, जो नियम $p_1 \land p_2 \Rightarrow \text{forbidden}$ को ट्रिगर करता है।
यह एक संरचनात्मक स्पष्टीकरण प्रदान करता है कि क्यों यूनियन के तहत सुरक्षा विफल हो जाती है।

E. सटीक अभिव्यक्तता (Tight Expressivity)

यह शोध पत्र सिद्ध करता है कि कैपेबिलिटी हाइपरग्राफ ठीक वही क्लास कैप्चर करते हैं जो $Datalog_{prop}$ में व्यक्त होने वाले मोनोटोन बुलियन क्वेरीज़ हैं।

सत्यता और पूर्णता (Soundness & Completeness): दोनों ढांचे समकक्ष हैं।
सीमा: वे गैर-मोनोटोनिक क्वेरीज़ (जैसे पैरिटी, काउंटिंग, या लोअर बाउंड के साथ थ्रेशोल्ड क्वेरीज़) को व्यक्त नहीं कर सकते, जो इस ढांचे के दायरे पर एक सख्त सीमा स्थापित करता है।

4. परिणाम और जटिलता विश्लेषण (Results and Complexity Analysis)

मीट्रिक (Metric)	कैपेबिलिटी हाइपरग्राफ (Spera [2026])	डैटालॉग समानता (यह शोध पत्र)
क्लोजर कंप्यूटेशन	फिक्स्ड-पॉइंट इटरेशन	लीस्ट मॉडल (Least Fixed Point)
वृद्धिशील अपडेट	पूर्ण पुनर्गणना: $O(\|V\| \cdot (n+mk))$	DRed वृद्धिशील: $O(\|\Delta\| \cdot (n+mk))$
ऑडिट कंटेनमेंट	अनिर्णायक (Undecidable) / अज्ञात	P-time में निर्णयात्मक
प्रमाण-पत्र बीजगणित	एड-हॉक सत्यापन	कम्यूटेटिव सेमिरिंग (प्रोवेनेंस)
कठिनाई का स्रोत	एड-हॉक रिडक्शन	मिनिमल विटनेस एन्यूमरेशन (coNP-complete)
लर्निंग बाउंड्स	ढीले PAC बाउंड्स ( $O(n^{2k})$ )	संरचित वर्गों के लिए टाइट रेडमेकर बाउंड्स

5. महत्व और प्रभाव (Significance and Impact)

30 वर्षों के सिद्धांत का हस्तांतरण: समानता AI सुरक्षा समुदाय को डेटाबेस सिद्धांत के दशकों के परिणामों को तुरंत आयात करने की अनुमति देती है, जिसमें शामिल हैं:
- इंक्रीमेंटल व्यू मेंटेनेंस: गतिशील अपडेट के लिए सिद्ध एल्गोरिदम।
- प्रोवेनेंस सेमिरिंग्स: वंश (lineage) और अनिश्चितता के लिए बीजगणितीय ढांचे।
- क्वेरी ऑप्टिमाइज़ेशन: गणना को प्रासंगिक सबग्राफ तक सीमित करने के लिए मैजिक सेट्स (Magic Sets) रीराइटिंग जैसी तकनीकें।
- लर्निंग थ्योरी: संरचित डैटालॉग प्रोग्रामों के लिए टाइट सैंपल कॉम्प्लेक्सिटी बाउंड्स।
व्यावहारिक दक्षता: लोकैलिटी गैप थ्योरम यह प्रदर्शित करता है कि स्पार्स, एंटरप्राइज-स्केल डिप्लॉयमेंट (जहाँ अपडेट स्थानीय होते हैं) के लिए, सुरक्षा तर्क पहले की तुलना में कई गुना तेज़ हो सकता है, जिससे रियल-टाइम सुरक्षा ऑडिटिंग संभव हो जाती है।
सैद्धांतिक स्पष्टता: सुरक्षा समस्याओं को अच्छी तरह से समझे गए लॉजिकल फ्रैगमेंट में मैप करके, यह शोध पत्र सुरक्षा समस्याओं की अंतर्निहित जटिलता को स्पष्ट करता है (जैसे, coNP-hardess को मिनिमल विटनेस एन्यूमरेशन से जोड़ना) और यह परिभाषित करता है कि कैपेबिलिटी फ्रेमवर्क वास्तव में क्या व्यक्त कर सकता है और क्या नहीं।
भावी दिशाएं: यह शोध पत्र नए अनुसंधान मार्ग खोलता है जैसे कि प्रोबेबिलिस्टिक डैटालॉग (स्टोकेस्टिक सुरक्षा के लिए), डिस्ट्रीब्यूटेड सेफ्टी (मल्टी-नोड सिस्टम के लिए), और एडवर्सरियल रोबस्टनेस (व्यू अपडेट समस्याओं के रूप में फ्रेम किया गया)।

संक्षेप में, यह शोध पत्र कैपेबिलिटी सेफ्टी को एक विशिष्ट, कम्प्यूटेशनल रूप से महंगी हाइपरग्राफ समस्या से बदलकर एक मानक, अत्यधिक अनुकूलित प्रपोजिशनल डैटालॉग इवैल्यूएशन में बदल देता है, जिससे कुशल एल्गोरिदम और गहरे संरचनात्मक अंतर्दृष्टि के द्वार खुल जाते हैं जो पहले उपलब्ध नहीं थे।