Execution-bound advisory automation for agentic AI: a reproducible AIBOM-driven CSAF-VEX framework
यह शोध पत्र एक पुनरुत्पादक, प्रोटोकॉल-संचालित ढांचे को प्रस्तुत करता है जो एजेंटिक एआई (Agentic AI) प्रणालियों के लिए क्रिप्टोग्राफिक रूप से CSAF VEX एडवाइजरी उत्पन्न करने और मान्य करने हेतु सॉफ्टवेयर और एआई बिल ऑफ मैटेरियल्स (SBOM/AIBOM) को नियत (deterministic) वातावरण कैप्चर और रनटाइम टेलीमेट्री के साथ एकीकृत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ डॉ. पीटर रदानलीव (Dr. Petar Radanliev) के शोध पत्र का सरल भाषा में अनुवाद दिया गया है, जिसमें उपमाओं (analogies) का उपयोग किया गया है।
बड़ी समस्या: "स्थिर सूची" (Static List) बनाम "जीवंत मशीन" (Living Machine)
कल्पना कीजिए कि आपके पास एक हाई-टेक स्मार्ट होम है। इसे सुरक्षित रखने के लिए, आपके पास एक सॉफ्टवेयर बिल ऑफ मटेरियल्स (SBOM) है। इसे अपने घर की किराने की रसीद या पुर्जों की सूची की तरह समझें। यह कहता है: "इस घर में सामने के दरवाजे पर एक ताला है, लिविंग रूम में एक कैमरा है, और एक स्मार्ट थर्मोस्टेट है।"
साइबर सुरक्षा की दुनिया में, सुरक्षा विशेषज्ञ इस सूची को देखते हैं और कहते हैं, "ओह, सामने के दरवाजे के ताले में एक ज्ञात दोष है! हमें इसे तुरंत ठीक करना चाहिए!"
शोध पत्र का तर्क: आधुनिक एजेंटिक एआई (Agentic AI) (वे एआई सिस्टम जो अपने आप कार्य करते हैं) के लिए यह दृष्टिकोण त्रुटिपूर्ण है। क्यों? क्योंकि सिर्फ इसलिए कि कोई हिस्सा घर में मौजूद है, इसका मतलब यह नहीं है कि उसका अभी उपयोग किया जा रहा है।
- शायद सामने का दरवाजा अंदर से बंद है, इसलिए चोर अंदर नहीं आ सकता, भले ही ताला टूटा हुआ हो।
- शायद कैमरा अनप्लग किया हुआ है।
- शायद थर्मोस्टेट ऐसे कमरे में है जहाँ कोई जाता ही नहीं।
शोध पत्र का तर्क है कि वर्तमान सुरक्षा विधियाँ किराने की रसीद देखने और हर उस वस्तु के बारे में घबराने जैसी हैं, भले ही उस वस्तु का वास्तव में उपयोग न किया जा रहा हो या वह खतरे के संपर्क में न हो।
समाधान: "एग्जीक्यूशन-बाउंड" (Execution-Bound) फ्रेमवर्क
लेखक सुरक्षा जाँचने का एक नया तरीका प्रस्तावित करते हैं जिसे एग्जीक्यूशन-बाउंड एडवाइजरी (Execution-Bound Advisory) कहा जाता है। केवल पुर्जों की सूची देखने के बजाय, यह घर में रहते हुए उसे देखता है।
वे इसे करने के लिए तीन मुख्य उपकरणों का उपयोग करते हैं, जिन्हें वे MCP, A2A, और AGNTCY कहते हैं। यहाँ हमारे उदाहरण के माध्यम से बताया गया है कि वे कैसे काम करते हैं:
"स्नैपशॉट" (MCP - मॉडल कॉन्टेक्स्ट प्रोटोकॉल):
एआई शुरू होने से पहले, सिस्टम सब कुछ का एक सटीक, अपरिवर्तनीय फोटो लेता है: कोड, एआई मॉडल, सेटिंग्स और सुरक्षा नियम। यह घर की एक ऐसी फोटो लेने जैसा है जिसमें सभी लाइटें चालू हैं और दरवाजे बंद हैं, और फिर उसे एक कांच के केस में सील कर दिया गया है ताकि बाद में कोई इसे बदल न सके।"सुरक्षा कैमरा" (A2A - एजेंट-टू-एजेंट प्रोटोकॉल):
जब एआई काम कर रहा होता है, तब छोटे डिजिटल "कैमरे" (एजेंट्स) देखते हैं कि वास्तव में क्या हो रहा है। वे केवल अनुमान नहीं लगाते; वे वास्तविकता को रिकॉर्ड करते हैं।
- क्या एआई ने वास्तव में सामने का दरवाजा खोलने की कोशिश की?
- क्या उसने बाहर के फोन नंबर पर कॉल करने की कोशिश की?
- क्या उसने कैमरे का उपयोग करने की कोशिश की?
यदि एआई उस टूटे हुए ताले को नहीं छूता है, तो कैमरा देखता है कि वह ताला इस विशिष्ट कार्य के लिए सुरक्षित है, भले ही तकनीकी रूप से ताला टूटा हुआ हो।
- "जज" (AGNTCY):
यह एक रेफरी है। यह "स्नैपशॉट" और "सुरक्षा कैमरा" फुटेज लेता है, उन्हें ज्ञात बुरे लोगों (कमियों/vulnerabilities) की सूची के साथ जांचता है, और अंतिम निर्णय जारी करता है। यह प्रमाणिकता साबित करने के लिए अपने निर्णय पर एक डिजिटल स्टैम्प लगाता है कि यह असली है और इसे बदला नहीं गया है।
नया "बिल ऑफ मटेरियल्स" (AIBOM)
शोध पत्र एक नई अवधारणा AIBOM (आर्टिफिशियल इंटेलिजेंस बिल ऑफ मटेरियल्स) पेश करता है।
- पुराना SBOM: सॉफ्टवेयर सामग्री (जैसे पायथन लाइब्रेरी) की सूची देता है।
- नया AIBOM: पूरे एआई रेसिपी की सूची देता है। इसमें सॉफ्टवेयर शामिल है, लेकिन साथ ही एआई का दिमाग (मॉडल), निर्देश (प्रॉम्प्ट्स), और वे टूल्स भी शामिल हैं जिनका उपयोग करने की एआई को अनुमति है।
इसे केक की रेसिपी की तरह समझें। पुरानी सूची केवल कहती थी "मैदा, चीनी, अंडे।" नई सूची कहती है "मैदा, चीनी, अंडे, साथ ही विशिष्ट ओवन तापमान, विशिष्ट मिक्सिंग बाउल, और यह नियम कि 'हम केक तभी बना रहे हैं जब ओवन चालू है'।"
परिणाम: कम घबराहट, अधिक सटीकता
शोधकर्ताओं ने लगभग 10,000 अलग-अलग सॉफ्टवेयर भागों और सिम्युलेटेड एआई कार्यों के साथ इस प्रणाली का परीक्षण किया। यहाँ उन्हें क्या मिला:
- कम गलत अलार्म: पारंपरिक विधियों ने अनावश्यक रूप से 42% अधिक बार कमजोरियों को खतरनाक के रूप में चिह्नित किया। नए सिस्टम ने महसूस किया कि कई "टूटे हुए ताले" वास्तव में छुए भी नहीं गए थे, इसलिए इसने उन्हें आपात स्थिति के रूप में फ्लैग करना बंद कर दिया।
- बेहतर सटीकता: सिस्टम ने 93% बार खतरनाक स्थितियों की सही पहचान की (जिसे F1-स्कोर कहा जाता है)।
- पुनरुत्पादनीय प्रमाण (Reproducible Proof): यदि आप बिल्कुल समान सेटिंग्स के साथ एक ही एआई कार्य को दो बार चलाते हैं, तो सिस्टम हर बार बिल्कुल समान सुरक्षा रिपोर्ट तैयार करता है। यह एक ही केक को दो बार बनाने और हर बार सटीक परिणाम प्राप्त करने जैसा है, जो साबित करता है कि प्रक्रिया विश्वसनीय है।
निष्कर्ष
शोध पत्र का दावा है कि आधुनिक एआई सिस्टम के लिए, आप केवल पुर्जों की एक स्थिर सूची देखकर यह नहीं जान सकते कि आप सुरक्षित हैं। आपको यह देखना होगा कि एआई चलते समय वास्तव में क्या करता है।
एक पुर्जों की सूची (AIBOM) को लाइव अवलोकन (टेलीमेट्री) और कड़े नियमों (पॉलिसी) के साथ जोड़कर, यह नया फ्रेमवर्क एक ऐसा सुरक्षा रिपोर्ट बनाता है जो है:
- वास्तविक: जो वास्तव में हुआ उस पर आधारित, न कि उस पर कि क्या हो सकता है।
- विशिष्ट: यह आपको बताता है कि कौन से टूटे हुए हिस्से मायने रखते हैं और कौन से नहीं।
- विश्वसनीय: यह गणितीय रूप से पुनरुत्पादनीय (reproducible) होने के लिए प्रमाणित है और एक डिजिटल अथॉरिटी द्वारा हस्ताक्षरित है।
संक्षेप में: केवल सामग्री की जाँच न करें; खाना पकाने की प्रक्रिया को देखें। यदि एआई टूटे हुए उपकरण का उपयोग नहीं कर रहा है, तो आपको घबराने की आवश्यकता नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।