ESAA-Security: An Event-Sourced, Verifiable Architecture for Agent-Assisted Security Audits of AI-Generated Code
यह शोध पत्र ESAA-Security को प्रस्तुत करता है, जो एक इवेंट-सोर्स्ड आर्किटेक्चर है जो AI-सहायता प्राप्त सुरक्षा ऑडिटिंग को अविश्वसनीय मुक्त-रूप (free-form) LLM संवादों से बदलकर एक पता लगाने योग्य, पुनरुत्पादनीय और सत्यापन योग्य गवर्नेंस पाइपलाइन में परिवर्तित करता है, ताकि AI-जनित कोड के लिए अपरिवर्तनीय ऑडिट ट्रेल सुनिश्चित करने हेतु एजेंट कॉग्निशन (cognition) को नियतात्मक स्टेट म्यूटेशन (deterministic state mutations) से अलग किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ ESAA-Security पेपर का सरल भाषा में अनुवाद दिया गया है, जिसमें रचनात्मक उपमाओं (analogies) का उपयोग किया गया है।
बड़ी समस्या: वह "जादू" जिस पर भरोसा नहीं किया जा सकता
कल्पthought करें कि आपने अपने बैंक के लिए कोड लिखने के लिए एक सुपर-स्मार्ट, जादुय इंटर्न (एक AI) को काम पर रखा है। यह अविश्वसनीय रूप से तेज़ी से काम करता है। लेकिन यहाँ एक पेंच है: वह इंटर्न गलती से सामने का दरवाज़ा खुला छोड़ सकता है, चटाई के नीचे एक अतिरिक्त चाबी छिपा सकता है, या तिजोरी पर ताला लगाना भूल सकता है।
अतीत में, जब हमने AI से अपने काम की जाँच करने के लिए कहा, तो हमने बस इतना कहा, "हे, बग्स (गलतियाँ) ढूँढो!" AI चैट में जवाब देता, "मुझे तीन चीजें मिली हैं!" और उनके बारे में एक पैराग्राफ लिख देता।
समस्या क्या थी?
- यह एक ब्लैक बॉक्स है: हमें नहीं पता कि उसने उन्हें कैसे ढूँढा। क्या उसने अंदाज़ा लगाया? क्या उसने भ्रम (hallucination) पैदा किया?
- यह अव्यवस्थित है: यदि आप कल फिर से पूछेंगे, तो वह आपको अलग उत्तर दे सकता है।
- कोई प्रमाण नहीं: यदि बैंक हैक हो जाता है, तो आप यह साबित नहीं कर सकते कि AI ने वास्तव में दरवाज़े की जाँच की थी या उसने बस मनगढ़ंत बात बनाई थी।
समाधान: ESAA-Security (कोड के लिए "फ्लाइट रिकॉर्डर")
लेखक ESAA-Security का प्रस्ताव करते हैं। इसे एक स्मार्ट इंटर्न के साथ बातचीत के रूप में नहीं, बल्कि एक कड़ाई से विनियमित निर्माण स्थल (strictly regulated construction site) के रूप में देखें, जिसमें एक "फ्लाइट रिकॉर्डर" (जैसे हवाई जहाज में होता है) है जो कभी कुछ भी डिलीट नहीं करता।
यह कैसे काम करता है, इसे सरल अवधारणाओं में विभाजित किया गया है:
1. "ब्लैक बॉक्स" बनाम "इवेंट लॉग"
- पुराना तरीका: आप AI से पूछते हैं, "क्या यह कोड सुरक्षित है?" वह एक सेकंड के लिए सोचता है और कहता है, "हाँ, काफी हद तक।" आपको उसकी बात माननी पड़ती है।
- ESAA का तरीका: AI केवल "सोचता" नहीं है। उसे हर उस कदम को लिखना होता है जो वह उठाता है, एक स्थायी, अपरिवर्तनीय डायरी (जिसे इवेंट लॉग कहा जाता है) में।
- उपमा: कल्पना कीजिए कि एक जासूस अपराध सुलझा रहा है। पुराने तरीके में, जासूस आपको बस फैसला बता देता है। ESAA में, जासूस को हर सुराग, हर खुला हुआ दरवाज़ा और हर उंगली के निशान को रिकॉर्ड करना होगा। यदि रिकॉर्डिंग रुक जाती है, तो मामला अमान्य है।
2. "ऑर्केस्ट्रेटर" (एक सख्त फोरमैन/सुपरवाइजर)
इस सिस्टम में, AI (एजेंट) बॉस नहीं है। यहाँ एक फोरमैन (ऑर्केस्ट्रेटर) है।
- AI कहना चाहता है, "मुझे दीवार में एक छेद मिला!"
- फोरमैन उसे रोकता है और कहता है, "रुको। क्या तुमने नियमों का पालन किया? क्या तुमने सही जगह की जाँच की? क्या तुम्हारी रिपोर्ट सही फॉर्मेट में है?"
- यदि AI चरणों को छोड़ने या अव्यवस्थित रिपोर्ट लिखने की कोशिश करता है, तो फोरमैन उसे अस्वीकार कर देता है। जब तक कोई चीज़ नियमों को पास नहीं करती, उसे सहेजा नहीं जाता।
3. "रिप्ले" फीचर (एक टाइम मशीन)
चूंकि हर कदम उस स्थायी डायरी में रिकॉर्ड किया जाता है, इसलिए आप किसी भी समय "रिवाइंड" बटन दबा सकते हैं।
- उपमा: एक वीडियो गेम की कल्पना करें जहाँ आप एक लेवल को दोबारा खेल सकते हैं। यदि AI कहता है, "मैंने पासवर्ड सुरक्षा की जाँच की," तो आप टेप को रिवाइंड कर सकते हैं, AI को पासवर्ड चेक करते हुए देख सकते हैं, और सत्यापित कर सकते हैं कि उसने वास्तव में अपना काम सही ढंग से किया है।
- यह ऑडिट को पुनरुत्पादित (reproducible) बनाता है। आप AI की याददाश्त पर भरोसा नहीं कर रहे हैं; आप रिकॉर्ड किए गए साक्ष्य पर भरोसा कर रहे हैं।
ऑडिट कैसे होता है (4-चरणों वाली असेंबली लाइन)
एक मुक्त-प्रवाह वाली बातचीत के बजाय, ESAA-Security सुरक्षा जाँच को चार अलग-अलग स्टेशनों वाली एक फैक्ट्री असेंबली लाइन में बदल देता है:
- रेकनाइसेंस (द स्काउट/खोजकर्ता): AI इमारत का नक्शा बनाता है। "ठीक है, हमारे पास एक सामने का दरवाज़ा है, एक पीछे की खिड़की है और एक सर्वर रूम है।"
- डोमेन ऑडिट (द इंस्पेक्टर्स/निरीक्षक): विशेष टीमें विशिष्ट क्षेत्रों की जाँच करती हैं। एक टीम तालों की जाँच करती है (Authentication), दूसरी खिड़कियों की जाँच करती है (Input Validation), तीसरी वायरिंग की जाँच करती है (Cryptography)।
- रिस्क क्लासिफिकेशन (द ग्रेडर्स/श्रेणीकरण करने वाले): सभी निष्कर्षों को छाँटा जाता है। "यह एक गंभीर छेद है (CRITICAL)," "यह एक ढीला पेंच है (LOW)।" वे एक "रिस्क मैट्रिक्स" (खतरे का मानचित्र) बनाते हैं।
- फाइनल रिपोर्टिंग (द CEO ब्रीफिंग): सिस्टम एक अंतिम रिपोर्ट तैयार करता है। यह केवल एक चैट नहीं है; यह एक स्कोर (0–100), सुधारों की सूची और एक कार्यकारी सारांश के साथ एक संरचित दस्तावेज़ है।
यह क्यों महत्वपूर्ण है (इसका महत्व क्या है?)
पेपर का तर्क है कि AI-जनित कोड के युग में, भरोसा ही नई मुद्रा (currency) है।
- पहले: हम AI पर इसलिए भरोसा करते थे क्योंकि वह आत्मविश्वास से भरा लगता था।
- अब: हम प्रक्रिया पर भरोसा करते हैं क्योंकि AI को एक सख्त अनुबंध का पालन करना पड़ा, एक कागजी सबूत छोड़ना पड़ा, और एक "रिप्ले" टेस्ट पास करना पड़ा।
यदि AI कोई गलती करता है, तो सिस्टम उसे पकड़ लेता है। यदि AI धोखाधड़ी करने की कोशिश करता है, तो सिस्टम उसे अस्वीकार कर देता है। अंतिम रिपोर्ट केवल एक राय नहीं है; यह साक्ष्यों की एक श्रृंखला पर आधारित एक सत्यापन योग्य तथ्य है।
निचोड़ (The Bottom Line)
ESAA-Security एक प्रतिभाशाली व्यक्ति के साथ एक अराजक, अनियमित चैट को एक अदालती सुनवाई में बदलने जैसा है।
- AI गवाह है।
- "इवेंट लॉग" अदालती कार्यवाही का ट्रांसक्रिप्ट है।
- "ऑर्केस्ट्रेटर" न्यायाधीश है।
- "रिप्ले" अपील प्रक्रिया है।
परिणाम? एक सुरक्षा ऑडिट जिस पर आप वास्तव में भरोसा कर सकते हैं, भले ही काम एक मशीन द्वारा किया गया हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।