Capability-Mediated Perimeters for Secure AI Agent Tool Execution: Conditional Non-Escalation Invariants and Empirical Evaluation Against Indirect Prompt Injection
यह शोध पत्र Mastyf Guard को प्रस्तुत करता है, जो एक 'डिटरमिनिस्टिक-फर्स्ट' (deterministic-first) सुरक्षा आर्किटेक्चर है जो LLM एजेंटों को अविश्वसनीय प्रिंसिपल्स (untrusted principals) के रूप में मानता है और एक बाहरी रेफरेंस मॉनिटर के माध्यम से सशर्त गैर-एस्केलेशन इनवेरियंट्स (conditional non-escalation invariants) को लागू करता है, जिससे अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन (indirect prompt injection) और एक्सफिल्ट्रेशन (exfiltration) खतरों के विरुद्ध अनुभवजन्य मूल्यांकनों में शून्य फाल्स पॉजिटिव के साथ लगभग पूर्ण हमले का पता लगाने की क्षमता प्राप्त होती है।