Red-Teaming Coding Agents from a Tool-Invocation Perspective: An Empirical Security Assessment
यह शोध पत्र छह लोकप्रिय कोडिंग एजेंटों की पहली व्यवस्थित रेड-टीमिंग (red-teaming) प्रस्तुत करता है, जो प्रॉम्प्ट एक्सफिल्ट्रेशन (prompt exfiltration) के लिए एक सामान्य "टूललीक" (ToolLeak) भेद्यता और एक नवीन दो-चैनल प्रॉम्प्ट इंजेक्शन तकनीक को प्रकट करता है जो विविध एजेंट-एलएलएम (agent-LLM) संयोजनों में रिमोट कोड निष्पादन (remote code execution) प्राप्त करने के लिए टूल इनवोकेशन (tool invocations) को सफलतापूर्वक हाईजैक करती है।