Measuring How LLM Tool Descriptions, Cross-Tool Ambiguity, and Action Chains Compose into Excessive Agency Exploits
本文介绍了 AGENTSPILL,这是一项实证审计,旨在证明大型语言模型极易受到过度代理漏洞(excessive agency exploits)的影响——其总体成功率达到了 50.6%——特别是通过工具描述注入(tool description injection)和未确认动作链(unconfirmed action chaining)进行的攻击,这些手段会导致模型优先执行被操纵的指令而非规范的工具定义,并自主执行破坏性序列。