Measuring How LLM Tool Descriptions, Cross-Tool Ambiguity, and Action Chains Compose into Excessive Agency Exploits
本論文は、大規模言語モデルが過剰なエージェンシー(excessive agency)を悪用する攻撃に対して非常に脆弱であることを示す実証的な監査であるAGENTSPILLを紹介するものであり、特にツール記述のインジェクションや未確認のアクション・チェイニングを通じて、モデルに正規のツール定義よりも操作された指示を優先させ、破壊的なシーケンスを自律的に実行させることで、全体で50.6%の成功率を達成している。