Measuring How LLM Tool Descriptions, Cross-Tool Ambiguity, and Action Chains Compose into Excessive Agency Exploits
Este artículo presenta AGENTSPILL, una auditoría empírica que demuestra que los modelos de lenguaje de gran tamaño son altamente susceptibles a los exploits de agencia excesiva —alcanzando una tasa de éxito general del 50,6 %—, particularmente a través de la inyección de descripciones de herramientas y el encadenamiento de acciones no confirmadas, lo que provoca que los modelos prioricen instrucciones manipuladas sobre las definiciones canónicas de las herramientas y ejecuten autónomamente secuencias destructivas.