SafeAgent-300: A Balanced 300-Prompt Benchmark for Agentic AI Security, with Findings on Detector Coverage Gaps and Cross-Model Compliance Variance
Este artigo apresenta o SafeAgent-300, um benchmark equilibrado de 300 prompts para a segurança de IA agêntica que avalia seis modelos para revelar disparidades significativas na conservadorismo dos modelos, descobrir um comportamento espontâneo de invocação de ferramentas em um modelo Google Gemini e identificar lacunas críticas de cobertura de detectores que distorcem a relação entre a sofisticação do prompt e as taxas de detecção de violações.