Rethinking Penetration Testing for AI-Enabled Systems: From Resource Compromise to Behavioral Objective Violation
Este artigo propõe um novo framework para testes de penetração em sistemas habilitados por IA que desloca o foco do tradicional comprometimento de infraestrutura para a avaliação de se adversários podem induzir violações comportamentais de objetivos operacionais através de várias vias de influência, como injeção de prompt e envenenamento de dados.