Rethinking Penetration Testing for AI-Enabled Systems: From Resource Compromise to Behavioral Objective Violation
Dit artikel stelt een nieuw kader voor penetratietesten van door AI aangedreven systemen voor, dat de focus verschuift van traditionele infrastructuurcompromis naar het evalueren of tegenstanders gedragsmatige schendingen van operationele doelstellingen kunnen induceren via diverse beïnvloedingspaden zoals prompt injection en data poisoning.