DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents
Ce document présente DTap, la première plateforme de red-teaming contrôlable et interactive pour les agents IA, qui comprend un agent de red-teaming autonome (DTap-Red) et un benchmark à grande échelle (DTap-Bench) afin d'évaluer et d'exposer systématiquement les vulnérabilités de sécurité à travers 14 domaines du monde réel.