A Queryable Knowledge Graph of MITRE ATLAS: Cross-Linking Adversarial AI Taxonomies for Grounded Threat Reasoning
Cet article présente un graphe de connaissances basé sur Neo4j qui transforme la documentation statique de MITRE ATLAS en un système interrogeable et ancré par LLM, interconnecté avec l'OWASP Top 10 pour les applications LLM, permettant aux praticiens d'effectuer un raisonnement sur les menaces, d'identifier 40 techniques d'IA générative non atténuées et de démontrer la nature orthogonale des tactiques ATLAS et des catégories de risques OWASP.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous possédez une encyclopédie massive et incroyablement détaillée, écrite par des experts en sécurité, nommée MITRE ATLAS. Ce livre décrit toutes les façons connues dont un « méchant numérique » peut pirater un système d'intelligence artificielle. Il répertorie les objectifs des méchants (tactiques), leurs tours spécifiques (techniques), les défenses disponibles (mitigations) et des histoires réelles d'attaques déjà survenues (études de cas).
Le problème, selon cet article, est que cette encyclopédie est statique. C'est comme une bibliothèque où les livres sont enfermés derrière des vitrines. Vous pouvez les lire, mais vous ne pouvez pas demander au bibliothécaire : « Montrez-moi chaque tour qui n'a pas encore de défense », ou « Faites le lien entre cette attaque spécifique et cette faiblesse spécifique ». Vous devez feuilleter manuellement les pages, croiser les listes et espérer que vous ne passerez à côté de rien.
L'article de Salwa Makni traite de la transformation de cette bibliothèque verrouillée en une carte vivante et interactive.
Voici la décomposition de ce qu'ils ont fait, en utilisant des analogies simples :
1. Construire la carte (Le graphe de connaissances)
Au lieu de conserver les données dans une liste ou un document, l'auteur a construit une toile d'araignée numérique (appelée « Graphe de connaissances » dans Neo4j).
- Les Nœuds (Les points) : Chaque point représente une pièce du puzzle : un tour d'attaque spécifique, un objectif de méchant, une stratégie de défense ou une histoire d'attaque réelle.
- Les Cordes (Les connexions) : Les lignes reliant les points montrent comment ils sont liés. Par exemple, une ligne relie l'« Injection de prompt LLM » (un tour) à l'« Injection de prompt » (l'objectif) et une autre la relie à la « Validation d'entrée » (la défense).
- Pourquoi cela importe : Dans un document normal, trouver une connexion nécessite de la lecture. Dans cette carte, vous pouvez instantanément « marcher » d'un tour vers sa défense, ou voir quels tours n'ont aucune corde attachée à une défense du tout.
2. Fusionner deux langages différents (Le recoupement)
Les équipes de sécurité parlent deux langages différents :
- MITRE ATLAS parle en « Tactiques d'adversaires » (comment les méchants pensent et se déplacent).
- OWASP Top 10 parle en « Vulnérabilités d'applications » (où le logiciel est faible).
L'auteur a dessiné manuellement des ponts entre ces deux mondes. Ils ont pris les 10 catégories majeures de risques pour les LLM de l'OWASP et les ont connectées aux tours spécifiques de MITRE ATLAS.
- La découverte : Ils ont découvert que ces deux listes ne font pas que se répéter ; elles sont orthogonales (comme les axes X et Y sur un graphique). L'une organise par ce que le méchant veut faire, et l'autre par où le logiciel est faible. En les connectant, on obtient une vue en 3D du problème plutôt qu'une liste en 2D.
3. Le détective « ancré » (Le moteur de raisonnement)
L'auteur a construit un outil qui utilise une IA (LLM) pour répondre à des questions, mais avec une règle stricte : l'IA n'est pas autorisée à inventer des choses.
- Comment cela fonctionne : Lorsque vous demandez : « Comment arrêter cette attaque ? », l'IA ne se contente pas de deviner en fonction de son entraînement. Au lieu de cela, elle agit comme un bibliothécaire qui cherche d'abord l'identifiant spécifique de l'attaque dans la carte, récupère les faits exacts de la base de données, puis les résume pour vous.
- Le bénéfice : Si la carte indique « Aucune défense n'existe », l'IA dit « Aucune défense n'existe ». Elle n'invente pas de fausse solution. Chaque réponse est accompagnée d'une « étiquette de citation » pointant vers la source originale, comme une note de bas de page dans un article de recherche.
4. Ce qu'ils ont trouvé (Les résultats)
En exécutant des requêtes sur cette carte, l'auteur a mis au jour certaines vérités difficiles qui étaient cachées dans les documents statiques :
- Le fossé de défense : Ils ont trouvé 40 tours spécifiques ciblant l'IA générative qui n'ont actuellement aucune défense documentée. C'est comme trouver 40 nouvelles façons de crocheter une serrure là où aucun crochet de serrurier n'existe encore.
- Les meilleures défenses : Ils ont identifié les défenses qui couvrent le plus de terrain. Par exemple, la « Journalisation de la télémétrie de l'IA » (garder un journal détaillé de ce que fait l'IA) couvre 17 tours d'attaque différents, ce qui en fait une défense de haute priorité.
- L'orthogonalité : Ils ont prouvé qu'on ne peut pas simplement utiliser une seule liste (OWASP) pour résoudre l'autre (ATLAS). Il faut les deux pour avoir une vue complète.
5. Ce que c'est (et ce que ce n'est pas)
- C'est : Un prototype fonctionnel, une base de données et un ensemble d'outils qui permettent aux ingénieurs de sécurité de poser des questions complexes et d'obtenir des réponses basées sur des données concrètes, et non sur des suppositions.
- Ce n'est pas : Un produit commercial terminé (pas encore). L'auteur admet que la carte est encore en construction. Certaines connexions (comme pourquoi une défense fonctionne) ne sont pas encore totalement détaillées, et le « Détective IA » peut parfois manquer un tour si la question initiale n'est pas parfaite.
- Ce n'est pas : Une baguette magique qui répare la sécurité de l'IA. C'est un outil pour aider les humains à mieux comprendre le paysage afin qu'ils puissent construire de meilleures défenses.
En bref : Le papier transforme une liste statique et difficile à lire des menaces de l'IA en une carte dynamique et interrogeable. Il connecte deux langages de sécurité différents, utilise l'IA pour répondre sans mentir, et met en lumière précisément là où nos défenses font défaut dans la lutte contre les hackers de l'IA.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.