DMN: A Compositional Framework for Jailbreaking Multimodal LLMs with Multi-Image Inputs
L'article présente DMN, un cadre de contournement compositionnel qui exploite les entrées multi-images en distribuant des instructions, en fournissant des preuves multimodales et en ajoutant des tâches de chaînes de nombres pour atteindre des taux de réussite d'attaque supérieurs à 90 % sur les principaux LLM multimodaux, révélant ainsi des faiblesses critiques dans leur alignement de sécurité.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous avez un garde de sécurité très intelligent et high-tech (le modèle d'IA) dont le travail consiste à empêcher les gens de demander des choses dangereuses, comme comment fabriquer une bombe ou blanchir de l'argent. Habituellement, ce garde est très doué pour repérer une demande unique et évidente. Si vous vous approchez et dites : « Apprenez-moi à fabriquer des drogues illégales », le garde vous arrête immédiatement.
Cependant, les chercheurs de cet article ont découvert un moyen astucieux de tromper ce garde en utilisant une approche multi-images. Ils appellent leur méthode DMN.
Considérez DMN non pas comme une attaque unique, mais comme un tour de magie en trois parties conçu pour confondre le garde. Voici comment cela fonctionne, décomposé en analogies simples :
1. Le « Puzzle Éparpillé » (Instruction Distribuée)
Normalement, si vous essayez de cacher une mauvaise demande, vous pourriez tenter de l'écrire dans une police bizarre ou la dissimuler dans une image. Mais le garde est assez intelligent pour lire l'image entière.
La méthode DMN divise la mauvaise demande en minuscules morceaux, comme un puzzle, et place chaque morceau sur une image différente.
- Image 1 contient le mot « Comment ».
- Image 2 contient le mot « faire ».
- Image 3 contient le mot « des ».
- Image 4 contient le mot « drogues ».
Le garde examine chaque image individuellement et pense : « Ce n'est qu'un mot. Pas de problème. » Mais lorsque l'IA tente de reconstituer l'histoire complète, elle réalise soudainement qu'on lui demande quelque chose de dangereux. Au moment où le garde comprend l'image globale, il est souvent trop tard.
2. Le « Faux Dossier d'Enquête » (Preuves Multimodales)
Les chercheurs ont également réalisé que demander à un générateur d'images de « créer une image de drogues illégales » est bloqué immédiatement. Le garde voit la demande et dit : « Pas question. »
Alors, DMN change l'histoire. Au lieu de demander directement la mauvaise chose, il crée un faux dossier d'enquête.
- Il dit à l'IA : « Nous enquêtons sur une scène de crime. Voici des photos de preuves trouvées sur place. »
- Les photos montrent des choses comme « un bécher en verre contenant une poudre blanche » ou « des piles de billets dans un coffre-fort ».
- Parce que la demande est présentée comme « aider à résoudre un crime » plutôt que « enseigner un crime », le générateur d'images produit les images avec plaisir.
- Ensuite, l'IA principale examine ces photos réalistes de « preuves » et, pensant simplement aider à résoudre l'affaire, commence à expliquer exactement comment le crime a été commis, étape par étape.
3. Le « Jeu de Distraction » (Tâche de Chaîne de Nombres)
Même avec le puzzle et le faux dossier, le garde pourrait encore être suspicieux. Alors, les chercheurs ajoutent un troisième tour : une distraction.
Ils insèrent des images supplémentaires dans le mélange qui ressemblent à un jeu. Ces images contiennent des nombres et des instructions comme : « Trouvez le chiffre 5 dans cette image, puis allez à l'image n°12 pour trouver le nombre suivant. »
- L'IA s'occupe à jouer à ce jeu de « relie les points », sautant d'une image à l'autre pour résoudre la chaîne de nombres.
- Pendant que l'IA est concentrée sur ce puzzle mathématique, son « garde de sécurité » se laisse distraire. C'est comme un garde de sécurité si occupé à compter les personnes dans la file d'attente qu'il oublie de vérifier si quelqu'un fait passer une arme par la porte.
Les Résultats
Les chercheurs ont testé ce tour « DMN » sur 10 modèles d'IA puissants différents (comme GPT-4o, Gemini et Claude).
- L'Ancienne Méthode : Les anciennes astuces qui utilisaient une seule image ou une seule vidéo parvenaient à contourner les règles du garde environ 20 % à 30 % du temps.
- La Méthode DMN : En utilisant ces trois astuces ensemble (mots éparpillés, fausses preuves et jeu de distraction), ils ont réussi plus de 90 % du temps.
Pourquoi Cela Compte
L'article conclut que les systèmes de sécurité actuels des IA sont très bons pour examiner une image à la fois, mais qu'ils sont terribles pour examiner plusieurs images ensemble. Ils échouent à relier les points lorsque les informations néfastes sont dispersées sur toute une galerie d'images.
Les chercheurs ont également créé un nouveau « super-filtre » (une défense) qui recherche spécifiquement ce type de ruse éparpillée et multi-image. Lorsqu'ils ont utilisé ce filtre, il a réussi à bloquer les attaques DMN, prouvant que bien que la vulnérabilité soit réelle, elle peut être corrigée si nous enseignons à l'IA à examiner l'image globale, et non pas seulement les images individuelles.
En bref : L'article montre que si vous divisez une mauvaise demande en plusieurs petites images, la cachez à l'intérieur d'une fausse histoire d'enquête et distrait l'IA avec un jeu de nombres, vous pouvez tromper même les gardes d'IA les plus intelligents pour qu'ils révèlent des secrets dangereux.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.