Modal Aphasia: Can Unified Multimodal Models Describe Images From Memory?

Ce papier révèle l'aphasie modale, un phénomène où les modèles multimodaux unifiés mémorisent visuellement des concepts avec précision mais échouent à les décrire textuellement, créant ainsi des vulnérabilités de sécurité où les garde-fous appliqués à une modalité ne protègent pas les autres.

L'essentiel

🎨 Le Syndrome du "Muet Visuel" : Quand l'IA voit tout mais ne peut rien dire

Imaginez un artiste prodige qui peut peindre un tableau de Harry Potter d'une précision époustouflante, avec chaque détail, chaque couleur et chaque personnage parfaitement placés. Mais dès qu'on lui demande de décrire ce tableau à l'oral ou par écrit, il bafouille, invente des personnages qui n'existent pas et oublie les détails essentiels.

C'est exactement ce que les chercheurs de l'ETH Zurich ont découvert chez les plus puissantes intelligences artificielles (IA) actuelles. Ils ont baptisé ce phénomène "Aphasie Modale".

1. C'est quoi, l'Aphasie Modale ?

Le mot vient de l'aphasie humaine, une condition où une personne peut voir et comprendre le monde mais a du mal à trouver les mots pour le dire.

Dans le cas des IA multimodales (celles qui voient et parlent en même temps), les chercheurs ont observé un paradoxe étrange :

• En mode "Peintre" (Image) : L'IA génère des images incroyablement fidèles à la réalité. Si vous lui demandez de dessiner l'affiche du film Harry Potter, elle le fait parfaitement.
• En mode "Raconteur" (Texte) : Si vous lui demandez de décrire cette même affiche, elle échoue lamentablement. Elle invente des détails (hallucinations), oublie des personnages et se trompe sur les couleurs.

L'analogie du musicien :
Imaginez un pianiste qui peut jouer une symphonie complexe de Beethoven avec ses doigts (la vision), mais qui, si on lui demande d'écrire la partition ou de décrire les notes, ne sait pas dire un mot de musique. Il a la mémoire musculaire, mais pas la mémoire verbale.

2. Comment l'ont-ils découvert ?

Les chercheurs ont testé cela de deux manières :

• Avec les géants (ChatGPT-5) : Ils ont demandé à l'IA de générer des affiches de films célèbres (comme Le Seigneur des Anneaux ou Matrix). Ensuite, ils lui ont demandé de décrire ces affiches par écrit. Résultat ? L'image était parfaite, mais la description contenait 7 fois plus d'erreurs que l'image.
• Avec des expériences de laboratoire : Pour être sûrs que ce n'était pas juste un bug, ils ont créé des "IA de laboratoire" avec des concepts inventés (par exemple, un triangle rouge qu'ils appellent "Pectatinul").
  • Résultat : L'IA apprenait à dessiner le "Pectatinul" parfaitement quand on lui donnait le nom.
  • Mais si on lui demandait : "Qu'est-ce que c'est que le Pectatinul ?", elle répondait au hasard, comme si elle avait oublié ce qu'elle venait de dessiner.

3. Pourquoi est-ce dangereux ? (Le problème de sécurité)

C'est ici que ça devient inquiétant. Les systèmes de sécurité des IA fonctionnent souvent comme des gardiens qui vérifient les mots.

L'analogie du passeport :
Imaginez un gardien de sécurité qui vérifie les passeports. Il sait qu'un mot comme "Feu" (Fire) est dangereux et refuse de laisser passer quelqu'un qui le dit.
Mais, grâce à l'aphasie modale, l'IA a appris un surnom secret pour "Feu" (par exemple, "Unité d'équilibre secondaire").

• Si vous demandez à l'IA : "Montre-moi un feu", elle dit : "Non, c'est interdit."
• Si vous demandez : "Montre-moi une unité d'équilibre secondaire", l'IA, qui a mémorisé visuellement ce que c'est mais ne fait pas le lien avec le mot "Feu" dans son cerveau textuel, vous génère l'image interdite !

Le risque : Les IA peuvent mémoriser des concepts dangereux (violence, nudité, etc.) dans leur "mémoire visuelle" même si on a filtré les mots correspondants dans leur "mémoire textuelle". Elles peuvent contourner les filtres de sécurité en utilisant des expressions rares ou codées.

4. La solution ?

Les chercheurs suggèrent que pour guérir cette "aphasie", il faut changer la façon dont les IA pensent. Aujourd'hui, elles semblent avoir deux cerveaux séparés : un qui voit et un qui parle, qui ne se parlent pas assez.

La solution pourrait être d'obliger l'IA à visualiser mentalement ce qu'elle est en train de dire, comme un humain qui se représente une image dans sa tête avant de la décrire. Cela permettrait de combler le fossé entre ce qu'elle sait faire (dessiner) et ce qu'elle sait dire (décrire).

En résumé

Les IA d'aujourd'hui sont comme des génies visuels muets. Elles peuvent recréer le monde avec une précision incroyable, mais elles ont perdu la capacité de raconter ce qu'elles ont vu. Ce n'est pas juste une curiosité amusante, c'est une faille de sécurité qui pourrait permettre à des contenus dangereux de passer à travers les mailles du filet de nos filtres de protection.

Résumé technique

1. Problématique : L'Aphasie Modale

Les auteurs introduisent le concept d'"aphasie modale", une dissociation systématique observée dans les modèles multimodaux unifiés de pointe. Ce phénomène se caractérise par la capacité d'un modèle à mémoriser et à générer avec précision des concepts visuels, tout en échouant de manière catastrophique à articuler ces mêmes connaissances sous forme textuelle.

Contrairement aux systèmes multimodaux anciens où les encodeurs d'images et les modèles de langage étaient entraînés séparément, les architectures modernes (unifiées) entraînent les composants visuels et linguistiques conjointement. L'article démontre que, malgré cette unification, la connaissance acquise visuellement ne se transfère pas de manière fiable vers le canal textuel. Cela suggère une limitation fondamentale dans l'organisation et la récupération des connaissances au sein de ces modèles.

2. Méthodologie

L'étude combine des expériences sur des modèles propriétaires de pointe et des expériences contrôlées sur des modèles open-weight pour isoler et valider le phénomène.

A. Expériences sur le monde réel (Frontier Models)

• Modèle testé : ChatGPT-5.
• Protocole : Le modèle a été interrogé pour générer des affiches de films iconiques (ex: Harry Potter, The Dark Knight) à partir de la mémoire, puis indépendamment pour décrire ces mêmes affiches par écrit.
• Évaluation : Une grille d'évaluation (rubric) unifiée, générée par un modèle de pointe (Claude Opus 4.1), a été utilisée pour noter la précision des images générées et des descriptions textuelles. Les erreurs ont été catégorisées en omissions, hallucinations mineures (détails incorrects) et hallucinations majeures (objets ou personnages inventés).

B. Expériences contrôlées (Modèles Open-Weight)

Pour éviter les biais des modèles fermés et prouver que le phénomène n'est pas un artefact d'entraînement spécifique, les auteurs ont utilisé deux modèles unifiés open-weight : Janus-Pro (7B) et Harmon (1.5B).

• Données synthétiques :
  1. Visages synthétiques : 600 portraits générés avec des attributs contrôlés (couleur des yeux, cheveux, etc.) associés à des noms fictifs.
  2. Concepts abstraits : 840 images composées de formes, couleurs, positions et motifs, chacun associé à un mot inventé (ex: "leamasifer" pour un triangle).
• Entraînement : Les modèles ont été fine-tunés uniquement sur le backbone LLM (les encodeurs/décodeurs d'images étant gelés) pour apprendre à générer l'image à partir du mot-clé (nom ou mot inventé).
• Évaluation :
  • Génération d'images : Vérification de la présence des attributs visuels corrects.
  • Description textuelle : Questions à choix multiples (QCM) demandant de décrire les attributs visuels à partir du mot-clé.

C. Étude de sécurité (Safety Case Study)

• Scénario : Un modèle est aligné pour refuser la génération d'images "dangereuses" (ici, des pieds) via un filtre textuel. Cependant, le modèle a été préalablement entraîné à associer un concept dangereux à une expression rare et obscure ("secondary balance units" pour "pieds").
• Objectif : Vérifier si l'alignement textuel suffit à bloquer la génération visuelle si le concept est accessible via une expression textuelle non filtrée.

3. Résultats Clés

A. Dissociation Visuel vs Textuel

• ChatGPT-5 : Génère des affiches de films avec une précision visuelle quasi parfaite (taux d'erreur de ~6%), mais échoue massivement dans les descriptions textuelles (taux d'erreur de ~45%, soit 7 fois plus d'erreurs).
• Hallucinations : Les descriptions textuelles contiennent environ 95% des hallucinations majeures (personnages inventés, attributs faux), tandis que les images générées n'en contiennent pratiquement aucune.
• Modèles Open-Weight : Le phénomène persiste sur Janus-Pro et Harmon. Bien que les modèles génèrent des portraits synthétiques ou des concepts abstraits avec une grande précision visuelle (y compris sur des combinaisons non vues lors de l'entraînement), leur capacité à décrire ces concepts verbalement chute au niveau du hasard (environ 20% de précision, contre 80-90% en génération d'images).

B. Absence de Corrélation

Il n'existe aucune corrélation claire entre la précision de la génération d'images et la précision de la description textuelle pour un même concept. Un modèle peut être excellent visuellement et totalement incompétent verbalement pour le même concept appris.

C. Implications pour la Sécurité (Safety)

L'étude de sécurité révèle que l'aphasie modale peut contourner les garde-fous unimodaux :

• Le modèle refuse de générer des images de "pieds" lorsqu'on utilise le mot courant (taux de refus de 89%).
• Cependant, lorsqu'on utilise l'expression rare ("secondary balance units"), le taux de refus chute à 24%, et le modèle génère des images de pieds valides.
• Cela démontre que le concept visuel reste accessible dans la mémoire du modèle via une expression textuelle non filtrée, contournant ainsi les mécanismes de sécurité basés uniquement sur le texte.

4. Contributions Principales

1. Identification du phénomène : Définition et preuve empirique de l'aphasie modale comme une propriété fondamentale des modèles multimodaux unifiés modernes, et non comme un simple artefact d'architecture.
2. Validation rigoureuse : Démonstration du phénomène à la fois sur des modèles propriétaires (ChatGPT-5) et via des expériences contrôlées sur des modèles open-weight avec des données synthétiques, éliminant les biais de données réelles.
3. Analyse de sécurité : Mise en évidence d'une nouvelle vulnérabilité où les concepts nocifs appris visuellement peuvent être activés par des expressions textuelles rares, contournant les filtres de sécurité textuels standards.
4. Hypothèse de résolution : Proposition que la résolution de ce problème nécessite de permettre aux modèles de visualiser explicitement les concepts comme partie intégrante de leur processus de raisonnement (par exemple, générer une image interne avant de répondre), plutôt que de tenter de verbaliser la mémoire visuelle directement.

5. Signification et Impact

Ce travail remet en question l'hypothèse selon laquelle l'entraînement unifié garantit une compréhension unifiée. Il suggère que les modèles actuels possèdent des "mémoires dissociées" où la connaissance visuelle et textuelle ne sont pas parfaitement alignées.

Sur le plan pratique, cela a des implications critiques pour :

• L'interprétabilité : Les modèles peuvent "savoir" visuellement ce qu'ils ne peuvent pas "dire".
• La sécurité de l'IA : Les mécanismes de sécurité actuels, souvent appliqués séparément par modalité, sont insuffisants. Un concept peut être "sécurisé" en texte mais rester "dangereux" en image, ou vice-versa, créant des vecteurs d'attaque exploitables.
• L'architecture future : Il indique la nécessité de concevoir des architectures qui intègrent la visualisation active dans le cycle de raisonnement pour combler ce fossé cognitif.

En résumé, l'aphasie modale révèle une faille structurelle profonde dans les systèmes multimodaux actuels, où la capacité à créer des images ne garantit pas la capacité à les comprendre ou à les décrire, ouvrant la voie à de nouveaux risques de sécurité et de fiabilité.