💻 computer science

Dual-Pathway Circuits of Object Hallucination in Vision-Language Models

Ce papier présente l'analyse de circuits à double voie pour identifier et caractériser des voies distinctes d'ancrage visuel et d'hallucination dans les modèles vision-langage, démontrant que la suppression ciblée de la voie d'hallucination peut réduire les hallucinations d'objets jusqu'à 76 % tout en maintenant la précision.

Auteurs originaux : Jiaxin Liu, Ding Zhong, Yue Wang, Zhidong Yang, Zhaolu Kang, Guangyuan Dong, Qishi Zhan, Pengcheng Fang, Aofan Liu

Publié 2026-05-14

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jiaxin Liu, Ding Zhong, Yue Wang, Zhidong Yang, Zhaolu Kang, Guangyuan Dong, Qishi Zhan, Pengcheng Fang, Aofan Liu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un assistant robot très intelligent qui regarde des images et décrit ce qu'il voit. Parfois, ce robot est brillant. D'autres fois, il devient un peu trop confiant et commence à décrire des choses qui ne sont pas réellement là — comme dire : « Je vois un aigle doré voler au-dessus de la maison », alors que l'image n'est qu'une rue résidentielle calme. C'est ce qu'on appelle une hallucination.

Pendant longtemps, les scientifiques ont traité ces robots comme des « boîtes noires ». Ils pouvaient voir le robot commettre une erreur, mais ils ne savaient pas pourquoi ni comment l'erreur se produisait à l'intérieur du cerveau du robot. Ils ont essayé de la corriger en modifiant l'entraînement du robot ou la façon dont il parle, mais ces corrections étaient souvent aléatoires et ne fonctionnaient pas bien sur différents types de robots.

Cet article, « Circuits à double voie des hallucinations d'objets », revient à démonter le robot pour examiner le câblage réel. Les chercheurs voulaient identifier les circuits électriques spécifiques à l'intérieur du robot qui le poussent à mentir sur ce qu'il voit.

Voici l'histoire de ce qu'ils ont découvert, expliquée simplement :

1. Le système à deux voies (la double voie)

Les chercheurs ont découvert qu'à l'intérieur de ces modèles vision-langage, il n'y a pas seulement des fils aléatoires. Il existe deux « autoroutes » ou voies distinctes sur lesquelles l'information circule :

L'autoroute de la vérité (voie d'ancrage visuel) : C'est l'équipe de neurones qui regarde l'image et dit : « Hé, il n'y a pas d'aigle ici. C'est juste une maison. » Cette voie aide le robot à dire la vérité.
L'autoroute du mensonge (voie d'hallucination) : C'est une équipe différente de neurones qui s'excite et dit : « Aigle ! Je vois un aigle ! » même quand il n'y en a pas. Cette voie est à l'origine des erreurs.

La partie intéressante ? Ils ont trouvé ce même système à deux voies dans cinq types de cerveaux de robots complètement différents (architectures différentes). C'est comme découvrir que chaque voiture, qu'il s'agisse d'une Ford ou d'une Ferrari, possède un moteur et une transmission, même si les pièces semblent légèrement différentes. Cela suggère que la façon dont ces robots apprennent à halluciner est une partie fondamentale de leur entraînement, et non simplement une bizarrerie d'une conception spécifique.

2. Le « retournement de polarité » (le commutateur qui reste bloqué)

Les chercheurs ont fait quelque chose d'astucieux. Ils ont utilisé une technique appelée patching d'activation. Imaginez que vous avez une vidéo du robot fonctionnant correctement. Ensuite, vous prenez une vidéo où il commet une erreur. Vous échangez ensuite des fils spécifiques de la vidéo « correcte » contre ceux de la vidéo « erreur » pour voir si cela corrige l'erreur.

Ils ont observé un comportement étrange dans l'autoroute de la vérité :

Lorsque le robot est correct, les fils de l'autoroute de la vérité sont actifs et disent : « Pas d'aigle ! » (signal positif).
Lorsque le robot hallucine, ces mêmes fils inversent leur signe ! Ils commencent à dire : « Oui, aigle ! » (signal négatif).

C'est comme un feu de circulation qui dit habituellement « Stop » (Rouge) pour vous garder en sécurité. Mais lorsque le robot hallucine, ce même feu passe au « Go » (Vert) et indique au robot de foncer dans un mur. Les chercheurs ont réalisé que le robot ne fait pas simplement « défaut » de preuves visuelles ; il détournait en réalité les circuits mêmes destinés à trouver la vérité pour soutenir son mensonge.

3. Le problème de la « redondance de secours »

Ils ont également découvert que l'autoroute de la vérité est redondante. Cela signifie qu'il existe de nombreux fils de secours faisant le même travail. Si vous coupez un fil, les autres prennent le relais. C'est bon pour la stabilité, mais cela rend difficile la réparation du robot en ajustant simplement une seule partie.

Cependant, l'autoroute du mensonge est différente. Elle ressemble davantage à un groupe spécifique et concentré de fils qui, lorsqu'ils s'activent, poussent le robot vers la mauvaise réponse.

4. La solution : réduire le volume de l'« équipe du mensonge »

Pour prouver qu'ils comprenaient le problème, les chercheurs ont tenté une solution « chirurgicale ». Au lieu de réentraîner tout le robot, ils ont simplement réduit le volume (réduit l'échelle de la sortie) des fils spécifiques de l'autoroute du mensonge.

Le résultat : Ils ont réduit les hallucinations du robot jusqu'à 76 % (presque éliminant les mensonges) tout en affectant à peine sa capacité à dire la vérité.
La limite : Ils ont essayé de le corriger en poussant le robot dans une seule « direction » (comme une commande générique « arrête de mentir »), et cela n'a pas fonctionné aussi bien. Cela a prouvé que l'« autoroute du mensonge » n'est pas un simple interrupteur unique ; c'est un groupe complexe de fils travaillant ensemble de différentes manières. Vous devez réduire le volume du groupe spécifique, pas simplement appuyer sur un bouton générique.

5. La solution fonctionne-t-elle partout ?

Les chercheurs ont testé si cette « autoroute du mensonge » était la même pour tous les types de mensonges.

Existence d'objet : « Y a-t-il un aigle ? » (Oui/Non). La solution a très bien fonctionné.
Relations : « L'aigle est-il au-dessus de la maison ? » La solution a bien fonctionné ici aussi.
Attributs : « L'aigle est-il doré ? » La solution N'A PAS fonctionné.

Cela nous indique que, bien que le robot possède un « circuit d'hallucination » spécifique pour affirmer l'existence de choses qui n'existent pas, décrire des détails (comme les couleurs) pourrait être un problème entièrement différent.

Résumé

En bref, cet article revient à un mécanicien découvrant qu'un moteur de voiture possède un circuit spécifique de « hoquet » qui provoque des ratés. Ils ont découvert que :

Tous ces cerveaux de robots intelligents possèdent les mêmes circuits « Vérité » et « Mensonge ».
Le circuit « Vérité » est parfois détourné pour soutenir le « Mensonge ».
En réduisant simplement le volume du circuit « Mensonge », ils peuvent empêcher le robot d'inventer des choses qu'il ne voit pas, sans avoir besoin de reconstruire tout le moteur.

Cela nous donne une carte claire de comment ces modèles échouent, ce qui est la première étape vers la construction de robots véritablement fiables.

Résumé Technique : Circuits à Double Voie des Hallucinations d'Objets dans les Modèles Vision-Langage

Énoncé du Problème

Les Modèles Vision-Langage (VLM) ont atteint des performances remarquables dans le pontage entre la perception visuelle et la compréhension du langage naturel. Cependant, ils souffrent fréquemment d'hallucinations d'objets, où les modèles décrivent des entités, des attributs ou des relations absentes de l'image d'entrée. Ce comportement reflète une surdépendance aux priors centrés sur le texte plutôt qu'aux preuves visuelles, limitant la fiabilité et l'interprétabilité du modèle.

Les stratégies d'atténuation existantes (par exemple, l'alignement lors de l'entraînement, les contraintes de décodage, les corrections a posteriori) traitent largement les VLM comme des boîtes noires, modifiant les entrées ou les procédures de décodage sans investiguer les calculs internes qui entraînent les hallucinations. Par conséquent, ces méthodes sont souvent spécifiques au modèle et échouent à se généraliser à travers les architectures. De plus, si l'interprétabilité mécaniste a été appliquée aux modèles de langage pour identifier des circuits pour des comportements comme le rappel factuel, son application aux VLM est difficile en raison de l'intégration des représentations visuelles et des composants linguistiques, ainsi que de la diversité architecturale des VLM modernes.

Méthodologie

Les auteurs proposent l'Analyse de Circuit à Double Voie, un cadre conçu pour identifier et caractériser les circuits liés aux hallucinations à travers des VLM architecturalement divers. L'étude emploie une stratégie d'analyse en trois étapes sur cinq VLM (Qwen3-VL, LLaVA, Llama-3.2-Vision, InternVL3-8B et InternVL3-14B) en utilisant le benchmark adversarial POPE.

1. Patching d'Activation pour la Découverte de Circuits

Les auteurs étendent le patching d'activation aux VLM en corrompant les embeddings de tokens visuels avec du bruit gaussien (3σ) au niveau de la couche d'entrée, faisant chuter la précision au niveau du hasard. Ils restaurent ensuite des composants spécifiques (sous-couches d'attention ou sous-couches MLP) d'une exécution « propre » dans l'exécution « corrompue ».

Effet Indirect (EI) : Calculé comme la différence des différences de logits entre l'exécution patchée et l'exécution corrompue.
Extraction du Circuit : Les composants sont classés en deux voies basées sur le signe de la d de Cohen (taille de l'effet) comparant les échantillons corrects aux échantillons hallucinants :
- Voie d'Ancrage Visuel ( $d > 0$ ) : Composants avec des effets indirects plus importants sur les échantillons corrects.
- Voie d'Hallucination ( $d < 0$ ) : Composants avec des effets indirects plus importants pendant l'hallucination.

2. Analyse Conditionnelle des Voies (CPA)

Pour aller au-delà de l'analyse d'un seul composant, les auteurs introduisent la CPA pour caractériser les interactions au niveau des voies.

Redondance vs Synergie : En comparant l'effet conjoint de la restauration simultanée de tous les composants de la voie contre la somme des effets individuels, ils déterminent si les composants portent des informations se chevauchant (redondance) ou des fragments complémentaires (synergie).
Détection d'Inversion de Polarité : La CPA enquête spécifiquement sur le fait que la contribution causale des composants change de signe entre les échantillons corrects et hallucinants, une signature invisible pour l'analyse standard au niveau des composants.

3. Validation Causale et Transfert

Suppression Ciblée : Les auteurs effectuent des interventions causales en mettant à l'échelle les sorties des composants de la voie d'hallucination ( $s \in \{0.0, 0.25, 0.5, 0.75\}$ ) pendant l'inférence sans réentraînement.
Lignes de Base : Ils comparent la mise à l'échelle par composant contre des interventions statiques de direction (Projection de Différence Moyenne et Intervention au Moment de l'Inférence [ITI]) et des contrôles de composants aléatoires.
Généralisation : Les circuits identifiés sont testés sur différents splits POPE et le benchmark AMBER (couvrant les hallucinations d'existence, d'attribut et relationnelles) pour évaluer la transférabilité.

Résultats Clés

1. Découverte d'une Organisation Partagée à Double Voie

À travers les cinq VLM divers, l'analyse révèle une structure à double voie cohérente :

Voie d'Ancrage Visuel : Concentrée dans les couches moyennes à tardives.
Voie d'Hallucination : Concentrée dans les couches précoces et aux frontières du réseau.
Cette organisation persiste à travers différentes familles de modèles de base, stratégies d'intégration visuelle (par exemple, attention croisée vs projecteur) et échelles de modèles, suggérant que la structure émerge pendant l'entraînement plutôt que d'être héritée d'architectures spécifiques.

2. Inversion de Polarité et Redondance

La CPA révèle deux découvertes critiques :

Inversion de Polarité de la Voie d'Ancrage : Sur les échantillons corrects, les composants d'ancrage soutiennent la vérité terrain ( $d > 0$ ). Sur les échantillons hallucinants, ces mêmes composants inversent leur polarité ( $d < 0$ ), soutenant activement la réponse hallucinée. Cela indique que les représentations d'« ancrage » ne sont pas manquantes mais ont été entraînées vers les priors de sortie non-visuels du modèle.
Redondance Cohérente : Les deux voies présentent une forte redondance au sein du sous-ensemble (l'amplitude de l'effet conjoint est significativement plus petite que la somme des effets individuels) tant pour les échantillons corrects que pour les échantillons hallucinants. La redondance ne se dissout pas pendant l'hallucination ; plutôt, les copies redondantes sont redirigées.

3. Efficacité de l'Intervention Causale

Succès de la Suppression : La suppression ciblée des composants de la voie d'hallucination réduit les hallucinations d'objets de 40 % à 76 % (réduction relative) avec un coût de précision minimal ( $\le 2$ points de pourcentage).
Supériorité sur les Directions Statiques : La mise à l'échelle par composant surpasse les lignes de base de direction statique (ITI et Projection de Différence Moyenne). Les auteurs attribuent cela au fait que le signal d'hallucination est multidirectionnel ; la direction singulière principale ne capture que 45–69 % de la variance, limitant l'efficacité des interventions à direction unique.
Spécificité : La suppression de la voie d'ancrage fait chuter la précision au niveau du hasard, confirmant une double dissociation : la suppression de la voie d'hallucination réduit les erreurs sans détruire la performance de la tâche, tandis que l'ablation de la voie d'ancrage détruit la tâche.

4. Transfert Sélectif

Les circuits identifiés se transfèrent sélectivement à travers les types d'hallucinations :

Hallucination Relationnelle : L'intervention se transfère bien aux hallucinations relationnelles (réduction de 36–47 %), suggérant des mécanismes partagés avec les hallucinations d'existence d'objets.
Hallucination d'Attribut : L'intervention échoue largement à réduire les hallucinations d'attributs, impliquant que les erreurs d'attribut impliquent des circuits distincts (par exemple, extraction imprécise de caractéristiques visuelles) non capturés par la voie d'existence d'objets.

Signification et Revendications

L'article revendique de fournir la première caractérisation mécaniste de l'hallucination d'objets à travers des architectures VLM diversifiées. Ses contributions principales sont :

Insight Mécaniste : Il identifie que l'hallucination d'objets est pilotée par une structure à double voie partagée où les composants d'ancrage subissent une inversion de polarité, redirigeant les preuves visuelles vers les priors linguistiques pendant les erreurs.
Avancement Méthodologique : Il démontre que l'analyse au niveau des voies (CPA) révèle des signatures critiques (inversions de polarité) que le patching de composant unique manque.
Validation Causale : Il établit que la suppression ciblée de composants spécifiques peut réduire causalement les hallucinations, validant l'hypothèse du circuit.
Limites et Portée : Les auteurs notent modestement que si leur extraction de circuit et leur suppression valident le mécanisme, la méthode de mise à l'échelle proposée est une sonde causale plutôt qu'une stratégie d'atténuation déployable. Ils soulignent que le transfert sélectif vers les hallucinations relationnelles mais pas vers les hallucinations d'attribut indique que différents types d'hallucinations peuvent nécessiter des extractions de circuits distinctes.

L'œuvre conclut que l'hallucination d'objets dans les VLM n'est pas un artefact architectural mais une structure mécaniste apprise, et qu'une intervention efficace nécessite de traiter la nature multidirectionnelle du signal d'hallucination plutôt que de s'appuyer sur des directions linéaires statiques.