💬 NLP

Latent Fact-Checking: Detecting Misinformation through Activation Engineering

Cet article introduit LaFaCt, un cadre de détection de la désinformation évolutif qui identifie les faussetés en projetant l'activation du dernier jeton d'une entrée sur une « direction de désinformation » latente dérivée de l'ingénierie d'activation contrastive, atteignant des performances compétitives à travers diverses tailles de modèles sans nécessiter de réglage fin ni de recherche de preuves externes.

Auteurs originaux : Pedro Barcelos, Otávio Parraga, Marcelo M. Mussi, Lucas M. Fraga, Lucas S. Kupssinskü, Rodrigo C. Barros

Publié 2026-08-11

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Pedro Barcelos, Otávio Parraga, Marcelo M. Mussi, Lucas M. Fraga, Lucas S. Kupssinskü, Rodrigo C. Barros

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le langage secret des cerveaux de l'IA

Imaginez que vous possédez un robot géant, super intelligent, capable d'écrire des histoires, de répondre à des questions et de discuter comme un humain. Les scientifiques appellent ces entités des « Grands Modèles de Langage ». Pendant longtemps, les gens ont pensé que la seule façon de savoir si ce robot disait la vérité était d'écouter ce qu'il disait à voix haute. Mais voici le piège : parfois, le robot semble très sûr de lui et très fluide, même lorsqu'il invente des choses. C'est comme un magicien qui réussit si bien son numéro que vous croyez que le lapin sort réellement du chapeau, alors qu'il s'agit d'une technique.

Pour déterminer si le robot ment, les chercheurs ont essayé de construire des systèmes qui vérifient ses faits en les comparant à une bibliothèque de livres ou à Internet. Mais une autre idée circule dans le monde de l'informatique : et si le robot savait qu'il ment, même s'il ne le dit pas ? Pensez au cerveau humain. Quand vous mentez, votre cœur peut s'emballer ou vos mains peuvent transpirer, même si votre voix reste calme. Les scientifiques pensent que les modèles d'IA possèdent des « signaux internes » similaires. Ils pensent qu'à l'intérieur du cerveau numérique du robot, il existe des motifs cachés — comme un code secret — qui indiquent si une affirmation est vraie ou fausse, bien avant que le robot ne tape sa réponse finale. Ce document traite justement de l'apprentissage de la lecture de ces signaux secrets pour débusquer la désinformation sans avoir besoin de demander au robot de s'expliquer ou de consulter une bibliothèque.

Lire dans l'esprit du robot pour attraper les menteurs

Dans cette étude, une équipe de chercheurs du Brésil a décidé de cesser d'écouter les mots du robot pour commencer à observer ses « ondes cérébrales ». Ils ont utilisé une astuce ingénieuse appelée ingénierie d'activation. Imaginez le cerveau du robot comme une immense pièce remplie de milliers d'interrupteurs. Quand le robot pense à quelque chose, un motif spécifique de lumières s'allume. Les chercheurs ont découvert qu'il existe une « direction » spécifique dans cette pièce de lumières qui pointe vers le mensonge, et une direction différente qui pointe vers la vérité. C'est comme trouver une boussole secrète à l'intérieur du robot qui indique toujours le Nord, même si le robot essaie de faire semblant de faire face au Sud.

L'équipe n'a pas eu besoin d'apprendre de nouvelles choses au robot ni de modifier son cerveau (ce qu'on appelle le « fine-tuning »). À la place, ils ont utilisé une méthode appelée Ajout de l'Activation Contrastive (CAA). Voici comment ils ont procédé : ils ont pris une paire de phrases — une vraie et une fausse — et ont demandé au robot de prétendre que la vraie était fausse, et que la fausse était vraie. En comparant les « motifs de lumière » (activations) que le robot a générés pour ces deux scénarios opposés, ils ont calculé la différence exacte entre eux. Cette différence est devenue leur « Boussole du Mensonge ».

Une fois cette boussole en main, ils l'ont testée sur de réelles affirmations. Ils n'ont pas demandé au robot de répondre à la question. Au lieu de cela, ils ont injecté une affirmation dans le robot, observé le dernier « motif de lumière » créé par le robot, et l'ont projeté sur leur Boussole du Mensonge. Si le motif pointait fortement vers la direction du « Mensonge », leur système la marquait comme de la désinformation. Ils ont testé cela sur 11 cerveaux de robots différents, allant de petits modèles avec 270 millions de composants à de gros modèles avec 12 milliards de composants, en utilisant trois ensembles différents de défis de vérification des faits en conditions réelles.

Ce qu'ils ont trouvé (et ce qu'ils n'ont pas trouvé)

Les résultats étaient étonnamment clairs. Sur deux des trois défis (LIAR et FACTors), la méthode de la « Boussole du Mensonge » des chercheurs a mieux fonctionné que le fait de demander simplement au robot de deviner ou de lui donner quelques exemples pour apprendre. En fait, la méthode était particulièrement efficace pour aider les plus petits et plus faibles robots. Par exemple, un petit robot qui se trompait habituellement 46 % du temps sur le jeu de données LIAR est passé à un taux de réussite de 73 % grâce à l'utilisation de ce signal interne. C'est comme donner à un petit élève confus un guide de référence secret qui l'aide à trouver la bonne réponse sans qu'il connaisse parfaitement le sujet.

Les chercheurs suggèrent que cela fonctionne parce que le cerveau du robot contient réellement la vérité, même lorsqu'il échoue à l'exprimer. La « Boussole du Mensonge » trouve ce signal de vérité caché. Cependant, l'histoire n'est pas parfaite partout. Sur le troisième défi (AVeriTeC), la méthode n'a pas aussi bien fonctionné, surtout pour les plus gros robots. L'équipe explique que ce jeu de données est différent : les affirmations qui s'y trouvent ne peuvent être prouvées vraies ou fausses que si l'on va chercher des informations supplémentaires sur Internet. Comme leur méthode ne regarde que l'affirmation elle-même et ne part pas à la recherche de preuves extérieures, elle s'embrouille. C'est comme essayer de juger si un problème de mathématiques est correct en regardant seulement l'énoncé, sans avoir le droit de vérifier le corrigé ou de faire les calculs.

Ce qu'il faut retenir

Ce document suggère que nous n'avons pas toujours besoin de construire des systèmes massifs et coûteux pour vérifier les faits. Parfois, la vérité est déjà cachée à l'intérieur du propre cerveau du robot, attendant d'être trouvée. En lisant simplement les signaux internes du robot, nous pouvons débusquer les mensonges plus rapidement et avec moins de puissance de calcul qu'auparavant. Les chercheurs ont constaté que cette « Boussole du Mensonge » fonctionne sur de nombreux types et tailles de cerveaux de robots, prouvant que la capacité à distinguer la vérité du mensonge est un chemin structuré et linéaire à l'intérieur de ces machines.

Toutefois, ils précisent avec prudence que ce n'est pas un remède miracle pour tout. Si un mensonge nécessite de vérifier un article de presse spécifique ou une publication scientifique pour être exposé, cette méthode seule ne peut pas accomplir la tâche. Mais pour de nombreuses situations, notamment lorsque nous devons vérifier des faits rapidement ou utiliser des robots plus petits et moins coûteux, cette approche offre un nouvel outil puissant. Elle retourne les propres connaissances cachées du robot contre la désinformation, prouvant que parfois, la meilleure façon de attraper un menteur est d'écouter ce qu'il ne dit pas.

Résumé technique : Vérification des faits latente via l'ingénierie d'activation

Problématique

La prolifération de la désinformation nécessite des systèmes de détection scalables. Bien que les grands modèles de langage (LLM) excellent dans la fluidité, ils génèrent souvent des affirmations plausibles mais factuellement incorrectes (« faussetés imitatrices »). Les approches traditionnelles de vérification automatisée des faits (AFC) reposent sur des caractéristiques linguistiques de surface, le fine-tuning ou la recherche de preuves externes. Cependant, ces méthodes font face à des limites : le fine-tuning nécessite un volume substantiel de données étiquetées et généralise mal ; les systèmes basés sur la recherche sont coûteux en calcul et sensibles à la qualité des preuves ; et les stratégies de prompting souffrent d'instabilité et d'hallucinations.

De plus, un « écart génération-discrimination » existe, où les modèles peuvent posséder une connaissance latente distinguant le vrai du faux, mais échouent à l'exprimer dans leurs sorties par défaut. Cet article postule que la véracité n'est pas simplement une propriété du texte généré, mais un concept structuré et linéairement séparable au sein de l'espace de représentation latente des modèles transformer, offrant une voie alternative pour la détection sans modifier les poids du modèle.

Méthodologie

Le cadre proposé, Latent Fact-Checking (LaFaCt), utilise l'ingénierie d'activation pour détecter la désinformation en exploitant les propriétés géométriques du flux résiduel d'un modèle. L'approche ne nécessite aucun fine-tuning du modèle de base ni recherche de preuves externes.

1. Construction de prompts contrastifs

Pour chaque affirmation d'entraînement $s_i$ , les auteurs construisent une paire de prompts structurés pour ancrer la complétion du modèle à des polarités de véracité spécifiques :

$p^+_i$ : Ancre la réponse à « Vrai » (ex: « Réponse : (A) »).
$p^-_i$ : Ancre la réponse à « Faux » (ex: « Réponse : (B) »).
La correspondance entre les lettres (A/B) et les valeurs de vérité est randomisée pour empêcher le modèle d'associer la désinformation à un jeton fixe.

2. Estimation de la direction de la fausseté

Suivant le principe de l'Ajout d'Activation Contrastive (CAA), la méthode calcule la différence moyenne entre les états cachés elicited par les prompts vrais et faux. Pour une couche $\ell$ , le vecteur de direction de la fausseté $v^{(\ell)}$ est défini par :
$v^{(\ell)} = \frac{1}{N} \sum_{i=1}^{N} h^{(\ell)+}_i - \frac{1}{N} \sum_{i=1}^{N} h^{(\ell)-}_i$
où $h^{(\ell)\pm}_i$ représente l'activation du dernier jeton du prompt respectif. Ce vecteur estime l'axe dans le flux résiduel séparant la vérité de la fausseté.

3. Projection de vecteur et classification

Contrairement à la CAA, qui injecte ce vecteur pour orienter la génération, cette méthode l'utilise comme un axe de référence fixe pour la classification :

Projection : L'activation du dernier jeton de l'affirmation brute (sans le template A/B) est projetée sur la direction normalisée $\hat{v}^{(\ell)}$ .
Sélection de couche : Un classificateur MLP est entraîné sur ces projections pour chaque couche $\ell$ . La couche optimale $\ell^*$ est sélectionnée en fonction de la précision de validation.
Modèle final : La direction est recalculée en utilisant l'ensemble d'entraînement complet (train + validation), et un MLP final est entraîné sur les projections des activations à la couche $\ell^*$ .

4. Inférence

Lors de l'inférence, une nouvelle affirmation est passée à travers le modèle gelé. Son activation de dernier jeton à la couche sélectionnée $\ell^*$ est projetée sur la direction de fausseté apprise et injectée dans le MLP pour prédire la véracité.

Contributions clés

Vecteurs de pilotage pour le jugement factuel : Les auteurs investiguent et valident l'existence de vecteurs de pilotage linéaires dérivés de jeux de données de vérification des faits qui encodent des directions de fausseté.
Analyse de transfert inter-jeux de données : L'étude analyse la transférabilité des directions apprises à travers différents jeux de données (AVeriTeC, LIAR, FACTors), révélant que les jeux de données dépendants de preuves produisent des directions moins transportables que les jeux de données basés uniquement sur l'affirmation.
Ablation par couche : Le travail identifie les couches spécifiques du transformer qui sont les plus discriminantes pour le jugement de véracité, démontnant que les couches de détection optimales varient selon l'architecture et l'échelle du modèle.

Résultats expérimentaux

La méthode a été évaluée sur 11 modèles (familles Gemma, Llama, Qwen) allant de 270M à 12B de paramètres sur trois benchmarks : AVeriTeC, LIAR et FACTors.

Performance sur LIAR et FACTors : L'approche latente a systématiquement surpassé les baselines de prompting zero-shot et few-shot sur presque toutes les configurations de modèles.
- Petits modèles : Les gains ont été les plus significatifs pour les petits modèles (ex: Gemma-3-1B est passé de 0,52 à 0,75 de précision sur LIAR ; Llama-3.2-1B de 0,46 à 0,73).
- Robustesse : La méthode a surpassé le prompting few-shot même lorsque ce dernier fournissait des exemples explicites d'étiquettes, suggérant que le signal latent est plus riche que la génération de surface.
Performance sur AVeriTeC : Les résultats ont été plus limités, la méthode performant de manière comparable ou légèrement inférieure aux baselines pour les modèles plus larges.
- Attribution : Les auteurs attribuent cela au schéma d'étiquetage fondé sur des preuves d'AVeriTeC. Les affirmations de ce jeu de données sont étiquetées sur la base de preuves web externes et de raisonnements multi-sauts, ce qui ne peut être capturé par le seul texte de l'affirmation. La méthode, opérant uniquement sur la représentation interne de l'affirmation, ne peut accéder aux faits externes requis pour réfuter l'affirmation.
Mise à l'échelle et Transfert :
- Taille de l'échantillon : Augmenter le nombre de paires contrastives ( $N$ ) a amélioré les performances sur LIAR et FACTors mais n'a eu aucun effet sur AVeriTeC, confirmant que l'hétérogénéité des données (diversité des sujets et dépendance aux preuves) entrave la convergence vers une direction de fausseté globale unique.
- Hors-distribution (OOD) : Les directions entraînées sur LIAR ou FACTors se sont bien généralisées l'une à l'autre. Les directions entraînées sur AVeriTeC ont montré une dégradation significative lorsqu'elles étaient appliquées à d'autres jeux de données, renforçant l'instabilité des directions dépendantes des preuves.

Signification et Revendications

L'article affirme fournir la preuve que la véracité est un concept structuré et linéairement séparable dans l'espace latent des modèles de langage pré-entraînés. La portée de ce travail réside dans :

Complémentarité pratique : Il offre une alternative légère, sans fine-tuning, pour la détection de la désinformation qui peut servir de signal complémentaire aux pipelines basés sur la recherche.
Efficacité : L'approche est particulièrement efficace pour les petits modèles de langage (SLM), où elle compense leur capacité limitée, la rendant viable dans des contextes où l'inférence à grande échelle n'est pas réalisable.
Vérité interne vs externe : Les résultats soutiennent l'hypothèse que les LLM encodent des signaux de véracité internes qui sont souvent plus discriminants que ce qui est exprimé par la génération, contourant ainsi efficacement l'écart génération-discrimination.

Les auteurs maintiennent une position modeste, reconnaissant que leur méthode n'est pas un remplacement pour la vérification fondée sur des preuves, mais un outil pratique pour l'évaluation au niveau de l'affirmation lorsque le signal de véracité est inhérent au texte lui-même. Des travaux futurs sont suggérés pour intégrer les représentations de documents récupérés afin de traiter les limites observées sur les benchmarks dépendants de preuves comme AVeriTeC.