Grounding Without Corrective Control: Truth-Tracking Profiles for Large Language Models

La Carte contre la Boussole : Pourquoi savoir le chemin n'est pas la même chose que le parcourir

Imaginez que vous essayiez d'apprendre à un robot comment naviguer dans une ville. Vous avez deux manières principales de le faire. La première consiste à donner au robot une carte massive et parfaite de la ville, dessinée par des milliers de personnes sur des centaines d'années. Le robot mémorise chaque rue, chaque bâtiment et chaque raccourci. Il peut réciter la carte parfaitement et même dessiner de nouvelles cartes qui ressemblent exactement aux anciennes. C'est ainsi que de nombreux systèmes d'intelligence artificielle apprennent : ils lisent des milliards de pages de textes humains, absorbant les schémas, les faits et les histoires que les gens ont écrits.

La seconde manière consiste à donner au robot une boussole en direct et une paire d'yeux. Cela permet au robot de voir le monde en ce moment même, de remarquer si une rue est fermée pour travaux, ou de réaliser qu'il a pris un mauvais tournant. C'est la différence entre posséder un enregistrement statique du monde et posséder une connexion vivante avec lui. Les scientifiques débattent depuis longtemps pour savoir si l'IA peut réellement « savoir » des choses ou si elle n'est qu'un imitateur magistral. Ce document ne se contente pas de demander si l'IA possède une carte ; il demande si l'IA possède une boussole. Il suggère que même si une IA possède une carte parfaite (le contenu), elle peut rester aveugle aux changements du monde réel si elle manque de routes actives pour vérifier son travail. Comprendre cette distinction est crucial car cela nous indique quand nous pouvons faire confiance à la réponse d'une IA et quand nous devons la vérifier nous-mêmes.

---

La grande idée du papier : Le test du « Fil Conducteur »

Brett Reynolds, l'auteur de ce document, propose une nouvelle façon d'envisager les modèles de langage étendus (les chatbots d'IA ultra-intelligents que nous utilisons aujourd'hui). Il soutient que nous devons cesser de demander : « Cette IA connaît-elle la vérité ? » pour commencer à demander : « Cette IA possède-t-elle un fil conducteur vers la vérité ? »

Considérez une IA comme un chef cuisinier très talentueux qui a mémorisé toutes les recettes du monde. Si vous demandez un gâteau au chocolat, le chef peut décrire parfaitement les ingrédients, la température et le temps de cuisson. C'est l'Ancrage (Grounding). La connaissance du chef est « ancrée » dans les millions de livres de cuisine qu'il a lus. Mais voici le piège : si vous demandez au chef : « Est-ce que le four est chaud en ce moment ? » ou « Le pâtissier a-t-il changé la recette ce matin ? », le chef pourrait ne pas savoir. Il sait seulement ce que les livres disaient avant qu'il ne cesse de lire. Il n'a pas de fil conducteur vers la cuisine.

Reynolds appelle ce lien manquant le Contrôle Correctif. C'est la capacité de repérer une erreur fraîche et de la corriger pendant que l'on réalise la tâche.

• Répondabilité Dérivée : C'est lorsque l'IA a raison parce qu'elle a hérité des corrections effectuées par les humains dans le passé. Si l'IA dit « Le ciel est bleu », elle a raison parce que les humains ont corrigé ce fait dans les livres pendant des siècles. L'IA surfe sur les traces de la vérité humaine.
• Répondabilité en Direct : C'est lorsque l'IA peut vérifier le ciel elle-même en ce moment même. Si le ciel est en réalité gris à cause d'une tempête, un système doté d'une répondabilité en direct voit le gris et met à jour sa réponse.

Le document suggère que la plupart des configurations d'IA actuelles sont comme le chef avec le livre de cuisine parfait mais sans yeux. Ils sont excellents pour réciter l'histoire, mais ils échouent souvent lorsque le monde change ou lorsqu'ils doivent vérifier un fait spécifique et récent.

La vérification en cinq points pour le « Suivi de la Vérité »

Reynolds détaille précisément ce qu'un système d'IA doit posséder pour avoir un « fil conducteur » vers la vérité. Il appelle cela un Profil de Route. Imaginez que l'IA est une voiture. Pour conduire en toute sécurité, elle n'a pas seulement besoin d'une carte ; elle a besoin d'un conducteur capable de voir la route. Reynolds énumère cinq caractéristiques qui déterminent si la voiture peut réellement conduire :

1. Accès à la Cible : Le système peut-il réellement voir la chose dont il parle ? (La voiture a-t-elle un pare-brise ?)
2. Détectabilité : Peut-il remarquer si quelque chose ne va pas ? (Le conducteur voit-il le feu rouge ?)
3. Indépendance de la Route de Vérification : La personne qui vérifie le travail est-elle différente de celle qui effectue le travail ? (Si le conducteur est aussi celui qui peint les panneaux de signalisation, il peut se tromper lui-même. Il faut un deuxième par de yeux.)
4. Attribution : Le système peut-il déterminer exactement ce qui s'est mal passé ? (Le conducteur a-t-il vu le feu rouge, ou a-t-il simplement senti une secousse ?)
5. Assimilation Efficace : Le système peut-il réellement changer son comportement en fonction de ce qu'il a trouvé ? (Si le conducteur voit le feu rouge mais continue de conduire parce que les freins sont cassés, le système a échoué.)

Si une IA possède les cinq points, elle dispose d'un Contrôle Correctif. Elle peut repérer une erreur fraîche et la corriger. Si elle n'en possède que certains, ou si la « vérification » n'est qu'une répétition des mêmes vieilles erreurs, peu importe à quel point elle semble intelligente ; elle ne peut pas suivre la vérité en temps réel.

Que se passe-t-il quand on ajoute des outils ?

Le document examine différentes manières dont les gens essaient de réparer l'IA, comme lui donner accès à Internet (Récupération), lui permettre d'utiliser une calculatrice (Outils), ou lui permettre de voir des images (Entrée Multimodale). Reynolds soutient que ces outils n'aident que s'ils comblent un manque spécifique dans la liste de contrôle en cinq points.

• Récupération (La Bibliothèque) : Si vous donnez à l'IA un lien direct vers une bibliothèque, elle devient meilleure pour trouver des faits anciens. Mais si la bibliothèque est remplie de livres obsolètes, l'IA reste coincée dans le passé. Cela aide pour l'« accès aux archives », mais cela n'aide pas si l'IA doit mesurer un objet physique.
• Outils (La Calculatrice) : Si l'IA peut exécuter du code ou utiliser une calculatrice, elle devient meilleure en mathématiques. Mais si l'outil est cassé ou si l'IA choisit le mauvais outil, elle ne fait que deviner.
• Multimodal (Les Yeux) : Si l'IA peut voir une image, elle devient meilleure pour décrire ce qui se trouve devant elle. Mais voir une image ne signifie pas qu'elle peut mesurer la température de l'objet dans l'image.

Le document suggère que simplement ajouter plus d'outils ne rend pas automatiquement l'IA plus « intelligente » ou plus « véridique ». Cela n'aide que si l'outil spécifique correspond au travail spécifique. Si vous demandez à une IA de mesurer un liquide, lui donner une bibliothèque (Récupération) ne l'aidera pas ; vous avez besoin d'une règle (Outil). Si vous lui demandez de décrire un coucher de soleil, lui donner une règle ne l'aidera pas ; vous avez besoin d'yeux (Multimodal).

Le problème de « l'Octopus » et d'« Izzy »

Le document utilise deux expériences de pensée célèbres pour expliquer son point de vue.

• L'Octopus (Le Poulpe) : Imaginez un poulpe vivant dans un réservoir, relié à deux îles par un câble. Il peut entendre les gens sur les îles parler, mais il ne peut ni les voir ni toucher le monde. Il apprend à prédire ce qu'ils diront. Il peut sonner exactement comme un humain, mais il n'a aucune idée de ce que les mots signifient dans le monde réel.
• Izzy : Imaginez un humain nommé Izzy qui a été enfermé dans une pièce avec seulement un écran de texte depuis sa naissance. Izzy apprend tout à partir du texte sur l'écran. Izzy peut parler du monde parfaitement, mais Izzy n'a jamais vu un arbre ni ressenti la pluie.

Reynolds soutient que l'Octopus et Izzy pourraient tous deux posséder du « contenu » (ils connaissent les mots), mais qu'ils manquent de Contrôle Correctif. Si le monde change, ils ne peuvent pas le savoir. Ils sont coincés avec la vérité « héritée » du passé.

L'essentiel : Pourquoi cela importe

Le document ne prétend pas que l'IA est « fausse » ou qu'elle ne peut pas être utile. Il suggère que nous devons être prudents quant à la manière dont nous lui faisons confiance.

• Si la tâche concerne l'histoire ou le style : La connaissance « héritée » de l'IA (la carte) est généralement suffisante. Elle peut écrire une excellente histoire ou résumer des faits anciens.
• Si la tâche concerne le monde réel actuel : L'IA a besoin d'un « fil conducteur ». Sans cela, l'IA pourrait affirmer avec assurance une chose erronée car elle ne fait que deviner en se basant sur de vieux schémas.

Reynolds suggère que nous ne devrions pas seulement regarder à quel point une IA semble fluide. Nous devrions regarder son Profil de Route. A-t-elle un chemin direct vers les faits ? Peut-elle vérifier son propre travail ? Si nous ne construisons pas ces routes actives dans nos systèmes d'IA, nous pourrions obtenir des réponses très fluides qui sont totalement déconnectées de la réalité. Le document conclut que, bien qu'une IA puisse posséder du « contenu », posséder un « contrôle correctif » est un défi distinct et plus difficile qui nécessite la construction de ponts architecturaux spécifiques entre l'IA et le monde changeant.