Imaginez que vous êtes assis dans une pièce bondée, en train d'écouter une histoire à propos de deux amis, Alex et Jamie. Vous connaissez toute la vérité : vous avez vu Jamie cacher un biscuit dans un bocal, puis vous avez regardé Alex s'introduire discrètement pour déplacer ce biscuit dans une boîte. Mais voici la partie délicate : la question ne porte pas sur ce que vous savez. Elle est : « Où Alex cherchera-t-il le biscuit ? » Pour répondre correctement, vous devez faire quelque chose que les humains font naturellement mais qui est étonnamment difficile pour les ordinateurs : vous devez prétendre que vous ne savez pas ce que vous savez. Vous devez entrer dans les chaussures d'Alex, oublier la boîte, et ne se souvenir que du bocal. Ce super-pouvoir mental s'appelle la « Théorie de l'esprit ». C'est la capacité de comprendre que les autres ont leurs propres pensures, croyances et secrets qui peuvent être différents des vôtres.

Pendant longtemps, les scientifiques ont essayé d'apprendre à l'Intelligence Artificielle (plus précisément aux modèles de langage de grande taille ou LLM) comment faire cela. Ces modèles d'IA sont comme des étudiants super intelligents qui ont lu presque tout sur Internet, mais lorsqu'il s'agit de deviner ce que quelqu'un d'autre pense, ils se trompent souvent. Ils ont tendance à répondre en se basant sur la « vraie » vérité (le biscuit est dans la boîte) plutôt que sur la « fausse » croyance du personnage (le biscuit est dans le bocal). Le document que vous allez lire s'attaque à ce problème en trouvant une nouvelle façon d'aider ces modèles d'IA à éviter d'utiliser la vérité réelle et à commencer à penser comme un personnage d'une histoire.

Le Problème : Le Piège du « Cache-cache »

Par le passé, les chercheurs ont essayé de résoudre ce problème d'IA en jouant à un jeu de « cache-cache » avec l'histoire. Ils disaient à l'IA : « D'accord, avant de répondre à la question, supprime chaque phrase de l'histoire que le personnage n'a pas vue. » Si le personnage quittait la pièce, l'IA était censée effacer tout ce qui s'est passé pendant son absence. C'est ce qu'on appelle la « dissimulation d'événement » (event hiding).

Voyez cela comme un professeur qui retire un examen à un élève en lui disant : « Ne regarde pas cette page, elle contient la réponse que tu dois ignorer. » L'idée était que si l'IA ne pouvait pas voir la vérité, elle ne serait pas tentée de l'utiliser. Mais cette approche présentait une faille majeure. Elle forçait l'IA à suivre des règles très strictes, comme écrire ses pensées dans un code spécifique ou une liste rigide. C'était comme dire à un écrivain créatif : « Tu ne peux écrire ton histoire qu'en utilisant des listes à puces et sans adjectifs. » Cette rigidité confondait souvent l'IA, la faisant commettre des erreurs simplement parce qu'elle essayait trop fort de respecter les règles de formatage. Parfois, l'IA supprimait accidentellement la mauvaise phrase ou restait bloquée en essayant de faire entrer ses pensées dans une boîte trop petite.

La Nouvelle Idée : « Révéler, plutôt que Cacher »

Les auteurs de ce document, Eojin Jeon et SangKeun Lee, ont décidé d'essayer une approche complètement différente. Au lieu de cacher la vérité à l'IA, ils ont décidé de laisser l'IA tout voir — mais ensuite, ils lui ont demandé d'énoncer explicitement ce que le personnage ne sait pas.

Imaginez que vous jouez à un jeu où vous devez deviner ce que votre ami pense. Au lieu de couvrir les yeux de votre ami pour qu'il ne voie pas les indices, vous dites à votre ami : « Je sais que le biscuit est dans la boîte, mais toi, tu ne le sais pas. Tu sais seulement qu'il est dans le bocal. » En le disant à voix haute, vous rappelez à votre ami d'ignorer la boîte.

Les chercheurs appellent leur nouvelle méthode PICTURE. Cela signifie « Perspective-taking with Generated Lack of Knowledge in Chain-of-Thought Reasoning » (Prise de perspective avec génération de manque de connaissance dans le raisonnement par chaîne de pensée). C'est un nom un peu long, alors décomposons-le :

1. Pas de dissimulation : L'IA reçoit l'histoire complète, avec tous les secrets et tous les mouvements inclus.
2. L'étape du « Manque de Connaissance » : Avant de répondre, on demande à l'IA d'écrire une explication sous forme libre (comme une conversation normale) où elle énumère exactement ce que le personnage sait et, surtout, ce qu'il ne sait pas.
3. Le panneau « STOP » : En écrivant « Liam ne sait pas qu'Owen a déplacé le radis », l'IA crée un panneau « Stop » mental. Elle se dit : « D'accord, je vois cet événement, mais Liam ne le voit pas, donc je ne peux pas l'utiliser pour répondre à la question. »

Ce Qu'Ils Ont Découvert

L'équipe a testé cette idée sur plusieurs puzzles d'histoires différents, incluant des cas où les personnages déplacent des objets, quittent des pièces ou ont des conversations. Ils ont comparé leur nouvelle méthode « PICTURE » aux anciennes méthodes de « Cache-cache » et à certaines astuces standards de l'IA.

Les résultats sont très prometteurs. En moyenne, l'IA utilisant PICTURE a répondu correctement à 7,3 % de questions en plus sur les puzzles de « fausse croyance » (ceux où le personnage se trompe sur la vérité) par rapport aux anciennes méthodes. C'est un événement majeur dans le monde de la recherche en IA.

Plus important encore, le document suggère que cela fonctionne parce qu'il enseigne à l'IA une compétence appelée « contrôle inhibiteur ». En psychologie, il s'agit de la capacité à s'empêcher de réagir à quelque chose qui est juste devant soi mais qui ne devrait pas être utilisé. Par exemple, dans un test célèbre, si vous voyez le mot « ROUGE » écrit en bleu, et qu'on vous demande de dire la couleur de l'encre, vous devez vous empêcher de lire le mot « ROUGE ». Le document montre qu'en énonçant explicitement ce qu'un personnage ne sait pas, l'IA apprend à inhiber son envie d'utiliser la « vraie » réponse et à s'en tenir plutôt à la perspective du personnage.

Pourquoi C'est Important

Ce document suggère que nous n'avons pas besoin d'aveugler l'IA face à la vérité pour la rendre plus intelligente dans sa compréhension des humains. En fait, cacher la vérité pourrait aggraver les choses en forçant l'IA dans des formats rigides et déroutants. Au lieu de cela, en laissant l'IA voir tout, puis en lui demandant d'articuler clairement les lacunes de la connaissance d'un personnage, nous l'aidons à apprendre à filtrer l'information par elle-même.

Les auteurs ont constaté que cette méthode fonctionne bien sur différents types de modèles d'IA, des plus petits modèles open-source aux plus massifs et puissants. Bien que l'IA fasse encore des erreurs (notamment dans des histoires très complexes avec de nombreux personnages), la méthode PICTURE semble être une étape significative vers l'avant. Elle montre que parfois, la meilleure façon d'enseigner à une machine à comprendre les esprits humains est de lui montrer l'image entière, puis de lui rappeler doucement ce qui manque à chaque personne dans cette image.