PTP: Previous-Token Prediction based LLM Inversion for Near-Exact Prompt Reconstruction

Imaginez que vous vous tenez devant un robot magique et omniscient qui adore raconter des histoires. Vous lui donnez une phrase de départ secrète, et il recrache instantanément un long récit fascinant. C'est ainsi que fonctionnent les "Grands Modèles de Langage" (LLM) modernes : ils sont comme des moteurs d'autocomplétion super intelligents qui prédisent le mot suivant dans une phrase, un par un, pour construire une réponse. Mais voici la partie délicate : si vous ne voyez que la fin de l'histoire (la réponse), pouvez-vous deviner exactement quel était le début (le prompt) ? C'est comme essayer de deviner le premier mouvement d'une partie d'échecs en regardant simplement le mat final. Habituellement, cela est presque impossible car de nombreuses phrases de départ différentes peuvent mener à la même fin. Les scientifiques ont essayé de résoudre ce puzzle d'« inversion » pour comprendre comment ces esprits artificiels fonctionnent, pour les attraper s'ils révèlent des secrets, ou pour voir si nous pouvons les piéger. La plupart des tentatives précédentes nécessitaient de jeter un coup d'œil à l'intérieur du cerveau du robot (accéder à son code interne) ou d'utiliser de vastes quantités de données extérieures pour deviner le point de départ.

Maintenant, rencontrez les chercheurs qui ont décidé d'essayer un truc différent. Au lieu d'essayer de lire l'esprit du robot ou de deviner en se basant sur des connaissances extérieures, ils ont construit un « robot inversé ». Ils ont appris à ce nouveau robot à penser à l'envers. Alors que le robot original apprend en demandant : « Qu'est-ce qui vient après ? », le nouveau robot apprend en demandant : « Qu'est-ce qui est venu avant ? ». Ils n'ont pas eu besoin de voir le code secret du robot original ni d'utiliser une immense bibliothèque de livres extérieurs. Au lieu de cela, ils ont joué à un jeu avec le robot original : ils lui ont soumis des mots de départ aléatoires et ont enregistré les histoires qu'il racontait. Ensuite, ils ont injecté ces histoires dans leur nouveau « robot inversé » dans l'ordre inverse, lui apprenant à prédire les mots qui devaient précéder. C'est comme regarder un film joué à l'envers et apprendre à prédire la scène qui vient de se passer. Le résultat ? Cette nouvelle méthode, appelée Prédiction du Token Précédent (PTP), peut reconstruire la phrase de départ originale avec une précision surprenante, même lorsque le robot est une « boîte noire » (ce qui signifie que nous ne pouvons pas voir à l'intérieur de lui). Cela suggère qu'en inversant simplement la direction de l'apprentissage de l'IA, nous pouvons débloquer un moyen puissant de rembobiner ses pensées.

La magie de rembobiner le temps

Considérez un Grand Modèle de Langage (LLM) comme un ami très bavard qui est excellent pour terminer vos phrases. Si vous dites : « Il était une fois », il pourrait dire : « il y avait un dragon ». Si vous dites : « Le ciel est », il pourrait dire : « bleu ». Cet ami fonctionne en regardant ce que vous venez de dire et en devinant le mot suivant. C'est ce qu'on appelle la « Prédiction du Token Suivant » (Next-Token Prediction). C'est ainsi qu'ils écrivent des histoires, répondent à des questions et discutent avec nous.

Mais que se passe-t-il si vous n'avez que la réponse de votre ami et que vous voulez savoir exactement ce que vous avez demandé ? Peut-être avez-vous entendu une excellente histoire et voulez-vous savoir quelle question exacte l'a déclenchée, ou peut-être voulez-vous voir si l'ami cache une instruction secrète. C'est le problème de l'« inversion ». C'est difficile car de nombreuses questions peuvent mener à la même réponse. Si votre ami dit : « J'adore la pizza », vous auriez pu demander : « Quel est ton plat préféré ? », ou « Qu'aimes-tu manger le vendredi ? », ou même « Parle-moi de ton régime alimentaire ».

L'ancienne méthode vs le nouveau tour de passe-passe

Avant ce papier, les scientifiques essayaient de résoudre cela soit en :

1. Jetant un œil dans le cerveau : En regardant les mathématiques internes du robot (les logits) pour rétro-concevoir la question. C'est comme essayer de résoudre un puzzle en portant des lunettes à rayons X.
2. Utilisant un guide de référence géant : En entraînant une IA distincte sur des millions de paires questions-réponses provenant d'Internet pour deviner la question. C'est comme embaucher un détective qui a lu tous les livres de la bibliothèque.

Le problème avec ces anciennes méthodes est qu'elles nécessitent souvent un accès spécial (que vous n'avez pas avec un modèle de type « boîte noire ») ou de gigantesques quantités de données extérieures. Elles ont également tendance à deviner une question qui a le même sens, mais qui n'utilise pas les mêmes mots exacts.

La solution du « Robot à l'envers »

Les auteurs de ce papier, travaillant avec des modèles de l'IIT Bombay et d'Adobe Research, sont arrivés à une solution ingénieuse et autonome. Ils n'avaient pas besoin de lunettes à rayons X ni d'une bibliothèque. Ils avaient juste besoin du robot lui-même.

Voici comment ils ont construit leur « Robot à l'envers » :

1. La configuration : Ils ont pris le robot cible (celui qu'ils voulaient inverser) et ont joué un jeu avec lui. Ils lui ont soumis chaque mot de son vocabulaire comme point de départ et l'ont laissé générer une courte histoire.
2. Le twist : Ils ont pris ces histoires et les ont inversées. Si le robot a écrit « Le chat est assis », ils l'ont transformé en « assis chat Le ».
3. L'entraînement : Ils ont entraîné un tout nouveau petit robot (un « modèle inverse ») à partir de zéro en utilisant ces histoires inversées. Ce nouveau robot a appris une nouvelle compétence : la Prédiction du Token Précédent. Au lieu de deviner ce qui vient après, il a appris à deviner ce qui est venu avant.
   • Analogie : Imaginez apprendre à conduire une voiture en regardant seulement des vidéos d'une voiture conduisant en marche arrière. Finalement, vous devenez si bon en marche arrière que si vous voyez une voiture garée, vous pouvez parfaitement prédire le chemin qu'elle a parcouru pour arriver là.
4. L'ajustement fin (Fine-Tuning) : Pour s'assurer que le robot parle comme un humain, ils lui ont donné quelques exemples réels de questions et de réponses (provenant d'un ensemble de données appelé ShareGPT) et lui ont appris à les inverser également.

Les résultats : Rembobiner la cassette

Lorsqu'ils ont testé cette nouvelle méthode, les résultats ont été assez impressionnants. Ils ont utilisé un modèle appelé Qwen3-0.6B et ont constaté que leur « Robot à l'envers » pouvait reconstruire le prompt original (la question) avec une grande précision.

• Correspondance exacte (Exact Match) : Environ 64,77 % du temps, le prompt reconstruit était exactement le même que l'original. C'est un exploit majeur car les méthodes précédentes ne parvenaient souvent qu'à saisir le sens, pas les mots exacts.
• F1 des Tokens : Ils ont obtenu un score de 63,64, qui est une mesure de la façon dont les mots individuels correspondent parfaitement.
• Similitude sémantique : Même quand les mots n'étaient pas identiques, le sens était très proche (Similitude Cosinus de 86,13).

Le papier a également montré que ce « Robot à l'envers » est très flexible. Même s'ils l'ont entraîné sur un type de robot (Qwen) et qu'on lui a demandé de deviner les prompts d'un autre type de robot (comme LLaMA ou GPT-4o), il fonctionnait toujours raisonnablement bien. Il n'était pas parfait sur les mots exacts (car différents robots utilisent des dictionnaires différents), mais il saisissait bien le sens. Cela suggère que le robot a appris une « logique » générale de la manière de rétro-concevoir les pensées, et non pas seulement un tour spécifique à un modèle.

Pourquoi cela importe

Le papier soutient que cette approche est meilleure que les anciennes méthodes pour plusieurs raisons :

• C'est une solution de « Boîte Noire » : Vous n'avez pas besoin de voir le code interne ou les poids du robot. Vous avez juste besoin de lui parler.
• C'est autonome : Elle n'a pas besoin d'une base de données externe massive de questions et de réponses. Elle génère ses propres données d'entraînement en jouant avec le robot cible.
• C'est fidèle : Parce qu'elle apprend l'exact inverse du processus vers l'avant, elle peut reconstruire les mots exacts, et pas seulement l'idée générale.

Cependant, les auteurs précisent avec prudence que ce n'est pas une baguette magique qui résout tout. Si le robot que vous essayez d'inverser utilise un ensemble de symboles (vocabulaire) complètement différent ou une structure de cerveau très différente, la reconstruction mot pour mot devient plus difficile. De plus, générer les données d'entraînement nécessite de poser beaucoup de questions au robot, ce qui peut être lent.

La vue d'ensemble

En termes simples, ce papier montre que si vous voulez savoir ce qu'un robot pensait avant de parler, vous n'avez pas besoin de l'ouvrir ou d'embaucher un détective. Vous avez juste besoin d'apprendre à un nouveau robot à penser à l'envers. En inversant le scénario et en entraînant un modèle à prédire « ce qui est venu avant » plutôt que « ce qui vient après », les auteurs ont créé un outil capable de rembobiner la cassette des conversations de l'IA avec une précision surprenante. C'est un rappel ludique mais puissant que parfois, pour comprendre le futur, il suffit de regarder le passé à l'envers.