Dans la quête de la construction de machines capables de penser, les chercheurs se sont longtemps appuyés sur un principe simple : donner plus de temps à l'ordinateur, et il trouvera probablement une meilleure réponse. Tout comme un mathématicien humain pourrait marquer une pause pour affiner une preuve ou qu'un joueur d'échecs pourrait reconsidérer un coup après un moment de réflexion, les systèmes d'intelligence artificielle modernes sont de plus en plus conçus pour faire une pause, reconsidérer et itérer. Cette approche, connue sous le nom de calcul au moment de l'inférence, permet aux modèles de générer plusieurs chemins de raisonnement possibles, de les évaluer et de sélectionner le plus prometteur. Bien que cette stratégie se soit avérée efficace pour les grands modèles de langage, une classe différente de machines — les modèles récurrents — opère selon une logique légèrement différente. Ces systèmes résolvent des problèmes en mettant à jour de manière répétée un état interne, une sorte de bloc-notes mental, encore et encore. Au lieu de générer de nombreux brouillons distincts pour les comparer, ils affinent un processus de pensée unique et évolutif, étape par étape. La question qui persiste est de savoir si ce fil de pensée unique peut être guidé plus efficacement pendant qu'il se déroule, plutôt que de simplement le laisser suivre son cours ou d'essayer de nombreux points de départ différents.

Une équipe de chercheurs de l'Université de Tokyo a proposé une nouvelle façon de diriger ces processus de pensée internes en temps réel. Ils appellent leur méthode « Readout Feedback » (rétroaction par lecture), une technique qui écoute les conjectures intermédiaires du modèle et utilise cette information pour pousser doucement son état interne vers une solution correcte. L'idée centrale est étonnamment intuitive : à mesure qu'un modèle se rapproche de la résolution d'une énigme, ses représentations internes des différentes parties du problème commencent à s'organiser. Les éléments appartenant à la même catégorie se regroupent naturellement, tandis que ceux appartenant à des catégories différentes s'en éloignent. Les chercheurs ont découvert qu'ils pouvaient détecter ce motif d'organisation et injecter une force subtile dans le système pour l'encourager, aidant ainsi efficacement le modèle à sortir de la confusion sans avoir besoin d'être réentraîné ou de recevoir plus de puissance de calcul.

Pour tester cette idée, l'équipe l'a appliquée à trois types différents de modèles de raisonnement récurrent, chacun possédant une architecture interne unique, et leur a demandé de résoudre deux énigmes logiques classiques : le Sudoku et le Labyrinthe. Dans le Sudoku, le but est de remplir une grille avec des chiffres de sorte que chaque ligne, colonne et section contienne tous les chiffres de un à neuf. Dans la tâche du Labyrinthe, le modèle doit trouver le chemin le plus court à travers une grille remplie d'obstacles. Les chercheurs ont fait passer ces modèles par leur processus de résolution standard, qui consiste à mettre à jour leur état interne des centaines de fois, puis ont comparé les résultats du processus standard par rapport au processus amélioré par leur nouvelle boucle de rétroaction. Ils ont constaté que dans quatre des six combinaisons de modèles et d'énigmes, la méthode de rétroaction produisait des résultats nettement meilleurs. Dans certains cas, le modèle amélioré résolvait les énigmes avec un niveau de précision que le modèle standard ne pouvait atteindre, même s'il lui avait été permis de fonctionner beaucoup plus longtemps ou si les chercheurs avaient essayé des dizaines de points de départ différents.

Le mécanisme derrière cette amélioration repose sur la propre confiance du modèle. À mesure que le modèle traite l'énigme, il génère une probabilité pour chaque réponse possible à chaque étape. Les chercheurs ont observé que lorsque le modèle est bloqué ou erratique, ces probabilités sont désordonnées et non structurées. Cependant, lorsqu'un modèle est sur le point de trouver une solution, les probabilités pour les bonnes réponses commencent à s'aligner, formant un motif clair. La nouvelle méthode exploite ce motif. À des moments spécifiques durant le processus de résolution, elle calcule la distance entre les motifs de probabilité des différentes parties de l'énigme. Si deux parties de l'énigme sont prédites comme ayant des réponses différentes, le système applique une force qui pousse leurs états internes à s'écarter. Si elles sont prédites comme étant identiques, il les encourage à rester proches. Cela crée une dynamique d'autocorrection qui aide le modèle à échapper aux impasses et à converger vers la bonne solution beaucoup plus rapidement.

Les résultats furent frappants par leur spécificité. Pour l'un des modèles, un système compact conçu pour le raisonnement complexe, la méthode de rétroaction a augmenté son taux de réussite sur le Sudoku d'environ soixante-huit pour cent à plus de soixante-quatorze pour cent, un gain substantiel obtenu sans modifier le code sous-jacent ou les données d'entraînement du modèle. Pour un autre modèle s'attaquant au Labyrinthe, la méthode a permis d'atteindre un haut niveau de précision avec beaucoup moins d'étapes de calcul que l'approche standard n'en requérait. En fait, le modèle amélioré a parfois surpassé le modèle standard, même lorsque ce dernier était autorisé à effectuer des centaines d'étapes supplémentaires ou à échantillonner des dizaines de chemins potentiels différents. Cela suggère que la clé d'une meilleure performance n'était pas simplement de faire plus de travail, mais de faire le bon genre de travail en guidant activement la dynamique interne du système.

Cependant, les chercheurs ont pris soin de noter que cette méthode n'est pas un remède universel. Dans deux des six cas de test, la boucle de rétroaction n'a apporté aucun bénéfice mesurable, et dans un cas spécifique, elle n'a fait que très peu de différence car le modèle performait déjà à un niveau quasi parfait. Cela indique que la technique fonctionne mieux lorsqu'un modèle est capable de résoudre le problème mais qu'il peine à organiser ses pensées de manière efficace. Lorsque le modèle est déjà très confiant ou lorsque la structure interne du problème ne se prête pas à ce type de regroupement, le signal de rétroaction a peu de matière sur laquelle agir. L'étude suggère que, bien que cette approche libère une capacité cachée au sein des modèles existants, elle n'est pas une baguette magique capable de résoudre tout type de problème de raisonnement.

Les implications de ce travail s'étendent au-delà de la simple résolution d'énigmes. Elles offrent une nouvelle perspective sur la manière dont l'intelligence artificielle peut être contrôlée pendant le processus de pensée lui-même. Plutôt que de compter uniquement sur la force brute — en exécutant plus d'étapes ou en échantillonnant plus d'options — cette méthode démontre qu'un modèle peut être dirigé par ses propres signaux intermédiaires. Cela s'apparente à une personne résolvant un problème complexe qui, au lieu de repartir de zéro lorsqu'elle est bloquée, s'arrête pour examiner ses notes actuelles, réalise quelles parties de sa logique sont conflictuelles, et ajuste sa pensée en conséquence. Les chercheurs ont constaté que ce contrôle en boucle fermée pouvait être appliqué à des modèles « gelés », c'est-à-dire des systèmes qui ont déjà été entraînés et qui n'apprennent plus, simplement en ajoutant une couche de rétroaction lors de la phase de résolution.

Bien que l'étude actuelle soit limitée à des types spécifiques de puzzles logiques et à des modèles de petite échelle, les conclusions suggèrent une direction prometteuse pour l'avenir des systèmes de raisonnement. Les auteurs reconnaissent que l'application de cette technique aux grands modèles de langage, qui manipulent de vastes vocabulaires et un langage humain complexe, constituerait un défi important et pourrait nécessiter des adaptations différentes. Néanmoins, le succès sur ces tâches structurées fournit une preuve solide que la dynamique interne des modèles de raisonnement contient un potentiel sous-utilisé. En écoutant la propre voix du modèle et en l'utilisant pour guider le voyage, les chercheurs ont trouvé un moyen de rendre ces systèmes plus efficaces, prouvant que parfois, la meilleure façon d'améliorer le raisonnement d'une machine n'est pas de lui apprendre davantage, mais de l'aider à s'écouter elle-même.