Imaginez que vous essayez d'apprendre à un robot comment écrire une histoire ou résoudre un problème de mathématiques. Pendant longtemps, la meilleure façon de faire cela était d'apprendre au robot à parler un mot à la fois, strictement de gauche à droite, comme un humain lisant un livre. C'est ce qu'on appelle la génération « autorégressive ». Cela fonctionne bien, mais c'est un peu rigide. Si le robot fait une erreur dans la première phrase, il doit continuer à écrire le reste de l'histoire en se basant sur cette erreur, ou il doit tout recommencer. Il ne peut pas facilement revenir en arrière pour corriger le début tout en écrivant le milieu, comme le fait un éditeur humain.

Récemment, des scientifiques ont découvert un nouveau type d'IA appelé « Modèle de Diffusion Masqué » (Masked Diffusion Model). Voyez cela comme un jeu de « texte à trous ». Au lieu d'écrire les mots un par un, l'IA regarde une phrase où certains mots sont cachés (masqués) et essaie de deviner lesquels. Parce qu'elle peut regarder n'importe quel mot caché à n'importe quel moment, elle devrait être capable de sauter d'un endroit à l'autre, de corriger le début, puis la fin, puis le milieu, dans l'ordre qu'elle souhaite. C'est ce qu'on appelle l'« inférence dans n'importe quel ordre » (any-order inference). Cela semble être un outil parfait pour des tâches complexes comme le codage, où les programmeurs passent souvent de la vue d'ensemble aux détails minuscules. Mais voici le piège : ce n'est pas parce que l'IA peut sauter d'un endroit à l'autre qu'elle le fait réellement.

Cet article examine pourquoi ces puissants robots de type « texte à trous » restent souvent coincés dans une routine, agissant exactement comme les anciens robots « de gauche à droite », malgré la liberté qu'ils possèdent. Les auteurs, une équipe de chercheurs de l'Université du Texas à Austin et de l'Université de Harvard, ont découvert un piège caché appelé « incertitude positionnelle ». Ils ont découvert que si l'IA sait peut-être quel mot est nécessaire (comme une fonction spécifique dans un programme informatique), elle est confuse quant à l'endroit où ce mot doit se trouver dans la phrase finale. Parce qu'elle est incertaine de l'emplacement, elle joue la sécurité et remplit les blancs de manière prévisible et monotone, manquant ainsi la pensée créative et non linéaire qui était censée être sa force.

Pour corriger cela, les chercheurs n'ont pas seulement ajusté la confiance du robot ; ils lui ont donné deux nouveaux super-pouvoirs. Le premier est comme si l'on donnait au robot une paire de ciseaux et un bâton de colle. Au lieu d'être coincé avec un nombre fixe d'espaces vides, le robot peut désormais insérer de nouveaux espaces vides où il en a besoin, décalant ainsi toute la phrase pour faire de la place à de nouvelles idées. Le second super-pouvoir est comme si l'on apprenait au robot à penser en « blocs » ou en « paragraphes » plutôt qu'en mots individuels. Au lieu de deviner un jeton à la fois, il devine des blocs entiers de sens à la fois, ce qui lui permet de décider quelle grande idée construire ensuite sans se perdre dans les détails.

L'équipe a testé ces idées sur du codage informatique et des problèmes de mathématiques. Ils ont constaté qu'en utilisant ces nouvelles méthodes, les robots ont réellement commencé à penser comme des programmeurs humains, sautant d'une partie du code à l'autre pour affiner leur travail. Cela a conduit à de meilleurs résultats, les robots résolvant plus de problèmes correctement qu'auparavant. L'article suggère que pour que l'IA raisonne véritablement comme un humain, nous devons concevoir des modèles qui ne possèdent pas seulement la capacité de sauter d'un endroit à l'autre, mais qui sont construits de manière à ce que ce saut soit le choix naturel et facile.

Le Problème : Le Piège du « Canevas Fixe »

Les chercheurs ont commencé par examiner pourquoi ces modèles de « texte à trous » (Modèles de Diffusion Masqués, ou MDM) ne sont pas à la hauteur de leurs promesses. En théorie, un MDM devrait être capable de révéler n'importe quel jeton caché dans une séquence à n'importe quel moment. Si vous lui demandez d'écrire un programme Python, il devrait pouvoir écrire le nom de la fonction, puis sauter à la boucle, puis revenir à la définition de la variable, le tout dans un ordre chaotique et humain.

Cependant, en observant les modèles en action, ils ont constaté quelque chose de décevant. Même si les modèles avaient la liberté de choisir n'importe quel ordre, ils choisissaient presque toujours de remplir les blancs de gauche à droite, tout comme les anciens robots. Les auteurs appellent cela un « effondrement causal » (causal collapse). C'est comme si le robot avait la carte de toute la ville mais décidait de marcher dans la rue un pâté de maisons à la fois, ignorant tous les raccourcis.

L'article soutient qu'il ne s'agit pas seulement d'une mauvaise habitude ; c'est un défaut fondamental dans la construction de ces modèles. Le problème est l'incertitude positionnelle. Imaginez que vous construisiez un château en LEGO. Vous savez que vous avez besoin d'une pièce « tour ». Mais vous ne savez pas encore exactement où va la tour car vous n'avez pas encore construit les murs autour. Si vous essayez de placer la tour maintenant, vous pourriez la mettre au mauvais endroit.

Dans un MDM standard, le « canevas » (la séquence de jetons) est fixe. Le modèle doit décider : « Est-ce que je mets le mot 'return' ici, ou là, ou là ? ». Si le modèle sait qu'il a besoin d'une instruction 'return' mais n'est pas sûr de savoir si elle appartient à l'intérieur d'une boucle ou après celle-ci, sa confiance se retrouve divisée entre tous ces emplacements possibles. Comme la confiance est dispersée, le modèle se sent « moins sûr » de placer cette instruction 'return' que de placer un mot simple qui suit clairement celui qui précède. Ainsi, pour jouer la sécurité, il remplit d'abord les mots locaux faciles, se verrouillant de fait dans un ordre de gauche à droite. L'article montre que cela se produit même lorsque le modèle est très intelligent ; la grille fixe du canevas le force à prendre des engagements prématurés.

La Solution 1 : FlexMDM (Les Ciseaux et la Colle)

Pour résoudre le problème du « où est-ce que je mets ceci ? », la première solution est appelée FlexMDM. Cette approche change les règles du jeu en supprimant le canvas fixe.

Imaginez que vous écriviez une histoire sur une feuille de papier, mais qu'au lieu d'être coincé avec les lignes que vous avez tracées, vous disposiez d'une gomme magique et d'un bâton de colle. Si vous écrivez une phrase et réalisez que vous avez besoin d'un nouveau paragraphe au milieu, vous pouvez magiquement insérer une nouvelle ligne d'espace juste là. Les mots que vous avez écrits plus tôt peuvent glisser pour faire de la place.

FlexMDM fait exactement cela. Il permet au modèle d'insérer de nouveaux jetons (ou masques) pendant le processus de génération. Quand le modèle décide de révéler un jeton, il n'est pas obligé de s'engager sur un emplacement permanent dans la séquence finale. Plus tard, si le modèle décide qu'il a besoin de plus d'espace ou d'une structure différente, il peut insérer de nouveaux écarts, et les jetons précédemment révélés glisseront vers leurs nouvelles positions correctes.

Ce changement simple brise le piège de l'« incertitude positionnelle ». Le modèle n'a plus à se demander : « Est-ce le bon endroit ? », car l'endroit peut bouger. Les chercheurs ont constaté que cela permettait au modèle de générer du code de manière beaucoup plus humaine. Au lieu de terminer complètement une ligne avant de commencer la suivante, le modèle pouvait rédiger un nom de fonction, puis sauter pour écrire une boucle, puis revenir pour remplir les détails de la fonction. Ils ont mesuré cela en observant la structure d'« arbre » du code et ont constaté que FlexMDel était beaucoup plus susceptible de sauter entre différentes branches du code, alors que le modèle standard suivait simplement un chemin droit.

Dans leurs tests, ils ont affiné un modèle de 7 milliards de paramètres (Dream-Coder) pour utiliser cette méthode. Sur les benchmarks de codage comme HumanEval et MBPP, ce nouveau modèle « flexible » a obtenu de meilleurs résultats que l'original, surtout lorsqu'ils lui permettaient de générer plusieurs tentatives (Pass@16). Cela a montré qu'en laissant le modèle réorganiser le canevas, il pouvait explorer des solutions plus créatives.

La Solution 2 : LatentMDM (Penser en Blocs)

La seconde solution, LatentMDM, adopte une approche différente. Au lieu de lutter avec la position des mots individuels, elle change le niveau auquel le modèle réfléchit.

Imaginez que vous essayiez de décrire un film à un ami. Si vous essayez de le décrire mot par mot (« L'homme a marché, puis il s'est arrêté, puis il a regardé... »), il est difficile d'avoir une vision d'ensemble. Mais si vous le décrivez en « scènes » ou en « blocs » (« D'abord, le héros entre dans la pièce. Ensuite, il voit le méchant. Enfin, ils se battent. »), il est beaucoup plus facile de faire des allers-retours. Vous pouvez dire : « Parlons d'abord de la scène de combat », sans vous soucier des mots exacts utilisés dans la scène d'entrée.

LatentMDM fait cela en regroupant les jetons en segments sémantiques (comme des lignes de code ou des blocs logiques) et en traitant chaque segment comme une unité unique dans un « espace latent » (une représentation abstraite et compressée du sens). Au lieu de deviner un jeton à la fois, le modèle décide quel segment révéler ensuite.

Cela déplace l'« incertitude positionnelle » du niveau des mots individuels vers celui des idées entières. Le modèle n'a pas à se soucier de savoir si un mot spécifique va à la place 5 ou 6 ; il décide simplement : « Je vais écrire le segment de la 'boucle' ensuite ». Comme les segments sont plus grossiers, le modèle peut être beaucoup plus confiant quant à l'ordre des idées, même si les mots exacts à l'intérieur sont encore en cours de définition.

Les chercheurs ont entraîné un modèle plus petit de 125 millions de paramètres à partir de zéro en utilisant cette méthode sur un ensemble de données mathématiques appelé TinyGSM. Ils ont découvert que ce modèle pouvait réellement choisir de révéler des segments dans un ordre autre que de gauche à droite, ce que les modèles standards ne pouvaient pas faire efficacement. En fait, LatentMDM a surpassé les modèles standards et même certains modèles autorégressifs plus grands sur des problèmes mathématiques, tout en étant plus rapide. Cela suggère qu'en pensant par « blocs », le modèle peut naviguer dans l'espace des solutions plus efficacement, trouvant le bon chemin sans se perdre dans les détails.

Ce que cela signifie

L'article conclut que posséder l'interface pour l'inférence dans n'importe quel ordre (la capacité de choisir n'importe quel blanc) ne suffit pas. La mécanique interne du modèle doit également le soutenir. Si le modèle est coincé sur une grille fixe de mots, il va naturellement s'effondrer dans un ordre de gauche à droite parce qu'il a trop peur de commettre une erreur sur l'endroit où les choses vont.

En rendant soit la grille flexible (FlexMDM), soit en pensant en blocs plus larges (LatentMDM), les chercheurs ont montré que l'IA peut véritablement s'affranchir de l'habitude du « gauche à droite ». Ces modèles ne font pas que générer du texte ; ils le génèrent avec une structure qui imite la façon dont les humains pensent et construisent des choses complexes — en faisant des allers-retours, en affinant les idées et en explorant différents chemins avant de parvenir à une solution finale.

Les auteurs précisent avec prudence que ce sont des étapes prometteuses, et non une solution finale à tous les problèmes de raisonnement de l'IA. Ils ont testé ces idées principalement sur le codage et les mathématiques, et bien que les résultats soient solides, ils suggèrent que des travaux supplémentaires sont nécessaires pour voir si ces comportements de « n'importe quel ordre » fonctionnent pour d'autres types de tâches ou à des échelles plus grandes. Mais le message central est clair : pour construire une IA qui raisonne comme un humain, nous devons cesser de la forcer à écrire comme une machine à écrire et commencer à la laisser penser comme un architecte.