BayesPrompt: human readable prompts that make sense

Dans le paysage en évolution rapide de l'intelligence artificielle, un phénomène particulier a émergé : les ordinateurs apprennent à parler une langue que les humains ne peuvent comprendre. Les grands modèles de langage, ces puissants moteurs derrière les chatbots modernes et les assistants d'écriture, ont démontré une capacité remarquable appelée l'apprentissage en contexte (in-context learning). Cela signifie qu'ils peuvent résoudre de nouvelles tâches, de la traduction de langues à la résolution de problèmes mathématiques, simplement en lisant quelques exemples fournis dans une zone de texte, sans avoir besoin d'être réentraînés ou de voir leurs paramètres internes modifiés. La clé pour déverrouiller cette capacité réside dans le « prompt », l'ensemble spécifique d'instructions ou d'exemples injectés dans la machine. Pendant longtemps, les chercheurs ont supposé que la meilleure façon d'obtenir une réponse parfaite était de concevoir un prompt qui sonne naturel et qui soit grammaticalement correct, tout comme un humain l'écrirait. Cependant, une découverte surprenante a bouleversé cette supposition : les prompts les plus efficaces pour ces machines sont souvent de courtes chaînes de mots sans queue ni tête qui ressemblent à du charabia pour un lecteur humain. Ces « pseudoprompts » peuvent être bien plus efficaces pour guider le modèle vers la bonne réponse que n'importe quelle phrase qu'une personne pourrait composer, créant un étrange fossé entre ce qui fonctionne pour la machine et ce qui fait sens pour l'humain.

Ce décalage présente un défi important pour quiconque tente d'utiliser ces outils de manière fiable. Si la meilleure façon de parler à un ordinateur est à travers un code de jetons aléatoires, il devient difficile de faire confiance, de déboguer ou de comprendre pourquoi la machine se comporte d'une certaine manière. Des chercheurs de l'École internationale d'études avancées en Italie et du Flatiron Institute à New York ont maintenant proposé une nouvelle façon de combler ce fossé. Ils soutiennent que la raison pour laquelle nous obtenons ces prompts inintelligibles est que le problème mathématique utilisé pour les trouver est incomplet. En traitant la recherche d'un prompt non pas seulement comme un jeu consistant à obtenir le score le plus élevé, mais comme un processus de raisonnement par probabilité, ils ont développé une méthode qui produit des prompts qui sont à la fois hautement efficaces et parfaitement lisibles. Leurs travaux suggèrent que le secret pour parler à ces machines n'est pas d'abandonner le langage humain, mais d'utiliser un type différent de pensée statistique pour trouver les bons mots.

Les chercheurs ont commencé par examiner pourquoi les méthodes existantes échouent à produire des prompts lisibles. Les techniques actuelles agissent souvent comme un randonneur essayant de trouver le point le plus bas dans une vaste vallée brumeuse en ne regardant que le sol immédiatement sous ses pieds. Elles cherchent une séquence de mots qui minimise la confusion du modèle, ou « perplexité », concernant la réponse. Bien que cela fonctionne bien pour trouver une solution, cela ignore le fait que le langage humain suit des règles et des structures spécifiques. Sans un guide pour maintenir la recherche dans le domaine du discours naturel, l'algorithme dérive vers des territoires étranges, assemblant des jetons que la machine adore mais que les humains ne peuvent déchiffrer. Les auteurs ont réalisé que pour corriger cela, ils devaient ajouter un « a priori », une préférence statistique pour les phrases qui ressemblent à un anglais normal, dans le processus de recherche. Cela garantit que l'algorithme ne trouve pas seulement n'importe quelle solution, mais une solution qui respecte la structure du langage humain.

Pour résoudre cela, l'équipe a recadré l'ensemble du problème en utilisant un cadre connu sous le nom d'inférence bayésienne. Au lieu de simplement traquer le meilleur prompt unique, ils ont traité la tâche comme un processus d'échantillonnage à partir d'un vaste paysage de possibilités. Imaginez essayer de trouver le meilleur itinéraire à travers une ville complexe ; plutôt que de simplement choisir le chemin le plus court sur une carte en espérant qu'il fonctionne, vous explorez de nombreux itinéraires différents, en pesant la probabilité que chacun soit correct par rapport au caractère naturel du chemin. Les chercheurs ont utilisé une technique d'échantillonnage sophistiquée appelée Monte Carlo par chaînes de Markov pour explorer l'espace des questions possibles. Cette méthode permet à l'ordinateur d'apporter de petites modifications aléatoires à une phrase — échanger un mot, ajouter une expression ou supprimer un jeton — puis de décider s'il faut conserver ce changement en fonction de deux facteurs : la capacité de la nouvelle phrase à mener à la bonne réponse, et la fluidité ainsi que le naturel de la phrase.

Une partie cruciale de leur succès fut la manière dont ils ont lancé la recherche. Au lieu de commencer par un amas de mots aléatoires, ce qui prendrait beaucoup de temps pour devenir une phrase cohérente, ils ont utilisé un « modèle de langage inversé ». Il s'agit d'une version spéciale du programme informatique entraînée à lire les phrases à l'envers. En injectant la réponse dans le modèle et en lui demandant de générer la question à l'envers, ils ont pu créer un point de départ de haute qualité qui était déjà grammaticalement correct. Ce « démarrage à chaud » (warm start) a donné au processus d'échantillonnage une longueur d'avance, garantissant que l'ordinateur travaillait déjà avec une phrase sensée avant de commencer son optimisation détaillée. Les chercheurs ont testé cette approche sur un large ensemble de questions et réponses de domaine ouvert, comparant leur méthode aux techniques standards qui produisent les pseudoprompts insensés.

Les résultats ont montré un avantage clair et distinct pour leur nouvelle méthode. Alors que les techniques d'optimisation traditionnelles produisaient des prompts qui étaient soit très confiants dans la réponse mais complètement illisibles, soit fluides mais inefficaces, la nouvelle approche par échantillonnage a atteint un véritable équilibre. Les prompts générés par l'algorithme des chercheurs étaient presque aussi efficaces pour obtenir la bonne réponse que les meilleurs prompts générés par machine, tout en restant entièrement compréhensibles pour un humain. Lorsque les chercheurs ont évalué la qualité des questions, leur méthode a systématiquement surpassé les autres en termes de grammaire et de plausibilité. Les méthodes traditionnelles produisaient souvent des chaînes de texte qui ressemblaient à un mélange de différentes langues et de symboles de formatage, tandis que la nouvelle méthode produisait des phrases qui préservaient la structure et la logique des questions humaines originales.

L'étude a également souligné que le choix de la manière de lancer la recherche importe considérablement. Lorsque les chercheurs ont appliqué leur technique de « démarrage à chaud » aux anciennes méthodes standards, celles-ci se sont améliorées en termes de fluidité, mais elles n'ont toujours pas réussi à atteindre l'équilibre réalisé par la nouvelle approche d'échantillonnage. Les anciennes méthodes avaient tendance soit à trop optimiser pour la réponse, sacrifiant la lisibilité, soit à ne pas trouver la réponse du tout. La nouvelle méthode, en revanche, a systématiquement trouvé des prompts qui se situaient dans le point d'équilibre idéal entre être une bonne question pour un humain et une instruction parfaite pour une machine. Cela suggère que le problème n'était pas seulement un manque de puissance de calcul ou de meilleurs algorithmes, mais une incompréhension fondamentale de la manière de cadrer la recherche de prompts.

En démontrant que des prompts efficaces n'ont pas besoin d'être inintelligibles, ce travail offre une voie vers une intelligence artificielle plus transparente et plus digne de confiance. Il montre que le langage étrange et extraterrestre des prompts les plus efficaces n'est pas une caractéristique nécessaire de ces modèles, mais plutôt un effet secondaire de la manière dont nous les avons appris à apprendre. L'approche des chercheurs prouve qu'il est possible de concevoir des instructions qui sont à la fois statistiquement optimales pour la machine et parfaitement claires pour l'humain. Cela ouvre la porte à un avenir où nous pourrons interagir avec ces outils puissants en utilisant le langage naturel, avec la certitude que les instructions que nous donnons sont à la fois comprises par la machine et compréhensibles pour nous. Ce travail ne prétend pas avoir résolu tous les problèmes de l'intelligence artificielle, mais il fournit une méthode concrète et testée pour rendre l'interaction entre l'humain et la machine plus cohérente et plus fiable.