PPDL: LLM-Based Flows as Probabilistic Programs
Cet article présente PPDL, un langage de programmation probabiliste qui permet aux développeurs de quantifier et de propager l'incertitude à travers les flux d'applications basés sur les LLM et d'expérimenter des techniques de mise à l'échelle de l'inférence sans modifier la logique de base, comme le démontre un agent de preuve de théorèmes pour le prouveur Rocq.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayez de résoudre un puzzle vraiment difficile, mais au lieu de le faire seul, vous avez un ami super intelligent et créatif qui peut discuter avec vous. Cet ami est une Intelligence Artificielle appelée Modèle de Langage Étendu (LLM). Il est incroyable pour écrire des histoires, résoudre des problèmes mathématiques et même écrire du code informatique. Cependant, il n'est pas parfait. Parfois, il est très sûr de lui sur une mauvaise réponse, ou il peut inventer des faits qui semblent réels mais qui ne le sont pas. C'est ce qu'on appelle l'« incertitude ».
Imaginez maintenant que vous devez résoudre un problème vraiment difficile qui nécessite de nombreuses étapes. Vous demandez un plan à votre ami IA, puis vous lui demandez d'écrire le code basé sur ce plan, puis de vérifier le code, et ainsi de suite. À chaque fois que vous posez une question, l'IA donne une réponse, mais cette réponse peut être légèrement fragile. Si vous enchaînez dix de ces réponses fragiles, le résultat final pourrait être un véritable désastre. C'est comme essayer de construire une tour de blocs Jenga où chaque bloc est légèrement bancal ; plus on monte, plus le risque de voir toute la structure s'effondrer est élevé. Les développeurs et les utilisateurs se sentent souvent perdus face à cela : « Est-ce que cette réponse est correcte ? Quel est notre degré de certitude ? Dois-je lui faire confiance ? »
Pour corriger cela, des scientifiques ont tenté quelques astuces. Une idée populaire est l'« échelle d'inférence » (inference scaling). Considérez cela comme le fait de demander à votre ami IA d'essayer de résoudre le même puzzle dix fois différentes et de voir quelle réponse revient le plus souvent. C'est comme demander à un groupe d'amis de deviner la réponse à une énigme et de suivre le vote de la majorité. Mais il y a un hic : le faire manuellement est laborieux. Vous devez écrire un code informatique spécial pour lancer ces dix tentatives, garder une trace de celles qui semblent bonnes et jeter les mauvaises. C'est comme devoir construire une nouvelle usine à chaque fois que vous voulez cuire une fournée de cookies juste pour vous assurer qu'ils ont bon goût. C'est compliqué, coûteux et difficile à modifier si vous voulez essayer une autre façon de cuisiner.
La grande idée du papier : La « Fiche d'évaluation magique »
Ce papier présente un nouvel outil appelé PPDL (Probabilistic Prompt Declaration Language). Vous pouvez considérer le PPDL comme une spéciale « fiche d'évaluation magique » pour les flux de travail de l'IA. Au lieu de simplement poser une question à l'IA et d'obtenir une seule réponse, le PPDL vous permet d'écrire un programme qui comprend naturellement que l'IA peut être incertaine.
Voici comment cela fonctionne en langage simple :
- Le Flux : Vous écrivez vos instructions pour l'IA comme vous le feriez normalement (par exemple, « Planifier le code », puis « Écrire le code », puis « Vérifier le code »).
- Le Facteur Magique : Vous ajoutez une instruction spéciale appelée
factor(facteur). C'est comme une fiche d'évaluation où vous dites à l'IA : « Hé, si le plan semble logique, donne-lui un score élevé. Si le code contient des erreurs, donne-lui un score faible. » - Le Résultat : Lorsque vous exécutez le programme, l'ordinateur ne donne pas seulement une réponse. Il exécute tout le processus de nombreuses fois en parallèle (comme si cent versions de vous-même essayaient de résoudre le puzzle en même temps). Il utilise votre « fiche d'évaluation » pour pondérer les résultats. Si un chemin semble vraiment prometteur, l'ordinateur concentre davantage d'énergie sur ce chemin. Si un chemin semble mauvais, il l'abandonne.
Le plus cool, c'est que vous n'avez pas besoin d'écrire vous-même le code complexe pour « le lancer dix fois ». Le PPDL gère tout ce travail lourd en arrière-plan. Vous écrivez la logique une seule fois, et le système trouve automatiquement la meilleure façon d'explorer toutes les possibilités.
Ce qu'ils ont trouvé
Les auteurs ont testé cette idée sur plusieurs défis, allant de la résolution de problèmes mathématiques de niveau primaire à l'écriture de codes informatiques complexes, et même à la preuve de théorèmes mathématiques.
- Une meilleure précision : Dans leurs tests, l'utilisation du PPDL avec ces « fiches d'évaluation » a rendu l'IA nettement plus précise. Par exemple, sur un test mathématique appelé GSM8k, une IA standard a obtenu environ 83,8 % de bonnes réponses. Mais lorsqu'ils ont utilisé le PPDL avec une méthode appelée « Échantillonnage par importance » (Importance Sampling — qui est une façon intelligente de choisir les meilleures suppositions), la précision est montée à 93,7 %.
- La méthode « intelligente » l'emporte : Ils ont comparé différentes façons d'utiliser les fiches d'évaluation. Parfois, prendre simplement le « vote de la majorité » (la réponse la plus commune) fonctionnait bien. Mais souvent, les méthodes plus intelligentes (comme l'Échantillonnage par importance et la méthode de Monte Carlo séquentiel) étaient bien meilleures. Ces méthodes sont comme un détective qui ne se contente pas de compter les votes, mais qui enquête réellement pour savoir pourquoi une réponse est bonne ou mauvaise, écartant les mauvais chemins tôt et se concentrant sur les bons.
- L'étude de cas du prouveur de théorèmes : Pour tester réellement le système, ils ont construit un agent IA capable de prouver des théorèmes mathématiques en utilisant un outil appelé Rocq. C'est une tâche très difficile où l'IA doit écrire une preuve, vérifier si elle est fausse, et la corriger de manière répétée. Ils ont découvert que la méthode « intelligente » (Monte Carlo séquentiel) était bien meilleure pour trouver la bonne preuve que de simplement faire des essais aléatoires de manière répétée. Elle pouvait explorer de nombreux chemins à la fois et abandonner rapidement ceux qui n'allaient nulle part.
Ce qu'ils ne prétendent pas
Les auteurs font attention à ne pas dire que ceci est une « solution miracle » qui résout tout. Ils soulignent que les « fiches d'évaluation » (les facteurs) ne sont aussi bonnes que les informations que vous y mettez. Si votre fiche d'évaluation est mauvaise, le système ne fera pas de miracle. De plus, bien que cette méthode rende l'IA plus fiable, cela ne signifie pas que l'IA est soudainement parfaite ; cela signifie simplement que nous avons une bien meilleure façon de mesurer à quel point nous devons être sûrs de la réponse.
Pourquoi c'est important
Ce papier suggère qu'en traitant les flux de travail de l'IA comme des « programmes probabilistes » (des programmes qui comprennent l'incertitude), nous pouvons rendre les applications d'IA beaucoup plus dignes de confiance sans les rendre incroyablement complexes à construire. C'est comme donner aux développeurs un nouvel ensemble d'outils qui gèrent automatiquement la partie désordonnée du fait de « réessayer encore et encore », afin qu'ils puissent se concentrer sur la création de choses géniales pendant que l'ordinateur trouve la meilleure façon d'obtenir la bonne réponse.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.