Prompts for Public-Sector LLMs Should Be Governed as Commons
Cet article soutient que les prompts destinés aux modèles de langage du secteur public devraient être traités comme des biens communs gouvernés plutôt que comme des entrées privées, proposant un cadre de « Commun des Prompts » doté de répertoires versionnés et de mécanismes de négociation entre parties prenantes afin de renforcer la transparence, la contestabilité et l'auditabilité du déploiement de l'IA.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous dirigiez une réunion du conseil municipal où un assistant robotique, très intelligent mais légèrement d'opinion tranchée, vous aide à rédiger des décisions. Vous pourriez penser que la personnalité du robot est fixe parce qu'il a été construit par une grande entreprise technologique. Mais cet article soutient que la façon dont vous parlez au robot (le « prompt » ou l'instruction) est en réalité la partie la plus importante de la conversation.
Voici une décomposition simple des idées principales de l'article, utilisant des analogies de la vie quotidienne.
1. Le Problème : La « Recette Cachée »
Considérez le Grand Modèle de Langage (LLM) comme une cuisine géante et très perfectionnée. Les ingrédients (les données) et la formation du chef (le code du modèle) sont déjà fixés.
Cependant, l'article soutient que c'est la recette que vous donnez au chef qui détermine réellement le repas.
- Si vous dites au chef : « Préparez un plat épicé pour une fête à petit budget », vous obtenez un résultat.
- Si vous lui dites : « Préparez un plat sain et coûteux pour un VIP », vous obtenez un résultat totalement différent.
Dans les emplois publics gouvernementaux, ces « recettes » (prompts) sont souvent écrites par une seule personne, circulent de manière informelle ou sont gardées secrètes. Si une recette contient un biais caché (comme supposer que tout le monde conduit une voiture), le robot prendra des décisions qui nuisent aux personnes qui prennent le bus. Parce que la recette est cachée, personne ne peut voir le biais, le contester ou le corriger.
2. La Solution : Le « Livre de Recettes Communautaire » (Prompt Commons)
L'auteur propose un nouveau système appelé Prompt Commons. Imaginez une bibliothèque de recettes publique et gérée par la communauté plutôt qu'un carnet secret dans la poche d'un seul chef.
Cette bibliothèque possède trois règles spéciales :
- Le contrôle des versions : Chaque recette possède un numéro de version et un historique. Si quelqu'un change un ingrédient, tout le monde sait exactement quand et pourquoi.
- La Provenance (Le « Qui ») : Chaque recette doit indiquer qui l'a écrite. Était-elle écrite par un senior ? Un défenseur des personnes handicapées ? Un groupe de quartier ? Cela garantit que nous savons quelle voix est présente dans la recette.
- Le bouton « Veto » : Si un groupe spécifique (comme un conseil local pour les personnes handicapées) voit une recette qui nuit à sa communauté, il peut appuyer sur un bouton « pause ». La recette est alors placée en zone de quarantaine jusqu'à ce que le problème soit discuté et résolu.
3. Comment cela fonctionne en pratique : Le « Pilote de la Ville »
Les chercheurs ont testé cette idée dans une grande ville nord-américaine. Ils ont réuni 443 personnes différentes issues de divers groupes communautaires (seniors, immigrants, groupes LGBTQ+, etc.) pour écrire leurs propres « recettes » sur la façon dont le robot de la ville devrait parler des rues et des parcs.
Ils ont transformé cela en un ensemble de données de plus de 3 000 variations et ont testé trois façons différentes de gérer la bibliothèque :
- Ouverte : N'importe qui peut ajouter une recette (comme un tableau d'affichage public).
- Curatée (Éditée) : Une équipe vérifie que chaque recette possède les bons marqueurs et couvre différents groupes (comme un éditeur strict).
- Avec droit de Veto : Le système curaté, mais avec le pouvoir supplémentaire pour des groupes spécifiques de bloquer les mauvaises recettes.
Les Résultats :
- Lorsqu'ils utilisaient la recette d'une seule personne, le robot était très « engagé » d'un côté de l'argument (par exemple, toujours prioriser les voitures).
- Lorsqu'ils utilisaient le Livre de Recettes Communautaire (particulièrement la version avec Veto), les réponses du robot devenaient plus équilibrées. Il était plus susceptible de suggérer des « compromis » (par exemple, « créons une piste cyclable et une place de stationnement ») plutôt que de choisir un vainqueur.
- Plus important encore, lorsqu'une « mauvaise » réponse sortait, l'équipe dotée du système de Veto la corrigeait beaucoup plus rapidement (en environ 5 heures) par rapport au système ouvert (qui prenait plus de 30 heures).
4. Pourquoi cela importe pour le Gouvernement
L'article suggère que les gouvernements devraient cesser de traiter ces prompts comme des notes temporaires. Au lieu de cela, ils devraient les traiter comme des documents de politique officielle.
- Transparence : Tout comme une ville doit publier son budget, elle doit publier les « recettes » qu'elle utilise pour prendre des décisions.
- Responsabilité : Si une décision tourne mal, on peut remonter jusqu'à la version spécifique de la recette qui l'a causée.
- Négociation : Au lieu qu'une seule personne décide de la personnalité du robot, différents groupes peuvent soumettre leurs propres versions, et le système peut être conçu pour trouver un terrain d'entente.
5. Ce que l'article ne dit pas
Il est important de s'en tenir à ce que l'article affirme réellement :
- Il ne dit pas que ce système est parfait ou qu'il résout tous les problèmes de l'IA.
- Il ne prétend pas que les réponses de « compromis » sont toujours le meilleur choix moral ; il dit simplement qu'elles sont plus visibles et plus faciles à débattre.
- Il ne suggère pas que le cerveau du robot (le modèle) doit être modifié ; le changement se situe entièrement dans la façon dont nous lui parlons.
L'essentiel
L'article soutient que la façon dont nous posons la question est tout aussi importante que la réponse. En traitant la « question » (le prompt) comme une ressource publique, partagée et réglementée, nous pouvons rendre l'IA dans le gouvernement plus juste, transparente et réactive aux personnes qu'elle sert. Cela transforme une instruction secrète et individuelle en une conversation publique.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.