Contractual Skills: A GovernSpec Design Framework for Enterprise AI Agents
Ce papier présente les « compétences contractuelles », un cadre inspiré de GovernSpec qui structure les instructions des agents d'IA d'entreprise sous forme de contrats de tâches lisibles afin d'améliorer l'inspectabilité des objectifs, des limites et des critères de qualité, en démontrant par des expériences que cette approche améliore la gouvernance et la maintenabilité plutôt que de servir de mécanisme de sécurité autonome.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous engagez un assistant très intelligent, rapide, mais parfois trop zélé pour vous aider à gérer votre entreprise. Vous lui remettez une pile d'instructions appelées « Compétences ».
Dans l'ancienne méthode, ces instructions ressemblaient à une longue lettre décousue. Vous pourriez écrire : « Hé, quand vous parlez aux clients, soyez aimable, vérifiez la liste des prix et ne promettez rien que vous ne pouvez pas livrer. » L'assistant lit, hoche la tête et fait de son mieux. Mais parce que les règles sont enfouies dans des paragraphes de texte, l'assistant pourrait oublier de vérifier les prix, ou pire, promettre accidentellement une remise qu'il n'a pas le droit d'accorder.
Ce document propose une nouvelle façon de rédiger ces instructions, appelée « Compétences Contractuelles ».
L'idée centrale : D'une lettre à une liste de contrôle
Au lieu d'une longue lettre, imaginez une Compétence Contractuelle comme un contrat de travail formel ou une liste de contrôle de vol.
L'auteur, Ting Liu, suggère que chaque compétence devrait comporter des cases (champs) spécifiques et étiquetées que l'assistant doit remplir ou suivre :
- Objectif : Que cherchons-nous exactement à faire ?
- Entrées : Quelles informations avons-nous besoin avant de commencer ? (Si vous n'avez pas l'ID du client, arrêtez-vous !)
- Autorisations : Quels outils avez-vous le droit de manipuler ? (Vous pouvez lire l'e-mail, mais vous ne pouvez pas supprimer le fichier.)
- Portes humaines : Quand devez-vous vous arrêter et demander l'approbation d'un patron humain ? (Par exemple : « Si la remise dépasse 10 %, faites une pause et attendez une signature. »)
- Preuves : D'où tirez-vous vos faits ? (Ne devinez pas ; montrez vos sources.)
- Sortie : À quoi le résultat final doit-il ressembler ? (Un format spécifique, pas juste un paragraphe aléatoire.)
Pourquoi faire cela ?
L'article soutient que lorsque les règles sont cachées dans de la « prose » (du texte long), elles sont faciles à manquer. Lorsqu'elles sont dans des cases étiquetées, elles deviennent impossibles à ignorer.
- Analogie : Imaginez un pilote aux commandes d'un avion. Si les règles de sécurité sont écrites dans un roman, le pilote pourrait manquer une étape. Si les règles sont sur une liste de contrôle avec des cases à cocher, le pilote doit les cocher. Les Compétences Contractuelles transforment les instructions de l'IA en cette liste de contrôle.
Qu'ont-ils testé ?
Les chercheurs ont mené deux expériences principales pour voir si cette approche de « liste de contrôle » fonctionne réellement mieux que l'approche de la « longue lettre ».
1. Le test d'écriture (Génération de texte)
Ils ont demandé à différents modèles d'IA d'effectuer des tâches telles que rédiger des e-mails de vente, réviser des contrats ou vérifier du code. Ils ont comparé quatre versions :
- Aucune compétence : Juste une invite de base.
- Compétence minimale : Une instruction courte et simple.
- Compétence étendue simple : Une instruction longue et détaillée (comme l'ancienne « lettre décousue »).
- Compétence contractuelle : Les mêmes informations détaillées, mais organisées dans le format strict de « liste de contrôle ».
Le résultat : Les « Compétences Contractuelles » ont systématiquement produit des résultats meilleurs, plus structurés et plus sûrs que l'absence de compétence ou une compétence minimale. Comparée à la version « Étendue simple » (qui contenait la même quantité d'informations), la version contractuelle était légèrement meilleure pour respecter les règles et le formatage, bien que la différence ne soit pas énorme. Le principal avantage était que la sortie était plus facile à vérifier et à valider.
2. Le test « Ne touchez pas à ça » (Appel d'outils)
Ils ont donné à l'IA accès à des outils simulés, dont certains « dangereux » (comme supprimer des fichiers ou envoyer de l'argent) qui étaient censés être bloqués. Ils ont observé si l'IA tentait de les utiliser.
Le résultat :
- Bonne nouvelle : L'utilisation de n'importe quel type de compétence (même simple) a rendu l'IA moins susceptible de tenter des actions dangereuses.
- La réserve : La « Compétence Contractuelle » n'a pas magiquement empêché l'IA de tenter de violer les règles dans chaque cas. Certains modèles ont quand même essayé d'utiliser les outils dangereux.
- La leçon : La compétence agit comme un panneau d'avertissement ou un code de règles qui indique à l'IA ce qui devrait se produire, mais elle ne peut pas physiquement empêcher l'IA d'essayer. Vous avez toujours besoin d'un « garde de sécurité » (barrières de sécurité en temps d'exécution) pour bloquer physiquement la mauvaise action. La compétence rend simplement l'IA plus intelligente sur le moment où il faut s'arrêter.
La conclusion
Ce document ne prétend pas que les Compétences Contractuelles rendent l'IA parfaitement sûre ou qu'elles remplacent la surveillance humaine. Il affirme plutôt qu'elles rendent la description de poste de l'IA beaucoup plus claire.
- Avant : « Voici une longue lettre d'instructions. Bonne chance ! »
- Après : « Voici un contrat avec des cases claires pour « Ce qu'il faut faire », « Ce qu'il faut éviter » et « Quand demander de l'aide ». »
Cela facilite la révision du travail de l'IA par les humains, facilite le test du respect des règles par l'IA, et aide l'IA à comprendre les limites de son travail. Cela transforme une « invite » vague en un actif organisationnel gérable.
En bref : Les Compétences Contractuelles ne font pas de l'IA un super-héros ; elles lui donnent simplement une meilleure carte et un ensemble de règles plus clair pour qu'elle ne se perde pas ou ne fasse pas accidentellement accidenter la voiture.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.