Versioned Governance for Frontier AI: A Software-Engineering-Inspired Approach
Cet article propose un cadre d'IA inspiré du génie logiciel pour la gouvernance de l'IA qui traite la « dérive silencieuse » des politiques normatives en préconisant un versionnage granulaire, des journaux de modifications classifiés et des mécanismes de retour en arrière explicites afin de garantir une évolution des politiques transparente, auditable et acceptée par les régulateurs.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un monde où les règles régissant les systèmes d'intelligence artificielle puissants sont consignées dans des documents publics, tout comme les conditions d'utilisation d'un site web ou le manuel de sécurité d'une usine. Ces documents nous indiquent ce que l'IA est autorisée à faire, ce qu'elle doit refuser de faire et la manière dont ses créateurs promettent de la maintenir en sécurité. Pour les personnes qui construisent ces systèmes, les règles ne sont pas statiques ; elles évoluent constamment à mesure que la technologie progresse. Une règle qui semblait sûre aujourd'hui pourrait nécessiter un resserrement demain, ou une nouvelle capacité pourrait exiger une toute nouvelle permission. Le problème survient lorsque ces changements se produisent sans un registre public clair de ce qui a été modifié, pourquoi cela a été modifié et qui avait l'autorité pour effectuer le changement. Ce manque d'historique clair crée une situation où les règles dérivent silencieusement au fil du temps. Un observateur extérieur, tel qu'un journaliste, un juge ou une entreprise utilisant la technologie, ne peut pas savoir si une phrase dans le document a été simplement polie pour une meilleure grammaire ou si elle a fondamentalement déplacé les limites de ce que l'IA est autorisée à faire.
Ce silence est dangereux car il brise la confiance nécessaire pour que la société puisse s'appuyer sur ces systèmes. Si un tribunal doit juger un événement survenu l'année dernière, il doit savoir exactement quelles étaient les règles à ce moment-là, et non les règles telles qu'elles existent aujourd'hui. Si une entreprise a certifié sa sécurité en se basant sur une politique datant d'il y a six mois, elle doit savoir si cette politique signifie toujours la même chose. Actuellement, la manière dont ces documents sont mis à jour échoue souvent à fournir cette clarté. Les changements sont réels, mais l'historique de ces changements est manquant ou confus. Cela laisse tous ceux qui sont à l'extérieur du laboratoire deviner la véritable nature des règles qui régissent la technologie qu'ils utilisent ou régulent.
Un chercheur nommé Zhixin Xue a examiné ce problème et a proposé une solution inspirée de la manière dont les ingénieurs logiciels gèrent le code. Dans le monde de la programmation informatique, lorsque les développeurs mettent à jour un programme, ils utilisent un système strict pour suivre chaque modification. Ils attribuent des numéros de version qui indiquent aux utilisateurs l'importance exacte d'un changement : un changement de numéro majeur indique une mise à jour importante et potentiellement incompatible ; un changement de numéro mineur signifie une nouvelle fonctionnalité qui fonctionne toujours avec l'ancien système ; et un numéro de correctif (patch) signifie une petite correction. Ils tiennent également des journaux détaillés expliquant exactement ce qui a changé et pourquoi. Xue soutient que les documents régissant l'intelligence artificielle devraient être traités avec le même niveau de discipline. Au lieu de simplement publier une nouvelle version d'une politique sans contexte, les laboratoires devraient utiliser un système structuré qui classifie chaque changement, explique la raison de celui-ci et conserve un registre permanent et immuable de l'historique.
Pour tester si cette approche est nécessaire et comment elle pourrait fonctionner, Xue a examiné cinq ensembles majeurs de règles qui régissent les systèmes d'IA de pointe entre 2019 et 2025. Ceux-ci comprenaient les politiques d'utilisation et les spécifications de modèles d'OpenAI, la Politique d'Échelle Responsable (Responsible Scaling Policy) d'Anthropic, la loi sur l'intelligence artificielle de l'Union européenne et le Cadre de gestion des risques (Risk Management Framework) du NIST des États-Unis. Le chercheur a analysé comment ces documents ont été révisés au fil du temps, cherchant des signes de ce type de suivi discipliné. L'étude a révélé que, bien que certains de ces documents aient commencé à utiliser des numéros de version et des listes de changements datées, ils manquent les parties les plus critiques du système. Plus précisément, les documents expliquent rarement si un changement est un virage majeur dans les règles ou simplement une petite clarification. Ils manquent également d'un mécanisme clair pour revenir en arrière sur un changement si celui-ci s'avère être une erreur.
L'analyse a révélé un schéma que l'auteur appelle la « dérive silencieuse ». Dans les exemples concrets étudiés, les changements les plus significatifs apportés aux règles se sont souvent produits en réponse à des événements externes soudains, tels que la sortie publique d'un nouveau modèle d'IA plus puissant. Cependant, la documentation de ces changements n'a pas suivi le rythme. Les listes de changements qui existaient étaient souvent de simples résumés rédigés en langage courant, qui décrivaient ce qui s'était passé mais ne classaient pas l'importance du changement. Cela force le lecteur à deviner si un changement est mineur ou majeur. De plus, aucun des cinq instruments étudiés ne comprenait de moyen formel d'annuler un changement de politique si celui-ci posait problème. Bien que les lois et normes des gouvernements et des organismes internationaux soient plus performantes pour suivre leurs versions que les entreprises privées, elles étaient néanmoins plus lentes à s'adapter et manquaient de mécanismes spécifiques pour annuler les changements.
Le papier suggère que la solution n'est pas d'inventer des lois ou des institutions entièrement nouvelles, mais d'adopter un cadre spécifique et léger que n'importe quel laboratoire pourrait utiliser immédiatement. Ce cadre exigerait qu'à chaque fois qu'un document de politique est mis à jour, l'auteur déclare le type de changement en utilisant un système à quatre niveaux : majeur, mineur, correctif (patch) ou construction (build). Un changement majeur serait celui qui modifie les frontières fondamentales de ce qui est autorisé ou interdit. Un changement mineur ajouterait de nouveaux scénarios ou procédures sans changer les principes de base. Un correctif serait une clarification ou une correction qui ne change pas le sens. Une construction serait une version adaptée à une région ou un groupe spécifique. Parallèlement à cette classification, la mise à jour devrait inclure un journal détaillé expliquant le changement et un plan pour l'annuler si nécessaire.
De manière cruciale, le papier soutient que le système doit traiter l'acte de mal classer un changement comme un événement enregistrable. Si un laboratoire prétend qu'un changement n'est qu'un petit correctif, mais qu'un auditeur ou un régulateur détermine plus tard qu'il s'agissait en réalité d'un virage majeur dans les règles, cette erreur doit être consignée publiquement. Cela crée un coût de réputation pour cacher la véritable nature des changements. L'étude note que, bien que les ingénieurs logiciels ne suivent parfois pas parfaitement ces règles de versionnage strictes, la discipline fonctionne mieux lorsqu'il y a des conséquences en cas d'erreur. En faisant de la classification des changements une affirmation publique et auditable, le cadre vise à rendre la « dérive silencieuse » visible et responsable.
Les conclusions indiquent que les outils pour résoudre ce problème existent déjà dans l'industrie du logiciel, mais qu'ils n'ont pas été pleinement appliqués aux documents qui régissent l'IA. L'écart ne provient pas d'un manque de capacité technique, mais d'un manque d'incitation et de discipline. La recherche conclut qu'à mesure que les systèmes d'IA deviennent plus puissants et que leurs règles changent plus fréquemment, la nécessité d'un historique clair et versionné de ces règles devient essentielle. Sans cela, les règles régissant ces systèmes puissants restent opaques et difficiles à accorder de la confiance. Avec une approche structurée, les changements peuvent être rendus transparents, permettant aux régulateurs, aux tribunaux et au public de comprendre exactement comment les règles ont évolué et de tenir les créateurs responsables des décisions qu'ils prennent.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.