Drift-Aware Governance-as-Code for Agentic Cloud Operations: Formalizing State Certifiability and Testing Dynamic Authority Control in an AWS Testbed

Dans le monde numérique moderne, les entreprises s'appuient sur de vastes réseaux de serveurs informatiques et d'outils logiciels pour gérer leurs activités. Pour que ces systèmes fonctionnent sans interruption, les organisations utilisent des programmes automatisés, souvent alimentés par l'intelligence artificielle, pour prendre des décisions et résoudre des problèmes sans l'aide humaine. Ces programmes peuvent augmenter l'échelle des services, modifier les paramètres de sécurité ou redémarrer des composants défaillants en une fraction de seconde. Cependant, ces agents automatisés opèrent sur la base d'une carte du système qu'ils sont censés gérer. Cette carte est une liste de règles et de configurations qui décrivent l'aspect que le système devrait avoir. Le problème survient lorsque le système réel change de manières que la carte ignore. Cet écart entre ce que le système est censé être et ce qu'il est réellement à un instant donné est appelé « dérive » (drift). Si un agent automatisé tente de résoudre un problème en utilisant une carte obsolète, il pourrait effectuer un changement qui est sûr selon la carte, mais dangereux dans la réalité. Le défi central pour les ingénieurs est de déterminer quand la carte est si peu fiable que l'agent doit cesser d'effectuer des changements et attendre qu'un humain vérifie la situation.

Une équipe de chercheurs s'est donné pour mission de résoudre ce problème spécifique en créant une nouvelle façon de gouverner ces agents automatisés. Ils ont développé un système qui vérifie constamment à quel point le système réel a dérivé de sa conception initiale. Au lieu de simplement regarder si une règle a été respectée, leur système mesure la qualité de l'information que l'agent utilise. Ils appellent ce concept la « certifiabilité de l'état » (state certifiability), ce qui signifie simplement se demander : avons-nous suffisamment de preuves dignes de confiance pour affirmer que la compréhension du système par l'agent est assez précise pour le laisser agir ? Si les preuves sont faibles parce que le système a trop changé ou que les données sont trop anciennes, le système réduit automatiquement le pouvoir de l'agent. Il ne coupe pas complètement l'agent ; au lieu de cela, il empêche l'agent d'effectuer des changements importants et risqués, tout en lui permettant d'accomplir un ensemble restreint d'actions sûres conçues pour résoudre le problème et rétablir l'ordre.

Pour tester cette idée, les chercheurs ont construit un environnement contrôlé en utilisant Amazon Web Services, une plateforme de cloud computing populaire. Ils ont créé un banc d'essai où ils pouvaient simuler différents niveaux de dérive, allant de l'absence totale de changements à des décalages chaotiques et sévères entre le plan et la réalité. Ils ont mené des milliers d'expériences où des agents automatisés tentaient d'accomplir des tâches telles que la rotation des mots de passe de sécurité, l'augmentation de la charge de travail informatique ou l'isolement de ressources compromises. Ils ont comparé trois approches différentes : laisser les agents agir sans aucune restriction, utiliser un ensemble de règles fixes qui ne changent pas en fonction de l'état du système, et utiliser leur nouveau système « sensible à la dérive » qui ajuste l'autorité de l'agent en temps réel. Les résultats étaient frappants. Lorsque le système était dans un état de dérive sévère, les agents sans restriction ont enfreint les règles 92,3 % du temps. Les agents avec des règles fixes les ont enfreintes 55,2 % du temps. Mais les agents gouvernés par le nouveau système sensible à la dérive ne les ont enfreintes que 25 % du temps. Cela a montré qu'en rendant le pouvoir de l'agent dépendant de la qualité de sa compréhension de l'état actuel du système, les chercheurs pouvaient réduire considérablement le risque d'erreurs dangereuses.

L'étude a également exploré ce qui se passe lorsque le système décide de verrouiller un agent. Une crainte courante est que le verrouillage d'un agent puisse empêcher celui-ci de résoudre un problème critique, laissant ainsi le système en panne. Les chercheurs ont testé une conception spécifique où, même en cas de verrouillage, l'agent est autorisé à effectuer un ensemble limité d'actions de « récupération uniquement », telles que l'isolement d'un serveur compromis ou l'annulation d'un mauvais changement. Ils ont constaté que cette approche constituait un compromis intelligent : un verrouillage strict qui arrêtait toutes les actions réduisait le risque de mouvements dangereux de plus de 80 %, mais empêchait aussi l'agent de résoudre le problème dans la plupart des cas. Cependant, l'approche de récupération uniquement réduisait le risque de mouvements dangereux d'environ 55 % tout en permettant à l'agent de résoudre avec succès le problème dans près de 84 % des cas. Cela a démontré qu'il est possible de maintenir la sécurité d'un système sans le paralyser, à condition que l'agent ne soit autorisé à prendre que des étapes spécifiques et pré-approuvées pour rétablir l'ordre.

L'une des conclusions les plus importantes de la recherche concernait la nature du point de « verrouillage ». L'équipe avait fixé un seuil spécifique où elle arrêterait les opérations normales de l'agent, espérant que ce nombre représenterait un point de rupture naturel où le système deviendrait trop dangereux à gérer. Cependant, leurs données ont montré que le risque d'erreurs n'augmentait pas soudainement à ce chiffre précis. Au contraire, le risque augmentait graduellement à mesure que le système dérivait de son plan. Cela signifie que la décision de verrouiller un agent n'est pas la découverte d'une loi naturelle, mais un choix délibéré fait par l'organisation. C'est une décision de politique consistant à dire : « Nous sommes prêts à accepter un certain risque, mais une fois que l'incertitude dépasse ce point, nous ne ferons plus confiance à la carte de l'agent. » Les chercheurs ont conclu qu'il n'existe pas de chiffre magique unique qui fonctionne pour chaque situation ; au contraire, les organisations doivent choisir soigneusement leurs propres limites en fonction de leurs besoins spécifiques et de leur tolérance au risque.

L'étude a également confirmé que le nouveau système fonctionne même lorsque les données sur lesquelles il repose sont imparfaites. Ils ont testé les performances du système lorsque les mesures de la dérive étaient légèrement erronées ou lorsque les données étaient un peu obsolètes. Le système est resté robuste, identifiant correctement les situations dangereuses et restreignant le pouvoir de l'agent dans presque tous les cas. De plus, ils ont mené une validation distincte en utilisant des commandes réelles sur la plateforme cloud pour s'assurer que le système fonctionnait en dehors d'une simulation. Dans ces tests en conditions réelles, le nouveau système a réduit les actions non autorisées de près de 9 % à un peu plus de 1 %, prouvant que le concept fonctionne non seulement en théorie, mais aussi en pratique. La recherche suggère que l'avenir des opérations cloud automatisées et sécurisées réside dans le traitement de l'autorité de l'agent comme une variable flexible. En demandant constamment si la connaissance de l'agent est suffisamment digne de confiance pour justifier une action spécifique, les organisations peuvent laisser leurs systèmes automatisés travailler plus vite et plus librement tout en gardant un contrôle étroit sur la sécurité.