Can AI Write Compliant Code, and to What Extent? Evaluating SOC 2 Compliance of Claude Fable 5, Claude Opus 4.8, and Claude Opus 5 Across Four Use Cases
Cette étude évalue la conformité SOC 2 de trois modèles d'IA de pointe à travers quatre cas d'utilisation, constatant que si la génération de code non sollicitée contient souvent des vulnérabilités critiques et omet des contrôles de sécurité clés, l'ajout d'une seule phrase faisant référence aux normes SOC 2 améliore considérablement la conformité pour atteindre 86 à 100 % et élimine les constructions non sécurisées, bien qu'il ne parvienne pas à traiter les contrôles situés en dehors de la conception de la tâche immédiate du modèle et souligne le manque de fiabilité de la notation par correspondance de formes automatisée au profit de la vérification sémantique.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le filet de sécurité invisible
Imaginez que vous engagiez un apprenti surdoué et infatigable pour vous construire une maison. Cet apprenti, une Intelligence Artificielle, peut tracer des plans, mélanger du béton et installer des fenêtres plus vite que n'importe quelle équipe humaine. Mais voici le hic : l'apprenti n'a jamais été informé des codes de construction. Il sait comment construire une maison qui a une belle apparence et qui tient debout, mais il pourrait oublier d'installer les détecteurs de fumée, de verrouiller la porte arrière ou de renforcer les fondations contre les séismes. Dans le monde du logiciel, c'est exactement ce qui se passe lorsque des équipes demandent à l'IA d'écrire du code. Le code fonctionne, mais il peut manquer les règles de sécurité invisibles nécessaires pour protéger les données des pirates informatiques.
Ce document explore un recoin spécifique de l'informatique appelé la conformité, qui est simplement un mot sophistiqué pour dire « suivre le manuel de règles ». Plus précisément, les chercheurs se sont penchés sur la norme SOC 2, un ensemble de règles que les entreprises utilisent pour prouver qu'elles protègent les données de leurs clients. Ils voulaient savoir deux choses : si vous demandez à une IA d'écrire du code sans mentionner la sécurité, suivra-t-elle accidentellement les règles quand même ? Et si vous ajoutez simplement une toute petite phrase disant : « Hé, cela doit respecter les normes SOC 2 », cela règle-t-il tout ? C'est un peu comme demander : « Si je demande à un chef de faire un sandwich, se souviendra-t-il de se laver les mains ? Et si je lui murmure "code d'hygiène", se souviendra-t-il soudainement de porter des gants ? »
Le grand test du code IA
Pour trouver les réponses, les chercheurs de Vanta ont mis en place une expérience massive et contrôlée. Ils ont traité trois versions différentes d'une IA puissante (nommées Claude Fable 5, Claude Opus 4.8 et Claude Opus 5) comme des concurrents dans un concours de cuisine. Ils ont donné à chaque IA quatre « recettes » différentes pour coder : un outil de gestion de stockage cloud, un système de connexion, une configuration de base de données et un gestionnaire de téléchargement de fichiers.
Ils ont mené le test deux fois pour chaque recette. Dans le premier tour, ils ont donné un prompt neutre à l'IA, du type « Écrivez un outil pour télécharger des fichiers ». Dans le second tour, ils ont donné exactement le même prompt mais ont ajouté une seule phrase : « Ces données sont sensibles et doivent être conformes aux normes SOC 2 ».
Les chercheurs ont ensuite agi comme des inspecteurs stricts. Ils ne se sont pas contentés d'exécuter le code pour voir s'il fonctionnait ; ils ont vérifié chaque ligne par rapport à une liste de contrôle de règles de sécurité. Ils ont recherché des éléments tels que le chiffrement (brouiller les données pour que les voleurs ne puissent pas les lire), les contrôles d'accès (s'assurer que seules les bonnes personnes peuvent voir les fichiers) et la journalisation (tenir un journal de qui a fait quoi).
Ce qu'ils ont découvert : la « phrase magique » et les angles morts
Les résultats sont un mélange de très bonnes nouvelles surprenantes et d'avertissements très importants.
1. La « phrase magique » fait des miracles (mais pas de tout)
Lorsque l'IA était sollicitée pour écrire du code sans aucune instruction de sécurité, les résultats étaient mitigés. Selon la tâche, le code respectait les règles entre 47 % et 88 % du temps. Elle était douée pour les bases, comme la protection des mots de passe, mais médiocre pour les aspects ennuyeux et invisibles, comme le verrouillage des compartiments de stockage cloud.
Cependant, au moment où les chercheurs ont ajouté cette seule phrase concernant le SOC 2, la performance de l'IA a grimpé en flèche. Chaque test a bondi entre 86 % et 100 % de conformité. Cette seule phrase valait un gain de 23 à 50 points de pourcentage. C'était comme si l'IA s'était soudainement réveillée et s'était rappelée : « Oh oui, je dois porter un casque ! ». Crucialement, cette phrase a également éliminé toutes les constructions non sécurisées que les chercheurs avaient trouvées, telles que les débogueurs ouverts ou les téléchargements non authentifiés.
2. Le problème de l'« idiome »
L'étude a révélé que l'IA suit les règles qui font partie de la « manière normale » d'écrire du code. Par exemple, elle se souvient presque toujours de hacher les mots de passe (les brouiller pour qu'ils ne puissent pas être volés) parce que c'est ainsi que l'on écrit un système de connexion. Mais elle oubliait des choses qui ne font pas partie de la « recette standard », comme ajouter des verrous supplémentaires à un compartiment de stockage cloud ou configurer un crochet d'authentification multi-facteurs (MFA).
Même avec la « phrase magique », un ensemble stable de contrôles restait manquant car ils se situent en dehors de la conception par défaut du modèle pour la tâche. Des fonctionnalités spécifiques comme les crochets MFA, les drapeaux de cookies sécurisés et la gestion du cycle de vie des comptes n'ont pas été automatiquement ajoutées simplement en nommant la norme ; elles devaient être nommées individuellement dans le prompt. La phrase magique a réglé le tableau général et les dangers cachés, mais elle ne pouvait pas combler chaque petit détail spécifique à moins qu'on ne les demande par leur nom.
3. Les dangers « invisibles »
C'est ici que cela devient effrayant. Dans trois des seize tests « neutres » (où aucune sécurité n'était mentionnée), l'IA a écrit du code qui était réellement dangereux, même s'il semblait correct.
- L'une des IA a laissé un « débogueur » ouvert, ce qui est comme laisser une porte dérobée dans une maison permettant à n'importe qui de prendre le contrôle de l'ordinateur.
- Deux autres ont créé des liens de téléchargement qui ne vérifiaient pas qui cliquait dessus, permettant à n'importe qui de télécharger les fichiers privés d'autres personnes.
- Une autre IA a créé une base de données qui supprimerait accidentellement toutes ses données si vous tentiez de l'éteindre dans un environnement de non-production.
Le premier scanner automatisé des chercheurs a manqué tous ces erreurs dangereuses. Il a fallu qu'un humain examine attentivement pour réaliser que le code était défectueux. Cela prouve que les scanners informatiques standards ne sont pas assez intelligents pour détecter ces erreurs « invisibles » dans le code généré par l'IA.
4. Le modèle n'a pas beaucoup d'importance
Les chercheurs s'attendaient à ce que la plus récente et la plus intelligente des IA (Opus 5) soit bien meilleure que les anciennes. Mais la différence était minime. La « phrase magique » (le prompt) a fait une bien plus grande différence que le changement de modèle d'IA lui-même. Si vous essayez d'obtenir du code conforme, choisir un modèle d'IA plus récent ne vous aidera pas autant que de simplement dire à l'IA de suivre les règles.
L'essentiel à retenir
Ce document nous enseigne que l'IA est un constructeur fantastique, mais qu'elle n'est pas un inspecteur de sécurité. Si vous lui demandez de construire quelque de chose sans mentionner la sécurité, elle construira une maison qui tient debout, mais qui pourrait manquer de détecteurs de fumée ou de verrous. Si vous ajoutez une seule phrase sur le respect des règles, elle installera soudainement la majeure partie de l'équipement de sécurité et supprimera les portes dérobées dangereuses.
Cependant, il reste des lacunes. L'IA n'installera pas automatiquement des fonctionnalités de sécurité spécifiques et complexes (comme les crochets MFA ou des paramètres de cookies spécifiques) à moins que vous ne les demandiez par leur nom, même si vous mentionnez les règles. Et, plus important encore, vous ne pouvez pas simplement faire confiance à un programme informatique pour vérifier le travail de l'IA ; vous avez besoin d'un humain pour examiner de près, car l'IA peut cacher des erreurs dangereuses de manière astucieuse, là où les scanners simples ne les voient pas.
La leçon pour quiconque utilise l'IA pour écrire du code est simple : ne supposez pas que l'IA connaisse les règles. Vous devez lui donner les règles, et ensuite vous devez vérifier son travail, car une maison qui semble parfaite peut encore cacher une trappe.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.