💻 computer science

Certifying Ghosts: How Cybersecurity AI Agents Break the EU Cyber Resilience Act

Cet article soutient que le cadre de conformité statique et fondé sur des processus de la loi sur la cyber-résilience de l'UE est fondamentalement incompatible avec l'accélération continue, pilotée par l'IA, de la découverte et de l'exploitation des vulnérabilités, nécessitant ainsi un passage d'une certification ponctuelle à une sécurité perpétuelle opérée par des agents.

Auteurs originaux : Víctor Mayoral-Vilches

Publié 2026-07-09

📖 7 min de lecture🧠 Analyse approfondie

CC0 1.0

Auteurs originaux : Víctor Mayoral-Vilches

Article original placé dans le domaine public sous CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La vue d'ensemble : Une loi construite pour un monde qui n'existe plus

Imaginez que l'Union européenne ait adopté une nouvelle loi appelée le Cyber Resilience Act (CRA). Son objectif est de s'assurer que les gadgets que nous achetons (comme les réfrigérateurs intelligents, les robots ou les caméras) sont sûrs.

La loi est intelligente sur un point : elle admet qu'aucun logiciel n'est parfait. On ne peut pas promettre qu'un produit n'aura jamais de bug. Ainsi, au lieu d'exiger « zéro bug », la loi exige un processus. Elle dit : « Fabricants, vous devez chercher les bugs, les corriger quand vous les trouvez, et nous informer si quelqu'un pirate activement votre produit. »

Les auteurs de cet article soutiennent que cette loi a été écrite pour un monde qui n'existe plus. Elle a été conçue à une époque où trouver des bugs informatiques était lent, coûteux et nécessitait un expert humain. Mais aujourd'hui, les agents IA (des programmes informatiques qui agissent comme des hackers autonomes) ont changé la donne. Ils peuvent trouver des bugs instantanément, à bas coût et par millions.

L'article soutient que si la loi peut gérer le volume de bugs, elle échoue complètement face à la vitesse et à la nature de ces hackers IA.

Les quatre règles sur lesquelles la loi reposait (Et comment l'IA les a brisées)

La loi repose sur quatre suppositions concernant le fonctionnement du monde. L'article les appelle des « Prémisses ». L'IA a invalidé les quatre.

1. La règle de la « Rareté Humaine » (Prémisse P1)

L'ancien monde : Trouver un bug revenait à chercher une aiguille dans une botte de foin. Il fallait à un détective humain qualifié des jours ou des semaines pour en trouver un. Comme c'était difficile, peu de bugs étaient trouvés à la fois.
La réalité de l'IA : Les agents IA sont comme un essaim de 1 000 détectives super rapides. Ils peuvent scanner une botte de foin et trouver 1 000 aiguilles en une seconde.
Le résultat : La loi s'adapte ici. Elle peut gérer cela. La loi dit simplement : « Vous n'avez pas besoin de réparer chaque aiguille ; montrez-nous simplement que vous avez un bon système pour décider lesquelles sont dangereuses. » Le processus est flexible pour gérer le volume.

2. La règle du « Instantané » (Prémisse P2)

L'ancien monde : Lorsque vous vendez un produit, vous le vérifiez. S'il est propre aujourd'hui, vous obtenez un certificat « Sûr ». Vous supposez qu'il restera propre pendant un certain temps.
La réalité de l'IA : L'IA peut regarder un produit demain et trouver un nouveau bug qui n'existait pas (ou n'était pas connu) aujourd'hui. Le produit n'a pas changé, mais le certificat « Sûr » est désormais un mensonge.
Le résultat : La loi se brise. Le certificat est comme la photo d'une personne prise hier. Si elle se coupe les cheveux aujourd'hui, la photo est toujours « vraie » pour le passé, mais elle est inutile pour l'identifier maintenant. La loi certifie un « fantôme » : un produit sécurisé qui n'existe plus.

3. La règle de l'« Événement Discret » (Prémisse P3)

L'ancien monde : Le piratage était comme un cambrioleur brisant une fenêtre. Vous entendez un fracas, vous savez que cela s'est produit, et vous appelez la police (déclaration d'incident).
La réalité de l'IA : Les hackers IA sont comme un vent léger et constant qui érode un mur. Ils sondent votre produit 24h/24 et 7j/7. Il n'y a pas de « fracas » unique à signaler ; l'attaque est devenue le bruit de fond de l'internet.
Le résultat : La loi se brise. La loi dit : « Signalez-le si vous voyez un piratage actif. » Mais si le piratage est constant et invisible, vous ne pouvez pas déclencher le rapport. Le système d'alarme est cassé parce que le feu est devenu un lent incendie couvant, et non une explosion soudaine.

4. La règle de la « Course à la Correction » (Prémisse P4)

L'ancien monde : Si un bug est trouvé, l'entreprise a le temps de le corriger et d'envoyer une mise à jour avant que les hackers ne l'utilisent.
La réalité de l'IA : Les hackers IA peuvent transformer un bug découvert en arme en quelques minutes. Le temps qu'une entreprise humaine termine une réunion pour discuter d'un correctif, l'IA a déjà exploité le bug sur des millions d'appareils.
Le résultat : La loi se brise. La loi dit : « Corrigez sans délai. » Mais on ne peut pas faire la course entre une balle et un vélo. Le calendrier s'est effondré ; la course est perdue d'avance pour les humains.

Le problème central : Certifier des fantômes

L'article utilise l'expression « Certifier des fantômes » (Certifying Ghosts).

Imaginez qu'un inspectateur sanitaire visite un restaurant, vérifie la cuisine et lui donne un tampon « Sain ». Mais, dès que l'inspecteur part, un virus magique apparaît dans la nourriture. Le restaurant est désormais dangereux, mais il possède toujours le tampon « Sain » car l'inspecteur n'a vérifié que le processus et l'instant T.

Le CRA fait cela avec les logiciels. Il tamponne les produits comme « Sécurisés » sur la base d'un instantané dans le temps. Mais comme les hackers IA peuvent changer le paysage de la sécurité instantanément, ce tampon est un mensonge dès qu'il est imprimé. La loi certifie une posture de sécurité qui a déjà disparu.

La solution : Le « Système immunitaire robotique »

L'article ne se contente pas de dire que la loi est brisée ; il propose un remède. Il soutient que nous ne pouvons pas revenir à des humains vérifiant les choses lentement. Nous devons utiliser la même arme que les hackers : les Défenseurs IA.

L'analogie : Au lieu d'un garde de sécurité qui parcourt les couloirs une fois par jour (la loi actuelle), vous avez besoin d'un système immunitaire numérique qui vit à l'intérieur du robot ou de l'appareil.
Comment ça marche : Ce défenseur IA surveille constamment l'appareil. Si un hacker IA tente de s'introduire, le défenseur le repère, le bloque et répare la faille en quelques millisecondes — plus vite que le hacker ne peut réagir.
La preuve : Les auteurs ont testé cela sur deux robots réels : un robot humanoïde et une tondeuse robotisée.
- Sans le Défenseur IA : Le hacker a pris le contrôle des robots en quelques secondes.
- Avec le Défenseur IA : Le hacker a été bloqué avant de pouvoir causer de réels dommages. Le robot a continué à fonctionner en toute sécurité.

Conclusion

L'article conclut que le Cyber Resilience Act est une excellente loi pour un monde qui a déjà quitté la pièce.

La solution : Nous devons cesser de traiter la sécurité comme un examen périodique (comme une visite annuelle chez le médecin) et commencer à la traiter comme une défense continue et vivante (comme un système immunitaire).
L'avertissement : Si l'UE attend 2027 pour appliquer pleinement cette loi sans la mettre à jour, elle distribuera des certificats « Sûrs » à des produits qui sont déjà vulnérables aux attaques d'IA.
L'appel à l'action : La sécurité doit devenir continue et être gérée par des agents d'IA. Ce n'est plus un choix ; c'est la seule façon de survivre au paysage actuel des menaces.

En bref : On ne peut pas utiliser une carte papier pour naviguer dans une ville qui est reconstruite chaque heure. La loi doit arrêter de regarder la carte et commencer à conduire la voiture en temps réel.

Résumé Technique : Certifier des fantômes : Comment les agents d'IA de cybersécurité brisent l'Acte sur la Résilience Cybersécurité de l'UE

Énoncé du Problème
L'Acte sur la Résilience Cybersécurité (CRA) de l'Union européenne, Règlement (UE) 2024/2847, établit un cadre réglementaire orienté vers les processus pour la cybersécurité. Plutôt que de garantir des produits exempts de vulnérabilités, il impose aux fabricants d'évaluer les risques, de gérer les failles et de signaler les incidents. L'article soutient que ce cadre repose sur quatre prémisses tacites concernant l'écosystème des vulnérabilités qui étaient valables lors de la rédaction de la législation (pré-ChatGPT, 2022), mais qui sont désormais falsifiées par l'émergence des agents de Cybersécurité par IA (CAI).

Ces quatre prémisses sont :

P1 (Découverte à rareté humaine) : La recherche de vulnérabilités est lente, spécialisée et nécessite une main-d'œuvre humaine intensive.
P2 (Connaissabilité ponctuelle) : Les failles exploitables d'un produit sont connaissables et statiques au moment de sa mise sur le marché.
P3 (Exploitation discrète) : L'exploitation active est un événement rare et détectable.
P4 (Rythme de remédiation) : Le délai entre la découverte et l'armement est suffisamment long pour que les mises à jour programmées puissent suivre le rythme.

L'article postule que les agents CAI — des systèmes d'IA conçus pour découvrir, armer et exploiter les vulnérabilités d'autres produits — font s'effondrer le tempo, l'économie et la symétrie du cycle de vie des vulnérabilités, rendant le modèle de certification « ponctuel » du CRA obsolète avant même son entrée pleinement en vigueur en décembre 2027.

Méthodologie
Les auteurs utilisent une méthodologie de test de résistance technico-juridique, en cartographiant les mécanismes spécifiques du texte du CRA contre les capacités des agents CAI actuels.

Reconstruction Textuelle : Les auteurs reconstruisent l'orientation procédurale du CRA à partir des articles et annexes du règlement, identifiant les quatre prémisses fondamentales.
Cartographie des Capacités : Ils corrèlent les mécanismes spécifiques du CRA (par exemple, les déclencheurs de signalement de l'Article 14, les évaluations de conformité de l'Annexe I) avec des données empiriques sur les performances des agents CAI. Cela inclut la citation de sources primaires datées (par exemple, GPT-4 exploitant 87 % des CVE de type "one-day", les agents DARPA AIxCC identifiant des zero-days, des équipes d'agents atteignant de réels zero-days).
Analyse "Plier vs Briser" (Bend vs. Break) : Les auteurs catégorisent l'impact des agents CAI en deux régimes :
- Plier (Bends) : Là où le régime fléchit sous la charge (volume) mais reste logiquement intact.
- Briser (Breaks) : Là où le régime se fracture parce que les prémisses environnementales (P2–P4) sont retirées, rendant la certification invalide quel que soit le degré de diligence du processus.
Validation Empirique : Le remède proposé est testé sur deux robots relevant du champ d'application du CRA (un humanoïde Unitree G1 et une tondeuse robotisée Hookii). Ceux-ci ont été soumis d'abord à des agents CAI offensifs dans un état non défendu, puis à un « Remède Natif de l'Agent », le Système Immunitaire Robotique (RIS), une couche défensive continue opérée par un agent.

Contributions Clés

Décomposition au niveau des prémisses : L'article fournit la première cartographie disposition par disposition du CRA face à la dynamique des CAI, distinguant les mécanismes qui « plient » (peuvent être réinterprétés) de ceux qui « brisent » (nécessitent de nouveaux construits réglementaires).
Le Cadre "Plier vs Briser" :
- Plier (Bends) (P1) : Le régime tient face au pur volume de vulnérabilités mises au jour par les agents. La conformité passe de « remédier à tout » à « démontrer la priorité ».
- Briser (Breaks) (P2–P4) : Le régime échoue en raison de la vitesse et de la symétrie des agents. Un produit certifié comme sûr au temps $t$ devient exploitable à $t+1$ sans aucune modification du produit, car la capacité de l'environnement à trouver des failles a changé. Cela invalide le certificat « ponctuel ».
Remède Natif de l'Agent : L'article propose que la seule solution viable est de passer d'une conformité périodique humaine à une posture continue opérée par un agent. Cela implique d'utiliser des agents CAI défensifs pour reprober les produits contre les capacités offensives actuelles en temps réel, faisant de la sécurité une sorte d'abonnement vivant plutôt qu'un instantané statique.
Validation Matérielle : Les auteurs démontrent qu'un défenseur agentique (RIS) peut contenir des agents offensifs de classe frontalière sur des robots physiques, réduisant le taux de succès des attaquants d'environ 75–79 % à 8–14 %, tout en maintenant la disponibilité du système.

Résultats

Stress du Régime : L'analyse confirme que si le CRA peut absorber le volume des vulnérabilités découvertes par les agents (Plier), il ne peut survivre à l'effondrement du cycle de vie des vulnérabilités (Briser). Plus précisément, le déclencheur d'« exploitation active » (Art. 14) perd son pouvoir discriminant lorsque l'exploitation devient ambiante, et la condition de « aucune vulnérabilité exploitable connue » (Annexe I) devient pratiquement vide lorsque les failles latentes peuvent être redécouvertes à la demande.
Prédictions : L'article présente six prédictions falsifiables pour 2028, notamment la perte de pouvoir discriminant du déclencheur d'« exploitation active », le défi posé à la conformité ponctuelle lorsque des produits conformes sont compromis par des changements environnementaux, et l'éventuelle proposition de mécanismes de réévaluation déclenchés par l'environnement.
Efficacité Défensive : Dans des évaluations contrôlées, le Système Immunitaire Robotique (RIS) a réussi à détecter, classifier et contenir des agents CAI offensifs en quelques secondes (<8s pour le humanoïde, <12s pour la tondeuse), empêchant l'accès root et les dépassements de sécurité (safety overrides). Cela prouve que les agents défensifs peuvent suivre les agents offensifs, créant un équilibre statistique plutôt qu'une fuite en avant de l'attaquant.

Signification et Revendications
L'article affirme que le CRA n'est pas « erroné » dans sa conception, mais qu'il est « précoce face à sa propre obsolescence », ayant été calibré sur un modèle de menace abandonné des années avant sa pleine application.

L'Argument Central : Le décalage ne vient pas du produit régulé, mais du paysage de l'adversaire. Un certificat statique ne peut attester d'une posture de sécurité dans un monde où la capacité de l'adversaire est une variable dynamique et externe.
La Nécessité du Changement : Les auteurs soutiennent que la sécurité doit passer d'un processus périodique géré par l'humain à un processus continu opéré par l'agent. Ce n'est pas une question de préférence, mais de survie ; le certificat « ponctuel » certifie des « fantômes » — des postures de sécurité qui n'existent plus.
Position Constructive : L'article se positionne comme une critique constructive venant de l'intérieur de la communauté européenne de la cybersécurité. Il soutient que la même capacité d'IA qui brise la loi (agents offensifs) fournit la matière pour la réparer (agents défensifs). Les auteurs exhortent les régulateurs à ne pas traiter la révision à venir comme une simple mise à jour de routine, mais comme un moment critique pour introduire des « lignes de base de capacité d'adversaire » et des mécanismes de conformité continue, avertissant que l'attente jusqu'en 2027 pour traiter cela aboutira à une machine réglementaire certifiant un paysage qui a déjà disparu.