Imaginez que vous construisez une maison. Pendant des décennies, nous avons eu un ensemble parfait de plans et d'outils pour mesurer la solidité des murs, la sécurité des verrous et la probabilité qu'un cambrioleur croche une serrure spécifique. Ces outils fonctionnent très bien pour les maisons standards faites de bois et de briques. Mais maintenant, imaginez que nous construisons soudainement des maisons à partir de nuages vivants et pensants qui peuvent vous parler, écrire vos e-mails et même conduire votre voiture. Les anciens outils ne fonctionnent plus ici. Vous ne pouvez pas mesurer la « force » d'un nuage avec un marteau, et un cambrioleur n'a pas besoin de croche une serrure ; il lui suffit de murmurer un mot de passe secret au nuage pour qu'il le laisse entrer. C'est le monde de l'Intelligence Artificielle (IA). C'est une nouvelle sorte de technologie qui apprend à partir de données plutôt que de simplement suivre une liste fixe d'instructions. Parce que ces systèmes d'IA sont si nouveaux et si différents, les anciennes listes de contrôle de sécurité que nous utilisons pour les logiciels informatiques classiques passent à côté des éléments les plus importants du puzzle. Nous avons besoin d'une nouvelle façon de comprendre les risques, sinon nous risquons de vivre dans une maison qui semble sûre mais qui est en réalité pleine de fissures invisibles.

Ce document, écrit par Shubham Paikrao, est comme un nouvel outil sur mesure conçu spécifiquement pour ces maisons de « nuages pensants ». L'auteur soutient que les scores de sécurité que nous utilisons aujourd'hui sont comme essayer de mesurer le poids d'un nuage avec un pèse-personne : ils ne correspondent tout simplement pas. Le document suggère qu'au lieu de forcer un nouveau chiffre sur de vieux outils, nous devons examiner le risque lié à l'IA à travers cinq « lentilles » ou dimensions que les outils actuels ignores complètement. Ces lentilles sont : la Surface d'Attaque (combien de portes et de fenêtres l'IA a ouvertes), l'Exploitabilité du Modèle (la facilité avec laquelle l'IA peut être trompée ou manipulée), l'Intégrité des Données (à quel point les informations dont l'IA a appris sont réellement dignes de confiance), l'Exposition Réglementaire (dans quelle mesure l'IA pourrait causer des ennuis juridiques à l'entreprise) et la Maturité du Contrôle (à quel point l'entreprise est douée pour surveiller l'IA).

Le document ne prétend pas posséder un calculateur magique qui donne un montant en dollars parfait pour chaque risque en ce moment. En fait, il précise explicitement que nous n'avons pas encore assez d'historique de catastrophes liées à l'IA pour faire ces prédictions financières précises. Au lieu de cela, il propose un « cadre conceptuel », ce qui est une façon élégante de dire qu'il fournit un échafaudage solide ou un vocabulaire partagé. C'est un moyen pour les patrons, les agents de sécurité et les régulateurs gouvernementaux de parler tous le même langage lorsqu'ils discutent des dangers de l'IA. L'auteur suggère qu'en utilisant ces cinq dimensions, les organisations peuvent cesser de deviner et commencer à avoir des conversations claires et structurées sur les points de faiblesse de leur IA et sur les endroits où elles doivent construire des défenses plus solides. Ce n'est pas un produit fini, mais c'est la première étape nécessaire pour s'assurer que notre futur de l'IA ne s'effondre pas sous son propre poids.

Le problème avec les anciens scores de sécurité

Imaginez que vous êtes un agent de sécurité dans un musée. Depuis des années, vous utilisez un scanner spécial pour vérifier si les peintures présentent des fissures. Si une peinture a une fissure, le scanner émet un bip et lui donne un score de 1 à 10. Cela fonctionne parfaitement pour les peintures. Mais ensuite, le musée décide d'exposer un robot capable de peindre ses propres tableaux. Le robot n'a pas de fissures ; il a des « hallucinations » (où il voit des choses qui n'existent pas), il peut être trompé par un visiteur murmurant une phrase étrange (appelé « injection de prompt »), et il peut lentement oublier comment peindre correctement (appelé « dérive du modèle »).

Si vous essayez d'utiliser votre ancien scanner de peinture sur le robot, il ne bipera pas. Il dira que le robot est parfaitement sûr car il ne peut pas trouver de fissures dans le code. Mais le robot est en danger ! Le document souligne que nos outils de sécurité actuels, comme le CVSS (qui évalue la gravité d'un bug logiciel) et le FAIR (qui tente de deviner combien d'argent un désastre coûtera), ont été conçus pour l'ancien monde du logiciel statique. Ils sont aveugles aux ruses uniques qui peuvent briser l'IA.

Par exemple, le document note que le CVSS est excellent pour vous dire à quel point il est facile de casser une porte, mais il n'a aucun moyen de mesurer la facilité avec laquelle un robot peut être incité à ouvrir la porte parce que quelqu'un lui a raconté une blague amusante. De même, le FAIR est excellent pour calculer le risque financier, mais il a besoin de données historiques (comme « combien de fois cela s'est-il produit l'année dernière ? ») pour fonctionner. Comme l'IA est très nouvelle, nous n'avons pas assez d'historique de ces catastrophes spécifiques à l'IA pour alimenter la machine. Le document soutient qu'essayer d'utiliser ces anciens outils pour l'IA revient à essayer de mesurer la température d'un feu avec une règle ; l'outil n'a tout simplement pas la bonne forme pour la tâche.

Les cinq nouvelles lentilles

Pour corriger cela, le document introduit cinq nouvelles façons d'examiner le risque de l'IA. Considérez cela comme cinq lampes de poche différentes que vous devez braquer sur votre système d'IA pour voir l'image complète.

1. Surface d'Attaque : Les portes ouvertes
Il s'agit de savoir de combien de manières un acteur malveillant peut entrer. Pour un ordinateur normal, il peut s'agir de quelques ports ouverts. Pour une IA, c'est beaucoup plus vaste. Chaque fois que vous parlez à un chatbot, téléchargez un fichier ou laissez l'IA se connecter à votre messagerie, vous ouvrez une nouvelle porte. Le document souligne que si vous laissez un agent d'IA (un robot capable d'effectuer des actions) communiquer avec votre compte bancaire ou votre boîte mail, vous avez une « surface d'attaque » massive. C'est comme laisser la porte d'entrée, la porte arrière, le garage et les fenêtres du sous-sol grandes ouvertes. Plus l'IA interagit avec le monde extérieur, plus elle est exposée.

2. Exploitabilité du Modèle : L'esprit rusé
Cela mesure la facilité avec laquelle on peut tromper l'IA. Certaines IA sont des « boîtes noires » (nous ne savons pas comment elles pensent), tandis que d'autres sont ouvertes. Le document suggère que si les instructions d'une IA sont publiques ou si l'entreprise est lente à corriger les ruses connues, l'IA est hautement « exploitable ». C'est comme un magicien qui aurait oublié ses secrets ; si quelqu'un connaît le tour, il peut faire faire n'importe quoi au magicien. Le document note que l'injection de prompt (tromper l'IA avec du texte) est une partie fondamentale du fonctionnement de ces modèles, ce qui signifie qu'elle ne peut pas être complètement « réparée » comme une serrure cassée ; elle doit être constamment gérée.

3. Intégrité des Données : Le puits empoisonné
L'IA apprend à partir de données, tout comme un étudiant apprend à partir de manuels scolaires. Si les manuels sont remplis de mensonges ou de poison, l'étudiant apprendra des mensonges. Cette dimension examine trois choses :

• Empoisonnement : Quelqu'un a-t-il glissé de mauvaises données dans l'entraînement de l'IA ?
• Dérive : L'IA a-t-elle oublié comment fonctionner parce que le monde réel a changé ? (Imaginez une IA médicale entraînée sur des données de 2020 essayant de diagnostiquer un virus de 2026 ; elle pourrait se tromper).
• Hallucinations : L'IA affirme-t-elle avec assurance des faits inventés ?
  Le document souligne qu'à la différence d'un programme informatique cassé qui s'arrête simplement de fonctionner, une IA en « dérive » peut continuer à fonctionner mais vous donner des réponses subtilement fausses pendant des mois sans que personne ne s'en aperçoive.

4. Exposition Réglementaire : L'œil vigilant de la loi
Il s'agit du coût de la violation des règles. Les gouvernements créent de nouvelles lois pour l'IA, comme l'IA Act de l'UE et les règles de la SEC. Si votre IA enfreint la loi, vous pourriez faire face à des amendes énormes (jusqu'à 35 millions d'euros ou 7 % de votre revenu mondial, selon le document) ou devoir divulguer vos erreurs au public. Le document souligne que les anciens outils de risque ne comptabilisent pas ces coûts juridiques. C'est comme conduire une voiture sans assurance ; la voiture peut fonctionner parfaitement, mais si vous avez un accident, le choc financier est massif.

5. Maturité du Contrôle : La compétence de l'agent de sécurité
C'est la dernière pièce : à quel point l'entreprise est-elle douée pour gérer les risques ? Même si une IA possède de nombreuses portes ouvertes (surface d'attaque élevée) et qu'elle est facile à tromper (exploitabilité élevée), le risque est moindre si l'entreprise dispose d'un agent de sécurité ultra-compétent qui la surveille 24h/24 et 7j/7. Cela inclut des choses comme tester l'IA avec de mauvaises entrées (red-teaming), surveiller ses résultats et faire vérifier les décisions importantes par des humains. Le document soutient qu'une entreprise dotée d'un système de contrôle « mature » est dans une bien meilleure position qu'une entreprise qui se contente d'espérer que tout ira bien.

Comment cela fonctionne dans le monde réel

Le document utilise trois exemples pour montrer comment ce nouveau cadre change notre perception du risque.

• Le Chatbot de la Banque : Cette IA discute avec les clients et peut consulter des informations de compte. Elle a une surface d'attaque Élevée (tout le monde peut lui parler) et une exploitabilité Élevée (c'est une boîte noire). Elle présente un risque réglementaire Moyen. Le document suggère qu'il s'agit d'un risque Critique car elle est très facile à attaquer et très publique.
• L'IA de Triage de l'Hôpital : Cette IA aide les médecins à décider qui doit être pris en charge en priorité. Elle a une surface d'attaque Moyenne (seuls les médecins l'utilisent) mais un risque d'intégrité des données Élevé (si elle hallucine, un patient pourrait être blessé). Elle présente également un risque réglementaire Critique en raison des lois sur la santé. Le document dit que c'est aussi un risque Critique, mais pour des raisons différentes. La solution n'est pas seulement de « verrouiller la porte », mais de « s'assurer que l'IA ne ment pas ».
• L'Assistant de Code de la Société de Logiciels : Cette IA aide les programmeurs à écrire du code. Elle a une surface d'attaque Faible (seuls les employés l'utilisent) et un risque réglementaire Faible. Même si elle fait des erreurs, ce n'est pas grave. Le document dit que ce risque est Géré et ne nécessite pas autant d'attention.

Le point clé est que deux systèmes peuvent tous deux présenter des risques « Critiques », mais pour des raisons totalement différentes. Les anciens outils donneraient simplement un chiffre unique, rendant impossible de savoir comment les corriger. Ce nouveau cadre vous dit exactement où concentrer votre énergie.

Ce que le document fait et ne fait pas

Il est important de comprendre ce que ce document ne prétend pas. L'auteur est très clair : il ne s'agit pas d'un calculateur magique qui vous donne un montant en dollars parfait pour le moment. Nous n'avons pas encore assez de données pour dire : « Cette IA nous coûtera 50 000 $ si elle échoue ». Le document admet que les chiffres sur la fréquence de ces catastrophes liées à l'IA sont manquants. Au lieu de cela, le document propose une structure de pensée. C'est un moyen d'organiser la conversation afin que, lorsque nous aurons les données dans le futur, nous sachions comment les utiliser.

Le document rejette également l'idée que nous puissions simplement ajuster les anciens outils. Il soutient que l'on ne peut pas simplement ajouter quelques nouveaux paramètres au CVSS ou au FAIR pour les faire fonctionner avec l'IA. Le problème est plus profond ; toute notre façon de penser le risque doit changer pour inclure ces nouvelles dimensions.

Pourquoi cela importe

Le document conclut que le plus grand problème auquel nous sommes confrontés n'est pas que nous ne connaissons pas assez les menaces, mais que nous n'avons pas de langage commun pour en parler. Les régulateurs, les compagnies d'assurance et les équipes de sécurité parlent tous des langues différentes. Ce cadre propose un vocabulaire commun. Il offre à un conseil d'administration un moyen de comprendre le risque sans avoir besoin d'être un expert en informatique, et il donne aux équipes de sécurité une liste de contrôle claire de ce qu'elles doivent construire.

En fin de compte, le document suggère que nous sommes dans une phase d'« échafaudage ». Nous construisons la structure qui supportera éventuellement un système de gestion des risques de l'IA entièrement quantifié et précis. En attendant d'avoir les données pour remplir les chiffres, ce cadre à cinq dimensions est le meilleur outil dont nous disposons pour garantir que notre futur de l'IA ne soit pas construit sur des fondations de sable. C'est une étape ludique, pratique et nécessaire pour s'assurer que nos amis de l'IA ne mettent pas accidentellement le feu à la maison.