Qualifying and Quantifying Risk under the EU AI Act
Cet article propose un cadre en deux étapes fondé sur la « priorité à la gravité » afin de concilier l'approche qualitative de l'IA Act de l'UE axée sur les droits fondamentaux avec sa définition quantitative du risque, tout en avertissant que la délégation de la quantification des risques aux fournisseurs pourrait permettre le « piratage de risque » et une sous-classification réglementaire.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous soyez le maire d'une ville futuriste et bouillonnante où les robots sont partout. Certains robots sont inoffensifs, comme un grille-pain qui apprend votre réglage de pain préféré. D'autres sont puissants, comme un robot juge ou un drone qui scanne les visages dans le parc. La grande question pour tout dirigeant de ville est : « Comment assurer la sécurité de tous sans arrêter les nouvelles inventions géniales ? » C'est le cœur d'un domaine appelé la régulation des risques. C'est l'art de déterminer la probabilité qu'un événement indésirable se produise et la gravité de cet événement s'il survient. Habituellement, les dirigeants tentent de résoudre un problème mathématique rapide : multiplier la chance d'un accident par la gravité de l'accident. Si le chiffre est petit, ils disent : « C'est bon ! » Mais que se passe-t-il si le « malheur » est quelque chose que l'on ne peut pas facilement compter, comme la perte de votre vie privée ou de votre liberté ? C'est là que les choses deviennent délicates. Si vous ne pouvez pas mettre de prix sur un droit humain, comment faire les calculs ? C'est exactement l'énigme à laquelle l'Union européenne est confrontée alors qu'elle tente de rédiger des règles pour l'intelligence artificielle (IA).
Cet article, écrit par des chercheurs d'Allemagne et des États-Unis, explore le nouvel « Acte sur l'IA » de l'UE, une loi massive conçue pour classer les systèmes d'IA en trois catégories : « Interdit » (banni), « Haut risque » (nécessite des règles strictes) et « Risque minimal » (libre de circuler). Les auteurs remarquent une tension amusante dans la loi. D'un côté, la loi définit le « risque » comme une équation mathématique : Probabilité × Gravité. De l'autre côté, la loi tente de protéger les « droits fondamentaux » (comme la dignité, la vie privée et l'équité), qui sont généralement traités comme des valeurs spéciales et non quantifiables. On ne peut pas vraiment mesurer la « dignité » en dollars ou en pourcentages. Les auteurs suggèrent que si nous essayons d'imposer une simple formule mathématique à ces droits humains complexes, les entreprises pourraient manipuler le système. Elles pourraient ajuster leurs chiffres pour faire passer un robot dangereux pour un robot sûr, une ruse que les auteurs appellent le « piratage du risque » (risk hacking).
Alors, que proposent les auteurs ? Ils suggèrent une nouvelle façon d'aborder le problème, comme une danse en deux étapes. Étape 1 consiste à regarder l'objectif du robot et à se demander : « Le dommage qu'il pourrait causer est-il si grave qu'il brise un droit fondamental, peu importe la fréquence à laquelle cela arrive ? » C'est ce qu'ils appellent une approche axée sur la « gravité d'abord ». Pensez à un videur de boîte de nuit qui ne se soucie pas de la probabilité d'une bagarre ; si la personne tient une grenade (gravité élevée), elle est bannie immédiatement, même si elle n'en a jamais lancé auparavant. Étape 2 consiste à regarder la « mathématique » de la situation : Quelle est la probabilité du dommage ? Et quels sont les coûts pour arrêter le robot ?
L'article soutient que l'Acte sur l'IA de l'UE utilise déjà cette logique de « la gravité d'abord », même s'il ne le dit pas explicitement. Par exemple, la loi interdit certaines utilisations de l'IA (comme la lecture des émotions sur le lieu de travail) parce que le dommage potentiel pour la vie privée est trop élevé, même si la probabilité que cela se produise est faible. Les auteurs suggèrent que les régulateurs devraient s'en tenir à cet ordre : vérifier la gravité d'abord, puis se soucier de la probabilité. Si nous laissons les entreprises décider elles-mêmes des calculs, elles pourraient tenter de soutenir qu'un événement « catastrophique » à « faible probabilité » est en réalité un « faible risque », ce qui laisserait passer des IA dangereuses entre les mailles du filet. En gardant l'accent sur la gravité du dommage en premier, nous pouvons protéger les droits humains tout en permettant à la technologie utile de croître. L'article ne prétend pas avoir résolu tous les problèmes mathématiques, mais il offre une feuille de route claire pour stopper le « piratage du risque » et s'assurer que les règles fonctionnent réellement pour les gens.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.