High-Risk AI Systems and the Problem of Identity in the European AI Act

Résumé technique : Systèmes d'IA à haut risque et le problème de l'identité dans le Règlement européen sur l'IA

Énoncé du problème
Le Règlement européen sur l'intelligence artificielle (AIA) établit un régime de gouvernance tout au long du cycle de vie pour les systèmes d'IA à haut risque, centré sur l'évaluation de la conformité ex ante, la surveillance post-commercialisation et la réévaluation en cas de « modification substantielle ». Ce cadre réglementaire repose implicitement sur des jugements d'« identité de l'IA » : les régulateurs et les fournisseurs doivent déterminer quand un système mis à jour reste le « même » système dans le temps (identité diachronique) et quand des instantiations contemporaines (par exemple, des copies ou des variantes) doivent être traitées comme le même système pour la comparabilité réglementaire (identité synchronique).

L'article identifie deux lacunes critiques dans la manière dont l'AIA traite ces questions d'identité :

1. Ambiguïté diachronique : Bien que l'AIA définisse la « modification substantielle » comme un déclencheur de recertification, il manque un critère précis et auditable pour déterminer quand un système a cessé d'être la même entité, en particulier concernant la quantification du « fonctionnement approprié » dans le temps.
2. Lacune synchronique : L'AIA ne fournit aucun critère interne et auditable pour l'identité synchronique des systèmes d'IA à haut risque autonomes. Il renvoie largement ces déterminations à des instruments d'harmonisation sectoriels (par exemple, les réglementations sur les dispositifs médicaux), qui s'appuient souvent sur des proxies vagues tels que l'« équivalence » ou la « similarité essentielle ». Cela crée des angles morts réglementaires dans les marchés publics, la responsabilité et la surveillance du marché, où les autorités doivent décider si les preuves de conformité d'une instantiation se généralisent à une autre.

Méthodologie
L'article adopte une approche conceptuelle et d'audit plutôt qu'une étude empirique ou de mise en œuvre. Il utilise le cadre function+ de l'identité des artefacts (Carrara et Vermaas, 2009 ; Ferrario, 2025) comme une lentille métaphysique pour analyser la logique réglementaire de l'AIA.

La méthodologie comprend :

• Alignement métaphysique : Cartographier les obligations du cycle de vie de l'AIA (évaluation de la conformité, surveillance, modification substantielle) sur les composants function+ : fonction techno (but prévu), profil de fiabilité (critères contextuels de fonctionnement approprié) et niveau de fiabilité (satisfaction quantifiée du profil dans le temps).
• Analyse de cas : Appliquer ce cadre à deux cas illustratifs : (1) un système de tri clinique faisant l'objet d'un réentraînement et de mises à jour de contraintes d'équité (défi diachronique), et (2) deux systèmes de contrôle frontalier biométriques ayant une fonctionnalité de base identique mais des optimisations de performance différentes (défi synchronique).
• Analyse des lacunes : Comparer les dispositions explicites de l'AIA aux exigences du cadre function+ pour identifier où la réglementation manque de précision opérationnelle.
• Construction de flux de travail : Développer un flux de décision minimal (flux de travail d'audit) pour opérationnaliser les jugements d'identité synchronique.

Contributions clés
L'article apporte trois contributions principales :

1. Alignement conceptuel de l'AIA et du function+ : Les auteurs démontrent que la gouvernance du cycle de vie de l'AIA opérationnalise implicitement le composant diachronique du cadre function+.

   • L'évaluation de la conformité ex ante fixe la ligne de base pertinente pour l'identité (but prévu et profil de fiabilité).
   • La surveillance post-commercialisation suit le niveau de fiabilité dans le temps.
   • La modification substantielle agit comme la condition de discontinuité juridique.
     L'article clarifie que, si l'AIA fournit une condition suffisante pour la recertification (l'émergence d'une modification substantielle), le cadre function+ fournit des conditions nécessaires et suffisantes pour la persistance, incorporant explicitement la quantification des niveaux de fiabilité que l'AIA laisse actuellement sous-spécifiés.

2. Identification et résolution de la lacune d'identité synchronique : L'article soutient que l'AIA échoue à fournir un critère interne pour l'identité synchronique des systèmes autonomes. Il propose le critère SI_function+ comme solution : deux systèmes sont identiques au temps t s'ils partagent la même fonction techno, le même profil de fiabilité et le même niveau de fiabilité.

   • Ce critère ancre la comparabilité dans la fonction prévue et les exigences de fiabilité, rendant les décisions d'identité inspectables dans des contextes de gouvernance tels que les marchés publics et la responsabilité.
   • Un flux de travail d'audit minimal est proposé (Figure 2), exigeant une justification de l'identité au stade de l'évaluation de la conformité (but/profil) et le maintien de l'identité pendant la surveillance post-commercialisation (niveau au temps t).

3. Recommandations orientées vers la mise en œuvre : Pour rendre l'approche function+ opérationnellement lisible dans le cadre de l'AIA, les auteurs proposent :

   • Rapportage précis du but prévu : Aller au-delà des descriptions générales pour documenter la taxonomie fonctionnelle de l'IA (fonction techno, fonction d'utilisation, fonction sociale), en particulier pour l'IA générative, y compris les exclusions explicites et les utilisations non prévues.
   • Rapportage standardisé et auditable de la fiabilité : Remplacer les allégations vagues d'« équivalence » par un rapportage standardisé des contrats de fiabilité et des fonctions de niveau de fiabilité. Les auteurs suggèrent d'utiliser des fonctions constantes par morceaux multidimensionnelles (par exemple, cartographier la précision et la sécurité vers des « paliers » de fiabilité) pour agréger diverses métriques en un indicateur composite. Cela permet de tolérer de légères fluctuations dans des dimensions uniques tout en déclenchant une réévaluation uniquement lorsqu'un système franchit un seuil vers un palier de fiabilité inférieur.

Résultats et affirmations
L'article ne présente pas de résultats expérimentaux ni de procédures de conformité validées. Ses « résultats » sont plutôt des clarifications conceptuelles et des propositions structurelles :

• Affirmation 1 : Le mécanisme du cycle de vie de l'AIA opérationnalise implicitement l'identité diachronique, mais le cadre function+ clarifie cela en reliant explicitement le but prévu à un niveau de fiabilité quantifiable, rendant le seuil de « modification substantielle » plus inspectable.
• Affirmation 2 : L'AIA laisse une lacune significative dans l'identité synchronique pour les systèmes autonomes. Le cadre function+ comble cette lacune en fournissant un critère testable (SI_function+) qui relie la fonction prévue et les profils de fiabilité à la comparabilité réglementaire.
• Résultat opérationnel : L'article fournit une « carte de correspondance » (Figure 1) alignant les obligations de l'AIA sur les questions d'identité métaphysique et une « liste de contrôle d'audit minimale » (Tableau 1) pour les décisions d'identité synchronique, spécifiant exactement quels champs dans les artefacts de l'AIA (documentation technique, fichiers de gestion des risques, plans de surveillance) doivent être audités.

Signification
L'article se positionne comme une lentille conceptuelle et d'audit plutôt que comme une réforme juridique prescriptive. Sa signification réside dans :

• Fondement métaphysique : Fournir une base philosophique à la logique du cycle de vie pertinente pour l'identité de l'AIA, allant au-delà des défis éthiques pour aborder le statut ontologique des systèmes d'IA dans la réglementation.
• Auditabilité : Rendre les déterminations d'identité transparentes et contestables. En définissant l'identité par la fonction prévue et des niveaux de fiabilité mesurables, l'article permet aux régulateurs et aux auditeurs de trancher les litiges concernant l'identité des systèmes (par exemple, dans les marchés publics ou la réponse aux incidents) avec plus de précision.
• Anticipation de l'avenir : Aborder les défis spécifiques posés par l'IA générative et agentique, où l'utilisation prévue est souvent vague et les changements difficiles à anticiper, en préconisant un rapportage de fiabilité standardisé et agrégé capable de soutenir la comparabilité à travers les déploiements et dans le temps.

Les auteurs concluent que, bien que l'AIA constitue une étape réglementaire significative, son efficacité en matière de gouvernance, de responsabilité et de marchés publics dépend de la clarification des conditions d'identité des systèmes d'IA, une tâche pour laquelle le cadre function+ offre une solution structurée et auditable.