🤖 AI

When Do Data-Driven Systems Exhibit the Capability to Infer?

Motivé par les ambiguïtés réglementaires de l'IA Act européen concernant les systèmes de notation de crédit, cet article propose un cadre fondé sur la théorie de l'apprentissage statistique pour évaluer et analyser la capacité d'inférence à travers l'ensemble des flux de traitement de données, démontrant que la classification réglementaire dépend de la conception holistique du système et de l'intervention humaine plutôt que des modèles individuels seuls.

Auteurs originaux : Maximilian Poretschkin, Tabea Naeven

Publié 2026-06-11

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Maximilian Poretschkin, Tabea Naeven

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un juge dans un tribunal. L'Union européenne a adopté une nouvelle loi appelée l'IA Act, qui stipule : « Si vous êtes une Intelligence Artificielle, vous devez suivre des règles strictes. » Mais la loi contient une faille complexe : elle ne définit pas clairement ce qu'est réellement une « IA ».

La loi dispose qu'une IA est un système capable d'« inférer ». En langage clair, cela signifie que le système peut examiner des données et déterminer par lui-même comment prendre une décision, plutôt que de simplement suivre une liste rigide d'instructions écrites par un humain.

Le problème ? Il existe une zone grise. De nombreux systèmes utilisés pour le scoring de crédit (décider si vous obtenez un prêt) utilisent des statistiques mathématiques. Sont-ils assez « intelligents » pour être qualifiés d'IA, ou ne sont-ils que de simples calculateurs « bêtes » ? Les auteurs de ce document, Maximilian et Tabea, ont décidé de construire une échelle pour nous aider à sortir de cette zone grise.

L'échelle d'inférence

Les auteurs ont créé une échelle de 5 niveaux pour mesurer à quel point un système « réfléchit ». Plus on grimpe, plus il est probable que le système soit considéré comme une IA selon la nouvelle loi.

Niveau 0 : Le majordome robotique (Cartographie fixe)
- La métaphore : Imaginez un robot qui ne fait que exactement ce que vous lui dites. « Si la lumière est rouge, arrête-toi. Si elle est verte, avance. »
- La réalité : Les règles sont gravées dans la pierre par les humains. Les données ne changent pas les règles ; elles ne font que déclencher les règles existantes.
- Statut IA : Pas une IA. Juste un calculateur sophistiqué.
Niveau 1 : Le bouton de réglage (Adaptation paramétrique)
- La métaphore : Imaginez une radio. La station (la structure) est fixe, mais vous pouvez tourner le bouton du volume (les paramètres) pour l'augmenter ou le baisser en fonction de la puissance de la musique.
- La réalité : Le système utilise une formule fixe (comme une équation mathématique standard). Il utilise les données pour ajuster les chiffres à l'intérieur de cette formule, mais la formule elle-même ne change jamais.
- Statut IA : C'est la « zone grise ». Les directives de la loi suggèrent que cela pourrait ne pas être une IA car il s'agit simplement d'un « traitement de données de base ».
Niveau 2 : Le sélecteur de menu (Sélection structurelle)
- La métaphore : Imaginez un chef qui dispose d'un menu de 10 recettes pré-écrites. Le chef examine les ingrédients que vous avez (les données) et choisit une recette dans la liste pour la cuisiner. Le chef n'invente pas de nouvelle recette ; il choisit simplement la meilleure de la liste.
- La réalité : Le système possède une liste définie de structures possibles. Il utilise les données pour choisir laquelle utiliser (ex : « Utilisons la variable A et B, mais ignorons la C »).
- Statut IA : C'est un juste milieu. C'est plus qu'un simple bouton de réglage, mais cela ne consiste pas à inventer une nouvelle logique.
Niveau 3 : L'architecte (Construction structurelle)
- La métaphore : Imaginez un constructeur à qui l'on donne un tas de briques et un objectif (construire une maison). Le constructeur regarde les briques et invente le plan sur le moment. Il décide de l'emplacement des murs et de la forme du toit en fonction des matériaux dont il dispose.
- La réalité : Le système ne se contente pas de choisir une recette ; il construit la logique à partir de zéro en utilisant les données. Il crée un arbre de décision ou un schéma complexe que aucun humain n'a explicitement écrit.
- Statut IA : C'est définitivement une IA. Le système « dérive » sa propre logique.
Niveau 4 : Le rêveur (Construction représentationnelle)
- La métaphore : Imaginez un artiste qui non seulement peint un tableau, mais invente aussi une nouvelle couleur à utiliser parce que les couleurs existantes ne correspondent pas à l'ambiance.
- La réalité : Le système ne se contente pas de construire la logique ; il invente une toute nouvelle façon de percevoir les données (de nouvelles caractéristiques/features) pour résoudre le problème. C'est ce que font le deep learning et l'IA moderne.
- Statut IA : Définitivement une IA.

Le test du score de crédit

Les auteurs ont testé cette échelle sur le scoring de crédit, un domaine à haut risque selon l'IA Act. Ils ont examiné comment les banques construisent habituellement ces scores.

La méthode « traditionnelle » : Les banques prennent souvent une liste de variables (revenus, dettes, etc.), les segmentent en groupes (binning) et les injectent dans une équation de régression logistique.
- Si la banque ajuste simplement les chiffres dans l'équation ? C'est le Niveau 1.
- Si la banque utilise les données pour décider quelles variables conserver et lesquelles jeter ? C'est le Niveau 2.
- Le verdict : Les auteurs soutiennent que même ces systèmes « simples » impliquent souvent des interventions d'experts humains lors de la configuration (comme décider de la manière de segmenter les groupes). Comme les humains sont fortement impliqués dans la conception de la structure, le système pourrait ne pas avoir assez d'« autonomie » pour être considéré comme une véritable IA au sens de la loi.
La méthode « intelligente » : Si un système construit automatiquement l'arbre de décision ou la structure complexe à partir des données sans intervention humaine, il atteint le Niveau 3.
- Le verdict : C'est clairement une IA et elle doit suivre les règles strictes.

La conclusion majeure

Le document conclut que nous ne pouvons pas nous contenter de regarder l'équation mathématique finale pour décider si quelque chose est une IA. Nous devons examiner l'ensemble du processus :

Un humain a-t-il conçu les règles ?
Un humain a-t-il choisi les variables ?
Ou les données elles-mêmes ont-elles construit la logique ?

Si un expert humain effectue le gros du travail de conception de la structure du système, le système peut être assez « bête » pour échapper aux réglementations strictes de l'IA Act, même s'il utilise des mathématiques complexes. Mais si le système construit sa propre logique à partir des données, il est assez « intelligent » pour être régulé en tant qu'IA.

En bref : La loi s'inquiète des systèmes qui « apprennent » leurs propres règles. Ce document nous donne une règle pour mesurer précisément l'ampleur de l'apprentissage, aidant ainsi les banques et les régulateurs à savoir qui doit suivre les nouvelles règles.

Résumé Technique : Quand les systèmes pilotés par les données manifestent-ils la capacité d'inférence ?

Problématique
L'Acte européen sur l'IA établit un cadre juridique complet pour l'intelligence artificielle, définissant un système d'IA principalement par sa « capacité d'inférence ». Cependant, l'Acte et ses lignes directrices de la Commission ne fournissent pas de définition technique précise de l'inférence, ce qui crée une ambiguïté réglementaire pour les systèmes pilotés par les données qui reposent sur des modèles statistiques classiques plutôt que sur des architectures modernes d'apprentissage automatique (machine learning). Cette incertitude est particulièrement aiguë dans le domaine du scoring de crédit, qui est explicitement listé comme une application à haut risque dans l'Annexe III de l'IA Act. Les praticiens du secteur et les régulateurs sont confrontés à un dilemme : de nombreux systèmes de scoring de crédit utilisent la régression logistique et des procédures de discrétisation statistique (binning), et il reste incertain de savoir si ces systèmes, qui impliquent souvent l'intervention d'experts humains lors du développement du modèle, possèdent une « capacité d'inférer » suffisante pour être classés comme systèmes d'IA au sens de l'Acte, ou s'ils se situent en dehors du champ d'application en tant que « traitement de données de base ».

Méthodologie
Pour répondre à cette ambiguïté, les auteurs développent un cadre gradué pour évaluer la capacité d'inférence, fondé sur la théorie de l'apprentissage statistique. La méthodologie procède en trois étapes :

Abstraction théorique : Les auteurs formalisent le concept d'inférence en analysant comment les données influencent la formation des correspondances entrée-sortie. En s'appuyant sur la distinction entre l'estimation paramétrique (culture de la modélisation par les données) et la construction algorithmique (culture de la modélisation algorithmique), ils proposent un cadre étagé à cinq niveaux (Niveaux 0 à 4) qui catégorise les systèmes selon l'étendue avec laquelle les données façonnent la logique du système :
- Niveau 0 (Correspondance fixe) : Entièrement spécifiée ex ante par des humains ; les données sont traitées mais n'influencent ni la structure ni les paramètres.
- Niveau 1 (Adaptation paramétrique) : La forme fonctionnelle est fixée ; les données déterminent uniquement les paramètres numériques (ex. : les coefficients d'une régression linéaire ou logistique).
- Niveau 2 (Sélection structurelle) : Les données sélectionnent parmi un ensemble prédéfini de structures admissibles (ex. : sélection de variables par méthode descendante/stepwise, régularisation $L_1$ ).
- Niveau 3 (Construction structurelle) : Les données construisent fonctionnellement la correspondance entrée-sortie, soit explicitement (ex. : arbres de décision), soit implicitement (ex. : k-plus proches voisins).
- Niveau 4 (Construction représentationnelle) : Les données déterminent l'espace de représentation lui-même (ex. : réseaux de neurones profonds, apprentissage de représentations).
Cartographie réglementaire : Le cadre est appliqué au texte de l'IA Act (Article 3, Considérant 12) et aux lignes directrices de la Commission. Les auteurs analysent l'exclusion par les Lignes Directrices des systèmes qui « améliorent l'optimisation mathématique » ou « accélèrent les méthodes traditionnelles » afin de déterminer où se situe le seuil réglementaire de la « capacité d'inférer ». Ils explorent deux interprétations : une où le Niveau 1 se situe en dehors de la définition de l'IA, et une alternative où même l'estimation de paramètres constitue une inférence.
Application par étude de cas : Le cadre est appliqué à deux flux de travail réalistes de scoring de crédit utilisant le jeu de données « Give Me Some Credit ». Les auteurs dissèquent le processus de développement de bout en bout, incluant :
- Discrétisation (Binning) : Analyse de la discrétisation manuelle versus pilotée par les données (ex. : divisions binaires récursives optimisant l'entropie de Shannon).
- Régression logistique : Examen d'une régression logistique standard par rapport à des versions employant une sélection de variables par méthode descendante (stepwise).
- Implication humaine : Évaluation de la manière dont les contraintes d'experts (ex. : exigences de monotonicité, règles réglementaires) et la sélection manuelle de variables affectent la capacité d'inférence du système.

Principales contributions

Un cadre d'inférence gradué : Le document introduit une taxonomie structurée en cinq niveaux qui distingue les systèmes selon la manière dont les données façonnent les correspondances entrée-sortie. Cela permet de dépasser les classifications binaires pour permettre une analyse granulaire des systèmes hybrides.
Clarification réglementaire pour les modèles statistiques : Les auteurs démontrent que les techniques courantes de scoring de crédit occupent différents niveaux du cadre. Plus précisément, ils montrent que si une régression logistique standard avec des variables pré-sélectionnées est de Niveau 1, l'ajout d'une discrétisation pilotée par les données (Niveau 3a) ou d'une sélection de variables par méthode descendante (Niveau 2) déplace la capacité d'inférence du système.
Analyse au niveau du flux de travail (workflow) : L'article soutient que l'évaluation réglementaire ne peut se limiter au modèle prédictif final. Au contraire, l'ensemble du flux de travail de traitement des données doit être évalué, car les étapes de prétraitement comme la discrétisation ou la sélection de variables peuvent introduire des capacités d'inférence que le modèle final seul pourrait ne pas posséder.
Rôle de l'expertise humaine : L'analyse souligne que l'implication humaine lors de la phase de développement (définition de contraintes, sélection manuelle de variables) peut influencer de manière significative si un système est considéré comme ayant la capacité d'inférer, maintenant potentiellement le système dans la catégorie « traitement de données de base » même s'il utilise des modèles statistiques.

Résultats
L'application du cadre aux flux de travail de scoring de crédit révèle que ces systèmes sont souvent composites :

Discrétisation (Binning) : La discrétisation manuelle reste au Niveau 0 ou 1. Cependant, les méthodes de discrétisation pilotées par les données (comme celles optimisant l'entropie) constituent un Niveau 3a (Construction structurelle explicite), car la structure de partition est fonctionnellement construite à partir des données plutôt que sélectionnée dans un catalogue fixe.
Régression logistique : Un modèle de régression logistique standard avec des variables pré-sélectionnées est de Niveau 1. Toutefois, lorsqu'il est combiné à une sélection de variables par méthode descendante, le système opère au Niveau 2 (Sélection structurelle).
Seuil réglementaire : Les auteurs suggèrent que si les Lignes Directrices de la Commission sont interprétées strictement pour exclure les systèmes qui se contentent d'« accélérer » l'optimisation traditionnelle, les systèmes de Niveau 1 (adaptation paramétrique) pourraient se situer en dehors du champ d'application de l'IA Act. Inversement, les systèmes présentant un Niveau 2 ou supérieur (sélection ou construction structurelle) s'alignent davantage sur la définition de l'Acte concernant la dérivation de modèles à partir de données.
Résolution de l'ambiguïté : L'étude illustre qu'un seul système de scoring de crédit peut contenir des composants à différents niveaux. Par conséquent, la « capacité d'inférer » n'est pas une propriété intrinsèque de l'algorithme seul, mais une propriété de l'implémentation et du flux de travail spécifiques.

Signification
L'article affirme que sa principale importance réside dans la fourniture d'un outil technique pour opérationnaliser le concept juridique de « capacité d'inférer » pour les régulateurs et les praticiens du secteur. En démontant que tous les systèmes pilotés par les données ne sont pas égaux dans leurs capacités d'inférence, le cadre offre une base pour un traitement réglementaire cohérent des cas limites, particulièrement dans les secteurs à haut risque comme le scoring de crédit. Les auteurs soulignent que leur travail ne résout pas de manière définitive le statut juridique de la régression logistique, mais clarifie les distinctions techniques nécessaires à une telle détermination, en mettant en évidence que l'implication des experts humains et la conception spécifique du flux de travail sont des facteurs critiques pour déterminer si un système répond à la définition de l'IA Act.

L'échelle d'inférence

Le test du score de crédit

La conclusion majeure

Articles similaires