🤖 machine learning

Epistemology gives a Future to Complementarity in Human-AI Interactions

En s'appuyant sur l'épistémologie et le fiabilisme computationnel, cet article propose de repositionner la complémentarité humain-IA non pas comme une simple mesure de précision prédictive, mais comme un indicateur de fiabilité d'un processus épistémique, offrant ainsi des fondements théoriques et des recommandations pratiques pour la conception et la gouvernance de ces interactions.

Auteurs originaux : Andrea Ferrario, Alessandro Facchini, Juan M. Durán

Publié 2026-04-23

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Andrea Ferrario, Alessandro Facchini, Juan M. Durán

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🧠 Le Titre : Donnez un avenir à la "complémentarité" entre Humains et IA

Imaginez que vous essayez de résoudre un casse-tête très difficile. Vous avez un ami (l'humain) et un super-calculateur (l'IA).
L'idée de la complémentarité, c'est la croyance que si vous travaillez ensemble, vous serez plus intelligents et plus précis que si vous travailliez chacun de votre côté. C'est l'idée que 1 + 1 = 3.

Mais les chercheurs disent : "Attendez, cette idée est en danger." Pourquoi ? Parce qu'on essaie de la mesurer de la mauvaise façon. Ce papier propose une nouvelle façon de voir les choses, en utilisant la philosophie (l'épistémologie) pour sauver ce concept.

🚧 Le Problème : Pourquoi la "complémentarité" actuelle est en panne

Actuellement, les chercheurs regardent la complémentarité comme un simple score de notes à la fin de l'examen. Ils disent : "Regardez, l'équipe Humain+IA a eu 90/100, tandis que l'Humain seul avait 70 et l'IA seule 80. Donc, c'est un succès !"

Le papier explique que cette approche a quatre gros défauts :

C'est un score de "fin de partie" (Hors de portée) : Vous ne pouvez pas calculer ce score pendant que vous prenez une décision. À l'hôpital, le médecin doit décider tout de suite, pas attendre d'avoir les résultats des patients pour savoir si son équipe avec l'IA était bonne.
Ce n'est pas tout : Même si l'équipe gagne quelques points de plus, est-ce que ça vaut le coup ? Et si cette équipe est injuste envers certains patients ? Ou si elle prend 10 fois plus de temps ? La simple "note" ne dit rien de tout ça.
C'est fragile : Souvent, l'équipe Humain+IA ne fait pas mieux que l'un ou l'autre seul. Parfois, l'IA et l'humain se trompent de la même façon, ou l'humain ne fait plus confiance à l'IA.
On oublie le prix à payer : Si gagner 1 point de précision demande à l'humain de passer 3 heures à vérifier chaque calcul de l'IA, est-ce vraiment un progrès ? C'est comme acheter une voiture de luxe qui consomme 50 litres d'essence aux 100 km : techniquement, elle roule, mais le coût est trop élevé.

💡 La Solution : La "Fiabilité" plutôt que la "Note"

Au lieu de demander "Est-ce qu'ils gagnent plus de points ?", les auteurs proposent de demander : "Est-ce que ce processus de travail est fiable et justifiable ?"

Ils utilisent une théorie philosophique appelée le fiabilisme computationnel. Voici comment ça marche avec une analogie :

🏗️ L'Analogie du Pont

Imaginez que vous devez traverser une rivière.

L'IA seule est un pont de bois un peu pourri.
L'humain seul est un nageur fatigué.
L'équipe Humain+IA est un pont suspendu moderne.

L'ancienne façon de voir les choses disait : "Le pont suspendu est-il plus haut que le pont de bois ?" (C'est la mesure de la "complémentarité").

La nouvelle façon de voir (celle du papier) dit : "Ce pont suspendu est-il solide ?"
Pour savoir si le pont est solide, on ne regarde pas seulement la hauteur. On regarde :

Les matériaux (Type 1) : Est-ce que le pont a déjà tenu la tempête ? (C'est là que la "complémentarité" intervient : si l'équipe a déjà fait de bonnes décisions ensemble dans le passé, c'est un signe de solidité).
Le plan de l'architecte (Type 2) : Est-ce que le pont est bien conçu pour ce type de rivière ? (Est-ce que l'IA et l'humain utilisent les bonnes données ?).
Les inspecteurs (Type 3) : Y a-t-il des gens qui vérifient le pont chaque jour ? Y a-t-il des règles pour le réparer s'il y a une fissure ? (C'est la gouvernance, la formation, la surveillance).

Le message clé : La "complémentarité" (le fait que l'équipe gagne des points) n'est qu'un des signes que le pont est solide. Ce n'est pas le seul. Parfois, un pont peut être très solide même si l'équipe ne gagne pas beaucoup de points supplémentaires, tant que les règles de sécurité (les inspecteurs) sont excellentes.

🛠️ Ce que cela change pour le futur (Les Recommandations)

Les auteurs proposent de changer la façon dont on construit et régule ces équipes Humain+IA :

Ne cherchez pas la perfection absolue : Ne forcez pas les équipes à toujours battre l'IA ou l'humain seul. Parfois, le but est juste d'éviter les erreurs catastrophiques.
Pensez au "Rapport Qualité/Prix" : Si l'équipe gagne 1 point de précision mais coûte 10 heures de travail à l'humain, c'est inefficace. Il faut mesurer le gain net.
- Analogie : Si vous payez 100€ pour économiser 1€ d'essence, vous perdez de l'argent. De même, si l'IA vous fait gagner 1% de précision mais vous fait perdre 50% de temps, ce n'est pas utile.
La "Checklist" de confiance : Pour que les gens (patients, juges, managers) puissent faire confiance à une décision prise par une équipe Humain+IA, il ne suffit pas de dire "ça marche". Il faut fournir un rapport qui montre :
- Comment l'humain et l'IA discutent (le protocole).
- Qui est formé pour utiliser l'outil.
- Comment on gère les erreurs.
- Combien ça coûte en temps et en énergie.

🎯 En résumé

Ce papier dit : "Arrêtez de faire de la complémentarité (gagner plus de points) le seul but ultime. C'est un piège."

Au lieu de cela, voyez la complémentarité comme une pièce du puzzle qui prouve que le travail d'équipe est fiable. Pour qu'une décision prise par un humain aidé par une IA soit vraiment bonne, il faut :

Que l'équipe ait déjà prouvé qu'elle fonctionne bien (la complémentarité historique).
Que le processus soit bien conçu et juste.
Que ce ne soit pas trop coûteux en temps ou en énergie.

C'est en passant de la simple "note de performance" à une "évaluation de la fiabilité globale" que nous pourrons vraiment faire confiance à l'IA dans des domaines importants comme la médecine ou la justice.

1. Problématique

L'article aborde les limites théoriques et empiriques du concept de complémentarité dans les interactions Humain-IA. La complémentarité est définie comme la capacité d'une équipe Humain-IA à surpasser les performances de l'humain seul et de l'IA seule dans une tâche de décision. Bien que ce concept soit devenu un standard de conception, il fait face à quatre défis majeurs :

Ancrage théorique faible : Il manque une fondation théorique précise au-delà de modèles généraux d'asymétrie d'information.
Inapplicabilité en temps réel : La mesure de la performance complémentaire (CTP - Complementarity Team Performance) dépend des vérités terrain (ground truth) et est donc une métrique a posteriori, inutile au moment de la prise de décision.
Réductionnisme de la précision : La complémentarité se concentre uniquement sur l'exactitude prédictive relative, ignorant d'autres critères essentiels comme l'équité, la robustesse, l'explicabilité et les contraintes de ressources.
Ignorance du rapport gain-coût : La littérature actuelle ne prend pas en compte le coût cognitif, temporel ou organisationnel nécessaire pour obtenir ce gain de performance.

En conséquence, la complémentarité est difficile à atteindre empiriquement et ne peut servir de « standard-or » autonome pour évaluer la collaboration Humain-IA.

2. Méthodologie

Les auteurs proposent un repositionnement épistémologique de la complémentarité en l'intégrant dans le cadre du Fiabilisme Computationsnel (Computational Reliabilism - CR).

Approche Épistémologique : Au lieu de voir la complémentarité comme une mesure de performance absolue, ils la traitent comme une indicateur de fiabilité historique. En s'appuyant sur le fiabilisme de processus (Goldman) étendu aux systèmes computationnels (Durán), ils soutiennent qu'une croyance (ou une prédiction) est justifiée si elle est produite par un processus fiable.
Redéfinition du Processus : Ils considèrent l'interaction Humain-IA (PT-HAI) non pas comme une simple somme d'agents, mais comme un processus computationnel unique réalisé par une équipe. La fiabilité de ce processus est évaluée par une famille d'indicateurs hétérogènes.
Cadre des Indicateurs de Fiabilité (Type-RI) : La fiabilité est construite sur trois types d'indicateurs :
- Type-RI1 (Performance technique) : Inclut la complémentarité historique (CTP), la stabilité des erreurs et la mitigation des erreurs.
- Type-RI2 (Standards épistémiques) : Validité de la tâche, adéquation des données, gestion de l'incertitude et contraintes normatives (ex: équité).
- Type-RI3 (Pratiques socio-techniques) : Gouvernance, formation, surveillance, mise à jour des modèles et responsabilité institutionnelle.
Modélisation du Gain Net : Les auteurs formalisent mathématiquement le concept de « complémentarité efficace » en introduisant un coût d'interaction $c(D)$ et un seuil institutionnel $\lambda$ pour calculer un gain net, permettant de distinguer les gains de performance justifiés de ceux qui sont trop coûteux.

3. Contributions Clés

Reconceptualisation de la Complémentarité : La complémentarité n'est plus une condition nécessaire ou suffisante de fiabilité, mais un indicateur de fiabilité (Type-RI1) parmi d'autres. Elle fournit des preuves historiques que le protocole d'interaction génère un gain épistémique, mais ne garantit pas à elle seule la validité du processus.
Justification des Sorties (Justificatory AI) : L'article propose une nouvelle perspective où la justification épistémique ne vise pas seulement l'IA isolée, mais le processus d'interaction complet (PT-HAI). Un tiers (patient, régulateur) est justifié d'accepter la prédiction si le processus global est fiable, même si l'IA seule ne l'est pas.
Mesure de la Complémentarité Efficace : Introduction d'une métrique formelle ( $\Delta_{net}$ ) qui pondère le gain de performance par le coût de l'interaction, évitant ainsi d'optimiser des gains marginaux au détriment de l'efficacité opérationnelle.
Outil Opérationnel (Checklist) : Développement d'une liste de contrôle minimale pour le rapportage des interactions Humain-IA justifiables. Cette checklist couvre les indicateurs RI1, RI2 et RI3, forçant les concepteurs et régulateurs à documenter non seulement la précision, mais aussi la validité, la gouvernance et les coûts.

4. Résultats et Illustrations

L'article ne présente pas de nouvelles expériences empiriques mais valide sa théorie par l'analyse de trois scénarios réels :

Le dermatologiste technologue : Un cas où la complémentarité (RI1) est forte, soutenue par une expertise humaine et une formation continue (RI3), rendant le processus globalement fiable.
L'étudiant et le LLM : Un cas où la complémentarité (détection d'erreurs par l'étudiant) compense partiellement le manque de fiabilité intrinsèque du modèle (RI2 faible) et l'absence de validation institutionnelle (RI3 faible). Le processus est peu fiable globalement, mais l'étudiant peut justifier l'usage pour l'apprentissage.
Le laboratoire de criminalistique : Un cas où la complémentarité est marginale (l'expert et l'IA s'accordent souvent), mais le processus est hautement fiable grâce à des contraintes rigoureuses de gouvernance et de validation (RI3). Ici, optimiser la complémentarité serait contre-productif par rapport aux coûts opérationnels.

Ces exemples démontrent que la fiabilité d'un système Humain-IA peut être élevée même avec une complémentarité faible (si les RI2 et RI3 sont forts), et inversement.

5. Signification et Implications

Ce travail transforme la manière dont la recherche et la régulation abordent l'IA assistée par l'humain :

Pour la Conception : Les concepteurs ne doivent plus viser la complémentarité comme un objectif unique, mais l'intégrer dans un profil de fiabilité plus large, en documentant les gains nets et les coûts.
Pour la Gouvernance et la Régulation : Les régulateurs (ex: AI Act de l'UE) ne devraient pas imposer la complémentarité comme critère de conformité binaire. Ils doivent exiger une évaluation du processus socio-technique dans son ensemble, incluant la gestion du cycle de vie et la surveillance des biais.
Pour la Philosophie de l'IA : L'article offre un cadre unifié reliant la performance, les normes épistémiques et les pratiques institutionnelles, dépassant la simple dichotomie entre confiance et méfiance envers l'IA.

En résumé, l'article sauve le concept de complémentarité de son échec empirique actuel en le transformant d'un indicateur de performance isolé en une pièce maîtresse d'une justification épistémique holistique et robuste des systèmes d'aide à la décision.