Beyond Abstract Compliance: Operationalising trust in AI as a moral relationship

Imaginez que vous construisez une maison. La plupart des règles actuelles pour construire une IA « digne de confiance » ressemblent à un inspecteur du bâtiment strict qui vérifie seulement si la maison possède des fondations solides, le bon nombre de fenêtres et un permis valide. Si la maison réussit la liste de contrôle, l'inspecteur déclare : « Cette maison est digne de confiance. »

Mais les auteurs de cet article soutiennent que la confiance n'est pas seulement une question de réussite d'une liste de contrôle. La confiance ressemble davantage à une relation avec un voisin. On ne fait pas confiance à un voisin simplement parce qu'il a une belle clôture (conformité technique) ; on lui fait confiance parce qu'on a partagé des repas, aidé à déménager des meubles et construit une histoire d'honnêteté au fil du temps.

Cet article suggère que nous devons cesser de traiter la confiance en IA comme un « produit ou une fonctionnalité » que l'on peut installer, et commencer à la traiter comme une relation vivante que nous devons cultiver.

Voici la décomposition de leurs idées en utilisant des analogies simples :

1. Le Problème : Le piège de la « Liste de contrôle »

Actuellement, les grandes organisations (comme l'UE) tentent de rendre l'IA digne de confiance en créant des règles : « Soyez transparent », « Soyez équitable », « Soyez sûr ». Elles utilisent des outils comme des listes de contrôle et des audits pour prouver que l'IA respecte ces règles.

• L'Analogie : C'est comme un restaurant qui affiche un autocollant « Approuvé par l'inspecteur de santé » dans sa vitrine. Cela vous indique que la cuisine est propre, mais cela ne vous dit pas si le chef se soucie réellement de votre repas ou si la nourriture aura bon goût pour votre famille.
• Le Problème : Cette approche suppose que la confiance est une chose statique que l'on peut « ingénierer ». Les auteurs affirment que la confiance est en réalité une danse dynamique entre les humains et la technologie. Si vous vous contentez de suivre les règles mais que vous ignorez les personnes qui utilisent le système, vous pourriez avoir une IA « conforme », mais personne ne lui fera réellement confiance.

2. La Solution : La philosophie « Ubuntu »

Pour corrifier cela, les auteurs se tournent vers une philosophie africaine appelée Ubuntu. Un adage courant d'Ubuntu est : « Je suis parce que nous sommes. » Cela signifie que vous n'êtes pas seulement un individu isolé ; vous êtes défini par vos relations avec votre communauté.

• L'Analogie : Au lieu de construire une maison pour qu'une seule personne y vive seule (individualisme occidental), imaginez la construction d'un jardin communautaire. Tout le monde l'entretient ensemble. Le succès du jardin dépend de la manière dont les voisins communiquent, partagent leurs outils et veillent les uns sur les autres.
• L'Objectif : L'article propose de construire l'IA comme un jardin communautaire, et non comme une forteresse solitaire. Nous devons impliquer les personnes qui utiliseront l'IA dès le début, et non pas seulement à la fin.

3. Les quatre piliers de la « Confiance par la conception » (Trust-by-Design)

Les auteurs suggèrent quatre règles principales pour transformer cette philosophie en action. Considérez-les comme les quatre pieds d'une table robuste :

• Le Communautarisme (L'approche du « Nous ») :

  • Ce que cela signifie : Ne demandez pas seulement : « Est-ce que cela aide l'utilisateur ? » Demandez : « Est-ce que cela aide toute la communauté ? »
  • L'Analogie : Lors de la planification d'une route, ne demandez pas seulement au conducteur si la route est rapide. Demandez aux piétons, aux commerçants locaux et aux conducteurs de bus scolaires si la route est sûre pour tout le monde.
  • En IA : Les développeurs devraient travailler avec les communautés pour décider de ce que l'IA doit faire, en veillant à ce qu'elle aide le groupe, et pas seulement l'individu.

• Le Respect d'autrui (L'approche de la « Dignité humaine ») :

  • Ce que cela signifie : Traiter chaque personne comme un être humain complet, doté d'une histoire et d'une communauté, et non comme une simple donnée.
  • L'Analogie : Imaginez un bibliothécaire qui connaît votre nom, vos livres préférés et votre famille, plutôt qu'un robot qui scanne simplement votre code-barres et vous remet un livre.
  • En IA : Ne vous contentez pas d'obtenir un consentement de type « case à cocher » de la part d'un utilisateur. Demandez à la communauté : « Est-il acceptable d'utiliser ces données ? » et respectez leur dignité même s'ils ne comprennent pas pleinement la technologie complexe.

• L'Intégrité (L'approche du « Dire ce que l'on fait ») :

  • Ce que cela signifie : Être honnête et cohérent, même quand personne ne regarde.
  • L'Analogie : C'est la différence entre un ami qui promet de vous aider à déménager et qui arrive réellement avec un camion, et un ami qui dit qu'il viendra mais qui disparaît ensuite.
  • En IA : Si l'IA commet une erreur, les développeurs ne devraient pas la cacher. Ils devraient l'admettre, la corriger et expliquer pourquoi elle s'est produite. La confiance grandit lorsque les gens voient que vous réparez vos erreurs.

• La Publicité de la Conception (L'approche de la « Cuisine ouverte ») :

  • Ce que cela signifie : Ne vous contentez pas d'expliquer comment l'IA fonctionne après qu'elle a été construite. Expliquez pourquoi vous l'avez construite de cette façon dès le départ.
  • L'Analogie : Au lieu d'un chef caché dans la cuisine qui ne montre que le plat final, imaginez un chef qui vous invite dans la cuisine pour voir les ingrédients, vous expliquer pourquoi il a choisi cette épice, et vous faire goûter la sauce avant qu'elle ne soit servie.
  • En IA : Les développeurs devraient partager ouvertement leurs objectifs, leurs valeurs et leurs choix de données avant le lancement de l'IA, afin que la communauté puisse dire : « Oui, cela fait sens pour nous », ou « Non, cela ne correspond pas à nos valeurs ».

4. Mise en pratique : Deux exemples concrets

L'article montre comment cela fonctionne dans deux domaines spécifiques :

A. La Santé (L'exemple des antibiotiques)

• Le Scénario : Une IA qui aide les médecins à décider quels antibiotiques administrer aux patients.
• L'Ancienne Méthode : L'IA est construite par des experts techniques, testée pour sa précision, puis remise aux médecins.
• La Nouvelle Méthode (Confiance par la conception) :
  • Communautarisme : Les médecins, les patients et les pharmaciens s'asseyent ensemble pour décider de ce que l'IA doit prioriser (par exemple, l'arrêt de la résistance aux médicaments versus la guérison rapide du patient).
  • Respect : L'IA ne regarde pas seulement les données du patient ; elle respecte l'histoire du patient et le jugement du médecin.
  • Intégrité : Si l'IA suggère un mauvais antibiotique, le système l'admet et apprend, plutôt que de prétendre être parfait.
  • Publicité : Les médecins et les patients savent exactement pourquoi l'IA fait certaines suggestions, afin qu'ils puissent lui faire confiance comme à un partenaire, et non comme à une boîte noire.

B. L'Éducation (L'exemple du tuteur IA)

• Le Scénario : Un tuteur IA aidant les étudiants à apprendre.
• L'Ancienne Méthode : L'IA remplace l'enseignant ou se contente de délivrer des faits.
• La Nouvelle Méthode (Confiance par la conception) :
  • Communautarisme : L'objectif n'est pas de remplacer les enseignants (qui sont le « village » qui élève l'enfant) mais de les soutenir. L'IA est conçue pour rassembler la communauté, et non pour isoler l'étudiant.
  • Respect : L'IA parle la langue locale de l'étudiant et comprend son contexte culturel. Elle ne le culpabilise pas pour ses erreurs, mais encourage sa croissance.
  • Intégrité : Si l'IA se trompe dans une question, elle dit à l'étudiant et à l'enseignant : « J'ai fait une erreur », et elle la corrige.
  • Publicité : La communauté aide à décider de ce que l'IA enseigne, garantissant qu'elle n'enseigne pas seulement des idées occidentales, mais qu'elle respecte aussi les savoirs locaux.

L'essentiel

L'article soutient que nous ne pouvons pas « coder » la confiance dans une machine comme nous codons une fonctionnalité. La confiance est une relation morale. Pour construire une IA en laquelle les gens ont réellement confiance, nous devons cesser de traiter les communautés comme des utilisateurs passifs et commencer à les traiter comme des co-créateurs. Nous devons construire une IA qui est transparente, honnête et profondément respectueuse des personnes et des communautés qu'elle sert, tout comme un bon voisin le ferait.