Beyond Explanation: Evidentiary Rights for Algorithmic Accountability
En s'appuyant sur l'analyse de 168 affaires juridiques, cet article démontre que l'accès aux preuves est un prérequis essentiel à la contestation des décisions algorithmiques, bien plus que la simple explication, et propose des droits d'interrogation contrefactuelle pour transformer l'imputabilité algorithmique d'un problème de transparence en une question de droits procéduraux.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le Problème : Le « Secret de la Polonaise » des Algorithmes
Imaginez que vous postulez pour un emploi, un prêt bancaire ou un logement. Soudain, vous recevez un refus. L'entreprise vous envoie un petit mot : « Votre dossier a été refusé par notre algorithme en raison de votre historique de crédit et de votre ratio dette/revenu. »
C'est ce qu'on appelle une explication. C'est comme si un cuisinier vous disait : « Votre gâteau est raté parce qu'il y avait trop de sucre. » Vous comprenez la raison, mais vous ne pouvez pas vérifier si c'est vrai.
Le problème, c'est que comprendre n'est pas assez.
Si vous dites : « Attendez, j'ai mesuré le sucre, il était parfait ! » et que le cuisinier répond : « Je ne peux pas vous montrer la balance, c'est un secret de fabrication », vous êtes bloqué. Vous ne pouvez pas prouver votre innocence, ni tester si un petit changement (moins de sucre) aurait sauvé le gâteau.
L'auteur dit que la plupart des lois actuelles (comme le RGPD en Europe) se concentrent uniquement sur le fait de vous donner la recette (l'explication), mais elles ne vous donnent pas les outils pour vérifier si la recette a été bien suivie.
La Solution : Le Droit de « Tester le Système »
L'auteur propose une nouvelle idée : le droit probatoire (ou evidentiary rights). Au lieu de simplement vous dire « pourquoi », l'entreprise devrait vous permettre de tester le système.
Il appelle cela l'interrogation contrefactuelle.
L'analogie du Laboratoire de Test :
Imaginez que l'algorithme est une machine à sous mystérieuse dans un casino.
- L'approche actuelle : Le casino vous dit : « Vous avez perdu parce que la machine est malheureuse aujourd'hui. » (Explication).
- L'approche proposée : Le casino vous donne un bouton « Mode Test ». Vous pouvez appuyer sur ce bouton, changer un petit détail de votre pièce (par exemple, changer votre année de naissance de 1990 à 2000, ou votre nom de « Jean » à « Marie ») et voir si la machine change de résultat.
Si vous changez un détail qui ne devrait pas avoir d'importance (comme votre nom) et que la machine passe de « Refusé » à « Accepté », vous avez la preuve que la machine est biaisée ou buggée. Vous n'avez pas besoin de voir le code interne de la machine (ce qui est souvent un secret commercial), vous avez juste besoin de voir comment elle réagit à vos tests.
Ce que l'auteur a découvert (La Preuve)
L'auteur a analysé 168 affaires juridiques réelles où des gens ont contesté des décisions d'ordinateurs. Il a trouvé deux choses fascinantes :
- La Porte de l'Accès (Le Portail) : Dans 91 % des cas où les gens n'avaient pas accès aux données pour prouver leur cause, ils ont perdu. C'est comme essayer de gagner un procès sans pouvoir présenter de témoins ni de preuves.
- La Porte de la Loi (Le Fond) : Même quand les gens avaient les preuves, ils pouvaient encore perdre si la loi les protégeait (par exemple, les géants d'Internet sont souvent protégés par des lois spéciales qui disent « nous ne sommes pas responsables de ce que disent nos utilisateurs »).
Leçon principale : Avoir les preuves ne garantit pas la victoire, mais ne pas avoir les preuves garantit presque toujours la défaite.
Pourquoi c'est important pour vous ?
Aujourd'hui, si un algorithme vous refuse un prêt, vous êtes souvent impuissant. Vous comprenez la raison donnée, mais vous ne pouvez pas la contester.
L'auteur veut changer les règles pour que :
- Vous puissiez vérifier : « Est-ce que mes données ont été bien lues ? »
- Vous puissiez comparer : « Est-ce que j'ai été traité comme les autres ? »
- Vous puissiez tester : « Si je changeais ce petit détail, le résultat changerait-il ? »
En résumé
L'article dit qu'il faut arrêter de se contenter de parler aux gens (explications) et commencer à leur donner des outils (droits de test).
C'est la différence entre un professeur qui vous dit « Tu as eu 10/20 » et un professeur qui vous laisse regarder votre copie, voir les questions, et même essayer de refaire l'exercice pour voir si vous auriez eu 15/20. Sans ce droit de vérifier, la justice algorithmique n'est qu'une illusion.
Le mot de la fin : La transparence ne suffit pas. Pour que l'intelligence artificielle soit juste, il faut donner aux citoyens le pouvoir de pousser le bouton et de voir ce qui se passe, pas juste de lire le manuel d'instructions.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.