Barriers to Evidence in AI-Related Cases and the Privatization of Proof
Cet article soutient que le contrôle propriétaire des systèmes d'intelligence artificielle engendre une « privatisation de la preuve » qui entrave les procédures judiciaires en créant sept asymétries majeures d'accès, et propose un test en trois parties fondé sur la proportionnalité et des alternatives d'accès fongibles pour résoudre ces litiges relatifs aux preuves.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous êtes dans un tribunal, essayant de prouver qu'un robot géant et invisible a commis une erreur qui vous a blessé. Vous savez que quelque chose s'est mal passé, mais le cerveau du robot, sa mémoire et les règles qu'il suit sont enfermés dans une boîte noire appartenant à une puissante entreprise technologique.
Ce document, rédigé par les chercheuses Sarah Cen, Hannah Ismael et Lucia Zheng, soutient que dans les affaires impliquant l'intelligence artificielle (IA), les règles de la preuve sont brisées. Ce n'est pas seulement que la preuve est difficile à trouver ; c'est que les personnes qui contrôlent la preuve ont construit un mur si haut que vous ne pouvez pas le franchir, et que le juge refuse souvent même de vous laisser essayer.
Voici une analyse de leurs découvertes utilisant des analogies simples.
1. Le « dilemme du Catch-22 » de la preuve
Les auteurs décrivent une boucle frustrante qu'ils appellent la « privatisation de la preuve ».
- Le scénario : Vous (la personne qui intente l'action) devez voir le fonctionnement interne de l'IA pour prouver qu'elle était biaisée ou défectueuse.
- La défense de l'entreprise : L'entreprise déclare : « Vous ne pouvez pas prouver que vous avez besoin de voir le code sauf si vous avez déjà la preuve que le code est défectueux. »
- Le résultat : Vous ne pouvez pas obtenir le code sans preuve, mais vous ne pouvez pas obtenir de preuve sans le code. Le jeu se termine avant même d'avoir commencé.
L'analogie : Imaginez que vous êtes accusé d'avoir volé un biscuit dans un bocal, mais que le bocal est verrouillé dans un coffre-fort appartenant au boulanger. Le boulanger dit : « Vous ne pouvez pas ouvrir le coffre-fort pour vérifier s'il y a des miettes de biscuits à moins de prouver d'abord que vous avez volé un biscuit. » Mais vous ne pouvez pas prouver que vous avez volé un biscuit sans voir les miettes à l'intérieur du coffre-fort. Le boulanger détient la clé, et le juge accepte souvent que vous ne puissiez pas ouvrir le coffre-fort parce que vous n'avez pas encore « prouvé » que vous en aviez besoin.
2. Les sept « clés » de la boîte noire
Le document identifie sept éléments spécifiques qui sont généralement verrouillés, créant un fossé immense entre l'entreprise et la personne qui intente l'action. Considérez-les comme sept clés différentes nécessaires pour ouvrir la boîte noire :
- Le modèle : Le véritable « cerveau » de l'IA (le code et les poids).
- Les données : Les « manuels » sur lesquels l'IA a été entraînée.
- La documentation : Le « mode d'emploi » écrit par les créateurs.
- Les journaux d'événements (logs) : Le « journal intime » de ce que l'IA a réellement fait et dit aux utilisateurs.
- L'expertise : Les connaissances spécialisées nécessaires pour comprendre la machine.
- La puissance de calcul : Les superordinateurs massifs nécessaires pour exécuter des tests.
- L'infrastructure : Les outils physiques et les serveurs utilisés par l'entreprise.
L'analogie : Si vous voulez prouver qu'une voiture est défectueuse, vous devez voir le moteur (Modèle), les plans (Documentation), le carburant utilisé (Données) et les notes du mécanicien (Journaux d'événements). Mais le constructeur automobile déclare : « Nous ne vous montrerons pas le moteur car c'est un secret commercial, et nous ne vous laisserons pas embaucher un mécanicien car nous ne vous faisons pas confiance. » Pendant ce temps, le constructeur possède tous les outils et experts, tandis que vous n'avez que l'extérieur de la voiture.
3. L'astuce de la « fongibilité » (échange de clés)
L'un des points les plus intéressants du document est que ces « clés » sont fongibles. C'est un mot compliqué signifiant qu'elles peuvent être échangées.
L'analogie : Imaginez que vous devez entrer dans une pièce pour trouver un document spécifique.
- Option A : Vous demandez la clé maître de la pièce (code source complet). Le propriétaire dit : « Non, c'est trop risqué. »
- Option B : Le propriétaire vous offre une fenêtre par laquelle regarder, ou un flux vidéo de la pièce, ou un tiers de confiance pour y entrer et vous dire ce qu'il voit.
Les auteurs soutiennent que les tribunaux devraient accepter ces échanges. Si l'entreprise refuse de vous donner la clé maître (le code) en invoquant des « secrets commerciaux », elle devrait être contrainte de vous donner autre chose qui fonctionne tout aussi bien, comme un flux vidéo ou un test contrôlé, pour prouver votre point. Vous n'avez pas besoin de la même clé exacte ; vous avez juste besoin d'un moyen d'obtenir les mêmes informations.
4. Le test en trois étapes pour les juges
Pour résoudre ce problème, les auteurs proposent un test simple en trois étapes à l'intention des juges lorsqu'une entreprise refuse de présenter des preuves.
Étape 1 : L'écart est-il réel ?
La personne qui intente l'action a-t-elle réellement besoin de plus d'informations pour prouver son cas, ou dispose-t-elle déjà de suffisamment d'éléments ? Si elle a déjà assez, on s'arrête. Si elle est bloquée parce que l'entreprise cache des choses, on passe à l'étape 2.Étape 2 : La demande est-elle équitable ?
Il s'agit d'un équilibre. Le juge pèse :- Bénéfice : Combien la personne qui intente l'action gagne-t-elle à voir cette preuve ?
- Risque : Quel préjudice cela causerait-il à l'entreprise de le révéler ?
- La base de référence : Le juge demande : « Quelle est la quantité minimale d'informations nécessaire pour même comprendre la réclamation juridique ? » Si l'entreprise cache même ce minimum, elle perd. Si elle cache des éléments supplémentaires qui ne sont pas nécessaires, elle pourrait devoir les révéler.
Étape 3 : Existe-t-il un échange sûr ?
Si l'entreprise dit : « Nous ne pouvons pas vous montrer les données brutes car elles sont privées », le juge demande : « Pouvez-vous nous montrer autre chose qui prouve la même chose ? » Peut-être une version anonymisée des données, ou un test exécuté dans un « bac à sable » sécurisé où l'entreprise peut regarder mais où le demandeur peut toujours apprendre. Si un échange équitable existe, l'entreprise doit le fournir.
Pourquoi cela importe
Le document conclut que sans résoudre ce problème, les poursuites judiciaires contre l'IA échoueront non pas parce que l'IA n'a rien fait de mal, mais parce que les règles du tribunal sont truquées contre la personne qui tente de trouver la vérité. La « privatisation de la preuve » signifie que les entreprises privées décident effectivement des résultats juridiques en cachant les preuves, transformant le tribunal en un lieu où celui qui détient le plus de secrets gagne, indépendamment de qui a réellement raison.
En bref : Les auteurs veulent mettre fin au « dilemme du Catch-22 » en obligeant les entreprises soit à présenter les preuves, soit à fournir un moyen équitable et alternatif de prouver la vérité, garantissant ainsi que la justice n'est pas verrouillée derrière un mur de paiement de secrets commerciaux.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.