Explainable and Human-Grounded AI for Decision Support Systems: The Theory of Epistemic Quasi-Partnerships
Ce papier propose la théorie des quasi-partenariats épistémiques comme cadre novateur pour les systèmes d'aide à la décision éthique en intelligence artificielle, soutenant qu'elle explique efficacement les preuves empiriques et oriente le développement en privilégiant des explications ancrées dans l'humain composées de raisons, de contre-factuels et de confiance (l'approche RCC).
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
La vue d'ensemble : le problème de la « boîte noire »
Imaginez que vous êtes un juge décidant de l'avenir d'un enfant, ou un médecin posant un diagnostic à un patient. Soudain, un programme informatique ultra-intelligent (une IA) vous fait une recommandation. Mais l'ordinateur ne vous dit pas pourquoi il a pris cette décision ; il vous donne simplement la réponse. C'est comme une « boîte noire ».
Le document soutient que, pour que les humains fassent confiance à ces ordinateurs, nous n'avons pas besoin de comprendre les mathématiques complexes à l'intérieur de la boîte (comme un mécanicien comprend un moteur). Au lieu de cela, nous avons besoin que l'ordinateur nous parle d'une manière qui ait du sens pour notre cerveau. Les auteurs appellent cela construire un « partenariat quasi-épistémique ».
Pensez-y ainsi : vous faites une randonnée en montagne avec un guide. Vous connaissez le terrain (vous êtes l'expert humain), mais le guide dispose d'un GPS haute technologie et de données satellitaires météorologiques (l'IA). Vous n'êtes pas « partenaires » dans le sens où le GPS aurait des sentiments ou une responsabilité morale, mais vous travaillez ensemble pour prendre une décision. Pour faire confiance au guide, il doit expliquer ses conseils d'une manière que vous pouvez réellement utiliser.
Le problème avec les explications actuelles
Les auteurs ont examiné la façon dont l'IA tente actuellement de s'expliquer. Ils ont constaté que de nombreuses méthodes populaires sont déroutantes pour les gens ordinaires.
- Le piège du « graphe de caractéristiques » : Imaginez que l'IA vous montre un diagramme à barres indiquant : « L'âge a contribué à 20 %, l'éducation à 15 % et le titre de poste à 10 % ». Pour un informaticien, c'est clair. Pour une personne ordinaire, c'est comme regarder une carte d'une ville que vous n'avez jamais visitée. Vous pouvez voir les lignes, mais vous ne savez pas pourquoi elles sont importantes ou si la carte est fiable. Le document qualifie cela d'« épistémiquement opaque » — cela ressemble à de l'information, mais cela ne vous aide pas réellement à prendre une décision.
- « Les détenus dirigent l'asile » : Actuellement, les explications de l'IA sont souvent conçues par les programmeurs (les experts) pour d'autres programmeurs. Les personnes qui utilisent réellement l'IA (les juges, les médecins ou les agents de prêt) se retrouvent à essayer de déchiffrer un code qu'elles ne parlent pas.
Ce qui fonctionne réellement ? (L'approche RCC)
Après avoir examiné des dizaines d'études, les auteurs ont constaté que les humains font le plus confiance à l'IA lorsqu'elle utilise trois types spécifiques d'explications. Ils appellent cela l'approche RCC :
Raisons (Le « Parce que ») :
- Analogie : Au lieu d'un diagramme à barres, l'IA devrait dire : « Je recommande ce prêt parce que le demandeur a un emploi stable et un bon score de crédit. »
- Pourquoi cela fonctionne : Cela ressemble à la façon dont les humains expliquent leurs propres choix. Cela vous donne une « vérité » claire à laquelle vous pouvez vous accrocher.
Contrefactuels (Le « Et si ») :
- Analogie : L'IA devrait dire : « Je recommande ce prêt. Mais, si ses revenus étaient 5 000 $ inférieurs, je l'aurais rejeté. »
- Pourquoi cela fonctionne : Cela vous aide à tester la logique de l'IA. C'est comme demander à un ami : « Si la météo changeait, suggéreriez-vous toujours cet itinéraire ? » Cela vous montre les limites de la décision de l'IA.
Confiance (Le « À quel point je suis sûr ») :
- Analogie : L'IA devrait dire : « Je suis sûr à 90 % que c'est le bon chemin, mais si le vent se lève, ma confiance tombe à 40 %. »
- Pourquoi cela fonctionne : Les humains évaluent naturellement à quel point quelqu'un est sûr de lui avant de suivre ses conseils. Connaître le « niveau de certitude » de l'IA vous aide à décider quand écouter et quand vérifier à nouveau.
Pourquoi les anciennes théories ont échoué
Le document a testé trois anciennes idées sur la raison pour laquelle nous faisons confiance à l'IA et les a jugées insuffisantes :
- Théorie 1 : « Montrez-moi comment cela fonctionne. »
- L'idée : Si nous expliquons les mécanismes internes (les engrenages et les fils), nous lui ferons confiance.
- La réalité : Non. La plupart d'entre nous conduisent des voitures sans savoir comment fonctionne le moteur. Nous faisons confiance à la voiture parce qu'elle nous emmène en sécurité, pas parce que nous comprenons les pistons.
- Théorie 2 : « Montrez-moi où cela échoue. »
- L'idée : Si nous montrons la « carte des erreurs » de l'IA (là où elle se trompe), nous lui ferons confiance.
- La réalité : Savoir où une voiture pourrait tomber en panne ne vous aide pas à la conduire aujourd'hui. De plus, il est difficile pour un humain de regarder une carte d'erreurs complexe et de déterminer si l'IA a raison maintenant.
- Théorie 3 : « Faites en sorte qu'elle agisse comme un humain. »
- L'idée : Si l'IA parle et agit comme une personne, nous lui ferons confiance.
- La réalité : C'est dangereux. C'est comme un tour de magie. Si vous faites en sorte qu'un robot agisse trop humainement, vous risquez de vous tromper en pensant qu'il a des sentiments ou une morale qu'il n'a pas réellement. Le document affirme que c'est contraire à l'éthique car cela manipule notre confiance.
La solution : le « quasi-partenaire »
Les auteurs proposent une nouvelle façon de penser l'IA : le partenaire quasi-épistémique.
- « Épistémique » signifie qu'il s'agit de connaissance et de vérité.
- « Quasi » signifie « comme si ».
Imaginez l'IA comme un stagiaire très intelligent et très honnête.
- C'est un expert des données.
- Ce n'est pas un humain ; il n'a pas de sentiments, pas de responsabilité morale et pas d'« âme ».
- Mais, si vous le traitez comme si c'était un partenaire qui essaie de vous aider à penser clairement, vous obtenez les meilleurs résultats.
Pour être un bon « quasi-partenaire », l'IA ne devrait pas essayer d'être un humain. Au lieu de cela, elle devrait utiliser l'approche RCC (Raisons, Contrefactuels, Confiance) pour parler le langage de la logique humaine.
La conclusion
Pour rendre l'IA digne de confiance, nous ne devrions pas essayer de faire ressembler l'IA à un humain, ni obliger les humains à apprendre à lire du code complexe. Au lieu de cela, nous devrions concevoir l'IA pour qu'elle agisse comme un expert utile et transparent qui dit :
- « Voici ma raison. »
- « Voici ce qui changerait mon avis. »
- « Voici à quel point je suis sûr. »
Lorsque l'IA fait cela, les humains peuvent utiliser leur propre jugement pour décider s'ils font confiance à la machine, créant ainsi une équipe sûre et efficace entre l'humain et la machine.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.