Realistic Counterfactual Explanations via Denial Constraints
Cet article propose une nouvelle approche pour générer des explications contrefactuelles réalistes dans l'IA explicable en intégrant des contraintes de négation issues de bases de données relationnelles afin de garantir que les instances générées respectent les règles de validité des données, améliorant ainsi l'applicabilité pratique avec un compromis minimal sur les métriques de distance et de diversité.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde de l'intelligence artificielle, les machines prennent souvent des décisions qui affectent nos vies, de l'approbation de prêts au diagnostic de maladies. Lorsque ces systèmes disent « non », il est utile de savoir pourquoi. Une façon populaire d'expliquer une décision consiste à imaginer une version légèrement différente de la situation qui aurait conduit à un « oui ». Si une demande de prêt est rejetée, une explication utile pourrait suggérer qu'un gain de revenus un peu plus élevé ou un score de crédit légèrement supérieur aurait changé l'issue. Ces alternatives imaginées sont appelées contre-factuels. Ils agissent comme un projecteur, montrant exactement quelles caractéristiques d'une personne ou d'un objet ont le plus compté pour le jugement de la machine. Cependant, pour que ces explications soient véritablement utiles, elles doivent avoir du sens dans le monde réel. Une explication suggérant qu'un petit appartement dans une ville bondée pourrait soudainement posséder dix chambres est mathématiquement possible mais physiquement impossible. Si les changements suggérés sont irréalistes, l'explication échoue à aider la personne à comprendre sa situation ou à la corriger.
Des chercheurs de l'Université de Tel Aviv, d'eBay et de l'Université Hébraïque de Jérusalem ont abordé ce problème de suggestions irréalistes. Ils ont découvert que les outils les plus avancés actuellement utilisés pour générer ces explications produisent souvent des résultats qui violent les règles de base de la réalité. Par exemple, un outil pourrait suggérer qu'une maison dans un quartier spécifique possède un certain nombre de salles de bain qui n'existent tout simplement pas dans cette zone, ou que l'âge et le niveau d'éducation d'une personne contredisent des faits connus sur la façon dont les gens vivent. Pour corriger cela, l'équipe a combiné les méthodes utilisées pour expliquer l'IA avec des techniques de gestion de bases de données, le domaine qui garantit que les données dans les ordinateurs restent cohérentes et précises. Ils ont introduit un système qui vérifie chaque changement suggéré par rapport à un ensemble de règles logiques dérivées de données réelles. Ces règles, connues sous le nom de contraintes de négation, agissent comme un filtre, garantissant que tout nouveau scénario proposé comme explication s'inscrit dans les limites de ce qui est réellement possible.
Les chercheurs ont testé leur nouvelle approche sur quatre ensembles de données différents, incluant des informations sur l'immobilier de New York, des registres fiscaux et des données démographiques. Ils ont comparé leur méthode à l'outil existant de référence, qui est connu pour trouver des explications diverses et proches, mais ignore si ces explications sont réalistes. Les résultats ont été frappants. Dans l'ensemble de données immobilières, presque toutes les explications générées par l'outil standard violaient au moins une règle de la réalité. Dans certains cas, chaque suggestion faite par celui-ci était impossible. À l'inverse, le nouveau système a produit des explications qui ne violaient aucune règle. Chaque scénario proposé était cohérent avec les données qu'il avait observées. Cela ne s'est pas fait au prix d'un effort important. Les nouvelles explications étaient seulement légèrement plus éloignées de la situation originale que les explications irréalistes, et elles restaient tout aussi diverses, offrant une large gamme de raisons différentes pour la décision. En fait, sur certains ensembles de données, la nouvelle méthode a même fourni de meilleures explications car l'outil standard avait été contraint de s'égarer dans un territoire impossible pour trouver une solution.
Un défi majeur de ce travail a été la vitesse. Vérifier chaque changement possible par rapport à des milliers de règles peut être incroyablement lent, au point qu'une seule vérification pourrait prendre des heures. L'équipe a développé une série d'astuces ingénieuses pour rendre le processus assez rapide pour une utilisation pratique. Au lieu de vérifier chaque règle par rapport à chaque donnée à chaque fois, leur système a appris à identifier quelles règles étaient réellement pertinentes pour la situation spécifique en question. Ils ont également construit un moyen de mémoriser les vérifications précédentes afin de ne pas répéter le travail. Ces optimisations ont rendu le système jusqu'à soixante-trois fois plus rapide qu'une approche directe et non optimisée. Cette vitesse est cruciale car elle signifie que le système peut être utilisé dans des applications en temps réel sans attendre qu'un ordinateur calcule des chiffres pendant une heure.
L'étude a également examiné d'autres méthodes qui tentent de rendre les explications réalistes, telles que celles qui utilisent des modèles complexes pour deviner à quoi ressemblent les données ou celles qui ne choisissent que des exemples à partir d'une liste préexistante. Les chercheurs ont constaté que même ces méthodes sophistiquées échouaient souvent à respecter les règles strictes des données. Un modèle pourrait suggérer une combinaison de caractéristiques qui semble statistiquement probable, mais qui viole tout de même une règle logique spécifique, comme une exonération fiscale qui ne s'applique pas à un État donné. La nouvelle approche est unique car elle garantit que l'explication ne brisera aucune règle. Elle y parvient en traitant les règles comme des lois absolues plutôt que comme des suggestions souples. Si une suggestion viole une règle, le système l'ajuste jusqu'à ce qu'elle s'y conforme, garantissant que l'explication finale n'est pas seulement une supposition, mais un scénario factuellement valide.
Ce travail met en lumière une lacune critique dans la façon dont nous faisons confiance et comprenons actuellement l'intelligence artificielle. Il montre qu'être proche des données originales ne suffit pas ; une explication doit également être ancrée dans la réalité du monde qu'elle décrit. En garantissant que les contre-factuels sont réalistes, les chercheurs ont rendu ces explications plus dignes de confiance et plus utiles pour les personnes qui en ont besoin. Qu'il s'agisse d'un propriétaire se demandant pourquoi la valeur de sa propriété est basse ou d'un chercheur d'emploi comprenant pourquoi il a été rejeté, savoir que le chemin suggéré vers un résultat différent est réellement possible fait la différence entre un tour de passe-passe mathématique déroutant et un aperçu clair et exploitable. Le succès de l'équipe à équilibrer réalisme, diversité et vitesse suggère que l'avenir de l'IA explicable ne réside pas seulement dans la recherche de la réponse la plus proche, mais dans la recherche de la réponse vraie.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.