Integrated Gradient-guided Adversarial Counterfactual Explanations of 12-lead Electrocardiograms

Chaque jour, des millions de personnes entrent dans les hôpitaux avec des douleurs thoraciques ou un essoufflement, et le premier outil que les médecins saisissent est souvent un simple enregistrement de dix secondes de l'activité électrique du cœur. Il s'agit de l'électrocardiogramme, ou ECG, un test qui cartographie le rythme du cœur à travers douze angles différents, révélant des dangers cachés comme les crises cardiaques bien avant que les symptômes ne deviennent graves. Depuis des décennies, ce test est la référence, mais aujourd'hui, l'intelligence artificielle apprend à lire ces mêmes lignes sinueuses avec une rapidité et une précision qui rivalisent parfois avec celles des experts humains. Pourtant, une barrière silencieuse subsiste entre l'ordinateur et la clinique : si une machine peut dire à un médecin qu'un patient est à risque, elle ne peut souvent pas expliquer pourquoi. Elle voit un motif dans les données qu'un humain ne peut voir, laissant le médecin face à une boîte noire. Pour combler ce fossé, les chercheurs développent une nouvelle façon de concevoir la manière dont les machines prennent des décisions, en allant au-delà du simple fait de pointer quelle partie de l'image semblait importante, pour poser une question plus humaine : que faudrait-il changer pour que la réponse soit différente ?

Cette ligne de pensée, connue sous le nom d'explication contrefactuelle, reflète la manière dont les médecins diagnostiquent réellement les patients. Lorsqu'un médecin examine un tracé cardiaque, il ne se contente pas d'identifier des caractéristiques ; il simule mentalement des alternatives. Il se demande : si cette onde était légèrement plus haute, ou si cette pause était plus courte, le diagnostic passerait-il d'une crise cardiaque à un rythme normal ? Ce type de raisonnement est central dans la pratique médicale, mais il a été difficile de l'enseigner aux ordinateurs. La plupart des méthodes existantes pour rendre l'intelligence artificielle transparente peuvent mettre en évidence les régions de l'ECG qui ont influencé une prédiction, un peu comme une carte thermique montrant où la caméra s'est concentrée. Cependant, ces cartes ne montrent pas le changement minimal spécifique requis pour inverser le résultat. Elles vous disent où la machine a regardé, mais pas ce qu'il faudrait pour qu'elle change d'avis.

Dans une nouvelle étude, un chercheur nommé Bjørn-Jostein Singstad s'est donné pour mission de construire un système capable de générer ces scénarios de « et si » pour les signaux cardiaques. L'objectif était de créer un cadre capable de prendre un ECG classé comme une crise cardiaque et de le modifier doucement, d'une manière qui se concentre sur les parties spécifiques du signal que l'ordinateur lui-même jugeait les plus importantes, jusqu'à ce que l'ordinateur le voie comme un cœur normal, et vice versa. Le défi était de s'assurer que ces changements n'étaient pas du bruit aléatoire ou des artefacts numériques, mais des modifications se concentrant sur les moments critiques sur lesquels la machine s'appuyait. Pour ce faire, le chercheur a développé une méthode appelée InterGRACE. Ce système utilise une technique appelée gradients intégrés, qui agit comme un projecteur, identifiant exactement les moments de l'battement cardiaque sur lesquels la machine s'appuie le plus pour sa décision. Le système utilise ensuite ce projecteur pour guider un processus qui altère le signal, concentrant les changements sur ces moments critiques tout en gardant le reste de l'onde aussi fluide et naturel que possible.

L'étude a testé cette approche sur une vaste collection publique de plus de vingt et un mille enregistrements cardiaques, en se concentrant spécifiquement sur la distinction entre les crises cardiaques et les rythmes normaux. Le chercheur a entraîné deux modèles informatiques distincts pour lire ces signaux, en veillant à ce qu'ils apprennent la tâche indépendamment l'un de l'autre. Le but était de voir si les changements suggérés par le système étaient de véritables caractéristiques médicales ou simplement des particularités d'un seul programme informatique. Lorsque le système a été sollicité pour inverser le diagnostic d'une crise cardiaque en un rythme normal, il a réussi à changer l'avis du premier modèle informatique dans près des deux tiers des cas. Plus important encore, lorsque ces mêmes signaux modifiés ont été présentés au second ordinateur, entraîné de manière indépendante, celui-ci a également changé d'avis dans plus de la moitié des cas. Ce succès partiel suggère que le système trouve des caractéristiques qui sont réellement partagées entre différentes manières d'appréhender les données, tout en indiquant qu'une grande fraction des changements reste spécifique au modèle d'origine.

En examinant de près les signaux qui ont été modifiés, un motif clair est apparu. Le système n'a pas déformé l'ensemble du battement cardiaque de manière aléatoire. Au lieu de cela, il a concentré ses modifications sur une fenêtre de temps spécifique connue sous le nom de segment ST et l'onde T. En termes médicaux, ce sont les parties du battement cardiaque qui surviennent juste après l'impulsion électrique principale, représentant la phase de récupération du cœur. Cela est significatif car, dans la médecine réelle, les changements dans ces zones exactes sont les principaux indicateurs d'une crise cardiaque. Le fait que l'ordinateur, guidé uniquement par sa propre logique interne, ait choisi d'altérer ces régions spécifiques suggère qu'il s'aligne sur la présence de caractéristiques de repolarisation cliniquement significatives, bien que l'étude note que cela ne démontre pas de manière concluante que ce sont les seules caractéristiques en jeu. Les changements n'étaient pas uniformes sur l'ensemble du signal ; ils étaient précis, ciblant la phase de récupération tout en laissant l'impulsion électrique initiale largement intacte.

Cependant, l'étude a également révélé des limites importantes à cette technologie. Bien que le système ait bien fonctionné pour les modèles informatiques, les changements qu'il a produits n'étaient pas toujours parfaitement sûrs ou réalistes pour une interprétation humaine. Parce que le système traitait chaque l'une des douze dérivations de l'ECG de manière indépendante, il a parfois créé des combinaisons de signaux qui ne pourraient jamais se produire dans un cœur humain vivant. Par exemple, il pourrait modifier la tension dans une dérivation sans effectuer le changement correspondant, physiquement nécessaire, dans une autre dérivation, créant ainsi un motif qui viole les lois de la circulation de l'électricité dans le corps. Le chercheur a noté que sans règles strictes pour imposer ces lois biologiques, les exemples générés peuvent contenir des caractéristiques improbables ou impossibles dans les signaux cardiaques réels, tels que des sauts soudains de tension ou des ondes déformées qu'aucun vrai cœur ne pourrait produire.

Cette conclusion sert de rappel crucial que, bien que la méthode identifie avec succès les parties du signal qui comptent pour la machine, elle ne comprend pas encore pleinement la physique complexe du corps humain. L'étude conclut que cette approche est une étape prometteuse vers une plus grande transparence de l'intelligence artificielle, offrant un moyen de sonder le raisonnement d'un modèle informatique en demandant ce qu'il faudrait pour qu'il change d'avis. Pourtant, avant que de tels outils puissent être utilisés pour aider les médecins à prendre des décisions de vie ou de mort, ils doivent être affinés pour garantir que chaque changement suggéré est non seulement efficace pour l'ordinateur, mais aussi physiquement possible pour un cœur humain. Ce travail constitue une démonstration initiale que les machines peuvent être guidées pour penser en termes de « et si », mais il souligne également le long chemin qu'il reste à parcourir pour garantir que ces changements hypothétiques soient ancrés dans la réalité de la physiologie humaine.