Integrated Gradient-guided Adversarial Counterfactual Explanations of 12-lead Electrocardiograms

Jeden Tag kommen Millionen von Menschen mit Brustschmerzen oder Atemnot in Krankenhäuser, und das erste Werkzeug, nach dem Ärzte greifen, ist oft eine einfache, zehnsekündige Aufzeichnung der elektrischen Aktivität des Herzens. Dies ist das Elektrokardiogramm oder EKG, ein Test, der den Rhythmus des Herzens über zwölf verschiedene Winkel kartiert und verborgene Gefahren wie Herzinfarkte aufdeckt, noch bevor die Symptome schwerwiegend werden. Jahrzehntelang war dieser Test der Goldstandard, doch heute lernt künstliche Intelligenz, dieselben zackigen Linien mit einer Geschwindigkeit und Genauigkeit zu lesen, die manchmal die menschliche Expertise herausfordert. Dennoch bleibt eine stille Barriere zwischen dem Computer und der Klinik: Während eine Maschine einem Arzt sagen kann, dass ein Patient gefährdet ist, kann sie oft nicht erklären, warum. Sie sieht ein Muster in den Daten, das ein Mensch nicht sehen kann, und lässt den Mediziner der „Black Box“ vertrauen. Um diese Lücke zu schließen, entwickeln Forscher eine neue Art des Denkens darüber, wie Maschinen Entscheidungen treffen – weg von der bloßen Identifizierung der Teile eines Bildes, die wichtig erschienen, hin zu einer menschlicheren Frage: Was müsste sich ändern, damit das Ergebnis anders ausfällt?

Dieses Denkmodell, bekannt als kontrafaktische Erklärung (counterfactual explanation), spiegelt die Art und Weise wider, wie Ärzte tatsächlich Patienten diagnostizieren. Wenn ein Arzt eine Herzkurve betrachtet, identifiziert er nicht nur Merkmale; er simuliert mental Alternativen. Er fragt sich: Wenn diese Welle etwas höher wäre oder wenn diese Pause kürzer wäre, würde sich die Diagnose von einem Herzinfarkt zu einem normalen Rhythmus verschieben? Diese Art des Schließens ist zentral für die medizinische Praxis, aber es war schwierig, dies Computern beizubringen. Die meisten bestehenden Methoden zur Transparenz künstlicher Intelligenz können zwar die Regionen eines EKGs hervorheben, die eine Vorhersage beeinflusst haben – ähnlich wie eine Heatmap zeigt, wohin eine Kamera fokussiert –, doch diese Karten zeigen nicht die spezifische, minimale Änderung auf, die erforderlich wäre, um das Ergebnis umzukehren. Sie sagen einem, wo die Maschine hingesehen hat, aber nicht, was nötig wäre, um sie umzustimmen.

In einer neuen Studie setzte sich ein Forscher namens Bjørn-Jostein Singstad zum Ziel, ein System zu bauen, das diese „Was-wäre-wenn“-Szenarien für Herzsignale generieren kann. Das Ziel war es, ein Framework zu schaffen, das ein als Herzinfarkt klassifiziertes EKG sanft so verändern kann – indem es sich auf die spezifischen Teile des Signals konzentriert, die der Computer selbst als am wichtigsten erachtet hat –, dass der Computer es schließlich als normalen Herzschlag sieht und umgekehrt. Die Herausforderung bestand darin, sicherzustellen, dass diese Änderungen kein zufälliges Rauschen oder digitale Artefakte waren, sondern Modifikationen, die sich auf die kritischen Momente konzentrierten, auf die die Maschine angewiesen war. Um dies zu erreichen, entwickelte der Forscher eine Methode namens InterGRACE. Dieses System nutzt eine Technik namens Integrated Gradients, die wie ein Scheinwerfer wirkt und exakt identifiziert, auf welche Momente im Herzschlag sich die Maschine bei ihrer Entscheidung am stärksten stützt. Das System nutzt diesen Scheinwerfer dann, um einen Prozess zu steuern, der das Signal verändert, wobei die Änderungen auf diese kritischen Momente fokussiert werden, während der Rest der Welle so glatt und natürlich wie möglich bleibt.

Die Studie testete diesen Ansatz an einer großen, öffentlichen Sammlung von über einundzwanzigtausend Herzaufzeichnungen, wobei der Fokus speziell auf der Unterscheidung zwischen Herzinfarkten und normalen Rhythmen lag. Der Forscher trainierte zwei separate Computermodelle, um diese Signale zu lesen, um sicherzustellen, dass sie die Aufgabe unabhängig voneinander lernten. Das Ziel war es zu sehen, ob die vom System vorgeschlagenen Änderungen echte medizinische Merkmale oder nur Eigenheiten eines einzelnen Computerprogramms waren. Als das System angewiesen wurde, die Diagnose eines Herzinfarkts in einen normalen Rhythmus umzukehren, gelang es ihm, das Urteil des ersten Computermodells in fast zwei Dritteln der Fälle zu ändern. Noch wichtiger war: Als dieselben veränderten Signale dem zweiten, unabhängig trainierten Computer gezeigt wurden, änderte auch dieser in mehr als der Hälfte der Fälle seine Meinung. Dieser Teilerfolg deutet darauf hin, dass das System einige Merkmale findet, die tatsächlich zwischen verschiedenen Arten der Datenverarbeitung geteilt werden, weist aber auch darauf hin, dass ein großer Teil der Änderungen spezifisch für das Ursprungsmodell bleibt.

Bei genauer Betrachtung der veränderten Signale zeichnete sich ein klares Muster ab. Das System verzerrte nicht den gesamten Herzschlag willkürlich. Stattdessen konzentrierte es seine Modifikationen auf ein spezifisches Zeitfenster, das als ST-Segment und T-Welle bekannt ist. In medizinischen Begriffen sind dies die Teile des Herzschlags, die unmittelbar nach dem Haupt-Elektrimpuls auftreten und die Erholungsphase des Herzens repräsentieren. Dies ist signifikant, da Veränderungen in genau diesen Bereichen die primären Indikatoren für einen Herzinfarkt sind. Die Tatsache, dass der Computer, geleitet nur durch seine eigene interne Logik, sich entschied, genau diese Regionen zu verändern, legt nahe, dass er mit dem Vorhandensein klinisch bedeutsamer Merkmale im Zusammenhang mit der Repolarisation übereinstimmt, obwohl die Studie anmerkt, dass dies nicht schlüssig beweist, dass dies die einzigen beteiligten Merkmale sind. Die Änderungen waren nicht gleichmäßig über das gesamte Signal verteilt; sie waren präzise und zielten auf die Erholungsphase ab, während der initiale elektrische Impuls weitgehend unberührt blieb.

Dennoch deckte die Studie auch wichtige Grenzen dieser Technologie auf. Obwohl das System gut mit den Computermodellen funktionierte, waren die von ihm erzeugten Änderungen nicht immer perfekt sicher oder realistisch für eine menschliche Interpretation. Da das System jedes der zwölf Ableitungen des EKGs unabhängig behandelte, erzeugte es manchmal Kombinationen von Signalen, die in einem lebenden menschlichen Herzen niemals vorkommen könnten. Beispielsweise könnte es die Spannung in einem Ableiter ändern, ohne die entsprechende, physikalisch notwendige Änderung in einem anderen Ableiter vorzunehmen, wodurch ein Muster entsteht, das den Gesetzen der Elektrizität im Körper widerspricht. Der Forscher stellte fest, dass ohne strenge Regeln zur Durchsetzung dieser biologischen Gesetze die generierten Beispiele Merkmale enthalten können, die für reale kardiale Signale unwahrscheinlich oder unmöglich sind, wie etwa plötzliche Spannungs-Sprünge oder verzerrte Wellen, die kein echtes Herz produzieren könnte.

Dieser Befund dient als entscheidender Hinweis darauf, dass die Methode zwar erfolgreich identifiziert, welche Teile des Signals für die Maschine wichtig sind, sie aber noch nicht vollständig die komplexe Physik des menschlichen Körpers versteht. Die Studie kommt zu dem Schluss, dass dieser Ansatz ein vielversprechender Schritt ist, um künstliche Intelligenz transparenter zu machen, indem er einen Weg bietet, die Logik eines Computermodells zu prüfen, indem man fragt, was nötig wäre, um seine Meinung zu ändern. Doch bevor solche Werkzeuge helfen können, Ärzten bei lebenswichtigen Entscheidungen zur Seite zu stehen, müssen sie verfeinert werden, um sicherzustellen, dass jede vorgeschlagene Änderung nicht nur für den Computer effektiv, sondern auch physikalisch möglich für ein menschliches Herz ist. Die Arbeit ist eine erste Demonstration dafür, dass Maschinen dazu geleitet werden können, in „Was-wäre-wenn“-Begriffen zu denken, verdeutlicht aber auch den langen Weg, der noch vor ihnen liegt, um sicherzustellen, dass diese hypothetischen Änderungen in der Realität der menschlichen Physiologie verwurzelt sind.