Integrated Gradient-guided Adversarial Counterfactual Explanations of 12-lead Electrocardiograms

Elke dag lopen miljoenen mensen met pijn op de borst of kortademigheid een ziekenhuis binnen, en de eerste tool waar artsen naar grijpen is vaak een eenvoudige, tienseconden durende opname van de elektrische activiteit van het hart. Dit is het elektrocardiogram, of ECG, een test die het ritme van het hart over twaalf verschillende hoeken in kaart brengt en verborgen gevaren zoals hartaanvallen onthult lang voordat de symptomen ernstig worden. Decennialang is deze test de gouden standaard geweest, maar vandaag de dag leert kunstmatige intelligentie deze zelfde kronkelende lijnen te lezen met een snelheid en nauwkeurigheid die soms die van menselijke experts evenaart. Toch blijft er een stille barrière bestaan tussen de computer en de kliniek: hoewel een machine een arts kan vertellen dat een patiënt risico loopt, kan het vaak niet uitleggen waarom. De machine ziet een patroon in de data dat een mens niet kan zien, waardoor de medicus de 'black box' moet vertrouwen. Om deze kloof te overbruggen, ontwikkelen onderzoekers een nieuwe manier van denken over hoe machines beslissingen nemen, waarbij ze verder gaan dan simpelweg aanwijzen welk deel van de afbeelding belangrijk leek, naar het stellen van een meer menselijke vraag: wat zou er moeten veranderen om het antwoord anders te laten zijn?

Deze manier van denken, bekend als counterfactual explanation (tegenfeitelijke verklaring), weerspiegelt de manier waarop artsen daadwerkelijk patiënten diagnosticeren. Wanneer een arts naar een hartgrafiek kijkt, identificeert hij niet alleen kenmerken; hij simuleert mentaal alternatieven. Hij vraagt zichzelf af: als deze golf iets hoger zou zijn, of als deze pauze korter zou zijn, zou de diagnose dan verschuiven van een hartaanval naar een normaal ritme? Dit soort redeneren staat centraal in de medische praktijk, maar het is moeilijk te leren aan computers. De meeste bestaande methoden om kunstmatige intelligentie transparant te maken kunnen de regio's van een ECG benadrukken die een voorspelling hebben beïnvloed, vergelijkbaar met een heatmap die laat zien waar een camera op focuste. Deze kaarten laten echter niet zien welke specifieke, minimale verandering nodig is om het resultaat om te gooien. Ze vertellen je waar de machine naar keek, maar niet wat er nodig is om de machine van gedachten te doen veranderen.

In een nieuwe studie zette een onderzoeker genaamd Bjørn-Jostein Singstad zich in om een systeem te bouwen dat deze "wat als"-scenario's voor hartsignalen kan genereren. Het doel was om een framework te creëren dat een ECG die geclassificeerd is als een hartaanval kan nemen en deze voorzichtig kan bijsturen, op een manier die zich concentreert op de specifieke delen van het signaal die de computer zelf het belangrijkst vond, totdat de computer het als een normaal hart ziet, en vice versa. De uitdaging was om ervoor te zorgen dat deze veranderingen geen willekeurige ruis of digitale artefacten waren, maar modificaties die zich concentreerden op de kritieke momenten waarop de machine op vertrouwde. Om dit te doen, ontwikkelde de onderzoeker een methode genaamd InterGRACE. Dit systeem gebruikt een techniek genaamd integrated gradients, die werkt als een spotlight en precies identificeert naar welke momenten in de hartslag de machine het meest vertrouwt voor zijn beslissing. Het systeem gebruikt deze spotlight vervolgens om een proces te sturen dat het signaal verandert, waarbij de wijzigingen worden gericht op die kritieke momenten terwijl de rest van de golf zo vloeiend en natuurlijk mogelijk blijft.

De studie testte deze aanpak op een grote, publieke collectie van meer dan eenentwintenduizend hartopnames, met een specifieke focus op het onderscheiden tussen hartaanvallen en normale ritmes. De onderzoeker trainde twee aparte computermodellen om deze signalen te lezen, waarbij hij ervoor zorgde dat ze de taak onafhankelijk van elkaar leerden. Het doel was om te zien of de door het systeem gesuggereerde veranderingen echte medische kenmerken waren of slechts eigenaardigheden van één enkel computerprogramma. Wanneer het systeem werd gevraagd om de diagnose van een hartaanval naar een normaal ritme om te buigen, slaagde het erin de mening van het eerste computermodel in bijna twee derde van de gevallen te veranderen. Belangrijker nog was dat wanneer diezelfde gewijzigde signalen werden getoond aan de tweede, onafhankelijk getrainde computer, deze ook in meer dan de helft van de gevallen van gedachten veranderde. Dit gedeeltelijke succes suggereert dat het systeem enkele kenmerken vindt die werkelijk gedeeld worden tussen verschillende manieren van naar de data kijken, terwijl het ook aangeeft dat een groot deel van de veranderingen specifiek blijft voor het oorspronkelijke model.

Bij een nauwkeurige blik op de gewijzigde signalen kwam er een duidelijk patroon naar voren. Het systeem vervormde niet de gehele hartslag willekeurig. In plaats daarvan concentreerde het zijn modificaties op een specifiek tijdsvenster dat bekend staat als het ST-segment en de T-golf. In medische termen zijn dit de delen van de hartslag die plaatsvinden net na de belangrijkste elektrische piek, wat de herstelfase van het hart vertegenwoordigt. Dit is significant omdat veranderingen in precies deze gebieden in de echte geneeskunde de primaire indicatoren zijn van een hartaanval. Het feit dat de computer, geleid door alleen zijn eigen interne logica, koos om deze specifieke regio's te wijzigen, suggereert dat het overeenkomt met de aanwezigheid van klinisch betekenisvolle repolarisatie-gerelateerde kenmerken, hoewel de studie opmerkt dat dit niet onomstotelijk bewijst dat dit de enige kenmerken in het spel zijn. De veranderingen waren niet uniform over het hele signaal; ze waren precies en richtten zich op de herstelfase, terwijl de initiële elektrische piek grotendeels onaangetast bleef.

De studie onthulde echter ook belangrijke beperkingen van deze technologie. Hoewel het systeem goed werkte voor de computermodellen, waren de door hen geproduceerde veranderingen niet altijd perfect veilig of realistisch voor een mens om te interpreteren. Omdat het systeem elk van de twaalf afleidingen (leads) van het ECG onafhankelijk van elkaar behandelde, creëerde het soms combinaties van signalen die nooit zouden kunnen voorkomen in een levend menselijk hart. Bijvoorbeeld, het zou de spanning in de ene afleiding kunnen veranderen zonder de bijbehorende, fysiek noodzakelijke verandering in een andere afleiding aan te brengen, waardoor een patroon ontstaat dat de wetten van hoe elektriciteit door het lichaam reist, schendt. De onderzoeker merkte op dat zonder strikte regels om deze biologische wetten af te dwingen, de gegenereerde voorbeelden kenmerken kunnen bevatten die onwaarschijnlijk of onmogelijk zijn in echte hartsignalen, zoals plotselinge spanningssprongen of vervormde golven die geen echt hart zou kunnen produceren.

Dit bevinding dient als een cruciale herinnering dat hoewel de methode erin slaagt te identificeren welk deel van het signaal voor de machine ertoe doet, het de complexe fysica van het menselijk lichaam nog niet volledig begrijpt. De studie concludeert dat deze aanpak een veelbelovende stap is naar het transparanter maken van kunstmatige intelligentie, waarbij een manier wordt geboden om de redenering van een computermodel te onderzoeken door te vragen wat er nodig is om van gedachten te veranderen. Toch moeten dergelijke tools, voordat ze artsen kunnen helpen bij het nemen van beslissingen over leven en dood, worden verfijnd om ervoor te zorgen dat elke gesuggereerde verandering niet alleen effectief is voor de computer, maar ook fysiek mogelijk is voor een menselijk hart. Het werk staat als een eerste demonstratie dat machines kunnen worden begeleid om in termen van "wat als" te denken, maar het benadrukt ook de lange weg die nog voor ons ligt om ervoor te zorgen dat die hypothetische veranderingen geworteld zijn in de realiteit van de menselijke fysiologie.