Integrated Gradient-guided Adversarial Counterfactual Explanations of 12-lead Electrocardiograms

Ogni giorno, milioni di persone entrano negli ospedali con dolore toracico o mancanza di respiro, e il primo strumento che i medici prendono in mano è spesso una semplice registrazione di dieci secondi dell'attività elettrica del cuore. Questo è l'elettrocardiogramma, o ECG, un test che mappa il ritmo del cuore attraverso dodici diverse angolazioni, rivelando pericoli nascosti come gli attacchi cardiaci molto prima che i sintomi diventino gravi. Per decenni, questo test è stato il gold standard, ma oggi l'intelligenza artificiale sta imparando a leggere queste stesse linee sinuose con una velocità e una precisione che talvolta rivaleggiano con gli esperti umani. Eppure, una barriera silenziosa rimane tra il computer e la clinica: sebbene una macchina possa dire a un medico che un paziente è a rischio, spesso non può spiegare il perché. Essa vede un modello nei dati che un essere umano non può vedere, lasciando al medico il compito di fidarsi di una scatola nera. Per colmare questo divario, i ricercatori stanno sviluppando un nuovo modo di pensare a come le macchine prendono decisioni, andando oltre il semplice indicare quale parte dell'immagine sia sembrata importante, per porre una domanda più umana: cosa dovrebbe cambiare affinché la risposta sia diversa?

Questo modo di pensare, noto come spiegazione controfattuale, rispecchia il modo in cui i medici diagnosticano realmente i pazienti. Quando un medico osserva un tracciato cardiaco, non si limita a identificare delle caratteristiche; egli simula mentalmente delle alternative. Si chiede: se questa onda fosse leggermente più alta, o se questa pausa fosse più breve, la diagnosi passerebbe da un attacco cardiaco a un ritmo normale? Questo tipo di ragionamento è centrale nella pratica medica, ma è stato difficile insegnarlo ai computer. La maggior parte dei metodi esistenti per rendere trasparente l'intelligenza artificiale può evidenziare le regioni dell'ECG che hanno influenzato una previsione, proprio come una mappa di calore che mostra dove si è concentrata l'attenzione di una fotocamera. Tuttavia, queste mappe non mostrano la modifica specifica e minima necessaria per ribaltare il risultato. Ti dicono dove la macchina ha guardato, ma non cosa servirebbe per farle cambiare idea.

In un nuovo studio, un ricercatore di nome Bjørn-Jostein Singstad si è posto l'obiettivo di costruire un sistema in grado di generare questi scenari "cosa succederebbe se" per i segnali cardiaci. L'obiettivo era creare un framework che potesse prendere un ECG classificato come attacco cardiaco e modificarlo delicatamente, in un modo che si concentrasse sulle parti specifiche del segnale che il computer stesso ha ritenuto più importanti, finché la macchina non lo vedeva come un cuore normale, e viceversa. La sfida era garantire che queste modifiche non fossero rumore casuale o artefatti digitali, ma modifiche che si concentrassero sui momenti critici su cui la macchina faceva affidamento. Per fare ciò, il ricercatore ha sviluppato un metodo chiamato InterGRACE. Questo sistema utilizza una tecnica chiamata gradienti integrati, che agisce come un riflettore, identificando esattamente quali momenti del battito cardiaco la macchina utilizza maggiormente per la sua decisione. Il sistema utilizza poi questo riflettore per guidare un processo che altera il segnale, concentrando le modifiche su quei momenti critici pur mantenendo il resto dell'onda il più fluido e naturale possibile.

Lo studio ha testato questo approccio su una vasta collezione pubblica di oltre ventimila registrazioni cardiache, concentrandosi specificamente sulla distinzione tra attacchi cardiaci e ritmi normali. Il ricercatore ha addestrato due modelli informatici separati per leggere questi segnali, assicurandosi che apprendessero il compito indipendentemente l'uno dall'altro. L'obiettivo era vedere se le modifiche suggerite dal sistema fossero caratteristiche mediche genuine o solo stranezze di un singolo programma informatico. Quando al sistema è stato chiesto di invertire la diagnosi da attacco cardiaco a ritmo normale, è riuscito a cambiare la decisione del primo modello informatico in quasi due terzi dei casi. Più importante ancora, quando quegli stessi segnali alterati sono stati mostati al secondo computer, addestrato indipendentemente, esso ha cambiato idea in più della metà dei casi. Questo successo parziale suggerisce che il sistema stia trovando alcune caratteristiche che sono realmente condivise tra diversi modi di interpretare i dati, indicando anche che una grande frazione delle modifiche rimane specifica del modello di origine.

Osservando da vicino i segnali che sono stati modificati, è emerso un modello chiaro. Il sistema non ha distorto l'intero battito cardiaco in modo casuale. Al contrario, ha concentrato le sue modifiche su una specifica finestra temporale nota come segmento ST e onda T. In termini medici, queste sono le parti del battito cardiaco che avvengono subito dopo lo spike elettrico principale, rappresentando la fase di recupero del cuore. Questo è significativo perché, nella medicina reale, le variazioni in queste esatte aree sono gli indicatori primari di un attacco cardiaco. Il fatto che il computer, guidato solo dalla propria logica interna, abbia scelto di alterare queste regioni specifiche suggerisce che esso si allinei con la presenza di caratteristiche clinicamente significative legate alla ripolarizzazione, sebbene lo studio noti che ciò non dimostra conclusivamente che queste siano le uniche caratteristiche in gioco. Le modifiche non erano uniformi in tutto il segnale; erano precise, prendendo di mira la fase di recupero lasciando sostanzialmente intatto lo spike elettrico iniziale.

Tuttovegliante, lo studio ha anche rivelato limiti importanti a questa tecnologia. Sebbene il sistema funzionasse bene per i modelli informatici, le modifiche prodotte non erano sempre perfettamente sicure o realistiche per l'interpretazione umana. Poiché il sistema trattava ciascuna delle dodici derivazioni dell'ECG in modo indipendente, a volte creava combinazioni di segnali che non potrebbero mai verificarsi in un cuore umano vivente. Ad esempio, potrebbe cambiare il voltaggio in una derivazione senza apportare la corrispondente e fisicamente necessaria modifica in un'altra, creando un modello che viola le leggi di come l'elettricità viaggia attraverso il corpo. Il ricercatore ha osservato che, senza regole rigorose per imporre queste leggi biologiche, gli esempi generati possono contenere caratteristiche improbabili o impossibili nei segnali cardiaci reali, come improvvisi salti di voltaggio o onde distorte che nessun vero cuore potrebbe produrre.

Questo ritrovamento funge da cruciale promemoria del fatto che, mentre il metodo identifica con successo quali parti del segnale contano per la macchina, non comprende ancora pienamente la complessa fisica del corpo umano. Lo studio conclude che questo approccio è un passo promettente verso il rendere l'intelligenza artificiale più trasparente, offrendo un modo per sondare il ragionamento di un modello informatico chiedendogli cosa servirebbe per cambiare idea. Tuttavia, prima che tali strumenti possano essere utilizzati per aiutare i medici a prendere decisioni di vita o di morte, devono essere perfezionati per garantire che ogni modifica suggerita sia non solo efficace per il computer, ma anche fisicamente possibile per un cuore umano. Il lavoro rappresenta una dimostrazione iniziale del fatto che le macchine possono essere guidate a pensare in termini di "cosa succederebbe se", ma evidenzia anche il lungo cammino da percorrere per garantire che quelle ipotesi siano radicate nella realtà della fisiologia umana.