From Ethical Principles to Lifecycle Oversight: A Library-Based Analysis of AI-Enabled Health Research in Canada

Nel mondo moderno della ricerca sanitaria, gli scienziati si affidano spesso a programmi informatici che apprendono da enormi quantità di informazioni per trovare schemi, prevedere malattie o suggerire trattamenti. Questi programmi, noti come intelligenza artificiale, sono strumenti potenti, ma operano in modo diverso rispetto agli esperimenti tradizionali utilizzati dai ricercatori per decenni. In uno studio standard, uno scienziato potrebbe chiedere il permesso a un gruppo di persone per utilizzare le loro cartelle cliniche per una domanda specifica, eseguire l'analisi e pubblicare i risultati. Una volta terminato lo studio, il lavoro è solitamente considerato concluso. Tuttavia, l'intelligenza artificiale cambia questa cronologia. Questi sistemi possono essere addestrati su dati, per poi essere aggiornati, migliorati e ridispiegati per compiti completamente nuovi molto tempo dopo l'approvazione della ricerca iniziale. Possono anche creare nuove informazioni partendo da vecchi record, o essere utilizzati da aziende esterne al team di ricerca, sollevando questioni su chi sia responsabile in caso di problemi. Il Canada ha un insieme di regole molto rispettato, chiamato Tri-Council Policy Statement, che guida il modo in cui i ricercatori trattano i partecipanti umani. Queste regole si basano su tre idee solide: rispettare le persone, prendersi cura del loro benessere e garantire l'equità. Sebbene questi principi siano forti, sono stati scritti prima che l'intelligenza artificiale diventasse una parte comune della ricerca sanitaria. La grande domanda che la comunità scientifica canadese si trova ad affrontare è se queste vecchie regole siano sufficienti a gestire la natura mutevole e nuova di questi sistemi informatici intelligenti.

Un ricercatore di nome Abdolreza Babamahmoodi si è posto l'obiettivo di rispondere a questa domanda esaminando attentamente come le attuali regole canadesi si applichino all'intelligenza artificiale nella sanità. Questo non era uno studio che testava nuovi farmaci o intervistava pazienti; si è trattato invece di un esame accurato delle politiche, delle leggi e delle linee guida esistenti in Canada e nel resto del mondo. Il ricercatore ha raccolto ventotto documenti diversi, tra cui la principale politica etica della ricerca canadese, la guida internazionale dell'Organizzazione Mondiale della Sanità e le regole di Australia e Unione Europea. L'obiettivo era vedere se le attuali regole canadesi fornissero istruzioni chiare ai ricercatori e ai comitati etici su cosa fare quando l'intelligenza artificiale è coinvolta. L'analisi si è concentrata su sei aree chiave: decidere cosa costituisce ricerca, da dove provengono i dati, se il modello informatico funziona equamente, come gli esseri umani mantengano il controllo, come gestire i cambiamenti al sistema in seguito e come rispettare i diritti delle comunità indigene.

Lo studio ha rilevato che, sebbene le attuali regole canadesi siano brave a stabilire il tono morale, non sono abbastanza dettagliate per guidare le decisioni quotidiane che ricercatori e comitati etici devono prendere. L'attuale politica afferma che i ricercatori devono rispettare le persone e garantire l'equità, ma non specifica quali prove un ricercatore debba presentare per dimostrare che un modello informatico sia equo. Non dice cosa accada quando un modello viene aggiornato sei mesi dopo l'approvazione, o chi sia responsabile se un'azienda terza utilizza i dati in un modo che il ricercatore non aveva previsto. Il ricercatore ha osservato che, in assenza di queste istruzioni specifiche, i comitati etici si trovano a dover indovinare. Alcuni potrebbero richiedere troppe informazioni, rallentando il lavoro importante, mentre altri potrebbero ignorare rischi critici perché non sanno cosa cercare. Il documento sostiene che i principi sono sufficienti per giudicare il bene dal male, ma non sono operativamente adeguati per dire alle persone esattamente cosa fare.

Per risolvere questo problema, il ricercatore ha proposto un nuovo modo di guardare al processo, chiamato "revisione del ciclo di vita" (lifecycle review). Invece di trattare la ricerca come un singolo evento che termina con la pubblicazione dello studio, questo approccio la vede come un viaggio continuo con sei checkpoint distinti. Il primo checkpoint è lo scopo: definire esattamente cosa farà l'intelligenza artificiale e chi aiuterà. Il secondo sono i dati: mappare da dove provengono le informazioni e chi ha il diritto di usarle. Il terzo è lo sviluppo: verificare come il modello informatico è stato costruito e testato. Il quarto è la validazione: assicurarsi che il modello funzioni bene per diversi gruppi di persone e non solo per la media. Il quinto è l'implementazione: assicurarsi che un essere umano possa comprendere i suggerimenti del computer e fermarlo se commette un errore. L'ultimo checkpoint è il cambiamento e il ritiro: pianificare cosa succede quando il modello viene aggiornato, spostato in un nuovo luogo o spento.

Questo nuovo quadro suggerisce che i ricercatori dovrebbero presentare un set specifico di informazioni in ciascuna di queste sei fasi. Ad esempio, quando un modello viene proposto per la prima volta, il ricercatore deve spiegarne l'uso previsto. Successivamente, se il modello viene aggiornato o se le fonti dei dati cambiano, il ricercatore deve riferirlo al comitato etico per vedere se il cambiamento è abbastanza significativo da richiedere una nuova revisione. Il documento sottolinea che non si tratta di creare una montagna di scartoffie, ma di garantire che le persone giuste prendano le decisioni giuste al momento giusto. Suggerisce che uno studio a basso rischio potrebbe richiedere solo pochi dettagli, mentre uno studio ad alto rischio che influisce sulla cura del paziente richiederebbe un piano molto più approfondito.

Una parte cruciale del documento affronta i diritti dei popoli indigeni in Canada. Le regole attuali riconoscono già che le comunità indigene hanno diritti collettivi sui propri dati, non solo diritti individuali. Il ricercatore ha scoperto che, sebbene la politica esistente riconosca questo aspetto, non spiega come tali diritti si applichino all'intelligenza artificiale. Ad esempio, se un modello informatico è addestrato su dati di una comunità indigena, la comunità ha voce in capitolo se quel modello viene successivamente venduto a un'azienda o utilizzato per uno scopo diverso? Il documento sostiene che queste domande di governance non possono essere risolte da una politica generale scritta da esterni. Al contrario, il ricercatore afferma esplicitamente che queste specifiche questioni di governance devono essere guidate dalle comunità indigene stesse. Il quadro proposto lascia uno spazio affinché queste comunità definiscano le proprie regole su come i loro dati e i modelli informatici derivanti vengano trattati, garantendo che la loro autorità sia rispettata senza essere sovrastata da una soluzione universale.

Il ricercatore ha anche esaminato come altri paesi gestiscono queste questioni. L'Organizzazione Mondiale della Sanità e l'Australia hanno iniziato a creare guide specifiche per l'intelligenza artificiale, e l'Unione Europea ha leggi che richiedono un monitoraggio rigoroso dei sistemi ad alto rischio. Il documento suggerisce che il Canada non ha bisogno di copiare esattamente queste leggi, ma può imparare dalla loro struttura. Adottando una guida "viva" simile, che possa essere aggiornata man mano che la tecnologia cambia, il Canada può mantenere stabili i suoi principi etici fondamentali aggiungendo al contempo i dettagli necessari per gestire le nuove sfide. Lo studio conclude che il sistema attuale non è rotto, ma è incompleto. Ha bisogno di un ponte tra i suoi forti principi morali e le realtà pratiche di come funziona l'intelligenza artificiale.

La soluzione proposta è un modello operativo che possa essere testato e migliorato. Il ricercatore non sostiene che questo quadro sia perfetto o che risolva ogni problema immediatamente. Al contrario, viene presentato come uno strumento di discussione e di futura validazione. Il documento suggerisce che, prima che questo modello diventi una regola standard, dovrebbe essere testato con ricercatori reali e comitati etici per vedere se aiuti effettivamente a prendere decisioni migliori senza creare ritardi inutili. L'obiettivo finale è creare un sistema in cui l'intelligenza artificiale possa essere utilizzata per migliorare la sanità, ma dove le persone coinvolte siano protette, i dati siano utilizzati responsabilmente e le comunità colpite abbiano una voce reale nella governance della tecnologia. Scomponendo il processo in passi chiari e gestibili, il quadro mira a rendere il complesso mondo della ricerca sull'intelligenza artificiale più trasparente e responsabile per tutti i soggetti coinvolti.