Governance-Bound Artificial Intelligence for Evidence-Linked Medicines Reliance Review: A Design Science Research Study

Ogni anno, le agenzie sanitarie nazionali devono affrontare una montagna di scartoffie. Quando un'azienda vuole vendere un nuovo medicinale, deve presentare un dossier massiccio contenente migliaia di pagine di dati su come il farmaco è stato prodotto, come funziona nel corpo e se è sicuro. In molti paesi, specialmente in quelli con personale limitato, la revisione di questi documenti richiede molto tempo, ritardando l'accesso a trattamenti salvavita. Per velocizzare il processo senza trascurare la precisione, i regolatori hanno adottato una strategia chiamata "reliance" (affidamento). Invece di partire da zero, un'agenzia locale può esaminare il lavoro già svolto da un'autorità affidabile in un altro paese. Se quell'autorità affidabile ha già approvato il medicinale, il team locale può utilizzare quella valutazione come base. Tuttavia, questo processo è ancora incredibilmente difficile. Il team locale deve comunque leggere i documenti originali, verificare che il prodotto sia esattamente lo stesso, trovare eventuali piccole differenze e scrivere un nuovo rapporto che spieghi la propria decisione. Ciò richiede di navigare in strutture complesse, individuare minuscoli errori nascosti nel testo e garantire che ogni conclusione sia supportata da prove specifiche. Se viene commesso un errore, o se il ragionamento non può essere ricondotto a un documento sorgente, l'intera decisione potrebbe essere contestata, mettendo a rischio la salute pubblica.

I ricercatori dell'Università del Western Cape in Sudafrica hanno affrontato questo problema progettando un nuovo tipo di strumento informatico, non per sostituire gli esperti umani, ma per agire come un assistente altamente organizzato. Chiamano questo strumento RAiA. Il team non si è limitato a costruire un programma per riassumere il testo, perché un riassunto potrebbe tralasciare quei dettagli minuscoli che sono fondamentali in medicina. Invece, hanno utilizzato un metodo chiamato ricerca di design science (design science research), che si concentra sulla costruzione di una soluzione specifica a un problema del mondo reale e sulla definizione esatta di come debba funzionare prima ancora di essere testata su dati reali. Il loro obiettivo era creare un sistema che potesse gestire il lavoro pesante di lettura e organizzazione dei documenti, mantenendo l'esperto umano fermamente al comando della decisione finale. Il risultato è un sistema prototipo che funge da ponte tra la pila caotica di documenti e il rapporto chiaro e difendibile che un regolatore deve scrivere.

Il nucleo di questo design è un insieme di regole rigide che governano il comportamento del computer. I ricercatori si sono resi conto che, affinché uno strumento sia utile in un ambiente ad alto rischio come quello medico, deve essere "vincolato dalla governance" (governance-bound). Ciò significa che il sistema è costruito con binari di sicurezza che impediscono al computer di prendere decisioni proprie o di nascondere il proprio lavoro. Ad esempio, il sistema è progettato in modo da non poter approvare o rifiutare un medicinale da solo; può solo evidenziare potenziali problemi e suggerire connessioni tra le diverse parti della documentazione. Ogni volta che il computer segnala un fatto, deve anche mostrare esattamente da dove proviene quel fatto, collegando il riscontro a una frase specifica nel documento originale. Ciò garantisce che, se un revisore umano mette in dubbio il lavoro del computer, possa immediatamente vedere la fonte e verificarla. Il sistema mantiene inoltre un registro dettagliato di ogni passaggio effettuato, creando una traccia documentale che dimostri che il lavoro è stato svolto correttamente e in modo sicuro.

Per costruire questo, il team ha suddiviso il compito massiccio di revisione di un dossier di un medicinale in pezzi più piccoli e gestibili. Hanno progettato il sistema in modo da trattare separatamente i diversi tipi di informazioni. Una parte del sistema esamina solo i dettagli chimici e di produzione, un'altra si concentra sui risultati delle sperimentazioni cliniche e una terza controlla l'etichettatura e le istruzioni. Questo è simile a come lavorerebbe un team di specialisti, dove una persona controlla il motore di un'auto mentre un'altra controlla i freni, piuttosto che avere una sola persona che cerca di fare tutto l'insieme. Il sistema raccoglie le informazioni da queste diverse aree e le mette insieme, cercando contraddizioni o parti mancanti. Se il rapporto di produzione dice che il farmaco è stato prodotto in una fabbrica, ma il rapporto della sperimentazione clinica implica che sia stato prodotto in un'altra, il sistema segnala questa discrepanza affinché l'umano possa investigare. Fondamentalmente, il sistema è programmato per essere conservativo: è meglio segnalare un potenziale problema che si rivela non essere nulla, piuttosto che mancare un pericolo reale.

I ricercatori hanno prestato attenzione anche a come l'esperto umano interagisce con la macchina. L'interfaccia è progettata in modo che l'umano possa facilmente accettare, modificare o rifiutare ciò che il computer suggerisce. Se il computer commette un errore, l'umano può correggerlo, e il sistema registra il motivo per cui la correzione è stata apportata. Questo feedback non viene utilizzato per cambiare istantaneamente il "cervello" del computer, il che potrebbe portare a comportamenti imprevedibili, ma viene invece salvato per una successiva e attenta revisione da parte del team. Questa separazione assicura che lo strumento rimanga stabile e affidabile. Il sistema protegge anche le informazioni sensibili, come i segreti commerciali o i dati privati, crittografandoli e garantendo che solo le persone autorizzate possano vederli. Al computer non è permesso utilizzare questi dati privati per istruirsi autonomamente, il che evita il rischio che tali informazioni vengano trapelate in seguito.

Il team ha costruito una versione funzionante di questo sistema, nota come prototipo, per mostrare come fluirebbe il processo dall'inizio alla fine. Lo hanno testato utilizzando documenti fittizi che sembravano vere domande di medicinali, ma non hanno utilizzato alcun dato confidenziale reale di aziende vere. La dimostrazione ha mostrato che il sistema poteva prendere un grande file, smistarlo nelle sezioni corrette, trovare le prove rilevanti e redigere un rapporto che l'esperto umano potesse poi esaminare e approvare. L'esperto umano rimaneva l'autorità finale in ogni fase, decidendo il significato delle prove e se il medicinale fosse sicuro. Il prototipo ha dimostrato che il design era possibile e che il flusso di lavoro aveva senso, ma i ricercatori sono cauti nell'affermare che questo non sia ancora un prodotto finito pronto per l'uso nel mondo reale. Non hanno ancora misurato quanto velocizzi il processo o quanto accuratamente trovi gli errori nei documenti reali.

Il principale contributo di questo lavoro non è un nuovo tipo di algoritmo informatico, ma un modello di come costruire strumenti affidabili per la regolamentazione dei medicinali. I ricercatori hanno dimostrato che è possibile progettare un sistema di intelligenza artificiale che rispetti le regole della governance, protegga i dati privati e mantenga gli umani al comando. Hanno fornito un insieme di dieci principi guida che altri sviluppatori possono seguire se desiderano costruire strumenti simili. Questi principi sottolineano che lo strumento deve sempre collegare i propri risultati alle prove, non deve mai prendere decisioni da solo ed è deve essere progettato in modo che il suo lavoro possa essere sottoposto a audit e controlli. Concentrandosi su queste regole fin dall'inizio, il team ha creato un modello che potrebbe aiutare i regolatori in Africa e in tutto il mondo a gestire la crescente complessità delle approvazioni dei medicinali senza compromettere la sicurezza.

Questo studio rappresenta un passo avanti significativo nel modo in cui la tecnologia può supportare gli esperti umani in campi critici. Si allontana dall'idea che l'intelligenza artificiale debba sostituire il giudizio umano e si concentra invece su come possa rendere il giudizio umano più informato ed efficiente. I ricercatori hanno dimostrato che, con il giusto design, un computer può gestire il lavoro noioso di smistamento e controllo dei documenti, liberando gli esperti umani affinché possano concentrarsi sul ragionamento complesso e sulle decisioni finali che proteggono la salute pubblica. Sebbene lo strumento sia ancora nella fase di prototipo e necessiti di ulteriori test, il design stesso offre una via chiara per la creazione di sistemi sicuri, affidabili e responsabili per il futuro della regolamentazione dei medicinali.