How does machine learning bias in prediction of behavioral phenotypes relate to individual characteristics?
Questo studio analizza gli errori di predizione nei modelli basati sul cervello attraverso molteplici coorti e misure comportamentali, rivelando che le caratteristiche individuali quali il movimento della testa, la morfologia della testa e il sesso/genere contribuiscono significativamente al bias del machine learning, in particolare per i fenotipi socioaffettivi e della salute mentale nelle popolazioni in fase di sviluppo.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA di un preprint non sottoposto a revisione paritaria. Non è un consiglio medico. Non prendere decisioni sulla salute basandoti su questo contenuto. Leggi il disclaimer completo
Immagina di cercare di prevedere il futuro di una persona basandoti sulla mappa del suo cervello. Per decenni, gli scienziati hanno sperato che, scansionando la struttura del cervello, avrebbero potuto prevedere come una persona penserebbe, sentirebbe o si comporterebbe. Questa idea è la base di un campo chiamato medicina di precisione, dove i medici potrebbero un giorno usare le scansioni cerebrali per individuare i rischi per la salute mentale prima ancora che compavano i sintomi. Per farlo, i ricercatori utilizzano potenti programmi informatici, spesso chiamati apprendimento automatico (machine learning), per trovare schemi nei dati cerebrali che corrispondano a comportamenti specifici. Tuttavia, questi programmi informatici non sono perfetti. A volte commettono errori, e tali errori non sono casuali. Proprio come una previsione meteorologica può essere meno accurata per una specifica regione a causa della geografia locale, questi programmi di lettura cerebrale spesso faticano di più con determinati gruppi di persone rispetto ad altri. Ad esempio, studi passati hanno dimostato che questi modelli tendono a essere meno accurati per le persone appartenenti a minoranze razziali rispetto agli americani bianchi. La grande domanda è stata: perché succede questo? È perché il cervello è diverso, o è qualcosa relativo al modo in cui i dati sono stati raccolti?
Un team di ricercatori ha cercato di risolvere questo enigma esaminando migliaia di scansioni cerebrali e record comportamentali di giovani. Volevano sapere se gli errori commessi da questi modelli informatici fossero legati a tratti specifici degli individui scansionati. Il team ha raccolto dati da tre grandi gruppi: quasi 4.300 bambini di età compresa tra nove e undici anni, circa 430 bambini e adolescenti tra i cinque e i ventuno anni, e circa 780 giovani adulti tra i ventidue e i trentasette anni. In totale, hanno esaminato oltre 100 comportamenti diversi, che vanno da quanto bene qualcuno riesca a riconoscere le emozioni a come gestisce lo stress o risolve problemi. Hanno addestrato i loro modelli informatici per prevedere questi comportamenti utilizzando solo i dati della scansione cerebrale. Una volta che i modelli hanno effettuato le loro previsioni, i ricercatori hanno calcolato la differenza tra ciò che il modello aveva ipotizzato e il punteggio effettivo ottenuto dalla persona nel test. Questa differenza è l'errore di previsione.
I ricercatori hanno poi posto una domanda semplice ma cruciale: questi errori accadono più spesso per persone con determinate caratteristiche? Hanno esaminato otto fattori diversi, tra cui età, sesso, razza, istruzione, reddito familiare, dimensione della testa e quanto la persona muoveva la testa mentre si trovava all'interno dello scanner. Hanno scoperto che gli errori erano effettivamente legati a questi tratti, ma non in modo semplice. Il modello più costante è stato che i modelli faticavano di più nel prevedere i comportamenti sociali ed emotivi, come il riconoscere i sentimenti o gestire l'ansia, specialmente nei gruppi più giovani. Per questi tratti difficili da prevedere, gli errori del computer erano fortemente legati a tre cose specifiche: quanto la persona muoveva la testa durante la scansione, la dimensione del cervello e il sesso.
Lo studio ha rivelato che le persone che muovevano di più la testa durante la scansione tendevano ad avere errori di previsione più elevati. Questo ha senso perché il movimento può sfocare le immagini cerebrali, rendendo più difficile per il computer vedere i dettagli fini delle connessioni cerebrali. Allo stesso modo, la dimensione del cervello di una persona era importante. I modelli erano meno accurati per gli individui con volumi intracranici più piccoli, ovvero lo spazio totale all'interno del cranio che contiene il cervello. Ciò era particolarmente vero per i bambini e per le misure dei problemi comportamentali. Infine, i ricercatori hanno scoperto che i partecipanti maschi presentavano generalmente errori di previsione più grandi rispetto alle partecipanti femmine, in particolare quando i modelli cercavano di indovinare le capacità cognitive o i problemi comportamentali.
La scoperta forse più importante è stata che questi fattori sono profondamente connessi tra loro. Lo studio ha dimostato che la razza e l'etnia non sono legate solo a fattori sociali come il reddito o l'istruzione, ma sono anche legate a questi problemi relativi alla scansione. Ad esempio, i dati hanno mostrato che determinati gruppi razziali tendevano ad avere più movimento della testa durante le scansioni o dimensioni medie del cervello differenti. Ciò suggerisce che quando un modello informatico funziona peggio per un gruppo razziale specifico, potrebbe non essere perché il cervello sia fondamentalmente diverso in un modo che il modello non può comprendere. Inveve, l'errore potrebbe derivare da queste differenze fisiche e tecniche nei dati, come il movimento o la dimensione del cervello, che risultano più comuni in quel gruppo.
I ricercatori hanno concluso che il pregiudizio in questi modelli di predizione cerebrale non è un problema singolo, ma un insieme di molti piccoli fattori che lavorano insieme. Hanno scoperto che rimuire semplicemente i fattori sociali evidenti dai dati durante l'addestramento del computer non era sufficiente per risolvere il problema. Gli errori persistevano, suggerendo che i modi standard con cui gli scienziati puliscono e preparano i dati delle scansioni cerebrali non siano ancora abbastanza validi per gestire queste sottili differenze. Questa è una scoperta critica per chiunque speri di usare le scansioni cerebrali per diagnosticare precocemente le condizioni di salute mentale. Se uno strumento è meno accurato per certi gruppi di persone, potrebbe portare a diagnosi errate o valutazioni del rischio scorrette per coloro che ne hanno più bisogno. Lo studio non sostiene di aver risolto il problema, ma ha chiaramente mappato dove risiede la difficoltà, mostrando che per costruire strumenti più equi, gli scienziati devono prestare molta attenzione a come il movimento della testa, la dimensione del cervello e il sesso influenzano i dati, specialmente quando si lavora con bambini e giovani.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.