Parametric neural control differentiates top neural network models of primate visual cortex

Il cervello umano è una macchina vasta e intricata per dare un senso al mondo, e all'avanguardia di questa macchina si trova la corteccia visiva, una regione dedicata interamente all'elaborazione di ciò che vediamo. Per decenni, gli scienziati hanno cercato di costruire programmi informatici che imitino questa meccanica biologica. Questi programmi, noti come reti neurali profonde, vengono addestrati su milioni di fotografie finché non imparano a riconoscere oggetti, volti e scene con una capacità che rivaleggia con la nostra. Quando i ricercatori testano questi programmi, spesso scoprono che i modelli più avanzati prevedono con sorprendente accuratezza il modo in cui i neuroni nel cervello di una scimmia si attivano quando viene mostrata loro un'immagine naturale. Questo successo ha portato a un'assunzione confortante: se diversi modelli informatici riescono tutti a prevedere così bene l'attività cerebrale, devono utilizzare tutti la stessa logica interna per comprendere il mondo visivo. Sembrava che la strada per comprendere il cervello fosse stata finalmente trovata, e che tutti questi modelli di successo fossero approdati a un unico, corretto modo di vedere.

Tuttove, un nuovo studio mette in discussione questa confortante conclusione, suggerendo che un'elevata accuratezza nella previsione non significhi necessariamente che i modelli abbiano davvero compreso la logica del cervello. I ricercatori, lavorando con cinque macachi, si sono posti l'obiettivo di testare se questi modelli stessero semplicemente indovinando correttamente o se stessero effettivamente comprendendo le regole specifiche che governano la risposta dei neuroni. Hanno creato un nuovo metodo per sondare i modelli, andando oltre il semplice riconoscimento delle immagini verso una forma di interazione più diretta. Invece di limitarsi a mostrare le immagini ai modelli e controllare se avessero indovinato la risposta cerebrale corretta, gli scienziati hanno usato i modelli per generare cambiamenti specifici e controllati di un'immagine. Hanno preso le impostazioni interne di ogni modello e le hanno trasformate in un insieme di istruzioni su come modificare un'immagine per far sì che un neurone si attivi più o meno. Questo processo, che i ricercatori chiamano accentuazione di caratteristiche allineate agli assi (axis-aligned feature accentuation), ha permesso loro di creare migliaia di immagini di test uniche, progettate per spingere la risposta neurale in una direzione specifica.

Il team ha generato oltre 27.500 di questi stimoli personalizzati da dieci modelli di visione all'avanguardia e li ha presentati ai macachi in un esperimento a circuito chiuso. Questa configurazione ha permesso ai ricercatori di mirare a aree specifiche della corteccia visiva, dalle prime fasi in cui vengono elaborate le forme semplici ai livelli superiori dove vengono riconosciuti oggetti complessi. I risultati sono stati sorprendenti. Nonostante i dieci modelli si siano comportati equamente bene nel prevedere le risposte a fotografie naturali standard, sono falliti quando sono stati chiamati a controllare i neuroni con i loro stimoli creati su misura. La maggior parte dei modelli non è riuscita a produrre i cambiamenti previsti nella scarica neuronale. Le loro mappe interne del mondo visivo, pur essendo sufficienti per indovinare, erano fondamentalmente disallineate con la reale sintonizzazione delle cellule cerebrali. I modelli non stavano catturando i dettagli precisi di come i neuroni rispondono al mondo; stavano semplicemente trovando scorciatoie statistiche che funzionavano per le immagini naturali ma che crollavano sotto uno scrutinio più attento.

C'è stata un'unica eccezione degna di nota a questo fallimento. Due dei modelli, che erano stati addestrati utilizzando una tecnica specifica chiamata addestramento avversario (adversarial training), hanno mostrato un vantaggio costante. Questi modelli erano più bravi nel controllare l'attivazione neuronale, suggerendo che i loro parametri interni fossero più vicini a quelli del cervello. Eppure, lo studio ha scoperto che essere robusti contro questi trucchi avversari non era l'intera storia. La capacità di controllare i neuroni non era fortemente legata a quanto un modello resistesse ad attacchi artificiali. Al contrario, il fattore chiave era qualcosa di più fondamentale: la struttura della frequenza spaziale del gradiente di input. In termini semplici, questo si riferisce al particolare schema di pixel che influenza la decisione di un modello. I modelli che funzionavano meglio erano quelli in cui la distribuzione dei pixel che influenzavano l'asse di codifica corrispondeva al modo in cui il cervello elabora effettivamente le informazioni visive.

Questa ricerca stabilisce un modo nuovo e più rigoroso per testare quanto i modelli informatici si allineino con il cervello. Passando dalla previsione passiva al controllo attivo, gli scienziati hanno dimostrato che un'elevata accuratezza nei test standard può nascondere profondi difetti nel modo in cui un modello rappresenta il mondo visivo. Le scoperte suggeriscono che, sebbene gli attuali modelli siano impressionanti, la maggior parte di essi non ha ancora raggiunto la vera parametrizzazione biologica dello spazio dell'immagine naturale. Solo testando se un modello può guidare causalmente l'attività neurale con caratteristiche accentuate e precise possiamo sapere se comprende davvero il mondo visivo come fa un cervello di primate.