🧬 biology

Toward a mechanistic understanding of inference in visual cortex and diffusion models

Questo articolo presenta un modello di diffusione minimale e interpretabile basato sulla codifica sparsa con interazioni a coppie che imita le connessioni orizzontali della V1 per ottenere un'elevata prestazione nella rimozione del rumore dalle immagini, fornendo al contempo approfondimenti meccanicistici sia sull'inferenza percettiva biologica sia sul funzionamento interno delle architetture di diffusione a scatola nera.

Autori originali: Zeyu Yun, Alexander Belsten, Dasheng Bi, Zahra Kadkhodaie, Yubei Chen, Bruno A. Olshausen

Pubblicato 2026-07-20

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Zeyu Yun, Alexander Belsten, Dasheng Bi, Zahra Kadkhodaie, Yubei Chen, Bruno A. Olshausen

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Questa è una spiegazione generata dall'IA di un preprint non sottoposto a revisione paritaria. Non è un consiglio medico. Non prendere decisioni sulla salute basandoti su questo contenuto. Leggi il disclaimer completo

Il lavoro investigativo del cervello e la macchina dei sogni dell'IA

Immaginate di cercare di risolvere un mistero, ma gli indizi sono sparsi, sfocati e metà di essi mancano. Questo è esattamente ciò che accade ogni volta che guardate il mondo. I vostri occhi non scattano semplicemente una fotografia perfetta; ricevono un ammasso disordinato di luce e ombre. Per dare un senso a tutto ciò, il vostro cervello deve agire come un detective, colmando le lacune e indovinando quale sia l'immagine completa. Questo processo è chiamato "inferenza percettiva". Per decenni, gli scienziati si sono chiesti come il cervello riesca a farlo con tanta facilità. Sanno che i neuroni nella corteccia visiva (la parte del cervello che vede) sono connessi in modi specifici, come una rete di amici che si parlano tra loro per concordare su ciò che stanno vedendo.

Allo stesso tempo, un nuovo tipo di intelligenza artificiale chiamato "modello di diffusione" è diventato famoso per la creazione di immagini sbalorditive. Questi sistemi di IA funzionano partendo da puro rumore statico — come la neve su un vecchio televisore — e pulendolo lentamente finché non emerge un'immagine nitida. Sono incredibilmente bravi in questo, ma sono anche delle "scatole nere". Sappiamo che funzionano, ma non sappiamo davvero come i milioni di minuscoli neuroni digitali al loro interno decidano che aspetto debba avere un cane o un volto. La grande domanda è: il cervello e questi modelli di IA usano gli stessi trucchi segreti per risolvere l'enigma della visione? Se riusciamo a capire le regole che l'IA sta seguendo, forse potremo finalmente capire come funziona il nostro stesso cervello.

La grande idea del documento: Un modello semplice con un grande cervello

Questo articolo introduce un nuovo modello semplificato che cerca di colmare il divario tra il modo in cui il nostro cervello vede e il modo in cui l'IA genera immagini. Gli autori, un team di ricercatori della UC Berkeley e di altre istituzioni, hanno costruito un programma per computer che imita la corteccia visiva primaria (V1), la prima tappa per le informazioni visive nel cervello. Inveve di utilizzare una rete di deep learning massiccia e complicata che è impossibile da leggere, hanno creato un modello "minimo" basato su un concetto chiamato codifica sparsa (sparse coding).

Pensate alla codifica sparsa come a un puzzle in cui si utilizzano solo alcuni pezzi specifici per costruire un'immagine. Nel cervello, questo significa che solo un piccolo numero di neuroni si attiva in qualsiasi momento per rappresentare un'immagine. Gli autori hanno preso questa idea e ci hanno aggiunto un tocco: hanno permesso ai neuroni di parlare tra loro in un modo specifico. Nei modelli standard, i neuroni sono spesso trattati come lavoratori indipendenti. Ma in questo nuovo modello, gli autori hanno dato ai neuroni una "rete sociale" (una matrice di interazione) che permette loro di influenzarsi a vicenda. Ciò consente al modello di apprendere che se una parte di un'immagine ha una linea che sale, la parte successiva è probabilmente destinata a continuare quella linea, anche se l'immagine è rumorosa o interrotta.

Cosa hanno scoperto: La "rete sociale" del cervello

Quando i ricercatori hanno addestrato questo modello su immagini naturali (come foto di paesaggi e oggetti), è accaduto qualcosa di affascinante. La "rete sociale" che il modello ha appreso assomigliava esattamente alle connessioni fisiche trovate nel vero cervello umano. Nello specifico, il modello ha sviluppato forti connessi tra neuroni che erano sintonizzati su angoli simili e che erano allineati in fila. Questo è noto come facilitazione colonnare (collinear facilitation).

Nel mondo reale, questo è il motivo per cui potete vedere facilmente un serpente che striscia tra l'erba alta anche se parti di esso sono nascoste. Il vostro cervello connette i puntini. L'articolo dimostra che questo modello può fare lo stesso. Quando hanno mostrato al modello un'immagine con un contorno interrotto o nascosto (come una linea che scompare dietro una nuvola), il modello non ha indovinato casualmente. Ha usato le sue connessioni apprese per "colmare" la linea mancante, creando una curva fluida e continua. Questa prestazione era quasi pari a quella dei massicci e complessi modelli di IA, ma con un enorme vantaggio: poiché il loro modello è semplice, i ricercatori potevano effettivamente guardare all'interno e vedere come funzionava.

La formula segreta: Come "pensa" l'IA

Una delle scoperte più entusiasmanti dell'articolo è come il modello gestisce il processo di "riempimento". Gli autori hanno scomposto la matematica per dimostrare che il modello non si limita a indovinare; esso diffonde l'attività come un increspatura in uno stagno. Quando un neurone rileva una parte di una linea, invia un segnale ai suoi vicini. Se anche quei vicini sono attivi e allineati, il segnale si rafforza, rinforzando l'idea che una linea esista in quel punto. Se i vicini sono disallineati o inattivi, il segnale viene interrotto.

L'articolo suggerisce che questo processo crei una "gerarchia" anche se il modello possiede un solo livello. Circa il 30% dei neuroni del modello ha imparato a scollegarsi completamente dall'input visivo diretto. Questi "neuroni distaccati" agiscono come un secondo livello, nascosto, che aiuta il modello a comprendere il quadro generale. Non vedono i pixel; invece, aiutano a imporre regole globali, come assicurarsi che entrambi gli occhi di un volto siano nella posizione corretta l'uno rispetto all'altro. Questo spiega come il modello possa generare un intero volto nuovo che sembri realistico, anche se non ha mai visto quel volto esatto prima. Non sta memorizzando; sta comprendendo la geometria di un volto.

Perché questo è importante: Dall'IA alla biologia

L'articolo suggerisce che il comportamento complesso e misterioso dei moderni modelli di diffusione dell'IA potrebbe essere in realtà guidato dagli stessi semplici principi biologici presenti nella nostra corteccia visiva. La "scatola nera" del deep learning potrebbe essere solo una versione molto complicata dei semplici circuiti ricorrenti che gli autori hanno costruito.

Dimostrando che un modello semplice e interpretabile può eguagliare le prestazioni dei giganti sistemi di IA, gli autori offrono un nuovo modo per studiare il cervello. Propongono che il sistema visivo utilizzi queste connessioni specifiche per risolvere l'ambiguità, trasformando un mondo rumoroso e confuso in un'immagine chiara e coerente. Questa non è solo una teoria; le previsioni del modello su come i neuroni dovrebbero reagire a diversi tipi di rumore si allineano con esperimenti recenti condotti su veri cervelli biologici.

In breve, questo articolo suggerisce che il segreto sia lo stesso sia per vedere che per creare arte: un semplice insieme di regole che permettono agli indizi locali di connettersi e formare una storia globale. Che si tratti di un neurone nel vostro cervello o di un peso digitale in un'IA, l'obiettivo è trovare il pattern nel caos. E ora, grazie a questo modello, abbiamo una mappa molto più chiara di come quel pattern emerga.

Sintesi Tecnica: Verso una comprensione meccanicistica dell'inferenza nella corteccia visiva e nei modelli di diffusione

Problema
Gli attuali modelli di diffusione raggiungono prestazioni generative allo stato dell'arte ma operano come "scatole nere", rendendo difficile comprendere i meccanismi computazionali neurali specifici che permettono loro di assegnare un'alta probabilità alle immagini naturali o di generalizzare da dataset finiti. Al contrario, sebbene le neuroscienze abbiano identificato strutture anatomiche nella corteccia visiva primaria (V1) — specificamente connessioni orizzontali tra neuroni con tuning di orientamento simile — che probabilmente sottendono al raggruppamento percettivo e al completamento dei contorni, rimane poco chiaro come tale connettività emerga da un modello generativo probabilistico addestrato su immagini naturali. La sfida centrale è colmare questi domini costruendo un modello che sia sia un modello di diffusione minimale con parametri interpretabili, sia un modello biologicamente plausibile di inferenza in V1, capace di spiegare come la dinamica ricorrente risolva l'ambiguità visiva.

Metodologia
Gli autori propongono un modello di sparse coding non fattoriale di V1, che dimostrano essere matematicamente equivalente a un modello di diffusione minimale.

Architettura del Modello:
- Il modello estende lo standard dello sparse coding introducendo un prior non fattoriale sulle variabili latenti $z$ sotto forma di una matrice di interazione a coppie non vincolata $M$ .
- La funzione di energia è definita come $E_{\theta,\sigma}(x, z) = \frac{1}{2\sigma^2} \|x - \Phi z\|_2^2 + \gamma(\sigma)(\|\lambda \circ z\|_1 + \frac{1}{2}z^\top M z)$ , dove $\Phi$ è un dizionario di feature d'immagine, $\lambda$ rappresenta i parametri di sparsità, e $\gamma(\sigma)$ bilancia dinamicamente la verosimiglianza dei dati e il prior in base al livello di rumore $\sigma$ .
- L'inferenza viene eseguita tramite un sistema dinamico ricorrente derivato dalla stima MAP (Maximum A Posteriori) di $z$ . La regola di aggiornamento (Equazione 5) si decompone in una spinta feedforward, una spinta ricorrente (che coinvolge la matrice di Gram $\Phi^\top\Phi$ e la matrice di interazione $M$ ) e un bias di sparsità.
Strategia di Addestramento:
- Invece della standard Maximum Likelihood Estimation, che è intrattabile per l'integrazione ad alta dimensionalità, il modello viene addestrato utilizzando il Denoising Score Matching (DSM).
- La funzione di score viene approssimata tramite la stima MAP $z^*$ , portando a un obiettivo di ricostruzione pesato.
- Differenziazione Implicita: Per addestrare ed analizzare efficientemente il modello, gli autori utilizzano il Teorema della Funzione Implicita (IFT). Ciò consente di calcolare gradienti analitici esatti attraverso il punto fisso convergente della dinamica ricorrente senza unrollare l'intera traiettoria (evitando i costi di memoria della Backpropagation Through Time).
Analisi Meccanicistica:
- Gli autori eseguono una decomposizione del Jacobiano della funzione di denoising. Espandendo il gradiente implicito, decompongono il Jacobiano nello spazio dei pixel $J(x)$ attraverso il dizionario $\Phi$ in un Jacobiano nello spazio latente $J_z$ .
- $J_z$ viene ulteriormente espanso in una serie di Neumann, rivelando il meccanismo di diffusione dell'attività dipendente dal contesto: i segnali si propagano lateralmente attraverso $M$ , ma sono rigorosamente controllati dallo sparse code attivo ( $\Sigma$ ), garantendo che solo i segnali contestualmente rilevanti (ad esempio, collineari) sopravvivano e si amplifichino.

Risultati Chiave

Emergenza della Connettività tipo V1: Quando addestrato su immagini naturali, la matrice di interazione appresa $M$ sviluppa una forte facilitazione collineare. Crea connessioni eccitatorie tra neuroni spazialmente distanti con orientamenti preferiti allineati, rispecchiando il "campo di associazione" e le connessioni orizzontali osservate negli strati superficiali di V1.
Prestazioni di Denoising Superiori: Il modello non fattoriale supera significativamente i modelli standard di factorial sparse coding nel denoising. Mentre i modelli fattoriali allucinano bordi spuri in regioni rumorose, il modello non fattoriale sfrutta $M$ per imporre la continuità dei veri bordi strutturali e sopprimere il rumore non coordinato.
Spiegazione Meccanicistica dei Prior di Diffusione: L'analisi rivela che gli autovettori dominanti del Jacobiano di denoising (che definiscono le direzioni ad alta probabilità per il modello) corrispondono a basi oscillanti legate ai contorni dell'immagine. Il modello dimostra che questi autovettori derivano dall'accumulo infinito di una diffusione laterale ricorrente vincolata dallo sparse code attivo. Questo meccanismo permette al modello di assegnare un'alta probabilità a una famiglia continua di deformazioni strutturali naturali.
Gerarchia Emergente e "Neuroni Disgiunti": Su dataset strutturati (es. volti), il modello impara che circa il 30% delle variabili latenti sviluppa norme vicine allo zero, disconnettendosi efficacemente dall'input visivo diretto. Questi "neuroni disgiunti" agiscono come un secondo strato emergente, mediando dipendenze semantiche a lungo raggio e imponendo una coerenza globale (ad esempio, spostando in modo sincrono i tratti del volto) che un modello a singolo strato non potrebbe raggiungere altrimenti.
Parità Generativa: Nonostante la semplicità architettonica e la mancanza di strati convoluzionali profondi, il modello raggiunge la parità generativa con architetture U-Net con parametri corrispondenti. Produce campioni di diffusione inversa visivamente indistinguibili e PSNR di denoising comparabili, confermando che le statistiche strutturali centrali di distribuzioni complesse possono essere catturate da questa architettura interpretabile e biologicamente fondata.
Ipotesi sulla Dinamica di V1: Il modello predice che l'influenza dell'eccitazione del surround in V1 sia dipendente dallo stato. In condizioni di alta ambiguità visiva (basso contrasto/rumore), la rete aumenta il peso della matrice di interazione $M$ , passando da una soppressione guidata dalla verosimiglianza a una facilitazione guidata dal prior. Ciò suggerisce un meccanismo in cui i segnali eccitatori vengono instradati lungo percorsi collineari solo quando il contesto supporta tale evidenza, risolvendo ambiguità di basso livello.

Significato e Rivendicazioni
Il paper sostiene di fornire un collegamento meccanicistico concreto e testabile tra neuroscienze e machine learning:

Per le Neuroscienze: Genera ipotesi specifiche riguardanti la connettività funzionale nei circuiti neurali ricorrenti, suggerendo che le connessioni orizzontali in V1 emergano naturalmente per apprendere le statistiche di co-occorrenza per l'integrazione dei contorni e che popolazioni neurali "disgiunte" possano servire un ruolo gerarchico per imporre la coerenza globale.
Per il Machine Learning: Elucida i meccanismi interni dei modelli di diffusione, dimostrando che la loro capacità di generare nuove immagini e generalizzare deriva da dinamiche ricorrenti che eseguono il completamento dei contorni e la deformazione strutturale dipendenti dal contesto.
Unificazione: Il lavoro postula che la corteccia visiva, le reti neurali profonde e questo modello di sparse coding minimale stiano tutti catturando le stesse statistiche intrinseche delle immagini naturali. Suggerisce che le immagini naturali agiscano come segnali sparsi su un manifold continuo e che la natura "black box" del deep learning possa oscurare un principio universale di computazione iterativa e ricorrente appresa.

Gli autori concludono che questo framework offre una nuova direzione per l'interpretabilità meccanicistica nel deep learning, suggerendo che comportamenti generativi complessi possono essere compresi attraverso analisi di circuiti più semplici e biologicamente fondati.