🧬 biology

Toward a mechanistic understanding of inference in visual cortex and diffusion models

Este artigo apresenta um modelo de difusão minimalista e interpretável baseado em codificação esparsa com interações de pares que mimetiza as conexões horizontais da V1 para alcançar um alto desempenho na denoização de imagens, ao mesmo tempo em que fornece insights mecanísticos tanto sobre a inferência perceptiva biológica quanto sobre o funcionamento interno de arquiteturas de difusão de caixa-preta.

Autores originais: Zeyu Yun, Alexander Belsten, Dasheng Bi, Zahra Kadkhodaie, Yubei Chen, Bruno A. Olshausen

Publicado 2026-07-20

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Zeyu Yun, Alexander Belsten, Dasheng Bi, Zahra Kadkhodaie, Yubei Chen, Bruno A. Olshausen

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Esta é uma explicação gerada por IA de um preprint que não foi revisado por pares. Não é aconselhamento médico. Não tome decisões de saúde com base neste conteúdo. Ler aviso legal completo

O Trabalho de Detetive do Cérebro e a Máquina de Sonhos da IA

Imagine que você está tentando resolver um mistério, mas as pistas estão espalhadas, borradas e metade delas está faltando. É exatamente isso que acontece toda vez que você olha para o mundo. Seus olhos não tiram apenas uma fotografia perfeita; eles recebem uma confusão de luz e sombras. Para dar sentido a isso, seu cérebro tem que agir como um detetive, preenchendo as lacunas e adivinhando como é a imagem completa. Esse processo é chamado de "inferência perceptual". Por décadas, os cientistas se perguntaram como o cérebro faz isso tão sem esforço. Eles sabem que os neurônios no córtex visual (a parte do cérebro que vê) estão conectados de maneiras específicas, como uma rede de amigos que conversam entre si para concordar sobre o que estão vendo.

Ao mesmo tempo, um novo tipo de inteligência artificial chamado "modelo de difusão" tornou-se famoso por criar imagens deslumbrantes. Esses sistemas de IA trabalham começando com ruído estático puro — como a estática em uma TV antiga — e limpando-o lentamente até que uma imagem clara emerja. Eles são incrivelmente bons nisso, mas também são "caixas pretas". Sabemos que funcionam, mas não sabemos realmente como os milhões de minúsculos neurônios digitais dentro deles decidem como um cachorro ou um rosto deve parecer. A grande questão é: o cérebro e esses modelos de IA estão usando os mesmos truques secretos para resolver o quebra-cabeça da visão? Se conseguirmos descobrir as regras que a IA está seguindo, talvez possamos finalmente entender como nossos próprios cérebros funcionam.

A Grande Ideia do Artigo: Um Modelo Simples com um Grande Cérebro

Este artigo apresenta um novo modelo simplificado que tenta construir uma ponte entre a forma como nossos cérebros veem e como a IA gera imagens. Os autores, uma equipe de pesquisadores da UC Berkeley e outras instituições, construíram um programa de computador que imita o córtex visual primário (V1), a primeira parada para a informação visual no cérebro. Em vez de usar uma rede de aprendizado profundo massiva e complicada que é impossível de ler, eles criaram um modelo "mínimo" baseado em um conceito chamado codificação esparsa (sparse coding).

Pense na codificação esparsa como um quebra-cabeça onde você usa apenas algumas peças específicas para construir uma imagem. No cérebro, isso significa que apenas um pequeno número de neurônios dispara em qualquer momento dado para representar uma imagem. Os autores pegaram essa ideia e adicionaram um toque: eles permitiram que os neurônios conversassem entre si de uma maneira específica. Nos modelos padrão, os neurônios são frequentemente tratados como trabalhadores independentes. Mas, neste novo modelo, os autores deram aos neurônios uma "rede social" (uma matriz de interação) que permite que eles influenciem uns aos outros. Isso permite que o modelo aprenda que, se uma parte de uma imagem tem uma linha subindo, a próxima parte provavelmente continuará essa linha, mesmo que a imagem esteja ruidosa ou quebrada.

O Que Eles Descobriram: A "Rede Social" do Cérebro

Quando os pesquisadores treinaram este modelo em imagens naturais (como fotos de paisagens e objetos), algo fascinante aconteceu. A "rede social" que o modelo aprendeu se parece exatamente com as conexões físicas encontradas no cérebro humano real. Especificamente, o modelo desenvolveu conexões fortes entre neurônios que eram sintonizados em ângulos semelhantes e estavam alinhados em uma fileira. Isso é conhecido como facilitação colinear.

No mundo real, é por isso que você consegue ver facilmente uma cobra deslizando através da grama alta, mesmo que partes dela estejam escondidas. Seu cérebro conecta os pontos. O artigo mostra que este modelo pode fazer o mesmo. Quando mostraram a ele uma imagem com um contorno quebrado ou oculto (como uma linha que desaparece atrás de uma nuvem), o modelo não apenas adivinhou aleatoriamente. Ele usou suas conexões aprendidas para "preencher" a linha ausente, criando uma curva suave e contínua. Este desempenho foi quase tão bom quanto o dos modelos de IA massivos e complexos, mas com uma grande vantagem: como o modelo deles é simples, os pesquisadores puderam realmente olhar para dentro e ver como ele funcionava.

O Ingrediente Secreto: Como a IA "Pensa"

Uma das descobertas mais empolgantes do artigo é como o modelo lida com o processo de "preenchimento". Os autores decomporam a matemática para mostrar que o modelo não apenas adivinha; ele espalha a atividade como uma ondulação em um lago. Quando um neurônio detecta uma parte de uma linha, ele envia um sinal para seus vizinhos. Se esses vizinhos também estiverem ativos e alinhados, o sinal fica mais forte, reforçando a ideia de que uma linha existe ali. Se os vizinhos estiverem desalinhados ou inativos, o sinal é cortado.

O artigo sugere que esse processo cria uma "hierarquia", embora o modelo tenha apenas uma camada. Cerca de 30% dos neurônios do modelo aprenderam a se desconectar totalmente da entrada visual direta. Esses "neurônios desconectados" agem como uma segunda camada oculta que ajuda o modelo a entender o panorama geral. Eles não veem os pixels; em vez disso, ajudam a aplicar regras globais, como garantir que ambos os olhos de um rosto estejam no lugar certo em relação um ao outro. Isso explica como o modelo pode gerar um rosto inteiramente novo que pareça realista, mesmo que nunca tenha visto esse rosto exato antes. Não é memorização; é compreensão da geometria de um rosto.

Por Que Isso Importa: Da IA para a Biologia

O artigo sugere que o comportamento complexo e misterioso dos modernos modelos de difusão de IA pode, na verdade, ser impulsionado pelos mesmos princípios biológicos simples encontrados em nosso córtex visual. A "caixa preta" do aprendizado profundo pode ser apenas uma versão muito complicada dos circuitos recorrentes simples que os autores construíram.

Ao provar que um modelo simples e interpretável pode igualar o desempenho de gigantescos sistemas de IA, os autores oferecem uma nova maneira de estudar o cérebro. Eles propõem que o sistema visual utiliza essas conexões específicas para resolver ambiguidades, transformando um mundo ruidoso e confuso em uma imagem clara e coerente. Isso não é apenas uma teoria; as previsões do modelo sobre como os neurônios devem reagir a diferentes tipos de ruído alinham-se com experimentos recentes em cérebros biológicos reais.

Em suma, este artigo sugere que o segredo tanto para ver quanto para criar arte pode ser o mesmo: um conjunto simples de regras que permitem que pistas locais se conectem e formem uma história global. Quer seja um neurônio em seu cérebro ou um peso digital em uma IA, o objetivo é encontrar o padrão no caos. E agora, graças a este modelo, temos um mapa muito mais claro de como esse padrão emerge.

Resumo Técnico: Rumo a uma compreensão mecanística da inferência no córtex visual e modelos de difusão

Enunciado do Problema
Os modelos de difusão atuais alcançam um desempenho generativo de estado da arte, mas operam como "caixas pretas", tornando difícil compreender os mecanismos computacionais neurais específicos que permitem que eles atribuam alta probabilidade a imagens naturais ou generalizem a partir de conjuntos de dados finitos. Inversamente, embora a neurociência tenha identificado estruturas anatômicas no córtex visual primário (V1) — especificamente conexões horizontais entre neurônios com sintonização de orientação semelhante — que provavelmente fundamentam o agrupamento perceptivo e a completude de contornos, permanece incerto como tal conectividade emerge de um modelo generativo probabilístico treinado em imagens naturais. O desafio central é unir esses domínios construindo um modelo que seja tanto um modelo de difusão minimalista com parâmetros interpretáveis quanto um modelo biologicamente plausível de inferência em V1, capaz de explicar como a dinâmica recorrente resolve a ambiguidade visual.

Metodologia
Os autores propõem um modelo de codificação esparsa não fatorial de V1, o qual demonstram ser matematicamente equivalente a um modelo de difusão minimalista.

Arquitetura do Modelo:
- O modelo estende a codificação esparsa padrão introduzindo um prior não fatorial sobre as variáveis latentes $z$ na forma de uma matriz de interação pareada não restrita $M$ .
- A função de energia é definida como $E_{\theta,\sigma}(x, z) = \frac{1}{2\sigma^2} \|x - \Phi z\|_2^2 + \gamma(\sigma)(\|\lambda \circ z\|_1 + \frac{1}{2}z^\top M z)$ , onde $\Phi$ é um dicionário de características de imagem, $\lambda$ representa parâmetros de esparsidade e $\gamma(\sigma)$ equilibra dinamicamente a verossimilhança dos dados e o prior com base no nível de ruído $\sigma$ .
- A inferência é realizada via um sistema dinâmico recorrente derivado da estimativa de Máxima Verossimilhança a Posteriori (MAP) de $z$ . A regra de atualização (Equação 5) decompõe-se em um drive feedforward, um drive recorrente (envolvendo a matriz de Gram $\Phi^\top\Phi$ e a matriz de interação $M$ ) e um viés de esparsidade.
Estratégia de Treinamento:
- Em vez da estimativa padrão de Máxima Verossimilhança, que é intratável para integração de alta dimensão, o modelo é treinado usando Denoising Score Matching (DSM).
- A função de score é aproximada via a estimativa MAP de $z^*$ , levando a um objetivo de reconstrução ponderado.
- Diferenciação Implícita: Para treinar e analisar o modelo de forma eficiente, os autores empregam o Teorema da Função Implícita (IFT). Isso permite o cálculo de gradientes analíticos exatos através do ponto fixo convergente da dinâmica recorrente sem desenrolar toda a trajetória (evitando os custos de memória do Backpropagation Through Time).
Análise Mecanística:
- Os autores realizam uma decomposição Jacobiana da função de denoising. Ao expandir o gradiente implícito, eles decompõem o Jacobiano no espaço de pixels $J(x)$ através de um Jacobiano no espaço latente $J_z$ projetado pelo dicionário $\Phi$ .
- $J_z$ é further expandido em uma série de Neumann, revelando o mecanismo de propagação de atividade dependente de contexto: os sinais propagam-se lateralmente através de $M$ , mas são estritamente controlados pelo código esparso ativo atual ( $\Sigma$ ), garantindo que apenas sinais contextualmente relevantes (ex: colineares) sobrevivam e se amplifiquem.

Resultados Principais

Emergência de Conectividade tipo V1: Quando treinado em imagens naturais, a matriz de interação $M$ aprendida desenvolve uma forte facilitação colinear. Ela cria conexões excitatórias entre neurônios espacialmente deslocados com orientações preferenciais alinhadas, espelhando o "campo de associação" e as conexões horizontais observadas nas camadas superficiais de V1.
Desempenho Superior de Denoising: O modelo não fatorial supera significativamente os modelos de codificação esparsa fatoriais padrão em tarefas de denoising. Enquanto os modelos fatoriais alucinam bordas espúrias em regiões ruidosas, o modelo não fatorial utiliza $M$ para impor a continuidade de bordas estruturais verdadeiras e suprimir o ruído descoordenado.
Explicação Mecanística de Priors de Difusão: A análise revela que os autovetores dominantes do Jacobiano de denoising (que definem as direções de alta probabilidade para o modelo) correspondem a bases oscilatórias ligadas a contornos de imagem. O modelo demonstra que esses autovetores surgem da acumulação infinita de propagação lateral recorrente restringida pelo código esparso ativo. Este mecanismo permite que o modelo atribua alta probabilidade a uma família contínua de deformações estruturais naturais.
Hierarquia Emergente e "Neurônios Desconectados": Em conjuntos de dados estruturados (ex: faces), o modelo aprende que aproximadamente 30% das variáveis latentes desenvolvem normas próximas de zero, efetivamente desconectando-se da entrada visual direta. Esses "neurônios desconectados" atuam como uma segunda camada emergente, mediando dependências semânticas de longo alcance e impondo consistência global (ex: deslocar características faciais de forma síncrona) que um modelo de camada única não conseguiria alcançar de outra forma.
Paridade Generativa: Apesar de sua simplicidade arquitetônica e falta de camadas convolucionais profundas, o modelo alcança paridade generativa com arquiteturas U-Net pareadas em parâmetros. Ele produz amostras de difusão reversa visualmente indistinguíveis e PSNRs de denoising comparáveis, confirmando que as estatísticas estruturais centrais de distribuições complexas podem ser capturadas por esta arquitetura interpretável e biologicamente fundamentada.
Hipóteses para a Dinâmica de V1: O modelo prevê que a influência da excitação de entorno em V1 é dependente do estado. Sob alta ambiguidade visual (baixo contraste/ruído), a rede aumenta o peso da matriz de interação $M$ , alternando de uma supressão impulsionada pela verossimilhança para uma facilitação impulsionada pelo prior. Isso sugere um mecanismo onde sinais excitatórios são roteados ao longo de caminhos colineares apenas quando a evidência contextual os suporta, resolvendo ambiguidades de baixo nível.

Significância e Alegações
O artigo afirma fornecer um elo mecanístico concreto e testável entre neurociência e aprendizado de máquina:

Para a Neurociência: Gera hipóteses específicas sobre a conectividade funcional em circuitos neurais recorrentes, sugerindo que as conexões horizontais em V1 emergem naturalmente para aprender estatísticas de coocorrência para integração de contornos e que populações neurais "desconectadas" podem servir a um papel hierárquico na imposição de consistência global.
Para o Aprendizado de Máquina: Elucida os mecanismos internos dos modelos de difusão, demonstrando que sua capacidade de gerar novas imagens e generalizar advém de dinâmicas recorrentes que realizam completude de contorno e deformação estrutural dependentes de contexto.
Unificação: O trabalho postula que o córtex visual, redes neurais profundas e este modelo minimalista de codificação esparsa estão todos capturando as mesmas estatísticas intrínsecas de imagens naturais. Sugere que imagens naturais atuam como sinais esparsos em um manifold contínuo, e que a natureza de "caixa preta" do aprendizado profundo pode estar obscurecendo um princípio universal de computação iterativa e recorrente aprendida.

Os autores concluem que este framework oferece uma nova direção para a interpretabilidade mecanística no aprendizado profundo, sugerindo que comportamentos generativos complexos podem ser compreendidos através de análises de circuitos mais simples e biologicamente fundamentadas.