Parametric neural control differentiates top neural network models of primate visual cortex
Este estudo introduz a acentuação de características alinhadas aos eixos como um método causal para revelar que, apesar de uma precisão semelhante na predição de respostas de imagens naturais, os principais modelos de redes neurais profundas divergem significativamente em sua capacidade de controlar o disparo do córtex visual de primatas, com o desempenho sendo melhor predito pela estrutura de frequência espacial do gradiente de entrada do que pela robustez adversarial.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA de um preprint que não foi revisado por pares. Não é aconselhamento médico. Não tome decisões de saúde com base neste conteúdo. Ler aviso legal completo
O cérebro humano é uma máquina vasta e intrincada para dar sentido ao mundo, e na frente desta máquina encontra-se o córtex visual, uma região dedicada inteiramente ao processamento do que vemos. Durante décadas, cientistas tentaram construir programas de computador que mimetizassem essa maquinaria biológica. Esses programas, conhecidos como redes neurais profundas, são treinados em milhões de fotografias até aprenderem a reconhecer objetos, rostos e cenas com uma habilidade que rivaliza com a nossa própria. Quando pesquisadores testam esses programas, frequentemente descobrem que os modelos mais avançados preveem com que precisão os neurônios no cérebro de um macaco dispararão ao serem expostos a uma imagem natural. Esse sucesso levou a uma suposição reconfortante: se diferentes modelos de computador conseguem prever a atividade cerebral tão bem, eles devem estar todos usando a mesma lógica interna para compreender o mundo visual. Parecia que o caminho para entender o cérebro finalmente fora encontrado, e que todos esses modelos bem-sucedidos haviam convergido para uma única e correta forma de ver.
No entanto, um novo estudo desafia essa conclusão reconfortante, sugerindo que a alta precisão na previsão não significa necessariamente que os modelos tenham verdadeiramente compreendido a lógica do cérebro. Os pesquisadores, trabalhando com cinco macacos macaques, propuseram-se a testar se esses modelos de computador estavam apenas adivinhando corretamente ou se realmente entendiam as regras específicas que governam como os neurônios respondem. Eles criaram um novo método para sondar os modelos, indo além do simples reconhecimento de imagens para uma forma mais direta de interação. Em vez de apenas mostrar imagens aos modelos e verificar se eles acertavam a resposta cerebral, os cientistas usaram os modelos para gerar mudanças específicas e controladas em uma imagem. Eles pegaram as configurações internas de cada modelo e as transformaram em um conjunto de instruções sobre como ajustar uma imagem para fazer um neurônio disparar mais ou menos. Esse processo, que os pesquisadores chamam de acentuação de característica alinhada ao eixo, permitiu-lhes criar milhares de imagens de teste únicas, projetadas para impulsionar a resposta neural em uma direção específica.
A equipe gerou mais de 27.500 desses estímulos personalizados a partir de dez modelos de visão líderes e os apresentou aos macacos em um experimento de malha fechada (closed-loop). Essa configuração permitiu que os pesquisadores alvo de áreas específicas do córtex visual, desde os estágios iniciais, onde formas simples são processadas, até os níveis superiores, onde objetos complexos são reconhecidos. Os resultados foram surpreendentes. Embora os dez modelos tenham desempenhado igualmente bem ao prever respostas a fotografias naturais padrão, eles falharam quando solicitados a controlar os neurônios com seus estímulos customizados. A maioria dos modelos falhou em produzir as mudanças previstas no disparo neural. Seus mapas internos do mundo visual, embora bons o suficiente para adivinhar, eram fundamentalmente desalinhados com o ajuste real das células cerebrais. Os modelos não estavam capturando os detalhes precisos de como os neurônios respondem ao mundo; eles estavam simplesmente encontrando atalhos estatísticos que funcionavam para imagens naturais, mas que desmoronavam sob um escrutínio mais rigoroso.
Houve uma exceção notável a essa falha. Dois dos modelos, que haviam sido treinados usando uma técnica específica chamada treinamento adversarial, mostraram uma vantagem consistente. Esses modelos foram melhores em controlar o disparo neural, sugerindo que seus parâmetros internos estavam mais próximos do próprio cérebro. No entanto, o estudo descobriu que ser robusto contra esses truques adversariais não era toda a história. A capacidade de controlar os neurônios não estava fortemente ligada ao quão bem um modelo resistia a ataques artificiais. Em vez disso, o fator chave era algo mais fundamental: a estrutura de frequência espacial do gradiente de entrada. Em termos simples, isso se refere ao padrão específico de pixels que influencia a decisão de um modelo. Os modelos que funcionaram melhor foram aqueles em que a distribuição de pixels que influencia o eixo de codificação correspondia à maneira como o cérebro realmente processa a informação visual.
Esta pesquisa estabelece uma forma nova e mais rigorosa de testar o quão bem os modelos de computador se alinham ao cérebro. Ao passar da previsão passiva para o controle ativo, os cientistas demonstraram que a alta precisão em testes padrão pode esconder falhas profundas na forma como um modelo representa o mundo visual. As descobertas sugerem que, embora os modelos atuais sejam impressionantes, a maioria ainda não convergiu para a verdadeira parametrização biológica do espaço de imagem natural. Somente ao testar se um modelo pode causalmente impulsionar a atividade neural com características acentuadas e precisas é que poderemos saber se ele realmente entende o mundo visual da mesma forma que um cérebro de primata.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.