Deep Learning Models Also Recall Features

Os modelos de aprendizagem profunda, os poderosos motores por trás da inteligência artificial moderna, são frequentemente descritos como vastas redes que aprendem ao empilhar padrões simples em ideias complexas. Durante anos, cientistas compreenderam esses sistemas através de uma lente específica: a ideia de combinação de características. Nesta visão, uma rede neural funciona como uma equipe de construção, pegando blocos de construção básicos — como arestas em uma imagem ou sons simples em uma frase — e montando-os hierarquicamente em conceitos de nível superior, como um rosto ou uma palavra. Este arcabouço tem sido incrivelmente útil para explicar como as máquinas reconhecem padrões, de forma muito semelhante a como uma criança aprende a identificar um gato ao primeiro notar as orelhas, depois o pelo e, finalmente, o animal inteiro. No entanto, esta perspectiva tem dificuldade em explicar momentos em que um modelo não apenas reconhece um padrão, mas parece extrair um fato específico e detalhado do nada. Quando um grande modelo de linguagem é solicitado a escrever a biografia de uma pessoa famosa, a resposta não está escondida na pergunta esperando para ser montada; o modelo parece recuperar uma memória armazenada. Um novo artigo de Pierre Beckmann argumenta que essa recuperação não é uma exceção à regra da montagem de padrões, mas uma operação fundamental e distinta que foi negligenciada. Beckmann propõe um novo conceito chamado "recuperação de características" (feature recall), sugerindo que os modelos de aprendizagem profunda fazem mais do que apenas combinar entradas; eles também atuam como bibliotecas que recuperam informações armazenadas com base em um único gatilho.

O artigo começa examinando como esses modelos lidam com fatos, um fenômeno já observado em pesquisas recentes, mas não totalmente explicado pelo antigo arcabouço. Para entender o mecanismo, deve-se observar o espaço de trabalho interno do modelo, conhecido como fluxo residual (residual stream). Imagine este fluxo como um fluxo contínuo de informação onde a compreensão do modelo sobre uma frase ou imagem é construída camada por camada. À medida que os dados se movem pela rede, diferentes partes do sistema adicionam pequenos ajustes a este fluxo, efetivamente escrevendo novos detalhes em um quadro branco compartilhado. Esses ajustes são guiados por direções específicas no espaço interno do modelo, que o autor compara a controles deslizantes (sliders). Cada controle representa uma propriedade específica, como o conceito de uma pessoa ou um objeto específico. Quando o modelo processa uma entrada, ele ajusta esses controles, aumentando ou diminuindo-os para refletir o que está presente.

O insight crucial no trabalho de Beckmann é como o modelo usa esses controles para gerar respostas. Na visão tradicional de combinação de características, o modelo observa uma coleção de entradas e as mistura para criar uma nova saída. Mas, no caso da recuperação factual, o processo funciona de forma diferente. Aqui, uma entrada específica atua como uma chave que desbloqueia um conjunto pré-armazenado de informações. O artigo ilustra isso com o exemplo do nome "Michael Jordan". Quando o modelo encontra este nome, ele não meramente combina as letras ou sons para formar uma nova ideia. Em vez disso, a ativação da característica "Michael Jordan" desencadeia uma recuperação direta de fatos associados armazenados nos pesos do modelo, tais como "joga basquete" ou "Chicago Bulls". Os pesos do modelo, que são os parâmetros aprendidos que definem seu conhecimento, atuam como um repositório. Quando a característica correta é ativada, ela escala uma linha específica desses valores armazenados, puxando os fatos relevantes para o contexto atual. Isso é distinto do processo de construção da combinação de características; é um processo de recuperação onde a entrada serve como um gatilho para a informação que já existe dentro do sistema.

Beckmann argumenta que este mecanismo não se limita a modelos de linguagem ou a fatos sobre pessoas. Ele sugere que a recuperação de características é uma operação geral que se aplica a todas as arquiteturas de aprendizagem profunda, incluindo aquelas usadas para reconhecimento de imagens. Para demonstrar isso, ele contrasta o processo de recuperação com o exemplo clássico de uma rede neural convolucional detectando um círculo em uma imagem. Nesse cenário, a rede combina características de baixo nível, como curvas e linhas, para identificar uma forma. Os pesos, nesse caso, definem qual padrão procurar. Na recuperação de características, porém, os pesos definem qual informação recuperar uma vez que um padrão é encontrado. Se um modelo treinado em dígitos manuscritos detecta uma forma circular, ele pode usar essa detecção para recuperar que o dígito é provavelmente um zero, seis, oito ou nove. A característica de entrada — o círculo — desencadeia a recuperação dessas possibilidades específicas. O artigo postula que, enquanto a combinação de características explica como os modelos constroem complexidade, a recuperação de características explica como eles acessam as vastas quantidades de informação que aprenderam, permitindo que produzam saídas ricas e detalhadas a partir de entradas muito esparsas.

O autor também aborda uma confusão potencial: uma vez que a matemática por trás dessas operações pode ser vista de duas maneiras diferentes, a distinção é real ou apenas uma questão de perspectiva? Matematicamente, o mesmo cálculo pode ser descrito como combinando entradas ou recuperando linhas armazenadas. Beckmann reconhece essa ambiguidade, mas argumenta que a distinção é significativa se olharmos para a estrutura das conexões. Ele propõe uma maneira de distinguir os dois medindo o quão concentradas são as conexões. Na combinação de características, muitas entradas contribuem para uma única saída, criando uma teia densa de conexões. Na recuperação de características, uma única entrada domina a saída, criando uma conexão esparsa onde um gatilho puxa um conjunto específico de associações armazenadas. O artigo sugere que os pesquisadores poderiam usar essa diferença de conectividade para identificar quais partes de um modelo estão atuando como sistemas de recuperação e quais estão atuando como sistemas de construção. Embora isso ainda não tenha sido totalmente provado em todos os casos, o autor delineia como tal teste poderia ser conduzido, oferecendo um caminho para pesquisas futuras determinarem se estes são verdadeiramente modos operacionais separados.

Além da mecânica técnica, o artigo oferece uma nova maneira de pensar sobre o que esses modelos "sabem". O autor traça um paralelo entre a memória humana e o estado interno do modelo. Ele sugere que a informação armazenada nos pesos, que é recuperada apenas quando acionada, assemelha-se a uma crença disposicional — um conhecimento que existe mesmo quando não está sendo usado no momento. Isso contrasta com a informação ativa presente no processamento atual do modelo, que é como uma crença ocorrência. Ao distinguir entre estes dois, o artigo fornece um arcabouço para que filósofos e cientistas compreendam melhor a natureza da crença e do conhecimento em sistemas artificiais. Sugere que esses modelos não apenas processam dados no momento; eles carregam uma disposição constante de fatos e associações que podem ser invocadas a qualquer momento.

Em última análise, o artigo não afirma que a recuperação de características substitui a ideia de combinação de características. Em vez disso, apresenta-a como um complemento necessário. Assim como uma biblioteca contém tanto os livros (a informação armazenada) quanto o processo de lê-los (a recuperação), os modelos de aprendizagem profunda provavelmente dependem tanto de combinar características para entender novas entradas quanto de recuperar características armazenadas para gerar respostas detalhadas. O trabalho convida os pesquisadores a olhar além da construção de padrões e reconhecer a recuperação de conhecimento armazenado como uma operação fundamental. Ao fazê-lo, abre novas questões sobre como esses modelos aprendem, como eles armazenam informação e como podemos interpretar seus funcionamentos internos. A distinção permanece uma hipótese que requer mais testes empíricos, mas oferece uma imagem mais clara e intuitiva de como a inteligência artificial pode produzir as saídas surpreendentes e detalhadas que caracterizam suas aplicações mais avançadas.