💻 computer science

Inverting Neural Networks: New Methods to Generate Neural Network Inputs from Prescribed Outputs

Este artigo apresenta dois novos métodos gerais para resolver o problema inverso em redes neurais, permitindo a geração de imagens de entrada aleatórias que produzem classificações quase perfeitas ao inverter as camadas da rede, revelando assim vulnerabilidades e uma cobertura mais abrangente do espaço de entrada.

Autores originais: Rebecca Pattichis, Sebastian Janampa, Constantinos S. Pattichis, Marios S. Pattichis

Publicado 2026-03-24

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Rebecca Pattichis, Sebastian Janampa, Constantinos S. Pattichis, Marios S. Pattichis

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem uma máquina de café super inteligente (uma Rede Neural) que, quando você coloca grãos de café específicos, sempre produz uma xícara de café com o sabor "Cappuccino".

O problema é que essa máquina é uma "caixa preta". Ninguém sabe exatamente quais grãos, em quais quantidades, ela precisa para fazer aquele Cappuccino perfeito. Ela apenas sabe o caminho de dentro para fora (dos grãos para o café), mas não o caminho de trás para frente.

Este artigo da Rebecca Pattichis e sua equipe é como um manual de instruções para desmontar a máquina de trás para frente. Eles querem descobrir: "Se eu quero um Cappuccino perfeito, que mistura de grãos eu devo colocar na entrada?"

Aqui está a explicação simples de como eles fizeram isso, usando analogias do dia a dia:

1. O Problema: A "Caixa Preta"

Normalmente, as redes neurais são treinadas para olhar uma foto e dizer: "Isso é um gato". Mas, se você perguntar: "Mostre-me uma foto que essa rede neural obrigatoriamente vai classificar como um gato", a resposta não é óbvia.
Os métodos antigos tentavam encontrar fotos que se pareciam muito com as fotos de treinamento (como tentar adivinhar a senha de alguém olhando apenas para fotos antigas). O resultado? As fotos geradas pareciam cópias baratas das fotos originais.

2. A Solução: Dois Novos Métodos "Mágicos"

Os autores criaram duas formas diferentes de reverter o processo:

Método A: O "Detetive com Mapa" (Forward Pass)

Imagine que você está tentando encontrar um tesouro (a imagem correta) em uma montanha gigante, mas você não sabe onde ele está.

Como funciona: Você começa em um ponto aleatório da montanha (uma imagem de ruído, como estática de TV).
O Mapa: Você usa um mapa muito detalhado (chamado de Jacobian, que é como um mapa de inclinações) para saber em qual direção descer para chegar ao "tesouro" (o resultado desejado).
O Resultado: Você caminha até encontrar o ponto exato onde a máquina de café produz o Cappuccino perfeito. A diferença é que essa "montanha" pode ter muitos tesouros escondidos, e esse método encontra um deles, mesmo que ele não pareça com nenhum grão de café que você já viu.

Método B: O "Desmontador de Lego" (Backward Pass)

Imagine que a rede neural é uma torre de blocos de Lego construída de baixo para cima.

Como funciona: Em vez de tentar adivinhar a base, você começa no topo (o resultado final, o "Cappuccino") e tenta desmontar a torre bloco por bloco, de cima para baixo.
O Truque do Caos: Quando você desmonta um bloco, às vezes há várias maneiras de ter chegado àquela posição. O método deles faz algo genial: ele adiciona um pouco de "poeira mágica" (vetores aleatórios) em cada passo. É como se, ao desmontar a torre, você dissesse: "Ok, este bloco pode ter vindo de qualquer lugar, então vamos adicionar um pouco de aleatoriedade aqui".
O Resultado: No final, quando você chega à base (a imagem de entrada), você tem uma imagem que é uma mistura de caos e lógica. Ela não parece com nenhuma foto real, mas a máquina de café acha que é um Cappuccino perfeito.

3. O Que Eles Descobriram? (A Grande Surpresa)

Quando eles usaram esses métodos em redes neurais modernas (como as que usam Transformers, a tecnologia por trás de IAs avançadas), algo estranho aconteceu:

Imagens "Loucas": As imagens que eles geraram não pareciam com gatos, carros ou dígitos escritos à mão. Elas pareciam ruído estático, como a neve de uma TV antiga fora do ar.
A Prova de Quebra: Mesmo sendo apenas "neve", quando eles colocaram essas imagens na rede neural, a máquina disse: "Isso é um gato!" com 99,9% de certeza.

O que isso significa?
Isso revela uma vulnerabilidade. Significa que a rede neural não está realmente "entendendo" o conceito de um gato da mesma forma que nós. Ela está apenas seguindo regras matemáticas complexas que, às vezes, podem ser enganadas por ruído aleatório. É como se a máquina de café dissesse "Cappuccino" se você colocasse areia e água, desde que a mistura tivesse a cor certa.

Resumo Final

Os autores criaram um "espelho" para as redes neurais. Eles mostraram que, ao inverter o processo, podemos gerar imagens totalmente aleatórias que ainda assim enganam a inteligência artificial.

Isso é importante porque:

Segurança: Mostra que as IAs atuais são frágeis e podem ser enganadas facilmente.
Transparência: Nos ajuda a entender que, às vezes, a IA está apenas "chutando" com base em padrões matemáticos, e não em compreensão real.

Em suma, eles ensinaram a máquina a "falar de trás para frente", e o que ela disse foi: "Eu posso ser enganada por qualquer coisa, desde que eu esteja confiante".

Título: Inversão de Redes Neurais: Novos Métodos para Gerar Entradas de Rede Neural a partir de Saídas Prescritas

1. O Problema

As redes neurais (RN) estabelecem mapeamentos complexos de entradas para saídas, que são frequentemente difíceis de interpretar. O problema inverso consiste em determinar quais imagens de entrada resultam em uma distribuição de saída específica (por exemplo, uma determinada classe de classificação).

Objetivo: Compreender a estabilidade do sistema e identificar se a rede depende de características de imagem razoáveis ou se é vulnerável a ataques (entradas não relacionadas que produzem classificações específicas).
Limitação dos Métodos Anteriores: Trabalhos prévios (como o citado em [1] e [4]) tendiam a gerar imagens de entrada muito próximas ao conjunto de dados de treinamento original, limitando a exploração do espaço de entrada total e a descoberta de vulnerabilidades ocultas.

2. Metodologia

Os autores propõem dois métodos gerais para resolver o problema inverso, aplicáveis tanto a redes sequenciais baseadas em camadas lineares quanto a arquiteturas modernas de Transformers.

A. Método de Passagem para Frente (Forward Pass)

Conceito: Baseia-se em algoritmos de busca de raízes (root-finding) tradicionais.
Funcionamento:
1. Começa com um vetor de entrada aleatório ( $x_0$ ).
2. Utiliza o Jacobiano da função de perda em relação à imagem de entrada para acelerar a convergência.
3. Aplica um algoritmo de otimização (especificamente Levenberg-Marquardt nos experimentos) para encontrar uma entrada $x$ tal que $NN(x)$ corresponda à distribuição de classes desejada.
Vantagem: Não possui restrições de arquitetura e pode ser aplicado a qualquer bloco de rede neural. Gera uma única solução baseada na amostragem aleatória inicial.

B. Método de Passagem para Trás (Backward Pass)

Conceito: Inverte iterativamente cada camada da rede, da saída para a entrada.
Requisitos: Funciona em blocos com funções de ativação invertíveis (ex: SELU, LeakyReLU), camadas lineares e softmax.
Funcionamento:
1. Inversão do Softmax: Calcula os logits a partir da distribuição de probabilidade desejada.
2. Inversão de Ativação: Aplica a função inversa da ativação.
3. Inversão Linear: Utiliza a Decomposição em Valores Singulares (SVD) para calcular o pseudoinverso das matrizes de peso.
  - Estabilização: Para evitar instabilidade numérica, singularidades muito pequenas são zeradas se o número de condição exceder um limite (ex: 100).
4. Injeção de Ruído (Inovação Chave): Adiciona vetores aleatórios amostrados do espaço nulo (null-space) de cada camada linear. Isso permite gerar todas as possíveis entradas que resultam na mesma saída, explorando a ambiguidade do sistema.
Vantagem: Gera uma distribuição de imagens de entrada aleatórias, não apenas uma única solução.

C. Método Generalizado
Combina os dois métodos anteriores. O Forward Pass pode ser usado para blocos gerais, enquanto o Backward Pass é aplicado a blocos com estrutura invertível, permitindo a geração de uma distribuição ampla de amostras de entrada.

3. Resultados Experimentais

Os métodos foram testados em duas categorias de arquiteturas:

Transformers (ViT): Modelos tiny-ViT e DINOv3-Base fine-tuned no conjunto de dados MNIST. O método Forward Pass foi utilizado.
Redes Fully Connected (FCNN): Redes com 1, 2 e 6 camadas lineares seguidas de ativação SELU. O método Backward Pass foi utilizado.

Principais Achados:

Precisão de Classificação: As imagens geradas por ambos os novos métodos atingiram pontuações de probabilidade $\geq 0.9$ para a classe alvo e $\leq 0.1$ para as demais, demonstrando eficácia na inversão.
Aleatoriedade e Complexidade: Diferente dos métodos anteriores que geravam imagens similares aos dados de treinamento, os novos métodos produzem imagens altamente aleatórias (semelhantes a ruído).
Correlação com Complexidade: A aleatoriedade das imagens geradas aumenta drasticamente com a complexidade da rede. Redes com 1 camada ainda mostravam alguma semelhança com os dados de treino, enquanto redes com 2 ou mais camadas e os Transformers geraram imagens completamente aleatórias.
Vulnerabilidades: A capacidade de gerar imagens aleatórias que enganam a rede com alta confiança expõe vulnerabilidades nas arquiteturas subjacentes, sugerindo que as redes podem estar aprendendo características não robustas.

4. Contribuições Chave

Algoritmo de Passagem para Frente: Um método baseado em busca de raízes e Jacobiano que não requer treinamento adicional (como decodificadores) e é aplicável a qualquer arquitetura.
Algoritmo de Passagem para Trás: Um método sofisticado que inverte camadas sequencialmente e utiliza a amostragem do espaço nulo para gerar múltiplas soluções, cobrindo melhor o espaço de entrada.
Descoberta de Vulnerabilidades: Demonstração de que é possível criar imagens "semelhantes a ruído" que obtêm classificação perfeita, desafiando a noção de que as redes dependem apenas de características visuais semânticas claras.
Cobertura Abrangente: Os métodos oferecem uma cobertura mais completa do espaço de imagens de entrada que resolvem o problema de mapeamento inverso.

5. Significado e Conclusão

O trabalho avança o campo da IA Explicável (XAI) ao fornecer ferramentas para visualizar o que uma rede neural "vê" para classificar uma imagem específica. Ao provar que redes complexas podem ser enganadas por entradas aleatórias geradas via inversão, os autores destacam a necessidade de maior robustez nos modelos.

Aplicações Futuras: Os métodos podem ser usados para re-treinar redes com exemplos adversariais (aprendizado adversarial) ou como geradores de imagens.
Trabalho Futuro: Os autores planejam expandir o método Backward Pass para lidar com funções de ativação não invertíveis (como ReLU) utilizando métodos de programação linear.

Em resumo, o artigo apresenta uma abordagem matemática rigorosa para "desfazer" o processo de classificação de redes neurais, revelando que, para redes complexas, o espaço de soluções para uma classe específica é vasto e pode ser preenchido por dados que nada têm a ver com a semântica da classe original.