Optimization over Trained (and Sparse) Neural Networks: A Surrogate within a Surrogate

Este trabalho propõe otimizar modelos que incorporam redes neurais grandes e pré-treinadas substituindo-as por versões esparsas e podadas, demonstrando que essa abordagem gera soluções melhores em tempo limitado para verificação e maximização, mesmo sem o passo padrão de ajuste fino (finetuning).

O essencial

Imagine que você tem um mapa gigante e extremamente detalhado de uma cidade. Esse mapa é tão complexo, com cada rua, beco e árvore desenhados, que tentar encontrar o caminho mais rápido para um destino específico usando esse mapa demora uma eternidade. O computador que tenta resolver esse problema fica "travado" de tanto processar detalhes desnecessários.

Esse é o problema que os autores do artigo estão tentando resolver.

Aqui está a explicação simples do que eles fizeram, usando analogias do dia a dia:

1. O Problema: O Mapa Demais

Na inteligência artificial, usamos redes neurais (que são como cérebros artificiais) para aprender padrões. Às vezes, queremos usar esse "cérebro" para tomar decisões ou encontrar o melhor resultado possível (como a rota mais rápida ou o design de um remédio mais eficiente).

O problema é que esses cérebros artificiais modernos são gigantescos. Quando tentamos usar um desses cérebros gigantes dentro de um sistema de otimização (um sistema que busca o "melhor" resultado), o sistema fica sobrecarregado. É como tentar dirigir um carro de Fórmula 1 em um trânsito de bicicleta: o motor é muito potente, mas o sistema de navegação não consegue acompanhar a velocidade.

2. A Solução Proposta: O "Esboço" Rápido

Os autores perguntaram: "E se, em vez de usar o mapa completo e detalhado, usássemos uma versão simplificada, um esboço, apenas para encontrar a direção geral?"

A técnica que eles usaram chama-se Poda (Pruning).
Imagine que você tem uma árvore muito grande e cheia de galhos. Para podá-la, você corta os galhos que parecem menos importantes.

• O que eles fizeram: Eles pegaram a rede neural gigante e "cortaram" (zeraram) muitos dos seus pesos (conexões internas), deixando-a muito mais simples e esparsa (cheia de "buracos").
• O resultado: Eles criaram uma versão "magra" e rápida da rede neural.

3. A Grande Surpresa: Não é preciso "Treinar" de novo!

Aqui está a parte mais interessante e contra-intuitiva do artigo.

Normalmente, quando você corta galhos de uma árvore ou poda uma rede neural, ela fica um pouco "doente" ou perde precisão. O padrão na indústria é: Pode a rede -> Treine-a de novo (ajuste os parâmetros restantes) -> Use-a. Isso é chamado de ajuste fino (finetuning).

Mas os autores descobriram algo surpreendente:
Às vezes, é melhor usar a rede podada "crua", sem treiná-la de novo.

• A Analogia: Pense em um guia turístico que você contratou. Ele conhece a cidade perfeitamente, mas é lento para falar. Você corta 90% das informações que ele sabe (deixando apenas as ruas principais). Agora, ele é super rápido, mas comete erros de detalhes.
  • O jeito tradicional: Você o manda estudar o mapa de novo para corrigir os erros (gastando tempo e dinheiro).
  • O jeito deles: Você usa o guia "cru" imediatamente. Mesmo que ele erre alguns detalhes, a velocidade com que ele aponta a direção geral é tão superior que, no tempo limite que você tem, você chega ao destino mais rápido do que se tivesse usado o guia original lento ou o guia "re-treinado".

4. Onde isso funciona?

Eles testaram isso em duas situações principais:

1. Verificação de Segurança (Network Verification):

   • O cenário: Tentar descobrir se um carro autônomo pode ser enganado por uma mancha de tinta na estrada (um ataque adversarial).
   • O resultado: Usar a rede podada e "não treinada" foi muito mais rápido para encontrar esses defeitos do que usar a rede original. Mesmo que a rede podada fosse "burra" (com baixa precisão de classificação), ela ainda conseguia apontar onde o problema estava, e o sistema de otimização conseguia resolver isso em segundos, enquanto o original levava horas ou nem terminava.

2. Maximização de Funções (Function Maximization):

   • O cenário: Tentar encontrar o ponto onde uma função (um gráfico) atinge o valor mais alto.
   • O resultado: Para redes muito grandes e complexas, usar a versão podada ajudou a encontrar soluções melhores dentro do tempo limite, especialmente quando a rede era muito larga (muitos neurônios).

Resumo da Ópera

O artigo diz que, quando você precisa usar uma Inteligência Artificial gigante para resolver um problema de otimização complexo:

1. Não tente usar a rede completa; ela é muito pesada.
2. Pode a rede (corte a maioria das conexões) para torná-la leve e rápida.
3. Não gaste tempo treinando-a de novo. Use a versão podada "como está".
4. Mesmo que essa versão seja menos precisa em tarefas normais, ela funciona como um surrogato (substituto) muito mais eficiente para encontrar soluções rápidas e boas dentro de um tempo limitado.

É como dizer: "Para achar o caminho de fuga em um incêndio, não use o mapa de arquitetura detalhado da casa. Use um esboço rabiscado no guardanapo. Você pode perder a localização de um vaso de flores, mas vai achar a porta de saída muito mais rápido."

Resumo técnico

Título: Otimização sobre Redes Neurais Treinadas (e Esparsas): Um Surrogato dentro de um Surrogato

1. O Problema

O campo de aprendizado de restrições (constraint learning) utiliza redes neurais (RN) como funções surrogatas para representar partes de restrições ou funções objetivo em modelos de otimização. Isso é útil quando a forma exata da função é desconhecida ou intratável (não linear, não convexa e grande).

No entanto, a tratabilidade (capacidade de ser resolvida eficientemente) do modelo de otimização resultante é severamente limitada pelo tamanho da rede neural embutida. Ao converter redes neurais (especialmente com ativação ReLU) em formulações de Programação Linear Inteira Mista (MILP), o número de variáveis e restrições cresce exponencialmente com o tamanho da rede, tornando a solução inviável para redes grandes dentro de limites de tempo razoáveis.

O artigo aborda um cenário específico: como resolver um modelo de otimização que embute uma rede neural grande e pré-treinada (dada), sem a possibilidade de retreinar a rede do zero? A questão central é se é possível simplificar essa rede para torná-la mais tratável, mantendo a qualidade da solução do problema de otimização original.

2. Metodologia

Os autores propõem uma abordagem de surrogato dentro de um surrogato: em vez de otimizar diretamente sobre a rede neural densa original ($D$), eles utilizam uma versão poda (pruned) e esparsa dessa rede ($S$) como um surrogato mais simples para guiar a busca por soluções.

A. Poda de Rede (Network Pruning)

• Técnica: Utilizam a Poda por Magnitude (Magnitude Pruning - MP), que remove os pesos com os menores valores absolutos.
• Estratégia: Aplicam taxas de poda variadas (de 30% a 95% de remoção de parâmetros).
• Abordagem Esparsa: A rede esparsa $S$ é usada para resolver o problema de otimização (MILP) de forma mais rápida.
• Validação: As soluções candidatas encontradas na rede esparsa são então avaliadas na rede densa original $D$.
  • Verificação de Rede: Se uma entrada adversarial for encontrada em $S$, ela é testada em $D$.
  • Maximização de Função: Se um valor de saída for encontrado em $S$, ele é calculado em $D$ para ver se é o melhor valor global.

B. A Surpreendente Ausência de Finetuning

Um dos pilares metodológicos do trabalho é a comparação entre:

1. Com Finetuning: Poda seguida de retreinamento (ajuste fino) para recuperar a acurácia da rede.
2. Sem Finetuning: Uso da rede imediatamente após a poda, mesmo que sua acurácia de inferência (classificação) seja degradada.

O trabalho investiga se a rede "quebrada" (sem finetuning) pode ainda servir como um surrogato eficaz para otimização, apesar de ter desempenho inferior em tarefas de classificação padrão.

C. Algoritmos Propostos

• Algoritmo 1 (Verificação): Itera sobre soluções viáveis do MILP da rede esparsa. Para cada solução, calcula a saída na rede densa. Se a condição de adversarialidade for satisfeita na rede densa, a solução é retornada.
• Algoritmo 2 (Maximização): Mantém o registro da melhor solução encontrada na rede densa durante a busca na rede esparsa, atualizando o melhor valor conforme novas soluções viáveis são descobertas no MILP esparsa.

3. Principais Contribuições

1. Inversão de Paradigma: Demonstram que, para fins de otimização e verificação, uma rede neural com pior acurácia de inferência (devido à falta de finetuning) pode ser um surrogato melhor do que uma rede retreinada. A estrutura esparsa facilita a resolução do MILP, compensando a perda de precisão da função.
2. Eficiência Computacional: Provar que a poda não estruturada (unstructured pruning) sem finetuning é uma estratégia custo-benefício superior para resolver problemas de verificação de redes neurais e maximização de funções.
3. Análise de Taxas de Poda: Identificam que taxas de poda muito altas (ex: 90-95%) aceleram drasticamente a busca, mesmo que a rede perca quase toda a sua capacidade de classificação original.
4. Framework Experimental Robusto: Realizaram extensos testes em dois conjuntos de dados (MNIST e Fashion-MNIST) e em problemas de maximização de funções sintéticas, variando profundidade, largura e tamanho de entrada.

4. Resultados

Verificação de Redes Neurais (Network Verification)

• Desempenho: A abordagem indireta (usando a rede esparsa sem finetuning) encontrou entradas adversariais mais rapidamente na grande maioria dos casos em comparação com a resolução direta na rede densa.
• Impacto do Finetuning:
  • Para taxas de poda baixas (30-50%), não fazer finetuning foi superior ou equivalente.
  • Para taxas altas, o finetuning ajudou marginalmente na taxa de sucesso, mas o tempo gasto no finetuning tornava o processo total mais lento do que resolver diretamente a rede densa.
• Conclusão Chave: Redes com acurácia próxima ao acaso (após poda extrema sem finetuning) ainda são excelentes guias para encontrar pontos de ataque (adversarial inputs) porque a estrutura esparsa permite que o solver MILP explore o espaço de soluções mais rapidamente.

Maximização de Funções (Function Maximization)

• A abordagem também funcionou bem para encontrar máximos globais, especialmente em redes maiores (mais camadas ou largura).
• Diferente da verificação, onde a acurácia da rede esparsa importava menos, na maximização, redes muito grandes com alta taxa de poda (95%) mostraram os melhores ganhos, sugerindo que a estrutura esparsa ajuda a escapar de ótimos locais ou a navegar em paisagens complexas mais eficientemente.

Comparação de Técnicas de Poda

• Poda Não Estruturada (Unstructured) vs. Estruturada: A poda não estruturada (remover pesos individuais) superou consistentemente a poda estruturada (remover neurônios inteiros) neste contexto de otimização, especialmente sem finetuning.
• Poda por Magnitude vs. Aleatória: A Poda por Magnitude (MP) foi significativamente superior à Poda Aleatória (RP), indicando que a estrutura dos pesos remanescentes é crucial.

5. Significado e Implicações

Este trabalho desafia a intuição comum de que um surrogato deve ser uma aproximação fiel da função original em termos de acurácia de predição.

• Para Pesquisa de Otimização: Sugere que a "qualidade" de um surrogato para otimização não deve ser medida apenas pela acurácia de inferência, mas pela tratabilidade do modelo de otimização resultante.
• Para Segurança de IA: Oferece uma ferramenta mais rápida para verificar a robustez de redes neurais contra ataques adversariais, permitindo analisar redes grandes que antes seriam intratáveis.
• Eficiência Operacional: Elimina a necessidade de retreinamento (finetuning), que consome dados e tempo computacional, tornando o processo de otimização sobre redes neurais muito mais ágil e acessível.

Em resumo, o artigo demonstra que sacrificar a precisão da rede neural em favor da esparsidade estrutural é uma estratégia vencedora para resolver problemas de otimização embutidos, especialmente quando o objetivo é encontrar soluções viáveis ou extremas dentro de limites de tempo estritos.