🤖 AI

TESTNAV: Pareto-Guided Search for Compositional Robustness Testing

O TESTNAV é uma estrutura guiada por Pareto que identifica de forma eficiente falhas de modelos severas, porém realistas, em testes de robustez composicional ao formular o problema como uma otimização bi-objetivo para maximizar a degradação de desempenho enquanto preserva a fidelidade da entrada, recuperando frentes de Pareto significativamente mais rápido do que as linhas de base de busca existentes.

Autores originais: Arooj Arif, Tobias Hartung, Elena Botoeva, Alexandros Koliousis

Publicado 2026-08-21

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Arooj Arif, Tobias Hartung, Elena Botoeva, Alexandros Koliousis

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Os sistemas modernos de inteligência artificial, particularmente aqueles que impulsionam o reconhecimento de imagens, a tradução de idiomas e a geração de código, tornaram-se notavelmente habilidosos em suas tarefas. No entanto, eles permanecem frágeis. Uma leve mudança na iluminação, uma mancha de ruído em uma lente de câmera ou um único erro de digitação em uma frase podem fazer com que esses sistemas falhem completamente. Durante anos, pesquisadores testaram esses modelos introduzindo um tipo de erro por vez, como desfocar uma imagem ou alterar uma palavra. No entanto, o mundo real raramente é tão simples. Na condução autônoma ou no diagnóstico por imagem médica, múltiplos problemas frequentemente ocorrem simultaneamente: um carro pode estar dirigindo sob chuva enquanto a lente da câmera está suja e o sol está ofuscante. Esses erros combinados criam uma teia complexa de interações que testes de erro único frequentemente ignoram, deixando fraquezas ocultas no software que poderiam levar a falhas perigosas na prática.

Para entender como esses sistemas quebram sob pressão realista, uma equipe de pesquisadores da Northeastern University London e da University of Kent desenvolveu um novo método chamado TESTNAV. Eles reconheceram que testar todas as combinações possíveis de erros é impossível; com apenas quatro tipos de erros e seis níveis de severidade para cada um, existem mais de mil cenários únicos para verificar. Além disso, simplesmente acumular mais erros nem sempre revela a informação mais útil. Se uma imagem for corrompida tão pesadamente que não se pareça em nada com a original, a falha do modelo é esperada e nos diz pouco sobre seus limites reais. As falhas mais valiosas são aquelas em que a entrada ainda parece e soa como a coisa real, mas o modelo erra. Esses casos específicos expõem vulnerabilidades genuínas, em vez de apenas uma sensibilidade óbvia a dados inúteis.

Os pesquisadores enquadraram esse desafio como um equilíbrio entre dois objetivos concorrentes: fazer o modelo falhar o mais drasticamente possível, mantendo a entrada o mais próxima possível da original. Eles trataram isso não como um objetivo único a ser maximizado, mas como uma busca pelos melhores compromissos possíveis. Imagine tentar encontrar os pontos mais altos em uma cadeia de montanhas acidentadas, onde o terreno representa diferentes combinações de erros. Alguns pontos oferecem uma queda acentuada no desempenho, mas mantêm a imagem clara; outros mantêm a imagem perfeita, mas falham em quebrar o modelo. Os pesquisadores queriam mapear toda a linha de crista onde esses dois objetivos se encontram, um caminho conhecido na matemática como fronteira de Pareto. Para fazer isso de forma eficiente, eles usaram um algoritmo evolutivo, um programa de computador que imita a seleção natural. Em vez de testar todos os caminhos, o programa gera uma população de casos de teste, mantém os mais promissores e os mistura para criar novos candidatos melhores, refinando gradualmente a busca até encontrar os pontos de falha mais críticos.

Quando a equipe aplicou este método a quatro benchmarks diferentes cobrindo reconhecimento de imagem, correspondência de sentenças e geração de código, os resultados foram impressionantes. Através dessas diversas tarefas, o TESTNAV encontrou as combinações de falhas mais críticas até 2,15 vezes mais rápido do que outros métodos de busca que não utilizaram essa abordagem de equilíbrio. Em alguns casos, o novo método precisou avaliar apenas cerca de 36 por cento das combinações de erros possíveis para encontrar o mesmo conjunto de falhas críticas que outros métodos encontraram após verificar quase 90 por cento. O estudo também testou se métricas mais simples, como medir o quanto os neurônios internos de um modelo dispararam ou o quão incerto ele se sentia, poderiam prever essas falhas. Eles descobriram que esses indicadores de número único não eram suficientes; eles não podiam identificar de forma confiável as combinações específicas de erros que causavam a falha do modelo enquanto a entrada permanecia realista.

Os pesquisadores também descobriram que a forma das falhas mais críticas depende fortemente de como se mede a qualidade da entrada. Ao usar certas métricas para julgar a qualidade da imagem, as falhas mais perigosas estavam espalhadas por muitas combinações diferentes de erros, tornando essencial uma estratégia de busca ampla. Em outros casos, as falhas estavam agrupadas densamente em uma área, onde uma busca mais simples e focada funcionava igualmente bem. Isso sugere que não existe uma única "melhor" maneira de testar todos os sistemas de IA; a estratégia deve se adaptar à natureza específica dos dados e dos erros testados. Ao focar no equilíbrio entre quebrar o modelo e manter a entrada realista, o TESTNAV fornece uma maneira prática de encontrar as rachaduras ocultas na inteligência artificial antes que elas causem danos no mundo real, garantindo que esses sistemas sejam robustos não apenas na teoria, mas na realidade complexa e desordenada onde são realmente utilizados.

Resumo Técnico: TESTNAV – Busca Guiada por Pareto para Testes de Robustez Composicional

1. Definição do Problema

Modelos de aprendizado profundo, embora alcancem um forte desempenho nas tarefas, permanecem vulneráveis a perturbações de entrada do mundo real. Os testes de robustez tradicionais frequentemente avaliam perturbações de forma isolada (por exemplo, tipos de corrupção únicos como ruído ou desfoque). No entanto, as degradações do mundo real frequentemente surgem da interação de múltiplos fatores (por exemplo, mudanças simultâneas de brilho e desfoque de movimento).

Avaliar essas perturbações composicionais introduz dois desafios primários:

Explosão Combinatória: O espaço de perturbação cresce exponencialmente. Com $n$ tipos de perturbação e $\ell$ níveis discretos de severidade, o espaço de configuração escala como $\ell^n$ . Por exemplo, quatro tipos de perturbação com seis níveis cada resultam em 1.296 configurações, tornando a avaliação exaustiva computacionalmente dispendiosa.
Valor Diagnóstico Desigual: Nem todas as combinações de perturbações são igualmente informativas. Algumas combinações produzem entradas tão degradadas que perdem a fidelidade semântica (não se parecem mais com o original), tornando as falhas do modelo triviais e esperadas. Por outro lado, algumas combinações preservam alta fidelidade de entrada, mas induzem falhas no modelo, revelando fraquezas reais de robustez.

O problema central é como explorar eficientemente este espaço discreto e de alta dimensão sob um orçamento limitado de avaliação para identificar configurações que maximizem a degradação de desempenho enquanto preservam a fidelidade da entrada.

2. Metodologia: Estrutura TESTNAV

Os autores propõem o TESTNAV, um framework que formaliza o teste de robustez composicional como um problema de otimização bi-objetivo.

2.1 Objetivos

O TESTNAV busca aproximar a fronteira de Pareto das configurações de perturbação baseando-se em dois objetivos concorrentes:

Degradação de Desempenho ( $\delta$ ): Mede a queda no desempenho da tarefa (por exemplo, acurácia, Robust Pass) quando o conjunto de teste é perturbado. O objetivo é maximizar este valor.
Fidelidade de Entrada ( $\rho$ ): Mede o quão próximas as entradas perturbadas estão das entradas originais usando métricas específicas de modalidade. O objetivo é maximizar este valor.
- Visão: SSIM (Índice de Similaridade Estrutural) e KID (Distância de Incepção de Kernel, invertida).
- Linguagem/Código: chrF e BERT-F1.

2.2 Algoritmo de Busca

O TESTNAV emprega o NSGA-II (Algoritmo Genético de Ordenação Não Dominada II), um algoritmo evolutivo multi-objetivo, para navegar no espaço de configuração.

Inicialização: Uma população de configurações é amostrada uniformemente do reticulado discreto de todos os níveis de perturbação possíveis.
Variação: Novos candidatos são gerados via crossover binário simulado (SBX) e mutação polinomial. Como os níveis de severidade são inteiros, valores fracionários são arredondados para o nível válido mais próximo.
Seleção: O algoritmo classifica as configurações usando dominância de Pareto (uma configuração domina outra se for melhor em pelo menos um objetivo e não pior no outro). Para manter a diversidade ao longo da superfície de trade-off, utiliza a seleção por distância de agrupamento (crowding-distance), garantindo que a população cubra todo o espectro de degradação–fidelidade em vez de colapsar em uma única região.
Terminação: A busca continua até que um orçamento de avaliação pré-definido ( $B$ ) seja esgotado, retornando uma lista priorizada de configurações não dominadas.

3. Principais Contribuições

Formalização: O artigo formaliza o teste de robustez composicional como um problema de busca bi-objetivo com restrição de orçamento, equilibrando a severidade da falha contra a fidelidade da entrada.
Implementação do Framework: Introduz o TESTNAV, um framework baseado em NSGA-II que mantém um conjunto diverso de soluções não dominadas ao longo do trade-off degradação–fidelidade.
Validação Empírica: Os autores conduzem um estudo abrangente através de quatro benchmarks abrangendo visão (Tiny-ImageNet), linguagem natural (QQP) e geração de código (HumanEval, MBPP).
- Eles constroem as fronteiras de Pareto de verdade (ground-truth) avaliando exaustivamente todas as 1.296 configurações por dataset.
- Demonstram que o TESTNAV recupera essas fronteiras até 2,15× mais rápido do que baselines de busca (Busca Aleatória, Busca Gananciosa e Algoritmos Genéticos padrão) enquanto avalia apenas 35,8%–89,3% do espaço discreto total.
Análise de Métricas: O estudo revela que métricas de cobertura neural (ex: NAC, SNAC) e sinais de priorização ao nível da entrada (ex: DeepGini, Surpresa Adequacy) não identificam de forma confiável a região de falha Pareto-ótima, pois falham em capturar o trade-off específico entre degradação e fidelidade ao nível da configuração.

4. Resultados Experimentais

Eficiência: Sob orçamentos idênticos, o TESTNAV consistentemente alcança uma maior Área Sob a Curva (AUC) para Recall@P* comparado a baselines não-Pareto, particularmente quando a fronteira de Pareto é ampla (ex: usando SSIM para visão ou chrF para linguagem).
Comparação com Busca Escalar: Quando a fronte frente de Pareto é pequena e concentrada (ex: usando KID para visão), a busca escalar (otimizando um único score ponderado) pode ser competitiva. No entanto, o mecanismo de preservação de diversidade do TESTNAV prova ser superior quando a frente é espalhada, evitando que a busca colapse em uma única região da superfície de trade-off.
Necessidade de Bi-Objetivo: Estudos de ablação mostram que buscas de objetivo único (otimizando apenas para degradação ou apenas para fidelidade) falham em recuperar a fronte de Pareto completa. Otimizar apenas para degradação sacrifica a fidelidade, enquanto otimizar apenas para fidelidade falha em induzir falhas significativas no modelo.
Métricas de Nível de Entrada: Métricas de nível de entrada (cobertura de ativação, incerteza) foram consideradas insuficientes como proxies para o trade-off degradação–fidelidade, muitas vezes priorizando entradas novas que não correspondem a falhas severas e de alta fidelidade.

5. Significância e Alegações

O artigo afirma que o TESTNAV fornece uma abordagem sistemática e eficiente para identificar "falhas informativas" — casos onde um modelo falha em entradas que permanecem semanticamente fiéis ao original. Ao enquadrar o teste de robustez como um problema de otimização multi-objetivo, o framework evita as armadilhas da busca exaustiva e os vieses de objetivos escalares.

Os autores enfatizam que a geometria da fronte de Pareto depende da escolha das métricas de desempenho e fidelidade. A significância do TESTNAV reside em sua capacidade de se adaptar a essas geometrias, recuperando fraquezas de robustez significativas através dos domínios de visão, linguagem e código sem exigir avaliação exaustiva. O trabalho sugere que, para testes composicionais, equilibrar severidade e fidelidade é crítico, e a busca guiada por Pareto é um mecanismo robusto para alcançar esse equilíbrio sob restrições de recursos.

Limitações: O framework atual opera sobre famílias de perturbação e níveis de severidade discretos e pré-definidos. Os autores observam que estender isso para espaços de perturbação contínuos é uma direção para trabalhos futuros.