🤖 AI

Adversarially Robust Abductive Fusion of Pre-trained Transformer-based Perception Models

Este artigo propõe uma estrutura de fusão neurosimbólica livre de conhecimento de domínio que aproveita Pools de Vetores de Rótulos e abstração baseada em consistência para combinar robustamente detectores ViT pré-treinados, alcançando um desempenho superior aos baselines de votação majoritária tanto sob mudanças distributivas quanto sob ataques adversários coordenados.

Autores originais: Mario Leiva, Yue Ma, Qinru Qiu, Gerardo Simari, Paulo Shakarian

Publicado 2026-08-06

📖 8 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Mario Leiva, Yue Ma, Qinru Qiu, Gerardo Simari, Paulo Shakarian

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é o capitão de uma nave espacial navegando através de uma galáxia tempestuosa e alienígena. Você tem uma tripulação de seis sensores especialistas, cada um treinado para detectar marcos específicos como rochas, naves ou estações espaciais. Mas aqui está o detalhe: seus sensores foram todos treinados em um sistema solar calmo e ensolarado. Agora, você está voando através de uma nebulosa caótica repleta de névoas estranhas, poeira rodopiante e iluminação bizarra. Seus sensores estão confusos. Eles começam a gritar relatórios conflitantes: "Isso é uma rocha!" "Não, é uma nave!" "Na verdade, é um urso espacial gigante!"

Este é o problema do mundo real que os cientistas enfrentam com a Inteligência Artificial. Nós construímos programas de computador incrivelmente inteligentes (chamados de "modelos de percepção") que podem identificar coisas em fotos, como carros ou pessoas. Mas esses programas são como os nossos sensores espaciais: eles são especialistas no que já viram antes, mas ficam facilmente confusos quando o mundo muda. Se você pegar um carro autônomo treinado em estradas ensolaradas da Califórnia e dirigi-lo através de uma nevasca em Minnesota, ele pode começar a ver flocos de neve como pedestres ou parar de funcionar inteiramente.

Para corrigir isso, os engenheiros geralmente tentam fazer com que vários modelos de IA trabalhem juntos, como um comitê. A maneira mais comum de tomar uma decisão em comitê é a Votação por Maioria: se três de seis modelos dizem "É um carro", o sistema decide que é um carro. Parece justo, certo? Mas há uma grande falha. Se um hacker astuto (ou apenas uma tempestade muito ruim) enganar alguns dos modelos para que concordem com a resposta errada, todo o comitê será enganado. É como se três amigos em um grupo de chat decidissem fazer uma pegadinha com você dizendo que o céu é verde; se você apenas seguir a maioria, acreditará que o céu é verde.

Este artigo apresenta uma maneira mais inteligente de gerir esse comitê. Em vez de apenas contar votos, o novo sistema age como um detetive que verifica a consistência lógica. Ele pergunta: "Essa história faz sentido?" Se um modelo diz "É um carro" e outro diz "É uma nuvem", o sistema não apenas conta cabeças; ele examina as evidências para ver qual história se sustenta sem contradições. Os autores mostram que este método é muito mais difícil de enganar e funciona melhor quando o ambiente é totalmente novo.

O Novo Kit de Ferramentas do Detetive: Aprendendo Sem um Guia de Referência

Os pesquisadores, Mario Leiva e sua equipe, queriam resolver dois grandes problemas. Primeiro, os métodos anteriores precisavam de um "guia de referência" do conhecimento humano para detectar erros. Por exemplo, um humano poderia dizer ao computador: "Pedestres geralmente estão na calçada, não no céu" ou "Carros são maiores do que isto". Mas e se você estiver em um ambiente totalmente novo onde não conhece as regras? Você não pode escrever um guia de referência para um lugar que nunca viu.

Segundo, eles queriam impedir que a "Votação por Maioria" fosse facilmente hackeada.

A Solução: O "Pool de Vetores de Rótulos"
Para resolver o primeiro problema, a equipe inventou uma maneira de a IA aprender seu próprio guia de referência sem qualquer ajuda humana. Eles usaram um truque inteligente envolvendo a "memória" de cada modelo de IA.

Imagine que cada modelo de IA possui uma biblioteca mental de cada objeto que já viu durante seu treinamento. Quando vê um "carro", ele não armazena apenas a palavra "carro"; ele armazena uma impressão digital matemática única (um embedding) de como aquele carro era. Os pesquisadores reuniram todas essas impressões digitais para cada tipo de objeto e as agruparam em pequenos agrupamentos chamados Pools de Vetores de Rótulos.

Pense nisso como um "anel de humor" para objetos. Se um modelo vê um novo objeto, ele verifica: "A impressão digital deste objeto se parece com o anel de humor de 'carro', ou se parece com o anel de humor de 'árvore'?" Se o objeto deveria ser um carro, mas sua impressão digital está muito fora do padrão — como um carro que parece uma nuvem — o sistema o sinaliza como suspeito. Isso acontece automaticamente, usando apenas a matemática dentro do modelo, sem a necessidade de regras humanas sobre calçadas ou tamanhos.

A Solção: O "Detetive de Consistência"
Uma vez que o sistema sabe quais previsões são suspeitas, ele não as descarta simplesmente. Em vez disso, utiliza um método chamado Raciocínio Abdutivo. Esta é uma forma elegante de dizer "inferência para a melhor explicação".

Imagine que você é um detetive tentando resolver um mistério com seis testemunhas.

Votação por Maioria apenas perguntaria: "Quem concorda com a maioria das pessoas?" Se três testemunhas dizem "O mordomo fez isso", o detetive prende o mordomo.
Este Novo Sistema pergunta: "Quem está contando uma história que não contradiz as outras?"

Se três testemunhas dizem "O mordomo fez isso", mas uma testemunha diz "O mordeto estava na cozinha na hora" e outra diz "O mordomo é alérgico à arma", o sistema percebe que a história do "mordomo fez isso" tem lacunas. Ele pode decidir confiar nas testemunhas que são consistentes entre si, mesmo que elas sejam a minoria. Ele constrói um quebra-cabeça lógico onde cada peça deve se encaixar perfeitamente. Se uma peça (uma previsão) faz com a imagem completa desmoronar, ela é rejeitada, mesmo que muitas pessoas tenham votado nela.

O Grande Teste: Tempestades e Hackers Astutos

A equipe testou essa ideia em um desafio difícil: imagens aéreas de uma cidade sob 15 condições climáticas diferentes, desde chuva forte até tempestades de poeira. Eles usaram seis modelos de IA diferentes, cada um treinado em apenas um tipo de clima. Quando lançaram todos na mistura, o clima era um caos.

O Resultado de Dados Limpos
Primeiro, eles testaram o sistema em condições normais, sem ataques. Descobriram que seu novo "Detetive de Consistência" teve um desempenho tão bom quanto as melhores equipes de "Votação por Maioria". Não houve perda de precisão; era tão bom em detectar carros e pessoas quanto os métodos antigos.

O Teste de Ataque
Depois, trouxeram os vilões. Eles simularam um ataque coordenado. Imagine um hacker que não consegue quebrar os modelos de IA individualmente, mas consegue enganar um pequeno grupo deles para que todos gritem a mesma resposta errada ao mesmo tempo.

A Equipe de Votação por Maioria: Quando o hacker fez com que 90% dos objetos recebessem um rótulo invertido (um rótulo errado forçado pelo ataque), o sistema de Votação por Maioria colapsou. Sua precisão caiu para 0,35 em média nos conjuntos de teste. Foi completamente enganado porque os hackers só precisavam controlar alguns modelos para influenciar a maioria.
O Detetive de Consistência: O novo sistema não recuou tanto. Mesmo com o mesmo ataque de 90%, manteve uma precisão média de 0,42 em todos os 15 conjuntos de teste. Isso pode não parecer uma diferença enorme, mas no mundo da IA, isso é uma melhoria de 22% sobre o método antigo.

O motivo? Os hackers tentaram forçar uma maioria, mas o Detetive de Consistência olhou para a lógica. Se os hackers forçaram três modelos a dizer "É uma nuvem", mas os outros três modelos (e a lógica interna do sistema) disseram "Isso não faz sentido", o detetive ignorou os hackers. Ele confiou na história que fazia sentido, não no número de vozes.

Por Que Isso Importa

O artigo mostra que você não precisa ser um especialista humano para construir uma rede de segurança para a IA. Ao permitir que a IA aprenda suas próprias regras de "impressão digital" e ao verificar se as histórias que ela ouve são logicamente consistentes, você pode construir um sistema que é:

Portátil: Funciona em ambientes novos e estranhos sem precisar de um manual.
Resistente: Não pode ser facilmente enganado por hackers que tentam manipular a votação.

Os pesquisadores realizaram esses testes em um servidor de computador padrão, e o sistema foi rápido o suficiente para ser prático. O "Detetive de Consistência" (especificamente o seu método "IP+TB") levou um pouco mais de tempo para resolver o quebra-cabeça do que o simples contador de votos, mas ainda assim foi rápido o suficiente para ser usado em tempo real.

No fim, este artigo sugere que, quando enviamos IAs para o desconhecido — seja para uma zona de desastre, um planeta remoto ou uma cidade sob ataque — não devemos apenas ouvir a voz mais alta. Devemos ouvir a voz que faz mais sentido.

Resumo Técnico: Fusão Abdutiva Adversariamente Robusta de Modelos de Percepção Baseados em Transformers Pré-treinados

Declaração do Problema

A implantação de modelos de percepção pré-treinados (especificamente Vision Transformers) em ambientes novos — como zonas de desastre ou regiões remotas sem dados de treinamento representativos — leva a uma degradação significativa da precisão devido a mudanças distributivas. Embora a montagem de múltiplos modelos seja uma estratégia comum, combinadores simples como votação por maioria (MV) são frágeis: eles trocam recall por precisão e são altamente suscetíveis a falhas coordenadas onde um adversário manipula uma minoria de modelos para inverter o voto coletivo.

Abordagens metacognitivas anteriores tentam mitigar isso aprendendo regras lógicas para sinalizar erros. No entanto, esses métodos dependem de conhecimento de domínio redigido à mão (ex: priors de tamanho de objeto, máscaras de segmentação) que não se transferem para cenas genuinamente novas. Além disso, trabalhos anteriores não abordaram adequadamente cenários onde modelos perceptivos estão sujeitos a perturbações adversárias projetadas para derrotar ensembles baseados em votação.

Metodologia

O framework proposto aborda essas limitações enquadrando a fusão de detectores imperfeitos como um problema de abdução baseada em consistência resolvido em tempo de teste. O sistema opera em duas fases distintas:

1. Treinamento Offline: Camada Metacognitiva Livre de Conhecimento de Domínio

Em vez de depender de predicados de domínio criados à mão, os autores aprendem um sinal de detecção de erro usando apenas os embeddings internos de cada modelo pré-treinado.

Label Vector Pools (LVP): Para cada modelo $f_i$ e classe $c$ , o sistema agrupa os embeddings de detecção de treinamento do modelo (usando $k$ -means, $k=3$ ) para criar um pool de vetores protótipos $\{ \mu_{i,c}^1, \mu_{i,c}^2, \mu_{i,c}^3 \}$ .
Detector de Erro: Para uma nova detecção com embedding $e$ , o sistema calcula as distâncias euclidianas para todos os protótipos no pool, formando um vetor de características $\phi(e)$ . Um classificador Random Forest, treinado por (modelo, classe), mapeia essas distâncias para uma probabilidade de erro $s_{i,c}(e)$ .
Aprendizado de Regras: Essas probabilidades são submetidas a limiares para gerar Regras de Detecção de Erro (EDR). Uma regra é disparada se a probabilidade de erro exceder um limiar aprendido $\tau$ , que é controlado por um hiperparâmetro de rigor $\epsilon$ . Esta camada não requer artefatos externos da cena (máscaras, priors) e é transferível para qualquer novo modelo ou cena.

2. Inferência Online: Abdução Baseada em Consistência

No tempo de teste, $\eta$ modelos percebem uma cena nova. Suas previsões, combinadas com os programas EDR por modelo, formam um programa lógico $\Pi$ .

Formulação Lógica: O sistema busca um subconjunto de previsões aceitas $H$ $H$ que maximize a cobertura (recall) enquanto minimize a inconsistência lógica.
- Restrições de Integridade: O único conhecimento de domínio utilizado é a exclusividade mútua de rótulos de classe (um objeto não pode ter duas classes diferentes).
- Objetivo: Maximizar $Pred(H)$ (o número de atribuições aceitas) sujeito a $Inc(H) \le \delta$ , onde $Inc(H)$ é a contagem normalizada de restrições de integridade violadas.
Solvers: O problema é resolvido via:
- Programa Inteiro Exato (IP): Resolve a otimização globalmente.
- Busca Heurística (HS): Um algoritmo guloso de tempo polinomial que seleciona iterativamente o melhor par (modelo, classe) para aceitar com base no ganho de cobertura vs. orçamento de inconsistência.
- Desempate (TB): Um passo opcional para resolver rótulos ambíguos selecionando a previsão com maior confiança.

Principais Contribuições

Metacognição Livre de Conhecimento de Domínio: O artigo demonstra que regras de detecção de erro podem ser aprendidas inteiramente a partir da geometria dos próprios embeddings de treinamento do modelo (via LVP). Isso remove a necessidade de pistas redigidas à mão, tornando o sistema portátil para novos ambientes onde máscaras de segmentação ou priors de tamanho não estão disponíveis. A abordagem baseada em LVP atinge paridade com baselines de conhecimento de domínio (dentro de 0.002 F1) sem usar qualquer conhecimento de domínio.
Robustez a Ataques Coordenados: Ao mudar de contagem de votos (votação por maioria) para aceitação baseada em consistência, o framework é inerentemente mais robusto a ataques de inversão de rótulo coordenados. Enquanto a votação por maioria falha quando uma minoria de modelos é forçada a concordar com um rótulo errado, a abordagem abdutiva aceita previsões apenas se forem consistentes com as restrições lógicas e as saídas de outros modelos.
Fusão Abdutiva Escalável: Os autores fornecem tanto uma formulação de IP exata quanto uma busca heurística (HS) escalável de tempo polinomial para resolver o problema de abdução, demonstrando que a fusão impulsionada por consistência é computacionalmente viável para cenários de detecção do mundo real.

Resultados Experimentais

O framework foi avaliado no dataset MDS-A (Multiple Distribution Shift – Aerial), composto por 15 conjuntos de teste com mudança de clima e seis detectores baseados em ViT, bem como um dataset multimodal VisDrone-DroneVehicle (RGB + IR).

Desempenho em Dados Limpos: Em dados não atacados, os métodos propostos (IP+TB e HS+TB) apresentam desempenho estatisticamente equivalente ao baseline mais forte de votação por maioria (MV-Plurality), alcançando F1 scores comparáveis (dentro de 0.005 F1) enquanto superam os baselines de modelo único.
Robustez Adversária: Sob um ataque de inversão de rótulo coordenado (onde um adversário força um subconjunto de modelos a concordar com um rótulo errado):
- A votação por maioria degrada significativamente conforme a taxa de inversão ( $p$ ) aumenta.
- A abordagem abdutiva degrada de forma graciosa. Com uma taxa de inversão de 90%, o método proposto atinge um F1 médio de 0.42, comparado a 0.35 para o MV-Plurality (um ganho relativo de 22%).
- Uma vez que a taxa de inversão excede 0.4, o método proposto atinge o F1 mais alto em cada conjunto de teste.
Tempo de Execução: A variante de Busca Heurística (HS) processa cenários em 1.9–19.7 segundos com um tempo de resolução por objeto de 1.4–3.0 ms, tornando-a adequada para orçamentos de latência rigorosos. O IP Exato é mais lento, mas permanece prático para aplicações offline ou menos críticas em termos de tempo.

Significância e Alegações

O artigo alega que a camada metacognitiva de um sistema de percepção multimodelos pode ser efetivamente aprendida sem conhecimento de domínio, baseando-se apenas nas propriedades geométricas dos embeddings de treinamento. Ao enquadrar a integração de modelos como um problema de abdução baseado em consistência, os autores demonstram um combinador que é:

Competitivo em dados limpos: Igualando o desempenho de métodos de ensemble padrão sem depender de votação.
Resiliente a coordenação adversária: Mantendo o desempenho sob ataques que visam especificamente as suposições de independência da votação por maioria.

Os autores enfatizam que esta abordagem permite que a mesma maquinaria abdutiva se transfira entre domínios sem a reengenharia de regras de detecção de erro, pois as regras são derivadas das próprias representações internas dos modelos em vez de semânticas de cena externas. Embora as regras LVP e de conhecimento de domínio (DK) capturem diferentes tipos de erros (anomalias de embedding vs. erros geométricos/contextuais), o artigo observa que combinar ambas não resultou em uma melhoria significativa de F1 em seus experimentos, embora permaneça como uma direção para trabalhos futuros.