🤖 AI

Now You See the Hate: Adaptive View Retrieval for Hidden Hateful Illusions

Este artigo apresenta o Adaptive View Retrieval, um novo framework que supera significativamente os sistemas de segurança multimodais existentes na detecção de ilusões de ódio ocultas ao formular a tarefa como um problema de recuperação perceptual que recupera significados obscurecidos antes de avaliar sua nocividade.

Autores originais: Qianpu Chen, Derya Soydaner

Publicado 2026-07-22

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Qianpu Chen, Derya Soydaner

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está caminhando por uma galeria de arte digital onde as paredes estão cobertas de imagens. Na maior parte do tempo, essas imagens são inofensivas, mas algumas são traiçoeiras. Elas parecem uma cena normal — uma floresta, uma rua de uma cidade ou um padrão de letras — mas, se você apertar os olhos ou olhar para elas de um ângulo diferente, uma mensagem secreta aparece. Este é o mundo das ilusões de ótica, um campo que estuda como nossos cérebros (e computadores) às vezes são enganados pelo que veem. Por muito tempo, os cientistas sabem que os computadores são ruins em detectar esses truques; eles frequentemente veem a "superfície" da imagem, mas perdem a camada oculta por baixo.

Agora, imagine que alguém usa esses mesmos truques para esconder algo perigoso, como um símbolo de ódio ou uma palavra ofensiva, dentro de uma imagem que parece totalmente inocente. Este é um grande problema para os "seguranças" da internet — sistemas de IA projetados para escanear imagens e interromper conteúdo prejudicial. Se o segurança olhar apenas para a superfície da imagem, ele pode deixar um segredo perigoso passar direto. Este artigo aborda exatamente essa lacuna: como ensinamos os computadores a parar de apenas olhar para a superfície e começar a cavar em busca da verdade oculta antes de decidirem se uma imagem é segura ou não?

O Problema: O Ódio "Invisível"

Os pesquisadores descobriram que os atuais sistemas de segurança de IA estão falhando espetacularmente em detectar esses perigos ocultos. Quando testaram seis classificadores de segurança diferentes em imagens com ódio oculto, o melhor deles acertou apenas cerca de 20,9–24,5% delas. Mesmo os modelos de IA mais avançados e de última geração (os "superinteligentes") que receberam dicas especiais sobre a trapaça ainda tiveram dificuldades, pontuando em ou abaixo de 10,2%.

Pense nisso da seguinte forma: se você entregar a um segurança a foto de um parque tranquilo, mas houver uma pequena e invisível pichação escondida nas nuvens, o segurança diz: "Tudo limpo!". O problema é que o segurança está olhando apenas para o parque, não para as nuvens. O artigo argumenta que a abordagem atual é como tentar resolver um quebra-cabeça olhando apenas para a capa da caixa em vez de abrir a caixa. A mensagem oculta está lá, mas os "olhos" do computador estão travados na visão errada.

A Solução: Um Detetive com Muitos Pares de Óculos

Para corrigir isso, os autores propõem um novo método chamado Recuperação de Visão Adaptativa (Adaptive View Retrieval). Em vez de tentar forçar o computador a ver a mensagem oculta na imagem original, eles dão ao computador uma "caixa de ferramentas" de diferentes maneiras de olhar para a imagem.

Imagine que você está tentando encontrar uma chave específica em um quarto bagunçado. Você pode tentar olhar com as luzes acesas, depois com uma lanterna, depois tateando no escuro, ou talvez olhando para o quarto através de um filtro vermelho. Algumas chaves só são visíveis sob a luz da lanterna; outras só são visíveis quando você sente a forma. A Recuperação de Visão Adaptativa faz exatamente isso para as imagens. Ela cria um "banco de visões" de sete versões diferentes da mesma imagem:

A Visão Original (a imagem normal).
Uma Visão de Contraste Aumentado (fazendo as sombras e luzes saltarem aos olhos).
Uma Visão de Bordas de Fechamento (destacando os contornos e traços, como um esboço).
Três Visões de Figura-Fundo (separando o "objeto" do "fundo" para ver o que está escondido no primeiro plano).
Uma Visão de Baixa Passagem (desfocando os detalhes minúsculos para ver as formas grandes e grosseiras).

A magia não está apenas em ter essas diferentes visões; é no fato de o computador aprender em qual visão confiar para cada imagem específica. É como um detetive inteligente que sabe que, para este indício, ele precisa da lanterna, mas para aquele indício, ele precisa do filtro vermelho. O sistema não apenas adivinha; ele "recupera" a melhor visão correspondente de uma biblioteca de mensagens ocultas conhecidas (como um banco de dados de símbolos de ódio) e então verifica se essa mensagem recuperada é prejudicial.

Os Resultados: Decifrando o Código

Quando os pesquisadores testaram este novo sistema de "detetive" em um conjunto de dados chamado HatefulIllusion, os resultados foram um salto gigantesco. Enquanto os métodos antigos estavam falhando, este novo sistema alcançou uma acurácia balanceada de 93,2%. Isso significa que ele encontrou com sucesso o ódio oculto em quase todos os casos, superando amplamente as tentativas anteriores mais bem-sucedidas.

O artigo também mostrou que este método não serve apenas para discurso de ódio. Quando o testaram em outros tipos de enigmas visuais (como encontrar números ou animais escondidos em imagens), ele igualou ou até superou o desempenho humano. Também funcionou melhor do que outros métodos que apenas tentam "dar um zoom para fora" da imagem para ver o panorama geral.

Por Que Isso Importa

A lição mais importante deste artigo é uma mudança na forma como pensamos sobre segurança. Os autores argumentam que você não pode decidir se uma imagem é perigosa até que tenha recuperado o significado oculto. Você não pode apenas olhar para a superfície e adivinhar. Ao construir um sistema que busca ativamente a camada oculta usando a "lente" certa para o trabalho, podemos finalmente pegar os agentes mal-intencionados que estão tentando se esconder à vista de todos.

O artigo descarta explicitamente a ideia de que um único filtro fixo (como apenas desfocar a imagem ou apenas aumentar o contraste) seja a resposta. Eles mostraram que nenhum truque único funciona para todo tipo de ilusão. Em vez disso, a solução é a adaptabilidade — permitir que a IA escolha a melhor ferramenta para o trabalho. Isso não é uma varinha mágica que resolve todos os problemas de segurança da internet, mas é uma nova estratégia poderosa que prova que precisamos mudar como olhamos para as imagens, não apenas o que procuramos.

Resumo Técnico: Recuperação de Visão Adaptativa para Ilusões de Ódio Ocultas

Definição do Problema
Os atuais sistemas de segurança multimodal enfrentam uma "falha crítica de acesso perceptual" ao encontrar ilusões de ótica odiosas. Essas imagens embutem conteúdo prejudicial — como termos de ódio, símbolos extremistas ou gírias — dentro de estruturas visuais aparentemente benignas, utilizando princípios de organização perceptual (ex: fechamento, separação figura-fundo). Embora humanos consigam frequentemente recuperar essas mensagens ocultas através da organização perceptual, modelos de linguagem-visão (VLMs) de última geração e classificadores de moderação falham em detectá-las ao analisar a visão original da imagem. Avaliações anteriores no benchmark HatefulIllusion mostram que seis classificadores de moderação alcançam, no máximo, 20,9–24,5% de acurácia, e nove VLMs de última geração (incluindo GPT-4o e Gemini-2) permanecem em ou abaixo de 10,2% de acurácia, mesmo utilizando prompting consciente de ilusões (illusion-aware prompting). O problema central é que os modelos de segurança tipicamente julgam apenas a cena superficial, carecendo de acesso à camada estrutural oculta onde o ódio está escondido. Transformações de imagem fixas e simples são insuficientes porque nenhum filtro único é ideal para todos os tipos de ilusão, gírias ou níveis de visibilidade.

Metodologia: Recuperação de Visão Adaptativa
Os autores propõem a Recuperação de Visão Adaptativa (Adaptive View Retrieval), um framework que reformula a detecção de ilusões de ódio ocultas como um problema de recuperação perceptual, em vez de uma tarefa padrão de classificação de imagem. O sistema opera em uma arquitetura de "recuperação e calibração":

Banco de Visões Complementares: Em vez de depender de uma única visão de imagem ou de um filtro de pré-processamento fixo, o método constrói um banco de sete visões perceptuais determinísticas e interpretáveis tanto para a imagem de entrada quanto para os templates de mensagens ocultas. Estas visões incluem:
- Visão Original: A imagem RGB não modificada.
- Visão de Contraste Aumentado: Aplica desfoque gaussiano seguido de equalização de histograma de luminância para amplificar padrões de intensidade global fracos.
- Visão de Fechamento de Bordas: Utiliza detecção de bordas, fechamento morfológico e desfoque para enfatizar contornos fechados e bordas semelhantes a traços.
- Visões de Figura-Fundo: Três variações derivadas de limiarização de Otsu e limpeza morfológica, incluindo uma visão de máscara, uma visão de máscara invertida e uma visão de primeiro plano que isola o padrão contra um fundo neutro.
- Visão de Baixa Passagem: Aplica suavização em múltiplos estágios (Gaussiana, box, mediana) para suprimir a textura local enquanto preserva estruturas ocultas grosseiras e de grande escala.
Portão e Recuperação Adaptativos: Um codificador CLIP congelado (ViT-B/32) incorpora cada visão. Um mecanismo de portão adaptativo lê as características concatenadas da imagem de consulta e atribui pesos softmax ( $\alpha_k$ ) a cada ramo de visão. Isso permite que o modelo determine dinamicamente quais visões confiar para uma instância de imagem específica. O sistema então recupera o template de mensagem oculta que melhor se ajusta através do cálculo de uma soma de similaridade de cosseno ponderada por portão e escalonada por temperatura entre as características da consulta ponderadas e as características do template.
Calibração: Paralelamente à recuperação, uma cabeça de calibração processa a fusão de características por portão para gerar um logit binário "prejudicial/benigno". Isso separa a tarefa de recuperar a identidade oculta da tarefa de decidir se essa identidade é prejudicial.
Treinamento: O modelo é treinado com uma perda de entropia cruzada para recuperação de template, uma perda de entropia cruzada binária para calibração de moderação e um regularizador de entropia de portão para evitar o colapso de visão (onde o modelo depende de apenas uma visão). O codificador CLIP permanece congelado; apenas as projeções de ramo, o portão, a cabeça de calibração e a temperatura são atualizados.

Principais Contribuições

Arquitetura: Propõe a Recuperação de Visão Adaptativa, uma nova arquitetura que desacopla a recuperação de mensagens ocultas da calibração de moderação via recuperação de template de múltiplas visões adaptativas.
Mecanismo: Demonstra que a seleção de visão adaptativa, em vez de qualquer transformação clássica única, é o motor para a recuperação confiável de ódio oculto através de diversos alvos e níveis de visibilidade.
Generalização: Mostra que a abordagem se generaliza além da moderação de ódio, superando baselines de CLIP ajustados e o desempenho humano em tarefas de reconhecimento de classes ocultas em IllusionMNIST, IllusionFashionMNIST e IllusionAnimals.
Melhoria no Benchmark: No protocolo oficial SemVink do HC-Bench, o banco de múltiplas visões adaptativas complementares melhora significativamente o reconhecimento de conteúdo oculto de VLMs em comparação com o pré-processamento de zoom-out no mesmo backbone.

Resultos

HatefulIllusion: No conjunto de teste mantido fora do treino (held-out test split), a Recuperação de Visão Adaptativa atinge 93,2% de acurácia balanceada (± 3,1%), superando substancialmente os baselines de visão original e filtros de transformação única fixa. Este desempenho mantém-se através de gírias de ódio, símbolos de ódio e variados níveis de visibilidade.
IllusoryVQA: O método supera os baselines oficiais de CLIP ajustados e iguala ou excede o desempenho humano em IllusionMNIST, IllusionFashionMNIST e IllusionAnimals.
HC-Bench: A abordagem supera tanto a entrada de imagem original quanto o pré-processamento de zoom-out estilo SemVink para QA de conteúdo oculto.

Significância e Alegações
O artigo argumenta que uma moderação multimodal robusta requer a recuperação do significado oculto antes de decidir se ele é prejudicial. Os autores alegam que a falha dos sistemas atuais decorre de uma falha de acesso perceptual, onde os modelos não conseguem ver a camada estrutural oculta. Ao tratar a detecção como um problema de recuperação e utilizar um banco de visões adaptativas, o sistema consegue "ver" o ódio oculto que os classificadores padrão perdem. O trabalho sugere que confiar em uma única visão ou em um pré-processamento fixo é insuficiente para aplicações críticas de segurança que envolvem truques perceptuais, e que a seleção de visão dinâmica e dependente da instância é necessária para uma moderação confiável.

Aviso de Conteúdo: O artigo observa que contém conteúdo odioso e linguagem ofensiva utilizada exclusivamente para fins de pesquisa científica.

O Problema: O Ódio "Invisível"

A Solução: Um Detetive com Muitos Pares de Óculos

Os Resultados: Decifrando o Código

Por Que Isso Importa

Mais como este