💬 NLP

SIGNPOST-Bench: Benchmarking Text-Vision Conflict Resolution in Multimodal Large Language Models

Este artigo apresenta o SIGNPOST-Bench, um benchmark contrafactual controlado composto por 25.555 variantes de imagens para avaliar como modelos de linguagem de grande escala multimodais resolvem conflitos entre pistas visuais e textuais, revelando que intervenções textuais adversariais degradam significamente a precisão de geolocalização e expõem comportamentos de arbitragem distintos entre os 20 modelos avaliados.

Autores originais: Sirun Li, Minghao Liu, Ling Dai, Yong Li, Haoxin Lyu, Junting Zhou, Fan Zhang

Publicado 2026-08-06

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Sirun Li, Minghao Liu, Ling Dai, Yong Li, Haoxin Lyu, Junting Zhou, Fan Zhang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um detetive tentando resolver um mistério: "Onde esta foto foi tirada?". Você tem duas pistas para ajudar. A primeira é a cena visual: a arquitetura, as árvores, os carros e a forma como a luz incide nos edifícios. A segunda é o texto escrito em placas, vitrines ou outdoors na imagem. Geralmente, essas pistas concordam. Uma placa dizendo "Paris" fica em um edifício que parece estar em Paris. Mas o que acontece quando elas discordam? E se a foto mostra uma cabana de madeira na neve nas montanhas, mas um letreiro de neon brilhante na janela grita "Bem-vindo ao Deserto do Saara"?

Este é o mundo dos Modelos de Linguagem de Grande Escala Multimodais (MLLMs). Estes são computadores de IA superinteligentes que conseguem "ver" imagens e "ler" texto ao mesmo tempo. Cientistas têm ensinado esses modelos a combinar essas pistas para fazer suposições sobre o mundo. Mas há uma grande questão: quando as pistas visuais e as pistas de texto brigam entre si, em qual delas a IA confia? Ela ignora a placa confusa e olha para a neve? Ou ela acredita cegamente na placa e esquece a neve? Até agora, não tínhamos uma boa maneira de testar esse tipo específico de confusão.

Apresentamos o SIGNPOST-Bench, um novo experimento projetado por pesquisadores para jogar um jogo de "enganar a IA". Eles pegaram milhares de fotos do mundo real e criaram um conjunto especial de versões "contrafatuais" para cada uma delas. Pense nisso como um workshop de edição de fotos onde eles pegam uma foto original e criam quatro novas cópias:

A Em Branco: Eles apagaram o texto completamente.
A Semelhante: Eles trocaram a placa por outra que ainda faz sentido para o local (por exemplo, mudando "Bem-vindo ao Michigan" para "Bem-vindo a Detroit").
A Aleatória: Eles colocaram uma placa que não tem nada a ver com o lugar (por exemplo, "Bem-vindo à Lua").
A Adversária: Esta é a parte complicada. Eles substituíram a placa por uma mentira que aponta para um local específico e diferente (por exemplo, mudando "Bem-vindo ao Michigan" para "Bem-vindo a Nova York").

Os pesquisadores então pediram a 20 modelos de IA de sete grandes empresas de tecnologia para adivinhar a localização de todas as cinco versões de cada foto. Eles queriam ver se a IA conseguiria detectar a mentira ou se seria enganada pela nova placa.

Os resultados foram bastante reveladores. Quando a IA olhava para as fotos originais, era muito boa em adivinhar a localização. Mas quando introduziram as mentiras Adversárias, os modelos ficaram confusos. Em média, a suposição da IA tornou-se 4,8 vezes menos precisa. Em vez de errar por cerca de 282 quilômetros, a IA agora errava por 1.347 quilômetros.

Ainda mais interessante, a IA não apenas ficou pior; ela foi induzida ao erro. Quando a placa dizia "Nova York", a IA não apenas chutava aleatoriamente; ela de fato movia sua suposição para mais perto de Nova York. Na verdade, para cada um dos modelos testados, a presença do texto conflitante puxou a resposta em direção à mentira. Cerca de 6,5% a 20,1% das vezes, a suposição da IA acabou a menos de 50 quilômetros do local falso para o qual a placa apontava.

O estudo também descobriu que ser "inteligente" ao ler placas ou ver imagens não garantia ser bom em detectar um conflito. Alguns modelos que eram excelentes em adivinhar localizações com fotos limpas e honestas eram, na verdade, piores em ignorar as mentiras do que alguns modelos menores. Acontece que ser capaz de ler uma placa não significa saber quando ignorá-la se ela contradiz o resto da imagem.

Finalmente, os pesquisadores tentaram "treinar" a IA, pedindo especificamente para ela ficar atenta a conflitos. Embora isso tenha ajudado a IA a perceber que algo estava errado em 49% das vezes, não ajudou de fato a adivinhar a localização correta de forma melhor. A IA sabia que estava confusa, mas ainda assim não conseguia descobrir como resolver o quebra-cabeça.

Em suma, este artigo mostra que os modelos de IA atuais ainda são muito facilmente enganados quando o texto e as imagens discordam. Eles tendem a confiar demais no texto, mesmo quando é uma mentira descarada. Os pesquisadores criaram este novo teste "SIGNPOST-Bench" para ajudar futuros desenvolvedores de IA a entender exatamente onde seus modelos estão falhando, para que possam ensiná-los a serem melhores detetives que sabem quando confiar nos olhos e quando questionar as placas.

Resumo Técnico: SIGNPOST-Bench

Definição do Problema

Os Modelos de Linguagem de Grande Escala Multimodais (MLLMs) dependem cada vez mais tanto do contexto visual quanto do texto da cena para realizar previsões fundamentadas em cenários do mundo real. Embora os benchmarks existentes avaliem OCR, reconhecimento visual e capacidades multimodais gerais, eles raramente isolam como os modelos arbitram entre evidências visuais e textuais quando estas fontes conflitam. Em cenas naturais, pistas arquitetônicas ou de terreno podem sugerir um local, enquanto placas ou endereços sugerem outro. Os métodos de avaliação atuais frequentemente relatam apenas resultados discretos finais (ex: correto/incorreto) sem revelar qual fonte de evidência impulsionou a decisão ou medir a magnitude e a direção das mudanças de previsão em um espaço de saída compartilhado. Consequentemente, um forte desempenho em entradas alinhadas não garante a capacidade de um modelo de escolher de forma confiável entre pistas visuais e textuais conflitantes.

Metodologia

Os autores introduzem o SIGNPOST-Bench (Scene Image Geo-localization with Noisy Perturbation on Observed Sign Text), um benchmark contrafactual controlado projetado para avaliar a resolução de conflitos entre texto e visão através da geolocalização visual.

Construção do Benchmark

A unidade central do benchmark é um quinteto contrafactual derivado de uma única imagem de origem. Cada quinteto consiste em cinco variantes geradas via intervenções sintéticas e localizadas de texto de cena, projetadas para preservar o conteúdo não textual circundante:

Original: A imagem de origem não modificada com o texto de cena nativo.
Blank (Em branco): Extensões de texto de cena selecionadas são removidas, servindo como uma linha de base de ablação de texto.
Similar: O texto é substituído por alternativas compatíveis com o contexto geográfico ou idioma do solo verdadeiro (ex: "Welkom to Flanders" em vez de "Welkom to Holland").
Random (Aleatório): O texto é substituído por texto legível, mas não relacionado, sem um alvo geográfico designado.
Adversarial (Adversário): O texto é substituído por uma pista geograficamente conflitante. Se o texto for geocodificável, ele define um alvo injetado ( $y_{trap}$ ) distinto do solo verdadeiro.

O benchmark compreende 5.111 grupos contrafactuais e 25.555 variantes de imagem extraídas de quatro conjuntos de dados: IM2GPS3K, YFCC4K, Google Street View e Baidu Street View. O texto da cena é categorizado em uma taxonomia baseada em identificabilidade geográfica: T1 (Portátil), T2 (Cultural) e T3 (Geo-específico).

Protocolo de Avaliação

O estudo avalia 20 MLLMs de sete provedores (Google, OpenAI, Anthropic, Alibaba, Moonshot, ByteDance, xAI) em todas as cinco condições. A avaliação emprega três métricas diagnósticas primárias:

Weighted Localization Accuracy (WLA - Acurácia de Localização Ponderada): Mede a qualidade da previsão em relação ao solo verdadeiro usando decaimento exponencial baseado na distância geodésica.
Text Bias Score (TBS - Pontuação de Viés de Texto): Mede a mudança pareada no erro de localização causada pelo texto editado em relação à linha de base Blank ( $TBS = D_{editado} - D_{blank}$ ). Um TBS positivo indica que o texto degradou o desempenho.
Trap-Fit Rate (TFR - Taxa de Ajuste à Armadilha): Mede a fração de previsões Adversárias que caem dentro de um raio de 50 km do alvo injetado, indicando se o modelo foi "atraído" pelo texto conflitante.

Adicionalmente, um Multimodal Conflict Robustness Score (MCRS - Pontuação de Robustez de Conflito Multimodal) é proposto, decompondo o desempenho em uma Pontuação de Capacidade (C) (desempenho em Original/Blank) e uma Pontuação de Robustez de Conflito (R) (retenção de desempenho sob texto Random/Adversarial, penalizada pelo aumento de erro e seguimento de armadilhas).

Principais Resultados

Degradação de Desempenho: O texto de cena conflitante degrada substancialmente a localização. Em todos os modelos, o erro de localização mediana aumentou 4,8 vezes (de 282 km para 1.347 km) ao comparar imagens Originais com variantes Adversárias. A média da WLA caiu 36,6%.
Deslocamentos Direcionados: O conflito não apenas aumenta o erro aleatório; ele induz deslocamentos direcionados. Para amostras adversárias geocodificáveis, de 6,5% a 20,1% das previsões entre os modelos caíram dentro de 50 km do alvo injetado. Todos os modelos avaliados exibiram uma redução média positiva na Distância da Armadilha (TDR), confirmando que as previsões se deslocaram em direção ao alvo geográfico injetado em vez de apenas se tornarem menos precisas.
Efeitos Distintos de Tipos de Texto:
- Substituições Similar (texto compatível) geralmente reduziram o erro em comparação com a linha de base Blank, mostrando que os modelos utilizam o alinhamento semântico.
- Substituições Random e Adversarial aumentaram o erro significativamente.
- O texto T3 (Geo-específico) proporcionou o maior desempenho em entradas alinhadas, mas também induziu a maior degradação (queda proporcional de 42,2%) sob conflito, sugerindo um compromisso entre utilidade e vulnerabilidade.
Capacidade vs. Robustez: O desempenho de localização em entradas limpas (Pontuação de Capacidade) não prevê totalmente a robustez ao texto conflitante. Modelos com alta WLA em imagens Originais não necessariamente mantiveram alta WLA sob condições Adversárias. Por exemplo, o Qwen3-VL-30B mostrou maior robustez do que o Seed-2.0-Pro, apesar de possuir menor capacidade original.
Consciência de Conflito: Experimentos de sondagem direcionada com Gemini-2.5-Flash e GPT-4o-mini revelaram que a acurácia de detecção de conflito explícito (CDA) não correlaciona de forma confiável com a melhoria do desempenho de localização. Mesmo quando os modelos identificavam o conflito, eles frequentemente ainda seguiam o texto injetado.

Significância e Alegações

O artigo reivindica três contribuições primárias:

Formulação: Formula a resolução de conflito entre texto e visão em um espaço de coordenadas contínuo, permitindo a medição tanto da degradação da localização quanto dos deslocamentos direcionados para alvos geográficos injetados, uma capacidade ausente em benchmarks de tarefas discretas.
Construção do Benchmark: Fornece o SIGNPOST-Bench, um framework controlado de larga escala com 25.555 variantes de imagem que permite comparações dentro da mesma cena entre texto nativo, remoção de texto e substituições compatíveis, não relacionadas e conflitantes.
Achados Empíricos: Estabelece que o texto de cena conflitante é um modo de falha sistemático para os atuais MLLMs. Os resultados demonstram que os modelos são suscetíveis de serem "atraídos" por texto conflitante, deslocando as previsões para alvos injetados. Crucialmente, o artigo argumenta que o desempenho de localização em entradas limpas não é um proxy suficiente para a robustez ao conflito, destacando uma lacuna no alinhamento atual dos modelos, onde nomes de lugares explícitos no texto podem sobrepor evidências visuais menos diretas.

Os autores posicionam o SIGNPOST-Bench como um framework reprodutível para diagnosticar como os MLLMs arbitram entre evidências multimodais conflitantes, indo além da acurácia agregada para analisar modos específicos de falha na interpretação de texto de cena.