INFACT: A Diagnostic Benchmark for Induced Faithfulness and Factuality Hallucinations in Video-LLMs

O artigo apresenta o INFACT, um novo benchmark diagnóstico com 9.800 instâncias de perguntas e respostas que avalia a confiabilidade e as alucinações de facticidade e fidelidade em Modelos de Linguagem Grandes para Vídeo (Video-LLMs) sob condições degradadas e intervenções temporais, revelando que a alta precisão em cenários limpos não garante robustez nessas situações adversas.

O essencial

Imagine que você tem um amigo muito inteligente, mas um pouco "alucinado". Ele consegue descrever perfeitamente o que está vendo em um vídeo, mas às vezes ele inventa detalhes que não existem ou confunde fatos do mundo real com o que está na tela.

Esse é o problema dos Video-LLMs (Modelos de Linguagem Grandes para Vídeo). Eles estão ficando ótimos em entender vídeos, mas cometem dois tipos de erros graves:

1. Traição à Verdade Visual (Faithfulness): O vídeo mostra um gato laranja, mas o modelo diz "é um cachorro preto". Ele não está prestando atenção no que realmente vê.
2. Traição ao Conhecimento Real (Factuality): O vídeo mostra alguém fazendo um bolo, mas o modelo diz "isso é como se faz um foguete". Ele ignora o vídeo e usa informações erradas do "cérebro" dele.

O artigo que você enviou apresenta uma nova ferramenta chamada INFACT. Pense no INFACT como um "Exame de Saúde Mental" ou um "Simulador de Caos" para esses robôs.

Aqui está a explicação simples de como funciona, usando analogias do dia a dia:

1. O Grande Laboratório de Testes (O Benchmark)

Os criadores do INFACT não apenas mostraram vídeos normais para os robôs. Eles criaram um banco de dados gigante com quase 10.000 perguntas sobre vídeos reais e vídeos feitos por computador.

É como se eles tivessem montado uma gincana de detetives, onde os robôs precisam responder perguntas sobre:

• O que está na tela? (Ex: "Quantas maçãs vermelhas aparecem?")
• O que sabemos do mundo? (Ex: "Esse passo de receita de bolo faz sentido físico?")

2. Os Quatro Modos de "Tortura" (Modos de Avaliação)

Para ver se o robô é realmente inteligente ou apenas está "chutando" baseado em dicas fáceis, o INFACT coloca o robô em quatro situações diferentes:

• Modo Base (O Dia de Sol): O vídeo está perfeito, sem ruído. É o teste padrão. Se o robô falha aqui, ele é burro.
• Modo de Degradação Visual (O Dia de Chuva e Neblina): Eles pegam o vídeo e colocam "ruído", borrão ou compressão de imagem (como quando a internet cai e o vídeo fica pixelado).
  • A Pergunta: "O robô consegue ainda ver o gato laranja mesmo com a imagem tremendo?"
• Modo de Corrupção de Evidência (O Mentiroso no Ouvido): Aqui é o mais interessante. Eles mostram o vídeo, mas adicionam legendas falsas ou textos mentirosos sobre o que está acontecendo.
  • A Analogia: Imagine que você está assistindo a um vídeo de alguém abrindo uma porta, mas o robô ouve uma legenda dizendo "Ele está fechando a porta".
  • A Pergunta: "O robô confia no que vê (a porta abrindo) ou no que lê (a mentira)?"
• Modo de Intervenção Temporal (O Filme de Volta): Eles pegam um vídeo e embaralham os quadros (como um baralho) ou invertem o tempo (o filme passa de trás para frente).
  • A Analogia: Se o vídeo mostra "Primeiro você acorda, depois toma café, depois vai trabalhar", e eles invertem para "Trabalhar, Café, Acordar", a lógica quebra.
  • A Pergunta: "O robô percebeu que a ordem está errada ou ele continua dizendo a mesma coisa, como se estivesse no piloto automático?"

3. As Duas Regras de Ouro (As Métricas)

Para medir se o robô passou no teste, eles usam duas regras simples:

• Taxa de Resistência (RR): Se o vídeo ficou ruim ou mentiroso, o robô manteve a resposta correta?
  • Analogia: Se você cobrir os olhos do robô com um lenço sujo, ele ainda consegue dizer que cor é a camisa? Se sim, ele é resistente.
• Pontuação de Sensibilidade Temporal (TSS): Se o tempo do vídeo foi bagunçado, o robô mudou de ideia?
  • Analogia: Se você inverter o filme de um bolo sendo desmontado, o robô deve perceber que a lógica está errada. Se ele continuar dizendo "está tudo certo", ele tem "inércia temporal" (é teimoso e não percebe a mudança).

4. O Que Eles Descobriram? (Os Resultados)

Ao testar 14 robôs diferentes (incluindo os mais famosos da OpenAI e Google), eles descobriram coisas surpreendentes:

1. Ser "Bom" não significa ser "Confiável": Um robô pode tirar nota 10 no teste normal (Modo Base), mas quando você coloca uma legenda mentirosa ou embaralha o vídeo, ele desaba e começa a alucinar.
2. Mentiras são piores que Ruído: Os robôs tendem a confiar mais em textos falsos (legendas) do que em vídeos borrados. É como se eles acreditassem mais no que leem do que no que veem.
3. O Problema do "Piloto Automático": Muitos robôs abertos (open-source) têm uma pontuação de sensibilidade temporal quase zero. Isso significa que, se você inverter o tempo do vídeo, eles continuam respondendo como se nada tivesse mudado. Eles não estão realmente "entendendo" a sequência de eventos; estão apenas adivinhando padrões.
4. Física e Receitas são Difíceis: Os robôs são ruins em saber se uma ação faz sentido físico (ex: uma bola subindo em vez de cair) ou se uma receita de bolo está na ordem certa.

Conclusão

O INFACT é um aviso importante para o mundo da Inteligência Artificial: Não confie apenas na nota final. Um modelo pode parecer inteligente em um dia de sol, mas se você mudar um pouco as condições (ruído, mentiras, ordem do tempo), ele pode falhar feio.

Os criadores querem que os desenvolvedores parem de focar apenas em "quantas perguntas o robô acerta" e comecem a focar em "quão forte é o robô quando as coisas dão errado". É a diferença entre um aluno que decora a resposta e um detetive que realmente investiga a verdade.

Resumo técnico

Título: INFACT: Um Benchmark Diagnóstico para Fidelidade Induzida e Factualidade em Video-LLMs

1. O Problema

Os Grandes Modelos de Linguagem para Vídeo (Video-LLMs) têm avançado rapidamente, mas continuam sendo pouco confiáveis devido a alucinações. O artigo define dois tipos principais de alucinação:

• Alucinação de Fidelidade (Faithfulness): O modelo gera conteúdo que contradiz a evidência visual explícita do vídeo (ex: descrever objetos que não existem ou ações que não ocorreram).
• Alucinação de Factualidade (Factuality): O modelo gera conteúdo que contradiz o conhecimento do mundo verificável (ex: leis físicas, fatos históricos, procedimentos corretos), mesmo que o vídeo pareça plausível.

Limitações dos Trabalhos Anteriores:

• A maioria dos benchmarks existentes foca apenas em inconsistências verificáveis pelo vídeo (fidelidade), negligenciando a factualidade.
• As avaliações são geralmente realizadas em "cenários limpos" (clean settings), onde os modelos podem explorar atalhos (priors linguísticos ou pistas estáticas) em vez de realmente entender o vídeo.
• Alta precisão em cenários limpos não garante confiabilidade quando o modelo enfrenta ruído, evidências corrompidas ou perturbações temporais.

2. Metodologia: O Benchmark INFACT

O INFACT é um benchmark diagnóstico projetado para avaliar a robustez e a sensibilidade temporal dos Video-LLMs sob condições controladas.

A. Composição do Dado:

• Escala: 9.800 pares de perguntas e respostas (QA).
• Fontes: Vídeos reais e sintéticos.
• Taxonomia Granular:
  • Fidelidade: Dividida em três níveis de complexidade espaço-temporal:
    1. Entidades Estáticas e Atributos: Reconhecimento de objetos, contagem, atributos visuais e texto na cena.
    2. Ações e Movimentos Dinâmicos: Reconhecimento de ações, contagem de repetições e atributos de movimento.
    3. Relações Espaço-Temporais: Relações espaciais, temporais, detecção de transição de estado e localização temporal.
  • Factualidade: Dividida em três categorias de conhecimento:
    1. Conhecimento de Domínio (Know-WHAT): Eventos culturais, história, geolocalização e entretenimento.
    2. Conhecimento Procedimental (Know-HOW): Sequências lógicas de tarefas (eletrônicos, mecânicos, domésticos, clínicos).
    3. Conhecimento Físico (Know-WHY): Adesão às leis da física (mecânica newtoniana, fluidos, propriedades de materiais, continuidade espaço-temporal).

B. Modos de Avaliação (Indução de Alucinação):
O benchmark testa os modelos em quatro modos distintos:

1. Modo Base (Limpo): Avaliação padrão em vídeos originais.
2. Degradação Visual (Modo II): Introduz ruído para testar a robustez perceptiva.
   • Operadores: Ruído Gaussiano, Desfoque de Movimento (Motion Blur) e Compressão de Vídeo.
3. Corrupção de Evidência (Modo III): Introduz sinais textuais enganosos para testar a priorização da evidência visual sobre pistas externas.
   • Operadores: Injeção de Legendas (texto contraditório ou irrelevante sobreposto ao vídeo), Corrupção de Legendas (simulando erros de ASR/OCR) e Ruído Adversarial (perturbações no codificador visual).
4. Intervenção Temporal (Modo IV): Destroi a estrutura temporal necessária para a resposta correta.
   • Operadores: Embaralhamento (Shuffle) e Reversão (Reverse) de quadros. Avalia se o modelo depende da ordem cronológica ou apenas de pistas invariantes.

C. Métricas de Avaliação:

• Taxa de Resistência (Resist Rate - RR): Mede a estabilidade em modos II e III. Calcula a proporção de respostas que permanecem corretas após a perturbação, assumindo que o rótulo verdadeiro não mudou.
• Pontuação de Sensibilidade Temporal (Temporal Sensitivity Score - TSS): Mede a sensibilidade no Modo IV. Calcula a taxa em que o modelo muda sua resposta após a intervenção temporal (em itens sensíveis à ordem). Um TSS baixo indica "inércia temporal" (o modelo mantém a resposta original mesmo com a lógica temporal destruída).

3. Principais Contribuições

1. INFACT: O primeiro benchmark abrangente que cobre tanto a fidelidade (baseada no vídeo) quanto a factualidade (baseada no conhecimento mundial) com taxonomias de alta granularidade.
2. Protocolo de Avaliação de Quatro Modos: Introduz um protocolo padronizado para medir a estabilidade sob perturbações invariantes de rótulo e a sensibilidade sob intervenções temporais, utilizando métricas específicas (RR e TSS).
3. Avaliação Sistemática: Testou 14 modelos representativos (incluindo sistemas proprietários como GPT-5.1 e Gemini, e modelos open-source como Qwen, InternVL, PLLaVA), revelando lacunas críticas entre precisão base e confiabilidade induzida.

4. Resultados e Análise

• Precisão vs. Confiabilidade: Existe uma correlação forte entre a precisão no Modo Base e a confiabilidade induzida, mas a precisão base não garante robustez. Modelos com pontuações similares no modo base podem divergir drasticamente sob perturbações.
• Fragilidade sob Corrupção de Evidência: Os modelos são mais frágeis quando expostos a pistas textuais enganosas (legendas incorretas) do que quando enfrentam apenas degradação visual. A injeção de legendas causou quedas significativas na Taxa de Resistência (RR).
• Inércia Temporal (TSS Baixo):
  • Muitos modelos open-source apresentaram um TSS próximo de zero em questões de factualidade. Isso significa que, mesmo quando a ordem temporal é embaralhada ou invertida (tornando a resposta original logicamente impossível), o modelo continua a dar a mesma resposta.
  • Isso sugere que os modelos dependem excessivamente de priores estáticos ou linguísticos, ignorando a estrutura temporal do vídeo.
  • Modelos como Qwen3-VL e Gemini3-flash mostraram TSS mais altos, indicando melhor sensibilidade temporal.
• Desempenho por Dimensão:
  • Factualidade: É particularmente difícil para julgamento procedimental e raciocínio físico.
  • Fidelidade: As falhas concentram-se em dimensões centradas em movimento e estrutura (ex: localização temporal e atributos de movimento).
• Amostragem de Quadros: Aumentar o número de quadros amostrados (de 8 para 32) melhora a precisão base, mas não melhora consistentemente a robustez (RR) ou a sensibilidade temporal (TSS) sob modos induzidos.

5. Significância e Conclusão

O INFACT demonstra que a avaliação de Video-LLMs não pode se limitar a cenários limpos. A confiabilidade real exige que os modelos:

1. Priorizem evidências visuais autênticas sobre pistas textuais enganosas.
2. Compreendam genuinamente a ordem temporal e as dependências causais, em vez de apenas memorizar padrões estáticos.

O benchmark revela que, embora a precisão geral esteja melhorando, a estabilidade sob perturbações e a sensibilidade temporal são gargalos críticos. O INFACT fornece as ferramentas necessárias para diagnosticar essas falhas e guiar o desenvolvimento de Video-LLMs mais robustos e confiáveis para aplicações do mundo real.