Skyra: AI-Generated Video Detection via Grounded Artifact Reasoning

Resumo Técnico: Skyra – Detecção de Vídeo Gerado por IA via Raciocínio Baseado em Artefatos Fundamentados

Declaração do Problema
O avanço rápido dos modelos generativos baseados em difusão e multimodais permitiu a criação de vídeos sintéticos fotorealistas, representando riscos significativos à segurança social por meio de desinformação e deepfakes. Embora os métodos de detecção existentes tenham se focado principalmente na classificação binária usando características espaço-temporais, eles sofrem de duas limitações críticas: falta de interpretabilidade (processos decisórios opacos) e incapacidade de capturar artefatos perceptíveis ao ser humano. A análise empírica no artigo revela que até mesmo os Modelos de Linguagem Multimodal (MLLMs) gerais mais avançados performam de forma próxima ao acaso nesta tarefa, frequentemente falhando em identificar artefatos generativos sutis ou interpretando erroneamente degradações naturais de vídeo (por exemplo, desfoque de movimento, compressão) como falsificação. Além disso, detectores existentes baseados em MLLM tendem a depender de pistas superficiais como qualidade visual ou iluminação, em vez de inconsistências intrínsecas que violam leis físicas e que os humanos usam para identificar conteúdo sintético.

Metodologia
Os autores propõem Skyra, um MLLM especializado projetado para detectar vídeos gerados por IA identificando e raciocinando sobre artefatos visuais fundamentados. A metodologia é construída sobre três componentes principais:

1. Dataset ViF-CoT-4K: Para abordar a falta de anotações humanas detalhadas, os autores construíram o primeiro dataset em larga escala de artefatos de vídeo gerados por IA. Este dataset inclui:

   • Coleta de Dados: Vídeos reais de fontes como Panda-70M e Kinetics-400, e vídeos sintéticos gerados por mais de dez modelos de última geração (por exemplo, Sora-2, Wan2.2, Kling, HunyuanVideo).
   • Taxonomia Hierárquica: Uma taxonomia de artefatos de três camadas que distingue entre Falsificação de Baixo Nível (por exemplo, anomalias de textura, problemas de cor/iluminação) e Violação de Leis (por exemplo, inconsistência de objetos, movimento não natural, violações de causalidade).
   • Processo de Anotação: Anotadores profissionais realizaram comparações lado a lado de vídeos reais e falsos para identificar artefatos, fornecendo localização espaço-temporal (carimbos de tempo e caixas delimitadoras) e explicações textuais. Estes foram convertidos em dados de Cadeia de Pensamento (CoT) usando uma estratégia de engenharia de prompts envolvendo auto-curadoria e aprendizado em contexto.

2. Estratégia de Treinamento em Duas Etapas:

   • Etapa 1: Ajuste Fino Supervisionado (SFT) / Inicialização de Partida Fria: O modelo base (Qwen2.5-VL-7B) é ajustado finamente no ViF-CoT-4K usando um formato de saída estruturado que exige que o modelo produza um bloco <thinking> (processo de raciocínio) e um bloco <answer> (veredito). Para vídeos falsos, o modelo deve marcar explicitamente os artefatos com tipo, tempo e localização; para vídeos reais, deve inspecionar sistematicamente e descartar regiões suspeitas. Esta etapa confere ao modelo capacidades básicas de detecção e explicação.
   • Etapa 2: Aprendizado por Reforço (RL): Para aprimorar a capacidade do modelo de descobrir artefatos discriminativos e melhorar a generalização, os autores empregam a Otimização de Política Relativa em Grupo (GRPO). Uma função de recompensa personalizada é projetada com dois componentes:
     • Recompensa de Precisão Assimétrica: Penaliza falsos positivos (prever "Falso" para vídeos reais) mais severamente do que falsos negativos para evitar viés em direção à classe "Falso".
     • Recompensa de Inspeção: Incentiva o modelo a aderir ao formato exigido e explorar ativamente pistas visuais, em vez de depender de padrões superficiais.

3. Benchmark ViF-Bench: Um benchmark de avaliação abrangente composto por 3.000 amostras de alta qualidade geradas por mais de dez geradores de vídeo recentes, alinhados semanticamente e em formato com seus pares reais para mitigar a aprendizagem de atalhos.

Principais Contribuições

• Modelo Skyra: Um MLLM especializado que alcança desempenho de última geração tanto em precisão de detecção quanto em explicabilidade, ao aproveitar o raciocínio baseado em artefatos fundamentados.
• Dataset ViF-CoT-4K: O primeiro dataset em larga escala apresentando artefatos espaço-temporais detalhados e anotados por humanos com uma taxonomia hierárquica, permitindo treinamento supervisionado para detecção explicável.
• ViF-Bench: Um benchmark rigoroso projetado para avaliar a robustez da detecção através de diversos geradores de última geração, apresentando pares real-falso com semântica alinhada.
• Framework de Treinamento: Um pipeline inovador de duas etapas combinando SFT com uma estratégia de RL cuidadosamente projetada (incluindo recompensas assimétricas) para aprimorar a percepção e as capacidades de raciocínio sobre artefatos.

Resultados Experimentais
Extensos experimentos no ViF-Bench e no benchmark externo GenVideo demonstram a superioridade do Skyra:

• Desempenho de Detecção: O Skyra-RL alcança uma precisão de 91,02% e um F1-score de 90,27% no ViF-Bench, superando o segundo melhor método (DeMamba) em +17,27% no F1-score e ultrapassando detectores existentes baseados em MLLM por uma margem significativa (por exemplo, +32% no F1 sobre o BusterX++).
• Generalização: O Skyra mostra forte generalização entre domínios. Quando adaptado ao benchmark GenVideo (fora do domínio), alcança um ganho de precisão de +19,22% sobre sua versão apenas com SFT, indicando que o RL ajuda o modelo a aprender pistas intrínsecas de artefatos em vez de padrões específicos do gerador.
• Robustez: O modelo mantém alto desempenho sob várias degradações de vídeo, incluindo compressão, ruído gaussiano e transformações de cor, onde classificadores binários e outros MLLMs frequentemente falham.
• Qualidade da Explicação: Estudos de caso mostram que o Skyra pode identificar artefatos sutis e perceptíveis ao ser humano (por exemplo, distorção de forma, aparência anormal de objetos) e fornecer explicações coerentes e fundamentadas com localização espaço-temporal precisa, enquanto MLLMs de base frequentemente fornecem descrições genéricas ou perdem os artefatos completamente.

Significado e Alegações
O artigo alega que o Skyra representa uma mudança da classificação binária opaca para uma detecção interpretável e centrada em artefatos. Ao mimetizar o raciocínio humano — buscando ativamente inconsistências físicas e lógicas —, o modelo fornece não apenas um veredito, mas uma explicação "fundamentada" que pode auxiliar na verificação humana. Os autores postulam que seu dataset e benchmark oferecem um campo de testes padronizado para avançar o campo da detecção explicável de AIGC. Eles reconhecem limitações, notando que o desempenho do modelo está limitado aos geradores cobertos em seu dataset e que ele não avalia a intenção ou o dano social de um vídeo. Eles enfatizam que o Skyra é projetado para apoiar a verificação com humanos no loop, em vez de substituí-la, destacando a necessidade de estimativa de incerteza calibrada em aplicações críticas para a segurança.