💻 computer science

SEED: A Large-Scale Benchmark for Provenance Tracing in Sequential Deepfake Facial Edits

O artigo apresenta o SEED, um benchmark em larga escala com mais de 90 mil imagens de rostos submetidos a edições sequenciais via difusão para rastrear proveniência, e propõe o FAITH, um baseline baseado em Transformer que combina pistas espaciais e de frequência para identificar e ordenar essas manipulações.

Autores originais: Mengieong Hoi, Zhedong Zheng, Ping Liu, Wei Liu

Publicado 2026-04-15

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Mengieong Hoi, Zhedong Zheng, Ping Liu, Wei Liu

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está assistindo a um filme onde um ator muda de penteado, depois coloca óculos, depois muda a cor dos olhos e, por fim, coloca um chapéu. Tudo isso acontece em sequência, uma coisa depois da outra.

Agora, imagine que alguém usa uma Inteligência Artificial (IA) muito avançada para fazer essas mesmas mudanças em uma foto real de uma pessoa. O problema é que, quando você olha para a foto final, é quase impossível dizer: "Ah, primeiro mudaram o cabelo, depois os óculos". As "pegadas" digitais de cada edição se misturam e se sobrepõem, como se alguém tivesse pintado várias camadas de tinta sobre a mesma tela.

É aqui que entra o SEED (o tema deste artigo).

O Problema: O "Detetive Cego"

Até hoje, a maioria das ferramentas para detectar fotos falsas (Deepfakes) funcionava como um detetive que só olhava para a foto final e dizia: "Isso é falso". Mas elas não conseguiam contar a história de como aquilo ficou falso. Elas ignoravam o fato de que as edições acontecem em etapas.

Além disso, as ferramentas antigas olhavam apenas para a "imagem" (as cores e formas). Mas, com as IAs modernas, as pistas falsas são tão sutis que muitas vezes só aparecem em frequências que nossos olhos não veem (como vibrações invisíveis na imagem).

A Solução: O SEED (O Caderno de Anotações Perfeito)

Os autores criaram um novo banco de dados gigante chamado SEED. Pense nele como um "laboratório de crimes" perfeito para treinar novos detetives.

O que é: Um conjunto de mais de 90.000 fotos de rostos.
Como foi feito: Eles pegaram rostos reais e usaram IAs para editá-los em sequência (1, 2, 3 ou até 4 vezes seguidas).
O Grande Truque: Diferente de outros bancos de dados, o SEED vem com um "livro de receitas" completo. Para cada foto, eles sabem exatamente:
1. Qual foi a primeira edição (ex: mudar a boca).
2. Qual foi a segunda (ex: colocar um chapéu).
3. O texto que foi digitado na IA para fazer isso.
4. A "máscara" digital que mostra exatamente onde a IA mexeu.

É como se, em vez de apenas mostrar a foto final do crime, eles te dessem o diário do criminoso, mostrando cada passo que ele deu. Isso permite treinar IAs para não apenas dizer "é falso", mas sim "é falso porque primeiro mudaram o cabelo, depois os olhos, e a ordem foi essa".

O Novo Detetive: O FAITH (O Detetive que "Vê" o Invisível)

Para testar o SEED, os autores criaram um novo modelo de IA chamado FAITH.

O Problema das Ferramentas Antigas: Elas olhavam apenas para a "pele" da foto (o espaço visual). Quando as edições se acumulam, a pele fica tão misturada que elas se confundem.
O Superpoder do FAITH: O FAITH é como um detetive que usa óculos especiais. Ele olha para a foto de duas formas ao mesmo tempo:
1. Espaço: O que vemos normalmente (cores, formas).
2. Frequência: Ele usa uma técnica chamada "Transformada Wavelet" (pense nisso como um analisador de áudio). Assim como um analista de áudio consegue ouvir um sussurro escondido no meio de uma música alta, o FAITH consegue ver "vibrações" e padrões matemáticos de alta frequência que a IA deixou para trás, mesmo que a foto pareça perfeita aos olhos humanos.

O Resultado: O que eles descobriram?

Ao treinar o FAITH no SEED, eles viram coisas importantes:

Quanto mais edições, mais difícil: Se a IA editou a foto 4 vezes, é muito mais difícil para qualquer sistema descobrir a ordem correta do que se foi apenas 1 edição. As pistas se apagam umas às outras.
O poder da "Frequência": O FAITH, que olha para as frequências invisíveis, foi muito melhor do que os detetives que só olhavam a imagem. Mesmo quando a foto era comprimida (como no WhatsApp) ou tinha "ruído" (granulação), o FAITH conseguia recuperar a história das edições com muito mais precisão.
A ordem importa: O maior desafio não é apenas achar que a foto foi editada, mas descobrir qual edição veio antes da outra. O FAITH conseguiu fazer isso melhor do que os métodos antigos.

Resumo em uma Analogia

Imagine que você está tentando adivinhar a receita de um bolo estragado apenas olhando para ele.

Os métodos antigos diziam: "Esse bolo está estragado". Fim da história.
O SEED é como ter uma cozinha onde alguém fez o bolo, mas deixou anotado no caderno: "Adicionei açúcar, depois sal, depois fermento, depois mais açúcar".
O FAITH é o chef que, ao provar o bolo, consegue não apenas dizer que tem sal, mas também dizer: "O sal foi colocado depois do fermento, e isso mudou a textura da massa".

Conclusão:
Este trabalho é um passo gigante para tornar a internet mais segura. Ele cria o "campo de treinamento" (SEED) e a "nova arma" (FAITH) necessários para que possamos rastrear a história de imagens falsas, entendendo não apenas que foram manipuladas, mas como e em que ordem, o que é crucial para combater a desinformação.

Título: SEED: Um Benchmark em Grande Escala para Rastreamento de Proveniência em Edições Faciais Sequenciais de Deepfake

1. Problema e Motivação

O conteúdo deepfake nas redes sociais está cada vez mais sendo produzido através de múltiplas edições sequenciais de dados biométricos (como imagens faciais), em vez de uma única manipulação. Ferramentas baseadas em modelos de difusão permitem que usuários alterem atributos (ex: cor dos olhos, adição de óculos, mudança de cabelo) em uma cadeia ordenada.

O Desafio: A aparência final de uma imagem reflete uma cadeia latente de operações. Recuperar esses históricos de edição é crucial para análise de proveniência visual, auditoria de desinformação e moderação de plataformas.
A Lacuna: Conjuntos de dados existentes (como FaceForensics++ ou ForgeryNet) focam predominantemente em manipulações isoladas (passo único) ou rótulos globais de autenticidade. Eles não modelam o histórico de edição ou os artefatos cumulativos introduzidos por pipelines realistas de múltiplos passos. O único benchmark sequencial amplamente usado (Seq-DeepFake) baseia-se em GANs, não cobrindo as nuances dos modelos de difusão modernos.

2. Metodologia e Proposta

Os autores apresentam duas contribuições principais: o conjunto de dados SEED e o modelo baseline FAITH.

A. SEED (Sequential Editing in Diffusion)
É o primeiro benchmark em grande escala para rastreamento de proveniência sequencial baseado em difusão.

Escala e Construção: Contém 91.526 imagens de rostos, geradas a partir de datasets reais de alta qualidade (FFHQ e CelebAMask-HQ).
Processo de Geração: As imagens são criadas aplicando 1 a 4 edições de atributos sequenciais usando pipelines de edição baseados em difusão (LEdits, SDXL, SD3).
Metadados Granulares: Cada amostra possui anotações passo a passo, incluindo:
- Ordem das edições (sequência temporal).
- Atributos editados (ex: lábios, olhos, chapéu).
- Instruções textuais (prompts) usadas em cada etapa.
- Máscaras de manipulação espacial.
- Modelo de geração utilizado em cada passo.
Tarefas Suportadas:
1. Análise de Autenticidade: Distinguir imagens reais de sequencialmente editadas.
2. Análise de Rastros de Edição: Prever quais atributos foram alterados e em que ordem.
3. Análise de Evidência Espacial: Localizar regiões manipuladas usando as máscaras.
Divisão dos Dados: Utiliza uma divisão identity-disjoint (identidades não se sobrepõem entre treino, validação e teste) para evitar vazamento de identidade e forçar o modelo a aprender pistas de proveniência.

B. FAITH (Frequency-Aware Identification Transformer)
Para enfrentar a dificuldade de detectar artefatos sutis e distribuídos em edições sequenciais, os autores propõem o FAITH.

Arquitetura: Um Transformer baseado em codificador-decodificador que integra domínio espacial e domínio de frequência.
Mecanismo Chave:
- Extrai características espaciais via CNN (ResNet-50).
- Utiliza a Transformada Discreta de Wavelet (DWT) para extrair características de alta frequência (sub-banda HH), que contêm detalhes finos e artefatos de manipulação.
- Injeta essas características de frequência como um viés de atenção (attention bias) no decodificador do Transformer, guiando o modelo para regiões suspeitas que podem ter sido sobrescritas por edições subsequentes.
Objetivo: Recuperar a sequência ordenada de atributos editados, tratando o problema como uma previsão de sequência (image-to-sequence).

3. Resultados e Análise

Os experimentos foram conduzidos comparando o FAITH com detectores de manipulação existentes (adaptados) e o baseline sequencial SeqFakeFormer.

Desempenho Geral:
- Detectores projetados para manipulação de passo único falham significativamente ao tentar prever sequências ordenadas complexas.
- A precisão cai drasticamente à medida que o número de edições ( $L$ ) aumenta, especialmente na métrica de Correspondência Exata (Full-Acc), que exige a recuperação perfeita de toda a história de edição.
Eficácia da Frequência:
- O FAITH supera consistentemente os baselines puramente espaciais.
- A abordagem baseada em Wavelets (DWT) mostrou o melhor desempenho, superando DCT e FFT. Isso ocorre porque a DWT preserva melhor as mudanças de borda e textura locais introduzidas pelas edições de atributos, mesmo quando os artefatos se acumulam.
Robustez:
- Sob compressão JPEG e ruído Gaussiano, o FAITH (especialmente com DWT) mantém uma robustez superior, evitando erros comuns como terminação prematura (parar antes de prever todas as edições) ou desvio de ordem (trocar a sequência temporal).
- Em imagens com 4 edições, a tarefa permanece extremamente difícil, mas o FAITH reduz significativamente os erros de ordenação em comparação com métodos que usam apenas o domínio espacial.

4. Contribuições Principais

SEED: Lançamento do primeiro benchmark em grande escala focado em proveniência sequencial baseada em difusão, com anotações passo a passo (ordem, prompts, máscaras) que permitem análise explicável.
Benchmarking Sistemático: Demonstra a dificuldade de recuperar históricos de edição completos sob múltiplos passos de difusão e evidencia a insuficiência de abordagens puramente espaciais.
FAITH: Estabelecimento de uma baseline diagnóstica que integra sinais de frequência e espaço, provando que componentes de alta frequência (wavelets) são cruciais para rastrear evidências sutis e parcialmente sobrescritas.

5. Significado e Impacto

O trabalho é fundamental para o avanço da forense digital na era da IA generativa:

Mudança de Paradigma: Move o foco da detecção binária (real vs. falso) para a análise de proveniência (como e quando o conteúdo foi alterado), o que é essencial para auditoria de desinformação.
Resiliência: Demonstra que a análise de frequência é uma ferramenta vital para lidar com a complexidade de pipelines de edição modernos, onde evidências espaciais podem ser apagadas ou diluídas por edições subsequentes.
Padrão Futuro: O SEED fornece uma base padronizada para desenvolver e avaliar futuros algoritmos capazes de reconstruir a "história" de imagens sintéticas, um requisito crítico para a confiança em mídias digitais.