🤖 AI

A Comprehensive Dataset for Human vs. AI Generated Image Detection

Este artigo apresenta o MS COCOAI, um conjunto de dados abrangente composto por 96.000 imagens reais e sintéticas geradas por cinco modelos de IA líderes, projetado para avançar a pesquisa na detecção e identificação da origem de mídias geradas por IA.

Autores originais: Rajarshi Roy, Ashhar Aziz, Shashwat Bajpai, Nasrin Imanpour, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth Patwa, Subhankar Ghosh, Shreyas Dixit, Nilesh Ranjan Pal, Vipula Rawte, Ritvik Ga

Publicado 2026-05-26

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Rajarshi Roy, Ashhar Aziz, Shashwat Bajpai, Nasrin Imanpour, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth Patwa, Subhankar Ghosh, Shreyas Dixit, Nilesh Ranjan Pal, Vipula Rawte, Ritvik Garimella, Amitava Das, Amit Sheth, Gaytri Jena, Vasu Sharma, Aishwarya Naresh Reganti, Vinija Jain, Aman Chadha

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você entra em uma enorme galeria de arte. Metade das pinturas são fotografias reais tiradas por humanos, e a outra metade são obras-primas criadas por uma equipe de robôs muito talentosos, mas invisíveis. O problema? Os robôs estão ficando tão bons que você não consegue distinguir a diferença apenas olhando.

Este artigo trata de construir um campo de treinamento e um teste para nos ajudar a identificar a arte feita por robôs. Aqui está a explicação em termos simples:

1. O Problema: O "Vale da Estranheza" das Imagens

Temos ferramentas poderosas de IA (como Stable Diffusion, DALL-E 3 e MidJourney) que podem criar imagens do zero. Elas são incríveis, mas também estão sendo usadas para espalhar mentiras ou notícias falsas. Como essas imagens parecem tão reais, nossos olhos (e até programas de computador antigos) estão sendo enganados. Precisamos de uma maneira melhor de pegá-las.

2. A Solução: O Conjunto de Dados "MS COCOAI"

Os autores construíram uma biblioteca gigante de 96.000 imagens para treinar computadores a se tornarem melhores detetives. Pense nesta biblioteca como um experimento científico controlado.

O Grupo "Real": Eles pegaram 16.000 fotos reais de um banco de dados famoso chamado MS COCO. São fotos genuínas com descrições escritas por humanos (legendas).
O Grupo "Falso": Eles pegaram exatamente as mesmas descrições escritas por humanos e as alimentaram em cinco robôs de IA diferentes (Stable Diffusion 2.1, SDXL, SD 3, DALL-E 3 e MidJourney v6).
O Truque de Mágica: Como a IA e o fotógrafo humano usaram a mesma descrição, as imagens resultantes são "gêmeas" em termos de conteúdo.
- Analogia: Imagine pedir a um chef humano e a um chef robô que façam um "bolo de chocolate com morangos". Se o robô fizer um bolo que parece ligeiramente diferente, sabemos que é culpa do robô, e não porque foi pedido para fazer uma "pizza apimentada" em vez disso. Isso ajuda os pesquisadores a separar o "viés de conteúdo" dos "artefatos de IA".

3. O Teste de Estresse: "A Rotina de Ginástica"

Para garantir que os detectores sejam resistentes, os autores não deram apenas imagens limpas a eles. Eles também aplicaram quatro "manobras" às imagens de IA, como um ginasta adicionando dificuldade a uma rotina:

Inversão: Espelhar a imagem horizontalmente.
Escurecimento: Deixar a imagem mais escura.
Estática: Adicionar "neve" (ruído) tipo de TV à imagem.
Compressão: Reduzir o tamanho do arquivo (como salvar uma foto no celular) para embaçá-la ligeiramente.

Isso garante que, se um detector funcionar, ele funcione mesmo quando a imagem tiver sido alterada.

4. Os Dois Desafios (Os Testes)

O artigo estabelece dois jogos específicos para os computadores jogarem usando este conjunto de dados:

Jogo A (O Teste "Real ou Robô?"): Olhe para uma imagem e diga: "Isso foi feito por humano ou por IA?"
- Resultado: Um modelo básico de computador acertou cerca de 80%. Isso é como um humano adivinhar corretamente 4 vezes em 5. É factível, mas não perfeito.
Jogo B (O Teste "Quem Fez Isso?"): Olhe para uma imagem de IA e adivinhe qual dos cinco robôs a fez.
- Resultado: O computador acertou apenas cerca de 45%. Isso é pouco melhor do que um chute aleatório (como jogar uma moeda).
- Por que isso é difícil? É como tentar distinguir a diferença entre cinco falsários profissionais diferentes que estão todos tentando copiar o mesmo estilo. É muito mais difícil identificar o artista específico do que apenas perceber que a arte é falsa.

5. Como Eles Tentaram Resolver (A Linha de Base)

Para obter um ponto de partida, os autores não usaram uma IA nova e sofisticada. Usaram uma lente de câmera padrão (um modelo ResNet-50), mas olharam para as imagens de uma maneira diferente: Domínio de Frequência.

Analogia: Imagine olhar para uma pintura não pelas suas cores, mas pelas "vibrações" ou pelo som que ela faria se fosse um instrumento musical. Imagens de IA frequentemente têm um "zumbido" estranho ou um padrão específico em suas vibrações que fotos humanas não têm. Eles ensinaram um computador a ouvir esse zumbido.

6. A Conclusão

O artigo conclui que, embora estejamos ficando melhores em perceber que uma imagem é falsa (Jogo A), ainda somos péssimos em descobrir qual ferramenta de IA específica a fez (Jogo B).

Eles lançaram esta biblioteca massiva de 96.000 imagens emparelhadas (real vs. IA) ao público para que outros pesquisadores possam tentar construir detectores melhores. Seu objetivo é ajudar a sociedade a confiar novamente no que vê online.

Resumo Técnico: Conjunto de Dados MS COCOAI para Detecção de Imagens Geradas por IA

Declaração do Problema
O avanço rápido dos sistemas de IA generativa multimodal (por exemplo, Stable Diffusion, DALL-E, MidJourney) alterou fundamentalmente a criação de conteúdo visual sintético. Embora essas ferramentas impulsionem a inovação, elas simultaneamente facilitam a disseminação de conteúdo enganoso e mídia manipulada. À medida que a fidelidade visual das imagens geradas se aproxima da de fotografias autênticas, distinguir entre conteúdo real e sintético tornou-se uma prioridade urgente. Os métodos de detecção existentes enfrentam desafios significativos devido à falta de conjuntos de dados robustos e em grande escala que ofereçam alinhamento semântico — onde imagens reais e sintéticas compartilham descrições textuais idênticas — e cubram uma gama diversificada de geradores modernos, incluindo tanto modelos de código aberto quanto de código fechado.

Metodologia e Construção do Conjunto de Dados
Os autores apresentam o MS COCOAI, um conjunto de dados inovador composto por 96.000 pares imagem-legenda projetado para abordar as limitações de benchmarks anteriores. O processo de construção envolve as seguintes etapas:

Material de Origem: O conjunto de dados é construído sobre o conjunto de dados MS COCO, utilizando 16.000 pares imagem-legenda de alta qualidade, anotados por humanos, como verdade fundamental para imagens "reais".
Geração Sintética: Cada uma das 16.000 legendas serve como uma semente textual para gerar imagens sintéticas usando cinco modelos distintos de última geração: Stable Diffusion 3 (SD3), Stable Diffusion 2.1 (SD2.1), SDXL, DALL-E 3 e MidJourney v6. Isso resulta em um alinhamento 1:1, onde cada imagem real possui cinco contrapartes sintéticas correspondentes geradas a partir do mesmo prompt exato.
Perturbações: Para facilitar estudos de robustez e invariância, o conjunto de dados inclui quatro perturbações independentes aplicadas a cada imagem gerada: inversão horizontal, redução de brilho (fator de 0,5), ruído gaussiano aditivo ( $\sigma=0,05$ ) e compressão JPEG (fator de qualidade 50).
Estrutura de Dados: O conjunto de dados é organizado com campos para a imagem, legenda original, um rótulo binário (label_A) para classificação real vs. gerada por IA e um rótulo categórico (label_B) para atribuição específica do modelo (0 para real, 1–5 para o gerador específico).
Divisão: Os dados são particionados em subconjuntos de treinamento (42.000), validação (9.000) e teste (45.000).

Contribuições Principais

Alinhamento Semântico: Ao contrário de conjuntos de dados anteriores (por exemplo, WildFake, GenImage) que frequentemente sofrem de desalinhamento entre conteúdo real e sintético, o MS COCOAI garante que imagens reais e sintéticas compartilhem legendas idênticas. Isso permite que pesquisadores isolem artefatos de geração de vieses de conteúdo.
Cobertura Diversificada de Geradores: O conjunto de dados inclui uma mistura equilibrada de imagens de cinco geradores modernos, cobrindo tanto sistemas de código aberto (variantes do Stable Diffusion) quanto de código fechado (DALL-E 3, MidJourney v6).
Benchmark de Dupla Tarefa: O conjunto de dados suporta duas tarefas de avaliação distintas:
- Tarefa A (Classificação Binária): Distinguir entre imagens reais e geradas por IA.
- Tarefa B (Atribuição de Modelo): Identificar o modelo generativo específico responsável por uma imagem sintética.
Avaliação de Robustez: A inclusão de perturbações sistemáticas permite o teste de modelos de detecção contra transformações comuns de imagem.

Resultados de Linha de Base
Os autores estabeleceram uma linha de base usando um classificador ResNet-50 operando sobre representações no domínio da frequência (derivadas via Transformada de Fourier 2D), uma estratégia inspirada em trabalhos anteriores de análise de frequência. Os resultados destacam uma lacuna significativa de desempenho entre as duas tarefas:

Tarefa A (Real vs. IA): A linha de base alcançou uma pontuação de 0,80144, indicando que a detecção binária de autenticidade é viável com recursos baseados em frequência relativamente diretos.
Tarefa B (Atribuição de Modelo): A linha de base alcançou uma pontuação de 0,44913, demonstrando que identificar o gerador específico é substancialmente mais difícil, provavelmente devido à complexidade da classificação multiclasse e às diferenças sutis entre os modelos de difusão modernos.

Significado e Alegações
O artigo posiciona o MS COCOAI como um benchmark rigoroso destinado a preencher a lacuna entre a investigação acadêmica e a implementação prática na detecção de mídia sintética. Ao fornecer um recurso em grande escala e semanticamente alinhado, os autores visam fomentar o desenvolvimento de contramedidas escaláveis contra a desinformação habilitada por IA. O trabalho complementa esforços existentes na detecção de texto gerado por IA e constrói sobre as fundações da série de workshops Defactify. Os autores afirmam modestamente que, embora a detecção binária seja alcançável, o conjunto de dados revela a dificuldade substancial da atribuição de modelo, estabelecendo assim uma direção clara para pesquisas futuras sobre técnicas de impressão digital mais sofisticadas e abordagens de aprendizado cross-modal.