🤖 AI

A Comprehensive Dataset for Human vs. AI Generated Image Detection

Este artículo presenta MS COCOAI, un conjunto de datos integral que comprende 96.000 imágenes reales y sintéticas generadas por cinco modelos de IA líderes, diseñado para impulsar la investigación en la detección e identificación de la fuente de medios generados por IA.

Autores originales: Rajarshi Roy, Ashhar Aziz, Shashwat Bajpai, Nasrin Imanpour, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth Patwa, Subhankar Ghosh, Shreyas Dixit, Nilesh Ranjan Pal, Vipula Rawte, Ritvik Ga

Publicado 2026-05-26

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Rajarshi Roy, Ashhar Aziz, Shashwat Bajpai, Nasrin Imanpour, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth Patwa, Subhankar Ghosh, Shreyas Dixit, Nilesh Ranjan Pal, Vipula Rawte, Ritvik Garimella, Amitava Das, Amit Sheth, Gaytri Jena, Vasu Sharma, Aishwarya Naresh Reganti, Vinija Jain, Aman Chadha

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que entras en una galería de arte masiva. La mitad de las pinturas son fotografías reales tomadas por humanos, y la otra mitad son obras maestras creadas por un equipo de robots muy talentosos, pero invisibles. ¿El problema? Los robots están mejorando tanto que no puedes distinguir la diferencia solo con mirar.

Este artículo trata sobre construir un campo de entrenamiento y una prueba para ayudarnos a detectar el arte hecho por robots. Aquí está el desglose en términos sencillos:

1. El Problema: El "Valle Inquietante" de las Imágenes

Tenemos herramientas de IA poderosas (como Stable Diffusion, DALL-E 3 y MidJourney) que pueden crear imágenes desde cero. Son increíbles, pero también se están utilizando para difundir mentiras o noticias falsas. Debido a que estas imágenes parecen tan reales, nuestros ojos (e incluso los antiguos programas informáticos) están siendo engañados. Necesitamos una mejor manera de atraparlos.

2. La Solución: El Conjunto de Datos "MS COCOAI"

Los autores construyeron una biblioteca gigante de 96.000 imágenes para entrenar a las computadoras para que sean mejores detectives. Piensa en esta biblioteca como un experimento científico controlado.

El Grupo "Real": Tomaron 16.000 fotos reales de una base de datos famosa llamada MS COCO. Estas son fotos genuinas con descripciones escritas por humanos (pie de foto).
El Grupo "Falso": Tomaron esas exactamente mismas descripciones escritas por humanos y las introdujeron en cinco robots de IA diferentes (Stable Diffusion 2.1, SDXL, SD 3, DALL-E 3 y MidJourney v6).
El Truco de Magia: Debido a que la IA y el fotógrafo humano usaron la misma descripción, las imágenes resultantes son "gemelas" en términos de contenido.
- Analogía: Imagina pedirle a un chef humano y a un chef robot que hagan un "pastel de chocolate con fresas". Si el robot hace un pastel que se ve ligeramente diferente, sabemos que es culpa del robot, no porque se le haya pedido que hiciera una "pizza picante" en su lugar. Esto ayuda a los investigadores a separar el "sesgo de contenido" de los "artefactos de la IA".

3. La Prueba de Estrés: "La Rutina de Gimnasia"

Para asegurarse de que los detectores sean resistentes, los autores no solo les dieron imágenes limpias. También aplicaron cuatro "acrobacias" a las imágenes de la IA, como un gimnasta que añade dificultad a una rutina:

Volteo: Espejar la imagen horizontalmente.
Atenuación: Oscurecer la imagen.
Estática: Añadir "nieve" (ruido) tipo televisión a la imagen.
Compresión: Reducir el tamaño del archivo (como guardar una foto en un teléfono) para desenfocarla ligeramente.

Esto asegura que si un detector funciona, funcione incluso cuando la imagen haya sido manipulada.

4. Los Dos Desafíos (Las Pruebas)

El artículo establece dos juegos específicos para que las computadoras jueguen usando este conjunto de datos:

Juego A (La Prueba "¿Real o Robot?"): Mira una imagen y di: "¿Esto es hecho por humanos o por IA?".
- Resultado: Un modelo informático básico acertó aproximadamente el 80%. Esto es como un humano adivinando correctamente 4 de cada 5 veces. Es factible, pero no perfecto.
Juego B (La Prueba "¿Quién lo hizo?"): Mira una imagen de IA y adivina qué robot de los cinco la hizo.
- Resultado: La computadora solo acertó aproximadamente el 45%. Esto es apenas mejor que adivinar al azar (como lanzar una moneda).
- ¿Por qué es esto difícil? Es como intentar distinguir la diferencia entre cinco falsificadores profesionales diferentes que están intentando copiar el mismo estilo. Es mucho más difícil identificar al artista específico que simplemente detectar que el arte es falso.

5. Cómo Intentaron Resolverlo (La Línea Base)

Para obtener un punto de partida, los autores no usaron una IA nueva y sofisticada. Usaron una lente de cámara estándar (un modelo ResNet-50), pero miraron las imágenes de una manera diferente: Dominio de Frecuencia.

Analogía: Imagina mirar un cuadro no por sus colores, sino por las "vibraciones" o el sonido que haría si fuera un instrumento musical. Las imágenes de la IA a menudo tienen un extraño "zumbido" o un patrón específico en sus vibraciones que las fotos humanas no tienen. Enseñaron a una computadora a escuchar ese zumbido.

6. La Conclusión

El artículo concluye que, aunque estamos mejorando en detectar que una imagen es falsa (Juego A), seguimos siendo terribles para averiguar qué herramienta de IA específica la hizo (Juego B).

Han puesto a disposición del público esta biblioteca masiva de 96.000 imágenes emparejadas (real vs. IA) para que otros investigadores puedan intentar construir mejores detectores. Su objetivo es ayudar a que la sociedad vuelva a confiar en lo que ve en línea.

Resumen Técnico: Conjunto de Datos MS COCOAI para la Detección de Imágenes Generadas por IA

Enunciado del Problema
El avance rápido de los sistemas generativos multimodales de IA (por ejemplo, Stable Diffusion, DALL-E, MidJourney) ha alterado fundamentalmente la creación de contenido visual sintético. Si bien estas herramientas impulsan la innovación, simultáneamente facilitan la difusión de contenido engañoso y medios manipulados. A medida que la fidelidad visual de las imágenes generadas se acerca a la de las fotografías auténticas, distinguir entre contenido real y sintético se ha convertido en una prioridad urgente. Los métodos de detección existentes enfrentan desafíos significativos debido a la falta de conjuntos de datos robustos y a gran escala que ofrezcan alineación semántica —donde las imágenes reales y sintéticas comparten descripciones textuales idénticas— y cubran una gama diversa de generadores modernos, incluidos tanto modelos de código abierto como de código cerrado.

Metodología y Construcción del Conjunto de Datos
Los autores presentan MS COCOAI, un conjunto de datos novedoso que comprende 96.000 pares de imagen-descripción diseñados para abordar las limitaciones de los puntos de referencia anteriores. El proceso de construcción implica los siguientes pasos:

Material de Origen: El conjunto de datos se basa en el conjunto de datos MS COCO, utilizando 16.000 pares de imagen-descripción de alta calidad, anotados por humanos, como la verdad fundamental para las imágenes "reales".
Generación Sintética: Cada una de las 16.000 descripciones sirve como una semilla textual para generar imágenes sintéticas utilizando cinco modelos distintos de última generación: Stable Diffusion 3 (SD3), Stable Diffusion 2.1 (SD2.1), SDXL, DALL-E 3 y MidJourney v6. Esto resulta en una alineación 1:1 donde cada imagen real tiene cinco contrapartes sintéticas correspondientes generadas a partir del mismo prompt exacto.
Perturbaciones: Para facilitar estudios de robustez e invarianza, el conjunto de datos incluye cuatro perturbaciones independientes aplicadas a cada imagen generada: volteo horizontal, reducción de brillo (factor de 0.5), ruido gaussiano aditivo ( $\sigma=0.05$ ) y compresión JPEG (factor de calidad 50).
Estructura de Datos: El conjunto de datos está organizado con campos para la imagen, la descripción original, una etiqueta binaria (label_A) para la clasificación de real vs. generado por IA, y una etiqueta categórica (label_B) para la atribución específica del modelo (0 para real, 1–5 para el generador específico).
División: Los datos se dividen en subconjuntos de entrenamiento (42.000), validación (9.000) y prueba (45.000).

Contribuciones Clave

Alineación Semántica: A diferencia de conjuntos de datos anteriores (por ejemplo, WildFake, GenImage) que a menudo sufren de desalineación entre contenido real y sintético, MS COCOAI asegura que las imágenes reales y sintéticas compartan descripciones idénticas. Esto permite a los investigadores aislar los artefactos de generación de los sesgos de contenido.
Cobertura Diversa de Generadores: El conjunto de datos incluye una mezcla equilibrada de imágenes de cinco generadores modernos, cubriendo tanto sistemas de código abierto (variantes de Stable Diffusion) como de código cerrado (DALL-E 3, MidJourney v6).
Punto de Referencia de Tarea Dual: El conjunto de datos admite dos tareas de evaluación distintas:
- Tarea A (Clasificación Binaria): Distinguir entre imágenes reales y generadas por IA.
- Tarea B (Atribución de Modelo): Identificar el modelo generativo específico responsable de una imagen sintética.
Evaluación de Robustez: La inclusión de perturbaciones sistemáticas permite probar los modelos de detección frente a transformaciones comunes de imágenes.

Resultados de Línea Base
Los autores establecieron una línea base utilizando un clasificador ResNet-50 que opera sobre representaciones en el dominio de la frecuencia (derivadas mediante Transformada de Fourier 2D), una estrategia inspirada en trabajos anteriores de análisis de frecuencia. Los resultados destacan una brecha significativa de rendimiento entre las dos tareas:

Tarea A (Real vs. IA): La línea base logró una puntuación de 0.80144, lo que indica que la detección binaria de autenticidad es factible con características basadas en frecuencia relativamente sencillas.
Tarea B (Atribución de Modelo): La línea base logró una puntuación de 0.44913, demostrando que identificar el generador específico es sustancialmente más difícil, probablemente debido a la complejidad de la clasificación multiclase y a las diferencias sutiles entre los modelos de difusión modernos.

Significado y Afirmaciones
El artículo posiciona a MS COCOAI como un punto de referencia riguroso destinado a cerrar la brecha entre la investigación académica y la implementación práctica en la detección de medios sintéticos. Al proporcionar un recurso a gran escala y semánticamente alineado, los autores buscan fomentar el desarrollo de contramedidas escalables contra la desinformación habilitada por IA. El trabajo complementa los esfuerzos existentes en la detección de texto generado por IA y se basa en los fundamentos de la serie de talleres Defactify. Los autores afirman modestamente que, si bien la detección binaria es alcanzable, el conjunto de datos revela la dificultad sustancial de la atribución de modelos, estableciendo así una dirección clara para futuras investigaciones sobre técnicas de huella digital más sofisticadas y enfoques de aprendizaje multimodal.