🤖 AI

A Comprehensive Dataset for Human vs. AI Generated Image Detection

Cet article présente MS COCOAI, un ensemble de données complet comprenant 96 000 images réelles et synthétiques générées par cinq modèles d'IA de premier plan, conçu pour faire progresser la recherche dans la détection et l'identification de la source des médias générés par l'IA.

Auteurs originaux : Rajarshi Roy, Ashhar Aziz, Shashwat Bajpai, Nasrin Imanpour, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth Patwa, Subhankar Ghosh, Shreyas Dixit, Nilesh Ranjan Pal, Vipula Rawte, Ritvik Ga

Publié 2026-05-26

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Rajarshi Roy, Ashhar Aziz, Shashwat Bajpai, Nasrin Imanpour, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth Patwa, Subhankar Ghosh, Shreyas Dixit, Nilesh Ranjan Pal, Vipula Rawte, Ritvik Garimella, Amitava Das, Amit Sheth, Gaytri Jena, Vasu Sharma, Aishwarya Naresh Reganti, Vinija Jain, Aman Chadha

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous entriez dans une immense galerie d'art. La moitié des tableaux sont de véritables photographies prises par des humains, et l'autre moitié sont des chefs-d'œuvre créés par une équipe de robots très talentueux, mais invisibles. Le problème ? Les robots deviennent si bons que vous ne pouvez plus faire la différence simplement en regardant.

Ce document traite de la création d'un camp d'entraînement et d'un test pour nous aider à repérer l'art créé par des robots. Voici le détail en termes simples :

1. Le Problème : La « Vallée de l'Étrange » des Images

Nous disposons d'outils d'IA puissants (comme Stable Diffusion, DALL-E 3 et MidJourney) capables de créer des images à partir de rien. Ils sont incroyables, mais ils sont aussi utilisés pour répandre des mensonges ou de fausses nouvelles. Comme ces images semblent si réelles, nos yeux (et même les anciens programmes informatiques) se font berner. Nous avons besoin d'un meilleur moyen de les démasquer.

2. La Solution : Le Jeu de Données « MS COCOAI »

Les auteurs ont construit une immense bibliothèque de 96 000 images pour entraîner les ordinateurs à devenir de meilleurs détectives. Considérez cette bibliothèque comme une expérience scientifique contrôlée.

Le Groupe « Réel » : Ils ont pris 16 000 photos réelles dans une base de données célèbre appelée MS COCO. Ce sont de véritables photos accompagnées de descriptions écrites par des humains (légendes).
Le Groupe « Faux » : Ils ont pris ces exactes mêmes descriptions écrites par des humains et les ont injectées dans cinq robots d'IA différents (Stable Diffusion 2.1, SDXL, SD 3, DALL-E 3 et MidJourney v6).
Le Tour de Magie : Parce que l'IA et le photographe humain ont utilisé la même description, les images résultantes sont des « jumeaux » en termes de contenu.
- Analogie : Imaginez demander à un chef humain et à un chef robot de préparer un « gâteau au chocolat avec des fraises ». Si le robot fait un gâteau qui ressemble légèrement différent, nous savons que c'est la faute du robot, et non parce qu'on lui aurait demandé de faire une « pizza épicée » à la place. Cela aide les chercheurs à séparer le « biais de contenu » des « artefacts de l'IA ».

3. Le Test de Stress : « La Routine de Gymnastique »

Pour s'assurer que les détecteurs sont robustes, les auteurs ne se sont pas contentés de leur donner des images propres. Ils ont également appliqué quatre « figures » aux images générées par l'IA, comme un gymnaste ajoutant de la difficulté à une routine :

Retournement : Miroir de l'image horizontalement.
Assombrissement : Rendre l'image plus sombre.
Statique : Ajouter du « neige » (bruit) de type télévision à l'image.
Compression : Réduire la taille du fichier (comme lors de l'enregistrement d'une photo sur un téléphone) pour la flouter légèrement.

Cela garantit que si un détecteur fonctionne, il fonctionne même lorsque l'image a été altérée.

4. Les Deux Défis (Les Tests)

Le document établit deux jeux spécifiques pour que les ordinateurs jouent avec ce jeu de données :

Jeu A (Le Test « Réel ou Robot ? ») : Regardez une image et dites : « Est-ce fait par un humain ou par une IA ? »
- Résultat : Un modèle informatique de base a eu raison environ 80 % du temps. C'est comme si un humain devinait correctement 4 fois sur 5. C'est faisable, mais pas parfait.
Jeu B (Le Test « Qui l'a fait ? ») : Regardez une image générée par l'IA et devinez quel des cinq robots l'a produite.
- Résultat : L'ordinateur n'a eu raison qu'environ 45 % du temps. C'est à peine mieux qu'un hasard (comme lancer une pièce de monnaie).
- Pourquoi est-ce difficile ? C'est comme essayer de faire la différence entre cinq faussaires professionnels différents qui tentent tous de copier le même style. Il est beaucoup plus difficile d'identifier l'artiste spécifique que de simplement repérer que l'art est faux.

5. Comment Ils Ont Tenté de Résoudre le Problème (La Référence)

Pour obtenir un point de départ, les auteurs n'ont pas utilisé une nouvelle IA sophistiquée. Ils ont utilisé un objectif de caméra standard (un modèle ResNet-50) mais ont examiné les images différemment : le Domaine Fréquentiel.

Analogie : Imaginez regarder un tableau non pas par ses couleurs, mais par les « vibrations » ou le son qu'il produirait s'il était un instrument de musique. Les images générées par l'IA ont souvent un étrange « bourdonnement » ou un motif spécifique dans leurs vibrations que les photos humaines n'ont pas. Ils ont appris à un ordinateur à écouter ce bourdonnement.

6. La Conclusion

Le document conclut que, bien que nous devenions meilleurs pour repérer qu'une image est fausse (Jeu A), nous sommes toujours terribles pour déterminer quel outil d'IA spécifique l'a produite (Jeu B).

Ils ont rendu publique cette immense bibliothèque de 96 000 images appariées (réelles vs IA) afin que d'autres chercheurs puissent essayer de créer de meilleurs détecteurs. Leur objectif est d'aider la société à retrouver confiance en ce qu'elle voit en ligne.

Résumé technique : Jeu de données MS COCOAI pour la détection d'images générées par IA

Énoncé du problème
Les progrès rapides des systèmes d'IA générative multimodale (par exemple, Stable Diffusion, DALL-E, MidJourney) ont fondamentalement transformé la création de contenu visuel synthétique. Bien que ces outils stimulent l'innovation, ils facilitent simultanément la propagation de contenus trompeurs et de médias manipulés. À mesure que la fidélité visuelle des images générées se rapproche de celle des photographies authentiques, la distinction entre contenu réel et synthétique est devenue une priorité urgente. Les méthodes de détection existantes font face à des défis majeurs en raison de l'absence de jeux de données robustes et à grande échelle offrant un alignement sémantique — où les images réelles et synthétiques partagent des descriptions textuelles identiques — et couvrant une gamme diversifiée de générateurs modernes, incluant à la fois des modèles open-source et closed-source.

Méthodologie et construction du jeu de données
Les auteurs présentent MS COCOAI, un nouveau jeu de données comprenant 96 000 paires image-légende conçues pour répondre aux limites des benchmarks précédents. Le processus de construction comprend les étapes suivantes :

Matériel source : Le jeu de données est construit sur la base du jeu de données MS COCO, utilisant 16 000 paires image-légende de haute qualité, annotées par des humains, comme vérité terrain pour les images « réelles ».
Génération synthétique : Chacune des 16 000 légendes sert de graine textuelle pour générer des images synthétiques à l'aide de cinq modèles distincts de pointe : Stable Diffusion 3 (SD3), Stable Diffusion 2.1 (SD2.1), SDXL, DALL-E 3 et MidJourney v6. Cela aboutit à un alignement 1:1 où chaque image réelle possède cinq contreparties synthétiques correspondantes générées à partir de la même invite exacte.
Perturbations : Pour faciliter les études de robustesse et d'invariance, le jeu de données inclut quatre perturbations indépendantes appliquées à chaque image générée : retournement horizontal, réduction de la luminosité (facteur de 0,5), bruit gaussien additif ( $\sigma=0,05$ ) et compression JPEG (facteur de qualité 50).
Structure des données : Le jeu de données est organisé avec des champs pour l'image, la légende originale, une étiquette binaire (label_A) pour la classification réel vs généré par IA, et une étiquette catégorielle (label_B) pour l'attribution spécifique du modèle (0 pour réel, 1–5 pour le générateur spécifique).
Répartition : Les données sont partitionnées en sous-ensembles d'entraînement (42 000), de validation (9 000) et de test (45 000).

Contributions clés

Alignement sémantique : Contrairement aux jeux de données antérieurs (par exemple, WildFake, GenImage) qui souffrent souvent d'un désalignement entre contenu réel et synthétique, MS COCOAI garantit que les images réelles et synthétiques partagent des légendes identiques. Cela permet aux chercheurs d'isoler les artefacts de génération des biais de contenu.
Couverture diversifiée des générateurs : Le jeu de données inclut un mélange équilibré d'images provenant de cinq générateurs modernes, couvrant à la fois des systèmes open-source (variantes de Stable Diffusion) et closed-source (DALL-E 3, MidJourney v6).
Benchmark à double tâche : Le jeu de données prend en charge deux tâches d'évaluation distinctes :
- Tâche A (Classification binaire) : Distinguer les images réelles des images générées par IA.
- Tâche B (Attribution de modèle) : Identifier le modèle génératif spécifique responsable d'une image synthétique.
Évaluation de la robustesse : L'inclusion de perturbations systématiques permet de tester les modèles de détection face à des transformations d'images courantes.

Résultats de référence
Les auteurs ont établi une référence de base utilisant un classificateur ResNet-50 opérant sur des représentations dans le domaine fréquentiel (dérivées via une transformée de Fourier 2D), une stratégie inspirée par des travaux antérieurs d'analyse fréquentielle. Les résultats mettent en évidence un écart de performance significatif entre les deux tâches :

Tâche A (Réel vs IA) : La référence de base a obtenu un score de 0,80144, indiquant que la détection binaire d'authenticité est réalisable avec des caractéristiques basées sur la fréquence relativement simples.
Tâche B (Attribution de modèle) : La référence de base a obtenu un score de 0,44913, démontrant que l'identification du générateur spécifique est considérablement plus difficile, probablement en raison de la complexité de la classification multi-classes et des différences subtiles entre les modèles de diffusion modernes.

Importance et affirmations
L'article présente MS COCOAI comme un benchmark rigoureux destiné à combler le fossé entre la recherche académique et la mise en œuvre pratique dans la détection des médias synthétiques. En fournissant une ressource à grande échelle et sémantiquement alignée, les auteurs visent à favoriser le développement de contre-mesures évolutives contre la désinformation permise par l'IA. Ce travail complète les efforts existants dans la détection de texte généré par IA et s'appuie sur les fondations de la série d'ateliers Defactify. Les auteurs affirment modestement que, si la détection binaire est réalisable, le jeu de données révèle la difficulté substantielle de l'attribution de modèle, établissant ainsi une direction claire pour les recherches futures sur des techniques d'empreintes digitales plus sophistiquées et des approches d'apprentissage cross-modal.