🤖 AI

A Comprehensive Dataset for Human vs. AI Generated Image Detection

Dit artikel introduceert MS COCOAI, een uitgebreide dataset bestaande uit 96.000 echte en synthetische afbeeldingen gegenereerd door vijf toonaangevende AI-modellen, die is ontworpen om het onderzoek te bevorderen naar het detecteren en identificeren van de bron van door AI gegenereerde media.

Oorspronkelijke auteurs: Rajarshi Roy, Ashhar Aziz, Shashwat Bajpai, Nasrin Imanpour, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth Patwa, Subhankar Ghosh, Shreyas Dixit, Nilesh Ranjan Pal, Vipula Rawte, Ritvik Ga

Gepubliceerd 2026-05-26

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Rajarshi Roy, Ashhar Aziz, Shashwat Bajpai, Nasrin Imanpour, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth Patwa, Subhankar Ghosh, Shreyas Dixit, Nilesh Ranjan Pal, Vipula Rawte, Ritvik Garimella, Amitava Das, Amit Sheth, Gaytri Jena, Vasu Sharma, Aishwarya Naresh Reganti, Vinija Jain, Aman Chadha

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorme kunstgalerij binnenloopt. De helft van de schilderijen zijn echte foto's gemaakt door mensen, en de andere helft zijn meesterwerken gecreëerd door een team van zeer getalenteerde, maar onzichtbare, robots. Het probleem? De robots worden zo goed dat je het verschil niet meer kunt zien door alleen maar te kijken.

Dit artikel gaat over het bouwen van een trainingskamp en een test om ons te helpen de door robots gemaakte kunst op te sporen. Hier is de uitleg in eenvoudige bewoordingen:

1. Het Probleem: De "Onheilspellende Vallei" van Afbeeldingen

We hebben krachtige AI-tools (zoals Stable Diffusion, DALL-E 3 en MidJourney) die afbeeldingen van scratch kunnen maken. Ze zijn verbazingwekkend, maar ze worden ook gebruikt om leugens of nepnieuws te verspreiden. Omdat deze afbeeldingen er zo echt uitzien, worden onze ogen (en zelfs oude computerprogramma's) bedrogen. We hebben een betere manier nodig om ze te vangen.

2. De Oplossing: Het "MS COCOAI" Dataset

De auteurs hebben een gigantische bibliotheek van 96.000 afbeeldingen gebouwd om computers te trainen tot betere detectives. Zie deze bibliotheek als een gecontroleerd wetenschappelijk experiment.

De "Echte" Groep: Ze namen 16.000 echte foto's uit een beroemde database genaamd MS COCO. Dit zijn authentieke foto's met door mensen geschreven beschrijvingen (bijschriften).
De "Valse" Groep: Ze namen die exact dezelfde door mensen geschreven beschrijvingen en voerden ze in bij vijf verschillende AI-robots (Stable Diffusion 2.1, SDXL, SD 3, DALL-E 3 en MidJourney v6).
De Magische Truc: Omdat de AI en de menselijke fotograaf dezelfde beschrijving gebruikten, zijn de resulterende afbeeldingen "tweelingen" wat betreft inhoud.
- Analogie: Stel je voor dat je vraagt aan een menselijke chef-kok en een robot-chef-kok om een "chocoladetaart met aardbeien" te maken. Als de robot een taart maakt die er iets anders uitziet, weten we dat het de schuld is van de robot, niet omdat de robot gevraagd was om een "kruidige pizza" te maken in plaats daarvan. Dit helpt onderzoekers "inhoudelijke bias" te scheiden van "AI-artefacten".

3. De Stress Test: "De Gymnastiekroutine"

Om ervoor te zorgen dat de detectoren stevig zijn, gaven de auteurs hen niet alleen schone afbeeldingen. Ze pasten ook vier "stunts" toe op de AI-afbeeldingen, zoals een gymnast die moeilijkheidsgraad toevoegt aan een routine:

Spiegelen: De afbeelding horizontaal spiegelen.
Verdunnen: De afbeelding donkerder maken.
Statisch: TV-achtige "sneeuw" (ruis) aan de afbeelding toevoegen.
Compressie: De bestandsgrootte verkleinen (zoals het opslaan van een foto op een telefoon) om het licht te vervagen.

Dit zorgt ervoor dat als een detector werkt, het werkt zelfs wanneer de afbeelding is verpest.

4. De Twee Uitdagingen (De Tests)

Het artikel stelt twee specifieke spellen op voor computers om te spelen met dit dataset:

Spel A (De "Echt of Robot?" Test): Kijk naar een afbeelding en zeg: "Is dit door een mens gemaakt of door AI?"
- Resultaat: Een basiscomputermodel had ongeveer 80% goed. Dit is als een mens die 4 van de 5 keer goed raadt. Het is haalbaar, maar niet perfect.
Spel B (De "Wie heeft het gemaakt?" Test): Kijk naar een AI-afbeelding en raad welke van de vijf robots het heeft gemaakt.
- Resultaat: De computer had slechts ongeveer 45% goed. Dit is nauwelijks beter dan raden (zoals het opgooien van een munt).
- Waarom is dit moeilijk? Het is als proberen het verschil te zien tussen vijf verschillende professionele vervalsters die allemaal proberen dezelfde stijl na te bootsen. Het is veel moeilijker om de specifieke kunstenaar te identificeren dan om gewoon te zien dat de kunst nep is.

5. Hoe Ze Het Probeerden Op te Lossen (De Baseline)

Om een startpunt te krijgen, gebruikten de auteurs geen nieuwe, fancy AI. Ze gebruikten een standaard camera-lens (een ResNet-50 model), maar keken op een andere manier naar de afbeeldingen: Frequentiedomein.

Analogie: Stel je voor dat je naar een schilderij kijkt niet door de kleuren, maar door de "trillingen" of het geluid dat het zou maken als het een muziekinstrument was. AI-afbeeldingen hebben vaak een vreemd "zoemgeluid" of een specifiek patroon in hun trillingen dat menselijke foto's niet hebben. Ze leerden een computer om naar dat zoemgeluid te luisteren.

6. De Conclusie

Het artikel concludeert dat we, hoewel we beter worden in het opsporen dat een afbeelding nep is (Spel A), nog steeds vreselijk zijn in het uitzoeken welke specifieke AI-tool het heeft gemaakt (Spel B).

Ze hebben deze enorme bibliotheek van 96.000 gekoppelde afbeeldingen (echt versus AI) vrijgegeven aan het publiek, zodat andere onderzoekers kunnen proberen betere detectoren te bouwen. Hun doel is om de samenleving weer te helpen vertrouwen op wat ze online zien.

Technische Samenvatting: MS COCOAI Dataset voor Detectie van AI-gegenereerde Afbeeldingen

Probleemstelling
De snelle vooruitgang van multimodale generatieve AI-systemen (bijvoorbeeld Stable Diffusion, DALL-E, MidJourney) heeft de creatie van synthetische visuele inhoud fundamenteel veranderd. Hoewel deze tools innovatie stimuleren, faciliteren ze tegelijkertijd de verspreiding van misleidende inhoud en gemanipuleerde media. Naarmate de visuele kwaliteit van gegenereerde afbeeldingen die van authentieke foto's benadert, is het onderscheid maken tussen echte en synthetische inhoud een dringende prioriteit geworden. Bestaande detectiemethoden staan voor aanzienlijke uitdagingen door het gebrek aan robuuste, grootschalige datasets die semantische uitlijning bieden—waarbij echte en synthetische afbeeldingen identieke tekstuele beschrijvingen delen—en die een divers scala aan moderne generators bestrijken, inclusief zowel open-source als gesloten-source modellen.

Methodologie en Datasetconstructie
De auteurs introduceren MS COCOAI, een nieuw dataset bestaande uit 96.000 afbeelding-ondertitel-paren die zijn ontworpen om de beperkingen van eerdere benchmarks aan te pakken. Het constructieproces omvat de volgende stappen:

Bronmateriaal: De dataset is gebaseerd op het MS COCO-dataset, waarbij 16.000 hoogwaardige, door mensen geannoteerde afbeelding-ondertitel-paren worden gebruikt als grondwahrheid voor "echte" afbeeldingen.
Synthetische Generatie: Elke van de 16.000 ondertitels dient als een tekstuele zaad om synthetische afbeeldingen te genereren met behulp van vijf verschillende state-of-the-art modellen: Stable Diffusion 3 (SD3), Stable Diffusion 2.1 (SD2.1), SDXL, DALL-E 3 en MidJourney v6. Dit resulteert in een 1-op-1 uitlijning waarbij elke echte afbeelding vijf overeenkomstige synthetische tegenhangers heeft die gegenereerd zijn vanuit exact dezelfde prompt.
Perturbaties: Om robuustheid- en invariantiestudies te faciliteren, bevat de dataset vier onafhankelijke perturbaties die op elke gegenereerde afbeelding worden toegepast: horizontale spiegeling, vermindering van helderheid (factor 0,5), additief Gaussisch ruis ( $\sigma=0,05$ ) en JPEG-compressie (kwaliteitsfactor 50).
Datastructuur: De dataset is georganiseerd met velden voor de afbeelding, de originele ondertitel, een binaire label (label_A) voor classificatie van echt versus AI-gegenereerd, en een categorische label (label_B) voor specifieke modelattributie (0 voor echt, 1–5 voor de specifieke generator).
Verdeling: De data is opgesplitst in trainings- (42.000), validatie- (9.000) en test- (45.000) subsets.

Belangrijkste Bijdragen

Semantische Uitlijning: In tegenstelling tot eerdere datasets (bijvoorbeeld WildFake, GenImage) die vaak te kampen hebben met misalignement tussen echte en synthetische inhoud, zorgt MS COCOAI ervoor dat echte en synthetische afbeeldingen identieke ondertitels delen. Dit stelt onderzoekers in staat om generatie-artefacten te isoleren van inhoudsvooroordeels.
Diverse Generatordekking: De dataset bevat een gebalanceerde mix van afbeeldingen van vijf moderne generators, die zowel open-source (Stable Diffusion-varianten) als gesloten-source (DALL-E 3, MidJourney v6) systemen bestrijken.
Tweeledige Taak-Benchmark: De dataset ondersteunt twee verschillende evaluatietaken:
- Taak A (Binaire Classificatie): Het onderscheid maken tussen echte en AI-gegenereerde afbeeldingen.
- Taak B (Modelattributie): Het identificeren van het specifieke generatieve model dat verantwoordelijk is voor een synthetische afbeelding.
Robuustheidsevaluatie: De opname van systematische perturbaties maakt het testen van detectiemodellen tegen veelvoorkomende afbeeldingstransformaties mogelijk.

Basisresultaten
De auteurs hebben een basislijn vastgesteld met een ResNet-50-classificator die werkt op frequentiedomeinrepresentaties (afgeleid via 2D-Fourier-transformatie), een strategie die is geïnspireerd door eerdere frequentie-analysewerk. De resultaten benadrukken een aanzienlijk prestatieverschil tussen de twee taken:

Taak A (Echt versus AI): De basislijn behaalde een score van 0,80144, wat aangeeft dat binaire authenticiteitsdetectie haalbaar is met relatief eenvoudige frequentie-gebaseerde kenmerken.
Taak B (Modelattributie): De basislijn behaalde een score van 0,44913, wat aantoont dat het identificeren van de specifieke generator aanzienlijk moeilijker is, waarschijnlijk vanwege de complexiteit van multiclass-classificatie en de subtiele verschillen tussen moderne diffusiemodellen.

Betekenis en Claims
Het artikel positioneert MS COCOAI als een rigoureuze benchmark die bedoeld is om de kloof te overbruggen tussen academisch onderzoek en praktische implementatie in detectie van synthetische media. Door een grootschalige, semantisch uitgelijnde resource te bieden, beogen de auteurs de ontwikkeling van schaalbare tegenmaatregelen tegen door AI mogelijk gemaakte desinformatie te stimuleren. Het werk vult bestaande inspanningen op het gebied van detectie van door AI gegenereerde tekst aan en bouwt voort op de fundamenten van de Defactify-workshopserie. De auteurs maken bescheiden de claim dat hoewel binaire detectie haalbaar is, de dataset de aanzienlijke moeilijkheid van modelattributie blootlegt, waardoor een duidelijke richting wordt geboden voor toekomstig onderzoek naar geavanceerdere vingerafdruktechnieken en cross-modale leeraanpakken.