Technische Samenvatting: Ivy-Fake en Ivy-xDetector

Probleemstelling

De snelle vooruitgang van door kunstmatige intelligentie gegenereerde inhoud (AIGC), gedreven door diffusiemodellen zoals Sora, DALL-E en Stable Diffusion, heeft hoogwaardige synthetische media gecreëerd die de lijn tussen authentieke en vervalste inhoud vervaagt. Dit vormt aanzienlijke veiligheidsrisico's, waaronder de verspreiding van desinformatie, documentvervalsing en vergiftiging van datasets.

Huidige detectiebenaderingen staan voor twee primaire beperkingen:

1. Gebrek aan multidimensionale, verklaarbare datasets: Bestaande open-source datasets (bijv. WildFake, GenVideo) vertrouwen voornamelijk op sterk vereenvoudigde binaire annotaties (echt/vervalst). Dit beperkt de verklaarbaarheid en betrouwbaarheid van getrainde detectoren, aangezien ze geen gedetailleerde redenering kunnen geven voor hun voorspellingen. Bovendien zijn bestaande bronnen gefragmenteerd, waarbij sommige zich uitsluitend richten op afbeeldingen (bijv. FakeClue) en andere op video's, zonder een unificerend benchmark voor multimodale detectie.
2. Onvoldoende interpreteerbaarheid in MLLM-gebaseerde detectoren: eerdere Multimodale Groot Taalmodel (MLLM) detectoren (bijv. FakeVLM) vertonen vaak grofkorrelige interpreteerbaarheid. Hun stap-voor-stap redenering mist de fijnkorrelige details die nodig zijn voor betrouwbare lokalisatie van artefacten en een uitgebreide uitleg van synthetische vingerafdrukken.

Methodologie

1. Ivy-Fake: Een Unificerend Benchmark

De auteurs introduceren Ivy-Fake, het eerste grootschalige multimodale benchmark ontworpen voor verklaarbare AIGC-detectie over zowel afbeeldingen als video's.

• Dataschaal en Samenstelling: De dataset omvat meer dan 106.000 trainingsstalen (61.107 afbeeldingen en 45.272 video's) en 5.000 handmatig geverifieerde evaluatievoorbeelden.
• Databronnen: Data is samengesteld uit diverse publieke datasets (GenVideo, LOKI, FakeClue, WildFake, Kinetics-400, MMFakeBench, GenImage, DiffusionForensics) en gegenereerd met state-of-the-art modellen (FLUX.1, Lora Flux, Qwen-Image).
• Annotatiestrategie: In tegenstelling tot binaire labels, biedt Ivy-Fake rijke, fijnkorrelige annotaties die zijn gecategoriseerd in twee hoofddimensies:
  • Ruimtelijke Kenmerken: Toepasbaar op zowel afbeeldingen als video's, bestaande uit acht sub-dimensies: Onpraktische Luminositeit, Gelokaliseerde Vervaging, Onleesbare Letters, Opgenomen Componenten, Ruimtelijke Relaties, Vervormde Componenten, Chromatische Irregulariteit en Abnormale Textuur.
  • Temporele Kenmerken: Exclusief voor video's, bestaande uit vier sub-dimensies: Luminantie-Discrepantie, Onhandige Gelaatsuitdrukking, Gedupliceerde Componenten en Niet-Ruimtelijke Relaties.
• Kwaliteitscontrole: Een rigoureuze pijplijn met automatische filtering (corrupte bestanden, resolutiebeperkingen, verwijdering van bijna-duplicaten) en menselijke verificatie (10 gebruikers, ~1.000 uur) waarborgt de data-integriteit. De uiteindelijke testset bevat 2.500 afbeeldingen en 2.500 video's, gebalanceerd tussen echte en vervalste instanties.

2. Ivy-xDetector: Een Reinforcement Fine-Tuned MLLM

Om gebruik te maken van de Ivy-Fake-dataset, stellen de auteurs Ivy-xDetector voor, een multimodaal groot taalmodel ontworpen voor robuuste detectie en verklaarbare redenering.

• Trainingspijplijn: Het model ondergaat een tweefasig trainingsproces:
  1. Instructie-gedreven Cold Start (SFT): Het model wordt geïnitieerd met detectie- en verklarende Chain-of-Thought (CoT)-data gegenereerd door Gemini 2.5 Pro. Deze fase injecteert fijnkorrelige artefactperceptie en uitlegcapaciteiten in het basismodel (Qwen2.5-VL-3B).
  2. Reinforcement Learning met Verifieerbare Beloningen (RLVR): Het model wordt verder geoptimaliseerd met Group Relative Policy Optimization (GRPO). Deze fase maakt gebruik van een op regels gebaseerd beloningssysteem bestaande uit:
     • Accuraatheidsbeloning: Scoreert 1 als de <conclusion>-tag overeenkomt met de grondwaarheid (echt/vervalst).
     • Formaatbeloning: Scoreert 1 als de output strikt voldoet aan de structurele vereisten (redenering in <thought>, beslissing in <conclusion>).
• Efficiëntie: Ivy-xDetector bereikt state-of-the-art prestaties met minder dan 200.000 stalen, een aanzienlijke reductie ten opzichte van bestaande detectoren die vaak vertrouwen op miljoenen datapunten.

Belangrijkste Bijdragen

1. Ivy-Fake Dataset: De eerste grootschalige, unificerende dataset voor verklaarbare AIGC-detectie die zowel afbeeldingen als video's bestrijkt, met meer dan 106K trainingsstalen voorzien van fijnkorrelige visuele annotaties en tekstuele redenering.
2. Ivy-xDetector Model: Een op reinforcement learning gebaseerde MLLM die uitblinkt in het opsporen van generatieve artefacten (ruimtelijk in afbeeldingen; ruimtelijk en temporeel in video's) en het produceren van voor mensen begrijpelijke redeneerketens.
3. Uitgebreide Evaluatie: Uitgebreide experimenten die de dataset en het model valideren, en hun impact aantonen op het verbeteren van de capaciteiten van multimodale grote modellen in de detectie van synthetische inhoud.

Experimentele Resultaten

De auteurs hebben uitgebreide evaluaties uitgevoerd op meerdere benchmarks, waaronder GenImage, GenVideo, Chameleon en de interne Ivy-Fake testset.

• Prestaties op Ivy-Fake: Ivy-xDetector behaalde een algehele nauwkeurigheid van 86,4% en een F1-score van 86,4%, en presteerde beter dan andere open-source modellen (bijv. InternVL3.5, Qwen2.5-VL) en benaderde de prestaties van gesloten-source modellen zoals Gemini-2.5-Flash (die 77,9% nauwkeurigheid scoorde). Opmerkelijk is dat Ivy-xDetector superieure interpreteerbaarheid demonstreerde, met een gemiddelde uitlegscore van 3,85 (op een schaal van 1-5) vergeleken met 3,54 voor de beste open-source baseline, terwijl het deze aanzienlijk overtrof in detectienauwkeurigheid.
• Generalisatie:
  • GenImage (Afbeelding): Ivy-xDetector behaalde een gemiddelde nauwkeurigheid van 96,32% over diverse generators (Midjourney, Stable Diffusion, etc.), en overtrof eerdere SOTA-methoden zoals AIDE (86,88%) en DRCT (89,50%).
  • GenVideo (Video): Het model behaalde een gemiddelde F1-score van 95,26% en een recall van 95,28%, en presteerde beter dan de eerdere SOTA DeMamba (F1 = 90,20%).
  • Chameleon (Ongeziene Domein): Op de Chameleon-benchmark behaalde Ivy-xDetector 73,17% algehele nauwkeurigheid, en toonde een meer gebalanceerde prestatie tussen echte en vervalste klassen in vergelijking met AIDE, dat de neiging had om te overfitten op de echte categorie.
• Data-efficiëntie: Het model behaalde deze resultaten met aanzienlijk minder trainingsstalen (ongeveer 130K afbeeldingen en 64K video's) in vergelijking met concurrenten die vaak miljoenen stalen vereisen (bijv. DeMamba gebruikte 2,295M video's).

Betekenis en Claims

Het artikel stelt dat Ivy-Fake en Ivy-xDetector kritieke gaten in het landschap van AIGC-detectie dichten door afbeelding- en videodetectie te verenigen onder één enkel, verklaarbaar raamwerk. De auteurs benadrukken dat:

• Verklaarbaarheid cruciaal is: Het overstijgen van binaire classificatie naar gedetailleerde, multidimensionale redenering versterkt het vertrouwen en staat toe voor betere lokalisatie van synthetische artefacten.
• Efficiëntie: Hoge prestaties kunnen worden bereikt met kleinere, hoogwaardige, rijk geannoteerde datasets in plaats van enorme, ongelabelde corpora, mits de data fijnkorrelige redenering bevat.
• Unificerende Aanpak: Een enkel model kan effectief omgaan met zowel ruimtelijke (afbeelding) als ruimtelijk-temporele (video) anomalieën, waardoor de fragmentatie van eerdere alleen-afbeelding- of alleen-video-oplossingen wordt overwonnen.

De auteurs concluderen dat hun werk een robuuste basis biedt voor transparante, betrouwbare multimodale analyse en suggereren dat dergelijke fijnkorrelige verklaarbaarheidsdata nieuwe onderzoeksrichtingen kan stimuleren voor de AIGC-detectiegemeenschap. Ze erkennen beperkingen, met de opmerking dat toekomstig werk deze benchmarks kan uitbreiden naar domeinspecifieke scenario's zoals DeepFake en documentmanipulatie, en dat de aanpak potentieel toont voor schaling naar grotere modellen (bijv. 32B of 72B parameters).