The Deepfakes We Missed: We Built Detectors for a Threat That Didn't Arrive
Dit position paper betoogt dat de decennialange focus van de machine learning-gemeenschap op het detecteren van deepfakes van publieke figuren in strijd is met de werkelijkheid, aangezien de daadwerkelijke dominante bedreigingen zijn verschoven naar niet-consensuele intieme beelden, stemkloonoplichting en emotionele fraude, waardoor een kritieke knelpunt in de realwereldverdediging is ontstaan die een onmiddellijke herbalancing van onderzoeksagendas vereist.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Plaatje: De Foute Schild Bouwen
Stel je een groep ingenieurs voor die tien jaar besteedt aan het ontwerpen van de ultieme brandblusser. Ze spenderen al hun tijd en geld aan het testen ervan tegen enorme, brullende bosbranden die ze denken dat zullen ontstaan. Ze bouwen enorme tanks, creëren complexe sproeipatronen en schrijven handleidingen over hoe je een vuur bestrijdt dat een hele stad kan verwoesten.
Maar wanneer het "brandseizoen" eindelijk aanbreekt, gebeuren die enorme bosbranden nooit. In plaats daarvan blijkt het echte gevaar te liggen in duizenden kleine, verborgen keukenbrandjes die in huizen van mensen beginnen, en gaslekken in hun kelders.
De ingenieurs staan er nog steeds met hun reuzen bosbrandblussers, klaar om de stad te redden, terwijl de echte schade zich in de keukens en kelders voltrekt. Het artikel stelt dat het veld van AI-deepfake-detectie zich precies in deze situatie bevindt.
De "Bosbrand" die Nooit Gebeurde (T1)
Gedurende het laatste decennium waren onderzoekers bezeten door één specifiek type deepfake: nepvideo's van beroemdheden (zoals politici of filmsterren) die dingen zeggen die ze nooit hebben gezegd.
- De Angst: Iedereen was doodsbang dat een nepvideo van een president die oorlog verklaart, of een ster die een oplichterij promoot, chaos zou veroorzaken in verkiezingen en het vertrouwen in videobewijs zou vernietigen.
- De Realiteit: Tijdens de wereldwijde verkiezingen van 2024 gebeurde deze specifieke ramp niet. Hoewel er wel enkele nepvideo's van politici verschenen, werden deze opgemerkt door gewone mensen, journalisten en factcheckers. Ze hadden geen supercomputer-AI-detectoren nodig om ze te vinden; menselijke ogen deden het werk.
- Het Onderzoek: Desondanks is 71% van alle onderzoeksartikelen en datasets nog steeds volledig gericht op het opsporen van deze "beroemdheid"-video's. Het is alsof de ingenieurs nog steeds hun bosbrandblussers polijsten.
De "Keukenbrandjes" die Wél Gebeurden (T2, T3, T5)
Terwijl onderzoekers naar de lucht keken voor de grote brand, gebeurde de echte schade in drie specifieke gebieden die zeer weinig aandacht kregen:
De "Keukenbrand" (Door Peers gegenereerde NCII):
- Wat het is: Gewone mensen (vaak studenten of kennissen) die AI gebruiken om nep, intieme afbeeldingen van andere gewone mensen te maken zonder hun toestemming.
- De Schaal: Dit explodeert. In 2025 toonden rapporten een 260-voudige toename in door AI gegenereerd kinderpornografisch materiaal en niet-toegestane intieme afbeeldingen.
- Het Gat: Onderzoekers hebben bijna geen detectoren voor dit fenomeen. Het is alsof je een brandblusser voor bossen hebt, maar geen rookmelders voor huizen.
De "Gaslek" (Stem-nabootsing Oplichting):
- Wat het is: Oplichters die AI gebruiken om de stemmen van familieleden of bazen te kopiëren om mensen te bedriegen en geld te laten overmaken.
- De Schaal: In 2025 veroorzaakten deze oplichtingsschandalen bijna 900 miljoen dollar aan verliezen. Een bekend geval betrof een financiële werknemer die 25 miljoen dollar overmaakte omdat hij dacht dat hij op een videogesprek zat met zijn baas (die eigenlijk een AI-avatars was).
- Het Gat: De meeste onderzoeken kijken naar vooraf opgenomen audio in een studio. Maar deze oplichting gebeurt in live telefoongesprekken met slechte verbinding. De huidige detectoren zijn te traag en werken niet op telefoonlijnen.
De "Verborgen Leidingen" (Berichtenapps):
- Wat het is: Nepcontent die zich verspreidt via privé-groepschats (zoals WhatsApp of Telegram), waar encryptie de inhoud voor het publiek verbergt.
- De Schaal: Dit is hoe de "keukenbrandjes" (de intieme afbeelding-oplichting) zich verspreiden.
- Het Gat: Huidige detectoren zijn gebouwd voor het "open web" (zoals YouTube of Twitter). Ze kunnen niet kijken in privé, versleutelde berichten.
Waarom Kijken We Nog Steeds naar het Foute Ding?
Het artikel vraagt zich af: Als de grote bosbranden niet zijn gebeurd, waarom bouwen we dan nog steeds bosbrandblussers?
Het identificeert drie redenen waarom de onderzoeksgemeenschap vastzit:
- De "Testscore"-Valstrik: Onderzoekers moeten artikelen publiceren om banen en financiering te krijgen. Om dit te doen, gebruiken ze standaard "testsets" (zoals FaceForensics++). Deze tests bevatten alleen beroemdheden. Als je een detector wilt testen voor stem-oplichting of privé-afbeeldingen, is er geen standaardtest om te gebruiken. Het is alsof je je rijbewijs wilt halen, maar de enige beschikbare test is het rijden met een raceauto op een circuit, terwijl je een bestelbus in de stad moet besturen.
- De "Privacymuur": Het is heel makkelijk om foto's van beroemdheden te krijgen om AI te trainen. Het is illegaal en onethisch om privéfoto's van slachtoffers of opnames van oplichtingsgesprekken te verzamelen. Omdat de data moeilijk te krijgen is, vermijden onderzoekers het om hieraan te werken.
- Het "Kopje"-Effect: Een nepvideo van een president komt in het avondjournaal. Een nepvideo van een tiener die wordt gepest in een groepschat niet. Onderzoekers en financiers volgen de koppen, niet de daadwerkelijke statistieken van wie er gewond raakt.
De Oplossing: De Kaart Veranderen
Het artikel zegt niet dat we volledig moeten stoppen met het bestuderen van deepfakes van beroemdheden. In plaats daarvan stelt het dat we onze inspanningen moeten herbalanceren.
Het stelt drie nieuwe onderzoeksagenda's voor:
- Live Telefoondetectoren: Bouw AI die een live telefoongesprek kan beluisteren en in minder dan een seconde kan zeggen: "Wacht, die stem klinkt nep", zelfs bij een slechte telefoonverbinding.
- Privé "Huis"-Detectoren: Creëer tools die op je eigen telefoon draaien om te controleren of een foto nep is voordat je deze deelt, zonder je privéfoto's naar een centrale server te sturen (om privacy te beschermen).
- Chat-app Verdediging: Ontwikkel manieren om nepcontent te detecteren binnen privé-groepschats zonder de encryptie te verbreken.
De Conclusie
Het artikel concludeert dat het grootste probleem in de strijd tegen deepfakes niet is dat onze AI niet slim genoeg is. Het probleem is dat we een kaart uit 2017 gebruiken om een wereld van 2026 te navigeren. We hebben detectoren gebouwd voor een dreiging die niet aankwam, terwijl de dreigingen die wel aankwamen onbeheerd groeien. Het is tijd om de bosbrandblusser neer te leggen en te beginnen met het bouwen van rookmelders voor de huizen waar het echte gevaar zit.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.