Deepfakes: we need to re-think the concept of "real" images
Dit standpuntspapier betoogt dat de huidige focus op het detecteren van "nep" afbeeldingen fundamenteel flawed is omdat deze steunt op verouderde definities en datasets van "echte" afbeeldingen, en dringt er bij de onderzoeksgemeenschap op aan het concept van authenticiteit te heroverwegen, gezien het feit dat moderne smartphonefotografie zelf neurale netwerkgestuurde algoritmen gebruikt die vergelijkbaar zijn met die welke worden toegepast in generatieve modellen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een rechercheur bent die een vervalser probeert te vangen. Je taak is om naar een schilderij te kijken en te beslissen: "Is dit een echt meesterwerk, of is het een namaak?"
Al jaren bouwt de machine learning-gemeenschap high-tech scanners om dit "Deepfake"-probleem op te lossen. Ze hebben hun AI-rechercheurs getraind op een enorme bibliotheek met "echte" schilderijen (foto's) om te leren hoe authenticiteit eruitziet.
Het probleem: De auteurs van dit paper betogen dat de rechercheurs een verouderde bibliotheek gebruiken. Ze proberen moderne vervalsingen op te sporen aan de hand van een definitie van "echt" die ongeveer tien jaar geleden niet meer werkte.
Hier is de uiteenzetting van hun argument, met eenvoudige analogieën:
1. Het probleem van de "oude bibliotheek"
De AI-rechercheurs worden momenteel getraind op datasets (bibliotheken met foto's) die voornamelijk 10 tot 15 jaar oud zijn.
- De analogie: Stel je voor dat je een student probeert te leren moderne auto's te herkennen door hen foto's van Model T Ford's te laten zien. De student leert hoe een "auto" eruitziet op basis van houten wielen en open kap. Als je hen een moderne Tesla laat zien, raken ze misschien in de war omdat deze er niet uitziet als de "echte" auto's in hun boek.
- De realiteit: Het paper toont aan dat bijna alle huidige datasets met "echte" beelden oud zijn, een lage resolutie hebben en zwaar gecomprimeerd zijn (zoals JPEG's). Ze vertegenwoordigen niet de foto's die we vandaag de dag maken.
2. De verschuiving naar de "slimme camera"
Vandaag de dag worden meer dan 90% van de foto's gemaakt met smartphones. Maar hier zit de twist: Smartphones maken niet alleen foto's; ze "berekenen" ze.
- De analogie: In de oude tijden was een camera als een raam. Je keek erdoorheen en het licht viel op de film. Het beeld was een directe opname van de werkelijkheid.
- De nieuwe realiteit: Een moderne smartphone is meer als een keukenblender. Je voegt rauwe ingrediënten toe (licht van meerdere sensoren, meerdere camera's, meerdere frames die in een splitseconde zijn genomen), en de interne computer van de telefoon (met behulp van complexe neurale netwerken) mixt ze samen tot een perfecte smoothie (de uiteindelijke foto).
- Het conflict: De AI-detectoren waren getraind om "nep" beelden op te sporen die door AI-generatoren zijn gemaakt. Maar nu worden de "echte" beelden die uit onze telefoons komen, ook gemaakt door AI-algoritmen (neurale netwerken) in de telefoon. De lijn tussen "echt" en "nep" vervaagt, omdat de "echte" foto's al digitaal worden bereid.
3. De mislukte test
De auteurs voerden een eenvoudig experiment uit om hun punt te bewijzen.
- De test: Ze namen hun beste "nep-detecterende" AI-modellen en lieten hen twee dingen zien:
- Oude, slechte foto's van internet (die de AI goed kende).
- Verse, ruwe foto's die in het echt waren genomen met de nieuwste iPhones.
- Het resultaat: De AI werkte uitstekend op de oude foto's. Maar toen ze de verse iPhone-foto's werden getoond, raakte de AI in de war en begon te falen. Het kon geen onderscheid maken tussen een "echte" iPhone-foto en een "nep" AI-afbeelding, omdat de iPhone-foto door de eigen AI van de telefoon was verwerkt.
- De metafoor: Het is als een bewaker die is getraind om mensen met rode hoeden op te sporen. Hij vangt iedereen met een rode hoed. Maar dan beginnen de politieagenten ook rode hoeden te dragen. Nu kan de bewaker de criminelen niet meer van de politie onderscheiden.
4. De filosofische valstrik
Het paper betoogt dat we in een kringloop zitten.
- Als we "Echt" definiëren als "niet aangeraakt door AI", dan is bijna geen enkele foto meer echt, omdat onze telefoons AI gebruiken om het licht te corrigeren, ruis te verwijderen en het beeld scherper te maken.
- Als we "Echt" definiëren als "genomen door een mens", dan helpt die definitie ons niet, omdat de AI van de telefoon het zware werk heeft gedaan.
De conclusie van de auteurs
Het paper biedt geen nieuw algoritme om de detectoren te repareren. In plaats daarvan slaat het alarm: We moeten stoppen en het hele spel opnieuw bedenken.
- Nieuwe data: We hebben nieuwe datasets nodig die moderne, door smartphones berekende foto's bevatten, niet alleen oude, lage-resolutie exemplaren.
- Nieuwe definities: We moeten het eens worden over wat "Echt" betekent. Is een foto echt als de telefoon het heeft opgehelderd? Is het nep als een AI een vlek heeft verwijderd? We kunnen niet meer alleen zoeken naar "digitale vingerafdrukken", omdat de "echte" foto's die ook hebben.
- Misschien werken detectoren niet: De auteurs suggereren dat het proberen vervalsingen op te sporen door naar de beeldpixels te kijken, een doodlopende weg is. In plaats daarvan moeten we misschien vertrouwen op andere methoden, zoals digitale watermerken of blockchain-handtekeningen, om de oorsprong van een beeld te bewijzen, in plaats van te proberen te raden of het er "echt" uitziet.
Kortom: De tools die we hebben gebouwd om leugenaars te vangen, falen omdat de waarheidssprekers (onze telefoons) zijn gaan gebruiken dezelfde trucs als de leugenaars. We moeten het reglement herschrijven voordat we de volgende generatie vervalsingen kunnen vangen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.