Deepfakes at Face Value: Image and Authority
Dit artikel betoogt dat deepfakes moreel verkeerd zijn omdat ze onze bevoegdheid om de herkomst van onze eigen handelingen te bepalen ondermijnen door onze biometrische kenmerken als generatieve bron te misbruiken, waardoor we een specifiek recht hebben tegen algoritmische inlijving van onze identiteit.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De Kernboodschap: Waarom Deepfakes Fout Zijn, Zelfs Als Niemand Er Wat Van Merkt
Stel je voor dat iemand een nep-bericht van jou verstuurt naar je baas, waarin je ontslag vraagt. Dat is duidelijk slecht, want het kan je baan kosten. Maar wat als die persoon dat nep-bericht alleen maar op zijn eigen computer maakt, nooit verstuurt, en jij het nooit te weten komt? Is dat dan nog steeds fout?
De meeste mensen zeggen: "Ja, dat is toch wel erg." Maar waarom? Als niemand er last van heeft, en jij bent er niet eens van bewust, wat is er dan mis?
Dit artikel van James Ravi Kirkpatrick probeert precies dat vraagstuk op te lossen. De auteurs zeggen: Het probleem is niet alleen de schade (zoals reputatieschade of angst), maar het feit dat iemand je "autoriteit" over je eigen gezicht en identiteit steelt.
Hier is hoe ze dat uitleggen, stap voor stap:
1. Het Probleem met de "Schade-Theorie"
Veel mensen denken dat iets pas verkeerd is als het iemand pijn doet of schade veroorzaakt.
- De analogie: Stel je voor dat iemand stiekem je huis binnendringt (inbreken), maar hij doet niets kapot, hij steelt niets en jij merkt het nooit. Is dat inbreken dan niet erg?
- Het antwoord: Nee, het is nog steeds inbreken! Het is een schending van je recht om te bepalen wie je huis binnenkomt. Het gaat om je regeerrecht over je eigen ruimte, niet om de schade die de dief aanricht.
Zo werkt het ook met deepfakes. Zelfs als een deepfake (een nepvideo gemaakt met AI) nooit wordt gedeeld en niemand erdoor wordt gekwetst, is het toch fout. Waarom? Omdat de maker je gezicht heeft gebruikt als een "bouwsteen" zonder je toestemming.
2. De "Geestelijke Inbreker" (De Deepfake)
De auteurs noemen dit een usurpatie van autoriteit.
- De analogie: Stel je voor dat je een beroemd schilderij maakt. Iemand anders neemt een foto van je werk, plakt daar een sticker van zijn eigen gezicht overheen en zegt: "Kijk, dit schilderij is van mij gemaakt."
- Het probleem: Zelfs als het schilderij er prachtig uitziet en niemand erdoor wordt bedrogen, heeft die persoon je reputatie als maker gestolen. Hij heeft gezegd: "Ik mag beslissen wat je doet."
Bij deepfakes gebeurt dit met je gezicht en stem. De AI gebruikt je biometrische gegevens (je gezicht, je stem) om een nieuwe video te maken waarin jij iets doet wat je nooit hebt gedaan.
- De maker behandelt je identiteit als een gratis grondstof, net als hout of staal.
- Hij "rekruteert" (of in het Engels: conscribes) je identiteit voor zijn eigen doelen, zonder dat jij daar iets over te zeggen hebt.
3. Twee Voorbeelden uit het Artikel
Om dit te bewijzen, kijken de auteurs naar twee specifieke situaties:
Situatie A: De Privé-Deepfake
Iemand maakt een pornografische deepfake van een bekende vrouw, maar hij slaat het bestand op zijn eigen computer op en niemand ziet het.- Schade-theorie: Geen schade, want niemand ziet het.
- Auteur-theorie: Het is nog steeds fout. De maker heeft gezegd: "Ik mag haar lichaam gebruiken voor mijn fantasie." Hij heeft haar recht op zelfbeschikking geschonden. Hij heeft haar identiteit "ontvoerd" voor een scène die zij nooit heeft willen spelen.
Situatie B: De Acteur die "Wederom" Speelt
Een pornoster heeft al eens een scène opgenomen. Iemand maakt nu een deepfake van diezelfde scène, maar dan met een dubbelganger en het gezicht van de ster erop geplakt. De inhoud is 100% waar (het is echt gebeurd), en de acteur is al bekend als pornoster.- Schade-theorie: Geen schade, want de informatie is al publiek en het is waar.
- Auteur-theorie: Het is nog steeds fout. De maker heeft de autoriteit van de acteur genegeerd. De acteur heeft toestemming gegeven om die ene keer gefilmd te worden, niet om zijn gezicht te gebruiken als software om een nieuwe video te genereren. Het is alsof iemand je handtekening vervalst op een cheque, zelfs als het bedrag klopt. Je hebt het recht om te bepalen wie je handtekening mag zetten.
4. Wat mag dan wel? (De Grenzen)
Je zou kunnen denken: "Dus als ik een tekening van iemand maak, is dat ook verboden?" Nee, gelukkig niet. De auteurs maken een belangrijk onderscheid:
- Tekenen of Schilderen (Toegestaan): Als een kunstenaar een portret van je schildert, gebruikt hij zijn eigen handen en ogen. Hij interpreteert jou. Jij bent het onderwerp, maar de kunstenaar is de maker. Je gezicht wordt niet "geprogrammeerd" om te werken.
- Deepfakes (Niet toegestaan): Hierbij wordt je gezicht gebruikt als machinecode. De computer neemt je biometrische data en "dwingt" je identiteit om een nieuwe prestatie te leveren. Dit is een directe schending van je recht om te bepalen wat er met je "digitale lichaam" gebeurt.
5. Waarom is dit belangrijk?
De auteurs zeggen dat we dit moeten zien als een fundamenteel mensenrecht: Het recht om de auteur te zijn van je eigen leven en imago.
- Als je toestemming geeft (bijvoorbeeld voor een film waar je jonger uitziet, of voor een stem die wordt geregenereerd omdat je ziek bent), is het oké.
- Maar als iemand je identiteit "kapt" en gebruikt zonder toestemming, is dat een diefstal van je vrijheid. Het maakt van jou een object dat door anderen wordt bediend, in plaats van een persoon die zelf de knoppen bedient.
Conclusie in Eén Zin
Deepfakes zijn moreel verkeerd, niet alleen omdat ze leugens verspreiden of mensen pijn doen, maar omdat ze je rechten op je eigen identiteit schenden: ze gebruiken je gezicht als een gereedschap dat je nooit hebt uitgeleend, en dat is een diefstal van je vrijheid, zelfs als niemand er ooit iets van merkt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.