Video Deepfake Abuse: How Company Choices Predictably Shape Misuse Patterns
Dit artikel betoogt dat de vrijgave van open-gewicht videogeneratiemodellen die zijn getraind op niet-gecureerde webdata zonder adequate waarborgen, gecombineerd met ontoereikende platformmatige moderatie, voorspelbaar leidt tot de verspreiding van niet-toestemmende intieme beelden en kinderpornografisch materiaal, hetgeen proactief risicomanagement vereist van ontwikkelaars en distributeurs om deze schade te beperken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Plaatje: De Dubbelzijdige Zwaard van "Open Source"
Stel je een wereld voor waarin iedereen een krachtige 3D-printer kan bouwen. In 2022 gebeurde dit met AI-beeldgeneratoren (zoals Stable Diffusion). Plotseling konden mensen ongelooflijk realistische foto's maken van alles wat ze zich konden voorstellen.
Dit was geweldig voor kunstenaars en makers. Maar, net zoals een 3D-printer een speelgoed of een wapen kan maken, werden deze AI-tools snel gebruikt om niet-consensuele intieme afbeeldingen (NCII) te maken – nepfoto's van echte mensen in compromitterende situaties, inclusief kinderen.
Het paper betoogt dat hetzelfde nu (in 2025) gebeurt met AI-videogeneratoren. We passeren een drempel waar het maken van neppe, realistische video's makkelijk, goedkoop en toegankelijk wordt voor bijna iedereen.
Het Hoofdpijnpunt: Het "Recept" versus de "Chef"
Het paper gebruikt een aanvoerketen-analogie (Figuur 1) om uit te leggen hoe deze slechte video's worden gemaakt. Denk eraan als een kookecosysteem:
- De Ontwikkelaars (De Chefs): Grote bedrijven (zoals Alibaba, Stability AI, enz.) creëren het basisrecept (het AI-model).
- De Distributieplatforms (De Pantries): Websites zoals Civitai en Hugging Face zijn waar mensen deze recepten downloaden.
- De Modificators (De Huischefs): Duizenden mensen downloaden het basisrecept, passen het aan en voegen hun eigen "kruiden" toe (fine-tuning) om het beter te maken in specifieke dingen, zoals het maken van NSFW-content (Niet Veilig voor Werk).
- De Gebruikers (De Gasten): Miljoenen mensen downloaden deze aangepaste recepten om de uiteindelijke video's te maken.
De Kernbevinding van het Paper:
Het paper vond dat een klein aantal "recepten" (modellen) verantwoordelijk is voor het overgrote deel van deze slechte video's. Specifiek worden modellen zoals Wan 2.x, Stable Video Diffusion, HunyuanVideo en LTX-Video disproportioneel gebruikt om neppe pornografie en misbruikmateriaal te maken.
Waarom is dit gebeurd? (De Les van 2022)
Het paper kijkt terug naar 2022 om uit te leggen waarom dit nu gebeurt.
- Het "Slechte" Recept: In 2022 bracht een bedrijf een model uit genaamd Stable Diffusion 1.0. Ze gaven de "gewichten" (de code) gratis weg, maar filterden de trainingsdata niet goed. Het was alsof je een chef leert met een kookboek dat recepten voor gif bevatte. Omdat de data rommelig was, leerde de AI makkelijk slechte dingen te maken.
- Het "Goede" Recept: Later bracht hetzelfde bedrijf Stable Diffusion 2.0 uit. Ze maakten het kookboek schoon en verwijderden de "gifrecepten". Het resultaat? De AI werd slecht in het maken van NSFW-content. De gemeenschap klaagde er zelfs over dat het "te gecensureerd" was.
- De Les: Wanneer ontwikkelaars hun data schoonmaken en veiligheidsfilters toevoegen voordat ze het model uitbrengen, creëert dit een enorme barrière voor het maken van slechte content. Wanneer ze dat niet doen, verspreidt het slechte zich als een lopend vuurtje.
De Huidige Situatie: Is de "Kat uit de Zak"?
Sommige mensen beweren: "Nou, de slechte modellen zijn er al. Het is te laat. Zelfs als we nu veilige modellen maken, zullen mensen gewoon de oude slechte gebruiken."
Het paper zegt dat dit fout is. Ze gebruiken een Piraterij-analogie:
- Denk aan illegale filmdownloads. Hoewel gepirateerde films technisch beschikbaar zijn, werken zoekmachines en bedrijven eraan om ze moeilijker te vinden. Dit stopt niet iedereen, maar het stopt wel de casual gebruikers en de tieners die niet diep willen graven.
- Op dezelfde manier, als ontwikkelaars en platforms het moeilijker maken om slechte AI-modellen te vinden en te gebruiken, gaat de totale hoeveelheid schade aanzienlijk omlaag. Het gaat om het verhogen van de "wrijving" (de benodigde moeite) om slechte dingen te doen.
Wat zijn de Oplossingen?
Het paper suggereert dat twee hoofdgroepen moeten ingrijpen:
1. De Ontwikkelaars (De Chefs)
Ze moeten stoppen met het uitbrengen van "naakte" modellen. In plaats daarvan moeten ze:
- De Data Schoonmaken: Zorg ervoor dat de AI niet in de eerste plaats getraind is op pornografie of misbruikmateriaal.
- Veiligheidsnetten Toevoegen: Gebruik "unlearning"-technieken om de AI te laten vergeten hoe ze slechte dingen maakt, zelfs als iemand later probeert het aan te passen.
- Zichzelf Testen: Probeer hun eigen modellen te breken voordat ze ze uitbrengen om te zien of ze misbruikt kunnen worden.
- Transparant Zijn: Vertel het publiek precies welke veiligheidsstappen ze hebben genomen. Momenteel zwijgen de meeste bedrijven hierover (zie Tabel 1 in het paper).
2. De Distributieplatforms (De Pantries)
Websites zoals Civitai en Hugging Face zijn de poortwachters.
- Ze hosten momenteel duizenden modellen die specifiek zijn ontworpen om neppe pornografie en kindermisbruikmateriaal te maken.
- Het paper betoogt dat deze platforms actief hun schappen moeten controleren. Als ze deze specifieke "slechte recepten" niet verwijderen, versterken ze de schade.
De Conclusie
Het paper concludeert dat keuzes van bedrijven er toe doen.
- Als ontwikkelaars modellen zonder veiligheidsfilters uitbrengen, veroorzaken ze voorspelbaar schade.
- Als platforms modellen die zijn ontworpen voor misbruik niet verwijderen, maken ze het probleem erger.
Het gaat niet om het verbieden van AI. Het gaat om risicomanagement. Net zoals we auto's niet verbieden omdat sommige mensen ze gevaarlijk besturen, hoeven we AI-video niet te verbieden. Maar we moeten wel remmen, gordels en snelheidslimieten (waarborgen) installeren om de ergste uitkomsten te voorkomen. Als bedrijven deze stappen nu zetten, kunnen ze de hoeveelheid neppe, misbruikende content in de toekomst drastisch verminderen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.