Governance of AI-Generated Content: A Case Study on Social Media Platforms

Dit onderzoek analyseert de governance van AI-genererde content op 40 socialemediaplatforms en concludeert dat hoewel de meeste platforms zich richten op moderatie en transparantie, er behoefte is aan meer uitgebreide, toekomstgerichte beleidslijnen en educatie, vooral op het gebied van eigendom en monetarisatie.

De kern

De Regels voor de AI-Revolutie: Een Verkenning van Sociale Media

Stel je voor dat sociale media een enorm, drukke stad is. Vroeger waren de gebouwen (posts, foto's, video's) allemaal gemaakt door de bewoners zelf. Maar nu is er een nieuwe groep arriveerd: AI-generatoren. Dit zijn slimme robots die ook gebouwen kunnen bouwen, soms zo goed dat je ze nauwelijks van echte menselijke werken kunt onderscheiden.

Deze robots zijn handig, maar ze brengen ook chaos: nepnieuws, valse foto's van beroemdheden en spam. De vraag is: wie houdt de orde in deze stad? In dit onderzoek kijken we naar de "wethouders" van deze stad: de grote sociale mediaplatforms zoals Facebook, TikTok, YouTube en Reddit. Wat doen zij om te zorgen dat de AI-gebouwen veilig en eerlijk zijn?

Hier is wat de onderzoekers hebben ontdekt, vertaald in een simpel verhaal:

1. De Grote Ontdekking: Niet iedereen heeft een reglement

De onderzoekers hebben de regels van 40 populaire steden (platforms) onderzocht. Ze ontdekten dat ongeveer twee derde van deze steden duidelijk heeft gezegd: "Oké, we hebben regels voor de AI-gebouwen."
De andere derde zegt eigenlijk niets specifieks. Zij denken: "Als het AI-gebouw is, gelden gewoon onze oude regels voor alle gebouwen." Dat is alsof je zegt: "Als je een nepgebouw bouwt, gelden dezelfde regels als voor een echt gebouw."

2. De Zes Manieren waarop de Stad de AI Controleert

De platforms die wel regels hebben, gebruiken zes verschillende strategieën. Laten we ze bekijken met een paar creatieve vergelijkingen:

• De Politie die Bestaande Wetten Handhaaft (De "Oude Wetten")
  De meeste platforms (25 van de 40) zeggen: "AI of geen AI, als je iets doet wat verboden is (zoals liegen, haten of stelen), dan grijpen we in."

  • Vergelijking: Het is alsof je in een park loopt. Of je nu een echte bal gooit of een bal die door een robot is gegooid, als je iemand raakt, krijg je een bekeuring. De regels veranderen niet, alleen de dader wel.

• Het Etiket op de Verpakking (Disclosure & Labeling)
  18 platforms zeggen: "Je mag AI gebruiken, maar je moet een sticker op plakken: 'Gemaakt door een robot'."

  • Vergelijking: Denk aan voedsel. Als je een koekje koopt, moet er op het pakje staan of er pinda's in zitten. Zo willen deze platforms dat je weet of je naar een menselijke foto kijkt of een nepfoto van een AI, zodat je niet bedrogen wordt.

• De "Geen Toegang" Borden (Beperkingen)
  Een paar platforms (vooral die gericht op kunst of kennis, zoals Stack Overflow of Medium) zeggen: "Hier mag geen AI-gebouw staan."

  • Vergelijking: Stel je een exclusieve kunstgalerie voor. De curator zegt: "Alleen menselijke kunst is toegestaan, want AI-kunst voelt niet 'echt' aan." Ze sluiten de deur voor robots om de kwaliteit van de tentoonstelling te beschermen.

• Geen Geld voor Robots (Monetisatie)
  Sommige platforms zeggen: "Je mag AI gebruiken, maar je mag er geen geld mee verdienen."

  • Vergelijking: Je mag in de stad spelen met een robot, maar je mag geen kaartjes verkopen om naar de robot te kijken. De stad wil voorkomen dat mensen rijk worden door simpelweg AI-spam te verspreiden.

• De Eigen Robots van de Stad (Geïntegreerde Tools)
  Veel platforms hebben hun eigen AI-robots ingebouwd (zoals een schrijfhulp op Facebook of een video-editor op TikTok).

  • Vergelijking: Als de stad zelf een restaurant heeft, is de stad ook verantwoordelijk voor de kwaliteit van het eten. Ze zeggen: "Wij maken deze AI-voeding, dus wij zorgen dat het veilig is en dat er een label op zit als je het deelt."

• De School voor Burgers (Onderwijs & Controle)
  17 platforms proberen de burgers (gebruikers) slim te maken. Ze geven handleidingen, waarschuwingen en knoppen om AI-inhoud uit je nieuwsfeed te filteren.

  • Vergelijking: In plaats van alleen de politie in te zetten, geven ze de burgers een "nep-detectie-bril" en een handleiding om zelf te zien wat echt is en wat niet. Ze geven je ook de knop om te zeggen: "Ik wil geen robot-gebouwen in mijn straat zien."

3. Wat Gaat Er Mis? (De Gaten in het Net)

De onderzoekers zien dat er nog veel problemen zijn:

• Verwarrende Stickers: Soms staat er "AI" op een foto, soms niet. Soms is het een klein lettertje, soms een groot bord. Het is niet overal hetzelfde.
• De Detectie is Slecht: De robots die moeten controleren of iets van AI is, maken vaak fouten. Ze denken soms dat een menselijke foto nep is, of ze missen een nepfoto.
• Geen Hulp bij Fouten: Als je foto per ongeluk als "AI" wordt gemarkeerd, is het vaak heel moeilijk om dat te laten corrigeren. Het is alsof je in een gevangenis zit en niemand luistert naar je beroep.
• Verborgen Regels: De regels staan vaak verspreid over tientallen pagina's. Het is alsof je moet zoeken in een bibliotheek van 1000 boeken om te vinden of je een robot mag gebruiken.

4. Wat Moet Er Nu Gebeuren? (De Adviezen)

De onderzoekers geven drie belangrijke adviezen aan de "wethouders" (de platforms) en de "burgemeesters" (de overheid):

1. Maak het Duidelijk: Zorg voor één duidelijk bordje met alle regels over AI. Gebruik duidelijke stickers en maak het voor iedereen begrijpelijk.
2. Geef Mensen Controle: Laat mensen zelf kiezen of ze AI-inhoud willen zien of niet. Geef ze betere hulpmiddelen om nep van echt te onderscheiden.
3. Nieuwe Wetten: De overheid moet nieuwe wetten maken die specifiek gaan over wie eigenaar is van AI-kunst en hoe je daar geld mee mag verdienen. De oude wetten zijn te oud voor deze nieuwe technologie.

Kortom:
Sociale media proberen hun best te doen om de AI-revolutie te regelen, maar het is nog een beetje een rommeltje. Sommige platforms zijn streng, andere laks. De boodschap is: we hebben nodig dat de regels duidelijker, eerlijker en slimmer worden, zodat we kunnen genieten van de voordelen van AI zonder dat we in de valkuilen van nep en chaos terechtkomen.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Governance of AI-Generated Content: A Case Study on Social Media Platforms" in het Nederlands.

Probleemstelling

Met de opkomst van generatieve AI-producten (zoals ChatGPT) is online content die door AI is gegenereerd of medegecreëerd (AIGC) exponentieel toegenomen. Dit fenomeen vormt een uitdaging voor online platforms omdat het de betrouwbaarheid van content ondermijnt, de drempel voor het verspreiden van desinformatie en niet-consensuele deepfakes verlaagt, en nieuwe vragen oproept over auteursrechten en eigendom. Hoewel er veel onderzoek is gedaan naar de impact van AI op gebruikersgedrag, ontbreekt er een systematisch overzicht van hoe sociale mediaplatforms zelf hun governance-strategieën hebben aangepast om met deze nieuwe realiteit om te gaan. De auteurs stellen dat er een urgentie is om te begrijpen hoe platforms beleidslijnen, principes en mechanismen ontwikkelen om de creatie, presentatie en distributie van AIGC te beheren.

Methodologie

De auteurs hebben een kwalitatief onderzoek uitgevoerd gebaseerd op een uitgebreide data-analyse van 40 populaire sociale mediaplatforms.

• Platformselectie: Er zijn 40 platforms geselecteerd op basis van populariteit (Tranco-lijst) en diversiteit in contenttype (van algemene netwerken zoals Facebook en X tot creatieve communities zoals DeviantArt en kennisplatforms zoals Stack Overflow).
• Dataverzameling: Tussen april en juni 2025 is er een web scraper gebruikt om publiek toegankelijke webpagina's te verzamelen. De zoekopdrachten richtten zich op officiële documenten zoals Algemene Voorwaarden (Terms of Service), Community Guidelines, Help Centers, nieuwsberichten en officiële blogs.
• Data-filtering: Uit de verzamelde data (2518 pagina's) zijn 431 relevante passages geselecteerd van 361 pagina's van 29 platforms die expliciet verwezen naar AIGC-governance. Pagina's die alleen over AI voor contentmoderatie of aanbevelingssystemen gingen, werden uitgesloten.
• Analyse: De data is geanalyseerd via thematische analyse met behulp van MAXQDA. Er is gebruikgemaakt van een codeboek dat is gebaseerd op bestaande frameworks voor contentmoderatie (Schaffner et al. en Singhal et al.), aangevuld met inductieve codering om nieuwe concepten te identificeren. De analyse richtte zich op zes hoofdcategorieën van governance-acties.

Belangrijkste Bijdragen

1. Gestructureerde Dataset: De auteurs hebben een geannoteerde dataset gecreëerd van webpagina's van 40 populaire platforms die reageren op AIGC.
2. Basislijn van Governance: Het artikel biedt een eerste systematisch overzicht (baseline) van de huidige governance-acties van sociale mediaplatforms ten aanzien van AI-content.
3. Zes Governance-Strategieën: De studie identificeert en categoriseert zes specifieke manieren waarop platforms AIGC reguleren.
4. Toekomstig Agendapunt: Het paper schetst een vooruitstrevende agenda voor stakeholders, beleidsmakers en ontwerpers om governance te verbeteren, inclusief aanbevelingen voor tools en educatie.

Resultaten: De Zes Governance-Aanpakken

Van de 40 onderzochte platforms hebben er 27 (ongeveer twee derde) expliciet beschreven hoe ze AIGC reguleren. De overige platforms vertrouwen impliciet op bestaande moderatiebeleid. De 27 platforms hanteren zes hoofdstrategieën:

1. Moderatie van bestaande regels (25 platforms):

   • De meest voorkomende aanpak. Platforms passen hun bestaande regels (bijv. tegen haatzaaiij, misinformatie, inbreuk op auteursrechten) toe op AI-content.
   • AI-content wordt niet als een nieuw probleem gezien, maar als een subset van gebruikerscontent die dezelfde regels moet volgen.
   • Detectie en sancties zijn identiek aan die voor niet-AI content.

2. Openbaarmaking en Labeling (18 platforms):

   • Platforms vereisen of moedigen gebruikers aan om AI-involvement te onthullen.
   • Er wordt onderscheid gemaakt tussen "realistische" content (waarbij disclosure vaak verplicht is om misleiding te voorkomen) en creatieve content (waarbij het gaat om auteurschap).
   • Veel platforms gebruiken automatische labeling (via metadata, watermerken of algoritmen) als gebruikers niet zelf labelen.

3. Beperkingen op het plaatsen en delen (5 platforms):

   • Voornamelijk bij creatieve en kennisplatforms (zoals Stack Overflow, Medium, Yelp).
   • Deze platforms stellen specifieke beperkingen die verder gaan dan bestaande regels, zoals het volledig verbieden van AI-content of het uitsluiten ervan van algoritmen-promotie.
   • Redenen zijn vaak gerelateerd aan de kwaliteit, originaliteit en de kernwaarden van de community.

4. Beperkingen op monetisatie (6 platforms):

   • Voornamelijk creatieve communities (DeviantArt, Patreon, Reddit).
   • Platforms beperken of verbieden het verdienen van geld aan AI-content, vaak vanwege twijfel over eigendom, originaliteit en kwaliteit ("AI slop").
   • Er zijn vaak geen duidelijke beroepsmogelijkheden voor schendingen van monetisatieregels.

5. Controle van output van geïntegreerde AI-tools (14 platforms):

   • Platforms die zelf AI-tools aanbieden (bijv. Meta AI, TikTok AI Alive) reguleren de output van deze tools.
   • Dit omvat automatische labeling van de gegenereerde content en extra veiligheidschecks voordat content wordt gedeeld in de community.
   • Platforms zien zichzelf hier als mede-producenten en nemen meer verantwoordelijkheid voor de veiligheid van de tool-output.

6. Onderwijs en Empowerment van gebruikers (17 platforms):

   • Platforms bieden tools en bronnen om gebruikers te helpen AI-content te herkennen en kritisch te evalueren.
   • Dit omvat educatieve materialen, labels voor kijkers, en persoonlijke instellingen om de hoeveelheid AI-content in de feed te filteren of te verminderen.

Significantie en Aanbevelingen

De studie toont aan dat er een grote variatie is in hoe platforms omgaan met AIGC. Veel platforms zijn nog te afhankelijk van bestaande moderatiekaders en hebben geen specifieke, holistische AI-governance-strategieën ontwikkeld.

Kritische lacunes en aanbevelingen:

• Consistentie: Er is behoefte aan gestandaardiseerde disclosure-standaarden en labelontwerpen, aangezien de huidige praktijk zeer versnipperd is.
• Betrouwbaarheid van detectie: Automatische detectie is onbetrouwbaar. Platforms moeten transparanter zijn over hoe content wordt gelabeld en beroepsmogelijkheden bieden voor foutieve labeling.
• Kwaliteit en Eigendom: Er is dringend behoefte aan beleidslijnen rondom de kwaliteit, auteurschap en monetisatie van AI-content, vooral om "AI slop" en auteursrechtenproblemen aan te pakken.
• Transparantie: Platforms moeten hun AI-beleid centraliseren op duidelijke pagina's in plaats van verspreid over diverse documenten.
• Gebruikerscontrole: Er moet meer nadruk liggen op het empoweren van gebruikers via educatie en tools om zelf te kiezen hoeveel AI-content ze willen zien.

Voor beleidsmakers wordt aanbevolen om wetten te updaten die eigendom en aansprakelijkheid van AI-content expliciet adresseren, en om gestandaardiseerde richtlijnen voor platform-governance te ontwikkelen. Voor HCI-onderzoekers wordt voorgesteld longitudinale studies uit te voeren om de evolutie van deze beleidslijnen te volgen.