What Influences Readers' and Writers' Perceived Necessity of AI Disclosure?

Deze studie onderzoekt de factoren die de waargenomen noodzaak van AI-ontmaskering in schrijven beïnvloeden via een vignette-onderzoek onder 727 deelnemers, waarbij blijkt dat lezers meer transparantie eisen dan schrijvers en dat oordelen aanzienlijk worden gevormd door de vervangbaarheid en directheid van de AI en de intentioneelheid van de schrijver, terwijl de schrijfinspanning geen significant effect heeft.

De kern

De Grote Vraag: Wie Moet Het Weten Over de AI?

Stel je voor dat je een taart bakt. Soms bak je hem helemaal van nul af. Andere keren gebruik je een kant-en-klaar mix, of vraag je misschien een vriend om je te helpen met het glazuur.

Stel je nu voor dat er een nieuwe regel wordt besproken: "Moet je mensen vertellen als je hulp (of een machine) hebt gebruikt om je taart te maken?"

Dit artikel stelt een zeer specifieke vraag: Wanneer vinden mensen (de lezers) en de bakkers (de schrijvers) dat het noodzakelijk is om toe te geven dat AI is gebruikt?

De onderzoekers ontdekten dat lezers en schrijvers deze situatie vaak door zeer verschillende lenzen bekijken, en dat het antwoord sterk afhangt van hoe de AI is gebruikt.

---

De Drie Hoofdingrediënten van het Onderzoek

Om dit uit te zoeken, hebben de onderzoekers een "proefmenu" opgezet van 727 verschillende scenario's (zogenaamde vignettes). Ze mixten en matchten drie hoofdingrediënten om te zien hoe ze de gedachten van mensen veranderden:

1. Het Perspectief (Wie spreekt er?): Ben jij de Lezer (die de taart eet) of de Schrijver (die hem bakt)?
2. Het Doel (Waarvoor is de taart?): Is het voor een serieuze sollicitatiegesprek (Evaluatie), een schoolles (Leren), of gewoon een leuk verhaal voor een blog (Vermaak)?
3. De Procedure (Hoe is de taart gemaakt?): Dit is het meest complexe deel. Ze keken naar vier specifieke manieren waarop AI betrokken was:
   • Vervangbaarheid: Had de schrijver deze taart zonder de AI kunnen maken? (Als het antwoord "Nee" is, was de AI essentieel).
   • Inspanning: Heeft de schrijver nog steeds hard gewerkt, of heeft de AI bijna alles gedaan?
   • Intentionaliteit: Heeft de schrijver de AI een streng recept gegeven en het stuur in handen gehouden, of hebben ze gewoon gezegd "Maak me een taart!" en de AI het stuur laten overnemen?
   • Directheid: Heeft de schrijver de output van de AI direct op het bord geplakt, of hebben ze het alleen als referentie gebruikt?

---

De Verrassende Resultaten

Hier is wat het onderzoek vond, vertaald naar gewoon Nederlands:

1. De "Zelfbedienende" Kloof

De Bevinding: Lezers zeggen veel vaker "Ja, je moet het ons vertellen!" dan schrijvers.
De Analogie: Stel je een goochelaar voor. Het publiek (lezers) wil weten of een truc echt is of dat een machine het werk doet. Maar de goochelaar (schrijver) denkt misschien: "Ik heb de show nog steeds uitgevoerd; de machine was gewoon een rekwisiet." Het onderzoek suggereert dat schrijvers vaak minder behoefte voelen om openheid te geven, omdat ze zich nog steeds de "eigenaar" van het werk voelen, zelfs als ze AI hebben gebruikt.

2. Het "Doel"-Mite

De Bevinding: Verrassend genoeg maakte het niet veel uit waarom de tekst was geschreven.
De Analogie: Je zou denken dat mensen meer om eerlijkheid geven wanneer de tekst voor een serieuze sollicitatie is (Evaluatie) dan voor een grappige blogpost (Vermaak). Maar het onderzoek vond dat de behoefte van mensen om iets te weten te komen over AI-gebruik ongeveer hetzelfde was, of het nu voor school, werk of plezier was. De "enormiteit" veranderde de behoefte aan openbaarmaking niet.

3. De "Hoe" Maakt Het Meest Uit (Procedurele Factoren)

Het onderzoek vond dat hoe de AI is gebruikt alles veranderde. Openbaarmaking werd als noodzakelijker gezien wanneer:

• De AI Onvervangbaar was: Als de schrijver het niet alleen had kunnen doen zonder de AI, vonden mensen het cruciaal om het toe te geven.
• De AI Het Stuur Overnam (Lage Intentionaliteit): Als de schrijver gewoon "Schrijf een verhaal" typte en de AI het plot liet bepalen, voelden lezers een sterke behoefte om het te weten.
• De AI-Output Direct werd Gebruikt: Als de schrijver de tekst van de AI met zeer weinig wijzigingen plakte, werd openbaarmaking als noodzakelijk gezien.

De Twist rond Inspanning:
De onderzoekers dachten dat als een schrijver zeer weinig inspanning leverde (door de AI 90% van het werk te laten doen), mensen openbaarmaking zouden eisen. Ze hadden het mis. De hoeveelheid inspanning die de schrijver leverde, veranderde niet significant of mensen dachten dat openbaarmaking noodzakelijk was. Het ging niet om hoe moe de schrijver was; het ging om hoeveel de AI eigenlijk had gedaan.

4. Het "Sturen"-Paradox

De Bevinding: Dit is het verwarrendste deel.

• Lezers denken: "Als je de AI het stuur laat nemen (Lage Intentionaliteit), moet je het ons verplicht vertellen!"
• Schrijvers denken: "Als ik de AI het stuur laat nemen, heb ik minder behoefte om het iemand te vertellen."
• De Analogie: Het is als een bestuurder die zegt: "Ik heb niet echt gereden; de GPS reed." De bestuurder voelt zich minder verantwoordelijk, maar de passagiers (lezers) hebben het gevoel dat ze moeten weten dat de auto op autopilot reed.

---

Wat Betekent Dit voor de Toekomst?

Het artikel suggereert dat, omdat schrijvers en lezers dingen verschillend zien, we niet zomaar kunnen vertrouwen op schrijvers om "het juiste te doen" op eigen houtje.

De Oplossing: We hebben betere tools nodig.
In plaats van schrijvers alleen maar te vragen "AI-gebruik openbaar te maken", zouden platforms hen moeten helpen uitleggen hoe ze het hebben gebruikt.

• Zeg niet alleen: "Ik heb AI gebruikt."
• Zeg wel: "Ik heb AI gebruikt om het overzicht te genereren, maar ik heb de zinnen zelf geschreven," of "Ik liet de AI de hele concepttekst schrijven, en ik heb het alleen nog maar bewerkt."

Het artikel suggereert het ontwerpen van tools die automatisch deze uitleggen voor schrijvers opstellen, waardoor het voor hen gemakkelijker wordt om transparant te zijn op een manier die overeenkomt met waar lezers echt om geven (zoals of de AI het zware werk heeft gedaan of slechts een paar woorden heeft geholpen).

Samenvatting

• Lezers willen meer weten over AI-gebruik dan Schrijvers.
• Waarom de tekst is geschreven (school versus plezier) verandert de behoefte aan openbaarmaking niet.
• Hoe de AI is gebruikt, maakt het meest uit: Als de AI het zware werk heeft gedaan, de leiding heeft genomen, of direct is overgenomen, voelen mensen dat openbaarmaking noodzakelijk is.
• Inspanning doet er minder toe dan we dachten.
• Schrijvers voelen vaak minder behoefte om openheid te geven wanneer ze de AI de leiding laten nemen, terwijl Lezers het tegenovergestelde voelen.

Technische samenvatting

1. Probleemstelling

De snelle integratie van Kunstmatige Intelligentie (KI) in schrijftprocessen heeft een "creatorschap-gat" gecreëerd, waarbij KI-genererde of KI-ondersteunde tekst vaak niet te onderscheiden is van menselijk schrijven. Deze ambiguïteit vormt een uitdaging voor de capaciteit van lezers om content in context te plaatsen, betrouwbaarheid te beoordelen en verantwoordelijkheid te toetsen. Hoewel bestaande regelgeving vaak openbaarmaking voorschrijft, bestaat er een misalignement tussen top-down beleidsmaatregelen en de "grassroots"-percepties van de daadwerkelijke belanghebbenden: lezers (contentconsumenten) en schrijvers (contentcreators).

Het kernonderzoeksprobleem is het begrijpen van de specifieke factoren die de waargenomen noodzaak van KI-openbaarmaking beïnvloeden. Specifiek onderzoeken de auteurs hoe het perspectief (lezer versus schrijver), het doel van de tekst (evaluatie, leren, entertainment) en procedurale factoren (hoe KI werd gebruikt) deze percepties vormgeven.

2. Methodologie

De studie hanteert een vignette-experiment (een survey-gebaseerd experimenteel ontwerp met hypothetische scenario's) om variabelen systematisch te manipuleren en percepties te meten.

• Deelnemers: $N = 727$ deelnemers gerekruteerd via Prolific (gevestigd in de VS, Engels-proficiënt, KI-geletterd).
• Ontwerp: Een Resolution IV fractioneel factorieel ontwerp werd gebruikt om de combinatorische complexiteit van de variabelen te beheren.
• Onafhankelijke Variabelen:
  1. Perspectief: Twee niveaus (Lezer vs. Schrijver).
  2. Doel: Drie niveaus (Evaluatie, Leren, Entertainment), elk geoperationaliseerd met twee specifieke scenario's (bijv. sollicitatiegesprek versus sollicitatiebrief voor Evaluatie).
  3. Procedurale Factoren: Vier dimensies, elk met Hoog/Laag niveaus:
     • Vervangbaarheid: Kan de schrijver vergelijkbaar werk produceren zonder KI?
     • Inspanning: Hoeveel tijd/inspanning heeft de schrijver geïnvesteerd?
     • Intentionaliteit: Heeft de schrijver de KI gestuurd (Hoog) of de KI de leiding laten nemen (Laag)?
     • Directheid: Is de KI-output direct opgenomen (Hoog) of alleen als referentie gebruikt (Laag)?
• Procedure: Deelnemers kregen een enkele vignette toegewezen die een schrijfsituatie beschreef met specifieke combinaties van bovenstaande factoren. Zij kregen een binaire vraag voorgelegd: "Is KI-openbaarmaking in deze situatie noodzakelijk?" (Ja/Nee). Zij gaven ook open-ended rechtvaardigingen.
• Analyse:
  • Kwantitatief: Logistische regressiemodellering om de binaire uitkomst te voorspellen (Noodzaak: Ja/Nee), inclusief hoofdeffecten, interactietermen (Perspectief $\times$ Procedurale Factoren) en covariaten (schrijfbeheersing, KI-geletterdheid, interne oordelen).
  • Kwalitatief: Reflexieve thematische analyse van open-ended antwoorden om kwantitatieve bevindingen aan te vullen.

3. Belangrijkste Bijdragen

1. Bottom-Up Perspectief: Verlegt de focus van regelgevende mandaten naar de "waargenomen noodzaak" die wordt gehandhaafd door de directe belanghebbenden (lezers en schrijvers), waarmee een gat in FAccT-transparantieonderzoek wordt aangevuld.
2. Synthese van Procedurale Factoren: Brengt eerdere kaders (bijv. CCC-kader, CoCo-matrix) samen in vier onderscheidende, operationaliseerbare procedurale factoren (Vervangbaarheid, Inspanning, Intentionaliteit, Directheid) specifiek voor KI-ondersteund schrijven.
3. Identificatie van Perspectief-gat: Demonstreert empirisch een significante divergentie tussen hoe lezers en schrijvers de behoefte aan openbaarmaking waarnemen, met name met betrekking tot de rol van intentionaliteit.
4. Ontwerprichtlijnen: Stelt concrete ontwerpinterventies voor voor KI-openbaarmakingstools, waaronder "scaffolding" (geautomatiseerde, granulaire openbaarmakingssjablonen) en gedragsnudges gebaseerd op specifieke gebruikspatronen.

4. Belangrijkste Resultaten

De logistische regressie en kwalitatieve analyse leverden de volgende bevindingen op:

• Perspectief-effect (RQ1):

  • Lezers ervaren openbaarmaking als significant noodzakelijker dan schrijvers (Schrijvers hebben ongeveer 80% lagere odds om openbaarmaking noodzakelijk te vinden).
  • Interpretatie: Schrijvers kunnen lijden aan een zelfbedieningsbias of KI zien als een "omgeving"-infrastructuur, wat hun gevoel van verplichting tot openbaarmaking vermindert.

• Doel-effect (RQ2):

  • Het doel van de tekst (Evaluatie, Leren, Entertainment) had geen statistisch significant hoofdeffect op de waargenomen noodzaak van openbaarmaking.
  • Opmerking: Hoewel kwalitatieve data enkele contextspecifieke nuances suggereerde, toonde het kwantitatieve model aan dat hoe KI werd gebruikt belangrijker was dan waarom de tekst werd geschreven.

• Procedurale Factoren (RQ3):

  • Vervangbaarheid: Openbaarmaking wordt als noodzakelijker gezien wanneer de KI-bijdrage onvervangbaar is (Laag Vervangbaarheid).
  • Inspanning: Verrassend genoeg had de hoeveelheid inspanning die door de schrijver werd geleverd geen significant effect op de waargenomen noodzaak. Dit staat in contrast met de "inspanningsheuristiek" (het idee dat minder inspanning minder eigendom impliceert).
  • Intentionaliteit: Openbaarmaking wordt als noodzakelijker gezien wanneer de schrijver de KI niet bewust stuurt (Laag Intentionaliteit).
  • Directheid: Openbaarmaking wordt als noodzakelijker gezien wanneer KI-content direct wordt opgenomen met minimale wijzigingen (Hoog Directheid).

• Interactie-effecten (RQ4):

  • Intentionaliteit $\times$ Perspectief: Deze interactie was significant en tegenintuïtief.
    • Lezers: Ervaren openbaarmaking als noodzakelijker wanneer Intentionaliteit Laag is (KI leidt).
    • Schrijvers: Ervaren openbaarmaking als minder noodzakelijk wanneer Intentionaliteit Laag is.
  • Dit suggereert dat schrijvers minder eigendomsgevoel (en dus minder behoefte aan openbaarmaking) voelen wanneer ze KI de leiding laten nemen, terwijl lezers dit gebrek aan menselijke controle als cruciaal voor vertrouwen ervaren en daarom openbaarmaking noodzakelijk vinden.

• Covariaten:

  • Hogere Schrijfbeheersing en KI-geletterdheid correleerden met een lagere waargenomen noodzaak van openbaarmaking.
  • Een sterker Interne Oordeel over Openbaarmaking (het waarderen van transparantie) correleerde met een hogere waargenomen noodzaak.

5. Betekenis en Implicaties

De studie biedt een datagedreven fundament voor het ontwerpen van betere KI-openbaarmakingsmechanismen:

• Voorbij Binaire Labels: Huidige "KI-genererde" tags zijn ontoereikend. Openbaarmaking moet granaat zijn, met details over de vervangbaarheid, intentionaliteit en directheid van KI-gebruik, aangezien dit de factoren zijn waar lezers daadwerkelijk om geven.
• Scaffolding Openbaarmaking: Platformen moeten tools bieden die automatisch openbaarmakingsconcepten genereren op basis van interactielogboeken (bijv. "U heeft KI gebruikt om 80% van de tekst te genereren met minimale bewerking"). Cruciaal is dat deze tools inspanning moeten onderbelichten (aangezien dit voor deelnemers niet uitmaakte) en intentionaliteit moeten benadrukken (aangezien dit een belangrijk punt van divergentie is tussen lezers en schrijvers).
• Gedragsnudges: Om schrijfgedrag af te stemmen op lezersverwachtingen, moeten systemen gerichte nudges inzetten wanneer Laag Intentionaliteit wordt gedetecteerd (d.w.z. wanneer de schrijver KI de leiding laat nemen), hen eraan herinnerend dat dit specifieke scenario door lezers zeer hoog wordt gewaardeerd voor transparantie.
• Beleidsreform: Regelgeving moet zich verwijderen van rigide "alles-of-niets"-regels naar contextbewuste richtlijnen die de genuanceerde procedurale factoren weerspiegelen die in de studie zijn geïdentificeerd.

Concluderend betoogt het artikel dat effectieve KI-transparantie vereist dat we voorbij eenvoudige detectie of verplichte labeling gaan naar een systeem dat de aard van mens-KI-samenwerking begrijpt en de perceptuele kloof overbrugt tussen degenen die de content creëren en degenen die deze consumeren.