The Data-Dollars Tradeoff: Privacy Harms vs. Economic Risk in Personalized AI Adoption

Uit een experiment met 610 deelnemers blijkt dat onzekerheid over datalekken, en niet alleen privacyvoorkeuren op zich, leidt tot vermijdingsgedrag bij de adoptie van gepersonaliseerde AI, terwijl een bekende risicokans geen dergelijk effect heeft.

De kern

De Data-Dollars Ruil: Waarom we bang zijn voor AI als we de regels niet kennen

Stel je voor dat je een slimme, persoonlijke winkelassistent hebt. Deze AI kan je helpen de perfecte producten te vinden, wat je tijd bespaart en je een betere deal geeft. Maar er is een prijs: je moet je persoonlijke gegevens delen. En hier zit de hak: wat als die gegevens lekken? Wat als een boze verkoper die gegevens gebruikt om jou duurder te verkopen dan je vriend?

Dit is het centrale dilemma dat onderzoekers Alexander Erlei en zijn team onderzochten. Ze wilden weten: Wanneer houden mensen op met het gebruiken van zo'n slimme AI-assistent? Is het omdat ze bang zijn voor de kosten, of omdat ze niet weten hoe groot het risico eigenlijk is?

Om dit uit te zoeken, hebben ze een groot experiment gedaan met 610 mensen. Hier is hoe het werkt, vertaald naar alledaagse taal:

Het Experiment: De "Gok met de AI"

Deelnemers kregen een keuze:

1. De standaardmand: Je krijgt een standaard pakketje producten. Veilig, maar minder goed.
2. De AI-mand: Je krijgt een gepersonaliseerd pakketje dat veel meer waard is. Maar je moet daarvoor je gegevens (zoals je leeftijd, inkomen of je voorkeuren) aan de AI geven.

Het gevaar? Die gegevens konden "lekken" naar een algoritme dat je prijs zou verhogen. Maar de onderzoekers speelden met twee verschillende situaties, alsof ze twee verschillende soorten weer voorspelden:

• Situatie A: Het Risico (De Zekere Weersvoorspelling)
  Je krijgt een heel duidelijk bericht: "Er is een kans van 30% dat je gegevens lekken."
  Dit is als een weersapp dat zegt: "30% kans op regen." Je weet precies wat je kunt verwachten.
  Resultaat: Mensen maakten zich hier niet gek. Ongeveer de helft van de mensen koos toch voor de AI-mand. Ze zagen het als een berekende gok. Als de kans op regen 30% is, neem je misschien wel een paraplu, maar je gaat toch buiten.

• Situatie B: De Ambiguïteit (Het Mistige Weer)
  Je krijgt een vaag bericht: "De kans dat je gegevens lekken ligt ergens tussen de 10% en 50%."
  Dit is als een weersapp dat zegt: "Het kan regenen, maar we weten niet of het 10% of 50% is." Het is vaag, onzeker en eng.
  Resultaat: Hier hielden mensen plotseling op met de AI te gebruiken. Ze kozen liever voor de saaie, veilige standaardmand. De onzekerheid zelf was het probleem. Mensen zijn bang voor het onbekende.

De Grote Verassingen

De onderzoekers ontdekten een paar dingen die misschien tegen je intuïtie ingaan:

1. Het is niet het type gegevens dat telt, maar de onzekerheid
Je zou denken dat mensen alleen bang zijn als ze hun gevoelige gegevens (zoals inkomen of gezondheid) moeten delen, en niet als ze hun voorkeuren (zoals "ik houd van pizza") delen.
Maar het experiment toonde aan dat het verschil niet zo groot was. Of het nu om je inkomen of je favoriete muziek ging: als de kans op een lek vaag was (Situatie B), waren mensen bang. Als de kans duidelijk was (Situatie A), maakten ze zich niet druk. De onzekerheid is de echte boosdoener.

2. Mensen betalen te veel voor een "Veiligheidszegel"
Na het experiment kregen mensen de kans om te betalen voor een "Privacy-label". Dit label zou garanderen dat een AI-systeem nooit lekken zou hebben.
Je zou denken: "Als ik al voor de AI koos, betaal ik er niet voor." Maar dat was niet zo!
Mensen die de AI wel gebruikten, betaalden zelfs meer voor dit label dan mensen die het niet gebruikten. Ze waren bereid om extra te betalen om die vage angst weg te nemen. Het is alsof mensen bereid zijn een fortuin te betalen voor een onweerlegbaar bewijs dat hun huis veilig is, zelfs als ze er al in wonen.

3. We worden niet boos, we worden juist zwakker
De onderzoekers keken ook of mensen boos werden als ze dachten dat hun gegevens waren gebruikt om hen duurder te verkopen. Ze zouden dan misschien weigeren te betalen of boos worden.
Nee, dat gebeurde niet. Sterker nog: als mensen dachten dat de verkoper hun gegevens kende, onderhandelden ze zelfs minder fel. Ze accepteerden hogere prijzen. De angst voor het onbekende maakte hen passiever, niet agressiever.

Wat betekent dit voor jou?

Stel je voor dat je een auto koopt.

• Als de verkoper zegt: "Deze auto heeft 1 op de 10 kans om te crashten," koop je hem misschien nog wel als hij goedkoop is.
• Maar als de verkoper zegt: "We weten niet of de auto 1 op de 10 of 1 op 2 keer crasht," dan loop je waarschijnlijk weg.

De boodschap van dit onderzoek is simpel: Mensen zijn niet per se bang voor privacy, ze zijn bang voor onduidelijkheid.

Als bedrijven en overheden duidelijk zeggen: "Er is een kans van X% dat dit gebeurt," dan kunnen mensen een rationele keuze maken. Maar als ze zeggen: "Het is misschien wel gevaarlijk, misschien niet," dan blokkeren mensen de technologie volledig, zelfs als die technologie hen eigenlijk veel voordeel kan brengen.

De oplossing?
We hebben meer "veiligheidszegels" nodig. Duidelijke labels van onafhankelijke instanties die zeggen: "Ja, dit systeem is veilig." Mensen zijn bereid daarvoor te betalen, omdat het de vage angst wegneemt. Zolang die onzekerheid er is, blijven we de slimme AI-assistenten links liggen.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "The Data-Dollars Tradeoff: Privacy Harms vs. Economic Risk in Personalized AI Adoption" in het Nederlands.

Titel: De Data-Dollars Trade-off: Privacy-schade versus Economisch Risico bij de Adoptie van Gepersonaliseerde AI

Auteurs: Alexander Erlei, Tahir Abbas, Kilian Bizer, en Ujwal Gadiraju.
Publicatie: CHI '26 (Conference on Human Factors in Computing Systems).

---

1. Het Probleem

De opkomst van AI-systemen, met name Large Language Models (LLMs), vereist vaak het delen van persoonlijke data voor personalisatie. Hoewel dit de gebruikerservaring verbetert, brengt het risico's met zich mee, zoals datalekken die kunnen leiden tot economische schade (bijvoorbeeld gepersonaliseerde prijsdiscriminatie) en niet-monetaire schade (reputatieschade, emotionele stress).

Een cruciaal maar onderbelicht aspect is de informatieomgeving: weten gebruikers precies hoe groot het risico is op een datalek (risico), of weten ze alleen dat het ergens binnen een onbekend bereik ligt (ambiguïteit)? Bestaande literatuur suggereert dat mensen anders reageren op onzekerheid dan op gekwantificeerd risico, maar er is weinig empirisch bewijs over hoe dit de adoptie van AI beïnvloedt. Daarnaast is het onduidelijk of gebruikers hun gedrag laten sturen door de economische consequenties van een lek of door de intrinsieke "privacy-pijn" (niet-monetaire dis-utility).

2. Methodologie

De auteurs voerden een voorgeregistreerd online experiment uit met een 2 × 3 tussen-proefpersoon-ontwerp (between-subjects design) met in totaal N = 610 deelnemers via het platform CloudResearch Connect.

Experimentele Opzet:
Deelnemers moesten kiezen tussen een standaard productmandje en een door AI gepersonaliseerd mandje. Het gebruik van de AI vereiste het delen van data, wat een kans bood op een datalek dat leidde tot hogere prijzen in een volgende fase.

De twee gevarieerde factoren waren:

1. Informatieomgeving:
   • Risico (Risk): De kans op een datalek was exact bekend (30%).
   • Ambiguïteit (Ambiguity): De deelnemers wisten alleen dat de kans ergens tussen de 10% en 50% lag (geen exacte kans).
2. Type Data & Kostenmechanisme:
   • Preference Data: Deelnemers deelden voorkeursdata (tijdsvoorkeuren, risicovoorkeuren). Economische kosten ontstonden door een datalek.
   • Sensitive Data: Deelnemers deelden demografische data (geslacht, leeftijd, inkomen). Economische kosten ontstonden door een datalek.
   • Neutral (Controle): Deelnemers deelden demografische data, maar de economische kosten werden veroorzaakt door een loterij (een willekeurige toeslag) in plaats van een datalek. Dit hield de verwachte monetaire uitkomst constant, maar isoleerde de "privacy-pijn".

Fasen van het experiment:

1. Data-elicitering: Verzamelen van demografische en voorkeursdata.
2. AI-Adoptie: Keuze tussen standaard of AI-personalisatie.
3. Onderhandeling (Bargaining): Een ultimatumspel met een algoritmische verkoper. Bij een datalek (of loterijtrek) stelde de verkoper een agressievere prijs voor (prijsdiscriminatie).
4. Willingness-to-Pay (WTP): Deelnemers boden een bedrag voor een "privacy-label" dat in een tweede ronde garandeerde dat er geen datalek zou zijn (perfecte transparantie).

3. Belangrijkste Bijdragen

• Disentangling van Risico en Ambiguïteit: Het is de eerste studie die empirisch onderscheid maakt tussen gekwantificeerd risico en onduidelijkheid (ambiguïteit) in de context van privacybeslissingen bij AI.
• Scheiding van Economische en Niet-Monetaire Kosten: Door de controlevoorwaarde (Neutral) met een loterij, kunnen de auteurs de pure economische impact van prijsdiscriminatie scheiden van de emotionele/psychologische impact van een datalek.
• Onderzoek naar Transparantiemechanismen: Het experiment meet de bereidheid om te betalen voor derde-partij verificatie (privacy-labels) en analyseert of dit een haalbare marktoplossing is.
• Gedrag in Onderhandeling: Het analyseert hoe de dreiging van datalekken de onderhandelingsstrategieën van gebruikers beïnvloedt tegenover algoritmen.

4. Resultaten

A. AI-Adoptie en Informatieomgeving (RQ1)

• Onder Risico: Er was geen significant verschil in AI-adoptie tussen de privacy-omstandigheden en de neutrale controle. Ongeveer 50% van de deelnemers koos voor personalisatie, ongeacht of er een datalek dreigde. Dit suggereert dat bij bekende kansen, gebruikers de economische voordelen wegen tegen de bekende risico's zonder extra "privacy-pijn".
• Onder Ambiguïteit: De dreiging van een datalek verminderde de adoptie significant.
  • In de Preference Data conditie daalde adoptie naar 42%.
  • In de Sensitive Data conditie daalde adoptie naar 34%.
  • In de Neutral conditie bleef adoptie hoog (56%).
  • Conclusie: Onzekerheid over de waarschijnlijkheid van een lek (ambiguïteit) leidt tot vermijdingsgedrag, zelfs als de verwachte economische schade gelijk is aan die bij bekend risico.

B. Bereidheid om te betalen voor Privacy-labels (RQ3)

• Deelnemers waren bereid om meer te betalen voor een privacy-label dan theoretisch noodzakelijk zou zijn om alleen economische verliezen te compenseren.
• Opvallend: Gebruikers van de AI (die eerder voor personalisatie kozen) betaalden meer voor het label dan niet-gebruikers (gemiddeld 17,7 vs 13,6). Dit suggereert een sterke vraag naar transparantie en dat gebruikers bereid zijn om "over te betalen" om onzekerheid te elimineren.
• Na het ervaren van een daadwerkelijk lek (of loterijtrek) in het experiment, verhoogden deelnemers hun bieding voor het label, wat aantoont dat concrete ervaringen de bereidheid om te betalen sterker beïnvloeden dan abstracte scenario's.

C. Onderhandelingsgedrag (RQ2)

• De dreiging van een datalek had geen significant effect op de onderhandelingsstrategieën (rejection rates) tegenover het algoritme.
• Wel bleek dat onzekerheid (ambiguïteit) over de prijsstelling leidde tot minder agressief onderhandelen. Gebruikers accepteerden lagere winstdelen, waarschijnlijk omdat ze onzeker waren over hun eigen positie, niet omdat ze boos waren op het algoritme.

5. Betekenis en Implicaties

Voor Ontwerpers (HCI):

• Transparantie is cruciaal: Interfaces moeten onzekerheid (ambiguïteit) reduceren door concrete waarschijnlijkheden of betrouwbaarheidsintervallen te tonen, in plaats van vage waarschuwingen.
• Verificatie als trust-signal: De hoge bereidheid om te betalen voor labels suggereert dat derde-partij verificaties (zoals "privacy nutrition labels") een effectief mechanisme kunnen zijn om vertrouwen te herstellen en adoptie te stimuleren.

Voor Beleidmakers:

• Focus op informatie, niet alleen beperking: Regulering moet zich richten op het verminderen van informatie-asymmetrie en het verplichten van duidelijke risicocommunicatie, in plaats van alleen het beperken van dataverzameling.
• EU Digital Services Act (DSA): De bevindingen ondersteunen de DSA-doelstellingen voor transparantie. Het invoeren van gestandaardiseerde, verifieerbare privacy-certificeringen kan helpen om de markt voor privacy-veilige AI-systemen te laten groeien.

Theoretische Implicatie:
De studie weerlegt de aanname dat privacyvoorkeuren statisch zijn. In plaats daarvan zijn gedragingen sterk afhankelijk van de informatieomgeving. Ambiguïteit leidt tot een "ambiguïteitspremie" waarbij gebruikers systematisch afzien van nuttige technologieën, zelfs als de verwachte economische kosten gelijk zijn aan die van een bekend risico. Dit biedt een nieuwe verklaring voor het "privacy-paradox" fenomeen.