Chat First, Worry Later: Understanding Individuals' Privacy Perceptions Using ChatGPT in a Work Context
Een gebruikersstudie onder 224 professionals onthult dat hoewel organisatorische beleidsregels positief correleren met de ChatGPT-vaardigheid, de algehele vaardigheid laag blijft, en verhoogde privacyzorgen zowel de frequentie als de diversiteit van het ChatGPT-gebruik aanzienlijk verminderen, met name in organisaties die niet beschikken over specifieke GenAI-richtlijnen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne werkomgeving is een nieuw soort helper gearriveerd, een die e-mails kan schrijven, rapporten kan samenvatten en code kan opstellen met een snelheid die bijna menselijk aanvoelt. Deze helper is een generatieve kunstmatige intelligentie-tool, een type computerprogramma dat is getraind op enorme hoeveelheden tekst van het internet. Deze programma's, vaak grote taalmodellen genoemd, werken door te voorspellen welk woord volgt in een zin, waardoor ze coherente en nuttige reacties kunnen genereren op bijna elke vraag. Hoewel deze tools beloven het werk gemakkelijker en sneller te maken, brengen ze een verborgen kostenpost met zich mee: de informatie die u erin typt, blijft mogelijk niet privé. Omdat deze systemen zijn getraind op gegevens die persoonlijke details bevatten, bestaat er een reëel risico dat gevoelige informatie over patiënten, klanten of collega's per ongeluk wordt onthuld of wordt opgeslagen op manieren die de beveiliging in gevaar brengen. Dit creëert een moeilijke situatie voor werknemers die deze tools willen gebruiken voor efficiëntie, maar vrezen voor de gevolgen van het delen van te veel informatie.
Om te begrijpen hoe mensen met deze spanning omgaan, voerden onderzoekers van de Universiteit van Regensburg in Duitsland een studie uit onder 224 professionals uit diverse sectoren, waaronder IT, gezondheidszorg en onderwijs. Ze wilden zien hoe drie specifieke zaken bepaalden of mensen deze tools gebruikten en hoe ze die gebruikten: de regels die door hun werkgevers waren vastgesteld, hun eigen persoonlijke zorgen over privacy, en hoe goed ze daadwerkelijk begrepen hoe de tool met hun gegevens omging. De onderzoekers ontdekten dat wanneer organisaties duidelijke richtlijnen hadden over het gebruik van deze tools, hun werknemers meer wisten over hoe de technologie werkte. Specifiek waren werknemers in bedrijven met beleid beter in staat om vragen te beantwoorden over hoe de tool informatie opslaat en verwerkt. Ondanks deze regels was het algemene niveau van begrip onder alle deelnemers echter nogal laag; de meeste mensen hadden slechts ongeveer een derde van de feiten juist.
De studie onthulde een duidelijk patroon in hoe mensen zich gedroegen. Degenen die diep bezorgd waren over privacy, gebruikten de tools minder vaak en beperkten zich tot een nauwer scala aan taken. Deze aarzeling was het meest uitgesproken bij werknemers wiens bedrijven helemaal geen regels hadden; bij het ontbreken van officiële begeleiding vertrouwden deze individuen volledig op hun eigen angsten en kennis om te beslissen wat veilig was. In tegen tegenstelling hiertoe, bij werknemers in organisaties met gevestigde beleidsregels, leek hun persoonlijke mate van bezorgdheid geen invloed te hebben op hoe vaak ze de tool gebruikten of waarvoor ze deze gebruikten. De regels zelf leken een gevoel van structuur te bieden dat hen in staat stelde de technologie breder te gebruiken, ongeacht hun persoonlijke angst. Interessant genoeg vonden de onderzoekers dat het specifieke type regel — of het nu beperkte wie de tool mocht gebruiken of hoe deze gebruikt kon worden — geen significant verschil maakte in het gedrag. De loutere aanwezigheid van een beleid leek de belangrijkste factor te zijn bij het vormgeven van de manier waarop werknemers met de technologie omgingen.
Een van de meest opvallende bevindingen was een wijdverspreid misverstand over hoe deze tools gegevens beschermen. Bijna alle deelnemers aan de studie geloofden dat de informatie die zij in de chat typten automatisch verborgen of geanonimiseerd werd om hun identiteit te beschermen. In werkelijkheid garanderen de standaardinstellingen van de tool dit niet, en kunnen de gegevens worden gebruikt om toekomstige versies van het systeem te trainen. Deze kloof tussen wat mensen denken dat er gebeurt en wat er daadwerkelijk gebeurt, suggereert dat veel werknemers deze krachtige tools gebruiken terwijl ze opereren onder valse aannames over hun veiligheid. De onderzoekers concludeerden dat hoewel organisatorisch beleid mensen helpt de technologie beter te begrijpen, het de onderliggende kennisachterstand niet automatisch oplost. Zonder duidelijke, accurate informatie zullen zelfs goedbedoelende werknemers mogelijk doorgaan met het blootstellen van gevoelige gegevens, niet omdat ze onvoorzichtig zijn, maar omdat ze simpelweg niet weten dat de risico's reëel zijn.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.