Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
Dit artikel meet systematisch webtracking op 20 populaire AI-chatbots en onthult dat de meerderheid gevoelige gebruikersinhoud en identiteitsinformatie deelt met derde partijen voor analyse, reclame en sessiereplay-diensten, zelfs in privé-chatmodi.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je AI-chatbots voor als hoogtechnologische, vriendelijke bibliothecarissen. Je loopt naar hen toe, fluistert een vraag en ze halen een boek tevoorschijn om je te helpen. In het verleden had je misschien gedacht: "Dit is gewoon een gesprek tussen mij en de bibliothecaris."
Echter, dit onderzoeksrapport onthult dat terwijl je met de bibliothecaris praat, een hele menigte vreemden achter een eenrichtingsglazen muur staat, aantekeningen maakt, foto's maakt en zelfs audio opneemt.
Hier is de uiteenzetting van wat de onderzoekers hebben gevonden, met behulp van eenvoudige analogieën:
1. De Opzet: De "Glazen Huis"-bibliothecarissen
De onderzoekers gingen naar 20 van de populairste AI-chatbot-websites (zoals ChatGPT, Gemini, Claude, enz.). Ze stelden niet zomaar willekeurige vragen; ze stelden een zeer specifieke, gevoelige vraag: "Waar kan ik in de buurt een zwangerschapstest kopen?"
Dit is alsof je een bibliotheek binnenloopt en in een zeer gedempte toon medisch advies vraagt. De onderzoekers wilden zien wat er met dat specifieke stukje informatie gebeurt zodra het je mond verlaat.
2. De Grote Onthulling: De "Derde-Partij Kijkers"
De studie vond uit dat 17 van de 20 chatbots je gespreksdetails delen met externe bedrijven (derden).
Stel het je zo voor: je hebt een privégesprek in een kamer, maar de muren zijn van glas, en de eigenaar van de chatbot heeft 17 verschillende buren uitgenodigd om te komen luisteren.
- De "Sessieherhaling"-camera's: Drie van de chatbots gebruikten een tool genaamd "Microsoft Clarity". Stel je dit voor als een beveiligingscamera die niet alleen de kamer opneemt, maar exact wat je zei en wat de bibliothecaris terugzei, in platte tekst. De onderzoekers vonden dat deze camera's de volledige tekst van het "zwangerschapstest"-gesprek naar Microsoft stuurden, waardoor ze je privé medische vraag konden lezen.
- De "Chat-ID"-postkaarten: Zelfs als de chatbot de volledige tekst niet stuurt, stuurden 15 ervan een "postkaart" naar adverteerders en analysebedrijven. Deze postkaart zei niet wat je vroeg, maar had een unieke Chat-ID of een link naar je specifieke gesprek. Het is alsof je een briefje stuurt met de tekst: "Ik ben in Kamer 404", naar een marketingbedrijf. Ze weten misschien nog niet dat je naar zwangerschapstesten vroeg, maar ze weten dat jij in die specifieke kamer zit, en ze kunnen die kamer later aan je identiteit koppelen.
3. Het "Naamplaatje"-probleem
De onderzoekers vonden ook dat veel chatbots je Identiteit (je naam, e-mailadres of account-ID) samen met het gesprek overhandigden.
- De "Ondersteuningswidget"-lek: Sommige chatbots hebben kleine "Help"-knoppen op het scherm. Wanneer je de pagina laadt, schreeuwen deze knoppen automatisch je naam en e-mailadres naar het bedrijf dat de knop heeft gebouwd (zoals Intercom), zelfs als je nooit op de knop hebt geklikt.
- Het "Gehashede" geheim: Sommige chatbots stuurden je e-mailadres, maar "verwarden" het (gehasht). Denk hierbij aan het sturen van een geheime code die alleen de ontvanger kan decoderen. Als je dezelfde verwarde code gebruikt op een winkelwebsite en op een chatbot-website, kunnen adverteerders de twee aan elkaar koppelen en beseffen: "Oh, de persoon die luiers kocht, is dezelfde persoon die naar zwangerschapstesten vraagt."
4. De "Incognito"-modus: Werkt het?
Veel chatbots bieden een "Privé"- of "Tijdelijke" chatmodus aan, met de belofte dat niets wordt opgeslagen. De onderzoekers hebben dit getest.
- Het Resultaat: Het werkte! In de privémodus verdween de "menigte buren" grotendeels. Het aantal externe bedrijven dat luisterde nam aanzienlijk af, en in de privéchats die ze testten, zag niemand de gesprekstekst of je identiteit.
- De Haken en Ogen: Het privacybeleid van de chatbot zei niet expliciet: "Privémodus stopt de adverteerders." Het had het alleen over het niet opslaan van je geschiedenis. De onderzoekers vonden dat het ontwerp van de privémodus de tracking stopte, zelfs als de regels dit niet duidelijk uitlegden.
5. Het "Privacybeleid" versus de Realiteit
De onderzoekers vergeleken wat de chatbots zeiden dat ze deden (in hun lange, saaie privacybeleidsverklaringen) met wat ze echt deden.
- Het Mismatch: Sommige beleidsverklaringen waren vaag en zeiden "we delen gegevens met partners". Anderen waren specifiek maar misten de grootste lekken. Bijvoorbeeld, drie chatbots noemden specifieke partners in hun beleidsverklaringen, maar vergeten Microsoft Clarity te vermelden, terwijl Clarity wel degelijk hun privégesprekken in platte tekst opnam.
- De Uitzondering: Een chatbot, Duck.ai, was de "eerlijke bibliothecaris". Ze deelden geen gegevens met iemand en verwijderden zelfs je locatie voordat ze de vraag naar de AI stuurden.
Samenvatting
Het rapport concludeert dat AI-chatbots, hoewel ze geweldige hulpmiddelen zijn, momenteel zijn gebouwd als glazen huizen.
- 17 van de 20 chatbots laten externe bedrijven gluren.
- 3 chatbots laten die bedrijven je privé medische of persoonlijke vragen hardop voorlezen.
- 15 chatbots sturen een unieke ID naar adverteerders die je gesprek koppelt aan je identiteit.
- Privémodus is het enige "gordijn" dat de buren effectief blokkeert, maar de chatbots vertellen je niet altijd dat dat is wat het doet.
De onderzoekers suggereren dat chatbot-eigenaren betere muren moeten bouwen (ontwerpwijzigingen) en eerlijker moeten zijn over wie er luistert (duidelijkere beleidsverklaringen).
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.