Large-scale online deanonymization with LLMs

Dit artikel toont aan dat grote taalmodellen (LLMs) pseudonieme online gebruikers met hoge precisie kunnen heridentificeren door hun ongestructureerde teksten te analyseren, waardoor de traditionele privacybescherming van anonieme internetgebruikers effectief wordt ondermijnd.

De kern

De "Digitale Ontmaskeraar": Hoe AI Anonieme Gebruikers Op het Internet Ontmaskert

Stel je voor dat je op een enorm, drukke markt staat (het internet). Je draagt een vermomming: een masker, een cape en een andere naam. Je denkt: "Niemand kent me echt. Ik ben anoniem."

Vroeger was dat een veilig gevoel. Om je te vinden, moest een detective (een mens) urenlang zoeken, notities maken en slimme raadsels oplossen. Maar deze nieuwe studie laat zien dat Artificial Intelligence (AI), en dan specifiek Large Language Models (LLMs), die detective heeft vervangen door een super-snel, onuitputtelijk robot-detective.

Hier is wat de onderzoekers hebben ontdekt, vertaald in simpele taal:

1. De Magische Spiegel (Wat doet de AI?)

Stel je voor dat je een gesprek voert met een vreemde in een café. Je noemt je favoriete film, je vertelt dat je honden het liefst 'Biscuit' noemt, en je zegt dat je uit Portland komt.

• Vroeger: Een mens zou moeten proberen dit te onthouden en dan langzaam op Google te zoeken.
• Nu: De AI luistert naar je gesprek, pakt die losse stukjes informatie (je hond, je stad, je hobby's) en gebruikt ze als een digitale sleutel. De AI scant vervolgens de hele wereld (miljoenen profielen op LinkedIn, Reddit, Hacker News) in een fractie van een seconde om te zien: "Wie past precies op dit profiel?"

De AI doet dit niet door te raden, maar door te redeneren. Het is alsof de AI een detective is die niet alleen kijkt naar wat je zegt, maar ook naar hoe je het zegt, en dan alle mogelijke verdachten in een lijstje zet om de juiste te vinden.

2. De Drie Proefballonnen (Hoe hebben ze het getest?)

De onderzoekers hebben drie verschillende situaties bedacht om te zien of hun AI-agent echt werkt:

• Situatie A: De LinkedIn-Link.
  Stel je voor dat iemand op een anoniem forum (Hacker News) schrijft over zijn werk, maar vergeten is zijn naam te noemen. De AI leest zijn posts, maakt een profiel aan van "Iemand die werkt bij een startup in San Francisco en van honden houdt", en zoekt dit dan op LinkedIn.

  • Resultaat: De AI vond in 67% van de gevallen de juiste persoon, terwijl een menselijke detective hier uren voor nodig zou hebben.

• Situatie B: De Film-Liefhebber.
  Iedereen heeft een anoniem account op Reddit waar ze over films praten. De AI vergelijkt duizenden anonieme accounts met elkaar. Als iemand in twee verschillende groepen over dezelfde obscure films praat met dezelfde zinnen, weet de AI: "Ah, dit is dezelfde persoon!"

  • Resultaat: De AI was veel beter dan oude methoden. Oude methoden vonden bijna niemand (0%), de AI vond er veel meer.

• Situatie C: De Tijdsreiziger.
  Stel je voor dat je een account hebt dat je een jaar geleden gebruikte, en een nieuw account dat je nu gebruikt. Ze hebben geen verband, maar je schrijfstijl en interesses zijn hetzelfde. De AI kijkt naar je oude posts en je nieuwe posts en zegt: "Dit is dezelfde persoon, zelfs al is er een jaar tussen."

3. Waarom is dit gevaarlijk? (De "Onzichtbare" Gevaar)

Vroeger dachten we: "Als ik geen naam gebruik, ben ik veilig."
Deze studie zegt: "Nee, dat is niet meer waar."

De AI kan losse puzzelstukjes samenvoegen die voor een mens onbelangrijk lijken:

• Je schrijft in een specifieke taal (bijv. Brits Engels).
• Je noemt een specifieke hond.
• Je praat over een specifieke universiteit.
• Je gebruikt een bepaalde software.

Individueel zeggen deze stukjes niets. Maar als de AI ze allemaal samenvoegt, wordt je uniek. Het is alsof je een duizendpoot bent die denkt dat hij onzichtbaar is omdat hij geen benen heeft, maar de AI ziet dat hij wel een staart heeft, een specifieke kleur heeft en op een specifieke manier loopt.

4. Wat betekent dit voor jou?

De onderzoekers zeggen niet dat je nu direct je account moet verwijderen. Maar ze waarschuwen voor een verandering in de regels:

• Anonimiteit is een illusie: Als je online post, zelfs zonder naam, kun je waarschijnlijk toch worden geïdentificeerd door een slimme AI.
• De kosten zijn gedaald: Vroeger kostte het vinden van iemand duizenden euro's en veel tijd. Nu kost het een paar dollar en een paar minuten.
• Wees voorzichtig: Net zoals je niet je huisadres op een openbaar bordje plakt, moet je misschien ook niet te veel losse details over je leven delen, zelfs niet als je denkt dat je anoniem bent.

Conclusie

Deze studie is als een waarschuwingssignaal. Het laat zien dat de "praktische onzichtbaarheid" (het idee dat het te veel moeite kost om je te vinden) voorbij is. De AI is de nieuwe super-detective die de hele wereld in één oogopslag kan scannen.

Het is niet dat de AI slimmer is dan een mens, maar het is onuitputtelijk en goedkoop. Het kan duizenden mensen tegelijk "ontmaskeren" terwijl een mens maar één persoon per uur kan doen. De tijd van volledige anonieme online anonimiteit is waarschijnlijk voorbij, en we moeten leren omgaan met een wereld waarin onze digitale voetafdrukken veel dieper zijn dan we dachten.

Technische samenvatting

Probleemstelling

Voor decennia was bekend dat individuen geïdentificeerd kunnen worden op basis van een klein aantal attributen (bijv. postcode, geboortedatum, geslacht). Echter, pseudonieme online accounts (zoals op Reddit, Hacker News of in forums) bleven grotendeels veilig tegen onthulling. De reden hiervoor was dat traditionele onthullingsaanvallen (deanonymization) vereisten dat data gestructureerd was (zoals filmratings in de Netflix Prize) of dat er aanzienlijke manuele inspanning van gespecialiseerde onderzoekers nodig was.

De kernvraag van dit paper is: Veranderen Large Language Models (LLMs) dit beeld? Kunnen LLMs nu schaalbaar, geautomatiseerd en met hoge precisie pseudonieme gebruikers identificeren op basis van ongestructureerde tekst, zonder dat er gestructureerde data of menselijke tussenkomst nodig is?

Methodologie

De auteurs presenteren een modulaire aanpak die onthulling decomposeert in vier fasen, waarbij LLMs elke stap versterken. Ze evalueren dit in drie verschillende scenario's:

1. Cross-platform koppeling: Een online account koppelen aan een echte identiteit (bijv. Hacker News naar LinkedIn).
2. Community-koppeling: Gebruikers koppelen over verschillende subcommunities binnen een platform (bijv. verschillende film-subreddits).
3. Temporele koppeling: Twee pseudonieme profielen van dezelfde persoon koppelen die in verschillende tijdsperiodes zijn gepost.

Het Framework (ESRC):
De aanpak volgt een pipeline bestaande uit vier stappen:

1. Extract (Extraheren): LLMs analyseren ongestructureerde posts en comments om "micro-data" te extraheren. Dit omvat demografie, interesses, schrijfstijl, en incidentele onthullingen. In tegenstelling tot eerdere methoden die handmatig gestructureerde vectoren nodig hadden, werkt dit direct op ruwe tekst.
2. Search (Zoeken): De geëxtraheerde profielen worden omgezet in dichte vector-embeddings (bijv. met Gemini of OpenAI embeddings). Een nearest-neighbor zoekopdracht (via FAISS) wordt uitgevoerd om kandidaat-matches te vinden uit een grote pool (tot honderdduizenden gebruikers).
3. Reason (Redeneren): LLMs worden gebruikt om de top-k kandidaten uit de zoekstap te evalueren. In plaats van alleen te vertrouwen op vector-similariteit, gebruikt het model "extended reasoning" om te verifiëren of de details van twee profielen consistent zijn en of ze tot dezelfde persoon behoren. Dit stap vermindert vals-positieven aanzienlijk.
4. Calibrate (Kalibreren): Het model genereert een betrouwbaarheidsscore (confidence score) voor elke match. Dit stelt de aanvaller in staat om de drempel te verlagen of verhogen om een gewenste balans tussen precisie (hoeveel van de voorspellingen zijn correct) en recall (hoeveel van de echte matches worden gevonden) te bereiken.

Datasets en Evaluatie:
Om de methoden te evalueren zonder echte privacy te schenden, creëren de auteurs drie datasets met bekende "ground truth":

• Hacker News & LinkedIn: Profielen waar gebruikers hun LinkedIn-link hebben gedeeld, waarna de directe identificeerbare informatie door een LLM is verwijderd.
• Reddit (Filmgemeenschappen): Gebruikers die actief zijn in zowel een algemene filmcommunity als in gespecialiseerde subreddits.
• Reddit (Temporeel): Profielen van dezelfde gebruikers die zijn opgesplitst in een "voor" en "na" periode (met een jaar tussenpoos) om te voorkomen dat ze dezelfde actuele gebeurtenissen bespreken.

Belangrijkste Bijdragen

1. Volledig geautomatiseerde onthulling: Het paper demonstreert dat LLM-agenten autonoom kunnen zoeken, cross-referentiëren en redeneren om een anoniem profiel te koppelen aan een echte identiteit, wat eerder dagen van menselijk werk vereiste.
2. Schaalbaarheid op ongestructureerde data: De methode werkt direct op ruwe tekst (comments, bio's) en is niet afhankelijk van gestructureerde databases, wat een fundamentele verschuiving is ten opzichte van klassieke methoden zoals de Netflix Prize-aanval.
3. Nieuwe evaluatieframework: De auteurs introduceren een robuust framework voor het testen van onthullingsaanvallen op grote schaal, inclusief methoden om ground truth te genereren via profiel-splitsing en synthetische anonimiseringsprocedures.
4. Kwantitatieve prestaties: Ze leveren bewijs dat LLM-based methoden klassieke baselines (zoals Jaccard-similariteit op gestructureerde features) ver overtreffen.

Resultaten

De resultaten tonen een dramatisch verschil tussen LLM-gedreven methoden en klassieke technieken:

• Hacker News naar LinkedIn:

  • De klassieke "Netflix Prize"-baselines bereikten een recall van bijna 0% bij hoge precisie.
  • De LLM-methode (Search + Reason) bereikte 45,1% recall bij 99% precisie. Zelfs bij 90% precisie werd 54-55% recall behaald.
  • De methode is robuust: zelfs bij een kandidaat-pool van 89.000 gebruikers bleef de recall hoog (55,2% bij 90% precisie), terwijl klassieke methoden snel instortten.

• Reddit (Filmgemeenschappen):

  • Bij het koppelen van gebruikers over verschillende subreddits verbeterde de LLM-methode de recall van 0% naar 2,8% bij 99% precisie (een aanzienlijke verbetering voor een zo moeilijk scenario).
  • Hogere "reasoning effort" (meer rekenkracht voor het redeneren) leidde tot significante verbeteringen.

• Temporele splitsing:

  • Zelfs bij het koppelen van profielen met een jaar tussenpoos (waar interesses en context kunnen veranderen), slaagden LLM's erin om een aanzienlijk deel van de gebruikers te identificeren, terwijl klassieke methoden faalden.

• Autonome Agenten:

  • In een experiment met de "Anthropic Interviewer" dataset (interviews met wetenschappers) slaagden autonome agenten erin om 9 van de 33 wetenschappers correct te identificeren met 82% precisie, wat een verbetering is ten opzichte van eerdere pogingen.

Betekenis en Implicaties

De conclusie van het paper is alarmerend voor de online privacy:

1. Het einde van "Practical Obscurity": De aanname dat pseudonieme accounts veilig zijn omdat onthulling te duur of te moeilijk is, is niet langer geldig. LLMs hebben de kosten van onthulling drastisch verlaagd.
2. Bedreigingsmodellen moeten herzien: Privacy-richtlijnen en platformbeleid gaan uit van een verouderd model. Pseudonymiteit biedt geen zinvolle bescherming meer tegen een tegenpartij die LLM's en openbare data gebruikt.
3. Toepassingen:
   • Doxxing: Activisten, journalisten en kwetsbare groepen kunnen makkelijker worden geïdentificeerd.
   • Surveillance: Overheden en bedrijven kunnen anonieme forums koppelen aan echte identiteiten voor surveillance of gerichte manipulatie.
   • Social Engineering: Aanvallers kunnen gedetailleerde profielen opbouwen om zeer gepersonaliseerde phishing-aanvallen te lanceren.
4. Moeilijkheid van Mitigatie: Het is moeilijk om dit tegen te houden. Het verwijderen van data maakt online gemeenschappen minder waardevol. LLM-aanbieders kunnen proberen misbruik te detecteren, maar de aanval bestaat uit een reeks ogenschijnlijk onschadelijke taken (samenvatten, zoeken, rangschikken), wat detectie bemoeilijkt.

Conclusie: De auteurs pleiten voor een fundamentele heroverweging van wat we als "privé" beschouwen op het internet. Gebruikers moeten ervan uitgaan dat hun pseudonieme activiteit kan worden gekoppeld aan hun echte identiteit, en platforms moeten hun data-toegangspolitieken hierop aanpassen.