Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
Questo studio misura sistematicamente il tracciamento web su 20 chatbot AI popolari e rivela che la maggior parte condivide contenuti sensibili degli utenti e informazioni sull'identità con servizi di terze parti per analisi, pubblicità e replay delle sessioni, anche nelle modalità di chat privata.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate i chatbot AI come bibliotecari amichevoli e ad alta tecnologia. Vi avvicinate a loro, sussurrate una domanda e loro estraggono un libro per aiutarvi. In passato, potreste aver pensato: "Questa è solo una conversazione tra me e il bibliotecario".
Tuttavia, questo documento di ricerca rivela che mentre parlate con il bibliotecario, un'intera folla di estranei sta in piedi dietro un muro di vetro unidirezionale, prendendo appunti, scattando foto e persino registrando audio.
Ecco la spiegazione di ciò che i ricercatori hanno scoperto, utilizzando semplici analogie:
1. L'allestimento: I bibliotecari della "Casa di Vetro"
I ricercatori hanno visitato 20 dei siti web di chatbot AI più popolari (come ChatGPT, Gemini, Claude, ecc.). Non hanno fatto domande a caso; hanno posto una domanda molto specifica e sensibile: "Dove posso ottenere un test di gravidanza vicino a me?"
È come entrare in una biblioteca e chiedere consigli medici in un tono molto sommesso. I ricercatori volevano vedere cosa succede a quella specifica informazione una volta che lascia la vostra bocca.
2. La grande rivelazione: I "Guardoni di Terze Parti"
Lo studio ha scoperto che 17 chatbot su 20 condividono i dettagli della vostra conversazione con aziende esterne (terze parti).
Pensatela così: state avendo una conversazione privata in una stanza, ma le pareti sono fatte di vetro e il proprietario del chatbot ha invitato 17 diversi vicini a venire a origliare.
- Le "Telecamere di Replay della Sessione": Tre dei chatbot stavano utilizzando uno strumento chiamato "Microsoft Clarity". Immaginatelo come una telecamera di sicurezza che non registra solo la stanza; registra esattamente ciò che avete detto e ciò che il bibliotecario ha risposto, in testo semplice. I ricercatori hanno scoperto che queste telecamere stavano inviando il testo completo della conversazione sul "test di gravidanza" a Microsoft, permettendo loro di leggere la vostra domanda medica privata.
- I "Cartoline Chat ID": Anche se il chatbot non invia il testo completo, 15 di essi inviavano una "Cartolina" agli inserzionisti e alle aziende di analisi. Questa cartolina non diceva cosa avevate chiesto, ma conteneva un Chat ID unico o un link alla vostra conversazione specifica. È come inviare un biglietto che dice: "Sono nella Stanza 404", a un'azienda di marketing. Potrebbero non sapere ancora che avete chiesto dei test di gravidanza, ma sanno che voi siete in quella stanza specifica, e possono collegare quella stanza alla vostra identità in seguito.
3. Il problema del "Targhetto"
I ricercatori hanno anche scoperto che molti chatbot stavano consegnando la vostra Identità (il vostro nome, indirizzo email o ID account) insieme alla conversazione.
- La "Fuga del Widget di Supporto": Alcuni chatbot hanno piccoli pulsanti "Aiuto" sullo schermo. Quando caricate la pagina, questi pulsanti gridano automaticamente il vostro nome e il vostro indirizzo email all'azienda che ha creato il pulsante (come Intercom), anche se non avete mai cliccato sul pulsante.
- Il Segreto "Hashato": Alcuni chatbot inviavano il vostro indirizzo email, ma "mescolato" (hashato). Pensate a questo come all'invio di un codice segreto che solo il destinatario può decifrare. Se usate lo stesso codice mescolato su un sito di acquisti e su un sito di chatbot, gli inserzionisti possono collegare i due e rendersi conto: "Oh, la persona che ha comprato i pannolini è la stessa persona che chiede dei test di gravidanza".
4. La modalità "Incognito": Funziona?
Molti chatbot offrono una modalità di chat "Privata" o "Temporanea", promettendo che nulla viene salvato. I ricercatori hanno testato questo.
- Il Risultato: Ha funzionato! In modalità privata, la "folla di vicini" è scomparsa in gran parte. Il numero di aziende esterne che ascoltavano è diminuito significativamente e, nelle chat private che hanno testato, nessuno ha visto il testo della conversazione o la vostra identità.
- Il Problema: La politica sulla privacy del chatbot non diceva esplicitamente: "La modalità privata blocca gli inserzionisti". Parlava solo del non salvare la vostra cronologia. I ricercatori hanno scoperto che il design della modalità privata bloccava il tracciamento, anche se le regole non lo spiegavano chiaramente.
5. La "Politica sulla Privacy" vs. Realtà
I ricercatori hanno confrontato ciò che i chatbot dicevano di fare (nelle loro lunghe e noiose politiche sulla privacy) con ciò che stavano effettivamente facendo.
- La Discrepanza: Alcune politiche erano vaghe, dicendo "condividiamo i dati con i partner". Altre erano specifiche ma mancavano dei principali responsabili della fuga. Ad esempio, tre chatbot elencavano partner specifici nelle loro politiche ma dimenticavano di menzionare Microsoft Clarity, anche se Clarity era quella che registrava le loro conversazioni private in testo semplice.
- L'Eccezione: Un chatbot, Duck.ai, era il "bibliotecario onesto". Non condivideva dati con nessuno e rimuoveva persino la vostra posizione prima di inviare la domanda all'AI.
Riepilogo
Il documento conclude che, sebbene i chatbot AI siano ottimi strumenti, attualmente sono costruiti come case di vetro.
- 17 su 20 chatbot permettono alle aziende esterne di sbirciare.
- 3 chatbot permettono a queste aziende di leggere ad alta voce le vostre domande mediche o personali private.
- 15 chatbot inviano un ID unico agli inserzionisti che collega la vostra conversazione alla vostra identità.
- La modalità privata è l'unica "tenda" che blocca efficacemente i vicini, ma i chatbot non vi dicono sempre che è questo che fa.
I ricercatori suggeriscono che i proprietari dei chatbot devono costruire muri migliori (cambiamenti di design) ed essere più onesti su chi sta ascoltando (politiche più chiare).
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.