Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
Cet article mesure systématiquement le pistage web sur 20 chatbots d'IA populaires et révèle que la majorité partage le contenu sensible des utilisateurs et les informations d'identité avec des services tiers d'analyse, de publicité et de replay de session, même en mode de discussion privé.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez les chatbots IA comme des bibliothécaires amicaux et high-tech. Vous vous approchez d'eux, chuchotez une question, et ils sortent un livre pour vous aider. Par le passé, vous auriez pu penser : « Ce n'est qu'une conversation entre moi et le bibliothécaire. »
Cependant, cette recherche révèle que, tandis que vous parlez au bibliothécaire, une foule entière d'inconnus se tient derrière un mur de verre à sens unique, prenant des notes, faisant des photos et même enregistrant l'audio.
Voici le détail de ce que les chercheurs ont découvert, en utilisant des analogies simples :
1. Le Décor : Les Bibliothécaires de la « Maison de Verre »
Les chercheurs ont visité 20 des sites web de chatbots IA les plus populaires (comme ChatGPT, Gemini, Claude, etc.). Ils ne se sont pas contentés de poser des questions au hasard ; ils ont posé une question très spécifique et sensible : « Où puis-je obtenir un test de grossesse près de chez moi ? »
C'est comme entrer dans une bibliothèque et demander des conseils médicaux d'une voix très basse. Les chercheurs voulaient voir ce qu'il advient de cette information précise une fois qu'elle quitte votre bouche.
2. La Grande Révélation : Les « Voyeurs Tiers »
L'étude a révélé que 17 chatbots sur 20 partagent les détails de votre conversation avec des entreprises extérieures (des tiers).
Imaginez cela ainsi : vous avez une conversation privée dans une pièce, mais les murs sont en verre, et le propriétaire du chatbot a invité 17 voisins différents à venir écouter.
- Les Caméras de « Replay de Session » : Trois chatbots utilisaient un outil appelé « Microsoft Clarity ». Imaginez cela comme une caméra de sécurité qui n'enregistre pas seulement la pièce ; elle enregistre exactement ce que vous avez dit et ce que le bibliothécaire a répondu en retour, en texte brut. Les chercheurs ont découvert que ces caméras envoyaient le texte intégral de la conversation sur le « test de grossesse » à Microsoft, leur permettant de lire votre requête médicale privée.
- Les « Cartes Postales Chat ID » : Même si le chatbot n'envoie pas le texte intégral, 15 d'entre eux envoyaient une « Carte Postale » aux annonceurs et aux sociétés d'analyse. Cette carte postale ne disait pas ce que vous aviez demandé, mais elle contenait un Chat ID unique ou un lien vers votre conversation spécifique. C'est comme envoyer un message disant : « Je suis dans la chambre 404 », à une société de marketing. Ils ne savent peut-être pas encore que vous avez demandé des tests de grossesse, mais ils savent que vous êtes dans cette pièce spécifique, et ils peuvent lier cette pièce à votre identité plus tard.
3. Le Problème de l'« Étiquette Nom »
Les chercheurs ont également découvert que de nombreux chatbots remettaient votre Identité (votre nom, votre adresse e-mail ou votre identifiant de compte) ainsi que la conversation.
- La Fuite du « Widget de Support » : Certains chatbots possèdent de petits boutons « Aide » sur l'écran. Lorsque vous chargez la page, ces boutons crient automatiquement votre nom et votre adresse e-mail à la société qui a créé le bouton (comme Intercom), même si vous n'avez jamais cliqué sur le bouton.
- Le Secret « Haché » : Certains chatbots envoyaient votre adresse e-mail, mais « brouillée » (hachée). Imaginez cela comme l'envoi d'un code secret que seul le destinataire peut décoder. Si vous utilisez le même code brouillé sur un site de shopping et un site de chatbot, les annonceurs peuvent relier les deux et réaliser : « Oh, la personne qui a acheté des couches est la même personne qui pose des questions sur les tests de grossesse. »
4. Le Mode « Incognito » : Est-ce que ça marche ?
De nombreux chatbots proposent un mode de chat « Privé » ou « Temporaire », promettant que rien n'est enregistré. Les chercheurs ont testé cela.
- Le Résultat : Ça a fonctionné ! En mode privé, la « foule de voisins » a largement disparu. Le nombre d'entreprises extérieures écoutant a considérablement diminué, et dans les chats privés qu'ils ont testés, personne n'a vu le texte de la conversation ni votre identité.
- La Chute : La politique de confidentialité du chatbot ne disait pas explicitement : « Le mode privé arrête les annonceurs ». Elle parlait simplement de ne pas enregistrer votre historique. Les chercheurs ont constaté que c'est la conception du mode privé qui arrêtait le suivi, même si les règles ne l'expliquaient pas clairement.
5. La « Politique de Confidentialité » vs La Réalité
Les chercheurs ont comparé ce que les chatbots disaient faire (dans leurs longues et ennuyeuses politiques de confidentialité) avec ce qu'ils faisaient réellement.
- Le Décalage : Certaines politiques étaient vagues, disant « nous partageons des données avec des partenaires ». D'autres étaient précises mais manquaient les plus grands fuites. Par exemple, trois chatbots listaient des partenaires spécifiques dans leurs politiques mais ont oublié de mentionner Microsoft Clarity, alors que Clarity était celui qui enregistrait leurs conversations privées en texte brut.
- L'Exception : Un chatbot, Duck.ai, était le « bibliothécaire honnête ». Il ne partageait aucune donnée avec qui que ce soit et supprimait même votre localisation avant d'envoyer la question à l'IA.
Résumé
L'article conclut que, bien que les chatbots IA soient d'excellents outils, ils sont actuellement construits comme des maisons de verre.
- 17 chatbots sur 20 permettent aux entreprises extérieures de jeter un coup d'œil.
- 3 chatbots permettent à ces entreprises de lire à haute voix vos questions médicales ou personnelles privées.
- 15 chatbots envoient un identifiant unique aux annonceurs qui lie votre conversation à votre identité.
- Le mode privé est le seul « rideau » qui bloque efficacement les voisins, mais les chatbots ne vous disent pas toujours ce qu'il fait.
Les chercheurs suggèrent que les propriétaires de chatbots doivent construire de meilleurs murs (changements de conception) et être plus honnêtes sur qui écoute (politiques plus claires).
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.