Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
Este documento mide sistemáticamente el rastreo web en 20 chatbots de IA populares y revela que la mayoría comparte contenido sensible de los usuarios e información de identidad con servicios de análisis, publicidad y reproducción de sesiones de terceros, incluso en modos de chat privados.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina a los chatbots de IA como bibliotecarios amigables y de alta tecnología. Te acercas a ellos, susurras una pregunta y ellos sacan un libro para ayudarte. En el pasado, podrías haber pensado: "Esto es solo una conversación entre yo y el bibliotecario".
Sin embargo, este documento de investigación revela que, mientras hablas con el bibliotecario, toda una multitud de extraños está de pie detrás de un muro de vidrio unidireccional, tomando notas, haciendo fotos e incluso grabando audio.
Aquí tienes el desglose de lo que encontraron los investigadores, utilizando analogías sencillas:
1. La Configuración: Los Bibliotecarios de la "Casa de Cristal"
Los investigadores entraron en 20 de los sitios web de chatbots de IA más populares (como ChatGPT, Gemini, Claude, etc.). No hicieron preguntas aleatorias; hicieron una pregunta muy específica y sensible: "¿Dónde puedo conseguir una prueba de embarazo cerca de mí?"
Esto es como entrar en una biblioteca y pedir consejo médico en un tono muy bajo. Los investigadores querían ver qué sucede con esa pieza de información específica una vez que sale de tu boca.
2. La Gran Revelación: Los "Mirones de Terceros"
El estudio encontró que 17 de los 20 chatbots están compartiendo los detalles de tu conversación con empresas externas (terceros).
Piénsalo así: estás teniendo una conversación privada en una habitación, pero las paredes están hechas de vidrio, y el propietario del chatbot ha invitado a 17 vecinos diferentes a venir a escuchar.
- Las Cámaras de "Reproducción de Sesión": Tres de los chatbots estaban utilizando una herramienta llamada "Microsoft Clarity". Imagina esto como una cámara de seguridad que no solo graba la habitación; graba exactamente lo que dijiste y lo que el bibliotecario respondió, en texto plano. Los investigadores descubrieron que estas cámaras estaban enviando el texto completo de la conversación sobre la "prueba de embarazo" a Microsoft, permitiéndoles leer tu consulta médica privada.
- Las "Postales" del ID de Chat: Incluso si el chatbot no envía el texto completo, 15 de ellos enviaron una "Postal" a anunciantes y empresas de análisis. Esta postal no decía qué preguntaste, pero tenía un ID de Chat único o un enlace a tu conversación específica. Es como enviar una nota que dice: "Estoy en la Habitación 404", a una empresa de marketing. Es posible que aún no sepan que preguntaste sobre pruebas de embarazo, pero saben que tú estás en esa habitación específica, y pueden vincular esa habitación con tu identidad más tarde.
3. El Problema de la "Etiqueta de Nombre"
Los investigadores también descubrieron que muchos chatbots estaban entregando tu Identidad (tu nombre, correo electrónico o ID de cuenta) junto con la conversación.
- La Fuga del "Widget de Soporte": Algunos chatbots tienen pequeños botones de "Ayuda" en la pantalla. Cuando cargas la página, estos botones gritan automáticamente tu nombre y dirección de correo electrónico a la empresa que construyó el botón (como Intercom), incluso si nunca hiciste clic en el botón.
- El Secreto "Hashed": Algunos chatbots enviaron tu dirección de correo electrónico, pero la "desordenaron" (hash). Piensa en esto como enviar un código secreto que solo el destinatario puede descifrar. Si usas el mismo código desordenado en un sitio de compras y en un sitio de chatbot, los anunciantes pueden vincular los dos y darse cuenta: "Oh, la persona que compró pañales es la misma persona que pregunta sobre pruebas de embarazo".
4. El Modo "Incógnito": ¿Funciona?
Muchos chatbots ofrecen un modo de chat "Privado" o "Temporal", prometiendo que nada se guarda. Los investigadores probaron esto.
- El Resultado: ¡Funcionó! En el modo privado, la "multitud de vecinos" desapareció en gran medida. El número de empresas externas escuchando disminuyó significativamente, y en los chats privados que probaron, nadie vio el texto de la conversación ni tu identidad.
- La Trampa: La política de privacidad del chatbot no decía explícitamente: "El modo privado detiene a los anunciantes". Solo hablaba de no guardar tu historial. Los investigadores descubrieron que el diseño del modo privado detenía el rastreo, incluso si las reglas no lo explicaban claramente.
5. La "Política de Privacidad" vs. La Realidad
Los investigadores compararon lo que los chatbots decían que estaban haciendo (en sus largas y aburridas políticas de privacidad) con lo que realmente estaban haciendo.
- La Desconexión: Algunas políticas eran vagas, diciendo "compartimos datos con socios". Otras eran específicas pero omitían a los mayores fugitivos. Por ejemplo, tres chatbots enumeraron socios específicos en sus políticas pero olvidaron mencionar a Microsoft Clarity, aunque Clarity era la que grababa sus conversaciones privadas en texto plano.
- La Excepción: Un chatbot, Duck.ai, fue el "bibliotecario honesto". No compartió datos con nadie e incluso eliminó tu ubicación antes de enviar la pregunta a la IA.
Resumen
El documento concluye que, aunque los chatbots de IA son excelentes herramientas, actualmente están construidos como casas de vidrio.
- 17 de cada 20 chatbots permiten que empresas externas espien.
- 3 chatbots permiten que esas empresas lean en voz alta tus preguntas médicas o personales privadas.
- 15 chatbots envían un ID único a los anunciantes que vincula tu conversación con tu identidad.
- El modo privado es la única "cortina" que bloquea efectivamente a los vecinos, pero los chatbots no siempre te dicen que eso es lo que hace.
Los investigadores sugieren que los propietarios de chatbots necesitan construir mejores paredes (cambios de diseño) y ser más honestos sobre quién está escuchando (políticas más claras).
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.