Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
Este artigo mede sistematicamente o rastreamento web em 20 chatbots de IA populares e revela que a maioria compartilha conteúdo sensível do usuário e informações de identidade com serviços de terceiros de análise, publicidade e replay de sessão, mesmo em modos de chat privado.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine chatbots de IA como bibliotecários amigáveis e de alta tecnologia. Você se aproxima deles, sussurra uma pergunta e eles pegam um livro para ajudá-lo. No passado, você poderia ter pensado: "Isso é apenas uma conversa entre eu e o bibliotecário".
No entanto, este artigo de pesquisa revela que, enquanto você conversa com o bibliotecário, uma multidão inteira de estranhos está parada atrás de uma parede de vidro de visão unilateral, tomando notas, tirando fotos e até gravando áudio.
Aqui está a explicação do que os pesquisadores descobriram, usando analogias simples:
1. O Cenário: Os Bibliotecários da "Casa de Vidro"
Os pesquisadores entraram em 20 dos sites de chatbots de IA mais populares (como ChatGPT, Gemini, Claude, etc.). Eles não fizeram perguntas aleatórias; fizeram uma pergunta muito específica e sensível: "Onde posso obter um teste de gravidez perto de mim?"
Isso é como entrar em uma biblioteca e pedir aconselhamento médico em um tom muito baixo. Os pesquisadores queriam ver o que acontece com aquela informação específica assim que ela sai da sua boca.
2. A Grande Revelação: Os "Espiões de Terceiros"
O estudo descobriu que 17 dos 20 chatbots estão compartilhando os detalhes da sua conversa com empresas externas (terceiros).
Pense nisso assim: você está tendo uma conversa privada em um quarto, mas as paredes são feitas de vidro, e o dono do chatbot convidou 17 vizinhos diferentes para vir ouvir.
- As Câmeras de "Reprodução de Sessão": Três dos chatbots estavam usando uma ferramenta chamada "Microsoft Clarity". Imagine isso como uma câmera de segurança que não grava apenas o quarto; ela grava exatamente o que você disse e o que o bibliotecário respondeu, em texto simples. Os pesquisadores descobriram que essas câmeras estavam enviando o texto completo da conversa sobre "teste de gravidez" para a Microsoft, permitindo que eles lessem sua consulta médica privada.
- Os "Cartões Postais" de ID de Chat: Mesmo que o chatbot não envie o texto completo, 15 deles enviaram um "Cartão Postal" para anunciantes e empresas de análise. Este cartão postal não dizia o que você perguntou, mas tinha um ID de Chat único ou um link para sua conversa específica. É como enviar uma nota dizendo: "Estou no Quarto 404" para uma empresa de marketing. Eles podem não saber ainda que você perguntou sobre testes de gravidez, mas sabem que você está naquele quarto específico, e podem vincular esse quarto à sua identidade mais tarde.
3. O Problema da "Etiqueta de Nome"
Os pesquisadores também descobriram que muitos chatbots estavam entregando sua Identidade (seu nome, e-mail ou ID de conta) junto com a conversa.
- O Vazamento do "Widget de Suporte": Alguns chatbots têm pequenos botões de "Ajuda" na tela. Quando você carrega a página, esses botões gritam automaticamente seu nome e endereço de e-mail para a empresa que criou o botão (como a Intercom), mesmo que você nunca tenha clicado no botão.
- O Segredo "Hashado": Alguns chatbots enviaram seu endereço de e-mail, mas o "embaralharam" (hash). Pense nisso como enviar um código secreto que apenas o destinatário pode decodificar. Se você usar o mesmo código embaralhado em um site de compras e em um site de chatbot, os anunciantes podem vincular os dois e perceber: "Ah, a pessoa que comprou fraldas é a mesma pessoa perguntando sobre testes de gravidez".
4. O Modo "Incógnito": Funciona?
Muitos chatbots oferecem um modo de chat "Privado" ou "Temporário", prometendo que nada é salvo. Os pesquisadores testaram isso.
- O Resultado: Funcionou! No modo privado, a "multidão de vizinhos" desapareceu em grande parte. O número de empresas externas ouvindo caiu significativamente e, nos chats privados que eles testaram, ninguém viu o texto da conversa ou sua identidade.
- A Pegadinha: A política de privacidade do chatbot não dizia explicitamente: "O modo privado impede os anunciantes". Ela apenas falava sobre não salvar seu histórico. Os pesquisadores descobriram que o design do modo privado impedia o rastreamento, mesmo que as regras não explicassem isso claramente.
5. A "Política de Privacidade" vs. Realidade
Os pesquisadores compararam o que os chatbots diziam que estavam fazendo (em suas longas e chatas políticas de privacidade) com o que eles estavam realmente fazendo.
- O Descompasso: Algumas políticas eram vagas, dizendo "compartilhamos dados com parceiros". Outras eram específicas, mas perdiam os maiores vazadores. Por exemplo, três chatbots listaram parceiros específicos em suas políticas, mas esqueceram de mencionar a Microsoft Clarity, mesmo que a Clarity fosse a que estava gravando suas conversas privadas em texto simples.
- A Exceção: Um chatbot, o Duck.ai, foi o "bibliotecário honesto". Eles não compartilharam dados com ninguém e até removeram sua localização antes de enviar a pergunta para a IA.
Resumo
O artigo conclui que, embora os chatbots de IA sejam ótimas ferramentas, atualmente são construídos como casas de vidro.
- 17 dos 20 chatbots permitem que empresas externas espreitem.
- 3 chatbots permitem que essas empresas leiam suas perguntas médicas ou pessoais privadas em voz alta.
- 15 chatbots enviam um ID único para anunciantes que vincula sua conversa à sua identidade.
- O modo privado é a única "cortina" que bloqueia efetivamente os vizinhos, mas os chatbots nem sempre dizem que é isso que ele faz.
Os pesquisadores sugerem que os donos de chatbots precisam construir paredes melhores (mudanças de design) e ser mais honestos sobre quem está ouvindo (políticas mais claras).
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.