Tracing Users' Privacy Concerns Across the Lifecycle of a Romantic AI Companion

1. Problema e Contexto

O surgimento de chatbots românticos e de companhia (como Replika e Character.ai) transformou a interação humano-computador, oferecendo suporte emocional, intimidade e roleplay. No entanto, essa dependência emocional levanta questões críticas de privacidade e segurança que não são totalmente compreendidas pelos frameworks existentes.

O problema central identificado é que os usuários frequentemente divulgam informações altamente sensíveis (fantasias, traumas, confissões, dados sexuais) em um contexto de intimidade, mas as implicações de privacidade dessas divulgações são mal compreendidas em plataformas caracterizadas por persistência de dados, práticas opacas e falta de transparência. As preocupações não se limitam à coleta inicial de dados, mas envolvem como essas conversas são retidas, interpretadas, reutilizadas para treinamento de modelos ou compartilhadas através de camadas infraestruturais, muitas vezes sem o conhecimento ou consentimento real do usuário.

2. Metodologia

Os autores adotaram uma abordagem qualitativa baseada em análise de discurso público para entender como os usuários experienciam e negociam a privacidade.

• Fonte de Dados: O estudo utilizou discussões públicas no Reddit, escolhidas por sua natureza pseudônima (reduzindo o estigma associado ao uso de IAs românticas) e por capturar a "sensação coletiva" (collective sensemaking) sobre riscos e práticas de plataformas.
• Amostragem: Foram selecionados 79 subreddits relacionados a 21 aplicativos de IA de companhia identificados na literatura prévia e em buscas direcionadas.
• Coleta de Dados: Utilizando a API do Reddit (PRAW), foram coletados 2.909 posts ao longo de um ano (novembro de 2024 a novembro de 2025) que continham palavras-chave relacionadas a privacidade (ex: "privacy", "policy", "delete data", "tracking", "memory").
• Processamento e Análise:
  • Foi realizado um processo de filtragem e codificação em duas etapas.
  • Um assistente de IA (ChatGPT) foi usado para uma triagem preliminar com validação humana final.
  • Os dados foram analisados através de uma lente de ciclo de vida, consolidando preocupações em quatro temas principais que emergem em diferentes estágios da relação usuário-plataforma.

3. Contribuições Principais

O artigo oferece duas contribuições significativas para a área de Interação Humano-Computador (HCI) e Privacidade:

1. Accountabilidade Centrada no Ciclo de Vida: Apresenta uma nova perspectiva que entende a privacidade em IAs românticas não como um problema de política de dados estático, mas como um problema de governança socio-técnica evolutiva que abrange acesso, divulgação, interpretação, retenção e saída.
2. Extensão de Frameworks Existentes: Demonstra que os frameworks atuais (como Integridade Contextual e Gestão de Privacidade da Comunicação) são úteis, mas incompletos para IAs íntimas. O estudo propõe que a privacidade nestes contextos deve ser tratada como um problema de governança distribuída ao longo do tempo, onde o risco e a "carga de trabalho de privacidade" (privacy labor) são transferidos para o usuário, especialmente na fase de saída.

4. Resultados: Padrões Recorrentes de Preocupação

A análise identificou quatro padrões recorrentes que definem como a privacidade é experienciada ao longo do ciclo de vida do uso:

A. Requisitos de Entrada Desproporcionais (Disproportionate Entry Requirements)

• O Problema: Usuários encontram barreiras de privacidade no momento do cadastro ou ativação de recursos.
• Detalhes: Plataformas exigem verificações de identidade excessivas (envio de documentos de identidade, selfies, escaneamento facial) ou integrações amplas (acesso ao e-mail) para uma atividade percebida como de baixo risco (roleplay/companhia).
• Impacto: Isso é visto como uma redefinição da interação íntima para uma transação de conformidade institucional, criando desconfiança imediata sobre a proporcionalidade da coleta de dados.

B. Sensibilidade Intensificada no Uso Íntimo (Intensified Sensitivity in Intimate Use)

• O Problema: À medida que a relação se aprofunda, a classificação dos dados muda. As conversas deixam de ser vistas como interações de app e passam a ser tratadas como registros diários íntimos ou terapêuticos.
• Detalhes: Usuários preocupam-se com a retenção de memórias, o uso de dados vulneráveis para treinamento de modelos (fine-tuning) e o acesso de moderadores ou funcionários a essas conversas.
• Impacto: A violação de privacidade aqui não é apenas técnica, mas uma intrusão em um domínio emocional. A persistência de memórias sobre traumas ou ansiedade é vista como insuportável e não como personalização.

C. Incerteza Interpretativa e Vigilância Percebida (Interpretive Uncertainty and Perceived Surveillance)

• O Problema: A dificuldade dos usuários em interpretar o que a plataforma faz com seus dados devido a sinais contraditórios.
• Detalhes: Usuários enfrentam uma mistura de indicadores técnicos (selos de privacidade, avisos de terceiros, linguagem de políticas) que são inconsistentes ou opacos.
• Impacto: A ambiguidade gera uma sensação generalizada de vigilância. Os usuários não conseguem distinguir entre treinamento de modelo, moderação e personalização, levando a uma desconfiança sistêmica onde a opacidade em si é vista como um dano.

D. Irreversibilidade, Persistência e Carga do Usuário (Irreversibility, Persistence, and User Burden)

• O Problema: A dificuldade extrema de reverter a divulgação de dados, sair da plataforma ou recuperar o controle após o estabelecimento da relação.
• Detalhes: Usuários relatam que a exclusão de contas ou chats não é efetiva (notificações continuam chegando, memórias persistem). A migração para outras plataformas é difícil e arriscada.
• Impacto: A privacidade torna-se uma "carga de trabalho" (labor) para o usuário. A saída é tecnicamente frágil e emocionalmente custosa, sugerindo que a governança falha em fornecer reversibilidade real, especialmente para dados já incorporados em modelos de IA.

5. Significância e Implicações

O estudo conclui que a privacidade em IAs românticas é um problema de governança de ciclo de vida.

• Revisão de Frameworks: Os modelos atuais focam muito na coleta inicial e no consentimento (front-loaded), mas falham em abordar a persistência de dados e a dificuldade de saída (exit). A privacidade deve ser gerida em estágios: acesso proporcional, controles contextuais durante o uso íntimo e reversibilidade significativa na saída.
• Vulnerabilidade Emocional: Como os usuários utilizam essas IAs para regulação emocional e processamento de traumas, a reutilização de dados para treinamento de modelos ou a persistência de memórias é percebida como uma violação ética grave, não apenas técnica.
• Governança de Confiança e Segurança: A segurança e a confiança não devem ser apenas sobre moderar saídas prejudiciais, mas sobre governar as entradas íntimas, a configuração de sistemas de memória e a clareza dos sinais de privacidade.
• Recomendações de Design: As plataformas devem reduzir requisitos de entrada desproporcionais, oferecer opções claras para desativar memórias e excluir conteúdo íntimo do treinamento de modelos (usando técnicas como machine unlearning), e garantir que os processos de exclusão sejam completos e transparentes.

Em suma, o artigo argumenta que a proteção de privacidade em IAs companheiras exige uma abordagem dinâmica que reconheça a evolução da relação humano-IA e a natureza sensível dos dados gerados ao longo do tempo.