🤖 AI

CIDER: A Dataset of Contextual Disclosure Boundaries for Privacy Preference Alignment

Este artigo introduz o CIDER, um conjunto de dados de grande escala de limites de divulgação contextual derivados de anotações humanas, para avaliar e melhorar o alinhamento de grandes modelos de linguagem com preferências de privacidade individuais e sutis por meio de personalização em tempo de inferência.

Autores originais: Bingcan Guo, Eryue Xu, Jijie Zhou, Zhiping Zhang, Tianshi Li

Publicado 2026-08-11

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Bingcan Guo, Eryue Xu, Jijie Zhou, Zhiping Zhang, Tianshi Li

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está ensinando um robô a ser um bom amigo. Você não daria apenas um livro de regras gigante dizendo "Não conte segredos". Isso é muito vago. Se você disser ao robô: "Não fale sobre o meu aniversário", ele pode ficar confuso se você estiver em uma festa surpresa onde todos estão gritando isso. Mas se você estiver em um jantar silencioso com um estranho, esse mesmo segredo deve permanecer trancado. Este é o mundo complicado da privacidade. Não é apenas uma parede que diz "Proibida a Entrada"; é mais como um conjunto de portas invisíveis e mutáveis que abrem e fecham dependendo de quem está parado ali, de como está o clima e de quanta confiança você tem neles.

Cientistas sabem há muito tempo que os computadores estão ficando melhores em seguir regras gerais, como "não compartilhar registros médicos com estranhos". Mas existe um abismo entre conhecer a regra geral e entender os seus sentimentos pessoais e específicos sobre ela. Você pode ser o tipo de pessoa que adora compartilhar fotos do seu almoço, mas fica nervosa se alguém mencionar o seu salário. Outra pessoa pode sentir exatamente o oposto. A grande questão que os pesquisadores estão tentando resolver é: Podemos ensinar a IA a entender esses limites de privacidade únicos e pessoais para que ela não derrube acidentalmente o seu chá quando você preferiria mantê-lo quente?

Apresentamos o CIDER, um novo estudo que atua como um enorme campo de treinamento para a IA aprender esses segredos pessoais. Os pesquisadores reuniram 169 pessoas reais e fizeram a elas uma pergunta simples, mas complicada: "Você ficaria de acordo se eu contasse esta história sobre você destas nove maneiras diferentes?" Eles mudaram a história ligeiramente a cada vez — às vezes usando seu nome completo, às vezes dizendo apenas "um amigo", às vezes dando cada detalhe minúsculo e às vezes mantendo-a vaga. Eles descobriram que as respostas das pessoas não eram aleatórias; elas tinham padrões específicos. Algumas pessoas aceitavam detalhes vagos, mas odiavam quando seu nome era usado. Outras não se importavam com o nome, mas ficavam apavoradas com os detalhes minuciosos.

A equipe então pegou esses dados e testou 12 modelos de IA diferentes, perguntando-lhes para adivinhar o que uma pessoa específica diria a seguir, baseando-se no que essa pessoa havia dito antes. É como jogar um jogo de "Adivinhe a Regra", onde a IA tem que olhar para as suas escolhas passadas e descobrir o seu estilo pessoal de privacidade. Os resultados foram uma mistura de boas notícias e alguns choques de realidade. Os modelos de IA maiores e mais inteligentes (como os da Anthropic e da OpenAI) tornaram-se muito bons nisso. Quando receberam apenas seis exemplos das escolhas passadas de uma pessoa, conseguiram prever as escolhas futuras dessa pessoa com uma precisão muito maior — até 11,41 pontos percentuais melhor do que se não tivessem histórico algum. Esses modelos inteligentes pareciam entender a vibe da situação, não apenas as palavras.

No entanto, o estudo também descobriu que nem todas as IAs são criadas iguais. Os modelos menores e mais simples tendiam a depender de atalhos rígidos. Eles aprendiam coisas como: "Se o nome estiver lá, diga NÃO" ou "Se houver detalhes demais, diga NÃO", sem realmente entender a nuance. Eles eram como alunos que memorizaram o gabarito, mas não entenderam a lição. Além disso, embora os modelos inteligentes tenham melhorado em adivinhar, eles às vezes ficavam confiantes demais na direção errada. Eles podiam parar de dizer "Não" quando deveriam, ou dizer "Sim" quando não deveriam, criando um novo tipo de desequilíbrio. Apenas um modelo, o Claude Sonnet 4.6, conseguiu melhorar sua precisão sem bagunçar seu equilíbrio de erros.

No fim, o CIDER sugere que estamos chegando mais perto de uma IA que possa verdadeiramente respeitar nossa privacidade pessoal, mas isso ainda não é um problema resolvido. A melhor IA precisa não apenas de muitos dados, mas da capacidade de entender o contexto humano sutil por trás de nossas escolhas. É um lembrete de que a privacidade não é apenas sobre esconder informações; é sobre saber exatamente com quem você está compartilhando-as, e a IA precisa aprender essa dança tão bem quanto nós.

Resumo Técnico: CIDER - Um Conjunto de Dados de Fronteiras de Divulgação Contextual para Alinhamento de Preferências de Privacidade

Declaração do Problema

Embora os Grandes Modelos de Linguagem (LLMs) estejam cada vez mais integrados na comunicação diária, sua capacidade de se alinhar com as preferências de privacidade humanas permanece inconsistente. A pesquisa existente baseia-se primariamente no framework de Integridade Contextual (CI) para avaliar modelos em relação a normas de privacidade gerais e de nível de grupo derivadas de regulamentações e literatura. No entanto, essas normas são inerentemente de granularidade grossa e falham em capturar os comportamentos de privacidade dinâmicos, matizados e individualizados que as pessoas exibem em cenários da vida real.

O desafio central reside em elicitar e modelar fronteiras de privacidade individuais. Diferente das normas públicas, as fronteiras pessoais são formadas implicitamente através da experiência vivida e das percepções de risco situacional, tornando-as difíceis de serem articuladas explicitamente pelos usuários. Os métodos de avaliação atuais carecem de uma operacionalização sistemática para avaliar a capacidade de um LLM de se adaptar a essas preferências de divulgação específicas e dependentes de contexto, particularmente em cenários envolvendo comunicação mediada por IA.

Metodologia

O Conjunto de Dados CIDER

Para abordar essa lacuna, os autores introduzem o CIDER (Contextual Information Disclosure Boundaries Elicited from Real Users), um conjunto de dados que compreende 14.850 anotações humanas de 169 participantes através de 60 cenários de comunicação interpessoal.

Construção de Cenários: Os cenários foram derivados do conjunto de dados PrivacyLens, cobrindo diversas práticas de compartilhamento de dados que violam normas de privacidade. Cada cenário foi instanciado em múltiplos contextos variando o papel de comunicação (remetente, sujeito, destinatário) e a condição mediada por IA (humano vs. assistente de IA).
Variantes de Divulgação: Para cada contexto, os autores geraram 9 variantes de divulgação variando sistematicamente ao longo de duas dimensões:
1. Granularidade: Geral (G1), Moderadamente Detalhada (G2) e Muito Detalhada (G3).
2. Identificabilidade: Não Identificável (I1), Parcialmente Identificável (I2) e Totalmente Identificável (I3).
Coleta de Dados: Os participantes avaliaram a aceitabilidade (Sim/Não) de cada variante dentro de seu contexto atribuído. O conjunto de dados forma 1.650 fronteiras de divulgação contextual, representando padrões de decisão individualizados.

Formulação da Tarefa

O artigo formula uma tarefa de predição de preferência de privacidade. Dado o histórico de fronteiras de divulgação de um usuário ( $B$ ) através de $N$ contextos, um modelo deve inferir a preferência de privacidade latente do usuário ( $p$ ) e prever suas decisões de divulgação ( $\hat{y}$ ) para um novo contexto não visto ( $c_{new}$ ).

A avaliação foca na personalização em tempo de inferência (in-context learning) sem atualizações de parâmetros. Os autores comparam quatro condições:

HC (Alto Contexto/High Context): Fronteiras históricas fornecidas com contexto semântico completo para cenários e variantes.
HL (Baixo Contexto/Low Context): Fronteiras históricas fornecidas com rótulos estruturais (granularidade/identificabilidade), mas com conteúdo semântico redigido.
H (Apenas Histórico/History Only): Fronteiras históricas fornecidas como decisões binárias sem contexto ou rótulos.
Baseline Sem Histórico (No-History Baseline): Predição baseada apenas no cenário alvo sem o histórico do usuário.

Experimentos foram conduzidos em 12 LLMs abertos e proprietários (incluindo famílias GPT-5.4, Claude Sonnet 4.6, Llama 4 e Qwen3) com comprimentos de histórico variáveis ( $k \in \{1, 4, 5, 6\}$ ).

Contribuições Principais

Conjunto de Dados CIDER: O primeiro conjunto de dados personalizado que captura o comportamento de divulgação contextual individualizado, indo além das normas de nível de grupo para modelar fronteiras de usuários específicos.
Operacionalização de Fronteiras Pessoais: Um framework estruturado para representar preferências de privacidade como vetores binários sobre variantes de divulgação definidas por granularidade e identificabilidade.
Benchmark de Avaliação: Um protocolo rigoroso para avaliar LLMs em alinhamento de privacidade personalizado usando aprendizado em contexto, destacando as trocas (trade-offs) entre escala de modelo, capacidades de raciocínio e fidelidade de personalização.
Toolkit de Estudo: Um pipeline reutilizável para gerar variantes de divulgação e elicitar decisões de usuários reais, suportando futuros estudos longitudinais.

Resultados

Precisão de Predição e Personalização

Melhoria Geral: A personalização em contexto geralmente melhora a precisão da predição. Usando apenas 6 exemplos históricos ( $k=6$ ), a precisão melhorou em até 11,41 pontos percentuais em comparação com o baseline sem histórico.
Escala de Modelo e Raciocínio: Modelos maiores e capazes de raciocínio (ex: GPT-5.4 com esforço de raciocínio médio, Claude Sonnet 4.6) superam significativamente modelos menores. Esses modelos aproveitam efetivamente o contexto semântico (condição HC) para entender preferências específicas do usuário.
- O GPT-5.4 alcançou 72,45% de precisão e o Claude Sonsoet 4.6 alcançou 71,98% sob a condição HC com $k=6$ .
- Modelos menores (ex: Llama 3.1 8B, Qwen3-8B) frequentemente estagnam em precisões mais baixas (ex: ~59,70%) e tendem a depender de heurísticas estruturais (rótulos de granularidade e identificabilidade) em vez de compreensão semântica. Em alguns casos, fornecer o contexto semântico completo (HC) não ajudou, ou até prejudicou, os modelos menores em comparação com a condição HL.

Análise de Erros e Trocas (Trade-offs)

Deslocamentos de Erro Desbalanceados: Embora a personalização melhore a precisão geral, ela frequentemente leva a deslocamentos desbalanceados em Falsos Positivos (FP) e Falsos Negativos (FN).
- A maioria dos modelos reduz FN para variantes "fáceis" (baixa granularidade/identificabilidade), mas aumenta FP.
- Por outro lado, para variantes "difíceis" (alta granularidade/identificabilidade), os modelos frequentemente reduzem FP, mas aumentam FN.
Desempenho Equilibrado: Claude Sonnet 4.6 foi o único modelo a alcançar melhorias equilibradas, reduzindo as taxas de Falsos Positivos (FP) e Falsos Negativos (FN) em todas as variantes.
Modos de Falha: A análise de predições incorretas revelou quatro tipos de erro:
1. Viés de Autodivulgação: Modelos assumem que a autodivulgação é sempre aceitável.
2. Extrapolação de Padrão: Modelos extrapolam cegamente padrões históricos de "Sim" sem raciocínio semântico.
3. Sobreposição de Normas (Norm-Based Override): Modelos priorizam normas éticas gerais sobre preferências específicas do usuário.
4. Generalização Baseada em Regras: Modelos derivam regras simplificadas (ex: "remetente confiável = Sim") que falham em novos contextos matizados.

Personalização vs. Alinhamento de Grupo/Norma

A análise comparativa mostrou que as predições de nível individual empataram ou superaram as fronteiras baseadas em grupo em 67,92% dos casos e as fronteiras baseadas em normas em 60,69% dos casos, validando a necessidade de modelagem personalizada.

Significância e Alegações

O artigo posiciona o CIDER como um recurso crítico para o avanço do alinhamento de privacidade personalizado. As descobertas revelam uma realidade dual nas capacidades atuais dos LLMs:

Promessa: Modelos de fronteira com fortes capacidades de raciocínio podem aprender e se adaptar efetivamente às fronteiras de privacidade individuais usando histórico em contexto, superando significativamente abordagens estáticas baseadas em normas.
Limitações: Os modelos atuais, particularmente modelos menores para dispositivos (on-device), lutam para aproveitar o contexto semântico para personalização e frequentemente exibem taxas de erro desbalanceadas (trocando falsos positivos por falsos negativos). Além disso, a dependência de infraestrutura centralizada para grandes modelos apresenta um paradoxo de privacidade, pois a transmissão de dados do usuário para personalização cria seus próprios riscos de privacidade.

Os autores concluem que alinhar LLMs com preferências de privacidade pessoais requer não apenas um histórico comportamental mais rico, mas também melhores capacidades de modelo para interpretar e utilizar tais informações, especialmente para implantação em pequena escala e em dispositivos. Eles chamam para trabalhos futuros focados em estratégias direcionadas (ex: ajuste fino, melhor prompting) para aumentar a fidelidade da personalização em modelos menores.