Resumo Técnico: Privacidade Persuasiva

Declaração do Problema

O artigo aborda as limitações dos atuais padrões de privacidade de dados, particularmente a Privacidade Diferencial (DP), em diversas áreas fundamentais. Embora a DP tenha se tornado o padrão de fato, ela enfrenta desafios conceituais relativos à interpretação de seus parâmetros, lacunas entre garantias técnicas e noções legais/sociais de privacidade, e a natureza frequentemente vacante dos orçamentos de perda de privacidade em implementações do mundo real. Crucialmente, os frameworks de DP existentes têm dificuldade em fornecer garantias não vacantes para algoritmos determinísticos (ex: estatísticas invariantes como os resumos do Censo Decenal dos EUA), pois esses mecanismos inerentemente vazam informações sobre os dados de entrada sem a adição de ruído. Além disso, as interpretações semânticas da DP são frequentemente construídas post-hoc, tornando-as difíceis de adaptar a casos de uso específicos ou de compreender intuitivamente.

Os autores propõem a necessidade de um framework que:

1. Gere definições de privacidade que sejam "adequadas ao propósito" (fit for purpose), porém rigorosamente justificadas.
2. Avalie as garantias de privacidade existentes usando uma abordagem unificada.
3. Avalie a privacidade de algoritmos determinísticos, uma capacidade atualmente ausente na DP e na maioria de suas variantes.

Metodologia

Os autores introduzem a Privacidade Persuasiva (PP), um novo framework fundamentado na teoria dos jogos bayesianos. O framework modela o processo de liberação de dados como um jogo de Stackelberg de dois jogadores envolvendo:

• Remetente (Sender): O custodiante dos dados sensíveis $x \in \mathcal{X}$ que projeta um mecanismo $M$ para liberar informações.
• Recebedor (Receiver): Um adversário com incerteza sobre $x$, representada por uma distribuição a priori $Q$. O Recebedor observa a saída de $M$ e atualiza sua crença para uma posterior $Q_T$, então toma uma ação $d$ que afeta a privacidade do Remetente.

Componentes Principais

1. Funções e Pontuações de Privacidade: A privacidade do Remetente é quantificada via uma função de privacidade $\rho(d, x)$, representando a preferência do Remetente sobre as decisões do Recebedor. Isso é equivalentemente enquadrado usando regras de pontuação adequadas (proper scoring rules) $S(P, x)$, onde a decisão do Recebedor é a distribuição $P$ que minimiza a perda esperada. A "pontuação de privacidade" mede quão bem a crença do Recebedor prevê os dados reais.
2. Perda de Privacidade Relativa: O framework foca na mudança na privacidade causada pela liberação de dados. A pontuação de privacidade relativa é definida como $\Delta(Q, T, x) = S(Q, x) - S(Q_T, x)$. Um valor mais baixo indica maior retenção de privacidade.
3. Suposições de Robustez:
   • Transparência: O Remetente compartilha o mecanismo $M$ e a classe de privacidade $C$ (gerada pela definição) com o Recebedor, mas estas definições não devem depender dos dados específicos $x$.
   • Racionalidade Bayesiana: O Recebedor atua como um agente Bayes-ótimo, atualizando crenças via regra de Bayes e escolhendo ações para minimizar a perda esperada.
   • Avaliação de Pior Caso: O Remetente avalia a privacidade de forma robusta contra o pior caso de dado-prior $Q$ dentro de uma classe especificada $\mathcal{Q}_x$ e o pior caso de conjunto de dados $x$.
4. Definição de Privacidade Persuasiva: Um mecanismo $M$ é $(\mathcal{S}, \mathcal{Q}_x, \kappa, \delta)$-PP se, para todas as regras de pontuação em um conjunto $\mathcal{S}$, todos os conjuntos de dados $x$, e todos os priors $Q \in \mathcal{Q}_x$, a probabilidade de a perda de privacidade relativa exceder um limiar $\kappa$ é no máximo $\delta$:
   $$\inf_{S \in \mathcal{S}} \inf_{x \in \mathcal{X}} \inf_{Q \in \mathcal{Q}_x} P_x [\Delta_S(Q, T, x) \le \kappa] \ge 1 - \delta$$

Contribuições Principais e Resultados

1. Unificação Teórica e Recuperação de Definições Existentes

O framework recupera com sucesso definições de privacidade estabelecidas como casos especiais, provendo-lhes uma nova semântica de teoria dos jogos:

• Privacidade Diferencial Probabilística (PDP): Os autores provam que um mecanismo é $(\epsilon, \delta)$-PDP se, e somente se, é $(\mathcal{L}, \mathcal{H}, \epsilon, \delta)$-PP, onde $\mathcal{L}$ é a pontuação de log-probabilidade negativa e $\mathcal{H}$ é uma classe de priors discretos de dois componentes representando conjuntos de dados vizinhos. Isso interpreta a PDP como proteção contra um pior caso onde o Recebedor tem uma probabilidade vanishingly pequena sobre os dados reais.
• Privacidade de Rényi (RDP) e de f-Divergência: Ao modificar a condição de avaliação de uma probabilidade de cauda (Suposição 4) para uma condição de valor esperado (Suposição 4*), o framework gera a Privacidade Persuasiva em Expectativa (PPE). Esta variante recupera a RDP e a privacidade de f-divergência, ligando-as diretamente à mudança esperada nas pontuações de privacidade.

2. Propriedades de Pós-Processamento

O artigo distingue dois tipos de pós-processamento:

• Pós-processamento do Recebedor: O framework satisfaz esta propriedade, o que significa que o Recebedor não pode ganhar informações adicionais através do pós-processamento da saída. Isso se alinha com a justificativa padrão para a robustez adversarial da DP.
• Pós-processamento do Remetente: O framework não satisfaz a desigualdade padrão de Pós-processamento do Remetente (onde um mecanismo privado composto com um kernel permanece privado). Os autores mostram que esta é uma limitação conhecida da PDP também. No entanto, eles demonstram que um Remetente pode satisfazer trivialmente a garantia ao liberar a saída conjunta do mecanismo original e do mecanismo transformado, efetivamente controlando a perda de privacidade.

3. Privacidade para Mecanismos Determinísticos

Uma contribuição primária é a capacidade de definir garantias de privacidade não vacantes para mecanismos determinísticos, que são tipicamente excluídos da DP. O artigo fornece dois exemplos concretos:

• Média Empírica Privada: Usando a Pontuação Marginal Dawid–Sebastiani (DSS) e restringindo a classe de priors do Recebedor (especificamente limitando a distância entre a média do prior e a média real em relação à variância), os autores estabelecem uma garantia de privacidade persuasiva para a liberação da média empírica exata sem ruído.
• Supressão de Células Privada: Para mecanismos que suprimem contagens pequenas em tabelas de contingência, o framework estabelece uma garantia usando a pontuação de log-probabilidade. O parâmetro de privacidade é determinado pela força da crença a priori do Recebedor em relação às contagens de células pequenas.

Significância e Alegações

O artigo afirma que a Privacidade Persuasiva oferece uma abordagem de semântica primeiro para a privacidade de dados. Ao contrário da DP, onde as interpretações semânticas são frequentemente derivadas a posteriori, a PP constrói definições a partir de um jogo baseado em agentes, onde as suposições (ex: a classe de priors do Recebedor, a função de perda) são explícitas e podem ser testadas contra contextos reais.

A significância deste trabalho reside na:

• Flexibilidade: Permite a geração de definições de privacidade direcionadas ao propósito, adaptadas a contextos de dados específicos (ex: resumos determinísticos), ao selecionar regras de pontuação e classes de priors apropriadas.
• Robustez: Ao modelar explicitamente o Recebedor como um agente Bayesiano e avaliar cenários de pior caso sobre priors e dados, o framework fornece justificativas rigorosas e de teoria dos jogos para as garantias de privacidade.
• Ponte de Lacuna: Fornece uma conexão formal entre os métodos determinísticos de controle de divulgação (comuns em estatísticas oficiais) e a teoria moderna de privacidade, abordando uma lacuna crítica onde os padrões atuais falham em proteger estatísticas invariantes.

Os autores reconhecem que, embora o framework seja flexível, deve-se ter cuidado para garantir que as regras de pontuação e classes de priors escolhidas sejam apropriadas para o contexto de implantação específico para evitar o uso indevido da flexibilidade. Eles também observam que determinar os mecanismos de utilidade ótima dentro de uma dada classe de privacidade persuasiva permanece como uma área aberta para pesquisas futuras.