Adversarial Evaluation of a Two-Layer Anonymization Pipeline Against Record-Linkage Attacks

No mundo moderno, vastas quantidades de informações pessoais são coletadas todos os dias, desde pesquisas de saúde e transações financeiras até os padrões de movimento de pessoas pelas cidades. Embora esses dados possuam um valor imenso para a pesquisa e o planejamento público, sua divulgação traz um risco significativo: a possibilidade de que indivíduos possam ser reidentificados. Mesmo quando nomes óbvios e números de identificação são removidos, a combinação única de outros detalhes de uma pessoa — como idade, CEP e gênero — pode frequentemente atuar como uma impressão digital, permitindo que um observador determinado associe um registro de volta a um ser humano específico. Para combater isso, os protetores de dados desenvolveram vários métodos para obscurecer esses detalhes, como agrupar registros semelhantes ou adicionar ruído estatístico aos resultados. No entanto, uma questão persistente permanece: será que esses diferentes métodos funcionam bem quando usados em conjunto, ou eles criam novas vulnerabilidades?

Um pesquisador liderado por Mohammed Sayim Khalil, da Universidade Haliç, abordou essa questão construindo e testando o estresse de um novo sistema projetado para proteger dados. O trabalho deles foca em uma abordagem de "duas camadas", onde duas técnicas distintas de privacidade são aplicadas separadamente a diferentes partes dos dados. A primeira camada protege os registros individuais em si, fazendo com que pareçam mais semelhantes entre si, enquanto a segunda camada protege as estatísticas de resumo derivadas dos dados, adicionando uma camada de incerteza matemática. O pesquisador não alegou que essas duas camadas se combinam para criar um escudo perfeito e inquebrável. De fato, eles provaram matematicamente que, sob certas condições, nenhuma combinação perfeita desse tipo é possível se um atacante possuir informações externas suficientes. Em vez de confiar em uma promessa teórica de segurança, o pesquisador construiu uma simulação realista de um hacker e colocou o sistema contra ele para ver o quão bem ele resistiria na prática.

O sistema que eles construíram opera como um filtro cuidadoso para os dados. Primeiro, ele classifica cada peça de informação em um conjunto de dados em uma de quatro categorias, baseando-se em sua sensibilidade. Identificadores diretos, como nomes ou números de seguro social, são imediatamente removidos ou substituídos por códigos. A próxima categoria inclui "quase-identificadores", que são detalhes que parecem inofensivos isoladamente, mas tornam-se perigosos quando combinados, como uma data de nascimento específica ou um título de emprego raro. Estes são os detalhes que o sistema trabalha mais arduamente para proteger. A terceira categoria abrange informações sensíveis, como condições médicas, que devem ser ocultadas ou generalizadas. A categoria final contém dados não sensíveis, que podem ser liberados com alterações mínimas. O pesquisador então aplicou um conjunto de regras a essas categorias. Para os quase-identificadores, eles agruparam os registros de modo que cada pessoa parecesse ter pelo menos alguns outros semelhantes, tornando impossível isolar alguém. Para os dados sensíveis, eles garantiram que a distribuição dos valores dentro desses grupos correspondes-se à população geral, impedindo que atacantes adivinhassem a condição de uma pessoa apenas sabendo em qual grupo ela se encontrava. Finalmente, para as estatísticas de resumo, eles adicionaram uma quantidade controlada de ruído aleatório às respostas, garantindo que os resultados fossem úteis para análise, mas impossíveis de serem revertidos para encontrar um indivíduo específico.

Para testar se esse sistema realmente funcionava, o pesquisador criou um adversário digital. Este não era uma pessoa real, mas um sofisticado programa de computador projetado para imitar um hacker habilidoso. O programa recebeu acesso aos dados anonimizados e a um conjunto de dados separado e não sobreposto, que serviu como seu conhecimento de base, semelhante à forma como um atacante real poderia usar registros públicos ou redes sociais para adivinhar quem é quem. O pesquisador testou seu sistema em três tipos de dados muito diferentes: uma grande pesquisa de saúde, milhões de transações financeiras e milhões de trajetórias de movimento mostrando como as pessoas viajam por uma cidade. Em cada caso, eles variaram a quantidade de conhecimento que o atacante possuía, variando desde saber nada sobre os indivíduos até saber todos os detalhes sobre eles.

Os resultados mostraram que o sistema de duas camadas foi significamente mais eficaz em prevenir a reidentificação do que o uso de apenas um dos métodos isoladamente. Quando o pesquisador testou o sistema contra os dados da pesquisa de saúde, a probabilidade de o atacante conseguir associar um registro a uma pessoa real caiu para menos de dois por cento, um número muito inferior ao obtido quando testaram outros métodos comuns. No teste de transações financeiras, o sistema reduziu a taxa de sucesso do atacante para menos de cinco por cento, mantendo os dados úteis para a detecção de fraudes. O teste mais desafiador envolveu os dados de movimento, onde a natureza da informação torna inerentemente mais difícil escondê-la. Mesmo assim, o sistema teve um desempenho melhor do que as alternativas, embora o pesquisador tenha observado que o risco permaneceu mais alto para este tipo de dado, refletindo a dificuldade única de proteger informações de localização.

Uma descoberta fundamental do estudo foi a confirmação de que essas duas camadas de privacidade não se combinam magicamente para criar uma garantia única e mais forte. O pesquisador demonstrou que, se um atacante tiver informações externas suficientes, ele pode, por vezes, quebrar a proteção de uma camada mesmo que a outra permaneça intacta. É por isso que o pesquisador escolheu avaliar o sistema através de testes diretos, em vez de confiar em uma prova teórica. Ao rodar o sistema contra um atacante realista, eles puderam medir exatamente quanto risco permanecia e ajustar as configurações de acordo. Eles descobriram que uma ordem específica de operações — começando pelo agrupamento mais amplo de registros e relaxando as regras apenas quando necessário — funcionou melhor em todos os três tipos de dados. Essa abordagem permitiu-lhes manter os dados úteis para análise, mantendo o risco de reidentificação baixo.

O estudo também destacou limitações importantes e considerações éticas. O pesquisador reconheceu que seu sistema trabalha em lotes, o que significa que processa dados de uma só vez, em vez de fluxos em tempo real, o que é uma restrição para dados de movimentação rápida. Eles também observaram que o sistema não contabiliza automaticamente a equidade; os métodos usados para proteger a privacidade podem, por vezes, distorcer os dados para grupos minoritários mais do que para a maioria. Para abordar isso, sugeriram que versões futuras do sistema deveriam incluir verificações para garantir que as proteções de privacidade sejam aplicadas de forma equitativa entre diferentes populações. Além disso, enfatizaram que, embora seu sistema torne os dados muito mais seguros, ele não os torna necessariamente "anônimos" no sentido legal estrito exigido por regulamentações como o Regulamento Geral de Proteção de Dados. Em vez disso, os dados permanecem "pseudonimizados", o que significa que estão protegidos, mas ainda carregam algum risco, e as organizações devem pesar esse risco cuidadosamente antes de divulgá-los.

Em última análise, este trabalho fornece um roteiro prático para organizações que precisam compartilhar dados sem comprometer a privacidade dos indivíduos por trás deles. Ao combinar uma forma estruturada de classificar dados com um processo de teste rigoroso contra atacantes realistas, o pesquisador mostrou que é possível encontrar um equilíbrio entre utilidade e segurança. O sistema não oferece um escudo perfeito, mas oferece um nível de proteção mensurável e gerenciável que é muito superior às práticas padrão atuais. O pesquisador disponibilizou seu código e ferramentas publicamente, permitindo que outros testem e melhorem seus métodos, garantindo que o campo da privacidade de dados continue a evoluir em resposta a novas ameaças.