Geometric Data Perturbation with Noisy-Anchor Alignment for Privacy-Preserving Collaborative Learning
Este artigo propõe uma estrutura de aprendizado colaborativo de preservação de privacidade que aprimora o método de Perturbação de Dados Geométricos ao adicionar ruído às representações de âncoras compartilhadas em vez dos dados privados, mitigando efetivamente ataques de colusão entre analista e participante enquanto mantém uma alta utilidade de aprendizado em comparação com abordagens existentes.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
No mundo digital moderno, as organizações frequentemente detêm peças de um quebra-cabeça maior. Um hospital pode ter registros de pacientes, um banco pode ter históricos de transações e uma universidade pode ter dados de desempenho de estudantes. Para construir uma inteligência artificial melhor, esses grupos precisam combinar suas informações. No entanto, leis e preocupações com a privacidade geralmente impedem que eles simplesmente compartilhem seus dados brutos. Isso cria um problema difícil: como os grupos podem trabalhar juntos para aprender uns com os outros sem jamais revelar seus segredos privados? Uma solução promissora envolve uma técnica chamada perturbação geométrica de dados. Imagine tirar uma fotografia e rotacioná-la ou deslocá-la ligeiramente sem alterar a distância entre quaisquer dois pontos na imagem. A foto parece diferente, mas sua estrutura interna permanece intacta. Ao aplicar esses deslocamentos matemáticos aos dados, as organizações podem enviar uma versão distorcida de suas informações para um analista central. O analista pode então treinar modelos poderosos nos dados combinados e distorcidos, enquanto os registros privados originais permanecem ocultos.
O desafio surge quando o analista central e uma das organizações participantes decidem trabalhar juntos para quebrar a privacidade dos outros. Se as organizações usassem exatamente o mesmo deslocamento matemático, a dupla em conluio poderia facilmente reverter o processo e ver os dados privados de todos. Para impedir isso, pesquisadores sugeriram anteriormente que cada organização deveria usar seu próprio deslocamento exclusivo. No entanto, isso cria um novo problema: os dados de diferentes grupos acabam em formatos incompatíveis, tornando impossível treinar um único modelo de forma eficaz. Um contorno inteligente chamado "alinhamento por âncoras" foi desenvolvido para corrigir isso. Ele utiliza um conjunto de pontos de referência sintéticos e compartilhados — como uma grade de mapa comum — que cada organização transforma juntamente com seus dados privados. O analista usa esses pontos de referência transformados para alinhar os diferentes conjuntos de dados em um formato único e utilizável. Mas um novo estudo revela uma falha crítica nesta abordagem: se um parceiro em conluio revelar o mapa de referência original, o analista pode matematicamente reverter os deslocamentos únicos de todos os outros participantes, expondo completamente seus dados privados.
Pesquisadores da Universidade de Tsukuba propuseram um novo método para resolver essa vulnerabilidade específica. Eles perceberam que adicionar ruído, ou estática aleatória, diretamente aos dados privados para protegê-los arruinaria a qualidade do modelo final. Em vez disso, decidiram adicionar o ruído ao próprio mapa de referência. Em seu novo sistema, cada organização ainda usa seu próprio deslocamento exclusivo para seus dados privados, mas, ao transformar o mapa de referência compartilhado, elas adicionam uma camada de ruído aleatório a ele antes de enviá-lo ao analista. Esse ruído torna matematicamente impossível para o analista e um parceiro em conluio reverterem perfeitamente os deslocamentos únicos dos outros participantes. O analista ainda consegue alinhar os dados bem o suficiente para treinar um modelo útil, mas o caminho para roubar a informação privada é bloqueado pelo ruído.
A equipe testou essa ideia usando dois grandes conjuntos de dados de imagens: um contendo dígitos manuscritos e outro contendo milhares de rostos de celebridades. Eles simularam um cenário em que um analista e um participante conspiraram para roubar os dados dos outros. Quando adicionavam ruído aos próprios dados privados, a precisão do modelo caía significativamente à medida que a proteção de privacidade aumentava. No entanto, quando adicionavam ruído apenas ao mapa de referência, descobriram um equilíbrio muito melhor. O sistema manteve uma alta precisão para o modelo de aprendizado de máquina, ao mesmo tempo em que tornava extremamente difícil para os atacantes reconstruírem as imagens originais. Em seus experimentos, o novo método permitiu que o sistema alcançasse uma alta precisão de aprendizado mesmo quando o risco de vazamento de dados era mantido baixo. Os pesquisadores mostraram que, ao proteger o sinal de alinhamento em vez dos dados em si, eles poderiam criar um sistema que é simultaneamente útil para colaboração e robusto contra ameaças internas. Essa abordagem oferece uma maneira prática para as organizações colaborarem em projetos sensíveis sem terem que escolher entre privacidade e desempenho.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.