Resumo Técnico: DP-HYPE

Declaração do Problema

No Aprendizado Federado (FL), o ajuste de hiperparâmetros é crítico para o desempenho do modelo, mas introduz riscos significativos de privacidade. A busca padrão por hiperparâmetros envolve a avaliação de inúmeros candidatos, e revelar os resultados da avaliação (por exemplo, valores de perda) pode vazar informações sensíveis sobre os dados locais dos clientes. Embora a Privacidade Diferencial (DP) seja o padrão para privacidade comprovável, as abordagens existentes enfrentam três limitações principais no cenário federado:

1. Especificidade de Tarefa: Muitos métodos são adaptados para tarefas de aprendizado específicas ou otimização baseada em gradiente, carecendo de generalidade.
2. Vazamento de Privacidade de Agregados: Trabalhos anteriores frequentemente falham em considerar o vazamento de privacidade inerente aos resultados agregados ou baseiam-se na suposição de que um adversário não pode ver as etapas intermediárias de avaliação (uma suposição inválida no FL padrão).
3. Compromissos Subótimos: As soluções existentes frequentemente sofrem de um trade-off entre privacidade e utilidade, onde o orçamento de privacidade degrada rapidamente com o número de hiperparâmetros avaliados (composição), ou dependem de terceiros confiáveis e Computação Multipartidária Segura (SMPC) que não escalam bem.

O desafio central é encontrar um conjunto compartilhado de hiperparâmetros (um compromisso) entre clientes com distribuições de dados heterogêneas (não-iid) enquanto satisfaz a privacidade diferencial ao nível do cliente e garante que a garantia de privacidade seja independente do número de hiperparâmetros avaliados.

Metodologia: DP-HYPE

Os autores propõem o DP-HYPE, um algoritmo de busca de hiperparâmetros federado que altera o paradigma da avaliação de perda global para a votação federada.

Abordagem Central

Em vez de treinar um modelo global para cada candidato a hiperparâmetro (o que é inviável do ponto de vista de privacidade), o DP-HYPE opera na observação de que, se as distribuições de dados locais não forem muito divergentes, as avaliações locais correlacionam-se com o desempenho global. O algoritmo procede da seguinte forma:

1. Avaliação Local: Cada cliente $i$ avalia todos os candidatos a hiperparâmetros $H = \{H_1, \dots, H_p\}$ em seu conjunto de dados local $D_i$ para calcular as perdas locais.
2. Votação Local: Cada cliente seleciona seus top-$k$ hiperparâmetros com a menor perda local. Eles constroem um vetor de votação binário $v_i \in \{0, 1\}^p$, onde as entradas correspondentes aos $k$ melhores candidatos são definidas como 1.
3. Perturbação Local: Para garantir a privacidade diferencial, cada cliente adiciona ruído Gaussiano $z \sim \mathcal{N}(0, \frac{\sigma^2}{n} I_p)$ ao seu vetor de votação $v_i$, resultando em um vetor ruidoso $\tilde{v}_i$. Crucialmente, o processo de treinamento local em si não precisa ser diferencialmente privado; o ruído é introduzido apenas na etapa de votação.
4. Agregação Segura: Os clientes utilizam um protocolo de Soma Segura (ex: SecAgg++) para agregar os vetores ruidosos $\sum \tilde{v}_i$ sem revelar os votos individuais ao servidor.
5. Seleção: O servidor identifica o hiperparâmetro com a contagem máxima de votos ruidosos agregados.

Mecanismo de Privacidade

• DP ao Nível do Cliente: O algoritmo satisfaz a privacidade diferencial ao nível do cliente, protegendo a influência de todo o conjunto de dados de um cliente.
• Independência do Número de Hiperparâmetros: Ao tratar o vetor de votação como um todo e utilizar as propriedades do mecanismo Gaussiano sobre a sensibilidade $L_2$ do vetor, a contabilidade de privacidade depende apenas do número de votos $k$ por cliente, não do número total de hiperparâmetros $p$. Isso evita a penalidade de composição $\sqrt{p}$ típica de buscas iterativas.
• Sensibilidade: A sensibilidade $L_2$ do vetor de votação é limitada por $\sqrt{2k}$, permitindo uma calibração de ruído precisa.

Principais Contribuições

1. Design de Algoritmo: O DP-HYPE é o primeiro algoritmo para busca de hiperparâmetros federados que é agnóstico à tarefa, preserva a DP ao nível do cliente e oferece garantias de privacidade independentes do número de hiperparâmetros.
2. Garantias Teóricas:
   • Prova formal de que o DP-HYPE satisfaz a Privacidade Diferencial de Rényi (RDP) ao nível do cliente e pode ser convertido para $(\epsilon, \delta)$-DP.
   • Derivação de limites de utilidade mostrando que a probabilidade de selecionar um "bom" hiperparâmetro aumenta exponencialmente com o gap ($\gamma$) entre os votos dos candidatos bons e ruins.
3. Implementação: O algoritmo é implementado como um submódulo no Flower, um framework de aprendizado federado de ponta, garantindo aplicabilidade prática.
4. Avaliação Empírica: Avaliação extensiva em três conjuntos de dados de referência (MNIST, CIFAR-10, Adult) sob configurações iid e não-iid (particionamento de Dirichlet).

Resultados

• Utilidade sob Pequenos Orçamentos: O DP-HYPE demonstra alta utilidade mesmo sob pequenos orçamentos de privacidade ($\epsilon \le 1$). Em cenários iid, ele se aproxima muito do desempenho da linha de base ótima não privada (OPT).
• Robustez Não-IID: Em cenários não-iid, onde os clientes possuem distribuições de dados divergentes, o DP-HYPE encontra com sucesso um compromisso. Embora possa nem sempre selecionar o hiperparâmetro globalmente ótimo (pois as avaliações locais podem perder os ótimos globais), ele supera significativamente o chute aleatório (RANDGUESS) e mantém um desempenho robusto conforme o número de clientes aumenta.
• Escalabilidade: O overhead de comunicação é mínimo, exigindo apenas uma única invocação de soma segura. A largura de banda escala linearmente com o número de hiperparâmetros, mas permanece na ordem de KB por cliente.
• Parâmetro $k$: Simulações indicam que a escolha de $k$ (número de votos locais) é crítica apenas sob orçamentos de privacidade muito restritos. Um $k$ pequeno geralmente é suficiente, embora um $k$ ligeiramente maior possa ajudar em cenários não-iid, onde um compromisso pode ser a segunda ou terceira melhor escolha para muitos clientes.

Significância e Alegações

O artigo afirma que o DP-HYPE aborda uma lacuna crítica no aprendizado federado preservador de privacidade ao permitir a busca de hiperparâmetros escalável e agnóstica à tarefa sem os custos de privacidade proibitivos associados ao número de candidatos.

• Amplificação de Privacidade: Ao trocar avaliações globais por votação local, o DP-HYPE alcança uma enorme ampliação de privacidade. O servidor vê apenas resultados agregados, e o custo de privacidade é desacoplado do tamanho do espaço de busca.
• Praticidade: Diferente de trabalhos anteriores que dependem de terceiros confiáveis ou configurações complexas de SMPC que não escalam, o DP-HYPE depende apenas de soma segura, tornando-o implantável em cenários reais de cross-silo.
• Gestão de Trade-off: Os autores demonstram que o trade-off entre privacidade e utilidade é gerenciável; mesmo com restrições estritas de privacidade, o algoritmo consegue identificar hiperparâmetros que geram um forte desempenho do modelo, efetivamente unindo as garantias teóricas de privacidade e a utilidade prática em sistemas federados.

O trabalho conclui que o DP-HYPE fornece uma solução robusta, eficiente e teoricamente sólida para encontrar hiperparâmetros compartilhados em ambientes federados, sendo particularmente valioso quando as distribuições de dados são heterogêneas e os orçamentos de privacidade são limitados.