🤖 machine learning

PriDyG: Privacy-preserving Dynamic Graph Inference with LLM-GNN Collaboration

O $\text{PriDyG}$ é uma estrutura de preservação de privacidade para inferência de grafos dinâmicos que combina o aprendizado estrutural baseado em GNN com o raciocínio semântico baseado em LLM para alcançar privacidade diferencial ao nível de aresta com custo cumulativo constante, superando significativamente as linhas de base existentes em utilidade enquanto mitiga o acúmulo de perda de privacidade.

Autores originais: Yuyang Xia, Ruixuan Liu, Li Xiong

Publicado 2026-08-06

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Yuyang Xia, Ruixuan Liu, Li Xiong

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine a internet como um mapa gigante e em constante mudança de conexões. Algumas linhas nesse mapa são amizades, outras são transações financeiras e algumas são consultas médicas secretas. Esse mapa é chamado de "grafo", e os computadores o utilizam para fazer previsões, como adivinhar com quem você pode querer ser amigo ou qual produto você comprará em seguida. Mas aqui está o problema: se você pedir a um computador para estudar esse mapa de perto demais, ele pode acidentalmente revelar essas linhas secretas, expondo relacionamentos privados. Para impedir isso, cientistas usam um escudo matemático chamado "Privacidade Diferencial". Pense nisso como adicionar um pouco de ruído estático a um sinal de rádio; torna o sinal apenas nebuloso o suficiente para que ninguém ouça um segredo específico, mas claro o suficiente para ainda entender a música em geral.

O problema fica mais complicado quando o mapa continua mudando. No mundo real, novas amizades se formam e novas transações acontecem a cada segundo. Se um computador tentar atualizar suas previsões toda vez que uma nova linha é desenhada, ele terá que estudar o mapa inteiro repetidas vezes. Cada vez que ele olha, o escudo de privacidade fica um pouco mais fraco e o ruído fica um pouco mais alto, até que as previsões se tornem lixo inútil. Este artigo aborda a grande questão: Como podemos continuar atualizando nossas previsões em um mapa que muda sem esgotar a privacidade ou nos afogarmos em ruído?

Os autores deste artigo, Yuyang Xia, Ruixuan Liu e Li Xiong, propõem um novo sistema inteligente chamado PriDyG. Em vez de tentar forçar o computador a reexaminar todo o mapa bagunçado toda vez que uma única nova linha aparece, eles construíram uma equipe de duas partes. Uma parte é um "detetive estrutural" (uma Rede Neural de Grafos) que observa as conexões, e a outra é um "leitor semântico" (um Grande Modelo de Linguagem) que lê as descrições textuais das pessoas ou itens envolvidos.

Aqui está como o truque de mágica deles funciona. O "detetive estrutural" é quem precisa do escudo de privacidade porque observa as conexões secretas. Normalmente, toda vez que o mapa muda, este detetive tem que reexaminar tudo, o que consome o orçamento de privacidade e adiciona tanto ruído que ele fica confuso. O PriDyG muda o jogo usando um sistema de "buffer". Em vez de reler todo o mapa, o sistema apenas olha para as novas linhas que chegaram desde a última verificação. Ele calcula a diferença e a adiciona à resposta antiga, como atualizar uma pontuação apenas somando os novos pontos em vez de recontar o jogo inteiro. Isso significa que o custo de privacidade permanece o mesmo, não importa quantas vezes o mapa seja atualizado.

No entanto, este método da "diferença" não é perfeito; ele perde algumas conexões complexas e de longa distância que um reexame completo captaria. É aí que o segundo membro da equipe, o "leitor semântico", entra em cena. Este leitor olha apenas para as descrições de texto públicas (como a biografia de uma pessoa ou a descrição de um produto) e ignora completamente as conexões secretas. Como ele não toca nos dados privados, não precisa de nenhum orçamento de privacidade! Ele atua como uma rede de segurança. Quando o detetive estrutural fica muito nebuloso ou incerto devido ao ruído, o sistema apoia-se mais fortemente na opinião do leitor semântico.

O artigo mostra que essa parceria funciona incrivelmente bem. Em testes em quatro conjuntos de dados diferentes (incluindo redes sociais e catálogos de produtos), o PriDyG conseguiu manter suas previsões precisas mesmo enquanto o grafo mudava milhares de vezes. Provou que, ao combinar uma atualização estrutural que preserva a privacidade com um leitor de texto livre de privacidade, você pode manter uma alta precisão sem que o custo de privacidade saia do controle. Os autores descobriram que este método é muito superior às formas antigas de tentar economizar privacidade, que geralmente resultavam em um computador tão ruidoso que não conseguia fazer nenhuma previsão útil após algumas atualizações. Eles demonstraram que sua abordagem mantém o custo total de privacidade constante, independentemente de quantas atualizações ocorram, ao mesmo tempo em que entrega resultados competitivos com sistemas que não utilizam qualquer proteção de privacidade.

Resumo Técnico: PriDyG

Formulação do Problema

O artigo aborda o desafio da Inferência de Grafos Dinâmicos com Diferencial de Privacidade (DP) ao nível de aresta (EDG). Em grafos dinâmicos, onde as arestas chegam continuamente e os modelos requerem atualizações frequentes, os métodos existentes de preservação de privacidade enfrentam dois desafios críticos:

Compromisso Utilidade-Privacidade (Desafio 1): Impor DP ao nível de aresta exige a injeção de ruído na agregação de vizinhança, o que distorce os sinais estruturais essenciais para Redes Neurais de Grafos (GNNs), levando a uma degradação significativa da precisão em comparação com contrapartes não privadas.
Acúmulo de Orçamento de Privacidade (Desafio 2): Em configurações dinâmicas, atualizações repetidas de modelos normalmente disparam a composição sequencial de orçamentos de privacidade. Se um mecanismo reexecuta a agregação privada em todo o grafo para cada atualização, o custo total de privacidade cresce linearmente ( $M \cdot \epsilon$ ) com o número de atualizações $M$ , tornando-se rapidamente proibitivo. Alternativamente, alocar um orçamento que decai geometricamente para atualizações sucessivas mantém o custo total limitado, mas faz com que a escala do ruído cresça exponencialmente, tornando os modelos posteriores inutilizáveis.

Os autores definem o problema EDG como o design de um mecanismo que responda a consultas de classificação de nós e predição de links em um grafo em evolução, enquanto satisfaz a DP ao nível de aresta durante toda a execução e mantém alta utilidade. Crucialmente, o modelo de ameaça assume que os atributos textuais dos nós são públicos, enquanto apenas a existência da aresta é protegida.

Metodologia: PriDyG

Os autores propõem o PriDyG, um framework que acopla o raciocínio semântico baseado em LLM com o aprendizado estrutural de DP-GNN dinâmico. A arquitetura opera por meio de três componentes:

1. Framework Colaborativo LLM-GNN

O PriDyG executa dois ramos complementares:

Ramo DP-GNN: Aprende representações estruturais sob DP ao nível de aresta.
Ramo LLM: Realiza classificação zero-shot ou pontuação de links usando apenas atributos textuais dos nós. Como o texto do nó é público sob o modelo de ameaça, este ramo consome zero orçamento de privacidade.
Fusão com Portão de Confiança (Confidence-Gated Fusion): O sistema funde predições dinamicamente. Se a predição da GNN for confiante (margem alta), ela é usada diretamente. Se houver incerteza, o sistema funde a saída da GNN com a predição semântica do LLM. Isso permite que o sistema dependa da âncora semântica estável e livre de privacidade do LLM conforme a precisão estrutural da GNN erode devido ao acúmulo de ruído ao longo do tempo.

2. Agregação Multi-salto Privada Incremental (PMA)

Para resolver o problema de acúmulo de orçamento, o PriDyG introduz a PMA Incremental, que substitui a abordagem de reexecutar a agregação total em todo o grafo.

Mecanismo: Novas arestas que chegam são armazenadas em buffer. Quando um comando de retreinamento é emitido, o algoritmo calcula uma agregação "delta" baseada apenas nas novas arestas e adiciona este delta ruidoso às agregações em cache dos passos anteriores.
Garantia de Privacidade: Como cada aresta é processada exatamente uma vez (quando é esvaziada do buffer), o Teorema de Composição Paralela se aplica. O custo total de privacidade permanece constante ( $\epsilon_{PMA}$ ), independente do número de atualizações $M$ ou do cronograma de retreinamento.
Preservação de Sinal:
- Um-salto (One-hop): A agregação é sinal-exata (sem perdas no caso sem ruído).
- Multi-salto (Multi-hop): O método retém pelo menos metade de todas as transferências de informação de dois saltos. Ele omite caminhos "para trás no tempo" (onde a informação flui de arestas mais novas para arestas mais antigas), mas este erro é estruturado e limitado, ao contrário do desvio ilimitado de outros métodos.
Acúmulo de Ruído: Embora o orçamento de privacidade seja constante, a variância do ruído cresce linearmente ( $O(M)$ ) com o número de atualizações. No entanto, este é um crescimento polinomial, contrastando fortemente com o crescimento exponencial de ruído exigido pelas bases de orçamento de decaimento geométrico.

3. Adaptação de Predição de Link

Para predição de links, o preditor padrão usa similaridade de cosseno nas representações PMA privatizadas. Para calibrar os pesos de fusão sem violar a DP ao nível de aresta, os autores utilizam Resposta Aleatória (Randomized Response) em um conjunto disjunto de pares de nós para gerar rótulos privatizados para o ajuste dos parâmetros de fusão ( $\alpha, \tau$ ).

Principais Contribuições

Framework Colaborativo LLM-GNN: Um pipeline unificado que reduz a lacuna entre privacidade e utilidade, compensando a perda de utilidade da GNN privatizada com o raciocínio semântico do LLM livre de privacidade.
Inferência Dinâmica de Orçamento Constante: A proposta da PMA Incremental, que alcança um custo de privacidade total de $O(1)$ sob arbitrariamente muitas atualizações de modelo ao explorar a disjunção dos lotes de arestas, resolvendo fundamentalmente a tensão de orçamento na inferência de grafos dinâmicos.
Avaliação Abrangente: Experimentos extensos em quatro conjuntos de dados de referência (Cora, PubMed, ogbn-arxiv, ogbn-products) para classificação de nós e predição de links.

Resultados

Experimentos demonstram que o PriDyG:

Supera consistentemente as bases de orçamento de decaimento geométrico sob o mesmo orçamento total de privacidade.
Reduz o custo de privacidade cumulativo em até três ordens de magnitude em comparação com abordagens de retreinamento por atualização, mantendo uma utilidade competitiva.
Mantém uma precisão estável ao longo de fluxos de inserção longos, enquanto o ramo apenas de GNN sofre quedas substanciais de precisão em relação ao treinamento estático devido ao acúmulo de ruído.
Permanece competitivo com as bases não privadas enquanto fornece garantias formais de DP ao nível de aresta.

Significância e Alegações

O artigo afirma que o PriDyG é o primeiro trabalho a formular e estudar a inferência de grafos com DP ao nível de aresta sobre grafos continuamente atualizados com o objetivo específico de garantir que o custo de privacidade não cresça com o número de atualizações.

Os autores enfatizam que a colaboração LLM-GNN não é meramente um aumento genérico de precisão, mas é especificamente valiosa no regime dinâmico. À medida que o ramo estrutural (GNN) se torna mais fraco devido ao ruído acumulado, o pipeline naturalmente desloca a confiança para a âncora semântica estável e livre de privacidade do LLM. Este design permite atualizações frequentes de modelos sem degradação adicional de privacidade, abordando um gargalo crítico em aplicações de grafos dinâmicos do mundo real, onde os dados evoluem continuamente.