Resumo Técnico: Redes Neurais de Grafos Robustas via Refinamento de Rótulos Guiado por Comunidade e Aprendizado Contrastivo Progressivo

1. Definição do Problema

As Redes Neurais de Grafos (GNNs) são altamente eficazes para classificação de nós semi-supervisionada, mas sofrem significativamente com o ruído de rótulos. O mecanismo de passagem de mensagens inerente às GNNs faz com que a supervisão errônea se propague através da estrutura do grafo, contaminando as representações dos nós vizinhos e degradando a generalização.

Os métodos de GNN robustos existentes enfrentam duas limitações primárias:

1. Viés Local: A maioria das estratégias de correção de rótulos depende fortemente da homofilia local (informação de vizinhança) e negligencia a informação estrutural global. Isso as torna suscetíveis à interferência de sinais ruidosos locais em estruturas de grafos complexas.
2. Instabilidade do Aprendizado Contrastivo: No aprendizado contrastivo de grafos, sinais de supervisão ruidosos podem distorcer o alinhamento de representações. Incorporar diretamente rótulos ruidosos nos estágios iniciais do treinamento pode fazer com que o modelo aprenda uma supervisão errônea, enquanto o mecanismo de passagem de mensagens facilita ainda mais a propagação do ruído.

Além disso, embora as comunidades em dados de grafos frequentemente exibam uma forte consistência semântica (nós dentro da mesma comunidade tendem a compartilhar rótulos semelhantes), os métodos atuais raramente elevam a mitigação de ruído do nível do nó para o nível da comunidade.

2. Metodologia: CG-GNN

Os autores propõem o CG-GNN, um framework que integra o refinamento de rótulos guiado por comunidade com o aprendizado contrastivo progressivo. A arquitetura consiste em três componentes principais:

A. Aumento de Grafo e Otimização de Caminho de Propagação

Para abordar a esparsidade de rótulos e a propagação de ruído, o framework primeiro melhora a estrutura do grafo e otimiza os caminhos de propagação:

• Aumento de Grafo (Graph Augmentation): Nós não rotulados são conectados a nós rotulados com base na similaridade de características (similaridade de cosseno das embeddings GCN), criando uma matriz de adjacência aumentada $\hat{A}$ através de uma perda de reconstrução de arestas que otimiza esses pesos de associação latente.
• Detecção de Ruído: Uma estratégia de duplo codificador identifica nós ruidosos usando dois mecanismos:
  1. Baseado em Perda (Loss-based): Seleciona nós com pequenas perdas de treinamento (assumindo que rótulos limpos são aprendidos primeiro).
  2. Baseado em Homofilia (Homophily-based): Utiliza um mecanismo de votação de vizinhança para detectar nós cujos rótulos contradizem o consenso de seus vizinhos.
     Os nós são particionados em subconjuntos limpos ($V_c$) e ruidosos ($V_n$) com base na interseção desses dois critérios.
• Poda de Arestas (Edge Pruning): Para suprimir a propagação de ruído, as arestas conectadas aos nós identificados como ruidosos são dinamicamente podadas. Essa decisão baseia-se em uma pontuação de risco de ruído que combina incerteza preditiva e inconsistência estrutural.

B. Correção de Ruído Consciente da Comunidade

Em vez de corrigir rótulos nó a nó, o CG-GNN trata as comunidades (detectadas via algoritmo Louvain) como a unidade fundamental para o refinamento.

• Estratégia Guiada por Entropia: O framework calcula a entropia de informação da distribuição de rótulos dentro de cada comunidade.
  • Baixa Entropia (Alta Pureza): Comunidades com rótulos consistentes recebem um limiar de correção mais alto para preservar informações confiáveis.
  • Alta Entropia (Baixa Pureza): Comunidades com rótulos heterogêneos recebem um limiar mais baixo para facilitar a formação de representações semânticas consistentes.
• Correção Adaptativa:
  • Para comunidades grandes ($N_{cm} \ge N_{min}$), aplica-se uma correção baseada na comunidade: nós ruidosos são renomeados para o rótulo de consenso majoritário da comunidade se sua similaridade de representação com os nós de consenso exceder o limiar adaptativo.
  • Para comunidades pequenas, utiliza-se uma correção baseada na vizinhança para evitar instabilidade devido à insuficiência de dados.

C. Aprendizado Contrastivo em Estágios

Para aproveitar a semântica dos rótulos sem ser corrompido pelo ruído, é empregado um esquema de aprendizado contrastivo em dois estágios:

1. Estágio Não Supervisionado (Warm-up): Nos épocas iniciais de treinamento, o modelo realiza o aprendizado contrastivo não supervisionado. Ele alinha as representações do mesmo nó através de duas visões (geradas por encoders independentes) sem usar rótulos. Isso permite que o modelo aprenda estruturas topológicas robustas antes da exposição a uma supervisão potencialmente ruidosa.
2. Estágio Supervisionado: Após o warm-up, o modelo transita para o aprendizado contrastivo semântico supervisionado. Ele utiliza os rótulos refinados de alta confiança (do módulo de correção de comunidade) para construir pares positivos (mesma classe) e pares negativos (classes diferentes), aumentando a compacidade intra-classe e a separabilidade inter-classe.

D. Objetivo Total

O modelo é treinado usando uma função de perda multitarefa:
$$L_{total} = \alpha \cdot L_{rec} + L_{pred} + \lambda \cdot L_{contrast}$$
Onde $L_{pred}$ é uma perda de predição ponderada que atribui pesos menores a nós ruidosos, $L_{rec}$ é a perda de reconstrução de arestas, e $L_{contrast}$ combina perdas contrastivas não supervisionadas e supervisionadas.

3. Principais Contribuições

1. Governança de Ruído em Nível de Comunidade: O artigo introduz um método que eleva o tratamento de ruído de rótulos do nível do nó para o nível da comunidade. Ao aproveitar a consistência estrutural global, realiza uma correção de ruído diferenciada baseada na entropia e no tamanho da comunidade.
2. Aprendizado Contrastivo Progressivo: Um framework de aprendizado em estágios é projetado para transitar do aprendizado estrutural não supervisionado para o aprendizado semântico supervisionado. Isso mitiga a interrupção causada por rótulos ruidosos durante os estágios críticos de otimização inicial.
3. Supressão de Ruído Estrutural: Um mecanismo de poda de arestas é introduzido para suprimir ativamente os caminhos de propagação de ruído no nível estrutural, limitando a disseminação de informações errôneas.
4. Validação Empírica: Experimentos extensos demonstram que o framework supera consistentemente os métodos de estado da arte sob várias configurações de ruído.

4. Resultados Experimentais

Os autores avaliaram o CG-GNN em quatro conjuntos de dados de referência: Cora, Citeseer, PubMed e Amazon Photo.

• Configurações de Ruído: Os experimentos foram conduzidos sob Ruído Uniforme (inversão aleatória de rótulos) e Ruído de Par (Pair Noise) (inversão para classes semanticamente similares) com taxas de ruído de até 40%.
• Baselines: O método foi comparado contra um GCN padrão e nove baselines robustos, incluindo Co-teaching, GRACE, NRGNN, RTGNN, ERASE e GTA.
• Desempenho:
  • O CG-GNN alcançou a melhor ou segunda melhor acurácia de classificação em todos os conjuntos de dados e configurações de ruído.
  • Demonstrou estabilidade superior, particularmente em cenários de altas taxas de ruído e dados rotulados limitados (ex: taxa de rótulo de 1% em PubMed e Photo).
  • Estudos de Ablação confirmaram que remover qualquer componente (Aumento de Grafo/Poda, Correção de Ruído ou Aprendizado Contrastivo) resultou em degradação significativa do desempenho.
  • Visualização (t-SNE) mostrou que o CG-GNN produz embeddings de nós com estruturas de agrupamento mais claras e fronteiras de classe mais nítidas em comparação aos baselines, indicando uma melhor preservação da estrutura semântica apesar do ruído.

5. Significância e Alegações

O artigo afirma que o CG-GNN aborda a lacuna crítica nos métodos de GNN robustos existentes ao incorporar informação estrutural global (via comunidades) em vez de depender apenas da homofilia local. A significância reside em sua capacidade de:

• Mitigar a Propagação de Ruído: Ao podar arestas e refinar rótulos no nível da comunidade, o framework interrompe efetivamente a contaminação de todo o grafo pela supervisão errônea.
• Estabilizar o Treinamento: A estratégia de aprendizado contrastivo progressivo garante que o modelo aprenda características topológicas robustas antes de tentar ajustar rótulos semânticos, evitando o overfitting precoce ao ruído.
• Generalizar: O framework exibe forte robustez através de diversos escalonamentos de grafos e tipos de ruído, tornando-o adequado para aplicações do mundo real onde anotações de alta qualidade são escassas e ruidosas.

Os autores concluem que, embora o método seja eficaz, trabalhos futuros explorarão a extensão do framework para lidar com cenários onde ocorrem simultaneamente ruído de rótulo e ruído estrutural.