Resumo Técnico: Transferência de Tarefas Cruzadas no Mesmo Grafo em GNNs: Protocolos e Preditores

1. Definição do Problema

Aplicações de grafos no mundo real frequentemente envolvem múltiplas tarefas preditivas operando sobre a mesma estrutura subjacente, especificamente Classificação de Nós (NC) e Predição de Links (LP). Embora essas tarefas coexistam frequentemente em um único conjunto de dados (por exemplo, redes sociais que exigem tanto a classificação de usuários quanto a recomendação de amigos), as pesquisas existentes costumam avaliá-las isoladamente.

O artigo identifica uma lacuna crítica: a transferência de tarefas cruzadas no mesmo grafo é mal compreendida porque os protocolos de avaliação padrão são incompatíveis. Os pipelines existentes frequentemente utilizam:

• Diferentes divisões de dados para NC e LP.
• Diferentes grafos observados para a passagem de mensagens (potencialmente vazando arestas de avaliação para o treinamento).
• Diferentes regras de amostragem negativa para LP.

Essas inconsistências criam "artefatos de protocolo" que podem mascarar os verdadeiros efeitos de transferência ou gerar falsos positivos. Os autores visam formalizar o problema do reaproveitamento de sinais de supervisão entre NC e LP em um único grafo sob um protocolo de avaliação livre de vazamento (leakage-free) e padronizado, para determinar quando e como a transferência é benéfica.

2. Metodologia

2.1 Protocolo de Avaliação Livre de Vazamento

Os autores propõem um protocolo rigoroso para garantir uma comparação justa e evitar o vazamento de informações:

• Divisões Fixas: As divisões de nós (para NC) e de arestas (para positivos de LP) são fixas em todos os métodos e execuções.
• Grafo Observado Compartilhado: Uma única matriz de adjacência $A_{obs}$ é construída usando apenas as arestas de treinamento ($E^+_{tr}$). Crucialmente, as arestas usadas para validação ou teste ($E^+_{va}, E^+_{te}$) são excluídas do grafo de passagem de mensagens. Isso evita que arestas de avaliação vazem para os embeddings dos nós.
• Negativos Fixos: Os conjuntos de arestas negativas para LP são gerados uma única vez com sementes fixas e reutilizados em todos os métodos, garantindo que as diferenças de desempenho reflitam a eficácia da transferência e não variações de amostragem.
• Métricas: O artigo introduz o CoTask Score (CTS), uma métrica normalizada que calcula a média do ganho percentual de um modelo sobre uma referência fixa (um GCN padrão) em ambas a acurácia de NC e o AUC de LP. Isso permite uma avaliação unificada do desempenho multiobjetivo.

2.2 Estratégias de Transferência

O estudo avalia cinco estratégias leves de transferência de tarefas cruzadas através de três arquiteturas de base (GCN, GraphSAGE, GPS):

1. Warm Start (WS): Inicializa o codificador da tarefa alvo com pesos aprendidos da tarefa de origem, enquanto reinicializa a cabeça específica da tarefa.
2. Transferência de Embedding - Substituição (ET-Rep): Congela os embeddings de origem e os utiliza como os únicos atributos de entrada para o codificador da tarefa alvo.
3. Transferência de Embedding - Concatenação (ET-Concat): Concatena os atributos originais dos nós com os embeddings congelados de origem como entrada para o codificador alvo.
4. Multi-View (MV): Treina dois codificadores distintos específicos para cada tarefa simultaneamente com uma perda de alinhamento cross-view explícita (InfoNCE) para incentivar representações compatíveis.
5. Treinamento Conjunto (Joint): Utiliza um único codificador compartilhado otimizado simultaneamente para as perdas de NC e LP com cabeças específicas de cada tarefa.

2.3 Configuração Experimental

Os experimentos foram conduzidos em 11 conjuntos de dados abrangendo três regimes:

• Homofílico: Grafos de citações (CORA, CITESEER, PUBMED) onde as arestas conectam rótulos semelhantes.
• Heterofílico: Grafos onde as arestas conectam rótulos dissimilar (TEXAS, WISCONSIN, ACTOR, etc.).
• Dominante em Estrutura: Grafos onde a LP é altamente aprendível a partir da estrutura, mas a NC possui um "espaço de melhoria" (headroom) significativo (USA, EUROPE, BRAZIL).

3. Principais Descobertas

3.1 Assimetria Direcional

A descoberta mais significativa é que a transferência de tarefas cruzadas é fortemente direcional e assimétrica:

• NC $\to$ LP: Esta direção é consistentemente benéfica em grafos homofílicos. Quando nós com o mesmo rótulo estão conectados, a supervisão de NC molda os embeddings que inerentemente codificam o viés indutivo necessário para a pontuação de arestas.
• LP $\to$ NC: Esta direção é frágil. Em grafos homofílicos, o reaproveitamento ingênuo de representações de LP frequentemente degrada a acurácia de NC (transferência negativa). No entanto, a direção LP $\to$ NC torna-se confiavelmente positiva em regimes dominantes em estrutura (ex: USA, EUROPE, BRAZIL). Nesses casos, a LP atua como pré-treinamento estrutural, melhorando a acurácia de NC mesmo quando a homofilia é baixa, desde que a tarefa de NC não esteja saturada.

3.2 Preditores de Sucesso

O artigo demonstra que estatísticas simples do conjunto de dados podem prever os resultados da transferência:

• Homofilia ($H_e, H_n$): Prediz fortemente os ganhos para NC $\to$ LP. Uma maior homofilia correlaciona-se com um melhor desempenho de transferência.
• Dominância de Estrutura: Prediz ganhos para LP $\to$ NC. Este regime é caracterizado por uma alta capacidade de aprendizado de LP basal e baixa acurácia de NC basal.
• Escolha do Mecanismo:
  • Joint e Multi-View (MV) são geralmente as estratégias mais estáveis e robustas, evitando a alta variância observada nos métodos de transferência de embedding.
  • Transferência de Embedding (ET-Rep) exibe a maior variância, frequentemente levando a uma severa transferência negativa, particularmente na direção LP $\to$ NC.

3.3 Análise do CoTask Score (CTS)

A análise do CTS confirma que, embora a transferência possa melhorar uma tarefa, ela pode prejudicar a outra. A "melhor" estratégia depende do regime:

• Em grafos homofílicos, o treinamento acoplado (MV, Joint) produz a maior utilidade combinada.
• Em grafos heterofílicos, o treinamento acoplado continua sendo a escolha mais segura, enquanto o reaproveitamento post-hoc (WS, ET) é pouco confiável.
• Em regimes dominantes em estrutura, mecanismos específicos (como ET-Concat ou Joint) podem gerar ganhos líquidos positivos, mas isso não é automático.

4. Contribuições

1. Formalização do Problema: Definiu o aprendizado de tarefas cruzadas no mesmo grafo entre NC e LP com sinais de supervisão coexistentes.
2. Protocolo Livre de Vazamento: Introduziu uma interface de avaliação padronizada que fixa divisões, grafos observados e amostragem negativa para permitir comparações reprodutíveis e justas.
3. Estudo Sistemático: Avaliou cinco estratégias de transferência através de três bases, documentando uma robusta assimetria direcional que persiste entre as arquiteturas.
4. Preditores e Métricas: Introduziu o CoTask Score (CTS) para avaliação multiobjetivo e identificou a homofilia e a dominância de estrutura como diagnósticos interpretáveis para prever o sucesso da transferência.

5. Significância e Alegações

O artigo afirma fornecer um paradigma de avaliação limpo para o aprendizado de transferência no mesmo grafo, indo além dos "artefatos de protocolo" que têm prejudicado estudos anteriores. Sua principal contribuição não é uma nova arquitetura, mas sim orientação acionável para praticantes:

• A transferência não deve ser assumida como simétrica; NC $\to$ LP e LP $\to$ NC possuem drivers distintos.
• Homofilia é um preditor confiável para ganhos de NC $\to$ LP.
• Dominância de estrutura (alta capacidade de aprendizado de LP, baixa saturação de NC) é o regime chave para ganhos de LP $\to$ NC.
• Treinamento acoplado (Joint/MV) é geralmente mais seguro e estável do que o reaproveitamento ingênuo de representação (Warm Start/Embedding Transfer), especialmente em regimes heterofílicos ou mistos.

Os autores enfatem que essas descobertas permitem que os praticantes decidam quando e qual direção de reaproveitamento vale a pena tentar, e quando um regime acoplado oferece uma solução de modelo único superior para ambas as tarefas, reduzindo assim os custos de treinamento e de serviço sem depender de ganhos enganosos provenientes de inconsistências de protocolo.