🤖 machine learning

DuoGNN: Topology-aware Graph Neural Network with Homophily and Heterophily Interaction-Decoupling

O artigo apresenta o DuoGNN, uma arquitetura de Redes Neurais de Grafos escalável e generalizável que desacopla interações homofílicas e heterofílicas por meio de filtragem de arestas topológicas e condensação de grafos para abordar eficazmente as limitações de excesso de suavização (over-smoothing) e excesso de esmagamento (over-squashing) em tarefas de classificação de nós médicas e não médicas.

Autores originais: K. Mancini, I. Rekik

Publicado 2026-08-25

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: K. Mancini, I. Rekik

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No mundo da inteligência artificial, existe uma ferramenta poderosa projetada para compreender relações em vez de apenas fatos isolados. Imagine um mapa onde cada ponto de interesse é um ponto, e cada estrada conectando-os é uma linha. Isso é um grafo, uma forma de organizar dados que espelha como as coisas no mundo real frequentemente se conectam: moléculas se ligando, redes sociais se formando ou órgãos comunicando-se dentro do corpo. Para dar sentido a esses mapas, cientistas usam um tipo de programa de computador chamado Rede Neural de Grafos (Graph Neural Network). Esses programas funcionam permitindo que cada ponto observe seus vizinhos imediatos, coletando informações e, em seguida, passando esse conhecimento para a próxima camada de pontos. É um processo de conversa local que, em teoria, permite ao computador compreender o quadro geral ao ouvir as partes.

No entanto, este método de ouvir apenas os vizinhos imediatos possui uma falha oculta. Quando o computador tenta ouvir profundamente demais, camada por camada, a identidade única de cada ponto começa a se borrar. Se um ponto pertence a um grupo específico, suas características distintas podem ser diluídas à medida que ele absorve muita informação de seu entorno, fazendo com que pareça exatamente com seus vizinhos, mesmo que sejam diferentes. Isso é conhecido como sobre-suavização (over-smoothing). Ao mesmo tempo, se o mapa possui pontes estreitas ou gargalos onde muitos caminhos devem passar espremidos, a informação é esmagada e perdida antes de poder viajar longe. Isso é chamado de sobre-esmagamento (over-squashing). Esses dois problemas impedem o computador de ver conexões que abrangem todo o mapa, limitando sua capacidade de diagnosticar doenças complexas ou compreender padrões de grande escala.

Para resolver isso, os pesquisadores Kevin Mancini e Islem Rekik, do Imperial College London, desenvolveram uma nova abordagem chamada DuoGNN. Em vez de forçar o computador a tratar cada conexão no mapa da mesma forma, o método deles primeiro classifica as conexões em duas categorias distintas baseadas na natureza dos pontos que elas ligam. Algumas conexões unem pontos semelhantes, como um aglomerado de células de tumor hepático que todas parem e atuam de forma igual. Outras ligam pontos muito diferentes, talvez conectando uma célula tumoral a uma saudável próxima. Os pesquisadores perceberam que tentar processar esses dois tipos de conexões juntos estava causando a confusão e a perda de informação.

A solução deles envolve um processo de três etapas que atua como um controlador de tráfego para a informação. Primeiro, o sistema varre todo o mapa e filtra as conexões que levam aos gargalos estreitos, efetivamente quebrando o mapa em ilhas separadas e bem conectadas de pontos semelhantes. Esta etapa garante que o computador possa ver claramente os padrões locais sem se confundir com ruídos distantes e não relacionados. Segundo, o sistema pega os representantes mais importantes dessas ilhas e constrói um novo mapa, muito menor, que conecta apenas os tipos diferentes de pontos. Este mapa condensado captura as relações de longa distância que foram anteriormente perdidas, mas, por ser muito menor, o computador pode processá-lo rapidamente sem ficar sobrecarregado. Finalmente, o sistema executa duas análises separadas ao mesmo tempo: uma que estuda as ilhas locais de pontos semelhantes e outra que estuda as conexões entre os diferentes tipos de pontos. Ao manter esses dois fluxos de informação separados, o computador evita o borrão das características e o esmagamento dos dados.

Os pesquisadores testaram esta nova arquitetura em vários conjuntos de dados desafiadores, incluindo imagens de tumores hepáticos de exames médicos e uma grande coleção de artigos científicos. Nos testes médicos, as imagens foram convertidas em grafos onde cada ponto representava uma pequena parte de um tumor, e o objetivo era classificar o tipo de tumor. O novo sistema superou consistentemente os modelos existentes, identificando tipos de tumores com maior precisidade e melhor confiabilidade. Por exemplo, em um conjunto de dados envolvendo tumores hepáticos, o novo modelo alcançou uma precisidade de aproximadamente 80 por cento, enquanto o modelo GCN padrão alcançou 77,68 por cento. Em outro conjunto de dados de artigos científicos, também mostrou desempenho superior, categorizando campos de pesquisa corretamente com mais frequência do que métodos anteriores.

Crucialmente, o estudo mostrou que esta abordagem funciona bem independentemente de como os dados estão organizados. Quer o grafo fosse um aglomerado denso de imagens médicas ou uma rede esparsa de citações, o sistema se adaptou ajustando quantas conexões ele filtrava e quantos representantes ele selecionava. Os pesquisadores descobriram que seu método também era mais eficiente para grafos muito grandes do que outras técnicas populares que dependem de atenção global, que frequentemente exigem quantidades massivas de memória e tempo de computador. Embora o novo sistema tenha usado um pouco mais de memória para tarefas menores, ele escalou muito melhor à medida que os dados cresciam, evitando as falhas que ocorriam com outros modelos ao enfrentar os maiores conjuntos de dados médicos.

As descobertas sugerem que, ao respeitar a estrutura natural dos dados e separar interações semelhantes de diferentes, os computadores podem aprender muito mais efetivamente a partir de redes complexas. Os pesquisadores não alegaram ter resolvido todos os problemas no campo, mas demonstraram que um design consciente da topologia — um que presta atenção à forma e ao fluxo das conexões — pode melhorar significativamente como as máquinas entendem o mundo. O trabalho deles oferece um caminho prático para o uso da inteligência artificial em campos como o de imagem médica, onde capturar tanto detalhes locais quanto relações distantes é essencial para um diagnóstico preciso. O código para o sistema deles está agora disponível para que outros possam testar e construir sobre ele, abrindo a porta para ferramentas mais robustas e escaláveis no futuro.

Resumo Técnico de DuoGNN

Problema
As Redes Neurais de Grafos (GNNs) demonstraram eficácia em diversos domios, incluindo imagens médicas, ao aproveitar a agregação de vizinhança local para capturar interações espaciais de curto alcance. No entanto, este paradigma sofre de duas limitações fundamentais que dificultam a expressividade do modelo e impedem o uso eficaz de arquiteturas profundas:

Over-smoothing (Supersmoothing): Na agregação de nós heterofílicos, os embeddings dos nós tornam-se indistinguíveis à medida que o número de camadas aumenta, fazendo com que as características de nós de classes distintas convirjam.
Over-squashing (Superelevação): Gargalos de grafos inibem a passagem de mensagens, causando o crescimento exponencial do campo receptivo de um nó e forçando uma quantidade substancial de informação a colapsar em vetores de características de tamanho fixo.

Soluções existentes, como mecanismos de atenção baseados em transformers, arquiteturas multiescala e reestruturação topológica de grafos (rewiring), enfrentam desvantagens significativas. Mecanismos de atenção sofrem de complexidade de tempo quadrática ( $O(|V|^2)$ ) e carecem de consciência topológica. Modelos multiescala frequentemente dependem de algoritmos de agrupamento (clustering) que são computacionalmente caros e específicos para a topologia. Algoritmos de reestruturação, embora eficazes para aliviar gargalos, podem perturbar excessivamente as estruturas de grafos ou falhar em resolver problemas em grafos muito grandes ou em forma de cadeia. Consequentemente, há uma falta de uma abordagem escalável e generalizável capaz de capturar simultaneamente interações de curto e longo alcance (LRIs) através de diversas topologias de grafos.

Metodologia: Arquitetura DuoGNN
Os autores propõem a DuoGNN, uma arquitetura consciente da topologia projetada para desacoplar interações homofílicas e heterofílicas para processá-las independentemente. O modelo opera através de um pipeline de três estágios:

Estágio de Desacoplamento de Interação:
- Filtragem Topológica de Arestas: O modelo calcula uma medida topológica (ex: centralidade ou curvatura) sobre as arestas do grafo de entrada. Ele remove as $\kappa$ arestas com o maior valor da métrica (ex: a maior centralidade), pois estas arestas são provavelmente as mais próximas de gargalos de grafos. Isso efetivamente quebra o grafo em componentes conectados homofílicos. Isso produz um grafo homofílico ( $G_{ho}$ ) que preserva interações de curto alcance enquanto mitiga os riscos de over-smoothing.
- Condensação de Grafo Heterofílico: Para recuperar as interações de longo alcance perdidas durante a filtragem de arestas, o modelo identifica os $\mu$ clusters mais povoados em $G_{ho}$ . Para cada cluster, seleciona o nó mais conectado (assumido como tendo a representação mais confiável) e constrói um grafo distinto e totalmente conectado ( $G_{he}$ ). Esta condensação garante a escalabilidade ao reduzir drasticamente o número de nós enquanto preserva interações heterofílicas e LRIs.
Estágio de Transformação Paralela:
- O modelo processa $G_{ho}$ e $G_{he}$ através de módulos GNN independentes.
- Módulo Homofílico: Utiliza agregação padrão ( $X^{(i+1)}_{ho} = \phi_{ho}(\hat{A}_{ho}X^{(i)}_{ho}W^{(i)}_{ho})$ ) para agregar embeddings de nós dentro da mesma classe.
- Módulo Heterofílico: Emprega uma estratégia de agregação modificada para evitar o over-smoothing. Ele evita agregar características na primeira camada para preservar as características originais e concatena as saídas de todas as camadas em uma camada linear. Isso permite que o modelo aprenda distinções entre vizinhos dissimilar em múltiplos níveis de suavidade.
Estágio de Predição:
- As saídas de ambos os módulos são concatenadas e passadas por uma camada linear final para gerar as representações finais dos nós para classificação.

Principais Contribuições
O artigo descreve três contribuições principais:

Algoritmo de Filtragem de Arestas Topológicas: Um algoritmo que extrai interações homofílicas removendo arestas de gargalo, permitindo que o modelo se generalize para qualquer topologia de grafo.
Condensação de Grafo Heterofílico: Uma técnica que extrai interações heterofílicas ao condensar clusters em um grafo menor e totalmente conectado, garantindo escalabilidade.
Pipeline de Dupla Agregação: Um mecanismo que evita o over-smoothing e o over-squashing ao processar interações homofílicas e heterofílicas de forma independente, em vez de depender de um único paradigma de agregação.

Resultados e Avaliação
A DuoGNN foi testada contra baselines padrão (GCN, GIN, GAT) e suas variantes com filtragem topológica em conjuntos de dados médicos e não médicos:

Datasets: MedMNIST (Organ-C e Organ-S, envolvendo classificação de tumor hepático em exames de TC) e Cora (classificação de publicações científicas).
Desempenho: As variantes da DuoGNN superaram consistentemente os baselines em todas as tarefas. A variante aprimorada por curvatura (usando a curvatura de Ricci de Olivier discreta) alcançou o maior desempenho, provavelmente devido à sua capacidade teórica de detectar áreas afetadas por over-smoothing ou over-squashing.
Escalabilidade: Embora a DuoGNN tenha mostrado uma pegada de memória de GPU maior em grafos pequenos devido ao seu paradigma de dupla agregação, demonstrou escalabilidade superior em grafos grandes em comparação com modelos baseados em atenção (como o GAT), que falharam ao rodar (OOM - Out Of Memory) nos datasets MedMNIST. A condensação heterofílica reduziu a carga computacional de analisar LRIs.
Ablação: Técnicas simples de pré-processamento (filtragem aplicada aos baselines) mostraram apenas melhorias marginais, sugerindo que a arquitetura completa é necessária para capturar efetivamente LRIs.

Significância e Alegações
Os autores alegam que a DuoGNN oferece uma solução escalável e generalizável para os desafios de longa data de over-smoothing e over-squashing em GNNs. Ao alavancar propriedades topológicas para desacoplar tipos de interação, o modelo expande a aplicabilidade das GNNs em imagens médicas e outros campos que envolvem grandes conjuntos de dados com dependências complexas de longo alcance. O artigo enfatiza que, ao contrário de métodos anteriores que ou falham em se generalizar através de topologias ou incorrem em custos computacionais proibitivos, a DuoGNN fornece um protocolo de agregação refinado que se adapta à densidade e estrutura do grafo sem exigir redes profundas que inevitavelmente levam à degradação do desempenho.

Mais como este