🤖 machine learning

Joint Causal Structure and Cluster Discovery Using Variational Inference

Este artigo propõe um novo framework de inferência variacional que infere simultaneamente agrupamentos de variáveis latentes e suas estruturas causais, abordando a limitação de métodos existentes que exigem agrupamentos pré-definidos, e demonstra sua eficácia em conjuntos de dados sintéticos e do mundo real.

Autores originais: Avni Rajpal, Anubhav Kumar, Rishabh Karnad, Mohammad Emtiyaz Khan, P. K. Srijith

Publicado 2026-08-25

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Avni Rajpal, Anubhav Kumar, Rishabh Karnad, Mohammad Emtiyaz Khan, P. K. Srijith

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Na vasta paisagem da ciência de dados, os pesquisadores frequentemente buscam os fios ocultos que conectam diferentes pedaços de informação. Imagine uma sala cheia de pessoas conversando; algumas conversas ocorrem entre indivíduos, enquanto outras ocorrem dentro de grupos coesos. Durante décadas, cientistas desenvolveram ferramentas para mapear quem está falando com quem, tratando cada pessoa como uma voz única e independente. Essa abordagem, conhecida como descoberta causal, nos ajuda a entender como uma coisa causa outra, indo além da simples observação para descobrir a verdadeira maquinaria do mundo. No entanto, em muitos sistemas complexos, desde o disparo de neurônios em um cérebro até as mudanças nos padrões climáticos globais, as interações mais importantes não ocorrem entre indivíduos isolados, mas entre grupos inteiros agindo como uma unidade única. Até agora, os cientistas tinham que adivinhar onde esses grupos começavam e terminavam antes de poderem estudar como os grupos influenciavam uns aos outros, uma limitação que frequentemente obscurecia o quadro geral.

Uma equipe de pesquisadores do Instituto Indiano de Tecnologia de Hyderabad e do Centro de Projeto de IA RIKEN em Tóquio desenvolveu um novo método para resolver este quebra-cabeça. Eles criaram um sistema que pode simultaneamente descobrir como agrupar variáveis e mapear as conexões causais entre esses grupos, tudo isso sem ser informado sobre os agrupamentos antecipadamente. Em vez de forçar os dados em caixas pré-definidas, a abordagem deles permite que os dados revelem seus próprios clusters naturais e as linhas invisíveis de influência que correm entre eles. Ao usar uma técnica chamada inferência variacional, que permite ao computador aprender com a incerteza em vez de apenas buscar uma única resposta fixa, os pesquisadores construíram um modelo que trata tanto os agrupamentos quanto as conexões como segredos ocultos esperando para serem descobertos.

Os pesquisadores testaram seu método tanto em dados gerados por computador quanto em conjuntos de dados do mundo real, incluindo informações sobre estruturas de proteínas e padrões climáticos. Nesses testes, eles compararam sua nova abordagem com métodos existentes que assumem que os grupos já são conhecidos ou que dependem de formas mais simples e menos flexíveis de adivinhação. Os resultados mostraram que seu método foi significativamente melhor em reconstruir a verdadeira estrutura subjacente. Por exemplo, ao analisar um conjunto de dados de proteínas, seu modelo identificou corretamente que os dados formavam dois grupos separados e não conectados, sem quaisquer ligações causais entre eles, enquanto métodos mais antigos desenhavam incorretamente conexões onde não existiam. Da mesma forma, nos dados climáticos, a nova abordagem descobriu com sucesso as relações não lineares entre diferentes variáveis meteorológicas que outros métodos perderam, mapeando com precisão tanto os clusters quanto as arestas que os conectam.

O que torna este trabalho particularmente poderoso é sua capacidade de lidar com a incerteza. Em vez de fornecer um mapa único e rígido, o sistema aprende uma distribuição de probabilidade, o que significa que ele pode expressar o quão confiante está sobre cada conexão e cada agrupamento. Isso é crucial para campos de alto risco, como medicina ou ciência climática, onde saber os limites do que sabemos é tão importante quanto os próprios fatos. Os pesquisadores descobriram que seu método funcionava melhor quando permitia dependências complexas dentro dos grupos e entre as arestas, em vez de assumir que tudo era independente. No caso dos dados climáticos, uma versão de seu modelo que contabilizava essas relações complexas alcançou uma precisão quase perfeita, sugerindo que os mecanismos do mundo real que impulsionam os dados são, de fato, não lineares e intrincados.

Este estudo não afirma ter resolvido todos os problemas da descoberta causal, nem afirma funcionar perfeitamente em todos os possíveis conjuntos de dados. Os pesquisadores reconhecem que seu trabalho atual é limitado a tipos específicos de dados e que escalar o método para lidar com conjuntos de dados extremamente grandes e de alta dimensão permanece um desafio para o futuro. No entanto, ao demonstrar que é possível aprender tanto os grupos quanto as estruturas causais ao mesmo tempo, eles abriram um novo caminho para a compreensão de sistemas complexos. O trabalho deles sugere que, ao deixar os dados falarem por si mesmos e ao abraçar a incerteza inerente às observações do mundo real, podemos construir uma imagem mais clara e precisa de como o mundo funciona, um cluster de cada vez.

Resumo Técnico: Descoberta Conjunta de Estrutura Causal e Agrupamento via Inferência Variacional

Declaração do Problema

A descoberta causal foca tradicionalmente na inferência de relações entre variáveis aleatórias individuais, tipicamente representadas por um Grafo Acíclico Dirigido (DAG). No entanto, em domínios complexos como o de imagem cerebral e modelagem climática, as interações frequentemente ocorrem entre grupos de variáveis, em vez de unidades isoladas. Embora métodos existentes para "Cluster DAGs" (C-DAGs) ou "Group DAGs" existam, eles geralmente assumem que o agrupamento das variáveis em clusters é conhecido a priori através do conhecimento de domínio.

Este artigo aborda a lacuna onde tanto os clusters (partições de variáveis) quanto a estrutura causal (o DAG sobre esses clusters) são latentes e devem ser inferidos simultaneamente a partir de dados observacionais. Os autores consideram Modelos Causais Estruturais de Valores Vetoriais (vSCMs), que generalizam os SCMs clássicos para lidar com saídas de valores vetoriais geradas por clusters de variáveis, acomodando tanto cenários de ruído Gaussiano linear quanto de ruído aditivo não linear. Enquanto Niu et al. (2022) propuseram anteriormente uma abordagem baseada em escore para essa estimação conjunta, este trabalho introduz um novo framework de inferência variacional para atingir o mesmo objetivo, oferecendo um tratamento Bayesiano para quantificação de incerteza.

Metodologia

A abordagem proposta utiliza Inferência Variacional (VI) para aprender uma distribuição posterior aproximada sobre as atribuições de clusters latentes ( $C$ ) e a estrutura do grafo de clusters ( $E_C$ ). O núcleo do método envolve a definição de um modelo generativo e a otimização de um Limite Inferior de Evidência (ELBO).

1. Modelo Generativo

Assume-se que os dados $D$ são gerados por um vSCM onde cada cluster $X_{C_i}$ é uma função de seus clusters pais $Pa(X_{C_i})$ e um vetor de ruído $\epsilon_i$ :
$X_{C_i} := f_{C_i}(Pa(X_{C_i}), \epsilon_i)$
A distribuição conjunta fatoriza de acordo com a estrutura do C-DAG. Os autores consideram dois casos específicos:

vSCM Gaussiano Linear: A função $f$ é linear e o ruído é Gaussiano multivariado. A verossimilhança marginal pode ser computada em forma fechada integrando os parâmetros.
Modelo de Ruído Aditivo Não Linear: A função $f$ é modelada como uma rede neural. Aqui, a marginalização sobre os parâmetros é intratável, portanto, utiliza-se a estimação pontual de parâmetros juntamente com a inferência variacional sobre a estrutura.

2. Aproximação Variacional

Como o espaço de possíveis C-DAGs cresce exponencialmente, a inferência Bayesiana exata é inviável. Os autores aproximam a verdadeira posterior $P(C, E_C | D)$ usando uma distribuição variacional $Q_\phi(C, E_C)$ que fatoriza em distribuições sobre clusters e arestas:
$Q_\phi(C, E_C) = Q_T(C) Q_Z(E_C)$

Famílias Variacionais para Clusters ( $C$ ):

Modelo Fatorado: Assume independência entre as atribuições de variáveis, modelada como um produto de distribuições categóricas.
Modelo Autorregressivo Linear: Captura dependências entre atribuições de clusters modelando a posterior como um produto de condicionais, onde os logits para o $m$ -ésimo elemento dependem de atribuições anteriores via um processo autorregressivo linear.

Famílias Variacionais para Grafos ( $E_C$ ):

Modelo Binário Independente: Assume que as arestas são variáveis de Bernoulli independentes.
Modelo Autorregressivo Linear: Modela as arestas como dependentes condicionalmente de arestas anteriores.
Modelo Condicional: Modela explicitamente a dependência das arestas em relação às atribuições globais de clusters ( $C$ ).
Modelo Condicional Autorregressivo: Combina dependências de arestas autorregressivas com dependência nas atribuições de clusters.

3. Otimização

Os parâmetros das distribuições variacionais ( $T$ para clusters e $Z$ para arestas) e os parâmetros do modelo ( $\Theta$ para casos não lineares) são aprendidos maximizando o ELBO.

Estimação de Gradiente: Como $C$ e $E_C$ são discretos, os autores utilizam o estimador de função de escore REINFORCE para aproximar os gradientes. Para mitigar a alta variância, uma média móvel exponencial é usada como baseline.
Treinamento: A otimização é realizada usando métodos baseados em gradiente (ex: Adam, RMSprop) com múltiplos reinícios aleatórios para evitar ótimos locais.

Principais Contribuições

Inferência Latente Conjunta via Inferência Variacional: O artigo propõe um novo framework de inferência variacional capaz de inferir simultaneamente os clusters de variáveis latentes e o DAG causal sobre esses clusters sem conhecimento prévio do agrupamento. Isso complementa as abordagens de escore existentes (ex: Niu et al., 2022) ao fornecer uma posterior Bayesiana completa em vez de estimativas pontuais.
Famílias Variacionais Expressivas: Os autores introduzem e avaliam múltiplas famílias variacionais, destacando especificamente a importância dos modelos autorregressivos e condicionais. Estes permitem que o modelo capture dependências complexas entre atribuições de clusters e entre arestas do grafo, as quais modelos fatorados mais simples perdem.
Extensão para vSCMs Não Lineares: O framework é estendido para lidar com mecanismos causais não lineares usando redes neurais, permitindo a descoberta de clusters e estruturas em processos geradores de dados complexos e não lineares.
Nova Métrica de Avaliação: Os autores introduzem a Distância de Hamming Estrutural de Grafo Expandido Esperado (ExG-SHD). Diferente da SHD padrão, esta métrica contabiliza o erro de aproximação tanto nas atribuições de clusters quanto na estrutura do grafo, expandindo o C-DAG em um DAG completo ao nível de variável antes de computar a distância.

Resultados Experimentais

O método foi avaliado em conjuntos de dados sintéticos e do mundo real, comparando o desempenho contra um baseline de abordagem baseada em escore (Niu et al., 2022) utilizando bootstrapping.

Dados Sintéticos (Lineares): O modelo de cluster autorregressivo superou consistentemente as variantes fatoradas e o baseline. Por exemplo, em um dataset "fork" de 4 variáveis, o modelo autorregressivo alcançou um ExG-SHD de 0.02 e um Índice de Rand Esperado (E-RI) de 0.99, recuperando quase perfeitamente a verdade fundamental (ground truth).
Dados Sintéticos (Não Lineares): Formulações baseadas em redes neurais superaram significativamente o baseline. Diversas variantes alcançaram um ExG-SHD perfeito de 0.00 em datasets de 4 variáveis. Os resultados indicaram que capturar dependências topológicas em arestas (via modelos autorregressivos ou condicionais) era crucial para a precisão estrutural.
Dados do Mundo Real:
- Dataset de Proteína: Os modelos neurais alcançaram ExG-SHD e E-SHD quase perfeitos (0.0), identificando corretamente dois clusters desconectados, enquanto o baseline apresentou um erro muito maior (ExG-SHD = 3.0).
- Dataset Climático: O modelo de aresta condicional neural alcançou um ExG-SHD de 0.04 e um E-RI perfeito de 1.0, sugerindo que os mecanismos causais subjacentes são inerentemente não lineares e que a modelagem condicional proporciona melhorias significativas sobre outros métodos.

Significância e Alegações

O artigo afirma que seu tratamento Bayesiano do aprendizado de distribuições sobre clusters e estruturas oferece vantagens distintas sobre métodos de estimativa pontual:

Quantificação de Incerteza: Ao aprender uma distribuição posterior, o método fornece uma medida de incerteza sobre os C-DAGs inferidos, o que é crítico para aplicações de alto risco.
Intervenções Ativas: O framework probabilístico facilita estratégias de intervenção ativa para entender melhor o modelo causal subjacente.
Lidar com Confundimento Latente: A abordagem aborda cenários onde suposições de ruído independente são violadas pelo agrupamento de variáveis, lidando efetivamente com o confundimento latente entre variáveis exógenas.

Os autores concluem que, embora sua abordagem atual seja eficaz para conjuntos de dados de baixa a moderada dimensionalidade, trabalhos futuros visam escalar o método para dados de alta dimensionalidade. Eles enfatizam que a capacidade de descobrir conjuntamente clusters latentes e estruturas causais sem priors de domínio representa um passo significativo à frente na descoberta causal de sistemas complexos.