Incorporating Expert Knowledge into Bayesian Causal Discovery of Mixtures of Directed Acyclic Graphs

1. Declaração do Problema

A descoberta causal visa inferir relações causais (Grafos Acíclicos Direcionados ou DAGs) a partir de dados observacionais. Embora os métodos bayesianos sejam poderosos para lidar com incerteza e incorporar conhecimento prévio, as abordagens existentes enfrentam duas limitações críticas:

1. Suposição de Gráfico Único: A maioria dos métodos assume que um único grafo causal subjacente explica todos os dados. Isso falha em domínios heterogêneos (por exemplo, biologia, medicina), onde os dados surgem de múltiplas subpopulações distintas com mecanismos causais diferentes (misturas de DAGs).
2. Falta de Integração de Especialistas: Embora especialistas de domínio possuam conhecimento valioso, as estratégias de elicitação atuais são projetadas para gráficos únicos e não lidam efetivamente com misturas. Além disso, os priors existentes frequentemente dependem de restrições "rígidas" (forçando a existência ou não existência de arestas) em vez de restrições probabilísticas "flexíveis", o que limita a flexibilidade.

O artigo aborda o desafio de aprender misturas de Redes Bayesianas Causais (CBNs) enquanto integra eficientemente conhecimento especializado através de uma estratégia de consulta fundamentada.

2. Metodologia

Os autores propõem um quadro unificado que combina Aprendizado de Estrutura de Mistura Variacional (VaMSL) com Design Experimental Bayesiano (BED) para elicitação de especialistas.

A. Aprendizado de Estrutura de Mistura Variacional (VaMSL)

O motor de inferência central estende o método Aprendizado de Estrutura Bayesiana Diferenciável (DiBS) para lidar com misturas.

• Embarcações de Grafo Latente: Em vez de buscar diretamente no espaço discreto de DAGs, o método usa um espaço latente contínuo $Z = [U, V]$ para representar estruturas de grafos. Um grafo suave (matriz de probabilidades de arestas) é derivado de $Z$ usando uma função logística.
• Modelo de Mistura: Os dados são modelados como uma mistura de $K$ componentes, onde cada componente $k$ possui seu próprio grafo $G_k$, parâmetros $\Theta_k$ e peso de mistura $\pi_k$.
• Inferência Variacional: O posterior é aproximado usando Descida de Gradiente Variacional de Stein (SVGD) para as embarcações latentes e parâmetros, e Inferência Variacional de Ascensão de Coordenada (CAVI) para os pesos de mistura e atribuições de clusters. Isso permite otimização baseada em gradiente no espaço de grafos.
• Diferenciabilidade: Ao relaxar o espaço de grafos discreto para um contínuo e usar um regularizador de ciclicidade (penalizando ciclos), o método permite descida de gradiente eficiente para encontrar DAGs.

B. Elicitação de Especialistas via Design Experimental Bayesiano (BED)

Para incorporar conhecimento especializado sem consultar todas as arestas possíveis (o que é inviável), os autores propõem uma estratégia de aprendizado ativo:

• Seleção de Consulta: O sistema seleciona as arestas mais "informativas" para consultar usando Ganho de Informação Esperado (EIG). O EIG mede o quanto uma resposta potencial de especialista reduziria a incerteza na distribuição posterior dos grafos.
• Simulador de Especialista: Um simulador modela a resposta do especialista com base no posterior atual do grafo latente $p(Z|D)$. A crença do especialista é modelada como uma distribuição Beta, onde o modo corresponde à probabilidade da aresta consultada.
• Priori de Grafo Informativo:
  • Restrições Rígidas: Arestas explicitamente proibidas ou exigidas pelo especialista são mascaradas (0/1) no espaço latente.
  • Restrições Flexíveis: Para crenças probabilísticas, os autores utilizam o dispositivo de "Observações Imaginárias". Eles mapeiam a resposta de probabilidade do especialista para um conjunto hipotético de ensaios (sucessos/fracassos) que levariam a essa crença. Isso cria um termo de verossimilhança que viésa as embarcações de grafo latente em direção às crenças do especialista sem fixá-las rigidamente.

C. O Loop Iterativo

O método opera em um loop iterativo:

1. Inferir a mistura atual de CBNs.
2. Usar BED para selecionar as $M$ principais arestas que maximizam o EIG.
3. Consultar o especialista sobre as crenças nessas arestas.
4. Atualizar o posterior variacional usando o novo prior informativo derivado das respostas do especialista.
5. Repetir até que o orçamento de consultas seja esgotado.

3. Contribuições Principais

1. Novo Priori de Grafo Informativo: Um método para incorporar restrições de especialistas rígidas e flexíveis no espaço de grafo latente de um modelo de mistura, usando o conceito de observações imaginárias para traduzir crenças probabilísticas em uma função de verossimilhança.
2. Estratégia de Elicitação Baseada em BED: Uma abordagem fundamentada para selecionar consultas ótimas que maximizam o ganho de informação, reduzindo significativamente o número de consultas necessárias em comparação com consultas aleatórias ou exaustivas.
3. Algoritmo VaMSL: O primeiro método a realizar inferência bayesiana conjunta em misturas de CBNs lineares e não lineares enquanto incorpora conhecimento especializado. Estende o DiBS para lidar com estruturas de dados heterogêneas.
4. Lidando com Heterogeneidade: Demonstra que modelar dados como uma mistura de DAGs produz melhor aprendizado de estrutura e clustering do que assumir um único grafo, especialmente quando o conhecimento especializado é usado para orientar a separação de subpopulações.

4. Resultados Experimentais

Os autores avaliaram seu método em dados sintéticos e em um conjunto de dados real de câncer de mama.

• Dados Sintéticos (Linear e Não Linear):

  • Aprendizado de Estrutura: O VaMSL com informação de especialista superou significativamente as linhas de base (DiBS padrão, Modelos de Mistura Gaussiana, Causal k-means) em termos de Distância de Hamming Estrutural Esperada (ESHD).
  • Clustering: O método alcançou alta precisão de classificação na atribuição de pontos de dados à subpopulação causal correta, igualando o desempenho de um "oráculo" que conhecia os rótulos verdadeiros.
  • Eficiência de Consulta: A estratégia BED superou a consulta aleatória, alcançando melhores resultados com menos interações com especialistas.
  • Robustez: O método permaneceu eficaz mesmo quando o especialista foi simulado com confiabilidade imperfeita (por exemplo, 90% de precisão).

• Aplicação do Mundo Real (Conjunto de Dados de Câncer de Mama):

  • Aplicado ao conjunto de dados de diagnóstico de câncer de mama de Wisconsin da UCI.
  • O método identificou com sucesso estruturas causais distintas associadas a diferentes classes de tumores (malignas vs. benignas) de maneira não supervisionada.
  • VaMSL + Especialista alcançou a maior precisão de classificação e a menor ESHD em comparação com outros métodos, demonstrando a utilidade prática de incorporar conhecimento de domínio em dados médicos complexos e heterogêneos.

5. Significado e Impacto

• Ponte entre Lacunas: Este trabalho preenche a lacuna entre cenários de baixos dados/alta expertise e a descoberta causal moderna. Fornece um mecanismo formal para alavancar a intuição humana em configurações complexas e heterogêneas onde os dados sozinhos são insuficientes.
• Escalabilidade para Heterogeneidade: Ao ir além da suposição de gráfico único, o método aborda uma limitação majoritária na modelagem causal do mundo real, onde as populações raramente são homogêneas.
• Eficiência: O componente de aprendizado ativo garante que o custo da interação com especialistas seja minimizado, tornando a abordagem viável para especialistas de domínio caros.
• Flexibilidade: A capacidade de lidar com relações lineares e não lineares, bem como restrições rígidas e flexíveis, torna o quadro amplamente aplicável em várias domínios científicos.

Em resumo, o artigo apresenta um quadro robusto, escalável e com especialista no loop para descobrir estruturas causais em dados heterogêneos, avançando significativamente o estado da arte na descoberta causal bayesiana.