Expert-Aided Causal Discovery of Ancestral Graphs

O artigo apresenta o Ancestral GFlowNet (AGFN), um algoritmo de aprendizado por reforço que realiza inferência distribucional sobre grafos ancestrais e integra conhecimento prévio e feedback incerto de especialistas para refinar a descoberta causal, superando métodos existentes em precisão estrutural.

O essencial

Imagine que você é um detetive tentando desvendar um crime complexo. Você tem duas fontes de informação principais:

1. As provas físicas (os dados): São as pegadas, as impressões digitais e os registros que você encontra no local. Às vezes, essas provas são confusas, incompletas ou até enganosas (como uma pegada que parece ser do suspeito, mas na verdade é de um gatinho que passou por ali).
2. O especialista (o perito): É alguém que entende muito do caso. Ele pode dizer: "Ei, essa pegada não é do gatinho, é do suspeito!" ou "Essa janela foi quebrada de dentro para fora".

O problema é que, às vezes, o especialista não é 100% perfeito. Ele pode errar, ou pode ter dúvidas. E, pior ainda, às vezes o especialista e as provas físicas parecem discordar.

Aqui entra o AGFN (Ancestral GFlowNet), a "estrela" deste artigo. Vamos explicar como ele funciona usando uma analogia de construir uma cidade.

O Grande Desafio: O Labirinto de Cidades

O objetivo da descoberta causal é descobrir como as coisas estão conectadas. Quem causa o quê?

• Exemplo: Chuva causa umidade na rua? Ou a rua molhada causa a chuva? (Claro que não, mas em dados reais é difícil saber).

Imagine que você precisa desenhar um mapa de uma cidade onde as ruas são as conexões entre as pessoas (variáveis).

• O problema dos "Fantasmas": Às vezes, duas pessoas parecem andar juntas não porque uma puxa a outra, mas porque ambas estão seguindo um "fantasma" invisível (um fator oculto que ninguém viu). Na ciência, chamamos isso de confundimento latente.
• O Labirinto: Com apenas 6 pessoas, existem milhões de maneiras diferentes de desenhar essa cidade. Com 25 pessoas, o número de cidades possíveis é tão grande que nem o universo inteiro daria tempo de desenhá-las todas. É um labirinto gigantesco.

A Solução: O Arquiteto Generativo (AGFN)

Os métodos antigos tentavam adivinhar a cidade certa olhando apenas para as provas (os dados). Eles faziam uma única tentativa e diziam: "Esta é a cidade!". Mas, se as provas estivessem confusas, eles erravam feio.

O AGFN é diferente. Ele é como um arquiteto generativo que não desenha apenas uma cidade, mas aprende a gerar uma coleção de cidades possíveis.

1. A "Fábrica de Cidades": O AGFN é treinado para criar milhares de mapas de cidades. Ele aprende quais mapas fazem mais sentido com as provas físicas (os dados).
2. Diversidade: Em vez de apostar em um único mapa, ele mantém uma "lista de suspeitos" (uma distribuição de probabilidade). Ele sabe que, talvez, a cidade A seja a correta, mas a cidade B também é possível.

A Magia: O Especialista no Loop (EITL)

Aqui está a parte mais inovadora. O que acontece quando o AGFN ainda está confuso?

O método permite que você consulte um especialista (um humano ou até uma Inteligência Artificial como o GPT-4) durante o processo.

• A Pergunta Certa: O AGFN é inteligente o suficiente para saber onde perguntar. Ele não pergunta "qual é a cidade inteira?". Ele pergunta: "Especialista, entre a pessoa A e a pessoa B, quem puxa quem? Ou elas apenas andam juntas por causa de um fantasma?".
• A Resposta Imperfeita: O especialista pode errar. Ele pode dizer "A puxa B" quando na verdade é "B puxa A". Mas, o AGFN foi projetado para lidar com isso. Ele entende que a resposta do especialista é uma "dica" com um pouco de ruído, não uma verdade absoluta.
• O Refinamento: A cada resposta, o AGFN ajusta sua "lista de suspeitos". Ele descarta as cidades que contradizem a dica do especialista e aumenta a chance das cidades que concordam.

A Metáfora do "Sintonizador de Rádio"

Pense no AGFN como um rádio antigo que está sintonizado em várias estações ao mesmo tempo, mas com volumes diferentes.

• No começo, o volume de todas as estações (cidades possíveis) é baixo e confuso.
• Quando você pergunta ao especialista, é como se você girasse o botão de sintonia. O AGFN aumenta o volume das estações que batem com a resposta do especialista e diminui o volume das que não batem.
• Mesmo que o especialista dê uma resposta meio "chiada" (errada), o AGFN sabe como filtrar o chiado e focar na estação certa.

Por que isso é revolucionário?

1. Lida com o Invisível: Ele consegue descobrir conexões mesmo quando há "fantasmas" (fatores ocultos) misturando as coisas.
2. Não exige perfeição: Você não precisa de um especialista infalível. Se o especialista estiver certo mais vezes do que errar (mesmo que seja apenas 80% de acerto), o AGFN consegue encontrar a verdade.
3. Economiza tempo: Em vez de perguntar 1000 coisas ao especialista, o AGFN sabe exatamente quais 3 ou 4 perguntas são as mais importantes para resolver o mistério.
4. Combina o melhor dos dois mundos: Ele une a força dos dados (provas físicas) com a sabedoria humana (o especialista), criando um sistema que é mais forte do que qualquer um dos dois sozinho.

Resumo Final

O AGFN é um novo método de inteligência artificial que ajuda cientistas a entenderem "o que causa o quê" em situações complexas e confusas. Ele funciona como um detetive que constrói várias teorias ao mesmo tempo e, em vez de ficar perdido, ele faz perguntas estratégicas a um especialista para refinar suas teorias, mesmo que o especialista cometa pequenos erros. É uma ferramenta poderosa para transformar dados confusos e opiniões humanas em conhecimento claro e confiável.

Resumo técnico

Aqui está um resumo técnico detalhado do artigo "Expert-Aided Causal Discovery of Ancestral Graphs", estruturado conforme solicitado:

1. O Problema

A descoberta causal (CD) é fundamental para entender relações de causa e efeito em dados observacionais. No entanto, os métodos atuais enfrentam desafios significativos:

• Incerteza e Erros Estatísticos: Algoritmos tradicionais frequentemente produzem estimativas pontuais (um único grafo) que podem ser inconsistentes com o conhecimento de domínio ou falhar devido à falta de poder estatístico (violação da suposição de fidelidade).
• Confounders Latentes: A maioria dos métodos assume "suficiência causal" (sem variáveis ocultas). Quando existem confounders latentes (variáveis não observadas que afetam múltiplas variáveis), o espaço de modelos possíveis expande-se drasticamente. Nesse cenário, os grafos devem ser representados por Grafos Ancestrais (AGs), que são significativamente mais numerosos e complexos do que Grafos Acíclicos Direcionados (DAGs).
• Limitações do Conhecimento de Especialistas: Métodos existentes que incorporam conhecimento de especialistas geralmente exigem restrições determinísticas e perfeitas antes da execução (ex-ante). Eles não lidam bem com feedback ex-post (após a execução), que pode ser ruidoso, incerto ou proveniente de múltiplos especialistas com opiniões conflitantes.
• Custo de Consulta: Consultar especialistas (humanos ou LLMs) é caro. É necessário um método que maximize a utilidade de cada consulta (ativação eficiente).

2. Metodologia: Ancestral GFlowNet (AGFN)

Os autores propõem o AGFN, o primeiro algoritmo de CD probabilístico que opera sobre o espaço de Grafos Ancestrais (AGs) e integra conhecimento de especialistas de forma iterativa.

A. Amortized Sampling via GFlowNets

O núcleo do método é um GFlowNet (Rede de Fluxo Gerativo), uma técnica de Aprendizado por Reforço (RL) que busca amostrar objetos (neste caso, grafos) de forma proporcional a uma função de recompensa (ajuste aos dados).

• Processo Generativo: O algoritmo constrói um grafo passo a passo, começando de um grafo inicial e adicionando relações entre pares de variáveis (sem aresta, seta, seta reversa ou aresta bidirecional).
• Garantia de Ancestralidade: Um componente crucial é o uso de uma máscara dinâmica (computada incrementalmente via um algoritmo eficiente baseado em caminhos direcionados e quase direcionados) que impede a seleção de ações que resultariam em grafos não ancestrais (ciclos direcionados ou quase direcionados). Isso garante que o espaço de amostragem seja restrito estritamente a AGs válidos.
• Diversidade: Diferente de métodos que buscam apenas o "melhor" grafo, o GFlowNet aprende uma distribuição sobre o espaço de AGs, permitindo inferência distribucional.

B. Integração de Conhecimento de Especialistas (EITL - Expert-in-the-Loop)

O AGFN utiliza um pipeline de refinamento iterativo que lida com feedback ruidoso:

1. Modelo Bayesiano do Especialista: O feedback de um especialista sobre a relação entre duas variáveis é modelado como uma realização ruidosa da verdade. O modelo assume que o especialista tem uma probabilidade de acerto ($\pi$) maior que o acaso (melhor que aleatório).
2. Atualização de Crença (Log-Pooling): Após receber o feedback, a distribuição posterior sobre a relação entre as variáveis é combinada com a política do GFlowNet (baseada nos dados) usando log-pooling. Isso permite que o modelo ajuste a probabilidade de certos grafos sem descartar completamente a informação dos dados.
3. Elicitação Ativa de Conhecimento: Para minimizar o custo de consultas, o algoritmo seleciona ativamente qual par de variáveis perguntar ao especialista. A estratégia escolhida é a minimização da entropia esperada da distribuição posterior, ou seja, pergunta-se sobre a relação onde a incerteza do modelo é maior, maximizando o ganho de informação por consulta.

3. Principais Contribuições

1. Primeiro Método Probabilístico para AGs: Introdução do AGFN, capaz de realizar inferência distribucional sobre o espaço de Grafos Ancestrais, lidando nativamente com confounders latentes.
2. Pipeline EITL Robusto: Desenvolvimento de um framework que suporta tanto restrições estruturais ex-ante (como esparsidade ou partições) quanto feedback ex-post ruidoso de múltiplos especialistas (humanos ou LLMs).
3. Prova de Consistência: Demonstração teórica de que, sob a condição de que o especialista forneça feedback "melhor que aleatório", a distribuição aprendida pelo AGFN converge quase certamente para o verdadeiro Grafo Ancestral à medida que o número de feedbacks aumenta.
4. Eficiência Computacional: Proposta de um algoritmo incremental para atualizar máscaras de validade, permitindo a amostragem eficiente de AGs sem violar as restrições de ancestralidade.

4. Resultados Experimentais

Os autores validaram o AGFN em dados sintéticos e reais:

• Ajuste à Distribuição Alvo: O AGFN demonstrou capacidade de amostrar AGs que correspondem com alta precisão a uma distribuição alvo definida por critérios de ajuste (como BIC modificado), superando a dificuldade de explorar o vasto espaço de AGs.
• Desempenho vs. Baselines: Em comparação com métodos de estado da arte (FCI, GFCI, ACI, DCD, N-ADMG), o AGFN (especialmente com refinamento de especialista) obteve:
  • Menor Distância Hamming Estrutural (SHD) em relação ao grafo verdadeiro.
  • Melhores pontuações de Critério de Informação Bayesiano (BIC).
• Eficiência de Consultas: O método alcançou alta precisão estrutural com um número muito baixo de respostas de especialistas (menos de 4 consultas em muitos casos), superando significativamente os métodos que não utilizam feedback humano ou usam feedback passivo.
• Uso de LLMs: O framework foi testado com um LLM (GPT-4o) atuando como especialista no conjunto de dados Sachs, demonstrando eficácia mesmo com a incerteza inerente às respostas de modelos de linguagem.

5. Significado e Impacto

Este trabalho representa um avanço significativo na interseção entre aprendizado de máquina probabilístico e descoberta causal:

• Humanos no Loop: Oferece uma solução prática para integrar conhecimento de domínio incerto e custoso em algoritmos de CD, tornando o processo mais robusto contra erros estatísticos e viés de dados.
• Escalabilidade com Latência: Ao focar em AGs e não apenas DAGs, o método abre caminho para a descoberta causal em cenários do mundo real onde variáveis ocultas são a regra, não a exceção.
• Eficiência de Dados: A abordagem de "Elicitação Ativa" reduz drasticamente a necessidade de grandes volumes de dados ou consultas excessivas a especialistas, tornando a CD viável em domínios de alto custo (como medicina ou ciências sociais).
• Fundação para Futuras Pesquisas: O trabalho estabelece uma base para o desenvolvimento de modelos fundacionais para inferência causal e explora a viabilidade de usar LLMs como especialistas simulados, abordando questões críticas sobre viés e confiabilidade.

Em resumo, o AGFN propõe uma mudança de paradigma: em vez de buscar um único grafo "correto" baseado apenas em dados, ele constrói uma distribuição de grafos plausíveis e a refina iterativamente com inteligência humana, garantindo consistência teórica e superioridade prática.