🤖 machine learning

GoT-CD: Graph-of-Thoughts Causal Discovery and the Fragility of Post-hoc Path-Specific Fairness Audits

Este artigo introduz o GoT-CD, um framework de Grafo-de-Pensamentos que gera grafos causais estruturalmente competitivos enquanto demonstra que mesmo métodos de descoberta de alta fidelidade podem falhar em recuperar caminhos específicos necessários para auditorias de equidade específicas de caminho pós-hoc precisas, destacando assim a necessidade crítica de avaliar a descoberta causal através da lente dos requisitos de equidade a jusante.

Autores originais: Nitish Nagesh, Elahe Khatibi, Thomas Dean Hughes, Mahdi Bagheri, Pratik Gajane, Amir M. Rahmani

Publicado 2026-08-05

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Nitish Nagesh, Elahe Khatibi, Thomas Dean Hughes, Mahdi Bagheri, Pratik Gajane, Amir M. Rahmani

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um detetive tentando resolver um mistério usando apenas uma foto em preto e branco e borrada de uma cena de crime. Você não consegue ver os suspeitos claramente, mas precisa descobrir quem fez o quê a quem. No mundo da ciência de dados, isso é chamado de descoberta causal. Em vez de realizar um experimento controlado onde você observa cada movimento, os cientistas analisam "dados observacionais" — como um monte de prontuários médicos ou registros de tráfego — e tentam desenhar um mapa mostrando quais fatores causam outros. Por exemplo, comer açúcar demais causa uma dor de cabeça, ou eles apenas acontecem ao mesmo tempo?

Uma vez que você tem esse mapa, pode querer verificar se ele é justo. É aqui que entra a justiça específica de caminho (path-specific fairness). Imagine um algoritmo de contratação que rejeita candidatos. Você quer saber: ele os rejeitou por causa de suas habilidades (um motivo legítimo) ou por causa de seu gênero ou raça (um motivo injusto)? Para responder a isso, você precisa rastrear o "caminho" específico no seu mapa desde a identidade da pessoa até a decisão final. Se o mapa estiver errado, sua verificação de justiça será inútil. Você pode pensar que o algoritmo é justo quando, na verdade, ele é tendencioso, ou vice-versa. Este é o canto complicado da ciência que este artigo explora: como construímos o melhor mapa possível e como garantimos que esse mapa não nos engane quando tentamos verificar a justiça?

O Artigo: GoT-CD e a Armadilha do "Falso Limpo"

Os autores deste artigo, Nitish Nagesh e sua equipe, estão enfrentando um problema que parece simples, mas é, na verdade, uma armadilha. Eles notaram que, quando os cientistas usam Inteligência Artificial (especificamente, Grandes Modelos de Linguagem, ou LLMs) para desenhar esses mapas causais, eles geralmente apenas verificam se o mapa parece "estruturalmente correto". É como avaliar o desenho de uma casa feito por um aluno contando quantas janelas e portas existem nos lugares certos. Mas e se o aluno desenhou uma casa perfeita, mas esqueceu de desenhar a porta da frente? Se você estiver tentando verificar se a casa é acessível para um usuário de cadeira de rodas, essa porta ausente é um desastre, mesmo que o resto do desenho esteja perfeito.

O artigo apresenta um novo método chamado GoT-CD (Graph-of-Thoughts Causal Discovery). Para entender como funciona, imagine uma equipe de três detetives trabalhando no mesmo caso, mas em vez de discutirem entre si, cada um escreve sua teoria completa do crime em um papel ao mesmo tempo.

O Jeito Antigo (Par ou Traversal): Métres anteriores de IA eram como detetives que só olhavam para duas pistas por vez ("A causa B?") ou que construíam a história passo a passo, comprometendo-se com cada suposição imediatamente. Se eles cometessem um erro no início, toda a história seria arruinada, e eles não poderiam voltar atrás.
O Jeito GoT-CD: Este método gera múltiplos mapas completos de uma só vez. Em seguida, um "juiz" rigoroso (uma função de pontuação determinística) os verifica. As melhores partes dos melhores mapas são fundidas, mas com uma regra superimportante: você não pode inventar uma nova conexão que nenhum detetive tenha proposto. Isso evita que a IA invente relações falsas apenas porque elas parecem plausíveis. Por fim, a equipe garante que o mapa não tenha loops (você não pode ter A causando B, que causa C, que causa A), transformando-o em um mapa de ruas limpo e de mão única chamado DAG (Grafo Acíclico Dirigido).

A equipe testou este novo método contra algoritmos matemáticos clássicos e outros métodos de IA usando cinco conjuntos de dados diferentes, incluindo um sobre a doença de Alzheimer. Eles usaram uma quantidade fixa de dados (100 observações) e um modelo de IA específico (gpt-4o-mini) para manter o campo de jogo nivelado.

A Grande Descoberta: O Certificado de "Falso Limpo"
A descoberta mais surpreendente não é apenas que o GoT-CD desenha melhores mapas; é o que acontece quando você usa esses mapas para verificar a justiça. Os pesquisadores focaram em um conjunto de dados de Alzheimer onde sabiam, com certeza, que havia um caminho injusto: Sexo → Volume Cerebral → Pontuação MOCA (um teste cognitivo). Eles sabiam que o gênero influenciava o volume cerebral, que por sua vez influenciava a pontuação do teste.

Aqui está a reviravolta:

Um dos métodos de IA mais antigos (LLM-BFS) desenhou um mapa que parecia muito bom no geral. Ele obteve uma pontuação estrutural (F1) de 0,649, o que é decente.
No entanto, quando verificaram esse mapa quanto ao caminho injusto, ele estava completamente ausente. O mapa mostrava nenhuma conexão entre o Sexo e a pontuação do teste.
Como o caminho estava faltando, a auditoria de justiça reportou um resultado de 0. Parecia um certificado de "limpeza", dizendo: "Nenhuma injustiça detectada!".
Mas isso era uma mentira. A injustiça real era enorme (um valor de 0,572). A IA não encontrou o viés porque esqueceu de desenhar a estrada onde o viés vivia. Não era que o sistema fosse justo; era que o mapa estava quebrado.

Em contraste, o GoT-CD desenhou um mapa que não apenas teve a melhor pontuação estrutural (0,757), mas também encontrou com sucesso esse caminho injusto específico. Ele reportou a direção correta do efeito, mostrando que o viés estava de fato presente.

Outro método, chamado GES, encontrou o caminho, mas adicionou tantos caminhos extras falsos que fez a injustiça parecer sete vezes maior do que realmente era (um valor de 4,034 em vez de 0,572).

O Que Isso Significa Para Você

O artigo sugere que não podemos apenas confiar em uma "boa pontuação" de um mapa para nos dizer se um sistema é justo. Se o mapa estiver perdendo a estrada específica que leva a um resultado tendencioso, a verificação de justiça dirá confiantemente que está tudo bem, mesmo quando não está. Isso é o que os autores chamam de "certificado de falso limpo".

Eles argumentam que, se você estiver usando IA para construir esses mapas para coisas como decisões médicas ou contratações, você não deve olhar apenas para a precisão geral. Você precisa verificar especificamente: "O mapa encontrou o caminho que nos interessa?"

O estudo sugere que o GoT-CD é um forte candidato porque utiliza uma abordagem de "equipe de pensadores" para construir o mapa, garantindo que não perca conexões críticas nem invente falsas. Embora os resultados sejam baseados em simulações e conjuntos de dados específicos (como o exemplo do Alzheimer), a lição é clara: na corrida para construir uma IA justa, um mapa bonito não é suficiente; você precisa das estradas certas desenhadas nele, ou poderá acidentalmente certificar um sistema tendencioso como justo.

Resumo Técnico: GoT-CD e a Fragilidade de Auditorias de Equidade Específica de Caminho Post-hoc

1. Declaração do Problema

A descoberta causal é cada vez mais utilizada em contextos clínicos para apoiar o raciocínio mecanístico e auditorias de equidade de modelos preditivos. No entanto, existe uma lacuna crítica entre a precisão da descoberta estrutural e a confiabilidade das avaliações de equidade a jusante. Os estimandos de equidade contrafactual específica de caminho são definidos em relação a um grafo causal fornecido; eles dependem inteiramente da existência e da estrutura de caminhos direcionados de um atributo protegido ( $S$ ) para um desfecho ( $Y$ ).

As práticas atuais de avaliação para descoberta causal baseiam-se em métricas estruturais agregadas (ex: precisão, recall, F1, Distância de Hamming Estrutural) que atribuem pesos iguais a todas as arestas. Essas métricas falham em determinar se a subestrutura específica necessária para uma auditoria de equidade (o caminho $S \to Y$ ) sobrevive ao processo de descoberta. Consequentemente, um método de descoberta pode alcançar pontuações de F1 estrutural competitivas, mas falhar em recuperar o caminho injusto crítico. Quando tal caminho está ausente, a auditoria de equidade reporta um efeito zero confiante ( $PSE|_{\cdot}| = 0$ ), o que é indistinguível, na saída, de um modelo genuinamente justo. Isso cria um certificado "falso-limpo", onde a omissão estrutural mascara a falta de equidade.

2. Metodologia: GoT-CD

Os autores introduzem o GoT-CD (Graph-of-Thoughts Causal Discovery), um método que reformula a descoberta causal como um problema de raciocínio de grafo completo, em vez de uma sequência de consultas locais. Diferente das abordagens de pares (que consultam pares de variáveis) ou abordagens de travessia (que expandem nós sequencialmente), o GoT-CD trata a unidade de raciocínio como um conjunto completo de candidatos a arestas.

O pipeline GoT-CD executa uma única passagem de um Grafo de Operações:

Gerar (Generate): O LLM é instruído com nomes de variáveis, descrições e um preâmbulo de domínio para gerar $k$ grafos candidatos distintos (conjuntos de arestas) em paralelo.
Pontuar (Score): Uma função de validade determinística, não baseada em LLM, pontua os candidatos. Ela penaliza variáveis não declaradas e auto-loops, recompensa arestas bem formadas, aplica um prior de densidade suave e adiciona um bônus para aciclicidade.
ManterMelhoresN (KeepBestN): Os $N$ melhores candidatos (tipicamente $N=2$ ) são retidos.
Agregar (Aggregate): Os candidatos retidos são fundidos sob uma restrição de união rígida. O modelo é instruído a emitir apenas as arestas que apareceram em pelo menos um candidato de entrada. Isso evita que o modelo sintetize arestas "plausíveis" que nenhuma ramificação de raciocínio propôs.
Melhorar (Improve): O grafo fundido é refinado. O modelo pode introduzir novas arestas apenas se elas não criarem ciclos com o núcleo já aceito.
Projeção Gananciosa (Greedy Projection): Um passo determinístico final impõe a aciclicidade ao percorrer as arestas e retê-las apenas se não formarem um ciclo direcionado com as arestas mantidas anteriormente. Isso garante que a saída seja sempre um Grafo Acíclico Direcionado (DAG).

O método utiliza um protocolo travado com $n=100$ observações e o backbone gpt-4o-mini.

3. Principais Contribuições

O artigo apresenta três contribuições primárias:

Algoritmo GoT-CD: Um método de descoberta causal onde a unidade de raciocínio é um conjunto completo de candidatos a arestas, utilizando geração paralela, pontuação determinística e uma restrição de união rígida para evitar a invenção de arestas enquanto impõe a aciclicidade.
Benchmarking Abrangente: Uma comparação do GoT-CD contra quatro baselines clássicos (PC, GES, NOTEARS, DAGMA-linear) e três baselines de LLM (Pairwise, LLM-BFS, GoT-CD-BFS) através de cinco benchmarks (Asia, Child, Alzheimer's, COVID-Respiratory, Sweden-Traffic).
Auditoria de Equidade Específica de Caminho Post-hoc: Um framework de avaliação aplicado ao benchmark de Alzheimer's (onde o caminho injusto real é $Sexo \to Volume\ Cerebral \to Pontuação\ MOCA$ ) para pontuar métodos não apenas pelo F1 estrutural, mas pela recuperação literal do caminho específico $S \to Y$ .

4. Resultados

Sob um protocolo travado de $n=100$ :

Desempenho Estrutural: O GoT-CD produz DAGs válidos em todos os cinco benchmarks. Ele alcança o melhor F1 de DAG válido entre os métodos de LLM no Asia (0.750), Alzheimer's (0.757) e COVID-Respiratory (0.688), superando o LLM-BFS em quatro de cinco datasets. Ele compete favoravelmente com métodos clássicos, embora métodos de relaxação contínua (NOTEARS, DAGMA) dominem no dataset linear-Gaussiano Sweden-Traffic.
Validade de DAG: Diferente do PC (cíclico em todos os datasets) e do GES (cíclico em quatro), o GoT-CD (e o GoT-CD-BFS) retorna DAGs consistentemente, evitando a necessidade de quebra de ciclo heurística antes da análise de equidade.
Fidelidade de Equidade (Benchmark Alzheimer's):
- GoT-CD: Recupera o caminho injusto real com o sinal de efeito correto ( $TE_{lin} = -0.580$ vs. benchmark $-0.572$) e lidera em F1 estrutural.
- LLM-BFS: Apesar de um F1 estrutural competitivo (0.649), ele falha em recuperar qualquer caminho $S \to Y$ . Consequentemente, reporta $PSE|_{\cdot}| = 0$ , produzindo um certificado de equidade falso-limpo.
- GES: Recupera o caminho injusto, mas infla a massa total do caminho em mais de sete vezes ( $PSE|_{\cdot}| = 4.034$ ) devido a oito rotas espúrias adicionais.
- Outros Métodos: PC, NOTEARS, DAGMA-linear e GoT-CD-BFS falham em recuperar o caminho $S \to Y$ , reportando efeitos zero.

5. Significância e Alegações

O artigo argumenta que a fidelidade estrutural não implica fidelidade de equidade. Um método pode ser estruturalmente preciso (alto F1), mas falhar em recuperar as arestas específicas necessárias para uma auditoria de equidade, levando a conclusões de "equidade" confiantes, porém incorretas.

Os autores alegam que pipelines que encadeiam a descoberta causal à equidade específica de caminho devem:

Reportar a Recuperação de Caminhos: Ao lado da estimativa de equidade, os pipelines devem reportar explicitamente se a subestrutura crítica $S \to Y$ foi recuperada.
Reavaliar Métricas de Descoberta: Métodos de descoberta destinados a pipelines de equidade devem ser avaliados nas arestas das quais as análises a jusante dependem, e não apenas no acordo estrutural agregado.
Alavancar o Raciocínio Global: Os resultados sugerem que o raciocínio global (GoT) é superior ao travessia local (BFS) ou consulta por pares para preservar estruturas relevantes à equidade, pois evita o "inundamento de arestas" dos métodos de pares e a "propagação de erro irrevogável" dos métodos de travessia.

O artigo conclui que, embora os priors de LLM sejam eficazes em grafos compactos e ricos em conhecimento (como o de Alzheimer's), eles complementam, em vez de substituir, os métodos estatísticos (que se destacam em dados lineares-Gaussianos), e que trabalhos futuros devem explorar variantes guiadas por pontuação e objetivos de descoberta conscientes de equidade.