🤖 machine learning

A Probabilistic Circuit-Induced Pseudo-Metric for Out-of-Distribution Detection

Este artigo introduz um novo framework de detecção de fora da distribuição que aproveita a estrutura hierárquica interna de Circuitos Probabilísticos para definir um Vetor de Verossimilhança Hierárquica e uma pseudo-métrica correspondente, permitindo a detecção não supervisionada e a localização de desvio sem exigir dados de distribuição interna retidos.

Autores originais: Bhumika K, Vidhya S, Narayanan C Krishnan

Publicado 2026-08-11

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Bhumika K, Vidhya S, Narayanan C Krishnan

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um segurança de uma boate muito exclusiva. Seu trabalho é decidir quem entra e quem não entra. Geralmente, você tem uma lista mental de como são seus clientes regulares: sua altura, seu chapéu favorito, o jeito que eles caminham. Se alguém entrar usando uma roupa de palhaço neon, você saberá imediatamente que aquela pessoa não pertence ao lugar. Mas e se a pessoa parecer quase como um cliente regular, apenas com uma camisa ligeiramente diferente? Ou se a boate for tão grande que você não consiga se lembrar de cada detalhe de cada cliente regular? Este é o desafio da detecção de "Fora da Distribuição" (OOD - Out-of-Distribution) no mundo da Inteligência Artificial. É a tarefa de ensinar um computador a dizer: "Ei, estes dados parecem estranhos; eles não coincidem com o que eu aprendi", sem precisar de uma segunda lista de exemplos para comparar.

Para entender como este artigo aborda esse problema, precisamos olhar para a ferramenta que eles estão usando: um "Circuito Probabilístico". Pense nisso não como uma rede neural bagunçada, mas como uma árvore genealógica de probabilidades gigante e organizada. Na base, você tem fatos simples (como "este pixel é preto?"). À medida que você sobe na árvore, esses fatos são combinados em ideias maiores (como "isso é um círculo?"). O topo da árvore fornece uma pontuação final: "Qual a probabilidade de esta imagem ser um gato?". O problema com a forma antiga de fazer as coisas é que os seguranças (ou modelos de IA) frequentemente olham apenas para essa pontuação final no topo. Eles ignoram todos os detalhes interessantes no meio da árvore. Este artigo argumenta que, ao olhar para a árvore inteira, e não apenas para o topo, podemos capturar as "roupas de palhaço" muito melhor.

Os pesquisadores, trabalhando no Instituto Indiano de Tecnologia de Palakkad, introduzem um novo método chamado Vetor de Verossimilhança Hierárquico (HLV - Hierarchical Likelihood Vector). Em vez de apenas perguntar à IA, "Isto é um gato?" (o que fornece um único número), eles fazem à IA uma série de perguntas em diferentes níveis de sua árvore genealógica. "Isto é um círculo?" "Isto é um pixel preto?" "Isto é um tipo específico de curva?" Eles coletam todas essas respostas em uma lista, ou um vetor. Esta lista é o HLV. É como dar ao segurança um checklist de cada detalhe, desde os sapatos até o chapéu, em vez de apenas um carimbo de "parece um cliente regular".

Usando este checklist, eles criaram uma nova maneira de medir a distância chamada Distância de Verossimilhança Hierárquica (HLD - Hierarchical Likelihood Distance). Imagine que você tem um checklist do "cliente regular perfeito" e um checklist do "cara novo". O HLD mede o quão distantes essas duas listas estão. Se a lista do cara novo for muito diferente da lista do cliente regular perfeito, a distância é grande, e a IA sabe que deve soar o alarme. A parte inteligente deste artigo é que eles descobriram como calcular o checklist do "cliente regular perfeito" matematicamente, diretamente do cérebro da IA, sem precisar salvar um monte de fotos extras de clientes regulares para comparar mais tarde. Isso torna o sistema muito mais eficiente e pronto para o uso no mundo real, onde você pode não ter dados extras à disposição para comparar.

Quando testaram essa ideia em dados tabulares (como planilhas de informações de clientes) e imagens de números escritos à mão (MNIST), os resultados foram promissores. Em suas simulações, o método HLV foi melhor em detectar os "palhaços" do que os métodos antigos que olhavam apenas para o topo da árvore. Por exemplo, nos conjuntos de dados tabulares, quando testaram lotes de 100 itens, o novo método detectou os dados estranhos cerca de 93% das vezes, enquanto os métodos antigos frequentemente ficavam em torno de 50% ou menos. Mais importante ainda, o novo método foi mais estável; ele não se confundiu tão facilmente quando os dados ficaram ligeiramente bagunçados ou quando o modelo da IA não era perfeito.

O artigo também mostrou que este método pode agir como um detetive. Como o HLV mantém o controle de cada nó na árvore, os pesquisadores puderam observar quais perguntas específicas no checklist estavam diferentes. Se a IA estivesse confusa sobre um dígito '6' parecer um '0', o método poderia apontar exatamente qual parte da imagem (o loop do meio) estava causando o problema. Essa "localização" nos ajuda a entender por que a IA acha que algo é estranho, em vez de apenas saber que é.

No entanto, os autores tomam o cuidado de notar que isso não é uma solução mágica que resolve tudo para sempre. O método deles depende de o modelo de IA ser um tipo específico de "Circuito Probabilístico" que seja suave e estruturado. Se o modelo for bagunçado ou não estruturado, a matemática não funciona tão limpa. Além disso, embora o método seja ótimo para detectar dados que não se encaixam no modelo, se o próprio modelo for uma representação ruim da realidade (como uma foto borrada de um gato), o sistema ainda pode sinalizar gatos reais como estranhos. Os autores descobriram que, em imagens de alta resolução (28x28 pixels), a taxa de falsos alarmes aumentou porque o modelo lutava para capturar cada detalhe minúsculo perfeitamente.

Em resumo, este artigo sugere que, ao ouvir toda a conversa dentro do cérebro de uma IA, em vez de apenas a conclusão final, podemos construir melhores sistemas de segurança para os dados. Ele transforma uma decisão única de "sim/não" em uma investigação rica e de múltiplas camadas, permitindo que a IA capture mudanças sutis nos dados que outros métodos perdem, tudo isso sem precisar de uma lista de backup de exemplos para comparar. É um passo em direção a tornar a IA mais consciente de seus próprios limites e mais capaz de detectar o inesperado.

Resumo Técnico: Uma Pseudo-Métrica Induzida por Circuitos Probabilísticos para Detecção de Fora da Distribuição

Declaração do Problema

A detecção de fora da distribuição (OOD - Out-of-Distribution) visa determinar se os dados encontrados durante a implantação são consistentes com a distribuição representada por um modelo aprendido. No cenário não supervisionado, modelos generativos são uma escolha natural, pois modelam explicitamente o que é in-distribution (ID). No entanto, abordagens existentes enfrentam limitações significativas:

O Paradoxo da Verossimilhança: Verossimilhanças escalares de modelos generativos profundos (ex: VAEs, Normalizing Flows) podem atribuir pontuações mais altas a amostras OOD do que aos dados ID.
Perda de Informação: Os métodos atuais baseados em Circuitos Probabilísticos (PC) frequentemente reduzem toda a hierarquia do circuito a uma única verossimilhança escalar na raiz, descartando a informação probabilística mais rica codificada nos nós internos.
Dependência de Dados: Muitos métodos de comparação de distribuições (ex: Maximum Mean Discrepancy) ou técnicas de calibração exigem amostras de referência ID retidas ou conjuntos de calibração, que não estão disponíveis em cenários de implantação estritos onde o modelo treinado é a única representação do ID.

A questão central abordada é: Pode a informação probabilística hierárquica codificada dentro de um PC treinado ser usada para construir um detector de OOD de nível de distribuição, estatisticamente calibrado, sem depender de dados ID retidos?

Metodologia

O framework proposto introduz dois conceitos centrais, o Vetor de Verossimilhança Hierárquica (HLV) e a Distância de Verossimilhança Hierárquica (HLD).

1. Vetor de Verossimilhança Hierárquica (HLV)

Em vez de avaliar uma observação $x$ apenas na raiz do PC, o método a avalia em um conjunto selecionado de nós $\mathcal{N} = \{n_1, \dots, n_m\}$ .

Definição: Para um PC suave e decomponível, o HLV é definido como $L_C(x) = (\ell_{n_1}(x), \dots, \ell_{n_m}(x))$ , onde $\ell_n(x)$ é a verossimilhança da observação restrita ao escopo do nó $n$ .
Significância: Este vetor preserva resumos probabilísticos através de múltiplos escopos de variáveis. Os nós de entrada fornecem resumos de nível de variável, enquanto os nós de soma e produto fornecem resumos sobre escopos progressivamente maiores. Se a raiz for incluída, a verossimilhança convencional é mantida junto com esses resumos hierárquicos.

2. Distância de Verossimilhança Hierárquica (HLD)

A HLD mede a discrepância entre a distribuição aprendida $P$ e uma distribuição de teste $Q$ comparando seus HLVs esperados.

Definição: $d_C(P, Q) = \|\mu_P - \mu_Q\|_2$ , onde $\mu_P = \mathbb{E}_{X \sim P}[L(X)]$ e $\mu_Q = \mathbb{E}_{X \sim Q}[L(X)]$ .
Propriedade Teórica: Os autores provam que a HLD é uma Métrica de Probabilidade Integral (IPM) sobre uma classe de funções $\mathcal{F}_C$ induzida diretamente pelo PC. Especificamente, $\mathcal{F}_C$ consiste em combinações lineares das funções de verossimilhança dos nós. Diferente das IPMs genéricas onde a classe de funções é aprendida implicitamente, cada função em $\mathcal{F}_C$ possui uma interpretação probabilística direta derivada da estrutura do circuito.

3. Teste de Bondade de Ajuste e Limiar Analítico

O método formula a detecção de OOD como um teste de hipótese de bondade de ajuste ( $H_0: P = Q$ vs. $H_1: P \neq Q$ ).

Estatística de Teste: Dado um lote de teste $D_Q$ de tamanho $T$ , a estatística é $\hat{d}_C(P, Q) = \|\mu_P - \hat{\mu}_Q\|_2$ , onde $\hat{\mu}_Q$ é a média empírica dos HLVs no lote.
Computação Exata: Uma inovação fundamental é que, para PCs estruturalmente decomponíveis, a média populacional $\mu_P$ e a matriz de covariância $\Sigma_P$ do HLV podem ser computadas de forma exata e tratável apenas a partir do circuito treinado. Isso é alcançado através da propriedade de "Tricotomia de Escopo" dos PCs estruturalmente decomponíveis, que garante que os escopos de quaisquer dois nós sejam ou disjuntos, idênticos ou aninhados. Isso permite a marginalização exata e operações de produto sem a necessidade de amostras de referência ID.
Limiar de Decisão: Sob a hipótese nula, a estatística de teste segue uma distribuição qui-quadrado generalizada escalonada. Os autores derivam um limiar de forma fechada aproximada $\tau_\alpha$ combinando os dois primeiros momentos (média e variância) desta distribuição, computados diretamente de $\text{tr}(\Sigma_P)$ e $\text{tr}(\Sigma_P^2)$ . Isso elimina a necessidade de dados ID retidos para calibração.

Principais Contribuições

HLV e HLD: Introdução de uma representação que captura resumos probabilísticos hierárquicos e uma respectiva pseudo-métrica (HLD) que compara distribuições através de seus HLVs esperados.
Caracterização de IPM: Prova de que a HLD é uma Métrica de Probabilidade Integral induzida por PC, fundamentando o detector na teoria estatística estabelecida.
Computação Exata Tratável: Demonstração de que, para PCs estruturalmente decomponíveis, as estatísticas populacionais necessárias (média e covariância do HLV) podem ser computadas exatamente a partir dos parâmetros do modelo. Isso possibilita um limiar de decisão analítico sem dados ID retidos.
Validação Empírica: Avaliação em conjuntos de dados tabulares (Adult, Covertype, Sensorless, Census-KDD, Connect-4) e binarizado MNIST, mostrando desempenho superior em relação às linhas de base de verossimilhança da raiz, incerteza (TDI), tipicidade e base de kernel (MMD).

Resultados Experimentais

O framework foi avaliado utilizando um protocolo de classe por classe, onde uma classe serve como ID e outras como OOD.

Poder de Detecção: A HLD alcança consistentemente um maior poder de detecção do que as linhas de base, particularmente em tamanhos de lote pequenos a moderados ( $T=10$ a $T=100$ ). Por exemplo, em conjuntos de dados tabulares em $T=100$ , a HLD atingiu uma taxa de detecção de 0,987, comparada a 0,542 para a Verossimilhança da Raiz e 0,608 para a Tipicidade.
Robustez à Especificação Incorreta do Modelo: Quando testada com dados ID reais retidos (onde o modelo pode não se ajustar perfeitamente à distribuição real), a HLD exibiu um aumento significativamente mais lento na Taxa de Falsos Positivos (FPR) conforme o tamanho do lote crescia, em comparação com outros métodos. Em $T=1000$ em dados tabulares, a FPR da HLD foi de 0,178, enquanto a do MMD foi de 0,807 e a da Verossimilhança da Raiz foi de 0,446.
Localização: A decomposição por nós da estatística de teste permite a localização de mudanças de distribuição. Ao classificar os nós com base em sua contribuição para a discrepância, o método pode identificar os escopos de variáveis específicos (ex: regiões específicas de imagens no MNIST) responsáveis pela mudança.
Estudos de Ablação: A combinação de nós folha e nós de soma para o HLV forneceu o desempenho mais robusto em todos os conjuntos de dados. Adicionar nós de produto não melhorou consistentemente o poder de detecção e, às vezes, degradou o desempenho.

Significância e Alegações

O artigo afirma que explorar a estrutura hierárquica dos Circuitos Probabilísticos oferece uma vantagem fundamentada sobre métodos de pontuação escalar. Ao tratar o circuito não apenas como um calculador de verossimilhança, mas como um gerador de um espaço de características rico e interpretável (o HLV), o método constrói um detector de nível de distribuição que é:

Autocalibrável: Não requer dados ID retidos para o estabelecimento de limiares, baseando-se, em vez disso, nas propriedades estruturais exatas do PC treinado.
Interpretável: Pode localizar a fonte de mudanças de distribuição para escopos de variáveis específicos dentro do circuito.
Robusto: Mantém melhor calibração e poder de detecção sob especificação incorreta do modelo em comparação com as linhas de base existentes.

Os autores reconhecem limitações: a calibração estatística é relativa à distribuição representada pelo PC treinado (significa que um ajuste ruim do modelo leva a uma FPR mais alta em dados reais), e o limiar de forma fechada depende de uma aproximação Gaussiana que pode ser menos precisa se o espectro de covariância for dominado por poucos autovalores. Trabalhos futuros incluem a extensão do framework para variáveis aleatórias contínuas.