🤖 machine learning

A Probabilistic Circuit-Induced Pseudo-Metric for Out-of-Distribution Detection

Este artículo introduce un nuevo marco de detección de fuera de la distribución que aprovecha la estructura jerárquica interna de los Circuitos Probabilísticos para definir un Vector de Verosimilitud Jerárquico y una pseudo-métrica correspondiente, permitiendo la detección no supervisada y la localización de desplazamientos sin requerir datos de la distribución interna retenidos.

Autores originales: Bhumika K, Vidhya S, Narayanan C Krishnan

Publicado 2026-08-11

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Bhumika K, Vidhya S, Narayanan C Krishnan

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un guardia de seguridad en un club muy exclusivo. Tu trabajo es decidir quién entra y quién no. Normalmente, tienes una lista mental de cómo lucen tus clientes habituales: su altura, su sombrero favorito, su forma de caminar. Si alguien entra vistiendo un traje de payaso de neón, sabes inmediatamente que no pertenece al lugar. Pero, ¿qué pasa si la persona se parece casi a un cliente habitual, solo que con una camisa ligeramente diferente? ¿O qué pasa si el club es tan grande que no puedes recordar cada detalle de cada cliente? Este es el desafío de la detección de "Fuera de Distribución" (OOD, por sus siglas en inglés) en el mundo de la Inteligencia Artificial. Es la tarea de enseñar a una computadora a decir: "Oye, esto se ve raro; no coincide con lo que aprendí", sin necesidad de tener una segunda lista de ejemplos para comparar.

Para entender cómo este artículo aborda ese problema, necesitamos observar la herramienta que están utilizando: un "Circuito Probabilístico". Piensa en esto no como una red neuronal desordenada, sino como un árbol genealógico de probabilidades gigante y organizado. En la base, tienes hechos simples (como "¿este píxel es negro?"). A medida que subes por el árbol, estos hechos se combinan en ideas más grandes (como "¿esto es un círculo?"). La parte superior del árbol te da una puntuación final: "¿Qué tan probable es que esta imagen sea un gato?". El problema con la forma antigua de hacer las cosas es que los guardias de seguridad (o los modelos de IA) a menudo solo miran esa puntuación final en la cima. Ignoran todos los detalles interesantes en medio del árbol. Este artículo argumenta que, al mirar todo el árbol y no solo la parte superior, podemos detectar los "trajes de payaso" mucho mejor.

Los investigadores, trabajando en el Instituto Indio de Tecnología de Palakkad, introducen un nuevo método llamado Vector de Verosimilitud Jerárquica (HLV). En lugar de solo preguntarle a la IA: "¿Es esto un gato?" (lo que da un solo número), le hacen una serie de preguntas en diferentes niveles de su árbol genealógico. "¿Es esto un círculo?", "¿Es este un píxel negro?", "¿Es esta una curva específica?". Recopilan todas estas respuestas en una lista, o un vector. Esta lista es el HLV. Es como darle al guardia de seguridad una lista de verificación de cada detalle, desde los zapatos hasta el sombrero, en lugar de un simple sello de "se parece a un cliente habitual".

Usando esta lista de verificación, crearon una nueva forma de medir la distancia llamada Distancia de Verosimilitud Jerárquica (HLD). Imagina que tienes la lista de un "cliente habitual perfecto" y la lista de un "sujeto nuevo". El HLD mide qué tan alejadas están estas dos listas. Si la lista del sujeto nuevo es muy diferente a la del cliente habitual perfecto, la distancia es grande y la IA sabe que debe dar la alarma. La parte ingeniosa de este artículo es que descubrieron cómo calcular la lista del "cliente habitual perfecto" matemáticamente, directamente desde el cerebro de la IA, sin necesidad de guardar un montón de fotos adicionales de clientes habituales para comparar después. Esto hace que el sistema sea mucho más eficiente y esté listo para el uso en el mundo real donde podrías no tener datos adicionales a la mano.

Cuando probaron esta idea en datos tabulares (como hojas de cálculo de información de clientes) e imágenes de números escritos a mano (MNIST), los resultados fueron prometedores. En sus simulaciones, el método HLV fue mejor detectando los "payasos" que los métodos antiguos que solo miraban la parte superior del árbol. Por ejemplo, en los conjuntos de datos tabulares, cuando probaron lotes de 100 elementos, el nuevo método detectó los datos extraños aproximadamente el 93% de las veces, mientras que los métodos antiguos a menudo se quedaban estancados alrededor del 50% o menos. Lo que es más importante, el nuevo método era más estable; no se confundía tan fácilmente cuando los datos se volvían un poco desordenados o cuando el modelo de la IA no era perfecto.

El artículo también mostró que este método puede actuar como un detective. Debido a que el HLV mantiene el registro de cada nodo en el árbol, los investigadores pudieron observar qué preguntas específicas en la lista de verificación eran diferentes. Si la IA estaba confundida porque un dígito '6' parecía un '0', el método podía señalar exactamente qué parte de la imagen (el bucle intermedio) estaba causando el problema. Esta "localización" nos ayuda a entender por qué la IA piensa que algo es extraño, en lugar de solo saber que lo es.

Sin embargo, los autores tienen cuidado en notar que esto no es una solución mágica que lo resuelve todo para siempre. Su método depende de que el modelo de IA sea un tipo específico de "Circuito Probabilístico" que sea suave y estructurado. Si el modelo es desordenado o no estructurado, las matemáticas no funcionan tan limpiamente. Además, aunque el método es excelente para detectar datos que no encajan con el modelo, si el modelo mismo es una mala representación de la realidad (como una foto borrosa de un gato), el sistema aún podría marcar a gatos reales como extraños. Los autores encontraron que en imágenes de alta resolución (28x28 píxeles), la tasa de falsas alarmas aumentó porque el modelo luchaba por capturar cada pequeño detalle perfectamente.

En resumen, este artículo sugiere que, al escuchar toda la conversación dentro del cerebro de una IA, en lugar de solo la conclusión final, podemos construir mejores sistemas de seguridad para los datos. Convierte una decisión de "sí/no" en una investigación rica y de múltiples capas, permitiendo que la IA detecte cambios sutiles en los datos que otros métodos pasan por alto, todo esto sin necesidad de una lista de respaldo de ejemplos para comparar. Es un paso hacia hacer que la IA sea más consciente de sus propios límites y más capaz de detectar lo inesperado.

Resumen Técnico: Un Pseudo-métrico Inducido por Circuitos Probabilísticos para la Detección de Fuera de Distribución

Planteamiento del Problema

La detección de fuera de distribución (OOD, por sus siglas en inglés) tiene como objetivo determinar si los datos encontrados durante el despliegue son consistentes con la distribución representada por un modelo aprendido. En el entorno no supervisado, los modelos generativos son una elección natural ya que modelan explícitamente la distribución intra-distribución (ID). Sin embargo, los enfoques existentes enfrentan limitaciones significativas:

La Paradoja de la Verosimilitud: Las verosimilitudes escalares de los modelos generativos profundos (por ejemplo, VAEs o Flujos Normalizantes) pueden asignar puntuaciones más altas a muestras OOD que a los datos ID.
Pérdida de Información: Los métodos actuales basados en Circuitos Probabilísticos (PC) a menudo reducen toda la jerarquía del circuito a una única verosimilitud escalar en la raíz, descartando la rica información probabilística codificada en los nodos internos.
Dependencia de Datos: Muchos métodos de comparación de distribuciones (por ejemplo, la Discrepancia de la Media Máxima) o técnicas de calibración requieren muestras de referencia ID retenidas o conjuntos de calibración, los cuales no están disponibles en escenarios de despliegue estrictos donde el modelo entrenado es la única representación de la ID.

La pregunta central abordada es: ¿Puede la información probabilística jerárquica codificada dentro de un PC entrenado utilizarse para construir un detector de OOD a nivel de distribución, estadísticamente calibrado, sin depender de datos ID retenidos?

Metodología

El marco propuesto introduce dos conceptos centrales: el Vector de Verosimilitud Jerárquica (HLV) y la Distancia de Verosimilitud Jerárquica (HLD).

1. Vector de Verosimilitud Jerárquica (HLV)

En lugar de evaluar una observación $x$ únicamente en la raíz del PC, el método la evalúa en un conjunto seleccionado de nodos $\mathcal{N} = \{n_1, \dots, n_m\}$ .

Definición: Para un PC suave y decomponible, el HLV se define como $L_C(x) = (\ell_{n_1}(x), \dots, \ell_{n_m}(x))$ , donde $\ell_n(x)$ es la verosimilitud de la observación restringida al alcance del nodo $n$ .
Significado: Este vector preserva los resúmenes probabilísticos a través de múltiples alcances de variables. Los nodos de entrada proporcionan resúmenes a nivel de variable, mientras que los nodos de suma y producto proporcionan resúmenes sobre alcances progresivamente mayores. Si se incluye la raíz, la verosimilitud convencional se retiene junto con estos resúmenes jerárquicos.

2. Distancia de Verosimilitud Jerárquica (HLD)

La HLD mide la discrepancia entre la distribución aprendida $P$ y una distribución de prueba $Q$ comparando sus HLVs esperados.

Definición: $d_C(P, Q) = \|\mu_P - \mu_Q\|_2$ , donde $\mu_P = \mathbb{E}_{X \sim P}[L(X)]$ y $\mu_Q = \mathbb{E}_{X \sim Q}[L(X)]$ .
Propiedad Teórica: Los autores demuestran que la HLD es una Métrica de Probabilidad Integral (IPM) sobre una clase de funciones $\mathcal{F}_C$ inducida directamente por el PC. Específicamente, $\mathcal{F}_C$ consiste en combinaciones lineales de las funciones de verosimilitud de los nodos. A diferencia de las IPM genéricas donde la clase de funciones se aprende implícitamente, cada función en $\mathcal{F}_C$ tiene una interpretación probabilística directa derivada de la estructura del circuito.

3. Prueba de Bondad de Ajuste y Umbral Analítico

El método formula la detección de OOD como una prueba de hipótesis de bondad de ajuste ( $H_0: P = Q$ vs. $H_1: P \neq Q$ ).

Estadístico de Prueba: Dado un lote de prueba $D_Q$ de tamaño $T$ , el estadístico es $\hat{d}_C(P, Q) = \|\mu_P - \hat{\mu}_Q\|_2$ , donde $\hat{\mu}_Q$ es la media empírica de los HLVs en el lote.
Computación Exacta: Una innovación clave es que para los PCs estructuradamente decomponibles, la media poblacional $\mu_P$ y la matriz de covarianza $\Sigma_P$ del HLV pueden computarse de manera exacta y tratable únicamente a partir del circuito entrenado. Esto se logra mediante la propiedad de "Tricotomía de Alcance" de los PCs estructuradamente decomponibles, la cual asegura que los alcances de cualquier par de nodos sean disjuntos, idénticos o anidados. Esto permite la marginalización y las operaciones de producto exactas sin necesidad de muestras de referencia ID.
Umbral de Decisión: Bajo la hipótesis nula, el estadístico de prueba sigue una distribución chi-cuadrado generalizada escalada. Los autores derivan un umbral de forma cerrada aproximada $\tau_\alpha$ igualando los dos primeros momentos (media y varianza) de esta distribución, computados directamente a partir de $\text{tr}(\Sigma_P)$ y $\text{tr}(\Sigma_P^2)$ . Esto elimina la necesidad de datos ID retenidos para la calibración.

Contribuciones Clave

HLV y HLD: Introducción de una representación que captura resúmenes probabilísticos jerárquicos y su correspondiente pseudo-métrico (HLD) que compara distribuciones a través de sus HLVs esperados.
Caracterización de IPM: Demostración de que la HLD es una Métrica de Probabilidad Integral inducida por PC, fundamentando el detector en una teoría estadística establecida.
Computación Exacta Tratable: Demostración de que, para los PCs estructuradamente decomponibles, las estadísticas poblacionales necesarias (media y covarianza del HLV) pueden computarse exactamente a partir de los parámetros del modelo. Esto permite un umbral de decisión analítico sin datos ID retenidos.
Validación Empírica: Evaluación en conjuntos de datos tabulares (Adult, Covertype, Sensorless, Census-KDD, Connect-4) y MNIST binarizado, mostrando un rendimiento superior frente a las líneas base de verosimilitud de la raíz, incertidumbre (TDI), tipicidad y basadas en núcleos (MMD).

Resultados Experimentales

El marco fue evaluado utilizando un protocolo de clase por clase donde una clase sirve como ID y otras como OOD.

Poder de Detección: La HLD alcanza consistentemente un mayor poder de detección que las líneas base, particularmente en tamaños de lote pequeños a moderados ( $T=10$ a $T=100$ ). Por ejemplo, en conjuntos de datos tabulares con $T=100$ , la HLD alcanzó una tasa de detección de 0.987, comparada con 0.542 para la Verosimilitud de la Raíz y 0.608 para la Tipicidad.
Robustez ante la Especificación Incorrecta del Modelo: Al ser probada con datos ID reales retenidos (donde el modelo puede no ajustarse perfectamente a la distribución real), la HDL exhibió un aumento significativamente más lento en la Tasa de Falsos Positivos (FPR) a medida que crecía el tamaño del lote en comparación con otros métodos. Con $T=1000$ en datos tabulares, la FPR de la HLD fue de 0.178, mientras que la de MMD fue de 0.807 y la de la Verosimilitud de la Raíz de 0.446.
Localización: La descomposición por nodos del estadístico de prueba permite la localización de los cambios de distribución. Al clasificar los nodos según su contribución a la discrepancia, el método puede identificar los alcances de variables específicos (por ejemplo, regiones de imagen específicas en MNIST) responsables del cambio.
Estudios de Ablación: La combinación de nodos hoja y nodos de suma para el HLV proporcionó el rendimiento más robusto en todos los conjuntos de datos. Añadir nodos de producto no mejoró consistentemente el poder de detección y, en ocasiones, lo degradó.

Significado y Reivindicaciones

El artículo sostiene que explotar la estructura jerárquica de los Circuitos Probabilísticos ofrece una ventaja fundamental sobre los métodos de puntuación escalar. Al tratar el circuito no solo como un calculador de verosimilitud, sino como un generador de un espacio de características rico e interpretable (el HLV), el método construye un detector a nivel de distribución que es:

Autocalibrable: No requiere datos ID retenidos para el umbral, apoyándose en las propiedades estructurales exactas del PC entrenado.
Interpretable: Puede localizar la fuente de los cambios de distribución en nodos específicos (alcances de variables) dentro del circuito.
Robusto: Mantiene una mejor calibración y poder de detección bajo la especificación incorrecta del modelo en comparación con las líneas base existentes.

Los autores reconocen limitaciones: la calibración estadística es relativa a la distribución representada por el PC entrenado (lo que significa que un ajuste pobre del modelo conduce a una mayor FPR en datos reales), y el umbral de forma cerrada depende de una aproximación gaussiana que puede ser menos precisa si el espectro de la covarianza está dominado por unos pocos autovalores. El trabajo futuro incluye la extensión del marco a variables aleatorias continuas.