Resumen Técnico: La Brecha de Descripción Causal

Enunciado del Problema

La jerarquía causal de Pearl establece que las consultas observacionales, intervencionales y contrafactuales son cualitativamente distintas, y el Teorema de la Jerarquía Causal demuestra que las consultas de niveles superiores no pueden responderse generalmente a partir de información de niveles inferiores. Sin embargo, la literatura existente trata esta no identificabilidad como una obstrucción binaria: o bien una respuesta de nivel superior está determinada por datos de nivel inferior, o no lo está.

Este trabajo plantea una versión cuantitativa de esta pregunta: ¿Cuántos bits adicionales de información se requieren para especificar una respuesta causal de nivel superior una vez que se conocen las respuestas de nivel inferior? Los autores formalizan esta "brecha de descripción causal" para medir la información residual necesaria para resolver la ambigüedad cuando falla la identificación.

Metodología

Los autores introducen un marco basado en la complejidad de Kolmogorov para cuantificar el contenido informativo de los oráculos de respuesta causal.

1. Longitud de Descripción de la Clase de Consulta: Para un Modelo Causal Estructural (MCE) $M$ y una clase de consulta $Q$ (por ejemplo, observacional, intervencional de un solo nodo, contrafactual), la longitud de descripción $DL(Q; M)$ se define como la complejidad de Kolmogorov del oráculo de respuesta $Ans_Q(M)$, condicionado al tamaño del sistema $n$.
2. Brecha de Descripción Causal: La brecha $\Delta(Q_2 | Q_1; M)$ es la complejidad de Kolmogorov condicional de la respuesta de nivel superior dada la respuesta de nivel inferior:
   $$\Delta(Q_2 | Q_1; M) := K(Ans_{Q_2}(M) \mid Ans_{Q_1}(M), n)$$
3. Principio de Ambigüedad a Bits: El trabajo establece un teorema general que vincula las brechas de descripción con el tamaño del conjunto de ambigüedad. Si una respuesta de nivel inferior $a$ es consistente con $N$ oráculos de respuesta de nivel superior distintos, la brecha de descripción es al menos $\log_2 N$ (hasta términos de orden inferior). Esto se cumple tanto en escenarios de peor caso (Kolmogorov) como de caso promedio (entropía de Shannon).

Los autores construyen familias específicas de MCEs binarios y acíclicos para instanciar estas brechas, demostrando que las brechas pueden escalar polinomialmente con el tamaño del sistema $n$.

Contribuciones y Resultados Clave

1. Separaciones Observacional–Intervencional

El trabajo construye familias de MCEs donde la distribución observacional tiene una longitud de descripción constante ($O(1)$), mientras que el oráculo de respuesta intervencional requiere significativamente más bits.

• Construcción de Árbol Raíz ($\Theta(n \log n)$):

  • Configuración: Las variables forman un árbol raíz oculto donde la raíz es aleatoria y los hijos copian a los padres.
  • Resultado: Todos los árboles producen la misma distribución observacional (correlación perfecta). Sin embargo, las intervenciones de un solo nodo revelan los conjuntos de descendientes, identificando de manera única la estructura del árbol.
  • Brecha: La brecha es $\Theta(n \log n)$, coincidiendo con la información requerida para codificar un árbol etiquetado (mediante secuencias de Prüfer). Esto es óptimo en orden para MCEs con grado de entrada acotado ($d=O(1)$).

• Construcción de Grafo Bipartito ($\Theta(n^2)$):

  • Configuración: Un grafo bipartito oculto $G$ entre las capas $A$ y $B$. La capa $A$ copia la raíz; la capa $B$ calcula puertas AND basadas en las aristas de $G$.
  • Resultado: Observacionalmente, todos los grafos producen la misma distribución (todos 0s o todos 1s). Las intervenciones en los nodos de la capa $A$ revelan sus vecinos en la capa $B$, decodificando efectivamente la matriz de adyacencia de $G$.
  • Brecha: La brecha es $\Theta(n^2)$ (específicamente $\approx m^2$ donde $n=2m+1$). Esto es óptimo en orden para mecanismos densos donde el grado de entrada $d = \Theta(n)$.
  • Robustez: Esta separación cuadrática persiste incluso bajo descripciones de variación total $\epsilon$-precisas para cualquier $\epsilon < 1/4$ fijo.

• Optimalidad Sensible al Grado:
  Los autores prueban una cota superior general para MCEs con esquema de puertas finitas y grado de entrada $d$:
  $$\Delta_{2|1} \le O\left( nd \log \frac{en}{d} + n \log n \right)$$
  Esto confirma que la construcción de árbol $\Theta(n \log n)$ es óptima para grado acotado, y la construcción bipartita $\Theta(n^2)$ es óptima para grado denso.

2. Separación Contrafactual

Incluso con conocimiento completo de todas las distribuciones intervencionales de "hacer-duro" (el oráculo intervencional completo), las consultas contrafactuales pueden permanecer ambiguas.

• Construcción Modular-XOR ($\Theta(n)$):
  • Configuración: $m$ módulos independientes, cada uno siendo o bien un mecanismo "sin efecto" (variables independientes) o un mecanismo "XOR" ($Y = X \oplus U$).
  • Resultado: Ambos mecanismos producen distribuciones observacionales e intervencionales idénticas. Sin embargo, difieren en los contrafactuales: bajo el mecanismo sin efecto, $Y$ permanece sin cambios si se interviene en $X$; bajo XOR, $Y$ se invierte.
  • Brecha: La brecha entre el oráculo intervencional completo y el oráculo contrafactual es $\Theta(n)$, correspondiente a la cadena oculta $s \in \{0,1\}^m$ que determina el tipo de mecanismo.

3. Consecuencias Teóricas del Aprendizaje

El trabajo deriva un resultado de "no hay almuerzo gratis" para el aprendizaje observacional. En la familia bipartita, dado que todos los mecanismos comparten la misma distribución observacional, la información mutua entre el grafo oculto y cualquier conjunto de datos observacional es cero. En consecuencia:

• Ningún aprendiz observacional puede identificar el oráculo intervencional con una probabilidad mejor que la adivinanza aleatoria ($2^{-m^2}$).
• Cualquier predictor basado únicamente en datos observacionales tiene un error absoluto esperado de al menos $1/4$ para consultas intervencionales.

Significado y Afirmaciones

El trabajo afirma transformar la jerarquía cualitativa de Pearl en una jerarquía de información cuantitativa. Su significado principal radica en:

1. Refinar la No Identificabilidad: Avanza más allá de la pregunta booleana de "¿es identificable?" hacia una medida precisa de "¿cuánta información falta?".
2. Cotas Óptimas en Orden: Proporciona construcciones explícitas que muestran que la brecha de información puede escalar cuadráticamente con el tamaño del sistema ($\Theta(n^2)$) para mecanismos densos y linealmente ($\Theta(n)$) para contrafactuales, incluso cuando los datos observacionales son perfectos.
3. Límites Teóricos de la Información: Demuestra que estas brechas no son artefactos de la dureza computacional o datos finitos; son barreras fundamentales de la teoría de la información. Incluso con datos observacionales infinitos, la ambigüedad residual permanece, haciendo necesarias las intervenciones para cerrar la brecha.
4. Principio General: El teorema de "Ambigüedad a Bits" unifica estos resultados, mostrando que la brecha de descripción es fundamentalmente el logaritmo del tamaño del conjunto de ambigüedad residual.

Los autores señalan que sus construcciones son adversarias (binarias, acíclicas, potencialmente violando positividad o fidelidad) para demostrar que la adecuación observacional por sí sola no impone ninguna cota pequeña de descripción causal sin suposiciones estructurales adicionales. Sugieren que el trabajo futuro debería investigar cómo la dispersión, el ruido o las suposiciones de fidelidad podrían reducir estas ambigüedades residuales.