💻 computer science

A Unifying Perspective on Causal World Models: From Observations to Representations to Structure

Este artículo propone un marco formal para Modelos de Mundo Causales que unifica múltiples niveles de abstracción —desde las observaciones hasta las representaciones estructurales— para permitir que los agentes capturen propiedades de entidades e interacciones para una predicción, planificación y toma de decisiones robustas más allá de su distribución de entrenamiento.

Autores originales: Avinash Kori, Fabrizio Russo

Publicado 2026-08-14

📖 9 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Avinash Kori, Fabrizio Russo

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a un robot a jugar una partida de canicas. Podrías simplemente mostrarle un millón de vídeos de canicas rodando y esperar que descubra las reglas adivinando qué pasará después. Así es como funcionan muchos sistemas de IA modernos: son como loros superinteligentes que pueden predecir el siguiente fotograma de una película, pero no entienden realmente por qué la canica rodó o qué pasaría si la empujaras de forma diferente. Este campo de la ciencia se llama Inteligencia Artificial, centrándose específicamente en los "Modelos de Mundo". Un Modelo de Mundo es, esencialmente, un mapa mental que un agente (como un robot o un programa de software) construye para entender cómo funciona su entorno. La gran pregunta que se hacen los investigadores es: ¿Cómo logramos que una máquina vaya más allá de simplemente adivinar el futuro para llegar a comprender las causas de los eventos? Para hacer esto, necesitamos entender algunas ideas clave. Primero, existe la "Causalidad", que es la diferencia entre ver a un gallo cantar y que salga el sol (correlación) frente a saber que el canto del gallo no causó que saliera el sol (causación). Segundo, está el "Aprendizaje de Representaciones", que es el arte de tomar un montón de datos desordenados y no estructurados (como los píxeles brutos de una imagen de cámara) y organizarlos en conceptos claros y comprensibles (como "bloque rojo", "bloque azul" o "pinza"). Finalmente, está la "Intervención", que es la capacidad de preguntar: "¿Qué pasaría si hiciera esto en lugar de aquello?".

Este artículo, titulado "Una perspectiva unificadora sobre los Modelos de Mundo Causales", sostiene que para que la IA sea verdaderamente inteligente y segura, debe dejar de ser solo un cristal que predice el futuro y empezar a ser un detective que entiende la mecánica del mundo. Los autores, Avinash Kori y Fabrizio Russo, del Imperial College London, proponen una nueva forma de construir estos mapas mentales. Sugieren que un buen Modelo de Mundo no debería ser simplemente una caja negra gigante y confusa. En su lugar, debería ser una línea de montaje estructurada que tome observaciones brutas, las convierta en una lista de objetos específicos y sus propiedades, comprenda cómo interactúan esos objetos y luego utilice esa estructura para planificar acciones. Lo llaman un "Modelo de Mundo Causal" (CWM). El artículo no pretende haber construido ya un robot que pueda hacer esto perfectamente; más bien, proporciona un plano formal y un conjunto de reglas sobre cómo deberíamos pensar al construir estos modelos. Clarifica exactamente qué partes del modelo pueden aprenderse de los datos y qué partes requieren la guía humana o supuestos específicos para funcionar correctamente.

La escalera del detective: De los píxeles a los planes

Imagina que eres un detective intentando resolver un misterio en una habitación llena de juguetes. Tienes una cámara que toma fotos de la habitación cada segundo. Esta es tu "observación". En la forma antigua de hacer las cosas, la IA simplemente miraría los píxeles y diría: "Vale, en el siguiente segundo, la bola roja probablemente estará aquí". Es una buena conjetura, pero si preguntaras: "¿Y si hubiera empujado el bloque azul en su lugar?", la IA podría confundirse porque nunca entendió realmente que el bloque azul causó que la bola roja se moviera.

Los autores proponen un nuevo enfoque, visualizado como una escalera de cuatro peldaños (o "Escalera Causal") que la IA debe subir para ser verdaderamente inteligente.

Paso 1: Los sentidos brutos (Percepción)
En el peldaño inferior de la escalera, la IA ve el mundo bruto. Esto es como mirar una foto borrosa y caótica de una mesa con un bloque rojo, un bloque azul y un brazo robótico. El primer trabajo de la IA es actuar como un buen editor. Debe tomar esa foto desordenada y recortarla en piezas distintas: "Aquí está el bloque rojo", "Aquí está el bloque azul", "Aquí está la pinza". El artículo llama a esto "características a nivel de entidad". La IA no solo está adivinando; está aprendiendo a identificar a los personajes específicos de la historia.

Paso 2: El mapa de relaciones (Representación)
Una vez que la IA ha identificado a los personajes, necesita entender cómo se relacionan entre sí. Este es el segundo peldaño. La IA construye un mapa estructurado. No solo sabe que el bloque rojo existe; sabe que el bloque rojo está apoyado en el bloque azul. Sabe que la pinza está tocando el objetivo. El artículo describe esto como un "estado relacional estructurado". Piensa en ello como una red social para los objetos sobre la mesa. La IA crea un diagrama donde los bloques son puntos y las interacciones (como "apoyado en" o "tocando") son líneas que los conectan. Esto es un salto enorme porque ahora la IA entiende la estructura de la escena, no solo la imagen.

Paso 3: La máquina del "¿Qué pasaría si?" (Intervención)
Ahora que la IA tiene un mapa de quién está conectado con quién, puede empezar a hacer preguntas de "¿Qué pasaría si...?". Este es el tercer peldaño. Si la IA quiere mover el bloque rojo hacia el objetivo, puede simular la acción en su mente. Puede decir: "Si empujo el bloque rojo, el bloque azul se deslizará y la pinza golpeará la pared". Debido a que comprende los vínculos causales (las líneas en su mapa), puede predecir el resultado de sus acciones sin tener que realizarlas. Esto es lo que los autores llaman "intervención". Es la diferencia entre ver un accidente de coche y entender que la velocidad causó el accidente, de modo que puedes decidir reducir la velocidad para evitarlo.

Paso 4: La imaginación (Contrafácticos)
En la cima de la escalera está la capacidad de imaginar escenarios que nunca sucedieron. "¿Qué pasaría si el bloque rojo fuera azul?" o "¿Qué pasaría si lo hubiera empujado dos veces más fuerte?". Esto se llama razonamiento contrafáctico. Permite a la IA aprender de errores que ni siquiera ha cometido, haciéndola mucho más segura y adaptable.

El plano: Cómo construir la máquina

La principal contribución del artículo es una definición formal de este "Modelo de Mundo Causal". Los autores argumentan que debemos dejar de tratar estos modelos como un único bloque monolítico de código. En su lugar, debemos dividirlos en partes específicas y manejables, como el motor de un coche con una transmisión, un sistema de combustible y un volante. Cada parte tiene su propio trabajo y sus propias reglas sobre cuánto podemos confiar en ella.

Definen el modelo como una cadena de eventos:

Inferencia: La IA observa la imagen bruta ( $x_t$ ) y deduce las entidades ocultas ( $v_t$ ).
Ensamblaje: Une esas entidades en un estado estructurado ( $r_t$ ) que muestra cómo interactúan.
Transición: Predice cómo cambiará el estado si se realiza una acción ( $a_t$ ).
Predicción: Traduce el nuevo estado de nuevo a una imagen predicha ( $x_{t+1}$ ) para que podamos ver lo que cree que sucederá.
Utilidad: Decide si ese resultado es bueno o malo basándose en un objetivo (como "llevar el bloque al objetivo").

Los autores son muy cuidadosos al señalar que no podemos esperar que la IA aprenda todo perfectamente desde cero. Introducen el concepto de "Identificabilidad". Esta es una palabra sofisticada para preguntar: "¿Podemos estar seguros de que lo que la IA ha aprendido es la única explicación verdadera?".

El artículo sugiere que a menudo no podemos estar 100% seguros de los números o nombres exactos que la IA utiliza. Por ejemplo, la IA puede decidir llamar al bloque rojo "Entidad A" y al bloque azul "Entidad B", mientras que otra IA podría intercambiarlos. Siempre que las relaciones se mantengan iguales (A sigue tocando a B), no importa. Los autores argumentan que debemos aceptar estas "equivalencias". No necesitamos que la IA use nuestras mismas etiquetas; solo necesitamos que entienda la estructura correctamente para que pueda tomar las decisiones correctas.

Lo que este artículo descarta

Es importante señalar lo que este artículo dice que no debemos hacer. Los autores argumentan explícitamente contra la idea de que un Modelo de Mundo sea solo un "predictor". Dicen que si un modelo solo puede adivinar el siguiente fotograma de un vídeo pero no entiende las causas subyacentes (las entidades y sus interacciones), no es un verdadero Modelo de Mundo. También advierten contra la suposición de que la IA descubrirá automáticamente las variables correctas a utilizar. A veces, la IA necesita ayuda. Si los datos son demasiado desordenados o si hay factores ocultos que la IA no puede ver (como un imán oculto que mueve los bloques), la IA podría entender mal la historia causal. El artículo sugiere que, en estos casos, necesitamos aportar conocimiento humano o diseñar el sistema para manejar estas incertidumbres, en lugar de esperar que la IA lo resuelva mágicamente.

Conclusión

En resumen, Kori y Russo ofrecen una nueva forma de pensar sobre la IA. Sugieren que para construir agentes verdaderamente inteligentes que puedan planificar y actuar de forma segura, necesitamos construir "Modelos de Mundo Causales". Estos modelos deben estar estructurados como el expediente de un detective: identificando a los personajes, mapeando sus relaciones y simulando las consecuencias de las acciones.

El artículo no pretende haber resuelto hoy mismo el problema de construir estos modelos. En su lugar, proporciona un marco riguroso —un conjunto de definiciones y reglas— que ayuda a los investigadores a entender qué partes del modelo pueden aprenderse de los datos y qué partes deben diseñarse cuidadosamente. Sugiere que, al dividir el problema en estas piezas más pequeñas y manejables (inferencia, estructura, transición y utilidad), podemos construir sistemas de IA que no solo adivinan el futuro, sino que comprenden verdaderamente el mundo en el que viven. Este enfoque pretende hacer que la IA sea más fiable, interpretable y capaz de manejar los cambios inesperados que ocurren en el mundo real.

Resumen Técnico: Una Perspectiva Unificadora sobre los Modelos de Mundo Causales

Declaración del Problema

El artículo aborda la ambigüedad que rodea al término "Modelo de Mundo" (WM, por sus siglas en inglés) en la Inteligación Artificial moderna. Aunque los WM se citan ampliamente como fundamentales para agentes que pueden planificar y actuar más allá de su distribución de entrenamiento, la literatura confunde distintos compromisos de modelado:

Predictores: Modelos que especifican qué es probable que suceda a continuación (p. ej., predictores de la siguiente observación).
Representaciones: Modelos que comprimen observaciones no estructuradas en variables estructuradas.
Modelos Causales: Modelos que especifican mecanismos que permiten el análisis intervencional.

Los enfoques actuales suelen tratar los WM como cajas negras no estructuradas (p. ej., Dreamer) o asumen que las variables están preespecificadas. Existe una falta de un marco unificado que conecte el aprendizaje de representación causal (recuperar variables latentes a partir de observaciones), el descubrimiento causal (recuperar relaciones causa-efecto) y la toma de decisiones basada en modelos (usar estas estructuras para un comportamiento controlado). El problema central es definir cómo transformar observaciones puras en un Modelo de Mundo Causal (CWM) que soporte el razonamiento causal, la intervención y el análisis contrafáctico, aclarando la identificabilidad de sus componentes.

Metodología y Marco Formal

Los autores proponen una definición formal de los CWM fundamentada en una progresión de "Escalera Causal" (inspirada en la jerarquía de Pearl) que se mueve desde la percepción hacia la representación, la estructura y, finalmente, la intervención.

1. Definición del Modelo de Mundo Causal (CWM)

El artículo formaliza un CWM no como un predictor monolítico, sino como un modelo de decisión estructurado definido como una tupla $\mathcal{W} = (\mathcal{X}, \mathcal{A}, \{\mathcal{R}_O\}_O, P, U)$ :

$\mathcal{X}$ : Espacio de observación (p. ej., píxeles brutos).
$\mathcal{A}$ : Espacio de acción.
$\mathcal{R}_O$ : Espacio de estados latentes relacionales para un conjunto de entidades $O$ .
$P$ : Distribuciones de transición y predicción.
$U$ : Función de utilidad sobre acciones y estados.

El modelo opera a través de una factorización específica de la distribución de decisión de un paso:
$P(x_{t+1} | x_t, a_t) = \int P(x_{t+1} | r_{t+1}) P(r_{t+1} | r_t, a_t) P(r_t | x_t) \, dr_t dr_{t+1}$

Esta factorización descompone el CWM en cinco componentes distintos:

Modelo de Inferencia ( $P(r_t | x_t)$ ): Mapea observaciones brutas $x_t$ $x_{t}$ a variables latentes indexadas por entidad $v_t$ $v_{t}$ , las cuales se ensamblan en un estado relacional estructurado $r_t$ $r_{t}$ . Esto implica dos pasos:
- $\phi$ : Mapea $x_t$ a características de entidad $v_t$ .
- $\psi_O$ : Ensambla $v_t$ en $r_t$ , donde los bloques diagonales representan atributos de la entidad y los bloques fuera de la diagonal codifican las interacciones entre entidades.
Modelo de Transición ( $P(r_{t+1} | r_t, a_t)$ ): Modela la dinámica del estado relacional dada una acción.
Modelo de Acción: Especifica cómo las acciones influyen en la transición.
Modelo de Predicción ( $P(x_{t+1} | r_{t+1})$ ): Decodifica el siguiente estado relacional de vuelta a las observaciones.
Función de Utilidad ( $U$ ): Evalúa las acciones y los estados en relación con las metas del agente.

2. Variables Relacionales y Estructura

El artículo introduce las Variables Relacionales para capturar tanto los atributos de las entidades como las interacciones. Para un conjunto de entidades $O$ , el estado $r_t$ se compone de bloques $r_{i,j}^t$ :

Diagonal ( $i=j$ ): Representa los atributos de la entidad $i$ ( $v_i^t$ ).
Fuera de la diagonal ( $i \neq j$ ): Representa las interacciones (p. ej., "el bloque A apoyado en el bloque B"), definidas como funciones $g_{i,j}(v_i^t, v_j^t)$ .

Esta estructura permite al modelo distinguir entre las propiedades intrínsecas de la entidad y los mecanismos causales que gobiernan sus interacciones.

3. Análisis de Identificabilidad

El artículo argumenta que la "identificabilidad" para los CWM debe entenderse componente por componente en lugar de como una propiedad global única. Distingue entre:

Identificabilidad Fuerte: $W_1 = W_2$ (recuperación exacta de parámetros).
Identificabilidad hasta la Equivalencia: $W_1 \sim W_2$ (los modelos difieren solo por transformaciones que preservan el significado semántico y la utilidad descendente).

Los autores definen equivalencias admisibles para cada componente (Tabla 1 en el artículo):

Estados Latentes ( $v_t$ ): Identificables hasta transformaciones afines invertibles (permutación, escalado, traslación).
Bloques de Entidad: Identificables hasta la permutación de los índices de las entidades.
Bloques Relacionales: Identificables hasta la permutación de índices y transformaciones afines elemento a elemento, siempre que se preserve la estructura de las interacciones.
Grafo Causal ( $G_r$ ): Identificable hasta la Clase de Equivalencia de Markov (MEC).
Utilidad ( $U$ ): Debe preservarse bajo la transformación $T$ aplicada al estado.

Crucialmente, el artículo enfatiza las condiciones de compatibilidad: para que las equivalencias por componente produzcan una garantía de política válida, las transformaciones deben conmutar a través de todo el proceso (codificador, transición, decodificador y utilidad). Los autores argumentan que si el codificador y el decodificador satisfacen la consistencia inversa local y el modelo de transición conmuta con la alineación del estado, entonces las políticas resultantes serían equivalentes. Esto establece las condiciones teóricas bajo las cuales tales garantías se mantienen, en lugar de presentar una prueba empírica de garantías logradas.

Contribuciones Clave

Definición Formal de CWMs: El artículo proporciona una definición rigurosa de los Modelos de Mundo Causales como Procesos de Decisión de Markov que vinculan explícitamente observaciones, representaciones relacionales latentes, estructuras causales y utilidad. Esto cierra la brecha entre el aprendizaje de representación, el descubrimiento causal y la toma de decisiones.
Marco de Identificabilidad Componente por Componente: Establece que la noción "correcta" de identificabilidad para los CWM no es la recuperación exacta, sino la recuperación hasta una equivalencia que preserve la tarea de razonamiento descendente. El artículo detalla clases de equivalencia específicas para estados latentes, estructuras relacionales y funciones de utilidad.
Descomposición Estructural: El trabajo clarifica los roles distintos del modelo de inferencia (percepción a representación), la tarea de descubrimiento causal (representación a estructura) y el modelo de decisión (estructura a intervención). Destaca que estos son problemas acoplados pero distintos que requieren diferentes supuestos.
Clarificación de la Suficiencia Causal: El artículo establece explícitamente el supuesto de suficiencia causal (sin confundidores no observados) para centrarse en la identificabilidad de la estructura latente, distinguiendo esto de los desafíos de aprender con confundidores no observados.

Resultados y Afirmaciones

El artículo no presenta experimentos empíricos ni nuevos algoritmos, sino que ofrece una unificación teórica y una clarificación conceptual:

Resultado Teórico: Demuestra que un CWM puede descomponerse en componentes aprendibles donde cada componente admite un tipo específico de identificabilidad (p. ej., invarianza de permutación para entidades, equivalencia de Markov para grafos).
Condiciones de Garantía de Política: Los autores demuestran teóricamente que si las interfaces entre los componentes (codificador, transición, decodificador, utilidad) son compatibles bajo una transformación específica $T$ , entonces las políticas óptimas derivadas de diferentes pero equivalentes CWM inducirían distribuciones de trayectoria alineadas y yield la misma utilidad acumulada esperada. Esto sirve como una condición para el desarrollo algorítmico futuro en lugar de un resultado demostrado.
Limitación de los Enfoques Actuales: El artículo argumenta que tratar los WM únicamente como modelos de transición o modelos de predicción de la siguiente observación es insuficiente para el razonamiento causal. Sin estructuras relacionales explícitas y descubrimiento causal, los agentes no pueden soportar de manera fiable el análisis intervencional o el razonamiento contrafáctico.

Significancia

La principal significancia del artículo radica en cambiar la perspectiva de los Modelos de Mundo de "predictores de caja negra" a "modelos de decisión estructurados". Al fundamentar los WM en el aprendizaje de representación causal y el descubrimiento causal, los autores proporcionan una hoja de ruta para construir agentes que puedan:

Razonar sobre intervenciones (¿qué sucede si hago X?).
Realizar razonamiento contrafáctico (¿qué habría pasado si hubiera hecho Y?).
Generalizar a cambios de distribución mediante la comprensión de los mecanismos causales subyacentes en lugar de solo las correlaciones estadísticas.

El trabajo clarifica que construir CWM robustos requiere no solo una mejor predicción, sino también el modelado explícito de las propiedades de las entidades, sus interacciones y los mecanismos causales, con límites claros sobre lo que se puede aprender de los datos frente a lo que requiere supuestos estructurales o conocimiento del dominio.