💬 NLP

PACE: Procedural Abstractions for Communicating Efficiently

El método PACE utiliza un enfoque neuro-simbólico que combina el aprendizaje de librerías simbólicas con algoritmos de aprendizaje por refuerzo y de banda para superar las limitaciones de los métodos anteriores, permitiendo que agentes de IA desarrollen abstracciones comunicativas eficientes y similares a las humanas en tareas colaborativas.

Autores originales: Jonathan D. Thomas, Andrea Silvi, Devdatt Dubhashi, Moa Johansson

Publicado 2026-02-26

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Jonathan D. Thomas, Andrea Silvi, Devdatt Dubhashi, Moa Johansson

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que dos personas, un Arquitecto y un Constructor, tienen que trabajar juntas para construir una torre de bloques. El Arquitecto ve el diseño final en su pantalla, pero el Constructor no. El Arquitecto debe darle instrucciones al Constructor para que pueda recrear el diseño pieza por pieza.

Al principio, es muy difícil. El Arquitecto tiene que decir cosas largas y complicadas como: "Pon un bloque horizontal aquí, luego uno vertical allá, luego otro horizontal...". Esto es lento y propenso a errores.

Aquí es donde entra la idea de este paper, llamado PACE.

La Analogía: Crear un "Código Secreto"

Imagina que después de jugar muchas veces, el Arquitecto se da cuenta de que a menudo usa la misma secuencia de bloques (por ejemplo, una torre de dos bloques verticales). En lugar de repetir la instrucción larga cada vez, el Arquitecto decide inventar una palabra nueva o un gesto secreto para esa forma específica.

Antes: "Pon un bloque vertical, luego otro vertical encima". (Largo y tedioso).
Después (con PACE): "Pon una 'Torre'". (Corto y eficiente).

El Constructor, al principio, no sabe qué significa "Torre". Pero con el tiempo, aprende que cuando el Arquitecto dice "Torre", debe poner esos dos bloques. ¡Y así, la comunicación se vuelve más rápida y eficiente!

¿Qué hace PACE diferente?

Los científicos han intentado enseñar a las computadoras a hacer esto antes, pero solían asumir cosas poco realistas, como si el Constructor ya supiera el significado de las palabras nuevas mágicamente.

PACE es especial porque es un equipo de dos tipos de "cerebros" trabajando juntos:

El Cerebro Simbólico (El Lógico): Es como un bibliotecario muy organizado. Observa todas las instrucciones que se han usado y dice: "Oye, esta secuencia de bloques aparece mucho. Vamos a crear un nuevo 'término' en nuestro diccionario para ahorrar espacio".
El Cerebro Neural (El Intuitivo): Es como un niño aprendiendo un idioma nuevo. Aprende a enviar mensajes (instrucciones) y a entenderlos a través de la práctica, sin reglas predefinidas.

El Truco del "Explorador":
Aquí viene la parte más genial. Cuando el Arquitecto quiere usar una palabra nueva (una abstracción), no la impone de golpe. Usa una estrategia inteligente (llamada algoritmo de banda o bandit) que funciona como un juego de apuestas:

Si la palabra nueva funciona bien y el Constructor la entiende, el Arquitecto la usa más (apuesta por la ganancia).
Si la palabra nueva confunde al Constructor y la torre se cae, el Arquitecto deja de usarla y vuelve a las instrucciones largas (apuesta por la seguridad).

Esto permite que el lenguaje evolucione de forma natural, probando nuevas ideas pero manteniendo la comunicación efectiva.

¿Qué descubrieron?

Como los humanos: Al igual que en la vida real, los agentes de PACE empezaron hablando mucho y lento, y con el tiempo crearon un lenguaje corto y eficiente.
No todo sirve: No todas las palabras nuevas se quedan. Si una forma es muy rara o muy difícil de entender, el sistema la descarta. Solo se quedan las "abstracciones" que son útiles y fáciles de aprender (como la "Torre" o una "L").
El equilibrio perfecto: El sistema encuentra un punto dulce. No quiere un lenguaje tan corto que sea incomprensible, ni tan largo que sea lento. Busca el equilibrio perfecto entre ser breve y ser claro.

En resumen

Este paper nos muestra cómo dos inteligencias artificiales pueden inventar su propio idioma para trabajar mejor juntas. No solo aprenden a construir bloques, sino que aprenden a comunicarse de forma inteligente, creando atajos mentales (abstracciones) que hacen que su colaboración sea más rápida y fluida, tal como lo hacemos nosotros los humanos cuando trabajamos en equipo.

Es un paso gigante para que, en el futuro, las computadoras puedan entender nuestras instrucciones complejas y aprender a hablar nuestro lenguaje de manera más natural y eficiente.

1. El Problema

Un aspecto central pero no resuelto en la inteligencia artificial es la capacidad de introducir y utilizar abstracciones de manera eficiente, una habilidad que los humanos dominan naturalmente. En tareas colaborativas, los humanos tienden a desarrollar abstracciones procedimentales (como "amasar" en cocina o "L" en construcción) para acortar sus comunicaciones y reducir la carga cognitiva.

Los métodos computacionales existentes para replicar este fenómeno presentan limitaciones significativas:

A menudo asumen que las abstracciones se introducen y aprenden de formas poco realistas.
Algunos modelos asumen un mapeo predefinido de instrucciones a acciones, ignorando el proceso de aprendizaje interactivo.
Otros simplifican la dinámica al asumir que el agente receptor entiende las abstracciones inmediatamente, eliminando la presión real por una comunicación eficiente.

El objetivo es crear un marco donde agentes artificiales puedan aprender a colaborar, desarrollar un lenguaje compartido y, a través de la presión de la eficiencia, introducir abstracciones que simplifiquen las instrucciones sin perder precisión.

2. Metodología: PACE

Los autores proponen PACE (Procedural Abstractions for Communicating Efficiently), un enfoque neuro-simbólico que integra tres fases principales en un juego repetido de "Arquitecto-Constructor".

Configuración del Entorno

Juego: Dos agentes (Arquitecto y Constructor) deben reconstruir una escena de bloques en una cuadrícula de 9x9.
Arquitecto: Observa la escena objetivo y genera instrucciones. Es un agente neuro-simbólico: construye programas simbólicos y los codifica en mensajes neuronales.
Constructor: No ve la escena original; recibe los mensajes y debe reconstruir la escena paso a paso. Es un agente puramente neuronal.

Las Tres Fases de PACE

Selección de Programas (Exploración vs. Explotación):
- El arquitecto tiene un conjunto de programas simbólicos para describir escenas. Inicialmente, usa primitivas básicas (bloques horizontales y verticales).
- A medida que se introducen abstracciones, hay múltiples programas de diferentes longitudes disponibles para una misma escena.
- Se utiliza un algoritmo de bandita contextual (Contextual Multi-Armed Bandit) para decidir qué programa enviar. Se mantiene una tabla de valores Q para cada acción, calculando la calidad del programa como el producto de los Q-values de sus acciones ( $Q(p) = \prod \gamma Q(a_i)$ ).
- Se emplea una estrategia $\epsilon$ -greedy para equilibrar la exploración de nuevos programas (abstracciones) con la explotación de los conocidos.
Comunicación (Emergent Communication - EC):
- Una vez seleccionado un programa, el arquitecto y el constructor juegan un juego de señalización paso a paso.
- El arquitecto aprende una política neuronal ( $\pi_{comm}$ ) para codificar la acción simbólica en un mensaje discreto.
- El constructor aprende una política ( $\pi_{bldr}$ ) para decodificar el mensaje y predecir el siguiente estado de la cuadrícula.
- Se utiliza la relajación Gumbel-Softmax para permitir el entrenamiento end-to-end diferenciable con mensajes discretos.
- El objetivo es minimizar la pérdida de entropía cruzada entre el estado objetivo y el reconstruido, fomentando que los mensajes sean informativos.
Introducción de Abstracciones (Library Learning):
- Tras varias rondas de comunicación, el arquitecto entra en una fase de abstracción.
- Utiliza un mecanismo de aprendizaje de bibliotecas (Library Learning) para identificar subsecuencias comunes en los programas existentes.
- Evalúa candidatos a nuevas abstracciones maximizando la probabilidad de los programas dados el nuevo vocabulario, basándose en el Longitud Mínima de Descripción (MDL).
- Si una abstracción reduce la longitud promedio de los programas, se añade al vocabulario simbólico del arquitecto, creando nuevas opciones más cortas para las escenas relevantes.

3. Contribuciones Clave

Marco Neuro-Simbólico Unificado: PACE combina la síntesis de programas (simbólico) con el aprendizaje por refuerzo y la comunicación emergente (neuronal) para modelar la evolución del lenguaje.
Mecanismo de Selección de Abstracciones: Introduce el uso de algoritmos de bandita para gestionar la tensión entre usar programas cortos pero no aprendidos (nuevas abstracciones) y programas largos pero establecidos, resolviendo el problema de la exploración en la evolución del lenguaje.
Sin Suposiciones Simplificadoras: A diferencia de trabajos previos, PACE no asume que el constructor entiende las abstracciones de inmediato; el lenguaje y las abstracciones evolucionan orgánicamente a través de la interacción y la recompensa.
Conexión con la Comunicación Eficiente: Demuestra empíricamente que las presiones de eficiencia (minimizar la complejidad morfosintáctica manteniendo la precisión) guían la selección de qué abstracciones se adoptan y cuáles se descartan.

4. Resultados

Los experimentos se realizaron en el juego Arquitecto-Constructor con un conjunto de datos ampliado (961 escenas, 31 formas únicas). Se comparó PACE con dos líneas base: "Sin abstracciones" y "Greedy" (que siempre elige el programa más corto sin explorar).

Reducción de Complejidad: PACE logró reducir consistentemente la complejidad morfosintáctica promedio (de ~9.95 a ~4.92), acercándose a la eficiencia humana.
Estabilidad vs. Greedy: Mientras que el enfoque "Greedy" reducía la longitud del programa más rápido, sufría caídas drásticas en la precisión de reconstrucción al introducir abstracciones y no lograba recuperarse. PACE, al gestionar la exploración, mantuvo una alta precisión mientras reducía la longitud.
Convergencia del Lenguaje: El modelo converge naturalmente a un lenguaje estable donde no se introducen más abstracciones. Esto ocurre porque, a medida que el lenguaje crece, las nuevas abstracciones que no están cerca de la "Frontera de Pareto" (trade-off entre longitud del programa y tamaño del vocabulario) son demasiado difíciles de aprender para el constructor y son descartadas por el arquitecto.
Factores de Adopción: Las abstracciones que se adoptan son aquellas que son frecuentes en los datos y ofrecen una reducción significativa en la longitud del programa sin aumentar excesivamente la dificultad de aprendizaje. Las abstracciones raras o complejas (como una "H" rotada en el estudio) fueron descartadas.

5. Significado e Impacto

Insights Cognitivos: El trabajo proporciona una visión mecanicista de cómo la presión por la eficiencia en la comunicación moldea la estructura del lenguaje y la adopción de abstracciones, validando teorías de ciencias cognitivas sobre la evolución del lenguaje.
Agentes Conversacionales: Es un primer paso hacia dotar a agentes conversacionales de la capacidad de desarrollar abstracciones procedimentales similares a las humanas, facilitando la cooperación en tareas complejas.
Puente Teórico: Conecta el aprendizaje de abstracciones procedimentales con la teoría de la comunicación eficiente, demostrando que los lenguajes más óptimos (en términos de complejidad vs. tamaño) son los más fáciles de aprender.
Futuro: Abre la puerta a investigar cómo los Grandes Modelos de Lenguaje (LLMs) pueden entender y razonar sobre estas dinámicas conversacionales, mejorando la interacción humano-agente en instrucciones procedimentales.

En resumen, PACE demuestra que es posible crear agentes artificiales que, mediante la interacción colaborativa y la presión por la eficiencia, desarrollan un lenguaje rico y compacto, imitando la capacidad humana de abstraer y comunicar de manera óptima.