Artificial Agency Program: Curiosity, compression, and communication in agents

Este artículo presenta el Programa de Agencia Artificial (AAP), una agenda de investigación que propone desarrollar sistemas de IA como agentes limitados por recursos y motivados por la curiosidad, integrando la compresión predictiva, la motivación intrínseca y la comunicación para optimizar la interacción entre humanos, herramientas y entornos dentro de un marco experimental falsable.

Lo esencial

Imagina que la Inteligencia Artificial (IA) actual es como un genio encerrado en una torre de marfil. Este genio puede leer todos los libros del mundo y responder preguntas increíbles, pero nunca ha salido al patio, no tiene manos para tocar las cosas, no se cansa, no gasta energía y, lo más importante, no tiene que tomar decisiones bajo presión.

El "Programa de Agencia Artificial" (AAP) que propone Richard Csaky en este documento dice: "Eso no es suficiente. Para que la IA sea realmente útil, debemos dejar de tratarla como un oráculo mágico y empezar a tratarla como un explorador con recursos limitados".

Aquí tienes la explicación de las ideas clave, usando analogías sencillas:

1. El Explorador con Mochila Limitada (Agentes con Recursos)

La mayoría de las IAs de hoy se entrenan con "memoria infinita" y tiempo ilimitado. Pero en la vida real, tú y yo tenemos límites: nos cansamos, tenemos poca batería, solo podemos ver lo que hay frente a nosotros y no podemos estar en dos sitios a la vez.

El programa propone diseñar IAs que sientan estos límites. Imagina a un agente no como un superordenador, sino como un explorador con una mochila pequeña.

• El problema: Si el explorador gasta toda su energía en mirar un árbol, no tendrá fuerza para cruzar el río.
• La solución: La IA debe aprender a decidir: "¿Vale la pena gastar mi poca energía en mirar esto? ¿O debería actuar ya?". La inteligencia real no es solo saber mucho, es saber cuándo pensar y cuándo actuar para no quedarse sin batería.

2. La Curiosidad como "Aprender a Aprender"

¿Por qué los niños son curiosos? No es solo porque les gusten las cosas nuevas. Es porque están aprendiendo a entender el mundo.

El programa define la curiosidad no como "ver cosas raras", sino como medir el progreso.

• La analogía: Imagina que estás aprendiendo a tocar el piano. Al principio, cada nota nueva te parece un misterio (curiosidad). Luego, aprendes una escala y de repente todo encaja (compresión).
• La IA curiosa: No busca cosas aleatorias. Busca patrones que puede entender ahora mismo y que le permitan predecir un poco mejor el futuro. Si algo es demasiado difícil (como la física cuántica para un bebé) o demasiado fácil (como el color de una pared blanca), la IA no se interesa. Se interesa en el "justo medio" donde puede mejorar su comprensión.

3. El "Cuello de Botella" de la Comunicación (El Idioma)

Hasta ahora, hemos pensado que el lenguaje (hablar o escribir) es la mejor forma de pensar. Este paper dice: "El lenguaje es solo una herramienta más, y a veces es lenta".

• La analogía: Piensa en el lenguaje como un túnel estrecho por donde pasa la información. Si tienes que explicar una imagen compleja a alguien, el lenguaje es lento y pierde detalles.
• La propuesta: La IA debería tener un "modo privado". A veces, en lugar de "pensar en voz alta" (escribir palabras), debería pensar en imágenes, sensaciones o símbolos internos que no necesitan pasar por el "túnel estrecho" del lenguaje. Solo debería usar palabras cuando necesite hablar con otros o cuando le ayude a organizar sus ideas. Es como tener un diario mental que a veces es texto, pero a veces es solo una sensación rápida que no necesitas escribir.

4. La IA y el Humano: Un Equipo de Béisbol

El autor dice que la IA no debe ser un robot independiente, sino parte de un sistema extendido (Humano + Herramienta + Entorno).

• La analogía: Imagina un equipo de béisbol. El lanzador (humano) tiene una visión amplia, pero el receptor (la IA) tiene guantes especiales y puede ver el ángulo de la pelota mejor. Si el receptor intenta lanzar la pelota él mismo, fallará. Si el lanzador intenta atraparla con las manos desnudas, se lastimará.
• El objetivo: La IA debe reducir la "fricción". Debe hacer que la información fluya mejor entre lo que tú quieres, lo que la herramienta puede hacer y lo que el entorno permite. Si la IA es difícil de usar o gasta demasiada energía, no importa cuán inteligente sea: es un mal compañero de equipo.

5. El Experimento: "Jugar a ser Limitado"

Para probar esto, los autores proponen un laboratorio de pruebas donde la IA tiene que:

1. Observar (gasta energía en mirar).
2. Actuar (gasta energía en moverse).
3. Pensar (gasta energía en calcular).

La IA debe decidir cómo repartir su "presupuesto" de energía. Si gasta todo en mirar, no puede actuar. Si actúa sin mirar, se equivoca. La meta es encontrar el equilibrio perfecto donde la IA aprende más rápido gastando menos.

En Resumen

Este documento es una hoja de ruta para crear IAs que no sean solo "enciclopedias parlantes", sino agentes prácticos que:

• Entienden que tienen límites de tiempo y energía.
• Son curiosas porque quieren mejorar su capacidad de predecir el futuro, no por aburrimiento.
• Usan el lenguaje solo cuando es necesario, y piensan de otras formas (imágenes, sensaciones) el resto del tiempo.
• Trabajan en equipo con los humanos, adaptándose a nuestras limitaciones en lugar de ignorarlas.

Es un llamado a dejar de buscar la "inteligencia infinita" y empezar a construir la inteligencia eficiente, aquella que funciona en el mundo real, con sus problemas, su ruido y su falta de tiempo.

Resumen técnico

Resumen Técnico: Programa de Agencia Artificial (AAP)

1. Problema y Motivación

El artículo identifica una desconexión fundamental en los sistemas de IA actuales (especialmente los modelos de lenguaje de gran escala): se entrenan y evalúan bajo condiciones que no reflejan las restricciones de la agencia biológica.

• Limitaciones actuales: Los sistemas dominantes a menudo ignoran la interacción incrustada en la realidad, los recursos computacionales y de memoria finitos, el sensado y la actuación limitados, y la necesidad de actuar bajo incertidumbre continua.
• El problema de la "Agencia": La mera capacidad predictiva no es suficiente si el sistema no puede ser guiado eficazmente, no está acoplado a la intención humana o no puede operar dentro de presupuestos de tiempo, energía y comunicación reales.
• Hipótesis Central: La IA es más útil cuando se trata como parte de un sistema extendido humano-herramienta que aumenta las capacidades de sensado, comprensión y actuación, reduciendo la fricción en la interfaz. La inteligencia debe entenderse como una propiedad del sistema acoplado, no solo del modelo aislado.

2. Metodología y Marco Teórico

El autor propone el Programa de Agencia Artificial (AAP), un marco unificado que integra motivación intrínseca, teoría de la información, termodinámica y racionalidad limitada.

A. Objetivos y Función de Costo

El núcleo del programa es tratar a la curiosidad como progreso de aprendizaje (no como novedad pura). El agente busca patrones donde la mejora en la compresión predictiva es máxima dado su estado actual.

Se formula una función de recompensa global $J$ que equilibra el progreso intrínseco con los costos de recursos:
$$J(\pi, p_S) = \mathbb{E} \left[ \sum_{t=1}^{T} \gamma^{t-1} \left( r_t - \lambda_O C_O(t) - \lambda_E C_E(t) - \lambda_C C_C(t) - \lambda_M C_M(t) \right) \right]$$

Donde:

• $r_t$: Recompensa intrínseca basada en la mejora de la pérdida predictiva (compresión).
• $C_O, C_E, C_C, C_M$: Costos de observación, actuación, cómputo/deliberación y mantenimiento de memoria, respectivamente.
• Premisa: El agente debe asignar un presupuesto limitado entre observar, actuar y deliberar.

B. Conceptos Clave

1. Curiosidad como Progreso de Aprendizaje: El agente es curioso sobre patrones que puede modelar y mejorar, evitando el ruido aleatorio o lo trivial. Esto impulsa la expansión de capacidades (sensado, actuación).
2. Empoderamiento y Plasticidad:
   • Empoderamiento: Capacidad de las acciones del agente para influir en observaciones futuras (capacidad del canal).
   • Plasticidad: Influencia de las observaciones en las acciones (adaptabilidad).
3. Unificación como Calidad de Interfaz: Se introduce una métrica ($U_t$) para medir la reducción de cuellos de botella entre el agente y el entorno (sensado, actuación, comunicación). El objetivo es maximizar la "informatividad" de la interfaz hasta que los costos de mejora superen los beneficios.
4. Comunicación como Cuello de Botella Selectivo: El lenguaje (y la auto-comunicación) se trata no como un modo privilegiado, sino como un canal de información con costo. Se propone el uso de tokens privados (deliberación interna) que pueden ser diferentes a los tokens de salida pública, permitiendo al agente "pensar" sin gastar recursos de comunicación innecesarios.

C. Configuración Formal

El agente se modela como un proceso controlado parcialmente observable (POMDP) donde las capacidades de sensado ($c^O$), actuación ($c^A$) y cómputo ($c^C$) son dinámicas y controlables por el agente, permitiendo que el agente invierta recursos para mejorar sus propias interfaces.

3. Contribuciones Clave

1. Programa Falsable: Define un conjunto de hipótesis comprobables (H1-H5) con criterios de confirmación y refutación claros.
2. Manifiesto de Restricciones: Propone medir la inteligencia no solo por el rendimiento bruto, sino por la proximidad a las restricciones humanas (memoria, ancho de banda, energía) y la eficiencia en el uso de recursos.
3. Arquitectura de Tokens Multimodales: Propone una taxonomía unificada de tokens (Entrada, Privado/Auto-comunicación, Salida) que permite al agente interlevar observaciones, acciones y deliberación interna de manera flexible.
4. Fronteras de Eficiencia: Introduce la idea de evaluar sistemas basándose en su distancia a la frontera de Pareto entre costo (energía/computación) y rendimiento, en lugar de solo maximizar puntuaciones de prueba.

4. Resultados Esperados y Agenda Experimental

El artículo no presenta resultados empíricos de un sistema finalizado, sino una agenda de investigación estructurada en tres etapas para validar las hipótesis:

• Etapa 1 (POMDPs Sintéticos): Entornos de rejilla con dinámicas latentes conocidas para calibrar métricas de unificación y probar la relación entre compresión predictiva y control.
• Etapa 2 (Inferencia Interactiva tipo ARC-AGI): Tareas que requieren generalización con datos escasos para probar la asignación dinámica de recursos (¿cuándo observar más? ¿cuándo pensar?).
• Etapa 3 (Meta-control Multimodal): Uso de modelos preentrenados con un controlador ligero que decide dinámicamente entre observar, actuar o deliberar internamente.

Hipótesis a validar:

• H1: La alineación pragmática entre progreso de aprendizaje y control útil.
• H2: La presión hacia la unificación de interfaces (mejorar sensores/actuadores solo si mejora el retorno a largo plazo).
• H3: La presión predictiva inducida por restricciones (costos altos fuerzan mejores estados predictivos).
• H4: La optimalidad del cómputo adaptativo (un controlador meta supera a los horarios fijos).
• H5: La utilidad de la auto-comunicación (tokens privados) para tareas de asignación de crédito a largo plazo.

5. Significado e Impacto

El programa AAP representa un cambio de paradigma en la investigación de IA:

• De la Capacidad a la Agencia: Cambia el foco de "qué tan inteligente es el modelo" a "cómo opera el sistema acoplado humano-herramienta-entorno bajo restricciones reales".
• Eficiencia Termodinámica: Vincula la inteligencia con la eficiencia energética y la gestión de la entropía, sugiriendo que la verdadera inteligencia emerge de la necesidad de predecir y controlar el entorno de manera económica.
• Diseño de Sistemas: Ofrece una guía práctica para construir agentes que no solo resuelven problemas, sino que gestionan sus propios recursos de sensado, memoria y comunicación, imitando la evolución de la agencia biológica.
• Relevancia para LLMs: Sugiere que los futuros modelos de lenguaje deben tener módulos de razonamiento que operen en estados ocultos (sin tokens de lenguaje) y que el lenguaje debe ser una herramienta selectiva, no el único medio de pensamiento.

En resumen, el AAP propone una ciencia de la agencia bajo restricciones, donde la curiosidad, la compresión y la comunicación se optimizan conjuntamente para maximizar la utilidad en un mundo físico y limitado.