Constitutional governance for societies of AI agents in the built environment: a research agenda

La ciudad invisible de los robots

Imagina que tu ciudad no está hecha solo de ladrillo, acero y vidrio, sino que también está llena de robots invisibles y superinteligentes. No son los robots torpes de metal de las películas antiguas; son agentes de software que viven dentro de tu termostato, tu red eléctrica, tus semáforos y el software de facturación de tu casero. Su trabajo es tomar decisiones: subir o bajar la calefacción, redirigir el tráfico o negociar quién paga un tejado nuevo. Actualmente, los científicos e ingenieros los tratan principalmente como herramientas individuales, como un martillo muy inteligente. Se preguntan: "¿Es seguro este robot en particular?". Pero el artículo sostiene que esta es la forma equivocada de verlo.

Piensa en un edificio no como una máquina, sino como un mercado concurrido o un pequeño pueblo. En un pueblo, hay personas con diferentes objetivos: el casero quiere ahorrar dinero, el inquilino quiere estar caliente, la compañía eléctrica quiere equilibrar la red y la ciudad quiere reducir la contaminación. Cuando tienes todo un pueblo de estos "robots" actuando en nombre de sus jefes humanos, empiezan a jugar un juego. Pueden intentar engañarse entre sí, ocultar información o pelear por los recursos. Aquí es donde entra la Teoría de Juegos: una rama de las matemáticas que estudia cómo las personas (o los robots) toman decisiones cuando sus intereses chocan. El artículo sugiere que necesitamos un nuevo conjunto de reglas para este pueblo, similar a una Constitución. Así como la constitución de un país establece las reglas supremas que nadie puede romper, este artículo propone una "constitución digital" para nuestros edificios llenos de robots. Se trata de diseñar las reglas del juego para que, incluso si cada robot es egoísta, todo el pueblo termine en un buen lugar.

La gran idea del artículo: Una constitución para ciudades robóticas

Este artículo, escrito por Ali Ghoroghi de la Universidad de Cardiff, es una agenda de investigación. No pretende haber resuelto el problema todavía; en su lugar, traza un mapa de cómo deberíamos resolverlo antes de que las cosas se vuelvan caóticas. El autor argumenta que actualmente estamos construyendo un futuro donde agentes de IA autónomos controlarán nuestros hogares y ciudades, pero lo estamos haciendo sin un plan sobre cómo deben interactuar. Si solo hacemos que cada robot sea seguro de forma aislada, podríamos terminar con un edificio donde cada robot hace su trabajo perfectamente, pero el resultado colectivo es un desastre —como un atasco de tráfico donde cada coche conduce legalmente pero nadie puede moverse—.

El artículo propone un cambio de perspectiva: necesitamos diseñar la sociedad de agentes, no solo los agentes en sí mismos. Para lograr esto, el autor sugiere tres pilares principales de investigación, utilizando una mezcla de economía, ciencias de la computación y física.

1. El rompecabezas del "incentivo dividido": ¿Quién paga, quién gana?

Uno de los mayores problemas al renovar edificios antiguos es el "incentivo dividido". Imagina a un casero que tiene que pagar por una nueva y costosa bomba de calor, pero es el inquilino quien obtiene la factura de electricidad más baja. El casero no tiene motivos para actualizarla y el inquilino no puede permitirse pagarla. Actualmente, los gobiernos intentan solucionar esto con subsidios o leyes, pero el artículo sugiere que debemos tratar esto como un juego de negociación.

El autor propone la creación de un "Gimnasio de Negociación de Renovación" (Retrofit Negotiation Gym): una simulación por computadora donde podamos probar diferentes reglas para ver cómo lograr que caseros e inquilinos lleguen a un acuerdo. El artículo sugiere que, debido a que no conocemos el futuro (los precios de la energía podrían desplomarse o las reglas climáticas podrían cambiar), necesitamos diseñar reglas que funcionen incluso cuando todos están inseguros. Es como intentar acordar un plan de vacaciones cuando no sabes si lloverá o hará sol la próxima semana. El artículo sugiere que, a veces, la única forma de lograr un trato es que el gobierno actúe como un "mecanismo" que pague una cantidad específica para cerrar la brecha, pero necesitamos calcular exactamente cuánto pagar para que sea justo y eficiente.

2. El "Gemelo Digital" como árbitro

El segundo pilar trata sobre la seguridad. Actualmente, si un controlador robótico comete un error, podría sobrecalentar una habitación o romper una máquina. El artículo propone un nuevo tipo de "Gemelo Digital". Normalmente, un gemelo digital es solo un espejo: un modelo informático que muestra lo que está sucediendo en el edificio real. El autor quiere actualizar este espejo para convertirlo en un árbitro.

Imagina un juego donde los jugadores (los agentes de IA) proponen movimientos, como "subir la calefacción a 28 °C". Antes de que ocurra el movimiento, el árbitro (el Gemelo Digital) comprueba las reglas. Pero esto no es solo una comprobación de software; es una comprobación de física. El árbitro utiliza un modelo simplificado de la física del edificio para predecir: "Si haces esto, la habitación se calentará demasiado para las personas que están dentro". Si la predicción dice "No", la orden es bloqueada antes de que llegue al calentador. Esto es diferente a simplemente castigar al robot después; esto impide físicamente el mal resultado.

El artículo recorre un ejemplo específico: un día caluroso de verano en una oficina. La red eléctrica pide al edificio que reduzca el consumo de energía. La IA del edificio quiere subir el aire acondicionado para ahorrar dinero, pero la IA del inquilino quiere mantener la habitación fresca. El árbitro comprueba las reglas: "Podemos subir la temperatura un poco, pero nunca por encima de los 28 °C porque eso perjudica a las personas". El árbitro bloquea el movimiento peligroso, la IA del edificio intenta un movimiento más seguro y el árbitro lo aprueba. Este sistema asegura que, incluso si los agentes de IA están discutiendo, la seguridad física del edificio nunca se vea comprometida.

3. Fortalecerse desde el caos: Antifragilidad

La tercera idea trata sobre cómo manejar los choques. Normalmente, queremos que los sistemas sean "resilientes", es decir, que puedan recibir un golpe y recuperarse. Pero el artículo sugiere que deberíamos aspirar a la antifragilidad. Esta es una palabra sofisticada para sistemas que realmente se vuelven mejores cuando las cosas salen mal.

Piensa en un músculo: si levantas pesas pesadas (un choque), este se vuelve más fuerte. El artículo argumenta que nuestra infraestructura urbana debe diseñarse de modo que, cuando ocurra un choque —como una ola de calor repentina o un corte de energía—, las reglas del juego obliguen a los agentes de IA a compartir información y reasignar recursos de una manera que haga que todo el sistema sea más inteligente y eficiente. El artículo no afirma que hayamos construido esto todavía; sugiere que necesitamos diseñar las reglas para que, cuando el caos golpee, el sistema no solo sobreviva, sino que aprenda y mejore. Están analizando cómo medir esto, utilizando datos de ciudades piloto en Europa, para ver si las reglas pueden convertir un desastre en una oportunidad de aprendizaje.

Lo que esto significa para el futuro

El artículo es muy claro sobre lo que es y lo que no es. No está diciendo que ya hayamos construido estos sistemas o que sean perfectos. De hecho, admite que el "árbitro" (el Gemelo Digital) puede cometer errores, al igual que un juez humano. Si el modelo del árbitro es erróneo, podría bloquear una buena idea o dejar pasar una mala. Por lo tanto, el artículo pide un sistema donde las decisiones del árbitro puedan ser apeladas y revisadas, y donde se mantenga un registro de cada decisión para aprender de los errores.

El autor también nos advierte contra un error común: pensar que si simplemente hacemos que cada agente de IA sea "amable" o "seguro" por sí mismo, todo estará bien. El artículo argumenta que esto es como intentar solucionar los atascos de tráfico haciendo que cada conductor sea una buena persona, sin cambiar los semáforos o las reglas de circulación. La verdadera solución es escribir la Constitución: el conjunto de reglas de nivel superior que gobiernan cómo interactúan estos agentes.

El artículo concluye con un llamado a la acción para investigadores, ingenieros y responsables políticos. Necesitamos empezar a escribir estas reglas ahora, antes de que los agentes de IA tomen el control de nuestros edificios y ciudades sin un plan. Necesitamos combinar las matemáticas de la teoría de juegos, la física de los edificios y la ética del derecho para crear una sociedad donde los humanos y los robots puedan vivir juntos de forma segura y justa. Es un gran desafío, pero el artículo sugiere que, si logramos las reglas correctas, nuestras ciudades del futuro podrían ser más inteligentes, seguras y adaptables que nunca.