Constitutional governance for societies of AI agents in the built environment: a research agenda

A Cidade Invisível dos Robôs

Imagine que sua cidade não é feita apenas de tijolo, aço e vidro, mas também é preenchida por robôs invisíveis e superinteligentes. Estes não são os robôs metálicos desajeitados dos filmes antigos; são agentes de software vivendo dentro do seu termostato, da sua rede elétrica, dos seus semáforos e do software de faturamento do seu senhorio. O trabalho deles é tomar decisões: aumentar ou diminuir o calor, redirecionar o tráfego ou negociar quem paga por um telhado novo. No momento, cientistas e engenheiros estão tratando esses robôs majoritariamente como ferramentas individuais, como um martelo muito inteligente. Eles perguntam: "Este robô individual é seguro?". Mas o artigo argumenta que esta é a maneira errada de olhar para isso.

Pense em um edifício não como uma máquina, mas como um mercado movimentado ou uma pequena cidade. Em uma cidade, você tem pessoas com diferentes objetivos: o senhorio quer economizar dinheiro, o inquilino quer ficar aquecido, a empresa de energia quer equilibrar a rede e a cidade quer reduzir a poluição. Quando você tem toda uma cidade desses "robôs" agindo em nome de seus chefes humanos, eles começam a jogar um jogo. Eles podem tentar enganar uns aos outros, esconder informações ou lutar por recursos. É aqui que entra a Teoria dos Jogos — um ramo da matemática que estuda como as pessoas (ou robôs) tomam decisões quando seus interesses entram em conflito. O artigo sugere que precisamos de um novo conjunto de regras para esta cidade, semelhante a uma Constituição. Assim como a constituição de um país estabelece as regras supremas que ninguém pode quebrar, este artigo propõe uma "constituição digital" para nossos edifícios repletos de robôs. Trata-se de projetar as regras do jogo para que, mesmo que cada robô seja egoísta, a cidade inteira acabe em um bom lugar.

A Grande Ideia do Artigo: Uma Constituição para Cidades de Robôs

Este artigo, escrito por Ali Ghoroghi, da Universidade de Cardiff, é uma agenda de pesquisa. Ele não afirma ter resolvido o problema ainda; em vez disso, traça um mapa de como deveríamos resolvê-lo antes que as coisas se tornem caóticas. O autor argumenta que estamos construindo atualmente um futuro onde agentes de IA autônomos controlarão nossas casas e cidades, mas estamos fazendo isso sem um plano de como eles devem interagir. Se apenas tornarmos cada robô seguro isoladamente, podemos acabar com um edifício onde cada robô está fazendo seu trabalho perfeitamente, mas o resultado coletivo é um desastre — como um congestionamento onde todos os carros estão dirigindo legalmente, mas ninguém consegue se mover.

O artigo propõe uma mudança de perspectiva: precisamos projetar a sociedade de agentes, não apenas os próprios agentes. Para fazer isso, o autor sugere três pilares principais de pesquisa, utilizando uma mistura de economia, ciência da computação e física.

1. O Enigma do "Incentivo Dividido": Quem Paga, Quem Ganha?

Um dos maiores problemas ao atualizar edifícios antigos é o "incentivo dividido". Imagine um senhorio que tem que pagar por uma bomba de calor nova e cara, mas o inquilino é quem terá a conta de eletricidade mais baixa. O senhorio não tem razão para atualizar, e o inquilino não pode pagar por isso. Atualmente, os governos tentam corrigir isso com subsídios ou leis, mas o artigo sugere que devemos tratar isso como um jogo de negociação.

O autor propõe a criação de uma "Academia de Negociação de Retrofit" — uma simulação de computador onde podemos testar diferentes regras para ver como fazer proprietários e inquilinos entrarem em acordo. O artigo sugere que, como não conhecemos o futuro (os preços da energia podem despencar ou as regras climáticas podem mudar), precisamos projetar regras que funcionem mesmo quando todos estiverem incertos. É como tentar concordar em um plano de férias quando você não sabe se fará sol ou chuva na próxima semana. O artigo sugere que, às vezes, a única maneira de fazer um acordo acontecer é para o governo agir como um "mecanismo" que paga um valor específico para preencher a lacuna, mas precisamos calcular exatamente quanto pagar para que seja justo e eficiente.

2. O "Gêmeo Digital" como Árbitro

O segundo pilar é sobre segurança. No momento, se um controlador robótico comete um erro, ele pode superaquecer uma sala ou quebrar uma máquina. O artigo propõe um novo tipo de "Gêmeo Digital". Normalmente, um gêmeo digital é apenas um espelho — um modelo de computador que mostra o que está acontecendo no edifício real. O autor quer atualizar este espelho para um árbitro.

Imagine um jogo onde os jogadores (os agentes de IA) propõem movimentos, como "aumentar o calor para 28°C". Antes do movimento acontecer, o árbitro (o Gêmeo Digital) verifica as regras. Mas isso não é apenas uma verificação de software; é uma verificação de física. O árbitro usa um modelo simplificado da física do edifício para prever: "Se você fizer isso, a sala ficará quente demais para as pessoas lá dentro". Se a previsão disser "Não", o comando é bloqueado antes de chegar ao aquecedor. Isso é diferente de apenas punir o robô mais tarde; isso impede fisicamente o resultado ruim.

O artigo percorre um exemplo específico: um dia quente de verão em um escritório. A rede elétrica pede que o edifício reduza o consumo de energia. A IA do edifício quer aumentar o ar-condicionado para economizar dinheiro, mas a IA do inquilino quer manter a sala fresca. O árbitro verifica as regras: "Podemos aumentar o calor um pouco, mas nunca acima de 28°C porque isso prejudica as pessoas". O árbitro bloqueia o movimento perigoso, a IA do edifício tenta um movimento mais seguro e o árbitro aprova. Este sistema garante que, mesmo que os agentes de IA estejam discutindo, a segurança física do edifício nunca seja comprometida.

3. Tornando-se Mais Forte a Partir do Caos: Antifragilidade

A terceira ideia é sobre lidar com choques. Normalmente, queremos que os sistemas sejam "resilientes", o que significa que podem sofrer um impacto e se recuperar. Mas o artigo sugere que devemos visar a antifragilidade. Esta é uma palavra sofisticada para sistemas que realmente ficam melhores quando as coisas dão errado.

Pense em um músculo: se você levanta pesos pesados (um choque), ele fica mais forte. O artigo argumenta que nossa infraestrutura urbana deve ser projetada para que, quando um choque ocorrer — como uma onda de calor repentina ou uma queda de energia — as regras do jogo forcem os agentes de IA a compartilhar informações e realocar recursos de uma forma que torne o sistema inteiro mais inteligente e eficiente. O artigo não afirma que já construímos isso; ele sugere que precisamos projetar as regras para que, quando o caos atingir, o sistema não apenas sobreviva, mas aprenda e melhore. Eles estão procurando como medir isso, usando dados de cidades piloto na Europa, para ver se as regras podem transformar um desastre em uma oportunidade de aprendizado.

O Que Isso Significa para o Futuro

O artigo é muito claro sobre o que ele é e o que não é. Ele não está dizendo que já construímos esses sistemas ou que eles são perfeitos. Na verdade, admite que o "árbitro" (o Gêmeo Digital) pode cometer erros, assim como um juiz humano. Se o modelo do árbitro estiver errado, ele pode bloquear uma boa ideia ou permitir uma má. Por isso, o artigo pede um sistema onde as decisões do árbitro possam ser contestadas e verificadas, e onde mantenhamos um registro de cada decisão para aprender com os erros.

O autor também nos alerta contra um erro comum: pensar que, se apenas tornarmos cada agente de IA "gentil" ou "seguro" por conta própria, tudo ficará bem. O artigo argumenta que isso é como tentar resolver congestionamentos tornando cada motorista uma boa pessoa, sem mudar os semáforos ou as regras de trânsito. A verdadeira solução é escrever a Constituição — o conjunto de regras de nível superior que governam como esses agentes interagem.

O artigo conclui com um chamado à ação para pesquisadores, engenheiros e formuladores de políticas. Precisamos começar a escrever essas regras agora, antes que os agentes de IA assumam o controle de nossos edifícios e cidades sem um plano. Precisamos combinar a matemática da teoria dos jogos, a física dos edifícios e a ética do direito para criar uma sociedade onde humanos e robôs possam viver juntos de forma segura e justa. É um grande desafio, mas o artigo sugere que, se acertarmos as regras, nossas cidades do futuro poderão ser mais inteligentes, seguras e adaptáveis do que nunca.