Constitutional governance for societies of AI agents in the built environment: a research agenda

De Onzichtbare Stad van Robots

Stel je voor dat je stad niet alleen bestaat uit baksteen, staal en glas, maar ook gevuld is met onzichtbare, superintelligente robots. Dit zijn geen lompe metalen wezens uit oude films; het zijn software-agenten die leven in je thermostaat, je elektriciteitsnet, je verkeerslichten en de facturatiesoftware van je huisbaas. Hun taak is om beslissingen te nemen: de verwarming hoger of lager zetten, het verkeer omleiden of onderhandelen over wie betaalt voor een nieuw dak. Op dit moment behandelen wetenschappers en ingenieurs deze robots vooral als individuele hulpmiddelen, zoals een zeer slimme hamer. Ze vragen: "Is deze ene robot veilig?" Maar het artikel betoogt dat dit de verkeerde manier is om ernaar te kijken.

Beschouw een gebouw niet als een machine, maar als een drukke markt of een klein stadje. In een stad heb je mensen met verschillende doelen: de huisbaas wil geld besparen, de huurder wil het warm hebben, het elektriciteitsbedrijf wil het net in balans houden en de stad wil de vervuiling verminderen. Wanneer je een hele stad van deze "robots" hebt die handelen namens hun menselijke bazen, beginnen ze een spel te spelen. Ze kunnen proberen elkaar te bedriegen, informatie achter te houden of te vechten om middelen. Dit is waar Speltheorie om de hoek komt kijken—een tak van de wiskunde die bestudeert hoe mensen (of robots) beslissingen nemen wanneer hun belangen botsen. Het artikel suggerekt dat we nieuwe regels nodig hebben voor dit stadje, vergelijkbaar met een Grondwet. Net zoals de grondwet van een land de hoogste regels vastlegt die niemand mag breken, stelt dit artikel een "digitale grondwet" voor voor onze door robots gevulde gebouwen. Het gaat om het ontwerpen van de spelregels, zodat zelfs als elke robot egoïstisch is, de hele stad uiteindelijk op een goede plek uitkomt.

Het Grote Idee van het Papier: Een Grondwet voor Robotsteden

Dit artikel, geschreven door Ali Ghoroghi van Cardiff University, is een onderzoeksagenda. Het beweert niet dat het het probleem al heeft opgelost; in plaats daarvan schetst het een kaart van hoe we het zouden moeten oplossen voordat de chaos uitbreekt. De auteur betoogt dat we momenteel een toekomst bouwen waarin autonome AI-agenten onze huizen en steden zullen controleren, maar dat we dit doen zonder een plan voor hoe zij met elkaar moeten omgaan. Als we elke robot alleen in isolatie veilig maken, kunnen we eindigen met een gebouw waar elke robot zijn werk perfect doet, maar het collectieve resultaat een ramp is—zoals een verkeersopstopping waarbij elke auto legaal rijdt, maar niemand kan bewegen.

Het artikel stelt een verschuiving in perspectief voor: we moeten de samenleving van agenten ontwerpen, niet alleen de agenten zelf. Om dit te bereiken, stelt de auteur drie hoofdpijlers van onderzoek voor, met een combinatie van economie, informatica en natuurkunde.

1. De "Split Incentive"-puzzel: Wie betaalt, wie wint?

Een van de grootste problemen bij het upgraden van oude gebouwen is de "split incentive" (gesplitste prikkel). Stel je een huisbaas voor die moet betalen voor een nieuwe, dure warmtepomp, terwijl de huurder degene is die de lagere elektriciteitsrekening krijgt. De huisbaas heeft geen reden om te upgraden, en de huurder kan het zich niet veroorloven om ervoor te betalen. Momenteel proberen overheden dit op te lossen met subsidies of wetgeving, maar het artikel suggereert dat we dit als een onderhandelingsspel moeten behandelen.

De auteur stelt het creëren van een "Retrofit Negotiation Gym" voor—een computersimulatie waar we verschillende regels kunnen testen om te zien hoe we huisbazen en huurders tot een overeenkomst kunnen laten komen. Het artikel suggereert dat omdat we de toekomst niet kennen (energieprijzen kunnen instorten, of klimaatregels kunnen veranderen), we regels moeten ontwerpen die werken zelfs wanneer iedereen onzeker is. Het is alsof je probeert een vakantieplan af te stemmen wanneer je niet weet of het volgende week regent of de zon schijnt. Het artikel suggereert dat soms de enige manier om een deal te sluiten is door de overheid te laten optreden als een "mechanisme" dat een specifiek bedrag betaalt om het gat te overbruggen, maar we moeten precies berekenen hoeveel we moeten betalen zodat het eerlijk en efficiënt is.

2. De "Digital Twin" als scheidsrechter

De tweede pijler gaat over veiligheid. Op dit moment, als een robotcontroller een fout maakt, kan het een kamer oververhitten of een machine beschadigen. Het artikel stelt een nieuw soort "Digital Twin" (digitale tweeling) voor. Meestal is een digitale tweeling slechts een spiegel—een computermodel dat laat zien wat er in het echte gebouw gebeurt. De auteur wil deze spiegel upgraden naar een scheidsrechter.

Stel je een spel voor waarbij spelers (de AI-agenten) zetten voorstellen doen, zoals "zet de verwarming op 28°C." Voordat de zet wordt uitgevoerd, controleert de scheidsrechter (de Digital Twin) de regels. Maar dit is niet alleen een softwarematige controle; het is een natuurkundige controle. De scheidsrechter gebruikt een vereenvoudigd model van de fysica van het gebouw om te voorspellen: "Als je dit doet, wordt de kamer te warm voor de mensen binnen." Als de voorspelling zegt "Nee", wordt het commando geblokkeerd voordat het ooit de verwarming bereikt. Dit is anders dan alleen de robot achteraf straffen; het voorkomt fysiek de slechte uitkomst.

Het artikel loopt een specifiek voorbeeld door: een hete zomerdag in een kantoor. Het elektriciteitsnet vraagt het gebouw om het energieverbruik te verlagen. De AI van het gebouw wil de airconditioning hoger zetten om geld te besparen, maar de AI van de huurder wil de kamer koel houden. De scheidsrechter controleert de regels: "We kunnen de warmte een beetje verhogen, maar nooit boven de 28°C, want dat is slecht voor mensen." De scheidsrechter blokkeert de gevaarlijke zet, de AI van het gebouw probeert een veiligere zet, en de scheidsrechter keurt deze goed. Dit systeem zorgt ervoor dat zelfs als de AI-agenten met elkaar in discussie zijn, de fysieke veiligheid van het gebouw nooit in gevaar komt.

3. Sterker worden door chaos: Antifragiliteit

Het derde idee gaat over het omgaan met schokken. Meestal willen we dat systemen "veerkrachtig" (resilient) zijn, wat betekent dat ze een klap kunnen opvangen en kunnen herstellen. Maar het artikel suggereert dat we moeten streven naar antifragiliteit. Dit is een chic woord voor systemen die juist beter worden als er dingen misgaan.

Denk aan een spier: als je zware gewichten tilt (een schok), wordt deze sterker. Het artikel betoogt dat onze stedelijke infrastructuur zo ontworpen moet worden dat wanneer een schok optreedt—zoals een plotselinge hittegolf of een stroomstoring—de spelregels de AI-agenten dwingen om informatie te delen en middelen te herverdelen op een manier die het hele systeem slimmer en efficiënter maakt. Het artikel beweert niet dat we dit al gebouwd hebben; het suggereert dat we de regels moeten ontwerpen zodat het systeem, wanneer chaos toeslaat, niet alleen overleeft, maar ook leert en verbetert. Ze kijken naar hoe ze dit kunnen meten, met behulp van gegevens uit pilotsteden in Europa, om te zien of de regels de chaos in een leermoment kunnen veranderen.

Wat dit betekent voor de toekomst

Het artikel is zeer duidelijk over wat het wel en niet is. Het beweert niet dat we deze systemen al gebouwd hebben of dat ze perfect zijn. Sterker nog, het geeft toe dat de "scheidsrechter" (de Digital Twin) fouten kan maken, net als een menselijke rechter. Als het model van de scheidsrechter foutief is, kan het een goed idee blokkeren of een slecht idee doorlaten. Daarom roept het artikel op tot een systeem waarbij de beslissingen van de scheidsrechter kunnen worden aangevochten en gecontroleerd, en waarbij we elke beslissing bijhouden om van fouten te leren.

De auteur waarschuwt ons ook voor een veelvoorkomende fout: denken dat als we elke AI-agent op zichzelf maar "aardig" of "veilig" maken, alles wel goed zal gaan. Het artikel stelt dat dit vergelijkbaar is met het proberen op te lossen van verkeersopstoppingen door elke bestuurder een goed mens te maken, zonder de verkeerslichten of de verkeersregels te veranderen. De echte oplossing is het schrijven van de Grondwet—de hogere regels die bepalen hoe deze agenten met elkaar omgaan.

Het artikel concludeert met een oproep tot actie voor onderzoekers, ingenieurs en beleidsmakers. We moeten nu beginnen met het schrijven van deze regels, voordat de AI-agenten onze gebouwen en steden overnemen zonder een plan. We moeten de wiskunde van speltheorie, de natuurkunde van gebouwen en de ethiek van het recht combineren om een samenleving te creëren waarin mensen en robots veilig en eerlijk samen kunnen leven. Het is een grote uitdaging, maar het artikel suggereert dat als we de regels goed krijgen, onze toekomstige steden slimmer, veiliger en aanpasbaarder kunnen zijn dan ooit tevoren.