Constitutional governance for societies of AI agents in the built environment: a research agenda

Die unsichtbare Stadt der Roboter

Stellen Sie sich vor, Ihre Stadt bestünde nicht nur aus Backstein, Stahl und Glas, sondern wäre auch erfüllt von unsichtbaren, superintelligenten Robotern. Dies sind keine klobigen Metallwesen aus alten Filmen; es sind Software-Agenten, die in Ihrem Thermostat, Ihrem Stromnetz, Ihren Ampeln und der Abrechnungssoftware Ihres Vermieters leben. Ihre Aufgabe ist es, Entscheidungen zu treffen: die Heizung hoch oder runter zu drehen, den Verkehr umzuleiten oder auszuhandeln, wer für ein neues Dach bezahlt. Momentan behandeln Wissenschaftler und Ingenieure diese Roboter hauptsächlich wie einzelne Werkzeuge, wie einen sehr intelligenten Hammer. Sie fragen: „Ist dieser eine Roboter sicher?“ Aber das Papier argumentiert, dass dies der falsche Weg ist, es zu betrachten.

Betrachten Sie ein Gebäude nicht als Maschine, sondern als einen belebten Marktplatz oder eine kleine Stadt. In einer Stadt gibt es Menschen mit unterschiedlichen Zielen: Der Vermieter möchte Geld sparen, der Mieter möchte es warm haben, das Energieunternehmen möchte das Netz ausbalancieren und die Stadt möchte die Verschmutzung reduzieren. Wenn Sie eine ganze Stadt aus diesen „Robotern“ haben, die im Namen ihrer menschlichen Chefs handeln, beginnen sie, ein Spiel zu spielen. Sie versuchen vielleicht, einander zu täuschen, Informationen zu verbergen oder um Ressourcen zu kämpfen. Hier kommt die Spieltheorie ins Spiel – ein Zweig der Mathematik, der untersucht, wie Menschen (oder Roboter) Entscheidungen treffen, wenn ihre Interessen kollidieren. Das Papier schlägt vor, dass wir neue Regeln für diese Stadt brauchen, ähnlich einer Verfassung. Genau wie die Verfassung eines Landes die höchsten Regeln festlegt, die niemand brechen darf, schlägt dieses Papier eine „digitale Verfassung“ für unsere roboterbesetzten Gebäude vor. Es geht darum, die Regeln des Spiels so zu gestalten, dass die ganze Stadt am Ende an einem guten Ort landet, selbst wenn jeder Roboter egoistisch ist.

Die große Idee des Papiers: Eine Verfassung für Roboterstädte

Dieses Papier, geschrieben von Ali Ghoroghi von der Cardiff University, ist eine Forschungsagenda. Es behauptet nicht, das Problem bereits gelöst zu haben; stattdin skizziert es eine Landkarte dafür, wie wir es lösen sollten, bevor es chaotisch wird. Der Autor argumentet, dass wir gerade dabei sind, eine Zukunft zu bauen, in der autonome KI-Agenten unsere Häuser und Städte kontrollieren werden, aber wir tun dies ohne einen Plan dafür, wie sie miteinander interagieren sollen. Wenn wir jeden Roboter isoliert betrachtet nur sicher machen, könnten wir am Ende ein Gebäude haben, in dem jeder Roboter seine Arbeit perfekt erledigt, aber das kollektive Ergebnis eine Katastrophe ist – wie ein Stau, bei dem jedes Auto legal fährt, aber niemand vorankommt.

Das Papier schlägt einen Perspektivwechsel vor: Wir müssen die Gesellschaft der Agenten entwerfen, nicht nur die Agenten selbst. Um dies zu erreichen, schlägt der Autor drei Hauptsäulen der Forschung vor, die eine Mischung aus Wirtschaftswissenschaften, Informatik und Physik nutzen.

1. Das Rätsel der „geteilten Anreize“: Wer zahlt, wer gewinnt?

Eines der größten Probleme bei der Modernisierung alter Gebäude ist der „geteilte Anreiz“ (Split Incentive). Stellen Sie sich einen Vermieter vor, der eine neue, teure Wärmepumpe bezahlen muss, aber der Mieter ist derjen derjenige, der die niedrigeren Stromkosten profitiert. Der Vermieter hat keinen Grund zur Modernisierung, und der Mieter kann es sich nicht leisten, dafür zu bezahlen. Derzeit versuchen Regierungen, dies durch Subventionen oder Gesetze zu lösen, aber das Papier schlägt vor, dies als ein Verhandlungspiel zu behandeln.

Der Autor schlägt die Schaffung eines „Retrofit Negotiation Gym“ vor – einer Computersimulation, in der wir verschiedene Regeln testen können, um zu sehen, wie wir Vermieter und Mieter dazu bringen, sich zu einigen. Das Papier legt nahe, dass wir, da wir die Zukunft nicht kennen (die Energiepreise könnten abstürzen oder die Klimavorschriften könnten sich ändern), Regeln entwerfen müssen, die funktionieren, selbst wenn alle unsicher sind. Es ist, als würde man versuchen, einen Urlaubsplan zu vereinbaren, wenn man nicht weiß, ob es nächste Woche regnen oder die Sonne scheinen wird. Das Papier schlägt vor, dass manchmal der einzige Weg, einen Deal zustande zu bringen, darin besteht, dass die Regierung als ein „Mechanismus“ agiert, der einen spezifischen Betrag zahlt, um die Lücke zu schließen, aber wir müssen genau berechnen, wie viel wir zahlen müssen, damit es fair und effizient ist.

2. Der „Digitale Zwilling“ als Schiedsrichter

Die zweite Säule betrifft die Sicherheit. Momentan könnte es passieren, dass ein Roboter-Controller einen Fehler macht, einen Raum überhitzt oder eine Maschine beschädigt. Das Papier schlägt eine neue Art von „Digitalem Zwilling“ vor. Normalerweise ist ein digitaler Zwilling nur ein Spiegel – ein Computermodell, das zeigt, was im realen Gebäude passiert. Der Autor möchte diesen Spiegel in einen Schiedsrichter verwandlich.

Stellen Sie sich ein Spiel vor, bei dem Spieler (die KI-Agenten) Spielzüge vorschlagen, wie zum Beispiel: „Die Heizung auf 28 °C stellen“. Bevor der Zug ausgeführt wird, prüft der Schiedsrichter (der Digitale Zwilling) die Regeln. Aber dies ist nicht nur eine Softwareprüfung; es ist eine Physikprüfung. Der Schiedsrichter nutzt ein vereinfachtes Modell der Physik des Gebäudes, um vorherzusagen: „Wenn Sie das tun, wird der Raum für die Menschen darin zu heiß werden.“ Wenn die Vorhersage sagt „Nein“, wird der Befehl blockiert, bevor er jemals die Heizung erreicht. Dies unterscheidet sich davon, den Roboter später einfach nur zu bestrafen; es verhindert die schlechte Folge physisch.

Das Papier führt ein spezifisches Beispiel aus: ein heißer Sommertag in einem Büro. Das Stromnetz bittet das Gebäude, den Energieverbrauch zu senken. Die KI des Gebäudes möchte die Klimaanlage hochfahren, um Geld zu sparen, aber die KI des Mieters möchte den Raum kühl halten. Der Schiedsrichter prüft die Regeln: „Wir können die Hitze ein wenig erhöhen, aber niemals über 28 °C, da dies Menschen schadet.“ Der Schiedsrichter blockiert den gefährlichen Zug, die Gebäude-KI versucht einen sichereren Zug, und der Schiedsrichter genehmigt ihn. Dieses System stellt sicher, dass selbst wenn die KI-Agenten streiten, die physische Sicherheit des Gebäudes niemals gefährdet wird.

3. Aus dem Chaos gestärkt werden: Antifragilität

Die dritte Idee handelt vom Umgang mit Erschütterungen. Normalerweise wollen wir Systeme „resilient“ (widerstandsfähig) machen, was bedeutet, dass sie einen Schlag verkraften und wieder auf die Beine kommen können. Aber das Papier schlägt vor, dass wir auf Antifragilität abzielen sollten. Dies ist ein schicker Begriff für Systeme, die tatsächlich besser werden, wenn etwas schiefgeht.

Denken Sie an einen Muskel: Wenn Sie schwere Gewichte heben (eine Erschütterung), wird er stärker. Das Papier argumentt, dass unsere Infrastruktur so gestaltet werden sollte, dass bei einer Erschütterung – wie einer plötzlichen Hitzewelle oder einem Stromausfall – die Regeln des Spiels die KI-Agenten dazu zwingen, Informationen zu teilen und Ressourcen so umzuverteilen, dass das gesamte System intelligenter und effizienter wird. Das Papier behauptet nicht, dass wir dies bereits gebaut haben; es schlägt vor, dass wir die Regeln so gestalten müssen, dass das System, wenn das Chaos ausbricht, nicht nur überlebt, sondern lernt und sich verbessert. Sie untersuchen, wie man dies misst, unter Verwendung von Daten aus Pilotstädten in Europa, um zu sehen, ob die Regeln das Chaos in eine Lernchance verwandeln können.

Was dies für die Zukunft bedeutet

Das Papier ist sich sehr klar darüber, was es ist und was nicht. Es behauptet nicht, dass wir diese Systeme bereits gebaut haben oder dass sie perfekt sind. Tatsächlich gibt es zu, dass der „Schiedsrichter“ (der Digitale Zwilling) Fehler machen kann, genau wie ein menschlicher Richter. Wenn das Modell des Schiedsrichters falsch ist, könnte er eine gute Idee blockieren oder eine schlechte durchlassen. Daher fordert das Papier ein System, in dem die Entscheidungen des Schiedsrichters angefochten und überprüft werden können und in dem wir jede Entscheidung protokollieren, um aus Fehlern zu lernen.

Der Autor warnt uns auch vor einem häufigen Fehler: zu glauben, dass alles gut wird, wenn wir einfach jeden KI-Agenten für sich allein „nett“ oder „sicher“ machen. Das Papier argumentt, dass dies so ist, als würde man versuchen, Staus zu lösen, indem man jeden Autofahrer zu einem guten Menschen macht, ohne die Ampeln oder die Verkehrsregeln zu ändern. Die wahre Lösung besteht darin, die Verfassung zu schreiben – den Satz höherrangiger Regeln, die regeln, wie diese Agenten interagieren.

Das Papier schließt mit einem Aufruf zum Handeln an Forscher, Ingenieure und politische Entscheidungsträger. Wir müssen anfangen, diese Regeln jetzt zu schreiben, bevor die KI-Agenten unsere Gebäude und Städte ohne einen Plan übernehmen. Wir müssen die Mathematik der Spieltheorie, die Physik der Gebäude und die Ethik des Rechts kombinieren, um eine Gesellschaft zu schaffen, in der Menschen und Roboter sicher und fair zusammenleben können. Es ist eine große Herausforderung, aber das Papier legt nahe, dass unsere Städte der Zukunft intelligenter, sicherer und anpassungsfähiger sein könnten, wenn wir die Regeln richtig gestalten.