Frontier Technologies, Complex Externalities, and the Evolution of Private Order: Implications for AI Governance

Wenn eine neue Technologie aufkommt, bringt sie mit sich das Versprechen von Nutzen und den Schatten des Risikos. Oft bleibt die wahre Natur dieses Risikos verborgen, bis die Technologie tatsächlich in der realen Welt eingesetzt wird. Dies gilt insbesondere für die Künstliche Intelligenz, ein Werkzeug, das die Art und Weise, wie wir leben, arbeiten und kommunizieren, grundlegend verändern kann. Da die Gefahren so komplex sind und von spezifischen Situationen abhängen, ist es für niemanden, auch nicht für Regierungsvertreter, schwierig, die perfekten Regeln zu formulieren, noch bevor die Technologie überhaupt eingesetzt wird. Die zentrale Frage, vor der die Gesellschaft steht, ist nicht nur, wie man schlechte Ergebnisse verhindert, sondern wie man die richtigen Wege entdeckt, um diese Risiken zu managen, während man mehr über sie erfährt. Dies beinhaltet das Verständnis von „Externalitäten“ – ein Begriff, den Ökonomen verwenden, um Kosten oder Vorteile zu beschreiben, die Menschen betreffen, die nicht Teil des ursprünglichen Geschäfts waren. Wenn eine neue Technologie Probleme für Nachbarn oder Fremde schafft, dann sind diese Probleme Externalitäten. Die Herausforderung besteht darin, dass diese Externalitäten oft so verworren und unvorhersehbar sind, dass keine einzelne Behörde sie im Voraus kartografieren kann.

Zwei Forscher, Ali Palida und Nicholas Thielman, machten sich daran, einen anderen Blickwinkel auf dieses Problem zu untersuchen. Anstatt zu fragen, wie die Regierung Künstliche Intelligenz regulieren sollte, fragten sie, wie staatliche Regulierung private Gruppen daran hindern könnte, ihre eigenen Lösungen zu finden. Sie argumenten, dass der Prozess der Nutzung einer neuen Technologie eine Form der Entdeckung ist. Durch das Ausprobieren lernen Menschen, was funktioniert, was scheitert und wer geschützt werden muss. Dieser Lernprozess ermöglicht es privaten Gruppen – wie Versicherungsgesellschaften, Sicherheitszertifizierern oder sogar Nachbarn, die miteinander verhandeln – flexible Regeln zu entwickeln, die zur spezifischen Situation passen. Die Autoren legen nahe, dass, wenn die Regierung zu früh mit einem strengen Verbot oder einer starren Regel eingreift, sie genau die Experimente blockieren könnte, die notwendig sind, um den besten Weg zur Steuerung der Technologie zu finden.

Um diese Idee zu testen, betrachteten die Forscher drei historische Beispiele, in denen neue Technologien vor ähnlichen Unsicherheiten standen. Das erste Beispiel betrifft die Elektrizität in den späten 1800er Jahren. Als elektrisches Licht und Stromleitungen erstmals eingeführt wurden, verursachten sie häufige Brände, aber niemand wusste genau, welche Geräte sicher waren. Die Regierung griff nicht sofort ein, um Sicherheitsstandards festzulegen. Stattdessen entstand eine private Organisation namens Underwriters Laboratories. Gegründet von Versicherungsgesellschaften, die besorgt über Feuerverluste waren, begann diese Gruppe, elektrische Geräte zu testen und ihre eigenen Sicherheitsstandards zu erstellen. Im Laufe der Zeit, während sie mehr Geräte testeten und sahen, was Brände verurste, verfeinerten sie ihre Regeln. Ihr privates System wurde so vertrauenswürdig, dass Städte ihre Standards in geltendes Recht übernahmen und Hersteller ihre Genehmigung suchten, um Produkte zu verkaufen. Die Autoren stellen fest, dass dieses System funktionierte, weil es flexibel war; es konnte sich ändern, sobald neue Gefahren durch den tatsächlichen Gebrauch entdeckt wurden, anstatt an Regeln festzuhalten, die geschrieben wurden, bevor jemand die Risiken kannte.

Das zweite Beispiel stammt aus der Welt der Cyber-Versicherungen. Als Computer und das Internet wuchsen, wurden Hacker zu einer großen Bedrohung, aber die Art dieser Bedrohungen änderte sich ständig. In einem Jahr könnte das Hauptrisiko der Diebstahl von Kreditkartendaten sein; im nächsten Jahr könnte es Ransomware sein, die Krankenhausakten sperrt. Da die Risiken so fließend waren, taten sich staatliche Regulierungsbehörden schwer damit, Regeln zu schreiben, die relevant blieben. Private Versicherungsunternehmen hingegen passten sich schnell an. Sie begannen, Policen anzubieten, die voraussetzten, dass Unternehmen bestimmte Sicherheitsstandards erfüllten, um Versicherungsschutz zu erhalten. Wenn ein Unternehmen seine Sicherheit nicht aktualisierte, erhöhte die Versicherung den Preis oder kündigte die Police. Dies schuf eine Rückkopplungsschleife: Während neue Arten von Angriffen auftauchten, lernten die Versicherer aus den Schadensdaten und aktualisierten ihre Anforderungen. Dieses private System ermöglichte eine ständige, Echtzeit-Anpassung der Sicherheitsregeln, etwas, wofdem eine langsam agierende staatliche Bürokratie kaum gewachsen wäre.

Die dritte Geschichte spielt in der Frühzeit des Rundfunkbetriebs. Bevor die Regierung eine zentrale Agentur zur Verwaltung der Funkfrequenzen schuf, störten sich Radiosender oft gegenseitig und erzeugten ein chaotisches Gemisch an Signalen. Die gängige Meinung war, dass dieses Chaos nur durch eine zentrale Autorität behoben werden könne. Die Forscher fanden jedoch heraus, dass Radiosender vor dem Eingreifen der Regierung tatsächlich miteinander verhandelten. Sie tauschten Frequenzen aus, einigten sich auf Sendezeiten oder kauften Konkurrenten auf, um Interferenzen zu vermeiden. Dieses private System des Verhandelns und der Eigentumsrechte ermöglichte es der Radioindustrie zu wachsen und wertvoll zu werden. Erst später ersetzte die Regierung dieses flexible, private System durch einen starren, zentralisierten Plan. Die Autoren argumentieren, dass dieser Wechsel nicht geschah, weil das private System versagte, sondern weil Politiker und mächtige Rundfunkveranstalter die wertvollen Ätherwellen für sich selbst kontrollieren wollten. Das Ergebnis war ein System, das weniger anpassungsfähig war und langsamer innovierte.

Um die Mechanik dieses Prozesses zu verstehen, bauten die Forscher ein einfaches Modell darüber auf, wie Entscheidungsfindung funktioniert, wenn die Zukunft unbekannt ist. In ihrem Modell wird eine neue Technologie genutzt und die Ergebnisse werden beobachtet. Diese Beobachtung lehrt alle etwas Neues. Wenn eine Gruppe von Menschen, die von der Technologie betroffen ist, in der Lage ist, sich zu treffen und ihre Regeln neu zu verhandeln, wann immer sie etwas Neues lernt, können sie ihren Ansatz an die neue Realität anpassen. Sie können entscheiden, die Technologie nicht mehr zu nutzen, wenn sie gefährlich ist, oder die Art der Nutzung zu ändern, wenn sie zwar sicher, aber verbesserungswürdig ist. Wenn jedoch eine externe Autorität ein dauerhaftes Verbot oder eine feste Regel auferlegt, die durch private Vereinbarungen nicht geändert werden kann, stoppt der Lernprozess. Das Verbot verhindert das Experiment, das die Wahrheit offenbart hätte. Selbst wenn die Gruppe später lernt, dass die Technologie sicher und vorteilhaft ist, bleibt sie an der alten Regel gebunden, da sie nicht um das staatliche Veto herum verhandeln kann.

Die Forscher fanden heraus, dass dies zwei spezifische Probleme schafft. Erstens stoppt ein dauerhaftes Verbot das Lernen, das notwendig ist, um die Risiken zu verstehen. Zweitens: Selbst wenn die Gruppe lernt, dass eine andere Vereinbarung besser für alle wäre, verhindert die feste staatliche Regel, dass sie diese Änderung vornehmen können. Die Autoren betonen, dass dies nicht bedeutet, dass staatliche Regeln immer schlecht sind. Manchmal ist ein Verbot notwendig, um eine Katastrophe zu verhindern, die zu schwerwiegend wäre, um sie zu risk 없다 (riskieren). Aber die Studie legt nahe, dass wir die unmittelbare Sicherheit eines Verbots gegen die langfristigen Kosten des Stoppens der Entdeckung besserer, flexiblerer Lösungen abwägen müssen. Das Ziel ist nicht, gefährliche Technologien völlig allein zu lassen, sondern zu verhindern, dass wir die Regeln festlegen, bevor wir eine Chance hatten zu lernen.

Das Paper kommt zu dem Schluss, dass effektive Governance für Künstliche Intelligenz möglicherweise nicht etwas ist, das wir von vornherein perfekt entwerfen können. Stattdessen könnte es etwas sein, das entsteht, während wir die Technologie nutzen und aus unseren Fehlern lernen. Private Gruppen können durch Verträge, Versicherungen und Zertifizierungen oft besser in der Lage sein, schnell zu lernen und sich anzupassen, da sie ein direktes Interesse am Ausgang haben. Sie können ihre Regeln ändern, sobald neue Informationen eintreffen. Staatliche Interventionen sind, wenn sie notwendig sind, zwar wichtig, bergen aber das Risiko, das System einzufrieren, bevor die richtigen Regeln entdeckt wurden. Die Autoren schlagen vor, dass der beste Weg darin besteht, Raum für dieses private Experimentieren zu lassen, um sicherzustellen, dass wir nicht den Prozess blockieren, der uns lehren wird, wie wir die Technologie sicher steuern können. Die Herausforderung für politische Entscheidungsträger besteht darin, die Menschen vor unmittelbarem Schaden zu schützen, ohne den Pfad zu besserer, effektiverer Governance in der Zukunft abzuschneiden.