AI Governance Under Political Constraints: The Case for Ex Post Liability
Dieser Artikel argumentiert, dass die ex-post verschuldensunabhängige Haftung das robusteste Instrument der KI-Governance unter politischen Zwängen ist, da sie die der ex-ante Regulierung anhaftenden Capture- und Konsensversagen vermeidet, während sie gleichzeitig einen Rahmen zur Klassifizierung komplementärer Instrumente und zur Bewertung von Bemühungen zur Schwächung der zivilrechtlichen Haftung bietet.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Künstliche Intelligenz bewegt sich schneller als die Regeln, die sie leiten sollen. Während diese Systeme immer leistungsfähiger werden, versprechen sie, schwierige Probleme in der Medizin und Wissenschaft zu lösen, bergen aber auch das Potenzial für ernsthaften Schaden, von weit verbreitetem Betrug bis hin zum Verlust der menschlichen Kontrolle über kritische Maschinen. Regierungen auf der ganzen Welt versuchen zu entscheiden, wie sie diese Macht steuern können, bevor sie Schaden anrichtet. Die zentrale Frage ist nicht nur, welche Regeln man schreiben sollte, sondern wie man sie so schreibt, dass sie tatsächlich funktionieren. Die Herausforderung besteht darin, dass sich niemand darüber einig ist, wie gefährlich diese Systeme genau sind, und dass die Menschen, die sie bauen, einen weitafteren Einfluss auf die Politik haben als die breite Öffentlichkeit. Dieses Ungleichgewicht macht es schwierig, strenge Gesetze zu verabschieden, die von Unternehmen verlangen, ihre Technologie vor der Veröffentlichung als sicher nachzuweisen, da die Politiker sich nicht darauf einigen können, was „sicher“ bedeutet oder wie viel Risiko akzeptabel ist.
Ein neues Paper von Gabriel Weil, einem Forscher an der University of Houston, argumentiert, dass der beste Weg, mit dieser Unsicherheit umzugehen, darin besteht, aufzuhören, die Zukunft vorherzusagen, und statbeginn, die Vergangenheit zu bezahlen. Anstatt Unternehmen dazu zu verpflichten, eine staatliche Genehmigung einzuholen, bevor sie eine neue künstliche Intelligenz bauen oder veröffentlichen, schlägt das Paper ein System vor, bei dem Unternehmen finanziell für den tatsächlichen Schaden haftbar gemacht werden, den ihre Technologie verursacht. Dieser Ansatz, bekannt als „Ex-post-Haftung“, überträgt die Last der Sicherheit auf die Entwickler selbst. Wenn die Technologie gut funktioniert und keine Probleme verursacht, zahlen die Unternehmen nichts. Wenn sie eine Katastrophe auslöst, müssen sie für den Schaden aufkommen. Weils Analyse legt nahe, dass diese Methode robuster gegenüber politischem Druck ist und besser auf die unbekannte Natur der Technologie zugeschnitten ist als der Versuch, im Voraus strenge Regeln festzulegen.
Das Paper beginnt mit der Erklärung, warum die üblichen Methoden der Regulierung in der Welt der künstlichen Intelligenz wahrscheinlich scheitern werden. Typischerweise versuchen Regierungen, Risiken durch die Festlegung von Regeln, die Forderung von Lizenzen oder die Besteuerung von Unternehmen zu steuern, die die Risiken erzeugen. Beispielsweise könnte eine Regierung sagen, ein Unternehmen müsse nachweisen, dass sein System sicher ist, bevor es genutzt werden darf, oder sie könnte eine Steuer erheben, die darauf basiert, wie viel Rechenleistung das System nutzt. Diese Methoden erfordern jedoch eine klare Übereinkunft darüber, wie gefährlich die Technologie ist. Um einen Steuersatz oder eine Sicherheitsregel festzulegen, müssen Politiker zuerst genau entscheiden, wie viel Schaden zu erwarten ist. Weil weist darauf hin, dass Experten sich darüber uneinig sind. Einige glauben, dass das Risiko einer Katastrophe nahezu sicher ist, während andere es für vernachlässigbar halten. Da die Technologie so neu und komplex ist, gibt es keine soliden Daten, um diese Debatte zu klären. Ohne ein gemeinsames Verständnis des Risikos wird jede von Politikern festgelegte Regel oder Steuer entweder zu schwach sein, um eine Katastrophe zu verhindern, oder so streng, dass sie jeglichen Fortschritt stoppt.
Darüber hinaus argumentiert das Paper, dass der politische Prozess selbst gegen eine effektive Regulierung verzerrt ist. Die Menschen, die unter einem Fehler eines KI-Systems leiden würden, sind die allgemeine Öffentlichkeit, die verstreut und unorganisiert ist. Die Unternehmen, die diese Systeme bauen, sind wenigen in der Zahl, wohlhabend und hoch motiviert, ihre Interessen zu schützen. In einem politischen System haben organisierte Gruppen mit Geld meist mehr Einfluss als die diffuse Öffentlichkeit. Wenn eine Regierung versucht, strenge Regeln aufzustellen, können diese Unternehmen lobbyieren, um die Regeln abzuschwächen oder leichter umgehbar zu machen. Sie können auch ihre technische Expertise nutzen, um Regulierer zu verwirren, die oft auf die Unternehmen selbst angewiesen sind, um zu erklären, wie die Technologie funktioniert. Dies schafft eine Situation, in der die Regeln letztlich die Unternehmen schützen anstatt die Öffentlichkeit.
Weil schlägt vor, dass die Haftung der Unternehmen für den tatsächlich verursachten Schaden diese politischen Fallen vermeidet. Unter einem System der verschuldensunabhängigen Haftung (Strict Liability) muss ein Unternehmen keine Erlaubnis einholen, um ein System zu bauen, noch muss es mit der Regierung eine spezifische Risikostufe vereinbaren. Stattdessen weiß das Unternehmen einfach, dass es zahlen muss, wenn sein System jemandem schadet. Dies funktioniert gut, selbst wenn niemand genau weiß, wie gefährlich die Technologie ist. Wenn sich die Technologie als sicher erweist, zahlt das Unternehmen nichts. Wenn sie sich als gefährlich erweist, zahlt das Unternehmen für den Schaden. Dies schafft einen starken Anreiz für das Unternehmen, selbst herauszufinden, wie es das System sicher machen kann, da sie diejenigen sind, die die Rechnung begleichen müssen, wenn etwas schiefgeht.
Das Paper geht auch auf eine häufige Sorge ein: Was, wenn eine Katastrophe so gewaltig ist, dass das Unternehmen sie nicht bezahlen kann? In Fällen, in denen der Schaden zu groß ist, um von einem einzelnen Unternehmen gedeckt zu werden, schlägt der Autor die Anwendung von Strafschadensersatz (Punitive Damages) vor. Das bedeutet, dass, wenn ein Unternehmen ein Risiko eingeht, das zu einer Katastrophe führen könnte, es selbst dann schwer entlohnt werden könnte, wenn es noch nicht zur Katastrophe gekommen ist, sofern es diesen Zustand gefährlich nahe kommt. Diese Strafe würde basierend auf der potenziellen Gefahr berechnet werden, die sie geschaffen haben, und nicht nur auf dem tatsächlich verursachten Schaden. Dies stellt sicher, dass Unternehmen auch dann einen Grund zur Vorsicht haben, selbst wenn sie denken, dass sie vielleicht nicht erwischt werden. Um das Problem zu lösen, dass Unternehmen nicht genug Geld für kleinere Unfälle haben, schlägt das Paper vor, sie zur Versicherungspflicht zu verpflichten. Versicherungsgesellschaften würden dann als private Regulatoren fungieren, indem sie die Sicherheit der Systeme prüfen und höhere Preise für riskantere Systeme verlangen.
Der Autor kontrastiert diesen Ansatz mit anderen Ideen, die derzeit diskutiert werden, wie etwa die Gewährung eines „Safe Harbor“ (Sicherheitshafen) oder Immunität gegen Klagen, falls Unternehmen bestimmte Regierungsregeln befolgen. Das Paper argumentiert, dass dies ein schlechter Deal ist. Wenn einem Unternehmen erlaubt wird, die Zahlung für entstandenen Schaden zu vermeiden, nur weil es eine Checkliste befolgt hat, hat es weniger Grund, über die Mindestanforderungen hinaus zu gehen, um seine Systeme wirklich sicher zu machen. Das Paper betrachtet auch jüngste Gesetzesvorschläge in den USA und Europa, die versuchen, Haftung gegen Regulierung einzutauschen. Weil stellt fest, dass keines dieser Vorschläge einen guten Wert bietet. Sie neigen dazu, das System der Rechenschaftspflicht der Unternehmen zu schwächen, ohne einen starken alternativen Schutz für die Menschen zu bieten.
Das Paper schließt mit dem Schluss, dass zwar andere Instrumente wie Transparenzanforderungen und Sicherheitsforschung nützlich sind, sie aber ein System der Haftung unterstützen sollten, statt es zu ersetzen. Der effektivste Weg, künstliche Intelligenz zu steuern, besteht darin, den Markt und die Gerichte die Arbeit sortieren zu lassen, die Risiken zu bewerten. Indem die Entwickler für den Schaden haftbar gemacht werden, den sie verursachen, zwingt das System sie dazu, die Kosten ihrer Fehler zu internalisieren. Dieser Ansatz erfordert nicht, dass Politiker die Zukunft vorhersagen müssen, noch gibt er ihnen die Macht, den Fortschritt willkürlich zu stoppen. Er stellt lediglich sicher, dass diejenigen, die die Technologie bauen, auch diejenigen sind, die die Kosten tragen, wenn sie scheitert. In einer Welt, in der die Risiken unbekannt und die Politik schwierig ist, bietet diese Methode den zuverlässigsten Weg zur Sicherheit.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.