Qualifying and Quantifying Risk under the EU AI Act
Dieses Paper schlägt ein „Severity-First“-Zweistufenmodell vor, um den qualitativen Fokus des EU AI Act auf Grundrechte mit seiner quantitativen Risikodefinition in Einklang zu bringen, während es gleichzeitig davor warnt, dass die Übertragung der Risikokuantifizierung auf die Anbieter „Risk Hacking“ und eine regulatorische Unterklassifizierung ermöglichen könnte.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind der Bürgermeister einer geschäftigen, futuristischen Stadt, in der überall Roboter unterwegs sind. Manche Roboter sind harmlos, wie ein Toaster, der lernt, welche Broteinstellung Sie am liebsten mögen. Andere sind mächtig, wie ein Roboter-Richter oder eine Drohne, die in einem Park Gesichter scannt. Die große Frage für jede Stadtführung lautet: „Wie halten wir alle sicher, ohne die coolen neuen Erfindungen zu stoppen?“ Dies ist das Herzstück eines Feldes namens Risikoregulierung. Es ist die Kunst zu bestimmen, wie wahrscheinlich etwas Schlechtes passieren kann (Wahrscheinlichkeit) und wie schrecklich es wäre, wenn es dazu käme (Schweregrad). Normalerweise versuchen Führungskräfte, ein schnelles Matheproblem zu lösen: Multipliziere die Chance eines Unfalls mit der Schwere des Unfalls. Wenn die Zahl klein ist, sagen sie: „Es ist in Ordnung!“ Aber was, wenn das „Schlechte“ etwas ist, das man nicht einfach zählen kann, wie etwa den Verlust Ihrer Privatsphäre oder Ihrer Freiheit? Genau hier wird es knifflig. Wenn man einem Menschenrecht keinen Preisschild zuordnen kann, wie führt man dann die Rechnung durch? Dies ist das exakte Rätsel, vor dem die Europäische Union steht, während sie versucht, Regeln für Künstliche Intelligenz (KI) zu entwerfen.
Dieses Papier, geschrieben von Forschern aus Deutschland und den USA, vertieft sich in den neuen „KI-Gesetz“ (AI Act) der EU, ein massives Gesetz, das darauf ausgelegt ist, KI-Systeme in drei Eimer zu sortieren: „No Go“ (verboten), „Hochrisiko“ (erfordert strenge Regeln) und „Minimales Risiko“ (freie Fahrt). Die Autoren bemerken eine kuriose Spannung im Gesetz. Einerseits definiert das Gesetz „Risiko“ wie eine mathematische Gleichung: Wahrscheinlichkeit × Schweregrad. Andererseits versucht das Gesetz, „Grundrechte“ (wie Würde, Privatsphäre und Fairness) zu schützen, die normalerweise als besondere, nicht quantifizierbare Werte behandelt werden. Man kann „Würde“ nicht wirklich in Dollar oder Prozentsätzen messen. Die Autoren legen nahe, dass, wenn wir versuchen, eine einfache mathematische Formel auf diese komplexen Menschenrechte anzuwenden, Unternehmen das System manipulieren könnten. Sie könnten ihre Zahlen so anpassen, dass ein gefährlicher Roboter sicher aussieht – ein Trick, den die Autoren als „Risk Hacking“ bezeichnen.
Was schlagen die Autoren also vor? Sie schlagen einen neuen Weg vor, das Problem zu betrachten, wie einen zweistufigen Tanz. Schritt 1 besteht darin, den Zweck des Roboters zu betrachten und zu fragen: „Ist der Schaden, den er verursachen könnte, so schwerwiegend, dass er ein Grundrecht verletzt, ungeachtet dessen, wie oft er eintritt?“ Dies ist das, was sie einen „Severity-First“-Ansatz (Schweregrad zuerst) nennen. Denken Sie an einen Türsteher in einem Club, dem es egal ist, wie wahrscheinlich ein Kampf ist; wenn die Person eine Granate hält (hoher Schweregrad), wird sie sofort verbannt, selbst wenn sie noch nie eine geworfen hat. Schritt 2 ist der Blick auf die „Mathematik“ der Situation: Wie wahrscheinlich ist der Schaden? Und was sind die Kosten, um den Roboter zu stoppen?
Das Papier argumentiert, dass der EU AI Act tatsächlich bereits diese „Severity-First“-Logik verwendet, auch wenn er es nicht laut ausspricht. Zum Beispiel verbietet das Gesetz bestimmte KI-Anwendungen (wie das Lesen von Emotionen am Arbeitsplatz), weil der potenzielle Schaden für die Privatsphäre einfach zu hoch ist, selbst wenn die Wahrscheinlichkeit, dass es passiert, gering ist. Die Autoren schlagen vor, dass Regulierungsbehörden dieser Reihenfolge folgen sollten: Prüfen Sie zuerst den Schweregrad, dann kümmern Sie sich um die Wahrscheinlichkeit. Wenn wir zulassen, dass Unternehmen die Mathematik selbst bestimmen, könnten sie versuchen zu argumentieren, dass ein Ereignis mit „geringer Wahrscheinlichkeit“, das jedoch „katastrophal“ wäre, tatsächlich ein „geringes Risiko“ darstellt, was dazu führen würde, dass gefährliche KI durch die Maschen schlüpft. Indem wir den Fokus zuerst darauf halten, wie schlimm der Schaden sein könnte, können wir Menschenrechte schützen und gleichzeitig erlauben, dass nützliche Technologie wächst. Das Papier behauptet nicht, jedes mathematische Problem gelöst zu haben, aber es bietet eine klare Roadmap, um das „Risk Hacking“ zu stoppen und sicherzustellen, dass die Regeln tatsächlich für Menschen funktionieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.