High-Risk AI Systems and the Problem of Identity in the European AI Act
Dieser Beitrag argumentiert, dass sich die auf mehrdeutigen Identitätsurteilen beruhende Grundlage des europäischen KI-Gesetzes für Hochrisiko-KI-Systeme durch die Anwendung des „Function+"-Rahmens auflösen lässt, der Systeme anhand ihrer intendierten Funktion und Vertrauenswürdigkeitsprofile individualisiert, um einen überprüfbaren, operationalen Standard für die synchrone Identität in regulatorischen und governance-relevanten Kontexten zu schaffen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Problem: Wann wird ein Roboter zu einem „neuen" Roboter?
Stellen Sie sich vor, Sie kaufen einen sehr intelligenten, hochriskanten Roboter, der bei der Leitung eines Krankenhauses oder einer Grenzkontrollstelle hilft. Die Europäische Union hat ein neues Gesetz (den KI-Gesetzgebungsakt) erlassen, das besagt, dass diese Roboter überprüft und zertifiziert werden müssen, bevor sie arbeiten dürfen.
Aber hier kommt der schwierige Teil: Roboter verändern sich. Sie erhalten Software-Updates, lernen aus neuen Daten und manchmal werden ihre Einstellungen angepasst.
Das Gesetz stellt eine schwierige Frage: Ist dies immer noch derselbe Roboter oder ein neuer?
- Wenn es derselbe Roboter ist, müssen Sie nicht für eine neue, teure Überprüfung bezahlen.
- Wenn es ein neuer Roboter ist, müssen Sie anhalten, zurück zum Reißbrett gehen und ein brandneues Zertifikat beschaffen.
Das Papier argumentiert, dass das aktuelle Gesetz bezüglich der Beantwortung dieser Frage etwas vage ist. Die Autorin Andrea Ferrario schlägt eine neue Denkweise vor, die auf einem „Rezept" für Identität basiert.
Die Lösung: Das „Funktion+"-Rezept
Um dies zu lösen, verwendet die Autorin eine philosophische Idee namens Funktion+. Denken Sie daran wie an die Definition eines Autos.
- Technofunktion (Der Motor): Wofür ist die Maschine gebaut? (z. B. „Menschen von A nach B transportieren").
- Der Kontext (Das „Plus"): Wie soll es sich in der realen Welt verhalten? (z. B. „Es darf nicht abstürzen, es muss gegenüber allen Fahrgästen fair sein und es muss transparent machen, warum es nach links abgebogen ist").
- Der Vertrauens-Score (Das Niveau): Tut es gerade einen guten Job? (z. B. „Es ist zu 95 % sicher und zu 90 % fair").
Das Papier besagt, dass ein KI-System nur dann „derselbe" ist, wenn sein Motor, seine Regeln und sein Vertrauens-Score konsistent bleiben.
Zwei wahre Geschichten aus dem Papier
Die Autorin verwendet zwei Geschichten, um zu zeigen, warum dies wichtig ist:
Geschichte 1: Der Krankenhaus-Triage-Roboter (Zeitreise)
Ein Krankenhaus nutzt eine KI, um zu entscheiden, welche Patienten zuerst eine Notfallversorgung benötigen.
- Die Veränderung: Ein neues Virus trifft ein. Das Krankenhaus aktualisiert die KI, um ältere Patienten besser zu behandeln, und fügt eine Funktion hinzu, die erklärt, warum sie eine Entscheidung getroffen hat.
- Der Konflikt: Der Arzt sagt: „Es ist derselbe Roboter, nur aktualisiert." Die KI-Firma sagt: „Es ist derselbe Roboter." Aber die Krankenschwestern sagen: „Nein! Es denkt jetzt anders. Es ist ein anderer Roboter!"
- Die Sicht des Papiers: Wenn der „Vertrauens-Score" der KI (wie gut sie sich selbst erklärt und Patienten fair behandelt) sinkt oder ihre Kernregeln ändert, ist sie rechtlich ein neuer Roboter. Sie benötigt ein neues Zertifikat. Wenn das Gesetz keine klare Möglichkeit hat, dies zu messen, weiß niemand, wer haftet, wenn der Roboter einen Fehler macht.
Geschichte 2: Der Flughafen-Gesichtsscanner (Der Zwillings-Paradoxon)
Zwei Flughäfen möchten Gesichtsscanner-Roboter von derselben Firma kaufen.
- Das Setup: Flughafen A erhält „Roboter X" (super schnell, teuer). Flughafen B erhält „Roboter Y" (etwas langsamer, günstiger). Sie sehen gleich aus und erledigen denselben Job.
- Der Konflikt: Die Firma sagt: „Roboter X ist besser, weil er schneller ist. Es ist ein anderes Produkt, also müssen Sie mehr bezahlen." Die Flughafenbeamten sagen: „Nein, sie erledigen exakt denselben Job. Sie berechnen uns nur Aufpreis für Geschwindigkeit, die wir nicht brauchen."
- Die Sicht des Papiers: Das aktuelle Gesetz hat keinen klaren Test, um zu sagen: „Sind diese beiden Roboter gleich?" Die Autorin schlägt vor, wir sollten prüfen: Haben sie denselben Vertrauens-Score? Wenn sie gleich sicher und fair sind, sollten sie rechtlich als derselbe Roboter behandelt werden, unabhängig von geringfügigen Geschwindigkeitsunterschieden.
Die zwei Hauptbehauptungen der Autorin
Behauptung 1: Das Gesetz hat bereits eine „Zeitmaschine" (Diachrone Identität)
Das Papier besagt, dass der EU-KI-Gesetzgebungsakt doch eine Möglichkeit hat, Veränderungen im Laufe der Zeit zu handhaben, aber sie ist in den Regeln versteckt.
- Die Regel: Wenn Sie den Roboter so stark ändern, dass er gegen die Regeln verstößt oder seinen Job ändert, ist dies eine „wesentliche Änderung".
- Die Lösung: Die Autorin schlägt vor, das Funktion+-Rezept zu verwenden, um dies klarer zu machen. Wir müssen genau festhalten, was der „Vertrauens-Score" des Roboters war, als er begann, und wenn dieser Score später zu stark sinkt, wissen wir, dass es ein neuer Roboter ist.
Behauptung 2: Dem Gesetz fehlt ein „Spiegel" (Synchronische Identität)
Das Papier besagt, dass das Gesetz schweigt, wie zwei Roboter im gleichen Zeitpunkt verglichen werden sollen.
- Die Lücke: Wenn Flughafen A und Flughafen B zwei verschiedene Roboter haben, gibt das Gesetz keine Checkliste vor, um zu sagen: „Sind diese rechtlich gleich?"
- Die Lösung: Die Autorin schlägt einen einfachen Audit-Flussdiagramm vor (wie eine Checkliste für einen Sicherheitsbeamten):
- Haben sie dieselbe Stellenbeschreibung? (Beabsichtigter Zweck)
- Haben sie dasselbe Regelbuch? (Vertrauenswürdigkeitsprofil)
- Haben sie im Moment denselben Zeugnis? (Vertrauenswürdigkeitsniveau)
- Wenn JA zu allen drei: Sie sind derselbe Roboter.
- Wenn NEIN zu irgendeinem: Sie sind verschiedene Roboter.
Die Empfehlungen: Wie man es behebt
Die Autorin schlägt zwei praktische Schritte vor, um dies in der realen Welt funktionsfähig zu machen:
- Seien Sie spezifisch bezüglich des Jobs: Sagen Sie nicht nur „Diese KI hilft Ärzten". Sagen Sie „Diese KI hilft Ärzten, Patienten nach Dringlichkeit zu sortieren, aber sie darf nicht Krebs diagnostizieren." Dies verhindert, dass die KI vorgibt, etwas zu sein, was sie nicht ist.
- Standardisieren Sie das Zeugnis: Anstatt dass jede Firma ihre eigene Art entwickelt, „Sicherheit" oder „Fairness" zu messen, benötigen wir eine Standardvorlage. Stellen Sie sich vor, jedes Auto müsste eine „Sicherheits-Sternbewertung" (wie 5 Sterne) vorzeigen, die exakt gleich berechnet wird. Wenn die Bewertung einer KI von 5 Sternen auf 3 Sterne fällt, wissen wir, dass es Zeit für eine neue Überprüfung ist.
Zusammenfassung
Das Papier argumentiert, dass wir, um KI fair zu regulieren, aufhören müssen zu raten, ob ein Roboter „derselbe" oder „neu" ist. Wir benötigen eine klare, mathematische Methode, um seinen Zweck, seine Regeln und seine Leistung zu messen. Wenn sich diese ändern, sollte das Gesetz ihn als neuen Roboter behandeln. Dies erleichtert es zu wissen, wer verantwortlich ist, wenn etwas schiefgeht, und verhindert, dass Unternehmen extra für Roboter berechnen, die im Wesentlichen gleich sind.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.