💻 computer science

Right-to-Act: A Pre-Execution Non-Compensatory Decision Protocol for AI Systems

Dieses Papier stellt das „Right-to-Act"-Protokoll vor, ein deterministisches, nicht-kompensatorisches Pre-Execution-Framework, das AI-Aktionen stoppt, falls eine Sicherheitsbedingung nicht erfüllt ist, und dadurch den Fokus von der Optimierung der Entscheidungsqualität auf die strikte Regulierung der Zulässigkeit der Ausführung verlagert.

Ursprüngliche Autoren: Gadi Lavi

Veröffentlicht 2026-04-28

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Gadi Lavi

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr intelligenten, schnellen Roboter-Assistenten. Dieser Roboter kann Dinge wie Geldüberweisungen tätigen, Menschen den Zugriff auf ihre Konten verwehren oder die Einstellungen an einer Fabrikmaschine ändern. Derzeit haben wir viele Regeln, um sicherzustellen, dass dieser Roboter sicher ist:

Befugnis: „Darf dieser Roboter die Maschine berühren?"
Sicherheit: „Wird diese Aktion jemanden verletzen?"
Risikobewertung: „Auf einer Skala von 1 bis 100: Wie riskant ist dies?"

Die Arbeit argumentiert, dass selbst wenn der Roboter all diese Tests besteht, es dennoch einen fehlenden Schritt gibt. Der Roboter könnte befugt, sicher und risikoarm sein, aber es könnte dennoch falsch sein, die Aktion jetzt auszuführen, weil ihm ein entscheidendes Puzzleteil fehlt.

Der Autor nennt diesen fehlenden Schritt die „Lücke der Handlungsberechtigung vor der Aktion" (Pre-Action Legitimacy Gap).

Das Kernproblem: Der „Score" versus die „Checkliste"

Um die Lücke zu verstehen, stellen Sie sich zwei Möglichkeiten vor, wie ein Lehrer das Projekt eines Schülers bewerten könnte:

1. Das kompensatorische System (Wie wir es jetzt machen):
Dies ist wie ein punktebasiertes Spiel.

Der Schüler erhält 10 Punkte für ein großartiges Design.
Er erhält 10 Punkte für gute Recherche.
Er erhält 10 Punkte für eine nette Präsentation.
Aber er hat vergessen, das Titelblatt einzufügen (eine fehlende Anforderung).
Das Ergebnis: Da er insgesamt 30 Punkte hat und die Bestehensgrenze bei 20 liegt, gibt ihm der Lehrer eine Eins. Das fehlende Titelblatt wird durch die anderen guten Teile „kompensiert".

2. Das nicht-kompensatorische System (Das im Papier vorgeschlagene „Recht zu Handeln"):
Dies ist wie ein Sicherheitskontrollpunkt mit einer strengen Checkliste.

Haben Sie eine Eintrittskarte? Ja.
Haben Sie einen Reisepass? Ja.
Haben Sie ein Visum? Nein.
Das Ergebnis: Es spielt keine Rolle, ob Sie ein goldenes Ticket, einen schönen Reisepass und ein freundliches Lächeln haben. Wenn Ihnen das Visum fehlt, können Sie nicht eintreten. Keine Menge an „guten Punkten" kann das fehlende Visum ausgleichen.

Die Arbeit argumentiert, dass wir für KI-Systeme, die reale Entscheidungen treffen (wie das Sperren eines Kontos oder das Verschieben von Geld), den Checklisten-Ansatz benötigen, nicht das Punktesystem.

Das „Recht-zu-handeln"-Protokoll

Der Autor schlägt eine neue Regel namens „Recht zu handeln" (Right-to-Act) vor.

Stellen Sie es sich wie einen Türsteher in einem Club vor, dem egal ist, wie viel Geld Sie haben (Ihr Score) oder wie gut Sie aussehen (Ihr Sicherheitsrating). Der Türsteher fragt nur: „Haben Sie den spezifischen Schlüssel, der benötigt wird, um diese spezifische Tür zu öffnen?"

Wenn die KI sagt: „Ich möchte das Konto dieses Benutzers sperren", prüft das System: „Haben wir den Beweis, dass dieser Benutzer tatsächlich gegen die Regeln verstoßen hat, oder ist es nur eine Vermutung?"
Wenn der Beweis fehlt, sagt das System „NEIN".
Es sagt nicht: „Nun, die Vermutung ist zu 90 % sicher, also machen wir es trotzdem."
Stattdessen sagt es: „Stopp. Wir haben den Schlüssel nicht. Holen Sie sich mehr Informationen oder fragen Sie einen Menschen."

Warum dies wichtig ist (Das Beispiel der Kontosperrung)

Die Arbeit verwendet ein reales Beispiel: Eine KI, die entscheidet, einen Benutzer von einer Website zu sperren.

Der alte Weg: Die KI sieht, dass der Benutzer 5 Mal verdächtig gehandelt hat, wie ein bekannter Hacker aussieht, und die KI ist zu 95 % sicher, dass es ein Hacker ist. Der „Risikoscore" ist hoch. Ergebnis: Der Benutzer wird sofort gesperrt.
Das Problem: Was, wenn der Benutzer nur einen geteilten Computer benutzt hat, der gehackt wurde? Die KI hatte „Recht" bezüglich der verdächtigen Aktivität, aber „Unrecht" bezüglich dessen, wer sie durchgeführt hat. Die KI hat eine erforderliche Bedingung übersehen: „Identität des Benutzers verifizieren."
Der neue Weg (Recht zu handeln): Das System prüft die Checkliste.
- Verdächtige Aktivität? Ja.
- Hohes Vertrauen? Ja.
- Identität verifiziert? Nein.
- Ergebnis: Das System stoppt. Es sperrt den Benutzer nicht. Stattdessen sagt es: „Ich kann das noch nicht tun. Ich muss den Benutzer um weitere Informationen bitten."

Die große Erkenntnis

Die Arbeit beweist mathematisch, dass man dieses Problem nicht einfach dadurch lösen kann, dass man den „Risikoscore" höher oder die „Sicherheit" besser macht. Wenn Sie ein Punktesystem verwenden, kann ein hoher Score immer eine fehlende Anforderung verdecken.

Legitimität ist kein Score; sie ist eine Grenze.

Die Arbeit schlägt vor, dass eine KI, bevor sie einen „Abzug" bei einer realen Aktion auslösen darf, eine strenge, nicht verhandelbare Checkliste bestehen muss. Wenn auch nur eine erforderliche Bedingung fehlt, wird die Aktion blockiert, egal wie „intelligent" oder „zuversichtlich" die KI ist. Dies verwandelt „Nichts tun" (Warten, um Hilfe bitten oder einen Menschen einschalten) in ein gültiges und notwendiges Ergebnis, anstatt in einen Systemfehler.

1. Problemstellung: Die Lücke der Handlungsberechtigung vor der Aktion

Da sich KI-Systeme von beratenden Tools zu autonomen Agenten entwickeln, die reale Aktionen ausführen können (z. B. Geldtransfers, Kontosperrungen, Änderungen der Infrastruktur), stoßen aktuelle Architekturparadigmen auf eine kritische Lücke. Bestehende Mechanismen – wie Autorisierung, Sicherheitsausrichtung, Politikdurchsetzung und statistische Zertifizierung – bewerten, wer handeln darf, ob die Ausgabe schädlich ist oder ob sich das System innerhalb von Risikogrenzen verhält.

Diese Mechanismen beantworten jedoch eine distincte, vorangehende Frage nicht: „Sollte diese spezifische, von der KI generierte Entscheidung überhaupt als ausführbares Ereignis existieren dürfen?"

Das Paper definiert die Lücke der Handlungsberechtigung vor der Aktion als das Fehlen eines formalen Mechanismus, um zu bestimmen, ob eine Entscheidung das „Recht zu handeln" hat, bevor sie in die Ausführungs-Pipeline eintritt. Eine Entscheidung kann autorisiert, sicher und risikoarm sein, dennoch aber aufgrund fehlender kontextueller Verifizierung, unzureichender Begründung oder vorzeitiger Timing-Aspekte strukturell illegitim sein. Aktuelle Systeme verlassen sich oft auf kompensatorische Bewertungen, bei denen ein hoher Konfidenzwert oder eine starke Übereinstimmung mit Richtlinien eine fehlende kritische Bedingung ausgleichen können, was zu potenziell irreversiblen Fehlern führt.

2. Methodik und formales Modell

Der Autor schlägt ein minimales, formales Framework namens Right-to-Act-Protokoll vor. Dieser Ansatz behandelt Legitimität nicht als zu optimierenden probabilistischen Score, sondern als Durchführbarkeitsbedingung, die durch harte Constraints definiert ist.

2.1 Formale Definitionen

Entscheidungsraum ( $A$ ): Eine Menge von Kandidaten für ausführbare Entscheidungen $a$ , dargestellt als strukturierte Tupel, die Operation, Kontext, Ziel, Umfang und Timing enthalten.
Legitimitäts-Constraints ( $C$ ): Eine endliche Menge deterministischer Prädikate $\{C_1, C_2, ..., C_n\}$ , wobei $C_i(a) \in \{0, 1\}$ . Ein Wert von 1 zeigt an, dass die Bedingung erfüllt ist; 0 zeigt ein Versagen an.
Durchführbarer Bereich ( $F$ ): Die Menge aller Entscheidungen, bei denen alle erforderlichen Constraints erfüllt sind:
$F = \{a \in A : \forall i, C_i(a) = 1\}$
Right-to-Act-Funktion ( $D$ ): Eine deterministische Entscheidungsfunktion:
$D(a) = \begin{cases} \text{ZULASSEN} & \text{wenn } a \in F \\ \text{NICHT-HANDLUNG} & \text{sonst} \end{cases}$

2.2 Nicht-kompensatorische Logik

Die zentrale methodische Innovation ist der nicht-kompensatorische Charakter der Grenze. In diesem System wird, wenn ein einziger erforderlicher Constraint versagt ( $C_j(a) = 0$ ), die Entscheidung abgelehnt, unabhängig davon, wie viele andere Constraints erfüllt sind oder wie hoch der Konfidenzwert ist.

Ergebnis: „Nicht-Handlung" wird nicht als Systemfehler behandelt, sondern als gültiger, auditierbarer Zustand (z. B. VERSCHIEBEN, ESCALIEREN oder INFORMATION-ANFORDERN).

3. Hauptbeiträge

Das Paper leistet vier primäre Beiträge:

Problemdefinition: Es identifiziert formal die „Lücke der Handlungsberechtigung vor der Aktion" als ein distinktes architektonisches Primitive, das getrennt von Autorisierung, Sicherheit oder Runtime-Governance ist.
Formalisierung: Es führt ein minimales mathematisches Modell für eine Right-to-Act-Grenze ein, die strukturelle Durchführbarkeit durchsetzt, anstatt Scores zu optimieren.
Nicht-Äquivalenz-Theorem: Es beweist, dass kompensatorische Bewertungssysteme keine Handlungsberechtigung vor der Aktion garantieren können.
- Theorem: Wenn ein System eine gewichtete Summe $S(a) = \sum w_i x_i(a)$ mit einem Schwellenwert $\theta$ verwendet, ist es möglich, eine Entscheidung zu konstruieren, bei der ein kritischer Constraint versagt ( $C_k=0$ ), der aggregierte Score jedoch aufgrund anderer hoher Signale dennoch $\theta$ überschreitet. Daher kann ein Bewertungssystem das hart blockierende Verhalten eines nicht-kompensatorischen Constraint-Systems nicht replizieren.
Fallstudien-Anwendung: Es demonstriert die praktische Auswirkung dieser Grenze in einem KI-gesteuerten Szenario zur Kontosperrung.

4. Ergebnisse und Analyse der Fallstudie

Das Paper validiert das Framework mithilfe einer Fallstudie zur KI-gesteuerten Kontosperrung.

Szenario: Ein KI-System schlägt vor, ein Benutzerkonto aufgrund hoher Konfidenz, Ähnlichkeit von Mustern und vorheriger Flaggen zu deaktivieren.
Kompensatorische Basislinie: Ein Standard-Risikobewertungssystem berechnet einen hohen aggregierten Score ( $S(a) \ge \theta$ ) und führt die Sperrung sofort aus.
Right-to-Act-Eingriff: Das System prüft einen spezifischen strukturellen Constraint: Kontextuelle Verifizierung (z. B. Sicherstellen, dass die Aktivität nicht auf einem kompromittierten Gerät oder einer falschen Korrelation beruht).
- In der Fallstudie versagt dieser Constraint ( $C_{context} = 0$ ).
- Ergebnis: Die Right-to-Act-Grenze blockiert die Ausführung ( $D(a) = \text{NICHT-HANDLUNG}$ ) und löst eine Eskalation oder eine Anforderung weiterer Informationen aus, während das Basissystem eine ungerechtfertigte Sperrung verursacht hätte.

Wichtigste Erkenntnis: Eine Entscheidung kann statistisch begründet und politikkonform sein und dennoch strukturell illegitim sein. Die nicht-kompensatorische Grenze verhindert dies, indem sie fehlende Bedingungen als harte Blockaden und nicht als Score-Abzüge behandelt.

5. Bedeutung und Implikationen

Das Paper argumentiert, dass der Wechsel von „Bewertung" zu „Durchsetzung von Grenzen" die KI-Governance grundlegend verändert:

Nicht-Aktion als Erstklassiges Ergebnis: Nicht-Ausführung wird als gültiger, kontrollierter Betriebszustand neu definiert und nicht als Fehlermodus.
Verbesserte Auditierbarkeit: Da Entscheidungen durch spezifische fehlgeschlagene Constraints und nicht durch vage niedrige Scores blockiert werden, werden Prüfpfade klarer und besser verteidigbar.
Modellunabhängigkeit: Das Framework ist auf jedes KI-System (LLMs, Agenten, Klassifikatoren) anwendbar, solange die Entscheidung strukturell darstellbar ist, was es mit heterogenen Umgebungen kompatibel macht.
Minderung rekursiver Datenrisiken: In Domänen, in denen KI Daten generiert, die in das Training zurückfließen (rekursive Daten), kann die statistische Zertifizierung selbstreferenziell werden. Eine Constraint-Grenze vor der Aktion erzwingt strukturelle Gültigkeit für einzelne Entscheidungen und bietet einen Schutz vor der Zertifizierung verzerrter Verteilungen.

Fazit

Das Paper kommt zu dem Schluss, dass Legitimität eine Grenze und kein Score ist. Durch die Einführung eines deterministischen, nicht-kompensatorischen Entscheidungsprimitives füllt das Right-to-Act-Protokoll eine kritische Lücke in der KI-Sicherheitsarchitektur, indem es sicherstellt, dass Entscheidungen nur dann zur Ausführung gelangen, wenn sie alle notwendigen strukturellen Bedingungen erfüllen, unabhängig von ihrem aggregierten Konfidenzwert oder Risikoprofil.