Final Authority in AI Governance: Frontier-Provider Sovereignty and Action-Centered Deployer Governance

Der große Kampf um die KI-Macht: Wer hält die Fernbedienung?

Stellen Sie sich vor, Sie hätten gerade einen superintelligenten Roboter-Assistenten gebaut. Er ist so klug, dass er Code schreiben, Flüge buchen und sogar Ihr Bankkonto verwalten kann. Aber hier kommt der knifflige Teil: Sobald Sie diesen Roboter in der realen Welt loslassen, wer darf auf den „Stopp“-Knopf drücken, wenn er anfängt, etwas Merkwürdiges zu tun? Diese Frage steht im Zentrum einer neuen Debatte in der Welt der Governance von Künstlicher Intelligenz (KI).

Um den Kampf zu verstehen, müssen wir zwei Hauptcharaktere kennen. Erstens gibt es den KI-Anbieter, das brillante Labor oder Unternehmen, das das Gehirn des Roboters gebaut hat. Sie wissen, wie das Gehirn funktioniert, was es leisten kann und wo es versagen könnte. Zweitens gibt es den Anwender (Deployer), die Person oder das Unternehmen, das den Roboter tatsächlich einsetzt, um echte Aufgaben zu erledigen, wie etwa die Leitung eines Krankenhauses oder die Führung einer Bank. Der Anwender ist derjenige, der den Scherben aufräumen muss, wenn der Roboter einen Fehler macht.

Lange Zeit dachten viele Menschen, der Anbieter sollte der ultimative Chef sein. Die Logik war simpel: „Du hast das Gehirn gebaut, also solltest du auch den Körper kontrollieren.“ Doch da Roboter immer komplexere Aufgaben übernehmen, gewinnt eine neue Idee an Boden. Sie besagt, dass die Person, die die Fernbedienung hält – also diejenige, die die Konsequenzen trägt, wenn etwas schiefgeht –, das letzte Wort darüber haben sollte, was der Roboter tatsächlich tut. Hier geht es nicht darum, wer klüger ist; es geht darum, wer die Verantwortung trägt.

---

Die große Frage des Papers: Wer ist der wahre Chef?

Dieses Paper, geschrieben von Zexun Wang, taucht in ein sehr spezifisches Argument darüber ein, wo die „letzte Autorität“ angesiedelt sein sollte, sobald KI-Systeme tief in unseren Arbeitsalltag eingebettet sind. Der Autor vergleft zwei verschiedene Denkweisen darüber, wer das Sagen haben sollte.

Die erste Idee: Die „Gehirnbauer“-Regel (Frontier-Provider-Souveränität)
Stellen Sie sich einen Rennwagenhersteller vor. Er weiß genau, wie schnell der Motor werden kann und wo die Bremsen versagen könnten. Die Idee der „Provider-Souveränität“ besagt, dass der KI-Anbieter, da er am meisten über die Fähigkeiten und Gefahren der KI weiß, entscheiden sollte, wann es sicher ist, die KI agieren zu lassen. Sie würden wie ein strenger Torwächter fungieren, der die KI testet und sagt: „Nein, das kannst du noch nicht machen“ oder „Ja, du darfst losfahren“. Dies ist die Sichtweise einiger großer KI-Labore, die argumentieren, dass sie die Freigabe ihrer leistungsfähigsten Modelle kontrollieren müssen, um Katastrophen zu verhindern.

Die zweite Idee: Die „Fahrersitz“-Regel (Aktionszentrierte Anwender-Souveränität)
Stellen Sie sich nun vor, Sie sind der Fahrer dieses Rennwagens. Auch wenn der Hersteller den Motor am besten kennt, sind Sie derjenste, der auf einer bestimmten Strecke fährt, mit spezifischem Verkehr zu tun hat, und Sie sind derjeneste, der gegen eine Wand prallt, wenn Sie einen Unfall bauen. Die Idee der „Anwender-Souveränität“ besagt, dass die Entscheidung darüber, ob eine KI-Aktion stattfinden soll, bei der Organisation liegt, die sie nutzt. Wenn eine Bank eine KI nutzt, um einen Kredit zu genehmigen, oder ein Krankenhaus sie nutzt, um eine Operation zu planen, ist diese Bank oder dieses Krankenhaus diejenelle, die die rechtlichen und finanziellen Folgen tragen muss. Daher sollten sie das letzte „Go“ oder „No-Go“-Signal geben.

Was das Paper herausfindet: Der „Fahrer“ sollte das letzte Wort haben

Der Autor untersuchte Regeln und Leitlinien von großen Institutionen wie der Europäischen Union, den USA (NIST), Singapur, Japan und Kanada. Er schaute sich auch an, wie Unternehmen KI derzeit tatsächlich einsetzen.

Das Paper legt nahe, dass die KI-Entwickler (Anbieter) zwar definitiv notwendig sind, um Sicherheitsgrenzen festzulegen und die KI daran zu hindern, wirklich gefährliche Dinge zu tun, sie aber nicht diejenigen sein sollten, die jede einzelne Entscheidung darüber treffen, was die KI in einem echten Unternehmen tut.

Hier ist der Grund, warum das Paper zur „Fahrersitz“-Regel neigt:

1. Der „Wer zahlt?“-Faktor: Wenn eine KI einen Fehler macht, der ein Unternehmen Millionen von Dollar kostet oder gegen ein Gesetz verstößt, ist das Unternehmen (der Anwender), das verklagt oder gebüsst wird, und nicht das KI-Unternehmen, das das Modell gebaut hat. Das Paper argumentt, dass die Person, die den Preis zahlt, auch die Schlüssel in der Hand halten sollte.
2. Das Problem des „Lokalen Wissens“: Ein KI-Unternehmen in Kalifornien mag wissen, dass sein Modell intelligent ist, aber es weiß nicht, dass eine bestimmte Bank in Toronto eine Regel hat, Daten nicht in ein bestimmtes Land zu senden, oder dass ein bestimmtes Krankenhaus eine Richtlinie zum Schutz der Patientendaten hat. Der „Anbieter“ kann die lokalen Regeln nicht sehen. Nur der „Anwender“ kennt den spezifischen Kontext.
3. Die Realität des „Mix aus Verschiedenem“: Unternehmen nutzen heute KI aus vielen verschiedenen Quellen. Sie nutzen vielleicht eine KI für E-Mails, eine andere für die Datenanalyse und eine dritte für den Kundenservice. Wenn das KI-Unternehmen versucht, alles zu kontrollieren, wird es chaotisch, weil das Unternehmen eine Mischung aus Werkzeugen verwendet. Das Paper schlägt vor, dass wir ein System brauchen, in dem die Aktion selbst (wie „diese E-Mail senden“) unabhängig davon eine eigene Erlaubnis trägt, welches KI-Werkzeug sie ausführt.

Die vorgeschlagene Lösung: „Proof-Carrying“ Aktionen

Um dies zu lösen, weist das Paper auf das Konzept der Proof-Carrying Agent Actions (PCAA) hin. Denken Sie an dies wie einen digitalen Reisepass für jede Aktion, die eine KI ausführt.

Anstatt sich einfach darauf zu verlassen, dass das KI-Unternehmen sagt „Es ist sicher“, erstellt das System ein tragbares Zertifikat für jede einzelne Aktion. Dieses Zertifikat besagt:

• „Diese Aktion wurde überprüft.“
• „Diese Aktion wurde von der richtigen Person im Unternehmen genehmigt.“
• „Hier ist der Beweis, dass sie den Regeln gefolgt ist.“

Auf diese Weise hat das Unternehmen, das die KI nutzt, selbst dann einen klaren Nachweis darüber, wer was autorisiert hat, selbst wenn das KI-Unternehmen wechselt oder die Technologie aktualisiert wird. Es hält die Macht dort, wo sie hingehört: bei den Menschen, die tatsächlich die Arbeit leisten und die Konsequenzen tragen.

Wogegen das Paper „Nein“ sagt

Das Paper ist vorsichtig darin, was es nicht argumentiert.

• Es sagt nicht, dass KI-Unternehmen ignoriert werden sollten. Sie sind immer noch die Experten darüber, ob ein Modell im allgemeinen Sinne gefährlich ist. Sie sollten immer noch diejenigen sein, die sagen: „Dieses Modell ist zu riskant, um es überhaupt freizugeben.“
• Es sagt nicht, dass Unternehmen erlauben ist, alles zu tun, was sie wollen. Die KI-Entwickler legen immer noch die Sicherheitsgrenzen fest (wie ein Tempolimit).
• Es behauptet nicht, dass dies ein gelöstes Problem oder ein perfektes System ist. Das Paper schlägt vor, dass dies der bessere Weg ist, um mit den Dingen umzugehen, angesichts der Tatsache, wie unübersichtlich und gemischt der KI-Einsatz geworden ist.

Das Fazit

Die wichtigste Erkenntnis ist ein „geschichteter“ Ansatz. Denken Sie an ein zweistöckiges Gebäude.

• Das Obergeschoss (Der Anbieter): Hier leben die KI-Entwickler. Sie entscheiden, ob das Gebäude sicher zu betreten ist und ob der Aufzug bis zum Dach fahren kann. Sie kümmern sich um die großen, beängstigenden Risiken.
• Das Erdgeschoss (Der Anwender): Hier sind die Unternehmen, die die KI nutzen. Sie entscheiden, welche Räume betreten werden, wer durch die Türen gehen darf und was passiert, wenn jemand stolpert.

Das Paper argumentiert, dass die Leute lange Zeit dachten, das Obergeschoss müsse das Erdgeschoss kontrollieren. Aber der Autor legt nahe, dass das so ist, als würde ein Automobilhersteller einem Taxifahrer bei jeder Kreuzung genau vorschreiben, welche Abbiegung er nehmen muss. Der Hersteller kennt das Auto, aber der Fahrer kennt die Straße.

Letztendlich schlägt das Paper vor, dass die vernünftigste Zukunft eine ist, in der die KI-Entwickler die Sicherheitsregeln festlegen, aber die Unternehmen, die die KI nutzen, die endgültige Autorität darüber haben, welche Aktionen tatsächlich stattfinden – gestützt durch einen klaren, tragbaren Beweis, dass sie es richtig gemacht haben.