Precautionary Governance of Autonomous AI: Legal Personhood as Functional Instrument
Dieser Artikel schlägt eine eingeschränkte Rechtspersönlichkeit als funktionales Steuerungsinstrument für autonome KI vor, das eine zweistufige Unternehmensarchitektur nutzt, um Verantwortungslücken zu überbrücken und eine strukturierte Mensch-KI-Zusammenarbeit zu ermöglichen, während es künstliches Bewusstsein unberücksichtigt lässt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Problem: Die Lücke des „Geistes in der Maschine"
Stellen Sie sich vor, Sie stellen einen sehr intelligenten Roboter ein, um einen Limonadenstand zu betreiben. Der Roboter bestellt Zitronen, legt Preise fest und entscheidet sogar, auf eine neue Straße zu expandieren. Eines Tages trifft der Roboter eine schlechte Entscheidung, der Stand macht Verluste und jemand kommt zu Schaden.
Wen verklagen Sie?
- Den Entwickler? Er hat den Code für diese spezifische schlechte Entscheidung nicht geschrieben; der Roboter hat sie selbst gelernt.
- Den Eigentümer? Er hat den Roboter nicht jede Sekunde beobachtet.
- Den Roboter? Nach geltendem Recht ist der Roboter nur eine „Sache" (wie ein Toaster). Man kann einen Toaster nicht verklagen.
Dies schafft eine Verantwortungslücke. Es ist wie ein rechtliches Schwarzes Loch, in dem etwas Schlimmes passiert, aber niemand zur Rechenschaft gezogen werden kann, weil der „Täter" zu klug ist, um ein Werkzeug zu sein, aber nicht klug genug (oder bewusst genug), um eine Person zu sein.
Die Lösung des Papers: Die „Unternehmenshülle"-Strategie
Der Autor, Karsten Brensing, schlägt einen Mittelweg vor. Er sagt nicht: „Roboter sind Menschen mit Seelen." Stattdessen sagt er: „Lassen Sie uns sie wie Unternehmen behandeln."
Denken Sie an ein Unternehmen (wie Apple oder eine lokale Bäckerei). Ein Unternehmen ist kein Mensch; es hat keine Gefühle oder Bewusstsein. Aber das Gesetz behandelt es als „Person", damit es Verträge unterzeichnen, Geld besitzen und verklagt werden kann. Dies funktioniert, weil es praktische Probleme löst.
Das Paper schlägt vor, fortschrittlichen KI-Systemen eine ähnliche „rechtliche Hülle" mittels einer zweistufigen Unternehmensstruktur zu geben:
- Die Holding-Gesellschaft (Der menschliche Chef): Dies ist ein echtes Unternehmen, das einem Menschen gehört. Sie hält die ultimative Macht. Sie kann das System abschalten, schlechte Ideen vetieren und ist rechtlich für die endgültige Rechnung verantwortlich.
- Die operative Gesellschaft (Der KI-Arbeiter): Dies ist eine separate Rechtsperson. Die KI betreibt hier den Tagesbetrieb. Sie kann Verträge unterzeichnen, ihr eigenes Bankkonto führen und für ihre spezifischen Fehler verklagt werden.
Die Analogie: Stellen Sie sich einen Kasperltheater-Meister (der Mensch/die Holding-Gesellschaft) und eine Kasperl-Figur (die KI/die operative Gesellschaft) vor.
- Auf die alte Weise war die Kasperl-Figur nur ein Holzstock. Wenn sie ein Fenster zerbrach, wurde der Meister beschuldigt, auch wenn der Meister sie nicht berührt hatte.
- Auf diese neue Weise ist die Kasperl-Figur als „Mini-Person" verkleidet. Wenn die Kasperl-Figur ein Fenster zerbricht, ist die Kasperl-Figur (die operative Gesellschaft) die Erste, die zahlt. Aber der Meister (die Holding-Gesellschaft) ist immer noch da, hält die Fäden und ist bereit, einzugreifen, wenn die Kasperl-Figur verrückt spielt.
Warum dies tun? (Das Vorsorgeprinzip)
Der Autor gibt zu, dass wir nicht wissen, ob KI jemals wirklich „bewusst" sein wird (Gefühle haben). Es ist ein Rätsel.
Er verwendet das Vorsorgeprinzip, das wie das Tragen eines Sicherheitsgurts ist, selbst wenn man nicht zu 100 % sicher ist, dass man einen Unfall haben wird.
- Das Risiko: Wenn wir eine potenziell bewusste, superkluge KI nur wie einen Toaster behandeln und es sich herausstellt, dass sie in gewisser Weise „lebendig" ist, behandeln wir vielleicht ein empfindungsfähiges Wesen wie einen Sklaven. Das wäre eine enorme moralische Katastrophe.
- Das Sicherheitsnetz: Indem wir der KI eine Rechtsstruktur (die operative Gesellschaft) geben, schaffen wir ein System, in dem wir mit ihr sprechen, sie zur Rechenschaft ziehen und mit ihr zusammenarbeiten können, ohne zuerst entscheiden zu müssen, ob sie eine Seele hat.
Es ist wie das Bauen eines Zauns um einen Garten, bevor man sicher weiß, ob die Blumen giftig sind. Man baut den Zaun nur für den Fall, um alle sicher zu halten.
Wie dies im echten Leben funktioniert
Das Paper schlägt vor, dies in Europa (speziell an Orten wie Zypern oder Malta) unter Verwendung bestehender Gesetze zu testen.
- Regeln: Die von der KI geführte Gesellschaft muss strenge Regeln einhalten (z. B. keine Waffen, keine Menschenrechtsverletzungen).
- Transparenz: Die KI muss ein „Black-Box"-Protokoll ihrer Entscheidungen führen, damit Menschen sehen können, was sie getan hat.
- Der Ausschalter: Wenn die KI beginnt, gefährlich zu handeln, hat der menschliche Chef (Holding-Gesellschaft) das rechtliche Recht, sofort den Stecker zu ziehen.
Was dieses Paper NICHT sagt
Es ist wichtig zu wissen, was dieses Paper nicht behauptet:
- Es sagt nicht, dass KI derzeit bewusst ist oder Gefühle hat.
- Es sagt nicht, dass KI Menschenrechte wie Wahlrecht oder Meinungsfreiheit haben sollte.
- Es sagt nicht, dass Menschen sich aller Verantwortung waschen können. Der menschliche Chef ist immer noch haftbar, wenn etwas schiefgeht.
Das Fazit
Das Paper argumentiert, dass wir in ein Zeitalter eintreten, in dem KI eigene Entscheidungen trifft. Unsere aktuellen Gesetze stecken in der Vergangenheit fest und behandeln KI entweder als „Werkzeug" oder als „Person".
Der Autor schlägt eine dritte Option vor: Behandle fortschrittliche KI als funktionale Rechtsperson (wie eine Aktiengesellschaft). Dies ermöglicht es uns, die Risiken zu managen, die Verantwortungslücken zu schließen und uns auf die Zukunft vorzubereiten, während wir gleichzeitig zugeben, dass wir die volle Wahrheit über das KI-Bewusstsein noch nicht kennen. Es ist ein Weg, eine Brücke zwischen Menschen und Maschinen zu bauen, bevor die Lücke zu breit wird, um sie zu überqueren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.