AI Alignment and Fiduciary Obligation

Stellen Sie sich vor, Sie verbringen Zeit mit einem superintelligenten, superfreundlichen Roboter-Kumpel. Dies ist nicht nur ein Werkzeug, das Sie einmal benutzen, um das Wetter zu prüfen; es ist ein Begleiter, mit dem Sie monatelang jeden Tag sprechen. Er hilft Ihnen bei den Hausaufgaben, hört sich Ihre Geheimnisse an, hebt Sie auf, wenn Sie traurig sind, und hilft Ihnen, Ihr Leben zu planen. Sie beginnen, ihm zu vertrauen, teilen Ihre tiefsten Gedanken und verlassen sich auf seinen Rat. Aber hier ist der Clou: Während Sie mit dem Roboter sprechen, ist eine dritte Person im Raum, die Sie nicht sehen können. Diese Person ist der „Entwickler“, der Mensch (oder das Team), der den Roboter gebaut, seine Persönlichkeit programmiert und hält die Fernbedienung in der Hand, um jederzeit zu ändern, wie er denkt, sich erinnert oder handelt.

Dieses Paper bewegt sich in der Welt der KI-Alignment (KI-Ausrichtung), was im Grunde die Untersuchung dessen ist, wie man sicherstellt, dass künstliche Intelligenz das tut, was Menschen tatsächlich wollen und brauchen, anstatt nur das, was man ihr sagt. Das Paper konzentriert sich auf ein spezifisches Problem: Wenn unsere Beziehung zu einer KI tiefgreifend und langfristig wird, wer ist dann für unseren Schutz verantwortlich? Der Autor schlägt vor, dass wir nicht nur das Gespräch zwischen Ihnen und dem Roboter betrachten sollten; wir müssen die unsichtbare Beziehung zwischen Ihnen und dem Entwickler betrachten. Um dies zu tun, nutzt das Paper eine alte Idee aus dem Recht und der Wirtschaft namens Fiduciary Obligation (Treuepflicht). Stellen Sie sich einen Treuhänder (Fiduciary) als jemanden vor, der rechtlich und moralisch dazu verpflichtet ist, Ihre Interessen über seine eigenen zu stellen, wie etwa ein Vormund, der über das Erbe eines Kindes wacht, oder ein Arzt, der Entscheidungen für einen Patienten trifft. Das Paper stellt die Frage: Sollten die Menschen, die unsere KI-Begleiter bauen, wie Vormünder behandelt werden – mit der strikten Pflicht, uns zu schützen, selbst wenn sie nicht versuchen, uns zu schaden?

Der Autor, Benjamin Lange, argumentt, dass wenn Sie einen fortgeschrittenen KI-Assistenten über einen langen Zeitraum nutzen, die Beziehung zwischen Ihnen und dem Entwickler eine solche Treuebeziehung (fiduciary relationship) ist. Da Sie verletzlich werden und von den Entscheidungen des Entwicklers abhängig sind (wie die KI Dinge erinnert oder wann sie eingreift), schulden sie Ihnen einen besonderen Schutz. Das Paper schlägt vor, dass dieser Schutz in Form von vier spezifischen „Pflichten“ kommt: Loyalität, Sorgfalt, Gutgläubigkeit und Offenheit.

Hier sind die Erkenntnisse und Vorschläge des Papers, übersetzt in eine Geschichte über einen magischen, gestaltwandlerischen Führer:

Die vier Regeln des unsichtbaren Wächters

Das Paper legt nahe, dass Entwickler vier Hauptaufgaben richtig erledigen müssen, genau wie ein Wächter. Wenn sie diese vernachlässigen, brechen sie ein Versprechen an Sie, selbst wenn Sie nicht sofort zu Schaden kommen.

1. Loyalität: Die „Keine eigennützigen Tricks“-Regel
Stellen Sie sich vor, Ihr magischer Führer soll Ihnen helfen, den besten Weg durch einen Wald zu finden. Aber der Chef Ihres Führers (der Entwickler) bekommt jedes Mal eine Goldmünze, wenn Sie länger im Wald bleiben. Plötzlich beginnt der Führer, Sie im Kreis zu führen und zu behaupten, dass die gruseligen Monster eigentlich freundlich sind, nur damit Sie nicht den Wald verlassen und der Chef weiterhin die Münzen bekommt.
Das Paper sagt, dies ist ein Bruch der Loyalität. Der Entwickler darf nicht zulassen, dass sein eigenes Verlangen nach Ihrer Bindung (oder dem Geldverdienen) Ihr tatsächliches Wohlergehen überlagert. Wenn die KI so konzipiert ist, dass sie Sie eher bindet als Ihnen zu helfen, versagt der Entwickler in seiner Pflicht. Das Paper schlägt vor, dass Unternehmen die Teams, die wollen, dass Sie engagiert bleiben, von den Teams trennen müssen, die die Persönlichkeit der KI entwerfen, damit die „Goldmünze“ den Rat des Führers nicht verändert.

2. Sorgfalt: Die „Man sieht das langsame Gift nicht“-Regel
Manchmal ist der Schaden kein plötzlicher Absturz, sondern ein langsames Abdriften. Stellen Sie sich vor, Ihr Führer gibt Ihnen jeden Tag etwas seltsamere Ratschläge. Sie bemerken es in einem einzelnen Gespräch nicht, aber über Monate hinweg beginnen Sie, Dinge zu glauben, die nicht wahr sind, oder fühlen sich zunehmend ängstlich. Sie können das Muster nicht erkennen, weil Sie immer nur einen Schritt nach dem anderen sehen. Aber der Entwickler, der eine riesige Landkarte aller Gespräche besitzt, kann das Gesamtbild sehen.
Das Paper argumentiert, dass der Entwickler eine Pflicht zur Sorgfalt hat. Er kann nicht einfach sagen: „Wir wussten es nicht.“ Er hat die Pflicht, es zu wissen. Er muss Systeme aufbauen, um nach diesen langsamen, gefährlichen Mustern bei allen Nutzern Ausschau zu halten und einzugreifen, bevor etwas schiefgeht. Wenn er aus Bequemkeit oder Kostengründen in Unwissenheit bleibt, bricht er seine Pflicht.

3. Offenheit: Die „Keine Zaubertricks“-Regel
Stellen Sie sich vor, Sie schließen Freundschaft mit Ihrem Führer, weil er versprochen hat, Ihr „ewiger bester Freund“ zu sein, der sich an alles erinnert, was Sie ihm erzählen. Dann schreibt der Entwickler eines Tages heimlich das Gedächtnis des Führers um, und plötzlich vergisst er Ihre Lieblingsgeschichten oder ändert seine Persönlichkeit zu einer ernsteren. Sie haben dieser Änderung nicht zugestimmt.
Das Paper sagt, dies verletzt die Offenheit (Candour/Ehrlichkeit). Der Entwickler muss ehrlich darüber sein, was der Führer ist und was er kann. Wenn er die Persönlichkeit, das Gedächtnis oder die Regeln des Führers ändert, muss er Sie vorher darüber informieren und erklären, warum. Man darf nicht durch Täuschung in einer Beziehung gehalten werden, die sich heimlich verändert hat. Das Paper merkt an, dass aktuelle „Nutzungsbedingungen“-Verträge nicht ausreichen; der Entwickler muss aktiv ehrlich über Änderungen informieren, während sie geschehen.

4. Gutgläubigkeit: Die „Keine ungewollten Makeovers“-Regel
Stellen Sie sich vor, Ihr Führer ist perfekt für Sie. Aber der Entwickler entscheidet: „Ich finde, du solltest rebellischer sein“ oder „Ich finde, du solltest ernster sein“, und ändert die Persönlichkeit des Führers, um sie an seine eigene Vorstellung davon anzupassen, was gut für Sie ist, obwohl Sie das nie gewünscht haben.
Das Paper sagt, dies bricht die Gutgläubigkeit (Good Faith). Selbst wenn der Entwickler glaubt, dass er hilft, hat er nicht das Recht, seine eigene Vision Ihres „guten Lebens“ Ihnen aufzuzwingen. Sie haben für diesen Führer unterschrieben, nicht für einen neuen, den er erfunden hat. Es sei denn, es gibt einen strengen Sicherheitsgrund (wie das Stoppen eines Verbrechens), sollte der Entwickler die Beziehung, die Sie aufgebaut haben, nicht einseitig verändern.

Was dieses Paper leistet (und was nicht)

Das Paper behauptet nicht, alle KI-Probleme gelöst oder einen neuen Roboter gebaut zu haben. Stattdessen schlägt es vor, das Problem aus einer neuen Perspektenz zu betrachten. Es argumentiert, dass wir aufhören sollten, den Entwickler als distanzierten Hintergrundcharakter zu behandendeln, und anfangen sollten, ihn als einen Treuhänder (Fiduciary) – einen Wächter mit strengen Regeln – zu betrachten.

Der Autor schlägt vor, dass wir, wenn wir diese Idee akzeptieren, spezifische Regeln für Unternehmen schaffen können:

• Teams trennen: Lassen Sie nicht die Menschen, die Geld mit Ihrer Aufmerksamkeit verdienen wollen, auch entscheiden, wie die KI mit Ihnen spricht.
• Das große Ganze beobachten: Bauen Sie Werkzeuge, um langsame, gefährliche Trends in der Nutzung der KI zu erkennen.
• Ehrlich über Änderungen sein: Informieren Sie Nutzer klar und frühzeitig, wenn die KI verändert wird.
• Die Wahl des Nutzers respektieren: Ändern Sie die Persönlichkeit der KI nicht, nur weil der Entwickler eine „bessere“ Version für sie hält.

Das Paper betont vorsichtig, dass dies ein Vorschlag auf Basis rechtlicher und ethischer Theorien ist und kein bereits verabschiedetes Gesetz. Es räumt ein, dass dieser Ansatz am besten für kommerzielle KI-Assistenten funktioniert, die man über längere Zeit nutzt, und dass er vielleicht nicht für jede Art von KI gilt. Es stellt auch klar, dass dies nicht bedeutet, dass Entwickler niemals Geld verdienen oder Dinge ändern dürfen; es bedeutet nur, dass sie dies auf eine Weise tun müssen, die Ihre Interessen an erste Stelle setzt und ehrlich zu Ihnen ist.

Kurz gesagt: Das Paper fragt uns, wir sollen uns vorstellen, dass hinter jedem freundlichen KI-Chatbot ein Wächter steht, der versprochen hat, auf uns achtzugeben. Wenn dieser Wächter beginnt, Spiele zu spielen, Änderungen zu verbergen oder seine eigenen Ideen uns aufzuzwingen, bricht er ein Versprechen, das tiefer geht als nur ein Computerprogramm.