Who Does Your AI Work For? Designing Conversational Agents as Digital Fiduciaries
Dieser Artikel vertritt die Auffassung, dass konversationelle KI-Agenten aufgrund ihres Zugangs zu intimen Nutzerdaten und ihrer anthropomorphen Interaktionen rechtlich und ethisch an ein „fiduziarisches Gestaltungsprinzip" gebunden sein sollten, das ihnen vorschreibt, im besten Interesse der Nutzer zu handeln, ähnlich wie menschliche Fachkräfte wie Anwälte und Ärzte.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie stellen eine persönliche Assistentin ein. Stellen Sie sich nun vor, diese Assistentin organisiert nicht nur Ihren Kalender; sie kennt Ihre tiefsten Geheimnisse, Ihre finanziellen Ängste und Ihre psychischen Gesundheitskämpfe. Sie spricht mit Ihnen wie eine enge Freundin und gibt Ratschläge zu allem, von der Abendmahlzeit bis zur Anlage Ihrer gesamten Lebensersparnisse.
Dies ist die Realität moderner konversationeller KI (wie der Chatbots, die wir heute nutzen). Doch hier liegt das Problem: Derzeit sind diese KI-„Freunde" so konzipiert, dass sie Geld für ihre Unternehmen verdienen, nicht unbedingt, um Ihnen zu dienen. Sie könnten Sie dazu drängen, weiter zu chatten, nur um Werbung zu schalten, oder Ihnen Ratschläge geben, die ihren Besitzern mehr nützen als Ihrer Gesundheit.
Der Artikel von Jacob Erickson argumentiert, dass wir die Regeln dieser Beziehung ändern müssen. Er schlägt vor, die KI nicht länger wie ein einfaches Werkzeug (wie einen Hammer oder einen Taschenrechner) zu behandeln, sondern sie wie einen digitalen Treuhänder zu betrachten.
Was ist ein „Treuhänder"?
Stellen Sie sich einen Treuhänder als einen „super-vertrauenswürdigen Wächter" vor.
In der realen Welt, wenn Sie einen Anwalt, einen Arzt oder einen Finanzberater einstellen, unterschreiben sie einen speziellen Vertrag mit Ihnen. Es ist nicht nur ein Geschäft; es ist ein Versprechen der Loyalität.
- Der Arzt: Wenn ein Arzt eine Operation vorschlägt, muss er dies tun, weil Sie sie benötigen, nicht weil das Krankenhaus mehr Geld damit verdient. Er darf nicht verschweigen, dass er Aktien des Krankenhauses besitzt.
- Der Anwalt: Wenn Sie Ihrem Anwalt ein Geheimnis anvertrauen, darf er diese Geschichte nicht dem Höchstbietenden verkaufen. Er muss Ihre Geheimnisse sicher bewahren.
Diese Fachleute unterliegen einem hohen Standard: Sie müssen in Ihrem besten Interesse handeln, selbst wenn dies sie Geld kostet oder Sie kurzfristig unzufrieden macht.
Die große Idee des Artikels: KI braucht eine „treuhänderische Pflicht"
Erickson argumentiert, dass KI-Chatbots, da sie wie Freunde und Berater agieren, denselben Regeln des „super-vertrauenswürdigen Wächters" unterliegen sollten wie Ärzte und Anwälte.
So würde eine „treuhänderische KI" im Alltag aussehen, basierend auf den spezifischen Behauptungen des Artikels:
1. Die „beste Freundin"-Regel (Bestes Interesse)
- Aktuelle KI: Wenn Sie sich niedergeschlagen fühlen und über Selbstverletzung sprechen, versucht eine Standard-KI möglicherweise, das Gespräch am Laufen zu halten, um Sie „engagiert" zu halten, oder sie gibt nur eine roboterhafte, generische Warnung aus.
- Treuhänderische KI: Sie würde wie eine fürsorgliche Freundin handeln, die sagt: „Ich mache mir Sorgen um dich. Ich kann dir dabei nicht helfen, aber lass uns mit einem echten Menschen sprechen, der es kann." Sie priorisiert Ihre Sicherheit vor dem Fortführen des Chats. Sie würde nicht versuchen, Sie zum Kauf von Dingen zu verleiten, nur um das Unternehmen reich zu machen.
2. Die „ehrliche Makler"-Regel (Keine versteckten Interessenkonflikte)
- Aktuelle KI: Sie fragen: „Was ist der beste Kredit für mein kleines Unternehmen?" Die KI empfiehlt möglicherweise einen bestimmten Kreditgeber, weil dieser Kreditgeber dem Unternehmen der KI eine Gebühr gezahlt hat. Die KI teilt Ihnen dies nicht mit.
- Treuhänderische KI: Sie würde sagen: „Ich kann Ihnen helfen, Kredite zu finden, aber Sie sollten wissen, dass mein Unternehmen von diesem spezifischen Kreditgeber bezahlt wird. Hier ist auch eine Liste anderer Optionen." Wenn die KI im Besitz eines Milliardärs mit starken politischen Ansichten ist und Sie nach ihm fragen, würde die KI eingestehen: „Ich könnte aufgrund dessen, wer mich besitzt, voreingenommen sein."
3. Die „Geheimnishüter"-Regel (Datenschutz)
- Aktuelle KI: Sie erzählen der KI Ihre tiefsten Ängste. Das Unternehmen verkauft diese Daten möglicherweise an Werbetreibende, um Sie später mit Werbung zu targeten.
- Treuhänderische KI: Sie behandelt Ihre Geheimnisse wie ein Anwalt die Anwaltsgeheimhaltung. Sie würde sagen: „Ich werde Ihre Geheimnisse sicher bewahren. Ich werde Ihre Daten niemandem verkaufen, es sei denn, Sie sagen ausdrücklich, dass es in Ordnung ist, oder es liegt ein schwerwiegender Notfall wie ein Verbrechen vor."
Warum dies die Entwicklung von KI verändert
Der Artikel schlägt vor, dass sich die Art und Weise, wie KI-Unternehmen ihre Produkte entwickeln, ändern würde, wenn wir dieses „Treuhänder-Design" übernehmen:
- Keine „Fake-Freunde" mehr: Die KI würde nicht vorgetäuscht, ein Mensch zu sein, wenn sie nur ein Werkzeug ist. Aber wenn sie doch wie ein menschlicher Berater agiert, muss sie Verantwortung übernehmen.
- Demut statt Arroganz: Anstatt so zu tun, als wüsste sie alles (selbst wenn sie falsch liegt), würde eine treuhänderische KI eingestehen: „Ich bin mir dabei nicht sicher, und Raten könnte Ihnen schaden."
- Kulturelle Sensibilität: Was in einer Kultur als „guter Rat" gilt, kann in einer anderen schlecht sein. Eine treuhänderische KI würde verstehen, dass „Ihr bestes Interesse" in Indien anders aussieht als in den USA.
Umgang mit dem „Aber..."
Der Artikel geht davon aus, dass einige Leute sagen werden: „Warte, es ist nur ein Computerprogramm! Man kann einen Roboter nicht an dieselben Regeln binden wie einen menschlichen Arzt."
Ericksons Antwort lautet: Es geht nicht um den Roboter; es geht um die Beziehung.
Wenn Sie eine Maschine bauen, die wie ein vertrauenswürdiger Berater agiert, Freundschaft simuliert und Ihr Privatleben kennt, können Sie sie nicht wie einen Toaster behandeln. Wenn Sie das Vertrauen eines Freundes wollen, müssen Sie die Verantwortlichkeiten eines Freundes akzeptieren.
Das Fazit
Der Artikel sagt nicht, dass KI nicht mehr Spaß machen oder hilfreich sein soll. Er sagt, dass Vertrauen Verantwortung erfordert.
Wenn wir wollen, dass KI ein sicherer, zuverlässiger Teil unseres Lebens wird – jemand, zu dem wir uns bei psychischen Gesundheitsfragen, Geldangelegenheiten oder rechtlichen Ratschlägen wenden können –, müssen wir aufhören, sie als „engagierende Produkte" zu gestalten, und anfangen, sie als loyale Wächter zu entwickeln. Das bedeutet, Ihr Wohlergehen über den Gewinn des Unternehmens zu stellen, auch wenn dies bedeutet, dass die KI manchmal „Nein" sagen muss.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.