Whose Voice? Algorithmic Smoothing and the Hybrid Authorship of BCI-Mediated End-of-Life Requests: a normative conceptual analysis

Stellen Sie sich eine Welt vor, in der Ihr Geist eine brillante, geschäftige Stadt ist, aber die Straßen, die nach draußen führen, vollständig blockiert sind. Sie können denken, fühlen und planen, aber Sie können nicht winken, sprechen oder tippen. Dies ist die Realität für Menschen in einem „vollständig locked-in-Zustand“, der oft durch Krankheiten wie ALS verursacht wird. Sie sind wach und bewusst, aber Ihre Körper hören nicht mehr auf Sie. Hier kommt das Brain-Computer-Interface (BCI) ins Spiel, eine hochtechnologische Brücke, die versucht, die elektrischen Signale Ihres Gehirns zu lesen und sie in Wörter auf einem Bildschirm zu verwandelt. Es ist wie ein Übersetzer, der Ihre Gedanken hört und für Sie spricht.

Aber hier ist der Clou: Dieser Übersetzer ist nicht nur ein passives Mikrofon. Er ist ein KI-gestützter Editor. Um die chaotischen, statisch gefüllten Signale eines Gehirns, das sich nicht bewegen kann, sinnvoll zu interpretieren, nutzt der Computer „Glättung“ (das Bereinigen des Rauschens) und „prädiktiven Text“ (das Erraten des nächsten Wortes, genau wie Ihr Telefon, wenn Sie tippen). Dies wirft eine massive, atemberbrechende Frage auf: Wenn der Computer hilft, Ihren Satz zu vervollständigen, ist der Gedanke dann noch Ihrer? Dies ist besonders kritisch, wenn der Satz etwas Lebenswichtiges betrifft, wie etwa die Bitte um medizinische Hilfe zur Beendigung des Leidens. Wenn eine Maschine hilft, die Anfrage zu schreiben, wer bittet dann wirklich?

Dieses Paper taucht in genau dieses Dilemma ein. Es fragt: Wenn ein Locked-in-Patient ein KI-gestütztes BCI nutzt, um medizinische Hilfe beim Sterben zu erbitten, können wir dann darauf vertrauen, dass die Anfrage wirklich seine eigene Stimme ist, oder hat der Algorithmus die Botschaft verändert? Die Autoren Lee und Ngan argumentieren, dass wir nicht einfach mit „Ja“ oder „Nein“ antworten sollten. Stattdessen schlagen sie vor, dass die Anfrage ein „hybrides“ Produkt ist – eine Kollaboration zwischen der Intention des Patienten und der Hilfe der Maschine. Sie schlagen einen neuen Weg vor, um diese Anfragen zu überprüfen, indem man nicht nur den einzelnen Satz betrachtet, den der Computer geschrieben hat, sondern ihn mit der gesamten Lebensgeschichte des Patienten, seinen vergangenen Werten und seinen Patientenverfügungen vergleicht. Sie kommen zu dem Schluss, dass die Anfrage gültig ist, solange die „Vermutung“ der Maschine mit dem übereinstimmt, was der Patient schon immer geglaubt hat. Wenn die Vermutung der Maschine jedoch der Geschichte des Patienten widerspricht, sollte die Anfrage ignoriert werden. Es ist ein Rahmenwerk, das darauf ausgelegt ist, das wahre Selbst des Patienten vor dem Überschriebenwerden durch einen fehlerhaften Algorithmus zu schützen.

Die Geschichte von Elena und der sprechenden Maschine

Um dies zu verstehen, lernen wir Elena kennen. Sie ist eine 54-jährige Professorin für Philosophie, die, bevor die ALS ihren Körper übernahm, einen klaren Brief schrieb: „Wenn ich jemals in meinem Geist gefangen bin, ohne einen Weg zu sprechen, möchte ich in der Lage sein, zu wählen, mein Leiden zu beenden.“ Sie war sehr spezifisch darüber.

Jetzt befindet sich Elena in einem vollständig locked-in-Zustand. Sie kann denken, aber sie kann keinen Muskel bewegen. Sie hat ein BCI in ihr Gehirn implantiert bekommen. Eines Tages fragen ihre Ärzte sie, ob sie irgendwelche Bedenken hat. Die Maschine liest ihre Gehirnsignale und tippt aus: „Ich wünsche mir, diesen Schmerz zu stoppen.“

Die Ärzte sind verwirrt. Sie wissen, dass Elena ihr Leiden beenden wollte, aber sie wissen auch, dass die Maschine nicht perfekt ist. Im Handbuch der Maschine steht, dass sie „Signalglättung“ (um Statik zu bereinigen) und „kontextuelle Vorhersage“ (um Wörter zu erraten) verwendet. Als die Ärzte die Rohdaten überprüften, sahen sie, dass Elenas Gehirnsignal eigentlich nur das Fragment war: „Ich wünsche mir, zu stoppen.“ Die Maschine, die sah, dass sie sich in einem Palliativzimmer befand und unter Stress stand, errat die Wörter „diesen Schmerz“ und fügte sie dem Satz hinzu.

Die große Frage ist also: Hat Elena gesagt „Ich wünsche mir, diesen Schmerz zu stoppen“, oder hat die Maschine es für sie gesagt?

Die Maschine ist kein neutrales Rohr

Das Paper erklärt, dass diese BCIs nicht wie eine Telefonleitung sind, über die man einfach nur hört, was der andere sagt. Sie sind eher wie ein intelligenter Editor. Der Computer muss viel Schwerstarbeit leisten:

1. Er erfasst die chaotischen elektrischen Signale aus dem Gehirn.
2. Er filtert das „Rauschen“ (die Statik) heraus.
3. Er versucht herauszufinden, welche Gehirnsignale (Spikes) welche Buchstaben bedeuten.
4. Er nutzt eine riesige Datenbank menschlicher Konversation, um den Rest des Satzes zu erraten.

Die Autoren weisen darauf hin, dass dieses „Raten“ notwendig ist. Ohst wäre das Ergebnis unverständlich. Das bedeutet jedoch, dass der fertige Satz eine Teamleistung ist. Die Maschine ist nicht nur ein Werkzeug; sie ist ein Co-Autor.

Das Problem der Fehler

Das Paper erinnert uns auch daran, dass diese Maschinen Fehler machen.

• Wortfehlerraten: In echten Tests vertippen sich diese Maschinen etwa 8 % bis 24 % der Zeit, je nachdem, wie groß das Vokabular ist.
• Falsch-Positive: Manchmal sagt die Maschine eine Phrase, die der Patient nie beabsichtigt hat. Bei einfachen Phrasen passiert dies etwa 2 % bis 5 % der Zeit. Bei großen, emotionalen Anfragen wie der Bitte um den Tod könnte das Risiko sogar noch höher sein.

Aus diesem Grund sagen die Autoren, dass wir nicht einfach einen einzigen Satz der Maschine nehmen und sagen können: „Okay, das ist die endgültige Entscheidung.“ Das wäre gefährlich.

Die „hybride“ Lösung

Wie lösen wir also das Rätsel um die Frage „Wessen Stimme?“ Die Autoren schlagen vor, dass wir aufhören sollten, nach einer „reinen“ menschlichen Stimme zu suchen, und akzeptieren müssen, dass die Stimme hybrid ist. Sie nutzen drei Ideen, um dies zu erklären:

1. Der erweiterte Geist (Extended Mind): Stellen Sie sich vor, Ihr Gehirn ist ein Computer und das BCI ist eine Tastatur, die Sie seit Jahren benutzen. Irgendwann wird die Tastatur Teil Ihres Geines. Wenn Sie tippen, benutzen Sie nicht nur ein Werkzeug; Sie denken durch das Werkzeug. Also ist die Hilfe der Maschine Teil von Elenas Denkprozess.
2. Co-Agency (Gemeinsame Handlungsfähigkeit): Denken Sie an einen Tanz. Elena führt an, aber die Maschine folgt ihren Schritten und hilft ihr beim Gleichgewicht. Sie tanzen zusammen. Die Anfrage gehört sowohl ihr als auch der Maschine.
3. Das Mosaik: Stellen Sie sich ein Bild vor, das aus Kacheln besteht. Elenas Leben und Werte sind das Bild. Der BCI-Output ist nur eine neue Kachel. Wir können nicht entscheiden, ob das Bild richtig ist, indem wir nur auf eine einzige Kachel schauen; wir müssen das gesamte Mosaik betrachten.

Die zwei Arten der „Hilfe“

Das Paper macht eine sehr wichtige Unterscheidung zwischen zwei Arten, wie die Maschine helfen kann:

• Konfirmatorische Elaboration (Die gute Art): Dies ist, wenn die Maschine ein Wort errät, das perfekt zu dem passt, was wir bereits über den Patienten wissen. In Elenas Fall sagte sie „Ich wünsche mir, zu stoppen“, und die Maschine fügte „diesen Schmerz“ hinzu. Da Elena Schmerz schon immer gehasst hatte und sie sich in einer Schmerzklinik befand, ergab diese Vermutung Sinn. Sie bestätigte, was sie wahrscheinlich meinte. Das ist sicher.
• Generative Substitution (Die schlechte Art): Dies ist, wenn die Maschine etwas errät, das gegen das verstödt, was wir über den Patienten wissen. Stellen Sie sich vor, Elena wäre immer religiös gewesen und hätte die Vorstellung des Todes abgelehnt, aber die Maschine rät: „Ich wünsche mir den Tod.“ Das wäre die Maschine, die ihren Willen durch ihre eigene Vermutung ersetzt. Das ist gefährlich und sollte ignoriert werden.

Das neue Regelwerk: Das Trajektorien-basierte Validierungsprotokoll

Die Autoren schlagen einen neuen Weg vor, wie Ärzte mit diesen Anfragen umgehen können. Sie nennen es das Trajektorien-basierte Validierungsprotokoll. Anstatt nur auf den einzelnen Satz zu schauen, den die Maschine geschrieben hat, sollten Ärzte auf die „Trajektorie“ (den Lebensweg) des Patienten schauen.

So funktioniert es:

1. Die Geschichte prüfen: Hat der Patient einen klaren, schriftlichen Plan (wie eine Patientenverfügung) von vor der Zeit, als er locked-in wurde? Hat er dies vor dem Arzt thematisiert?
2. Der Mosaik-Check: Passt die Nachricht der Maschine zum Rest der Lebensgeschichte des Patienten? Wenn die Maschine sagt „Ich möchte sterben“, aber die Patientin jahrelang darüber geschrieben hat, wie sehr sie das Leben liebt, liegt die Maschine wahrscheinlich falsch.
3. Wiederholen und Verifizieren: Vertrauen Sie nicht auf eine einzige Nachricht. Stellen Sie dieselbe Frage immer und immer wieder. Wenn die Maschine jedes Mal dasselbe sagt und es mit der Geschichte des Patienten übereinstimmt, ist es wahrscheinlich echt.
4. Die Kontradiktionsklausel (Widerspruchsklausel): Wenn die Nachricht der Maschine der Vergangenheit des Patienten widerspricht, stoppen Sie. Handeln Sie nicht danach. Die Maschine könnte einen Fehler machen, oder der Patient könnte verwirrt sein. Sie benötigen mehr Beweise.

Das Fazit

Das Paper kommt zu dem Schluss, dass wir uns nicht zwischen „die Maschine lügt“ und „die Maschine ist perfekt“ entscheiden müssen. Die Wahrheit liegt in der Mitte. Die Anfrage ist ein ko-konstruiertes Produkt. Sie gehört sowohl dem Patienten als auch dem Algorithmus.

Wenn die Vermutung des Algorithmus mit den lang gehegten Werten und der Geschichte des Patienten übereinstimmt, dann ist die Anfrage gültig, selbst wenn die Maschine geholfen hat, sie zu schreiben. Aber wenn der Algorithmus etwas Neues oder Widersprüchliches rät, müssen wir es mit äußerster Skepsis behandeln.

Die Autoren betonen vorsichtig, dass dies ein konzeptionelles Rahmenwerk ist und noch kein fertiges medizinisches Regelwerk. Sie haben in diesem Paper nicht mit echten Zahlen oder Gesetzestexten gearbeitet; sie skizzieren lediglich die Landkarte. Sie schlagen vor, dass zukünftige Arbeit die genauen Zahlen ermitteln muss (wie oft eine Nachricht wiederholt werden muss) und wie man es in das Recht integriert. Aber der Kern der Idee ist klar: Um die wahre Stimme des Patienten zu hören, müssen wir der Maschine und der gesamten Lebensgeschichte des Patienten gemeinsam zuhören.