Whose Voice? Algorithmic Smoothing and the Hybrid Authorship of BCI-Mediated End-of-Life Requests: a normative conceptual analysis

Stel je een wereld voor waarin je geest een briljante, bruisende stad is, maar de wegen die eruit leiden volledig geblokkeerd zijn. Je kunt denken, voelen en plannen, maar je kunt niet zwaaien, spreken of typen. Dit is de realiteit voor mensen in een "volledig locked-in staat", vaak veroorzaakt door ziekten zoals ALS. Ze zijn wakker en bewust, maar hun lichaam luistert niet meer naar hen. Maak kennis met de Brain-Computer Interface (BCI), een hoogtechnologische brug die probeert de elektrische signalen van je hersenen te lezen en deze om te zetten in woorden op een scherm. Het is als een vertaler die naar je gedachten luistert en voor jou spreekt.

Maar hier komt de twist: deze vertaler is niet alleen een passieve microfoon. Het is een door AI aangedreven redacteur. Om de rommelige, statische signalen van een brein dat niet kan bewegen begrijpelijk te maken, gebruikt de computer "smoothing" (het opschonen van de ruis) en "predictive text" (het raden van het volgende woord, net zoals je telefoon dat doet wanneer je typt). Dit roept een enorme, breinbrekende vraag op: als de computer je zin afmaakt, is de gedachte dan nog steeds van jou? Dit is vooral cruciaal wanneer de zin gaat over iets dat van levensbelang is, zoals het vragen om medische hulp om lijden te beëindigen. Als een machine helpt bij het schrijven van het verzoek, wie vraagt er dan eigenlijk?

Dit artikel duikt in die exacte kwestie. Het vraagt: wanneer een patiënt in een locked-in staat een door AI versterkte BCI gebruikt om medische hulp bij sterven te vragen, kunnen we dan vertrouwen op het feit dat het verzoek echt hun eigen stem is, of heeft het algoritme de boodschap veranderd? De auteurs, Lee en Ngan, betogen dat we niet simpelweg "ja" of "nee" moeten zeggen. In plaats daarvan stellen ze dat het verzoek een "hybride" product is — een samenwerking tussen de intentie van de patiënt en de hulp van de machine. Ze stellen een nieuwe manier voor om deze verzoeken te controleren, niet door te kijken naar de enkele zin die de computer schreef, maar door deze te vergelijken met het volledige levensverhaal van de patiënt, hun eerdere waarden en hun voorafgaande instructies. Ze concluderen dat zolang de "gok" van de machine overeenkomt met wat de patiënt altijd heeft geloofd, het verzoek geldig is. Echter, als de gok van de machine in strijd is met de geschiedenis van de patiënt, moet het verzoek worden genegeerd. Het is een kader ontworpen om de ware zelf van de patiënt te beschermen tegen het overschreven worden door een glitchy algoritme.

Het verhaal van Elena en de pratende machine

Om dit te begrijpen, ontmoeten we Elena. Zij is een 54-jarige hoogleraar filosofie die, voordat ALS haar lichaam overnam, een duidelijke brief schreef waarin stond: "Als ik ooit vastzit in mijn geest zonder manier om te praten, wil ik de keuze hebben om mijn lijden te stoppen." Ze was hier heel specifiek over.

Nu bevindt Elena zich in een volledig locked-in staat. Ze kan denken, maar ze kan geen spier bewegen. Ze heeft een BCI in haar hersenen geïmplanteerd. Op een dag vragen haar artsen of ze ergens zorgen over heeft. De machine leest haar hersensignalen en typt uit: "Ik wens dit lijden te stoppen."

De artsen zijn in de war. Ze weten dat Elena wilde dat haar lijden zou stoppen, maar ze weten ook dat de machine niet perfect is. De handleiding van de machine vermeldt dat deze "signal smoothing" gebruikt (om statische ruis op te schonen) en "contextual prediction" (om woorden te raden). Wanneer de artsen de ruwe data controleerden, zagen ze dat het hersensignaal van Elena eigenlijk slechts het fragment was: "Ik wens te stoppen." De machine, die zag dat ze in een palliatieve kamer lag en gestrest was, raadde de woorden "dit lijden" en voegde deze toe aan de zin.

Dus, de grote vraag is: zei Elena "Ik wens dit lijden te stoppen," of zei de machine het voor haar?

De machine is geen neutrale pijp

Het artikel legt uit dat deze BCI's niet lijken op een telefoonlijn waarbij je gewoon hoort wat de ander zegt. Ze zijn meer als een slimme redacteur. De computer moet veel zwaar werk verrichten:

1. Het pakt de rommelige elektrische signalen uit de hersenen op.
2. Het filtert de "ruis" (de statische elektriciteit) eruit.
3. Het probeert te achterhalen welke hersenspinsels bij welke letters horen.
4. Het gebruikt een enorme database van menselijke gesprekken om de rest van de zin te raden.

De auteurs wijzen erop dat dit "raden" noodzakelijk is. Zonder dit zou de output onbegrijpelijk zijn. Maar dit betekent dat de definitieve zin een gezamenlijke inspanning is. De machine is niet alleen een hulpmiddel; het is een co-auteur.

Het probleem van fouten

Het artikel herinnert ons er ook aan dat deze machines fouten maken.

• Woordfoutpercentages: In echte tests krijgen deze machines ongeveer 8% tot 24% van de keren woorden fout, afhankelijk van hoe groot de woordenschat is.
• Vals-positieven: Soms kan de machine een zin uitspreken die de patiënt nooit bedoeld heeft. Voor eenvoudige zinnen gebeurt dit ongeveer 2% tot 5% van de tijd. Voor grote, emotionele verzoeken zoals het vragen om te sterven, kan het risico zelfs nog hoger zijn.

Vanwege deze reden zeggen de auteurs dat we niet zomaar één zin van de machine kunnen nemen en zeggen: "Oké, dat is het definitieve besluit." Dat zou gevaarlijk zijn.

De "Hybride" oplossing

Hoe lossen we het mysterie van "Wiens Stem?" op? De auteurs suggereren dat we stoppen met het zoeken naar een "zuivere" menselijke stem en accepteren dat de stem hybride is. Ze gebruiken drie ideeën om dit uit te leggen:

1. De Uitgebreide Geest: Stel je voor dat je brein een computer is, en de BCI een toetsenbord dat je al jaren gebruikt. Uiteindelijk wordt het toetsenbord onderdeel van je geest. Wanneer je typt, gebruik je niet alleen een hulpmiddel; je denkt door het hulpmiddel heen. Dus de hulp van de machine is onderdeel van Elena's denkproces.
2. Co-agency (Gedeelde handelingsbekwaamheid): Denk aan een dans. Elena leidt, maar de machine volgt haar stappen en helpt haar evenwicht te bewaren. Ze dansen samen. Het verzoek behoort toe aan zowel haar als de machine.
3. De Mozaïek: Stel je een afbeelding voor die bestaat uit tegels. Elena's leven en waarden zijn de afbeelding. De BCI-output is slechts één nieuwe tegel. We kunnen niet beslissen of de afbeelding klopt op basis van slechts één tegel; we moeten naar de hele mozaïek kijken.

De twee soorten "hulp"

Het artikel maakt een zeer belangrijk onderscheid tussen twee manieren waarop de machine kan helpen:

• Confirmatory Elaboration (De goede soort): Dit is wanneer de machine een woord raadt dat perfect past bij wat we al over de patiënt weten. In het geval van Elena zei ze "Ik wens te stoppen," en de machine voegde "dit lijden" toe. Omdat Elena altijd van pijn heeft gehouden en ze in een pijnkliniek lag, maakte deze gok zin. Het bevestigde wat ze waarschijnlijk bedoelde. Dit is veilig.
• Generative Substitution (De slechte soort): Dit is wanneer de machine iets raadt dat tegenovergesteld is aan wat we over de patiënt weten. Stel je voor dat Elena altijd religieus was geweest en het idee van sterven haatte, maar de machine raadde "Ik wacht op de dood." Dat zou de machine zijn wil laten vervangen door zijn eigen gok. Dit is gevaarlijk en moet worden genegeerd.

Het Nieuwe Regelboek: Het Traject-gebaseerde Validatieprotocol

De auteurs stellen een nieuwe manier voor voor artsen om deze verzoeken af te handelen. Ze noemen het het Trajectory-Based Validation Protocol (Traject-gebaseerd Validatieprotocol). In plaats van te kijken naar de enkele zin die de machine schreef, moeten artsen kijken naar het "traject" (het levenspad) van de patiënt.

Zo werkt het:

1. Controleer de geschiedenis: Heeft de patiënt een duidelijk, schriftelijk plan (zoals een voorafgaande instructie) van vóórdat hij/zij locked-in raakte? Heeft hij/zij dit vóór de tijd met artsen besproken?
2. De Mozaïek-check: Past de boodschap van de machine bij de rest van het levensverhaal van de patiënt? Als de machine zegt "Ik wil sterven," maar de patiënt heeft jarenlang geschreven over hoeveel hij van het leven houdt, dan heeft de machine waarschijnlijk ongelijk.
3. Herhalen en Verifiëren: Vertrouw niet op één bericht. Stel dezelfde vraag keer op keer. Als de machine elke keer hetzelfde zegt, en het komt overeen met de geschiedenis van de patiënt, dan is het waarschijnlijk echt.
4. De Contradictie-clausule: Als de boodschap van de machine in strijd is met het verleden van de patiënt, stop dan. Onderneem geen actie. De machine kan een fout maken, of de patiënt is in de war. Er is meer bewijs nodig.

De Kernconclusie

Het artikel concludeert dat we niet hoeven te kiezen tussen "de machine liegt" en "de machine is perfect." De waarheid ligt in het midden. Het verzoek is een co-geconstrueerd product. Het behoort toe aan zowel de patiënt als het algoritme.

Als het algoritme's gok aansluit bij de langgekoesterde waarden en geschiedenis van de patiënt, dan is het verzoek geldig, zelfs als de machine geholpen heeft bij het schrijven ervan. Maar als het algoritme iets nieuws of tegenstrijdigs raadt, moeten we het met extreme achterdocht behandelen.

De auteurs benadrukken dat dit een conceptueel kader is, geen voltooid medisch regelboek. Ze hebben dit in dit artikel niet getest met echte cijfers of juridische codes; ze leggen slechts de kaart uit. Ze suggereren dat toekomstig werk moet uitzoeken wat de exacte cijfers zijn (zoals hoe vaak een bericht herhaald moet worden) en hoe het in de wet past. Maar de kern van het idee is duidelijk: om de ware stem van de patiënt te horen, moeten we naar zowel de machine als het volledige levensverhaal van de patiënt samen luisteren.