Whose Voice? Algorithmic Smoothing and the Hybrid Authorship of BCI-Mediated End-of-Life Requests: a normative conceptual analysis

Imaginez un monde où votre esprit est une ville brillante et animée, mais dont les routes de sortie ont été complètement bloquées. Vous pouvez penser, ressentir et planifier, mais vous ne pouvez ni faire un geste, ni parler, ni taper au clavier. C'est la réalité des personnes en état de « verrouillage total » (locked-in state), souvent causé par des maladies comme la SLA. Elles sont éveillées et conscientes, mais leur corps ne les écoute plus. Entrez dans la scène avec l'Interface Cerveau-Machine (ICM), un pont de haute technologie qui tente de lire les signaux électriques de votre cerveau pour les transformer en mots sur un écran. C'est comme avoir un traducteur qui écoute vos pensées et parle à votre place.

Mais voici le rebondissement : ce traducteur n'est pas seulement un microphone passif. C'est un éditeur propulsé par l'IA. Pour donner un sens aux signaux désordonnés et chargés de statique provenant d'un cerveau incapable de bouger, l'ordinateur utilise le « lissage » (nettoyage du bruit) et la « saisie prédictive » (deviner le mot suivant, tout comme votre téléphone quand vous tapez). Cela soulève une question immense et vertigineuse : si l'ordinateur aide à terminer votre phrase, la pensée est-elle toujours la vôtre ? Cela est particulièrement critique lorsqu'une phrase concerne quelque chose de vital, comme demander une aide médicale pour mettre fin à ses souffrances. Si une machine aide à écrire la requête, qui est réellement en train de demander ?

Cet article explore précisément ce dilem Dilemme. Il demande : lorsqu'un patient verrouillé utilise une ICM améliorée par l'IA pour demander une aide médicale à mourir, peut-on croire que la requête est vraiment sa propre voix, ou l'algorithme a-t-il modifié le message ? Les auteurs, Lee et Ngan, soutiennent que nous ne devrions pas simplement dire « oui » ou « non ». Au lieu de cela, ils suggèrent que la requête est un produit « hybride » — une collaboration entre l'intention du patient et l'aide de la machine. Ils proposent une nouvelle façon de vérifier ces requêtes, non pas en regardant la phrase unique écrite par l'ordinateur, mais en la comparant à l'histoire de vie entière du patient, à ses valeurs passées et à ses directives anticipées. Ils concluent que tant que le « devinette » de la machine correspond à ce que le patient a toujours cru, la requête est valide. Cependant, si la devinette de la machine contredit l'histoire du patient, la requête doit être ignorée. C'est un cadre conçu pour protéger le vrai moi du patient contre un algorithme défaillant qui l'écraserait.

L'histoire d'Elena et de la machine parlante

Pour comprendre cela, rencontrons Elena. C'est une professeure de philosophie de 54 ans qui, avant que la SLA ne prenne le contrôle de son corps, a écrit une lettre claire disant : « Si jamais je me retrouve enfermée dans mon esprit sans moyen de parler, je veux pouvoir choisir d'arrêter ma souffrance. » Elle était très précise à ce sujet.

Aujourd'elle, Elena est dans un état de verrouillage total. Elle peut penser, mais elle ne peut plus bouger un muscle. Elle possède une ICM implantée dans son cerveau. Un jour, ses médecins lui demandent si elle a des préoccupations. La machine lit ses signaux cérébraux et tape : « Je souhaite arrêter cette douleur. »

Les médecins sont perplexes. Ils savent qu'Elena voulait mettre fin à sa souffrance, mais ils savent aussi que la machine n'est pas parfaite. Le manuel de la machine indique qu'elle utilise le « lissage de signal » (pour nettoyer la statique) et la « prédiction contextuelle » (pour deviner les mots). Lorsque les médecins ont vérifié les données brutes, ils ont vu que le signal cérébral d'Elena n'était en fait que le fragment : « Je souhaite arrêter. » La machine, voyant qu'elle se trouvait dans une chambre de soins palliatifs et qu'elle était stressée, a deviné les mots « cette douleur » et les a ajoutés à la phrase.

Ainsi, la grande question est la suivante : est-ce Elena qui a dit « Je souhaite arrêter cette douleur », ou est-ce la machine qui l'a dit pour elle ?

La machine n'est pas un tuyau neutre

L'article explique que ces ICM ne sont pas comme une ligne téléphonique où l'on entend simplement ce que l'autre personne dit. Elles sont plutôt comme un éditeur intelligent. L'ordinateur doit faire un gros travail :

1. Il saisit les signaux électriques désordonnés du cerveau.
2. Il filtre le « bruit » (la statique).
3. Il essaie de déterminer quels pics cérébraux correspondent à quelles lettres.
4. Il utilise une immense base de données de conversations humaines pour deviner le reste de la phrase.

Les auteurs soulignent que ce « devinement » est nécessaire. Sans cela, le résultat serait du charabia. Mais cela signifie que la phrase finale est un travail d'équipe. La machine n'est pas seulement un outil ; elle est un co-auteur.

Le problème des erreurs

L'article nous rappelle également que ces machines font des erreurs.

• Taux d'erreur de mots : Dans des tests réels, ces machines se trompent de mots environ 8 % à 24 % du temps, selon la taille du vocabulaire.
• Faux positifs : Parfois, la machine peut dire une phrase que le patient n'a jamais voulue. Pour des phrases simples, cela arrive environ 2 % à 5 % du temps. Pour des demandes émotionnelles importantes comme demander la mort, le risque pourrait être encore plus élevé.

À cause de cela, les auteurs affirment que nous ne pouvons pas simplement prendre une phrase de la machine et dire : « D'accord, c'est la décision finale. » Ce serait dangereux.

La solution « Hybride »

Alors, comment résoudre le mystère de « Quelle est la voix ? » Les auteurs suggèrent d'arrêter d'essayer de trouver une voix humaine « pure » et d'accepter que la voix est hybride. Ils utilisent trois idées pour expliquer cela :

1. L'esprit étendu : Imaginez que votre cerveau soit un ordinateur et que l'ICM soit un clavier que vous utilisez depuis des années. Finalement, le clavier devient une partie de votre esprit. Quand vous tapez, vous n'utilisez pas seulement un outil ; vous pensez à travers l'outil. Ainsi, l'aide de la machine fait partie du processus de pensée d'Elena.
2. La Co-agentivité : Voyez cela comme une danse. Elena mène, mais la machine suit ses pas et l'aide à garder l'équilibre. Elles dansent ensemble. La requête appartient à la fois à l'une et à l'autre.
3. La Mosaïque : Imaginez un tableau fait de carreaux. La vie et les valeurs d'Elena sont le tableau. La sortie de l'ICM n'est qu'un nouveau carreau. Nous ne pouvons pas décider si le tableau est correct en se basant sur un seul carreau ; nous devons regarder l'ensemble de la mosaïque.

Les deux types d'« aide »

L'article fait une distinction très importante entre deux façons dont la machine peut aider :

• Élaboration confirmatoire (Le bon genre) : C'est lorsque la machine devine un mot qui correspond parfaitement à ce que nous savons déjà du patient. Dans le cas d'Elena, elle a dit « Je souhaite arrêter », et la machine a ajouté « cette douleur ». Puisque Elena a toujours détesté la douleur et qu'elle était dans une clinique de soins palliatifs, cette devinette avait du sens. Elle confirmait ce qu'elle voulait probablement dire. C'est sûr.
• Substitution générative (Le mauvais genre) : C'est lorsque la machine devine quelque chose qui va à l'encontre de ce que nous savons du patient. Imaginez si Elena avait toujours été religieuse et détestait l'idée de mourir, mais que la machine devinait « Je souhaite mourir ». Ce serait la machine qui remplace sa volonté par sa propre supposition. C'est dangereux.

Le nouveau code de conduite : Le protocole de validation basé sur la trajectoire

Les auteurs proposent une nouvelle façon pour les médecins de gérer ces requêtes. Ils appellent cela le Protocole de validation basé sur la trajectoire. Au lieu de regarder la phrase unique écrite par la machine, les médecins doivent regarder la « trajectoire » (le chemin de vie) du patient.

Voici comment cela fonctionne :

1. Vérifier l'historique : Le patient a-t-il un plan clair et écrit (comme une directive anticipée) établi avant son état de verrouillage ? En a-t-il discuté avec les médecins auparavant ?
2. Le test de la mosaïque : Le message de la machine correspond-il au reste de l'histoire de vie du patient ? Si la machine dit « Je veux mourir », mais que la patiente a passé des années à écrire à quel point elle aime la vie, la machine se trompe probablement.
3. Répéter et vérifier : Ne faites pas confiance à un seul message. Posez la même question encore et encore. Si la machine dit la même chose à chaque fois, et que cela correspond à l'historique du patient, alors c'est probablement réel.
4. La clause de contradiction : Si le message de la machine contredit le passé du patient, arrêtez. Ne pas agir. La machine fait peut-être un bug, ou le patient est confus. Vous avez besoin de plus de preuves.

L'essentiel

L'article conclut que nous n'avons pas à choisir entre « la machine ment » et « la machine est parfaite ». La vérité se trouve entre les deux. La requête est un produit co-construit. Elle appartient au patient et à l'algorithme.

Si la devinette de l'algorithme s'aligne avec les valeurs et l'histoire de longue date du patient, alors la requête est valide, même si la machine a aidé à l'écrire. Mais si l'algorithme devine quelque chose de nouveau ou de contradictoire, nous devons traiter cela avec une extrême suspicion.

Les auteurs précisent avec prudence qu'il s'agit d'un cadre conceptuel, et non d'un manuel médical terminé. Ils n'ont pas testé cela avec des chiffres réels ou des codes juridiques dans cet article ; ils dessinent simplement la carte. Ils suggèrent que les travaux futurs devront déterminer les chiffres exacts (comme le nombre de fois qu'un message doit être répété) et comment l'intégrer dans la loi. Mais l'idée centrale est claire : pour entendre la véritable voix du patient, nous devons écouter à la fois la machine et l'histoire de vie entière du patient.