Whose Voice? Algorithmic Smoothing and the Hybrid Authorship of BCI-Mediated End-of-Life Requests: a normative conceptual analysis

Imagina un mundo donde tu mente es una ciudad brillante y bulliciosa, pero los caminos que conducen hacia afuera han sido completamente bloqueados. Puedes pensar, sentir y planificar, pero no puedes mover las manos, hablar o escribir. Esta es la realidad para las personas en un "estado de encierro completo" (completely locked-in state), a menudo causado por enfermedades como la ELA. Están despiertos y conscientes, pero sus cuerpos han dejado de escuchar. Entra la Interfaz Cerebro-Computadora (BCI, por sus siglas en inglés), un puente de alta tecnología que intenta leer las señales eléctricas de tu cerebro y convertirlas en palabras en una pantalla. Es como tener un traductor que escucha tus pensamientos y habla por ti.

Pero aquí está el giro: este traductor no es solo un micrófono pasivo. Es un editor impulsado por IA. Para dar sentido a las señales desordenadas y llenas de estática que provienen de un cerebro que no puede moverse, la computadora utiliza el "suavizado" (limpiar el ruido) y el "texto predictivo" (adivinar la siguiente palabra, tal como lo hace tu teléfono cuando escribes). Esto plantea una pregunta masiva y asombrosa: si la computadora ayuda a terminar tu oración, ¿sigue siendo la idea tuya? Esto es especialmente crítico cuando la oración trata sobre algo de vida o muerte, como pedir ayuda médica para terminar con el sufrimiento. Si una máquina ayuda a escribir la petición, ¿quién está pidiendo realmente?

Este artículo profundiza en ese mismo dileo. Pregunta: cuando un paciente en estado de encierro utiliza una BCI mejorada por IA para solicitar asistencia médica para morir, ¿podemos confiar en que la petición es realmente su propia voz, o ha cambiado el algoritmo el mensaje? Los autores, Lee y Ngan, argumentan que no deberíamos limitarnos a decir "sí" o "no". En su lugar, sugieren que la petición es un producto "híbrido": una colaboración entre la intención del paciente y la ayuda de la máquina. Proponen una nueva forma de verificar estas peticiones, no mirando la única oración que escribió la computadora, sino comparándola con la historia de vida completa del paciente, sus valores pasados y sus directrices anticipadas. Concluyen que, mientras el "supuesto" de la máquina coincida con lo que el paciente siempre ha creído, la petición es válida. Sin embargo, si el supuesto de la máquina contradice la historia del paciente, la petición debe ser ignorada. Es un marco diseñado para proteger el verdadero yo del paciente de ser sobrescrito por un algoritmo defectuoso.

La historia de Elena y la máquina parlante

Para entender esto, conozcamos a Elena. Ella es una profesora de filosofía de 54 años que, antes de que la ELA se apoderara de su cuerpo, escribió una carta clara diciendo: "Si alguna vez me quedo atrapada en mi mente sin forma de hablar, quiero poder elegir dejar de sufrir". Fue muy específica sobre esto.

Ahora, Elena se encuentra en un estado de encierro completo. Puede pensar, pero no puede mover ni un músculo. Tiene una BCI implantada en su cerebro. Un día, sus médicos le preguntan si tiene alguna preocupación. La máquina lee sus señales cerebrales y escribe: "Deseo detener este dolor".

Los médicos están confundidos. Saben que Elena quería terminar con su sufrimiento, pero también saben que la máquina no es perfecta. El manual de la máquina dice que utiliza "suavizado de señal" (para limpiar la estática) y "predicción contextual" (para adivinar palabras). Cuando los médicos revisaron los datos brutos, vieron que la señal cerebral de Elena era en realidad solo el fragmento: "Deseo detener". La máquina, al ver que ella estaba en una sala de cuidados paliativos y que estaba estresada, adivinó las palabras "este dolor" y las añadió a la oración.

Entonces, la gran pregunta es: ¿Dijo Elena "Deseo detener este dolor", o la máquina lo dijo por ella?

La máquina no es un conducto neutral

El artículo explica que estas BCI no son como una línea telefónica donde simplemente escuchas lo que la otra persona dice. Son más bien como un editor inteligente. La computadora tiene que hacer gran parte del trabajo pesado:

1. Captura las señales eléctricas desordenadas del cerebro.
2. Filtra el "ruido" (la estática).
3. Intenta descifrar qué picos cerebrales significan qué letras.
4. Utiliza una base de datos gigante de conversación humana para adivinar el resto de la oración.

Los autores señalan que este "adivinar" es necesario. Sin ello, el resultado sería un galimatías. Pero esto significa que la oración final es un esfuerzo en equipo. La máquina no es solo una herramienta; es una coautora.

El problema de los errores

El artículo también nos recuerda que estas máquinas cometen errores.

• Tasas de error de palabras: En pruebas reales, estas máquinas se equivocan en las palabras entre un 8% y un 24% de las veces, dependiendo de qué tan grande sea el vocabulario.
• Falsos positivos: A veces, la máquina podría decir una frase que el paciente nunca pretendió. Para frases sencillas, esto sucede aproximadamente entre un 2% y un 5% de las veces. Para peticiones grandes y emocionales, como pedir la muerte, el riesgo podría ser incluso mayor.

Debido a esto, los autores dicen que no podemos simplemente tomar una oración de la máquina y decir: "Bien, esa es la decisión final". Eso sería peligroso.

La solución "híbrida"

Entonces, ¿cómo resolvemos el misterio de "¿De quién es la voz?"? Los autores sugieren que dejemos de intentar encontrar una voz "pura" y aceptemos que la voz es híbrida. Utilizan tres ideas para explicarlo:

1. La mente extendida: Imagina que tu cerebro es una computadora y la BCI es un teclado que has usado durante años. Eventualmente, el teclado se convierte en parte de tu mente. Cuando escribes, no solo estás usando una herramienta; estás pensando a través de la herramienta. Así, la ayuda de la máquina es parte del proceso de pensamiento de Elena.
2. Co-agencia: Piensa en ello como un baile. Elena lidera, pero la máquina sigue sus pasos y la ayuda a mantener el equilibrio. Están bailando juntos. La petición pertenece a ambos.
3. El mosaico: Imagina un cuadro hecho de azulejos. La vida y los valores de Elena son el cuadro. La salida de la BCI es solo un nuevo azulejo. No podemos decidir si el cuadro es correcto basándonos solo en un azulejo; tenemos que mirar el mosaico completo.

Los dos tipos de "ayuda"

El artículo hace una distinción muy importante entre dos formas en que la máquina puede ayudar:

• Elaboración confirmatoria (El tipo bueno): Esto es cuando la máquina adivina una palabra que encaja perfectamente con lo que ya sabemos del paciente. En el caso de Elena, ella dijo "Deseo detener" y la máquina añadió "este dolor". Como Elena siempre había odiado el dolor y estaba en una clínica de dolor, esta suposición tenía sentido. Confirmó lo que ella probablemente quería decir. Esto es seguro.
• Sustitución generativa (El tipo malo): Esto es cuando la máquina adivina algo que va en contra de lo que sabemos del paciente. Imagina que Elena siempre había sido religiosa y odiaba la idea de morir, pero la máquina adivinó "Deseo morir". Eso sería la máquina reemplazando su voluntad con su propio supuesto. Esto es peligroso y debe ser ignorado.

El nuevo libro de reglas: El protocolo de validación basado en la trayectoria

Los autores proponen una nueva forma para que los médicos manejen estas peticiones. Lo llaman el Protocolo de Validación Basado en la Trayectoria. En lugar de mirar la única oración que escribió la máquina, los médicos deben mirar la "trayectoria" (el camino de vida) del paciente.

Así es como funciona:

1. Revisar la historia: ¿Tiene el paciente un plan claro y escrito (como una directriz anticipada) de antes de quedar en estado de encierro? ¿Habló de esto con los médicos anteriormente?
2. La comprobación del mosaico: ¿Encaja el mensaje de la máquina con el resto de la historia de vida del paciente? Si la máquina dice "Quiero morir", pero la paciente pasó años escribiendo sobre cuánto ama la vida, la máquina probablemente esté equivocada.
3. Repetir y verificar: No confíes en un solo mensaje. Haz la misma pregunta una y otra vez. Si la máquina dice lo mismo cada vez, y coincide con la historia del paciente, entonces es probable que sea real.
4. La cláusula de contradicción: Si el mensaje de la máquina contradice el pasado del paciente, detente. No actúes ante ello. La máquina podría estar fallando o el paciente podría estar confundido. Necesitas más pruebas.

La conclusión

El artículo concluye que no tenemos que elegir entre "la máquina miente" y "la máquina es perfecta". La verdad está en medio. La petición es un producto co-construido. Pertenece tanto al paciente como al algoritmo.

Si el supuesto del algoritmo se alinea con los valores y la historia mantenidos por el paciente a lo largo del tiempo, entonces la petición es válida, incluso si la máquina ayudó a escribirla. Pero si el algoritmo supone algo nuevo o contradictorio, debemos tratarlo con extrema sospecha.

Los autores advierten cuidadosamente que esto es un marco conceptual, no un libro de reglas médicas terminado todavía. No han probado esto con números reales o códigos legales en este artículo; solo están trazando el mapa. Sugieren que el trabajo futuro necesita determinar las cifras exactas (como cuántas veces debe repetirse un mensaje) y cómo hacerlo encajar en la ley. Pero la idea central es clara: para escuchar la verdadera voz del paciente, debemos escuchar a la máquina y a la historia de vida completa del paciente juntos.