Whose Voice? Algorithmic Smoothing and the Hybrid Authorship of BCI-Mediated End-of-Life Requests: a normative conceptual analysis

Imagine um mundo onde sua mente é uma cidade brilhante e movimentada, mas as estradas que levam para fora foram completamente bloqueadas. Você pode pensar, sentir e planejar, mas não consegue acenar, falar ou digitar. Esta é a realidade para pessoas em um "estado de encarceramento total" (completely locked-in state), frequentemente causado por doenças como a ELA. Elas estão acordadas e conscientes, mas seus corpos pararam de ouvir. Entre a Interface Cérebro-Computador (ICC), uma ponte de alta tecnologia que tenta ler os sinais elétricos do seu cérebro e transformá-los em palavras em uma tela. É como ter um tradutor que ouve seus pensamentos e fala por você.

Mas aqui está a reviravolta: este tradutor não é apenas um microfone passivo. É um editor impulsionado por IA. Para dar sentido aos sinais desordenados e cheios de estática vindos de um cérebro que não consegue se mover, o computador usa "suavização" (limpar o ruído) e "texto preditivo" (adivinhar a próxima palavra, exatamente como seu telefone faz quando você digita). Isso levanta uma questão massiva e de tirar o fôlego: se o computador ajuda a terminar sua frase, o pensamento ainda é seu? Isso é especialmente crítico quando a frase é sobre algo de vida ou morte, como pedir ajuda médica para encerrar o sofrimento. Se uma máquina ajuda a escrever o pedido, quem está realmente pedindo?

Este artigo mergulha exatamente nesse dilema. Ele pergunta: quando um paciente encarcerado usa uma ICC aprimorada por IA para pedir auxílio médico para morrer, podemos confiar que o pedido é verdadeiramente sua própria voz, ou o algoritmo mudou a mensagem? Os autores, Lee e Ngan, argumentam que não devemos apenas dizer "sim" ou "não". Em vez disso, eles sugerem que o pedido é um produto "híbrido" — uma colaboração entre a intenção do paciente e a ajuda da máquina. Eles propõem uma nova maneira de verificar esses pedidos, não olhando para a única frase que o computador escreveu, mas comparando-a com toda a história de vida do paciente, seus valores passados e suas diretrizes antecipadas. Eles concluem que, desde que o "palpite" da máquina corresponda ao que o paciente sempre acreditou, o pedido é válido. No entanto, se o palpite da máquina contradizer o histórico do paciente, o pedido deve ser ignorado. É uma estrutura projetada para proteger o verdadeiro eu do paciente de ser sobrescrito por um algoritmo problemático.

A História de Elena e a Máquina Falante

Para entender isso, vamos conhecer Elena. Ela é uma professora de filosofia de 54 anos que, antes de a ELA assumir seu corpo, escreveu uma carta clara dizendo: "Se eu algum dia ficar presa em minha mente sem uma forma de falar, quero poder escolher interromper meu sofrimento". Ela foi muito específica sobre isso.

Agora, Elena está em um estado de encarceramento total. Ela pode pensar, mas não consegue mover um músculo. Ela tem uma ICC implantada em seu cérebro. Um dia, seus médicos perguntam se ela tem alguma preocupação. A máquina lê os sinais cerebrais dela e digita: "Desejo interromper esta dor."

Os médicos estão confusos. Eles sabem que Elena queria encerrar seu sofrimento, mas também sabem que a máquina não é perfeita. O manual da máquina diz que ela usa "suavização de sinal" (para limpar a estática) e "predição contextual" (para adivinhar palavras). Quando os médicos verificaram os dados brutos, viram que o sinal cerebral de Elena era, na verdade, apenas o fragmento: "Desejo interromper." A máquina, vendo que ela estava em uma sala de cuidados paliativos e estava estressada, adivinhou as palavras "esta dor" e as adicionou à frase.

Então, a grande questão é: Elena disse "Desejo interromper esta dor", ou a máquina disse isso por ela?

A Máquina Não é um Tubo Neutro

O artigo explica que essas ICCs não são como uma linha telefônica onde você apenas ouve o que a outra pessoa diz. Elas são mais como um editor inteligente. O computador tem que fazer muito trabalho pesado:

1. Ele captura os sinais elétricos desordenados do cérebro.
2. Ele filtra o "ruído" (a estática).
3. Ele tenta descobrir quais picos cerebrais significam quais letras.
4. Ele usa um enorme banco de dados de conversação humana para adivinhar o resto da frase.

Os autores apontam que esse "adivinhar" é necessário. Sem isso, a saída seria um amontoado de palavras sem sentido. Mas isso significa que a frase final é um esforio de equipe. A máquina não é apenas uma ferramenta; ela é uma coautora.

O Problema dos Erros

O artigo também nos lembra que essas máquinas cometem erros.

• Taxas de Erro de Palavras: Em testes reais, essas máquinas erram palavras cerca de 8% a 24% das vezes, dependendo do tamanho do vocabulário.
• Falsos Positivos: Às vezes, a máquina pode dizer uma frase que o paciente nunca pretendeu. Para frases simples, isso acontece cerca de 2% a 5% das vezes. Para pedidos grandes e emocionais, como pedir para morrer, o risco pode ser ainda maior.

Por causa disso, os autores dizem que não podemos simplesmente pegar uma única frase da máquina e dizer: "Ok, essa é a decisão final". Isso seria perigoso.

A Solução "Híbrida"

Então, como resolvemos o mistério de "De quem é a Voz?" Os autores sugerem que paremos de tentar encontrar uma voz humana "pura" e aceitemos que a voz é híbrida. Eles usam três ideias para explicar isso:

1. A Mente Estendida: Imagine que seu cérebro é um computador e a ICC é um teclado que você usa há anos. Eventualmente, o teclado se torna parte de sua mente. Quando você digita, não está apenas usando uma ferramenta; você está pensando através da ferramenta. Assim, a ajuda da máquina é parte do processo de pensamento de Elena.
2. Co-Agência: Pense nisso como uma dança. Elena lidera, mas a máquina a segue e a ajuda a manter o equilíbrio. Elas estão dançando juntas. O pedido pertence a ambas.
3. O Mosaico: Imagine uma imagem feita de azulejos. A vida e os valores de Elena são a imagem. A saída da ICC é apenas um novo azulejo. Não podemos decidir se a imagem está correta baseando-nos em apenas um azulejo; temos que olhar para o mosaico inteiro.

Os Dois Tipos de "Ajuda"

O artigo faz uma distinção muito importante entre duas maneiras de a máquina ajudar:

• Elaboração Confirmatória (O Tipo Bom): É quando a máquina adivinha uma palavra que se encaixa perfeitamente com o que já sabemos sobre o paciente. No caso de Elena, ela disse "Desejo interromper" e a máquina adicionou "esta dor". Como Elena sempre odiou a dor e estava em uma clínica de dor, esse palpite fazia sentido. Ele confirmou o que ela provavelmente queria dizer. Isso é seguro.
• Substituição Generativa (O Tipo Ruim): É quando a máquina adivinha algo que vai contra o que sabemos sobre o paciente. Imagine se Elena sempre tivesse sido religiosa e odiado a ideia de morrer, mas a máquina adivinhasse "Desejo morrer". Isso seria a máquina substituindo a vontade dela pela própria suposição. Isso é perigoso e deve ser ignorado.

O Novo Livro de Regras: O Protocolo de Validação Baseado em Trajetória

Os autores propõem uma nova maneira de os médicos lidarem com esses pedidos. Eles chamam de Protocolo de Validação Baseado em Trajetória. Em vez de olhar para a única frase que a máquina escreveu, os médicos devem olhar para a "trajetória" (o caminho de vida) do paciente.

Funciona assim:

1. Verificar o Histórico: O paciente possui um plano claro e escrito (como uma diretriz antecipada) de antes de ficar encarcerado? Ele falou sobre isso com médicos anteriormente?
2. O Check do Mosaico: A mensagem da máquina se encaixa com o restante da história de vida do paciente? Se a máquina diz "Eu quero morrer", mas a paciente passou anos escrevendo sobre o quanto ama a vida, a máquina provavelmente está errada.
3. Repetir e Verificar: Não confie em uma única mensagem. Faça a mesma pergunta repetidas vezes. Se a máquina disser a mesma coisa todas as vezes, e isso coincidir com o histórico do paciente, então é provavelmente real.
4. A Cláusula de Contradição: Se a mensagem da máquina contradiz o passado do paciente, pare. Não aja sobre ela. A máquina pode estar com um erro, ou o paciente pode estar confuso. Você precisa de mais provas.

A Conclusão

O artigo conclui que não precisamos escolher entre "a máquina está mentindo" e "a máquina é perfeita". A verdade está no meio. O pedido é um produto co-construído. Ele pertence ao paciente e ao algoritmo.

Se o palpite do algoritmo se alinha com os valores e o histórico de longa data do paciente, então o pedido é válido, mesmo que a máquina tenha ajudado a escrevê-lo. Mas se o algoritmo adivinhar algo novo ou contraditório, devemos tratar isso com extrema suspeita.

Os autores são cuidadosos ao dizer que isso é um arcabouço conceitual, não um livro de regras médicas finalizado ainda. Eles não testaram isso com números reais ou códigos legais neste artigo; eles estão apenas traçando o mapa. Eles sugerem que trabalhos futuros precisam determinar os números exatos (como quantas vezes uma mensagem deve ser repetida) e como torná-la compatível com a lei. Mas a ideia central é clara: para ouvir a verdadeira voz do paciente, devemos ouvir a máquina e a história de vida inteira do paciente juntos.