Strategic Patient Involvement in Medical AI Co-Design: A Pilot Study in Heart Failure

Nas salas de emergência dos hospitais ao redor do mundo, os médicos enfrentam uma questão difícil e urgente todos os dias: quando um paciente chega com uma insuficiência cardíaca, ele pode ir para casa em segurança ou precisa ficar internado? Esta decisão é de alto risco. Mandar uma pessoa doente para casa cedo demais pode levar a uma nova visita ou algo pior, enquanto manter uma pessoa estável no hospital desperdiça recursos e atrasa o atendimento de outros. Para ajudar a tomar essas decisões, cientistas estão construindo programas de computador que utilizam inteligência artificial para prever o risco de um paciente. Essas ferramentas analisam dados médicos para adivinhar quem pode piorar. No entanto, durante muito tempo, essas ferramentas foram projetadas por médicos e engenheiros que decidem quais informações importam e como os resultados devem ser apresentados. As pessoas que realmente vivem com a condição cardíaca, e que têm que conviver com as consequências dessas decisões, raramente foram convidadas a ajudar a moldar as próprias ferramentas.

Um novo estudo piloto de uma equipe de pesquisadores da Espanha e dos Países Baixos questiona o que acontece quando se inverte esse roteiro. Em vez de pedir aos pacientes que simplesmente olhem para um produto acabado e digam se gostam dele, os pesquisadores convidaram pessoas com insuficiência cardíaca para sentarem-se e projetarem a ferramenta do zero. O objetivo era ver se os pacientes, quando dotados de poder real para decidir como a tecnologia funciona, criariam algo diferente do que os especialistas haviam imaginado. O estudo descobriu que, quando os pacientes foram tratados como parceiros estratégicos em vez de apenas testadores, eles reimaginaram completamente a ferramenta. Eles a afastaram de ser uma calculadora para médicos e a transformaram em um guia de apoio para pacientes, um que fala em linguagem simples, respeita suas necessidades emocionais e se recusa a dar uma resposta quando não tem certeza.

Os pesquisadores reuniram onze pessoas que tinham experiência vivida com insuficiência cardíaca para um workshop de dois dias em Barcelona. Antes de se encontrarem pessoalmente, os participantes fizeram um curso online para aprender o básico sobre como a inteligência artificial funciona, garantindo que todos começassem no mesmo nível. Ao chegarem, não lhes foi pedido que criticassem um protótipo. Em vez disso, deram-lhes a liberdade de decidir o que a ferramenta deveria ser, a quem deveria servir e como deveria se comportar. O workshop foi estruturado em torno de princípios de tecnologia confiável, guiando o grupo através de atividades como o mapeamento da jornada de um paciente, a criação de personas para diferentes tipos de pessoas e a encenação de como a ferramenta se encaixaria em uma consulta médica real. Os participantes trabalharam em dois grupos separados e, surpreendentemente, ambos chegaram a um design quase idêntico sem conversarem entre si.

A mudança mais marcante que os participantes fizeram foi no próprio propósito da ferramenta. O projeto começou com a ideia de uma tela para médicos na sala de emergência para ajudá-los a decidir sobre altas hospitalares. Os pacientes apontaram imediatamente uma falha nesse pensamento: se a ferramenta é apenas para os médicos, os próprios pacientes nunca a veem e nunca entendem o risco ou o plano. Eles insistiram que a ferramenta deveria ser um aplicativo móvel para o paciente. Eles queriam ser os responsáveis por inserir suas próprias informações, não apenas ter seus dados coletados por uma máquina. Eles argumentaram que a ferramenta não deveria apenas olhar para um instantâneo da função cardíaca em um momento de crise, mas sim compreendê-los como seres humanos integrais. Isso significava incluir detalhes sobre suas vidas, como dieta, práticas religiosas, situação de moradia e capacidade de viajar, porque todos esses fatores alteram como uma previsão de risco se aplica a eles.

Quando se tratou de como a ferramenta deveria mostrar seus resultados, os participantes rejeitaram os números frios e rígidos comuns nas estatísticas médicas. Eles explicaram que ver uma porcentagem específica de chance de morte, como "6,4 por cento", era aterrorizante e pouco útil. Em vez disso, queriam que o risco fosse mostrado em categorias amplas e compreensíveis, como baixo, médio ou alto. Mais importante ainda, eles queriam que a ferramenta dissesse o que fazer a seguir. Um escore de risco sozinho é apenas um número; um escore de risco acompanhado de um passo claro e acionável, como "ligue para seu médico hoje" ou "monitore seu peso", é algo que uma pessoa pode usar. Eles também queriam que a ferramenta fosse honesta sobre seus próprios limites. Se o computador não tivesse dados suficientes para fazer uma estimativa confiável para uma pessoa específica, os participantes disseram que a ferramenta deveria simplesmente dizer: "Não posso te dizer agora", em vez de fornecer um número falso ou enganoso. Eles viam esse silêncio como uma forma de honestidade e uma maneira de construir confiança, em vez de uma falha da tecnologia.

O design também incluiu uma forma de os pacientes controlarem quanto queriam saber. Os participantes reconheceram que, em um momento de doença aguda, podem não ter energia para ler uma explicação complexa. Eles desenharam um sistema onde poderiam escolher o nível de detalhe. Poderiam ver um resumo simples ou, se quisessem, clicar para ver informações mais técnicas sobre como a previsão foi feita. Isso lhes deu o poder de decidir quanta informação podiam lidar em qualquer momento dado. Eles também enfatizaram que a ferramenta deveria ser uma ponte entre eles e seus médicos, permitindo que compartilhassem seus dados pessoais com sua equipe de cuidados e recebessem atualizações em troca, criando uma parceria em vez de um fluxo de informação unidirecional.

Apesar do sucesso do workshop, os participantes foram realistas sobre os desafios que permanecem. Eles apontaram que transformar essas ideias em um produto real e funcional é difícil. Observaram que leis sobre privacidade de dados, o custo de construção e manutenção do software e a forma como os hospitais são financiados frequentemente criam barreções que impedem que boas ideias cheguem ao produto final. Um participante observou que um único workshop não é suficiente para resolver esses problemas estruturais profundos, e que o processo de envolver pacientes precisa ser padronizado e apoiado com financiamento e tempo adequados. Os pesquisadores concordaram, observando que, embora os pacientes tenham produzido uma visão clara e coerente, o caminho dessa visão até uma ferramenta na mão de um médico ainda é incerto.

Este estudo sugere que, quando pessoas com experiência vivida têm o espaço para projetar a tecnologia que afeta suas vidas, elas não apenas ajustam a interface; elas redefinem o problema. Elas deslocaram o foco de uma ferramenta que ajuda um médico a gerenciar um leito hospitalar para uma ferramenta que ajuda uma pessoa a gerenciar sua vida. Elas mostraram que, para tecnologias de alto risco, especialmente quando envolvem o risco de morte, as necessidades emocionais e práticas do usuário são tão importantes quanto a precisão matemática do algoritmo. O trabalho demonstra que os pacientes são capazes de pensamento estratégico sobre sistemas complexos, desde que sejam tratados como parceiros e não como sujeitos. Embora a ferramenta descrita neste estudo ainda não esteja em uso, as especificações de design criadas pelo grupo oferecem um novo modelo de como a inteligência artificial médica poderia ser construída para servir às pessoas que ela pretende ajudar, em vez de apenas aos sistemas que as utilizam.