Trust in, acceptance of, and responsibility for, artificial intelligence in healthcare: patient and healthcare practitioner considerations

Este estudo qualitativo realizado no Erasmus Medical Center na Holanda revela que, embora profissionais de saúde e pacientes compartilhem preocupações sobre a responsabilidade da inteligência artificial na oncologia cirúrgica, suas perspectivas divergem significativamente, com os profissionais focando em validação e integração clínica, enquanto os pacientes priorizam a atenção humana e a confiança no médico.

O essencial

Imagine que a inteligência artificial (IA) na saúde é como um co-piloto muito inteligente que acabou de entrar na cabine de um avião (o hospital). Este co-piloto tem lido milhões de manuais e visto milhões de voos, mas nunca pilotou um avião sozinho.

Este estudo é como uma conversa entre os pilotos experientes (médicos e enfermeiros) e os passageiros (pacientes) para perguntar: "O que vocês acham desse novo co-piloto? Podemos confiar nele? Quem é o chefe?"

Aqui está o resumo da conversa, traduzido para uma linguagem simples e com algumas analogias:

1. O que eles sabem sobre o "Co-piloto"? (Conhecimento)

• Os Pilotos (Médicos): Eles sabem que o co-piloto existe e é popular, mas muitos não entendem exatamente como o motor funciona. Alguns dizem: "Eu sei que ele é rápido, mas não sei se ele vai falhar". Eles querem saber: "De onde vêm os dados que ele leu? Ele foi treinado com pessoas como os meus pacientes?"
• Os Passageiros (Pacientes): Para a maioria, a IA é como um "truque de mágica" ou algo que viram no Instagram. Eles sabem que é o futuro, mas não entendem a mágica. O medo deles não é a tecnologia em si, mas sim não entender o que está acontecendo com o seu próprio corpo.
• A Lição: Ninguém precisa ser um engenheiro de computadores para confiar, mas todos precisam saber as regras do jogo e onde o co-piloto pode errar.

2. Quem segura o volante? (Responsabilidade e Autonomia)

• Os Pilotos: Eles dizem com firmeza: "Eu sou o capitão. O co-piloto pode dar dicas, mas a decisão final é minha." Eles têm medo de confiar cegamente na máquina e perder o "feeling" (a intuição) que só a experiência humana traz. Eles querem manter o controle.
• Os Passageiros: Eles querem ser ouvidos. O maior medo deles é: "E se o computador disser que estou bem, mas eu me sentir mal? O médico vai me ouvir ou vai apenas olhar para a tela?" Eles não querem ser apenas números em uma planilha.
• O Conflito: Os médicos acham que os pacientes não querem saber detalhes técnicos. Os pacientes dizem: "Na verdade, queremos saber como a decisão foi tomada, para não nos sentir ignorados."

3. O "Co-piloto" é justo? (Viés e Justiça)

• Os Pilotos: Eles estão preocupados. "Esse co-piloto foi treinado apenas com dados de americanos brancos? E se eu tiver um paciente de outra etnia ou de um país diferente, ele vai funcionar?" Eles sabem que se os dados de treino forem parciais, o co-piloto será injusto.
• Os Passageiros: Eles pensam de forma mais pessoal: "E se o sistema não entender a minha cultura ou a minha situação específica?" Eles temem que a tecnologia trate todos iguais, ignorando que cada pessoa é única.

4. A Relação Humana (Confiança)

• A Grande Diferença:
  • Para os médicos, a confiança na IA depende de provas e testes. "Mostre-me que ele funciona em 99% dos casos antes de eu usar."
  • Para os pacientes, a confiança não está na máquina, mas no médico. "Eu confio no Dr. João. Se o Dr. João diz que o computador está certo, eu confio. Se o Dr. João diz que o computador está errado, eu confio no Dr. João."
• O Risco: Se o médico usar o computador apenas para "convencer" o paciente a fazer algo (ex: "O computador diz que você pode ir para casa"), o paciente pode se sentir pressionado e não ouvido.

5. Na Prática: Funciona no dia a dia? (Operação)

• O Sonho: Todos concordam que a IA poderia ajudar a organizar a bagunça. Imaginem que a IA faz a papelada chata (relatórios, checar dados) em segundos, deixando o médico livre para olhar nos olhos do paciente e cuidar dele.
• O Pesadelo: O medo é que a IA se torne mais uma tarefa chata. "Se eu tiver que clicar em 100 caixinhas para usar o computador, isso vai me dar mais trabalho, não menos."
• O Veredito: A IA só será aceita se se encaixar perfeitamente no trabalho do médico, como uma ferramenta que some quando não é usada, e não como um novo chefe que exige atenção constante.

Conclusão: O Que Aprendemos?

Este estudo nos diz que não basta criar um "co-piloto" super inteligente. Para que ele funcione:

1. Médicos precisam entender os limites da máquina para não dependerem demais dela.
2. Pacientes precisam sentir que a tecnologia não vai substituir o toque humano e que suas vozes ainda importam.
3. A Confiança é construída quando o médico usa a IA como uma ferramenta de apoio, mas mantém a relação humana no centro.

Em resumo: A IA é como um mapa muito detalhado. Ela pode mostrar o caminho mais rápido, mas quem decide a rota, quem segura o volante e quem cuida dos passageiros somos nós, os humanos. O mapa é útil, mas não deve substituir o motorista.

Resumo técnico

Título do Estudo: Confiança, Aceitação e Responsabilidade na Inteligência Artificial em Cuidados de Saúde: Considerações de Pacientes e Profissionais de Saúde

1. Problema e Contexto

A inteligência artificial (IA) no setor de saúde enfrenta um "hiato de implementação" significativo. Embora haja investimentos massivos e um otimismo generalizado sobre o potencial da IA, apenas uma pequena fração dos modelos (cerca de 2% em alguns domínios) chega efetivamente à prática clínica ("bedside"). A literatura existente foca predominantemente na precisão técnica e no desenvolvimento de algoritmos, negligenciando frequentemente as dimensões humanas, éticas e epistemológicas da adoção.

O problema central abordado neste estudo é a falta de compreensão empírica sobre como os dois grupos de stakeholders mais críticos — profissionais de saúde (HCPs) e pacientes — percebem, confiam e aceitam a integração da IA nos processos de decisão clínica. Especificamente, o estudo investiga as lacunas entre as expectativas dos médicos e as necessidades dos pacientes em relação a temas como responsabilidade, transparência e a dinâmica da relação médico-paciente na era da IA.

2. Metodologia

O estudo utilizou um desenho qualitativo exploratório baseado em entrevistas semiestruturadas.

• Local e Participantes: A pesquisa foi conduzida no Erasmus MC (Roterdã, Países Baixos), no Departamento de Oncologia Cirúrgica e Cirurgia Gastrointestinal.
  • Amostra: 30 participantes no total, selecionados por amostragem intencional.
    • 18 Profissionais de Saúde (HCPs): 10 cirurgiões e 8 enfermeiros.
    • 12 Pacientes: Todos submetidos a cirurgias gastrointestinais nos últimos 12 meses.
• Foco da Entrevista: As entrevistas focaram em um modelo de IA específico (o sistema DESIRE), projetado para auxiliar nas decisões de alta hospitalar pós-operatória, embora as discussões tenham abrangido a IA em geral.
• Análise de Dados: Os dados foram transcritos e analisados utilizando o software ATLAS.ti. A análise combinou codificação dedutiva (baseada em conceitos pré-existentes de ética e IA) e indutiva (emergente dos dados), seguida de análise temática para identificar categorias predominantes. O processo envolveu codificação independente por dois autores principais, seguida de consenso e refinamento iterativo.

3. Principais Contribuições

O estudo oferece contribuições originais ao:

1. Comparar diretamente as perspectivas de pacientes e profissionais em um único desenho de estudo, utilizando guias de entrevista semelhantes para permitir uma comparação cruzada direta.
2. Desafiar suposições dos profissionais: Revelar que os profissionais de saúde frequentemente subestimam o desejo dos pacientes por transparência sobre o uso de IA e superestimam a confiança cega na tecnologia.
3. Mapear a "Ambiente Epistêmico": Analisar como a confiança e a responsabilidade são distribuídas entre humanos e algoritmos, destacando a tensão entre a responsabilidade formal do médico e a confiança prática no sistema.
4. Identificar a necessidade de literacia diferenciada: Mostrar que a compreensão da IA varia drasticamente entre os grupos e que a "leitura" técnica não é o único pré-requisito para a confiança; a compreensão das limitações e do contexto de desenvolvimento é crucial.

4. Resultados Principais

A análise gerou 3 categorias temáticas principais com 10 subcategorias:

A. Conhecimento de IA (AI Knowledge)

• HCPs: Possuem uma consciência geral, mas variável. Alguns cirurgiões discutem termos técnicos (validação, erro de modelo), enquanto outros veem a IA como um "termo guarda-chuva". A ênfase está na necessidade de entender as limitações e a origem dos dados, não necessariamente no funcionamento interno do algoritmo.
• Pacientes: Têm conhecimento superficial, muitas vezes baseado em mídia. No entanto, a falta de conhecimento técnico não leva à rejeição; eles valorizam a explicação acessível e a transparência sobre como a IA afeta seu cuidado.

B. Ética e Relacionamento

• Autonomia e Responsabilidade:
  • HCPs: Enfatizam a preservação do julgamento profissional ("humano no loop") e assumem a responsabilidade final, mesmo quando desconfiados do modelo. Há uma preocupação com o "viés de automação".
  • Pacientes: Associam autonomia à informação e à capacidade de discordar. Temem que a IA fortaleça a posição do médico e silencie suas vozes (injustiça epistêmica).
• Explicabilidade:
  • HCPs: Buscam explicabilidade para validar a segurança e a lógica clínica, mas muitas vezes aceitam "caixas pretas" se a saída for acionável e segura.
  • Pacientes: Muitos expressaram interesse em saber como a IA foi usada em seu caso, contradizendo a suposição dos médicos de que "os pacientes não se importam com isso".
• Relação Médico-Paciente: Pacientes temem que a IA não capture a "sensação" do corpo ou o contexto subjetivo da doença. A confiança do paciente reside no médico, não na máquina; a IA é vista como uma ferramenta do médico.

C. Implicações Operacionais e Clínicas

• Impacto Clínico: Há otimismo sobre a eficiência e a capacidade de processar grandes volumes de dados, mas ceticismo sobre o valor real adicionado no dia a dia ("wait-and-see"). O modelo é visto como suporte, não substituto.
• Integração no Fluxo de Trabalho: A aceitação é condicional à integração perfeita nos prontuários eletrônicos (EHR). Qualquer ferramenta que exija trabalho administrativo extra (ex: clicar em caixas de confirmação) será rejeitada.
• Preocupações Técnicas: Questões sobre qualidade de dados, viés (especialmente em populações não representadas), validação contínua e a dificuldade de capturar variáveis clínicas complexas (como dor ou mobilidade) em dados estruturados.

5. Significado e Conclusão

O estudo conclui que a implementação bem-sucedida da IA na saúde não depende apenas da precisão técnica do modelo, mas da convergência ética e epistêmica entre os stakeholders.

• Gestão de Expectativas: Os profissionais de saúde devem reconhecer que os pacientes desejam ser informados sobre o uso de IA e que a confiança do paciente é mediada pela relação com o médico, não pela tecnologia em si.
• Responsabilidade Distribuída: Embora a responsabilidade legal recaia sobre o médico, a confiança prática exige sistemas transparentes, validados e monitorados continuamente.
• Recomendações: É necessário desenvolver programas de educação em IA que abordem não apenas a técnica, mas também as implicações éticas e a comunicação com o paciente. A integração de ferramentas de IA deve priorizar a usabilidade e a redução da carga administrativa para evitar a fadiga do profissional.

Em suma, para que a IA seja adotada de forma responsável, é essencial cultivar condições que apoiem o engajamento crítico dos clínicos e atendam às expectativas evolutivas dos pacientes dentro da relação terapêutica.