Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach

Imagine o sistema de saúde como uma biblioteca gigante e movimentada onde os médicos são os bibliotecários chefes. Durante anos, eles foram os únicos autorizados a buscar livros, organizar prateleiras e recomendar histórias para ajudar você a se sentir melhor. Mas, ultimamente, um novo tipo de ajudante chegou: um bibliotecário robô super-rápido e superinteligente, movido por Inteligência Artificial (IA). Este robô pode escanear milhões de livros em um segundo, detectar padrões que os humanos podem perder e até sugerir a história perfeita para o seu humor específico. Parece incrível, certo? Mas aqui está o detalhe: só porque o robô é rápido, não significa que todos confiam nele. Algumas pessoas temem que o robô possa errar a história, roubar seus segredos ou até substituir inteiramente o bibliotecário humano.

Este estudo mergulha na mente das pessoas comuns para responder a uma grande pergunta: nós confiamos neste novo bibliotecário robô ou temos medo de que ele vá estragar nossa saúde? Para entender as respostas, precisamos saber algumas coisas. Primeiro, há a "literacia em IA", que é apenas uma maneira chique de dizer: "Você sabe como esse cérebro robótico funciona?". Depois, há a "familiaridade", que é simplesmente o quão frequentemente você tem visto ou usado esses robôs em sua vida cotidiana. Por fim, há a ideia de "supervisão humana", que é a crença de que o bibliotecário humano ainda está no comando, vigiando o trabalho do robô para garantir que ele esteja fazendo a coisa certa. Os pesquisadores queriam ver se saber mais sobre o robô, usá-lo você mesmo ou confiar no bibliotecário humano muda o quanto achamos que o robô é útil, arriscado ou justo.

Os pesquisadores, uma equipe da Universidade de Amsterdã, decidiram tirar uma fotografia instantânea do público holandês para ver o que eles realmente pensam. Eles pediram a quase 4.000 pessoas — cerca de metade homens e metade mulheres, com uma idade média de 52 anos — para preencherem um questionário. Eles não perguntaram apenas: "Você gosta de IA?". Eles dividiram isso em três sentimentos específicos: a tomada de decisão automatizada (ADM) na saúde é útil? É arriscada? E é justa?

Para encontrar as respostas, eles usaram uma ferramenta matemática especial chamada Modelagem de Equações Estruturais. Pense nisso como um mapa gigante e complexo que conecta diferentes pontos. Os pesquisadores desenharam linhas entre coisas como "O quanto você sabe sobre IA?" e "Você acha que é arriscado?" para ver quais pontos puxavam as cordas com mais força. Eles observaram se as pessoas que usavam chatbots para obter conselhos de saúde se sentiam de forma diferente de quem usava apenas o Google. Eles também verificaram se as pessoas que confiavam em seus médicos para distinguir entre uma nota escrita por um humano e uma escrita por uma IA se sentiam mais seguras sobre todo o sistema.

Então, o que o mapa revelou? Os resultados são um pouco como uma montanha-russa com algumas reviravoltas surpreendentes.

Primeiro, quanto mais as pessoas sabiam sobre diferentes tipos de IA (como chatbots, deepfakes ou IA generativa), mais elas achavam que ela poderia ser útil. É como saber como um truque de mágica funciona faz você apreciar mais a habilidade do mágico. Mas aqui está a reviravolta: essa mesma familiaridade também as fez pensar que ela era mais arriscada. Parece que, quando você sabe um pouco mais sobre o robô, percebe que ele não é apenas uma ferramenta perfeita; é uma ferramenta poderosa que pode falhar. Portanto, saber mais não fez apenas as pessoas amarem a tecnologia; fez com que elas também ficassem mais conscientes dos perigos. Também.

Segundo, o estudo descobriu algo realmente interessante sobre o bibliotecário humano. O maior fator que fez as pessoas pensarem que a IA era justa e útil foi a confiança na capacidade do médico de distinguir entre o conteúdo gerado por IA e o conteúdo humano. Se uma pessoa acreditava: "Meu médico consegue notar se um computador escreveu isso", ela era muito mais propensa a achar que todo o sistema era justo. Acontece que nos importamos menos em confiar no próprio robô e mais em confiar no humano que está segurando a coleira do robô. Se pensamos que o humano está no controle e pode detectar erros, nos sentimos seguros.

Segundo, o estudo descobriu algo muito interessante sobre o bibliotecário humano. O fator individual mais importante que fez as pessoas pensarem que a IA era justa e útil foi a confiança na capacidade do médico de distinguir entre o conteúdo gerado por IA e o conteúdo humano. Se uma pessoa acreditava: "Meu médico consegue notar se um computador escreveu isso", ela era muito mais propensa a achar que todo o sistema era justo. Acontece que nos importamos menos em confiar no próprio robô e mais em confiar no humano que está segurando a coleira do robô. Se pensamos que o humano está no controle e pode detectar erros, nos sentimos seguros.

Terceiro, as pessoas que realmente usavam agentes conversacionais (como chatbots ou assistentes virtuais) para obter informações de saúde sentiam-se de forma diferente do restante. Esses usuários achavam que o sistema era menos arriscado e mais justo. É como andar de bicicleta: a primeira vez que você sobe, parece instável e assustador. Mas depois que você já andou algumas vezes, parece normal e seguro. Usar essas ferramentas parecia fazer o robô assustador parecer um ajudante amigável. No entanto, o estudo observou que a maioria das pessoas na pesquisa ainda não usava esses chatbots com frequência, então esse "efeito de andar de bicicleta" ainda não havia se instalado para todos.

Curiosamente, o estudo também observou se as pessoas que usavam sites de saúde tradicionais (como páginas oficiais de hospitais) se sentiam de forma diferente. Descobriu-se que confiar nessas fontes digitais mais antigas fazia as pessoas pensarem que a IA era mais arriscada, mas isso não mudava realmente suas opiniões sobre se ela era útil ou justa. É como se aderir aos "velhos métodos" fizesse o novo robô parecer ainda mais suspeito.

Uma coisa que o estudo não encontrou foi uma ligação forte entre "literacia em IA" (o quão bem você entende a tecnologia) e o sentimento de que a IA é arriscada. Você poderia pensar que, se entende como um motor de carro funciona, teria menos medo dele. Mas para a IA, saber como ela funcionava não necessariamente fazia as pessoas se sentirem mais seguras sobre os riscos. Os pesquisadores sugerem que isso pode ser porque entender a tecnologia faz com que algumas pessoas vejam os perigos claramente, enquanto outras ficam excessivamente confiantes, cancelando-se mutuamente.

Os pesquisadores foram cuidadosos ao dizer que este estudo é um instantâneo no tempo, não um filme do futuro. Eles não podem dizer com certeza que usar chatbots causa a sensação de menos medo; eles apenas sabem que as duas coisas acontecem juntas. Eles também observaram que seu questionário usou perguntas simples, portanto, pode haver mais nuances nesses sentimentos que eles não captaram.

No fim, a história que este artigo conta é sobre confiança. Ele sugere que, para a IA se tornar verdadeiramente uma parte útil da saúde, não precisamos apenas de robôs melhores. Precisamos garantir que as pessoas confiem nos médicos humanos que os estão utilizando. Se as pessoas acreditarem que seus médicos podem vigiar a IA e detectar quaisquer erros, o público estará muito mais propenso a ver a tecnologia como justa e útil. Mas se esquecermos o humano no ciclo, o robô poderá parecer apenas uma máquina assustadora e arriscada para todos nós.