💻 computer science

"Where is this coming from?" Uncovering Trustworthiness Ideals in AI-powered Peripartum Information Seeking

Através de grupos focais com pessoas que dão à luz, clínicos e profissionais de saúde, este artigo argumenta que, no cuidado periparto de alto risco, os sistemas de IA devem priorizar a confiabilidade inspecionável em vez da autoridade assertiva, incorporando transparência, recurso e integração consciente do ecossistema para abordar inequidades históricas e desinformação.

Autores originais: Vaibhav Balloli, Julia Erickson, Xinyi Li, Erin MacMurray van Liemt, Alex Peahl, Elizabeth Bondi-Kelly

Publicado 2026-06-10

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Vaibhav Balloli, Julia Erickson, Xinyi Li, Erin MacMurray van Liemt, Alex Peahl, Elizabeth Bondi-Kelly

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está grávida ou acabou de ter um bebê. Você tem uma dúvida: "É seguro beber café?" ou "Por que minhas costas estão doendo?". No passado, você poderia ter ligado para o seu médico. Mas hoje, muitas pessoas recorrem à internet, às redes sociais ou a chatbots de IA para obter respostas rápidas.

Este artigo é como um grupo de detetives (pesquisadores) que perguntou a três grupos diferentes de pessoas — futuros pais, médicos e profissionais de apoio (como doulas) — o que eles realmente precisam quando buscam respostas de saúde online. Eles queriam saber: Se construirmos uma IA superinteligente para responder a essas perguntas, como garantimos que as pessoas realmente confiem nela?

Aqui está a história do que eles descobriram, explicada de forma simples.

O Grande Problema: Confiança não é apenas sobre estar "Certo"

Os pesquisadores descobriram que, para os pais, obter o fato médico "correto" não é suficiente. É como um GPS que te diz a rota mais rápida, mas ignora que a estrada está fechada devido a um protesto, ou que você está dirigindo um caminhão que não passa sob uma ponte.

No mundo da gravidez e do parto, a história importa. Devido ao tratamento injusto do passado (especialmente em relação às comunidades negras e pardas), muitas pessoas não confiam automaticamente em hospitais ou médicos. Elas podem se sentir apressadas, não ouvidas ou tratadas de forma diferente. Portanto, quando fazem uma pergunta a uma IA, elas não estão apenas pedindo dados; elas estão pedindo reasseguramento e segurança.

As Quatro Regras para uma IA Confiável

Os pesquisadores descobriram quatro "regras" principais (temas) que qualquer ferramenta de IA precisa seguir para ser confiável nesta área sensível. Pense nelas como os ingredientes de uma boa receita:

1. A Regra do "Não é Só Você" (Sentido Social)

A Metáfora: Imagine que você está perdido em uma floresta. Um mapa (a IA) te diz a direção. Mas o que você realmente precisa é de um amigo que diga: "Eu também me perdi aqui e encontrei um caminho. Você vai ficar bem."
A Descoberta: As pessoas não querem apenas fatos; elas querem saber se outras pessoas como elas tiveram experiências semelhantes. Elas querem ouvir histórias de seus pares.
A Solução: A IA não deve ser apenas um robô dando uma resposta de livro didático. Ela deve reconhecer sentimentos, normalizar preocupações e, talvez, até mostrar histórias de outros pais (se forem seguras e verificadas) para que o usuário se sinta menos sozinho.

2. A Regra do "Muitas Formas de Verificar" (Pluralismo de Verificação)

A Metáfora: Imagine que você está comprando um carro usado. Uma pessoa verifica o motor, outra verifica os pneus e uma terceira pergunta a um mecânico. Não existe apenas uma maneira de saber se o carro é bom.
A Descoberta: Nem todo mundo confia nas mesmas coisas. Alguns confiam 100% em seu médico. Outros acham que os médicos são muito lentos ou ultrapassados. Alguns confiam em grupos comunitários.
A Solução: A IA não deve impor uma única forma de verificar. Ela deve oferecer diferentes ferramentas: "Aqui está o que o médico diz", "Aqui está o que a pesquisa diz" e "Aqui está um checklist que você pode usar para fazer perguntas melhores ao seu médico". Ela permite que o usuário escolha como deseja verificar a informação.

3. A Regra do "Mostre seu Trabalho" (Governança Inspecionável)

A Metáfora: Imagine um mágico que tira um coelho de dentro de um chapéu. Se você perguntar: "De onde veio o coelho?" e o mágico disser: "Confie em mim, é mágica", você não acreditará nele. Mas se ele abrir o chapéu e mostrar o compartimento secreto, você confiará no truque.
A Descoberta: As pessoas são suspeitas em relação à IA. Elas perguntam: "Quem escreveu isso? Quando foi escrito? E se estiver errado? Quem eu chamo se isso me machucar?"
A Solção: A IA deve ser transparente. Ela precisa mostrar seu "cartão de identidade" (fonte), sua "data de validade" (quando foi atualizada pela última vez) e um caminho claro para o que fazer se cometer um erro. Ela não pode apenas dizer "Eu sou confiável"; ela tem que provar.

4. A Regra do "Não Adicione Carga" (Complementaridade de Ecossistema)

A Metáfora: Imagine que você já está carregando uma mochila pesada cheia de compras, crianças e papéis de trabalho. Se alguém lhe entregar uma nova caixa pesada e disser: "Aqui, carregue isto também", você deixará tudo cair. Mas se a pessoa te ajudar a organizar as compras para que a bolsa fique mais leve, você irá adorá-la.
A Descoberta: Médicos e pais já estão sobrecarregados. Eles não querem uma nova ferramenta que crie mais trabalho ou confunda o sistema.
A Solução: A IA não deve tentar substituir o médico. Ela deve agir como um assistente prestativo que organiza as perguntas para que o usuário possa conversar com o médico de forma mais eficiente. Ela deve saber quando dizer: "Eu não sei, por favor, pergunte ao seu médico", e ajudar o usuário a chegar lá com segurança.

A Principal Conclusão

O artigo conclui que a confiança não pode ser reivindicada; ela deve ser demonstrada.

Se construirmos uma IA para a gravidez que seja apenas "inteligente", mas que não entenda a história, não mostre suas fontes e não se encaixe na vida real dos pais e médicos, ela falhará. Os pesquisadores sugerem que, para a IA ser verdadeiramente útil, ela precisa ser transparente, flexível e centrada no ser humano, reconhecendo que, para muitos, a jornada rumo à saúde é também uma jornada através da história e das emoções.

Em resumo: Não construa apenas um robô que conhece os fatos. Construa uma ferramenta que entenda as pessoas que fazem as perguntas.

Resumo Técnico: "De onde isso está vindo?" Revelando Ideais de Confiabilidade na Busca de Informações Peripartais Impulsionadas por IA

Declaração do Problema
Os Estados Unidos enfrentam altas taxas de mortalidade materna evitável com disparidades raciais e socioeconômicas acentuadas. Embora os Registros Eletrônicos de Saúde (EHRs) e os portais do paciente visem melhorar o acesso à informação, eles frequentemente contribuem para o esgotamento dos profissionais clínicos e criam gargalos, levando os pacientes a buscar fontes de informação alternativas e mais rápidas (ex: redes sociais, blogs) que carregam riscos de desinformação. As intervenções atuais baseadas em IA e PLN (ex: Rosie, Jacaranda) focam na recuperação de documentos fatuais e validados para responder a consultas. No entanto, esses sistemas frequentemente subespecificam as estruturas de governança sociotécnicas necessárias para estabelecer confiança em domínios de alto risco e historicamente inequitativos, como a saúde reprodutiva. O problema central é que a precisão isolada é insuficiente; a confiabilidade no cuidado peripartal é moldada pelo desconfiança histórica, desigualdades estruturais e pela necessidade de que a informação seja acionável dentro das vias de cuidado existentes. Há uma falta de compreensão sobre como diversos stakeholders (pessoas em processo de parto, clínicos, trabalhadores de saúde) percebem a governança, a verificação e a integração de ferramentas de IA neste contexto.

Metodologia
Os autores empregaram uma abordagem qualitativa centrada no ser humano para investigar os requisitos sociotécnicos do suporte de informação impulsionado por IA.

Design do Estudo: Quatro grupos focais síncronos e semiestruturados foram conduzidos via Zoom com um total de 24 participantes ( $n=24$ ).
Grupos de Stakeholders: Os participantes foram recrutados de três grupos centrais:
1. Pessoas em processo de parto: Indivíduos atualmente grávidas ou no pós-parto (dentro de 3 anos), incluindo aquelas com e sem formação direta em profissões de saúde.
2. Clínicos: Obstetras e ginecologistas (OB/GYNs), parteiras/enfermeiras obstétricas (CNMs) e enfermeiros.
3. Trabalhadores de saúde: Doulas, assistentes sociais e agentes comunitários de saúde.
Coleta de Dados: As sessões duraram 90 minutos cada e cobriram quatro tópicos: (1) fontes atuais de informação, (2) experiências com infraestrutura clínica (portais do paciente/EHRs), (3) experiências com desinformação e (4) reações a um protótipo de design (design probe).
Protótipo de Design: Um aplicativo de FAQ impulsionado por IA foi apresentado como um artefato visual. Ele demonstrava um sistema que associa consultas do usuário a documentos verificados por clínicos (fornecendo uma resposta) ou se abstém de responder caso não exista um documento verificado, oferecendo encaminhar a consulta para um provedor de cuidados.
Análise: Os autores utilizaram uma abordagem de codificação aberta indutiva. As transcrições foram segmentadas por grupo de stakeholder e tópico, codificadas para gerar um conjunto inicial de códigos e, em seguida, fundidas e refinadas através de codificação focada e consenso entre autores para derivar insights temáticos.

Contribuições Principais e Resultados
O estudo identifica que, em contextos de saúde de alto risco moldados por inequidades históricas, a confiabilidade deve ser inspecionável e não meramente assertiva. Os stakeholders redefiniram "boa informação" de ser factualmente correta para ser acionável, consciente do contexto e seguramente integrada às vias de cuidado. A análise gerou quatro temas primários e as respectivas implicações de design:

Suporte para a Construção de Sentido Baseada em Identidade e Social:
- Achado: Usuários buscam reafirmação, normalização e narrativas de pares ("pessoas como eu") ao lado de fatos. A dependência de redes de pares é frequentemente amplificada por experiências clínicas negativas e desigualdades estruturais (ex: racismo obstétrico).
- Implicação de Design: Os sistemas devem adotar padrões de "suporte em primeiro lugar", oferecer narrativas de pares opcionais (opt-in) e empregar um design consciente da desconfiança que reconheça contextos históricos e determinantes sociais da saúde.
Práticas de Verificação Pluralistas:
- Achado: As posturas de confiança são divergentes; alguns usuários veem os clínicos como o padrão ouro, enquanto outros desconfiam dos sistemas clínicos devido à lentidão nas atualizações ou vieses. A verificação é frequentemente um processo social/dialógico (ex: usando o framework BRAIN) em vez de uma verificação de fatos individual.
- Implicação de Design: Os sistemas devem oferecer múltiplas vias de verificação (diretrizes, prompts clínicos, discussões comunitárias), fornecer kits de ferramentas para autodefesa e apoiar um suporte calibrado onde o sistema possa se abster ou expressar incerteza em vez de forçar uma resposta definitiva.
Governança Inspecionável com Mecanismos de Recurso:
- Achado: Usuários exigem uma confiabilidade demonstrável, perguntando "quem validou isso?", "quando?" e "o que acontece se estiver errado?". Preocupações com a privacidade em relação ao compartilhamento de dados (ex: medo de relatar aos serviços de proteção à criança) são críticas.
- Implicação de Design: Os sistemas devem fornecer metadados de proveniência (fonte, revisor, data), rótulos de sensibilidade de atualização, ciclos de feedback auditáveis para reporte de erros e design focado em privacidade com consentimento granular.
Integrações Conscientes do Ecossistema:
- Achado: Ferramentas devem complementar, não substituir ou sobrecarregar os fluxos de trabalho clínicos e comunitários existentes. Usuários temem ferramentas que transfiram o ônus da comunicação para eles ou para os clínicos.
- Implicação de Design: Implementar o roteamento de recursos para recursos locais, acessíveis e conectados a humanos (ex: doulas) e "passagens de bastão principadas" (principled handoffs) que ajudem os usuários a formular mensagens clinicamente legíveis para escalonamento sem substituir o papel do clínico.

Significância e Alegações
O artigo alega que seus achados desafiam a suposição de que a confiabilidade em IA pode ser alcançada apenas através de intervenções ao nível do modelo (ex: otimização de precisão). Em vez disso, argumenta-se por uma competência estrutural no design de IA, onde a equidade é tratada como uma propriedade da infraestrutura do serviço, e não apenas do algoritmo.

Os autores propõem uma mudança do "confiabilidade por design" para a "confiabilidade inspecionável", sugerindo a criação de "Cartões de Sistema ou de Serviço" que documentem limites de escopo, proveniência, caminhos de recurso e padrões de privacidade. Além disso, o artigo argumenta que as atuais estruturas de avaliação de Humano-IA, que frequentemente focam em precisão e excesso de confiança (overreliance), devem ser expandidas para incluir métricas sociotécnicas, tais como:

Qualidade da abstenção: Se as recusas fornecem alternativas construtivas.
Calibragem de confiança: Se os usuários compreendem os limites do sistema sem excesso de confiança.
Resultados de autodefesa: Se o sistema ajuda os usuários a articular objetivos e navegar em relacionamentos de cuidado.
Impacto afetivo: Se o sistema fornece reafirmação sem persuasão indevida.

Os autores mantêm a modéstia quanto à generalização, observando que o estudo é fundamentado no contexto de saúde dos EUA e em populações de língua inglesa. No entanto, sugerem que estes temas relativos ao pluralismo, inspecionabilidade e integração de ecossistema são transferíveis para outros domínios de alto risco onde os usuários possuem variadas confianças nas instituições e onde a busca de informação serve funções sociais e emocionais além das fáticas.