How much does context affect the accuracy of AI health advice?

Título: Quanto o contexto afeta a precisão dos conselhos de saúde de IA?

1. Problema e Motivação

Os Grandes Modelos de Linguagem (LLMs) estão sendo cada vez mais utilizados para fornecer conselhos de saúde, com milhões de consultas mensais em países como EUA e Austrália. Embora modelos como o Med-PaLM 2 demonstrem desempenho próximo ao de clínicos em cenários de inglês, a literatura atual apresenta lacunas críticas:

• Viés Linguístico: 95% das avaliações de LLMs para saúde entre 2022 e 2024 foram conduzidas exclusivamente em inglês.
• Desconhecimento Contextual: Não está claro como a precisão varia em diferentes idiomas, tópicos (ex.: aborto, COVID-19, política) e fontes de informação (governo, mídia, artigos científicos).
• Risco de Desinformação: A "infodemia" e a propagação de desinformação em saúde exigem que a verificação de alegações seja robusta, mas os modelos atuais podem amplificar erros, especialmente em idiomas não europeus e contextos complexos.

2. Metodologia

Os autores realizaram uma auditoria estruturada de sete LLMs amplamente utilizados em dois conjuntos de dados distintos:

• Conjunto de Dados 1 (Alegações Regulatórias):

  • Fonte: Registros de alegações nutricionais e de saúde autorizados legalmente no Reino Unido e na UE (1.975 alegações).
  • Processo: As alegações foram traduzidas para 21 idiomas (incluindo línguas com distância sintática variada do inglês) usando o GPT-4o-mini.
  • Validação: Foi realizada uma auditoria de "tradução de ida e volta" (round-trip) para garantir a equivalência semântica, resultando em uma similaridade média de coseno de 0,91.
  • Tarefa: Classificação binária (Suportado vs. Não Suportado).

• Conjunto de Dados 2 (Alegações de Saúde Pública do Mundo Real):

  • Fonte: Corpus PUBHEALTH (9.088 alegações vetadas por jornalistas), cobrindo tópicos como COVID-19, aborto, política e saúde geral.
  • Fontes de Origem: Divididas por origem (CDC.gov, Fox News, Nature.com, YouTube, etc.).
  • Tarefa: Classificação binária (Verdadeiro vs. Falso).

• Modelos Avaliados:

  • Sete sistemas: GPT-4o-mini, GPT-4.1, Gemini-2-Flash-Lite, Phi-4, Mistral-7B, Gemma-3-Instruct e Llama-3-8B.
  • Protocolo: Cada modelo executou a verificação três vezes (temperatura = 0,7) e a decisão final foi baseada na votação majoritária.

• Análise Estatística:

  • Uso de regressão logística mista com efeitos fixos por alegação para isolar os efeitos de modelo, tópico e fonte.
  • Medição da distância sintática entre idiomas usando o URIEL lang2vec.

3. Principais Contribuições

• Avaliação Multilíngue e Multidimensional: É uma das primeiras auditorias em larga escala que avalia a precisão de verificação de alegações de saúde não apenas por idioma, mas cruzando variáveis de tópico e fonte de informação.
• Descoberta de Lacunas de Contexto: Demonstra que o alto desempenho em inglês e em alegações canônicas (regulatórias) mascara falhas significativas em contextos do mundo real e em idiomas não europeus.
• Análise de Fatores de Desempenho: Identifica que a complexidade lexical (nível de leitura) é menos relevante do que o enquadramento editorial (frases curtas e declarativas vs. abstrações científicas complexas) e a exposição nos dados de treinamento.

4. Resultados Chave

• Impacto do Idioma:

  • A precisão foi mais alta em inglês e línguas europeias próximas.
  • Houve um declínio sistemático na precisão à medida que a distância sintática do inglês aumentava. Idiomas como persa, hindi, chinês, coreano, árabe e turco apresentaram os menores desempenhos.
  • A diferença de desempenho entre idiomas foi comparável em magnitude às diferenças observadas entre diferentes tópicos e fontes.

• Impacto do Contexto (Tópico e Fonte):

  • No corpus PUBHEALTH, as taxas de erro foram substancialmente maiores do que nas alegações regulatórias.
  • Melhor Desempenho: Alegações sobre COVID-19 e fontes governamentais (ex.: CDC.gov) ou de notícias diretas (ex.: Fox News).
  • Pior Desempenho: Tópicos de saúde geral e resumos de artigos científicos (ex.: Nature.com).
  • Fator de Complexidade: Os modelos falharam frequentemente em sentenças longas e "hedradas" (com nuances) que condensam múltiplas descobertas, mas tiveram sucesso em sentenças curtas e declarativas ("O CDC diz...").

• Comparação de Modelos:

  • O GPT-4.1 performou significativamente melhor que a média.
  • O Phi-4 foi consistentemente o menos preciso.
  • A complexidade do texto (nível Flesch-Kincaid) teve um papel menor na explicação dos erros quando o tópico e a fonte foram controlados.

5. Significado e Implicações

• Equidade em Saúde: O desempenho em inglês não generaliza para outros contextos. A implantação de LLMs para saúde em países de baixa e média renda, ou em idiomas não dominantes, sem avaliação específica, pode exacerbar desigualdades e falhar na contenção de desinformação.
• Recomendações de Política e Prática:
  • Avaliação Específica: Antes da implantação, é necessário realizar testes multilíngues e específicos de domínio (ex.: segurança de vacinas, surtos infecciosos).
  • Regulação: O artigo apoia a aplicação rigorosa da Lei de IA da UE, que classifica chatbots de saúde multilíngues como de alto risco, exigindo avaliação de conformidade e transparência nos dados de treinamento.
  • Abordagem Técnica: Sugere o uso de chatbots baseados em recuperação (RAG) em ambientes de escopo restrito (ex.: portais de FAQ governamentais) com supervisão humana, em vez de liberações amplas e não supervisionadas.

Em suma, o estudo alerta que a confiabilidade da IA em saúde é altamente dependente do contexto, exigindo uma mudança de paradigma de avaliações "genéricas" para auditorias estruturadas que considerem a interseção entre idioma, tópico e fonte de informação.