Understanding Clinician Edits to Ambient AI Draft Notes: A Feasibility Analysis Using Large Language Models

Este estudo avalia a viabilidade do uso de modelos de linguagem grandes para categorizar as edições feitas por clínicos em rascunhos de notas gerados por IA ambiental, demonstrando que, embora a engenharia de prompts seja eficaz para categorias com pistas explícitas como medicamentos e sintomas, ela é mais adequada para triagem em casos complexos que exigem revisão humana.

O essencial

Imagine que você tem um assistente de escrita super inteligente, mas um pouco "sonhador", que tenta escrever o relatório médico de um paciente apenas ouvindo a conversa entre o médico e o paciente. Esse é o Ambient AI (Inteligência Artificial Ambiental).

O problema? O assistente nem sempre acerta tudo. Às vezes ele esquece um remédio, confunde um sintoma ou não entende o contexto social do paciente. Por isso, o médico precisa ler o rascunho do robô e fazer as correções manuais antes de salvar o documento oficial.

Este estudo é como uma investigação para responder a uma pergunta simples: "Podemos usar outro robô (uma IA mais avançada) para ler as correções do médico e entender o que ele mudou, sem precisar de humanos fazendo isso manualmente?"

Aqui está a explicação do que eles descobriram, usando analogias do dia a dia:

1. O Grande Desafio: O "Detetive" vs. O "Caos"

Os pesquisadores tentaram usar um modelo de IA (um "detetive digital") para classificar as correções em 5 categorias:

• Medicamentos (Remédios)
• Sintomas (Dores, mal-estar)
• Diagnósticos (O nome da doença)
• Exames/Procedimentos (Coisas para fazer)
• História Social (Trabalho, família, moradia)

A ideia era: se o médico mudou algo sobre "remédios", a IA deve gritar "É sobre remédios!".

2. Onde o "Detetive" foi brilhante (Medicamentos e Sintomas)

Para remédios e sintomas, a IA funcionou muito bem.

• A Analogia: Imagine que você está procurando por maçãs vermelhas em uma cesta de frutas. As maçãs têm uma cor e formato muito claros. É fácil para a IA dizer: "Ah, isso é uma maçã (remédio)!" ou "Isso é uma fruta estragada (sintoma)".
• O Resultado: A IA conseguiu identificar essas mudanças com alta precisão (cerca de 78% de acerto). Ela consegue ver as "etiquetas" claras no texto, como nomes de remédios ou palavras como "dor de cabeça".

3. Onde o "Detetive" se confundiu (Diagnósticos, Exames e Vida Social)

Para diagnósticos, exames e história social, a IA teve muita dificuldade.

• A Analogia: Agora, imagine que você está procurando por "sentimentos" ou "intenções" em uma conversa. Às vezes, o médico muda uma frase de "possível gripe" para "infecção respiratória". Para um robô, isso parece apenas uma troca de palavras, mas para um médico, é uma mudança crucial no diagnóstico. Ou ainda, o médico pode mudar algo sobre o trabalho do paciente, mas o texto está misturado com a descrição de uma ferida.
• O Problema: A IA tendia a alucinar. Ela via uma palavra relacionada a "exame" em um texto sobre "tratamento" e achava que era um erro de exame. Ela confundia as fronteiras.
• O Resultado: A IA acertava em pegar a maioria das mudanças (alta "recuperação"), mas cometia muitos erros de "falso positivo" (achava que era uma mudança de categoria quando não era). A precisão caiu para cerca de 50-60%.

4. A Solução: O "Filtro de Segurança" (Prompt Engineering)

Os pesquisadores não apenas jogaram a IA no problema. Eles treinaram o "detetive" com um método chamado Few-Shot Prompting (aprender com poucos exemplos) e criaram um Filtro de Segurança.

• A Analogia: É como dar ao detetive um manual de instruções e uma lista de "o que NÃO procurar".
  • Passo 1: Eles mostraram exemplos de "sim" e "não".
  • Passo 2: Eles criaram uma regra: "Antes de dizer 'Sim, é um remédio', você precisa encontrar o nome do remédio e provar que ele foi alterado. Se não tiver prova, diga 'Não'".
• Isso ajudou a IA a ser mais cuidadosa e menos propensa a alucinar, especialmente nas categorias difíceis.

5. A Conclusão Prática: Quando usar o Robô e quando chamar o Humano?

O estudo chegou a uma conclusão muito sensata para o mundo real:

• Para coisas claras (Remédios e Sintomas): Podemos usar a IA sozinha. Ela é rápida e precisa o suficiente para monitorar se o sistema de IA está funcionando bem. É como usar um scanner de código de barras: rápido e confiável.
• Para coisas complexas (Diagnósticos e Contexto): A IA sozinha é perigosa. Ela vai cometer muitos erros.
  • A Melhor Estratégia: Use a IA como um triador (um filtro inicial). Deixe a IA marcar os textos que parecem ter problemas. Depois, um humano (médico ou especialista) revisa apenas essas partes marcadas.
  • Analogia Final: A IA é como um assistente de escritório que separa o correio. Ela é ótima em separar cartas de "Contas" e "Publicidade" (coisas óbvias). Mas quando chega uma carta que parece ser um "Contrato Jurídico" ou uma "Carta Pessoal", ela pode confundir. Nesse caso, ela deve apenas colocar a carta em uma pilha especial para um humano abrir e ler com atenção, em vez de tentar decidir o que fazer sozinho.

Resumo em uma frase:
A IA consegue identificar mudanças óbvias (como remédios) com facilidade, mas para entender o contexto profundo (como diagnósticos complexos), ela funciona melhor como um "ajudante" que sinaliza onde um humano deve olhar, e não como um juiz final.

Resumo técnico

Título do Estudo

Compreendendo as Edições dos Clínicos em Rascunhos de Notas Gerados por IA Ambiental: Uma Análise de Viabilidade Usando Grandes Modelos de Linguagem (LLMs)

---

1. Problema e Motivação

Sistemas de documentação por IA ambiental geram rascunhos de notas clínicas a partir de áudios de consultas, que os médicos revisam e editam antes de registrar no Prontuário Eletrônico de Saúde (EHR). Embora estudos anteriores tenham focado em benefícios gerais (como redução de carga de trabalho), há uma lacuna na compreensão de onde e como os rascunhos da IA falham.

• O Desafio: As edições feitas pelos clínicos revelam omissões ou falhas na qualidade da IA. No entanto, analisar essas edições em escala é difícil.
• Limitações Atuais: A anotação manual é intensiva em recursos. Classificadores tradicionais de Processamento de Linguagem Natural (NLP) enfrentam barreiras devido à heterogeneidade do conteúdo editado e à necessidade de grandes conjuntos de dados de treinamento específicos, o que dificulta a adaptação rápida a mudanças nos modelos de IA ou nos templates clínicos.
• Objetivo: Avaliar a viabilidade de usar LLMs com few-shot prompting (poucos exemplos) para categorizar automaticamente edições de nível de frase entre rascunhos de IA e notas finais, sem necessidade de treinamento supervisionado massivo ou uso de APIs externas que violem a privacidade.

2. Metodologia

Dados e Formulação da Tarefa

• Fonte de Dados: Dados do University of California Health (outubro 2023 a meados de 2025), envolvendo dois sistemas comerciais de IA ambiental em ambientes ambulatoriais.
• Unidade de Análise: O estudo utilizou unidades de edição de nível de frase (pares "Antes" do rascunho da IA e "Depois" da nota final) derivadas de um corpus anotado manualmente prévio.
• Classes de Edição: A tarefa foi formulada como cinco modelos binários específicos para cada categoria clínica:
  1. Medicação (E-Med): Adição/remoção/mudança de regimes, doses, adesão.
  2. Sintomas (E-Sym): Alterações em sintomas relatados ou documentados.
  3. Diagnóstico (E-Dx): Refinamento de especificidade, mudança de nomenclatura ou enquadramento diagnóstico.
  4. Exames/Ordens/Procedimentos (E-Test): Adição ou alteração de pedidos de laboratório, exames ou procedimentos.
  5. Histórico Social (E-Soc): Informações sobre determinantes sociais da saúde (habitação, emprego, uso de substâncias, etc.).
• Divisão dos Dados: O conjunto de dados foi dividido em treinamento (para seleção de exemplos few-shot), desenvolvimento (para refinamento de prompts) e teste (frozen, n=200 unidades de edição).

Implementação do Modelo e Design de Prompt

• Modelo: Utilizou-se o Llama-3.2-3B-Instruct (3 bilhões de parâmetros), um modelo de instrução de peso aberto.
• Ambiente: Implantação em ambiente HIPAA-compliant (AWS), com limitações de hardware (uma única GPU NVIDIA T4G de 16 GB), sem treinamento adicional de parâmetros (fine-tuning).
• Estratégia de Prompt (Engenharia de Prompt):
  • Abordagem Few-Shot: Uso de 4-6 exemplos positivos e 18-20 negativos por categoria.
  • Refinamento Iterativo: Adição de negativos adversários (exemplos que parecem pertencer à categoria, mas não pertencem) para reduzir falsos positivos.
  • Portão de Verificação (Verification Gate): O modelo foi instruído a fornecer uma decisão binária (present=true/false) apenas se pudesse extrair um "âncora" textual explícita (ex: nome do medicamento, rótulo de diagnóstico) que servisse de evidência verbatim.
  • Saída Estruturada: O modelo deve retornar um objeto JSON contendo a decisão e a evidência textual.

3. Resultados Principais

Desempenho Geral

O desempenho variou significativamente dependendo da categoria da edição, refletindo a clareza das pistas textuais em cada domínio:

Categoria	Precisão (Precision)	Recall	F1-Score	Observação
Medicação (E-Med)	0.774	0.800	0.787	Melhor desempenho; pistas explícitas (nomes de drogas).
Sintomas (E-Sym)	0.657	0.959	0.780	Alto recall, mas precisão limitada por ambiguidade com diagnósticos.
Diagnóstico (E-Dx)	0.560	0.836	0.671	Desempenho moderado; difícil separar enquadramento de sintomas.
Exames/Proced. (E-Test)	0.523	0.831	0.642	Baixa precisão; confusão entre planos, resultados e histórico.
Social (E-Soc)	0.483	0.933	0.636	Baixa precisão; gatilhos excessivos em narrativas clínicas gerais.

Análise de Erros

• Padrões de Falsos Positivos (FP): Ocorreram principalmente devido a ambiguidade nas fronteiras clínicas. Por exemplo, o modelo confundiu linguagem de plano de cuidado com mudanças de sintoma ou diagnóstico.
• Padrões de Falsos Negativos (FN): Comuns em edições "apenas de exclusão" (onde o texto final está vazio) ou em unidades longas e complexas onde a âncora específica estava "enterrada" em listas de múltiplos itens.
• Limitações de Contexto: Categorias que dependem de raciocínio implícito (como diagnóstico ou histórico social) sofreram mais, pois o prompt não conseguia inferir o contexto clínico amplo necessário apenas com a frase editada.

4. Contribuições Chave

1. Viabilidade de Prompting em Ambientes Restritos: Demonstrou que é possível realizar classificação de edições clínicas em tempo real usando modelos menores (3B parâmetros) em ambientes com restrições de GPU e conformidade HIPAA, sem fine-tuning.
2. Estratégia de Engenharia de Prompt: Validou que a combinação de exemplos negativos adversários e um portão de verificação baseado em evidências (exigir citação textual) é crucial para melhorar a precisão e controlar a taxa de falsos positivos.
3. Taxonomia de Viabilidade por Categoria: Estabeleceu que a viabilidade da automação não é uniforme; depende da natureza explícita das pistas textuais.
4. Fluxo de Trabalho Híbrido Proposto: Sugere que a automação deve ser usada para monitoramento de alta precisão em categorias claras (medicação/sintomas) e como ferramenta de triagem para revisão humana em categorias complexas (diagnóstico/social).

5. Significado e Implicações

• Monitoramento Contínuo: Permite que sistemas de saúde e fornecedores de IA monitorem em escala onde os modelos de IA falham, identificando padrões de revisão clínica para melhorar os algoritmos.
• Gestão de Risco: O estudo alerta contra o uso de modelos puramente baseados em prompting para categorias de baixa precisão em cenários totalmente automatizados, pois falsos positivos podem distorcer métricas de qualidade.
• Direção Futura: Para categorias complexas, o estudo sugere a necessidade de:
  • Fine-tuning eficiente de parâmetros.
  • Uso de modelos maiores com capacidades de raciocínio mais fortes.
  • Integração de ontologias de domínio (ex: SDOH) e componentes baseados em regras.
  • Redesenho de rótulos para lidar com edições mistas e hierárquicas.

Conclusão: O estudo conclui que a classificação de edições baseada em prompting é viável e escalável para categorias com âncoras textuais explícitas, mas para categorias dependentes de contexto clínico amplo, a melhor abordagem atual é usar o LLM para triagem e direcionar a revisão humana, garantindo a confiabilidade dos dados para avaliação de qualidade.