Resumo Técnico: Avaliando a Estabilidade Semântica em LLMs Clínicos

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) são cada vez mais implantados em ambientes clínicos para tarefas como suporte ao diagnóstico e geração de resumos. No entanto, esses modelos exibem uma sensibilidade significativa a variações linguísticas menores nos prompts de entrada (ex: refraseamento, substituição de sinônimos ou reordenação sintática). Em ambientes de saúde críticos para a segurança, entradas semanticamente equivalentes devem gerar previsões consistentes; contudo, evidências empíricas sugerem que o desempenho pode desviar de 8% a 50% sob tais variações.

Um desafio metodológico primário na avaliação dessa instabilidade é a falta de uma verificação semântica confiável. Abordagens existentes que dependem de métricas de similaridade baseadas em embeddings (ex: similaridade de cosseno) frequentemente falham em capturar distinções clinicamente críticas envolvendo negação, temporalidade ou severidade. Por exemplo, "paciente apresenta dor no peito" e "paciente nega dor no peito" podem receber pontuações de similaridade altas, apesar de possuírem significados clínicos opostos. Sem uma verificação rigorosa de que as variações de prompt realmente preservam o significado clínico, é impossível distinguir a instabilidade genuína do modelo de respostas legítimas a conteúdos alterados.

Metodologia

Os autores propõem um framework sistemático para avaliar a estabilidade semântica utilizando um benchmark rigorosamente verificado e três novas métricas.

1. Framework de Verificação Semântica

Para garantir que as variações de prompt preservem o significado clínico, os autores desenvolveram um pipeline de verificação de múltiplos estágios:

• Geração de Variações: Partindo de 200 prompts base (100 do MedQA-USMLE e 100 do DiagnosisQA), 10 variações de preservação de significado foram geradas por prompt usando o GPT-4o-mini. As variações incluíram expansão/compressão de abreviações, conversão de linguagem clínica para linguagem leiga, reordenação sintática e transformação de voz. Restrições estritas proibiram a alteração de fatos clínicos, negação, temporalidade ou severidade.
• Filtragem Baseada em NLI: As variações geradas foram filtradas usando três modelos de Inferência de Linguagem Natural (NLI) pré-treinados (PubMedBERT-MNLI-MedNLI, roberta-large-mnli e deberta-large-mnli). Uma variação só era retida se satisfizesse a implicação bidirecional (implicação mútua) com o prompt original em pelo menos dois dos três modelos.
• Auditoria Híbrida Humano-LLM: Um processo de verificação de duas rodadas foi aplicado:
  • Rodada 1: Amostras verificadas por NLI foram revisadas por um LLM-as-a-Judge (usando GPT-5.2 e MedLLaMA3) e um especialista clínico licenciado.
  • Rodada 2: Amostras rejeitadas pelos juízes LLM foram reavaliadas pelo especialista clínico para recuperar reformulações válidas que foram filtradas conservadoramente pela automação.
  • O benchmark final consiste de 1.761 variações verificadas de preservação de significado.

2. Métricas de Avaliação

O estudo introduz três métricas para quantificar a sensibilidade do modelo:

• Sensibilidade de Variação de Preservação de Significado (MVS): A proporção de variações verificadas que resultam em uma mudança na saída prevista do modelo em relação ao prompt base.
• Variação de Confiança ($\Delta$C): A mudança absoluta média na probabilidade máxima prevista pelo modelo (confiança) entre as variações, mesmo quando a saída prevista permanece inalterada.
• Instabilidade de Pior Caso (WCI): Uma métrica por amostra que indica se qualquer variação verificada causa o modelo a alternar de uma previsão correta para uma incorreta (ou vice-versa).

3. Configuração Experimental

O framework avaliou 16 LLMs de código aberto (8 de Propósito Geral [GP] e 8 de Domínio Específico [DS]) através de famílias correspondentes e escalas de parâmetros (1.5B a 8B). Os modelos foram testados sob quantização 4-bit NF4 com inferência de precisão reduzida. As previsões foram derivadas deterministicamente de probabilidades de tokens para isolar a sensibilidade semântica do ruído de amostragem.

Resultados Principais

1. A Especialização de Domínio Não Garante Robustez

Ao contrário da suposição de que o ajuste fino médico garante estabilidade, os resultados mostram que a robustez é altamente dependente do modelo e não estritamente dependente do domínio.

• Desempenho Misto: Vários modelos DS classificaram-se entre os mais robustos, mas bases GP fortes (ex: LLaMA3.1-8B, Qwen2.5-7B) foram igualmente ou mais competitivas.
• Sem Vantagem Universal: A análise estatística (testes de permutação pareados) não revelou evidência consistente de que a especialização de domínio melhora a robustez. Em alguns casos (ex: MedQwen2.5-7B no MedQA), modelos DS foram significativamente menos robustos que seus equivalentes GP.
• Esquecimento Catastrófico: Alguns modelos DS (ex: MediChat-LLaMA3-8B) apresentaram desempenho inferior aos seus equivalentes GP, sugerindo que estratégias de adaptação podem degradar capacidades de raciocínio geral.

2. A Dificuldade da Tarefa Amplifica a Instabilidade

Os modelos exibiram maior sensibilidade (MVS e WCI mais altos) no conjunto de dados mais complexo MedQA em comparação ao DiagnosisQA. Isso indica que a estabilidade semântica degrada conforme as demandas de raciocínio aumentam. Transformações linguísticas específicas, como Reenquadramento de Pergunta e conversão de Linguagem Clínica para Linguagem Leiga, provaram ser as mais disruptivas, enquanto edições superficiais (ex: expansão de abreviações) tiveram impacto mínimo.

3. Alinhamento Fraco entre Confiança e Estabilidade

• Confiança vs. Predição: Existe apenas uma associação fraca entre a instabilidade de predição (MVS) e a variação de confiança ($\Delta$C). Os modelos frequentemente mantêm alta confiança mesmo quando suas previsões mudam sob reformulações semanticamente equivalentes.
• Excesso de Confiança: Muitos modelos permaneceram excessivamente confiantes, apesar da redução da robustez ou precisão. Por exemplo, o Qwen2.5-3B alcançou apenas 40% de precisão no MedQA enquanto reportava 0.90 de confiança.
• Problemas de Calibração: A correlação entre confiança e precisão foi modesta no DiagnosisQA ($r=0.41$) e fraca no MedQA ($r=0.18$), indicando que pontuações de confiança não são proxies confiáveis para correção ou robustez em QA médico.

4. Impacto da Quantização

O estudo descobriu que a quantização 4-bit NF4 teve um impacto negligenciável nas métricas de estabilidade para a maioria dos modelos, com apenas pequenas variações dependentes do dataset observadas no WCI.

Significância e Alegações

O artigo argumenta que o ajuste fino médico sozinho não garante de forma confiável um comportamento estável sob variações naturais de prompt. Os autores afirmam que:

1. A robustez não é inerente à especialização de domínio: Implantar um modelo com ajuste fino médico não assegura automaticamente a invariância semântica; a robustez depende mais da arquitetura, escala e qualidade do treinamento do que da presença de dados médicos.
2. A avaliação atual é insuficiente: A precisão padrão de benchmarks é uma medida inadequada de prontidão clínica. Modelos podem parecer competentes em prompts estáticos enquanto falham catastroficamente sob refraseamentos menores que preservam o significado.
3. A confiança é enganosa: A alta confiança do modelo não deve ser interpretada como um sinal de estabilidade ou correção, pois os modelos frequentemente expressam certeza forte mesmo quando seus outputs são frágeis.
4. Necessidade de Avaliação Explícita de Robustez: Antes da implantação clínica, os LLMs devem passar por uma avaliação de robustez explícita usando variações de preservação de significado verificadas por métodos semânticos principais (como NLI) em vez de simples métricas de similaridade.

O estudo conclui que a estabilidade semântica deve ser tratada como um requisito central para a IA na saúde, necessitando de uma mudança das avaliações de precisão de prompt único para análises de sensibilidade sistemáticas.