Data Augmentation for Clinical Multilingual Information Extraction

Resumo Técnico: Aumento de Dados para Extração de Informação Clínica Multilíngue

Definição do Problema
O Processamento de Linguagem Natural (PLN) clínico é crítico para aplicações de informática em saúde, como identificação de coortes, farmacovigilância e suporte à decisão clínica. No entanto, a implantação de modelos robustos em diferentes instituições e idiomas é severamente limitada pela escassez de textos clínicos anotados. Embora os Modelos de Linguagem Pré-treinados (PLMs) tenham avançado o estado da arte, eles requerem conjuntos de dados anotados específicos para tarefas para o ajuste fino (fine-tuning), que são dispendiosos e exigem muitos recursos para serem criados manualmente. Este gargalo é particularmente agudo em contextos multilíngues, onde recursos de alta qualidade estão frequentemente disponíveis apenas em inglês, deixando outros idiomas com lacunas de desempenho significativas. As estratégias de aumento de dados existentes dependem frequentemente de modelos generativos computacionalmente caros ou exigem léxicos de sinônimos curados, o que limita sua escalabilidade e adaptabilidade a novos idiomas e domínios.

Metodologia
Os autores propõem uma estratégia de aumento de dados de baixo custo e computacionalmente eficiente baseada na substituição de palavras vizinhas usando embeddings de palavras. O método utiliza embeddings pré-treinados de Word2Vec (W2V) e FastText (FT) para identificar palavras semanticamente similares para substituição dentro de menções de entidades.

A abordagem difere ligeiramente para as duas tarefas alvo:

• Reconhecimento de Entidades Nomeadas (NER): O algoritmo opera sentença por sentença. Ele identifica menções de entidades dentro de uma sentença e seleciona aleatoriamente uma palavra de cada menção (excluindo palavras estruturais) para substituí-la pelo seu vizinho mais próximo ($v_1$) baseado em similaridade de cosseno, desde que a pontuação de similaridade exceda um limiar predefinido ($\tau$). Este processo é repetido $t$ vezes (fator de aumento) para gerar variações. Para garantir a diversidade, o algoritmo percorre as palavras em uma menção e, se todas as palavras forem substituídas antes que $t$ iterações sejam completadas, ele prossegue para o próximo vizinho mais próximo ($v_2$, etc.).
• Ligação de Entidades (EL): O algoritmo agrupa menções de entidades por seus códigos associados. Para cada código, ele tenta aumentar cada menção $t$ vezes. Diferente do NER, que substitui uma palavra por um único vizinho mais próximo, o aumento de EL utiliza todas as palavras vizinhas com pontuações de similaridade acima do limiar $\tau$ (até o topo cinco) para gerar uma variedade maior de aumentos por rodada.

O estudo avaliou este método em cinco idiomas (espanhol, inglês, francês, italiano, português) utilizando três benchmarks multilingues: SympTEMIST (reconhecimento de sintomas e normalização), CANTEMIST (morfologia de tumor) e MultiCardioNER (reconhecimento de doenças e drogas). Os autores compararam o desempenho de PLMs ajustados com dados não aumentados versus dados aumentados com embeddings W2V e FT, utilizando vários limiares de similaridade ($0,75$a$0,90$).

Principais Contribuições

1. Um Algoritmo de Aumento Leve: Um método simples e escalável para NER e EL clínico multilíngue que não requer léxicos de sinônimos curados ou grandes modelos generativos, tornando-o adaptável a ambientes com poucos recursos.
2. Avaliação Multilíngue Abrangente: Uma avaliação abrangente através de três principais benchmarks clínicos abrangendo cinco idiomas, fornecendo uma visão ampla da eficácia do método em diversos contextos linguísticos.
3. Análise de Modelos de Embedding: Uma análise comparativa dos embeddings Word2Vec e FastText, revelando forças distintas para as tarefas de NER versus EL.

Resultados

• Desempenho de NER: A estratégia de aumento geralmente melhorou o desempenho de NER, com ganhos de F1-score variando de 0,75 a 5,54 pontos percentuais.
  • A melhoria mais significativa foi observada na tarefa Italian MultiDrug, onde o F1-score aumentou em 5,54 pontos.
  • Um novo resultado de estado da arte foi alcançado para o reconhecimento de drogas em inglês no benchmark MultiCardioNER, superando o melhor escore anterior em 0,22 pontos.
  • Word2Vec geralmente superou o FastText para NER. Os autores atribuem isso à capacidade do W2V de gerar sinônimos mais diversos (por exemplo, substituindo "rim" por "fígado" em um contexto funcional) em comparação ao FastText, que frequentemente produz variações morfológicas (por exemplo, mudando de singular para plural) que oferecem menos diversidade de treinamento.
• Desempenho de EL: Os ganhos para Ligação de Entidades foram mais modestos, mas geralmente positivos em quatro de cinco idiomas, com melhorias de precisão chegando a até 0,77 pontos.
  • FastText superou o Word2Vec para EL. Os autores sugerem que, enquanto as substituições diversas do W2V beneficiam o NER, o modelamento de nível de subpalavra do FastText preserva melhor os significados específicos de conceitos, o que é crítico para a ligação de entidades precisa.
  • Limiares de similaridade mais baixos ($0,75, 0,80$) consistentemente prejudicaram o desempenho de EL, enquanto limiares mais altos ($0,85, 0,90$) produziram melhorias marginais.

Significância e Alegações
O artigo conclui que a substituição de vizinhos baseada em embeddings de palavras oferece uma abordagem simples e computacionalmente eficiente para aumentar a diversidade de treinamento para o PLN clínico multilíngue. O método é particularmente eficaz para fortalecer o desempenho de NER em ambientes de poucos recursos, onde a escassez de dados rotulados é um gargalo primário.

Para a Ligação de Entidades (EL), os autores afirmam que o método fornece melhorias modestas, mas destacam suas limitações: a alta precisão semântica exigida para a normalização de conceitos significa que a simples substituição de palavras pode introduzir imprecisões se as palavras substituídas não mapearem para o mesmo conceito clínico exato. Consequentemente, os autores sugerem que futuras estratégias de aumento para EL devam enfatizar a preservação do conceito, potencialmente através de vocabulários controlados ou restrições informadas por ontologias.

No geral, o trabalho apoia o desenvolvimento de pipelines de informática em saúde mais escaláveis, permitindo a extração de informações de documentos clínicos mesmo quando os dados rotulados são limitados, sem o pesado overhead computacional de modelos generativos.