From Documents to Spans: Code-Centric Learning for LLM-based ICD Coding

Resumo Técnico: De Documentos para Spans – Aprendizado Centrado no Código para Codificação ICD baseada em LLM

1. O Problema

A codificação de doenças baseada na Classificação Internacional de Doenças (ICD) é uma tarefa crítica na saúde, essencial para reembolsos de seguros e análise de dados, mas é manual, demorada e propensa a erros. Embora os Métodos de Grandes Modelos de Linguagem (LLMs) tenham mostrado superioridade em generalização em comparação com métodos discriminativos tradicionais, a afinação (fine-tuning) de LLMs para codificação ICD enfrenta três desafios principais:

1. Cobertura Limitada de Códigos: Os conjuntos de dados públicos (como MIMIC-IV) cobrem apenas uma pequena fração do espaço de códigos ICD (ex: ~10% dos 70k códigos ICD-10-CM), limitando a capacidade do modelo de generalizar para códigos não vistos (unseen codes).
2. Falta de Interpretabilidade: A maioria dos dados de treinamento fornece apenas o código final sem evidências textuais explícitas que o justifiquem. Isso impede a revisão humana e a colaboração eficaz entre humano e IA.
3. Ineficiência Computacional: A afinação em documentos clínicos longos é computacionalmente cara devido à complexidade quadrática dos LLMs em relação ao comprimento da entrada.

2. Metodologia: Code-Centric Learning (CCL)

Os autores propõem um novo paradigma de treinamento chamado Code-Centric Learning (CCL). A ideia central é deslocar a supervisão de documentos clínicos completos para spans de evidência escaláveis e curtos. A premissa é que aprender a atribuir o código correto a um span de evidência específico melhora a capacidade do modelo de localizar e agregar evidências em documentos completos.

O framework CCL consiste em duas estratégias principais:

A. Estratégia de Treinamento Misto (Mixed Training Strategy)
O modelo é treinado simultaneamente em dois tipos de instâncias:

1. Nível de Documento: Documentos clínicos completos com anotações de evidência e códigos ICD (dados escassos, mas valiosos, como do conjunto MDACE). Isso ensina o modelo a agregar evidências do contexto completo.
2. Nível de Span (Evidência-Código): Pares compostos por um span de texto curto (evidência) e um único código ICD. Isso permite um treinamento eficiente e a injeção massiva de conhecimento sobre códigos específicos.

B. Expansão de Dados Centrada no Código (Code-Centric Data Expansion)
Para garantir cobertura total dos códigos ICD, os autores constroem um banco de conhecimento multi-nível composto por três camadas de pares (evidência, código):

1. Pares Ouro (Gold): Extraídos de recursos oficiais (Índice Alfabético e Lista Tabular ICD), representando conhecimento humano de alta qualidade.
2. Pares Prata (Silver): Minerados a partir de conjuntos de dados públicos ruidosos (como MIMIC-IV) usando LLMs para extrair e consolidar evidências textuais associadas aos códigos.
3. Pares Sintéticos (Synthetic): Para códigos que não aparecem nem nos dados públicos nem nas bases oficiais, o modelo infere evidências plausíveis baseando-se em códigos vizinhos na hierarquia ICD e em conhecimento existente, garantindo cobertura de 100% do espaço de códigos.

Durante a inferência, o modelo segue o prompt de treinamento de nível de documento: primeiro extrai as evidências relevantes do texto clínico e, em seguida, atribui os códigos ICD correspondentes.

3. Contribuições Principais

• Novo Paradigma de Treinamento: Propõem um framework que resolve simultaneamente limitações de cobertura de dados, falta de interpretabilidade e ineficiência computacional.
• Descoberta Chave: Demonstram que o aprendizado em nível de span (classificação de evidência para um código específico) gera ganhos transferíveis significativos para a extração de evidências em nível de documento.
• Eficiência e Escalabilidade: O método permite que LLMs de pequena escala (ex: 8B parâmetros) alcancem desempenho comparável a modelos proprietários muito maiores, com custos de treinamento drasticamente reduzidos.
• Colaboração Humano-AI: Ao exigir a geração de evidências antes dos códigos, o sistema permite que humanos revisem e corrijam a base lógica da codificação, aumentando a confiabilidade.

4. Resultados Experimentais

Os experimentos foram conduzidos nos conjuntos de dados MDACE (com anotações de evidência) e ACI-Bench (benchmark de generalização).

• Desempenho: O CCL superou consistentemente os baselines de ponta (incluindo métodos de Chain-of-Thought, agentes multi-agentes e afinação direta) em métricas Micro-F1 e Macro-F1.
  • No conjunto ACI-Bench, usando o modelo Llama-3.1-8B, o CCL melhorou o Micro-F1 em 2,4% e o Macro-F1 em 8,2% em comparação com a afinação padrão (SFT).
  • Em códigos não vistos (unseen codes), o CCL mostrou uma melhoria drástica de 41,2% na precisão (F1) em comparação com métodos que não utilizam dados de span.
• Eficiência de Treinamento:
  • Redução de ~80% no tempo de treinamento (de 210 horas para 40 horas) ao substituir o treinamento em 100k documentos longos por 200 documentos anotados + 150k pares de spans curtos.
• Interpretabilidade:
  • O modelo alcançou um Recall de evidência de 74,0% no MDACE, comparado a 0% em métodos que apenas preveem códigos.
  • Quando evidências anotadas por humanos são usadas como entrada (simulando um ciclo de revisão), o desempenho salta para um Micro-F1 de 78,0, demonstrando o potencial de colaboração.

5. Significado e Impacto

Este trabalho representa um avanço significativo na automação da codificação médica. Ao redefinir a tarefa de "documento para código" como um processo de "evidência para código", os autores superam as barreiras de dados e computação que impediam a adoção prática de LLMs em ambientes clínicos.

A principal implicação é que modelos menores e locais podem ser treinados de forma eficiente e segura, oferecendo não apenas alta precisão, mas também transparência (através de evidências justificáveis). Isso torna a codificação automática totalmente viável para integração em fluxos de trabalho reais, onde a supervisão humana é necessária para garantir a conformidade e a precisão clínica.