CORE-Acu: Structured Reasoning Traces and Knowledge Graph Safety Verification for Acupuncture Clinical Decision Support

O artigo apresenta o CORE-Acu, um framework neuro-simbólico para suporte à decisão clínica em acupuntura que integra rastreamento de raciocínio estruturado e verificação de segurança baseada em grafos de conhecimento para garantir interpretabilidade e eliminar violações de segurança.

O essencial

Imagine que você tem um assistente de saúde super inteligente, um "médico de bolso" feito de inteligência artificial, pronto para ajudar acupunturistas a escolherem os pontos certos para tratar a dor de um paciente. O problema é que, até agora, esses assistentes funcionavam como uma caixa preta: eles davam uma resposta, mas ninguém sabia exatamente como chegaram lá. E pior: às vezes, eles alucinavam, sugerindo tratamentos perigosos ou errados, apenas porque soavam convincentes.

O artigo que você leu apresenta uma solução chamada CORE-Acu. Pense nele como um "sistema de segurança e lógica" que transforma esse assistente de IA em um especialista confiável e transparente.

Aqui está como o CORE-Acu funciona, usando analogias do dia a dia:

1. O Problema: O "Mágico" que Pula Etapas

Os modelos de IA comuns (como o GPT-4) são como mágicos que puxam coelhos da cartola. Eles olham para os sintomas do paciente e, de repente, dizem: "Use o ponto X!". Eles pulam a parte chata, mas crucial: o raciocínio.

• O risco: Em acupuntura, pular etapas é perigoso. Se você não entende por que um ponto é escolhido, pode acabar escolhendo um ponto proibido para uma mulher grávida (o que pode causar aborto) ou errar um ponto que soa parecido (como confundir "Taixi" com "Taiyuan"), o que muda tudo no tratamento.

2. A Solução: O CORE-Acu (O "Detetive com Regras")

O CORE-Acu não deixa a IA "adivinhar". Ele força a IA a seguir um roteiro rigoroso, como um detetive que precisa montar o caso peça por peça antes de acusar alguém.

A. O Roteiro de Pensamento (S-CoT)

Em vez de pular direto para a resposta, o CORE-Acu obriga a IA a preencher um formulário passo a passo:

1. Diagnóstico: Qual é o problema? (Ex: Dor de cabeça do lado direito).
2. Causa: Por que isso está acontecendo? (Ex: O "Qi" do fígado está desequilibrado).
3. Princípio: Qual a estratégia? (Ex: Acalmar o fígado).
4. Escolha: Quais pontos curam isso? (Apenas agora ela escolhe os pontos).

Analogia: É como se, em vez de pedir para um aluno "resolver a equação", você exigisse que ele mostrasse todo o cálculo no caderno. Se o cálculo estiver errado, a resposta final é rejeitada, mesmo que o número final pareça certo. Isso torna o pensamento da IA transparente e auditável.

B. O "Veto Simbólico" (O Guarda de Segurança)

Aqui está a parte mais brilhante para a segurança. A equipe criou um Mapa de Regras (Conhecimento) que funciona como um guarda de trânsito ou um filtro de segurança em um aeroporto.

• Antes de a IA entregar a receita final, o sistema verifica: "Ei, este paciente está grávida? Se sim, o ponto 'Hegu' está proibido!"
• Se a IA sugerir algo proibido, o sistema não deixa passar. Ele diz: "Erro! Reescreva!".
• Analogia: Imagine que a IA é um cozinheiro tentando fazer um prato. O CORE-Acu é o chefe de cozinha que tem um livro de regras. Se o cozinheiro tentar colocar amendoim em um prato para alguém alérgico, o chefe para a mão dele imediatamente e manda refazer, garantindo que ninguém se machuque.

C. A "Lupa" para Palavras Importantes (LMERL)

Às vezes, a IA aprende a falar bem, mas erra os detalhes técnicos. Ela pode trocar um nome de ponto por outro parecido porque, na internet, palavras comuns aparecem mais vezes do que termos médicos raros.
O CORE-Acu usa uma técnica especial para "dar mais peso" aos erros importantes.

• Analogia: Imagine que você está estudando para uma prova. Se errar a palavra "o" ou "e", você perde 1 ponto. Se errar o nome de um ponto vital de acupuntura, você perde 100 pontos. O CORE-Acu ensina a IA a ter pavor de errar os termos importantes, ajustando a atenção dela para que ela nunca confunda um ponto vital com outro.

3. O Resultado: Segurança Total

Os testes mostraram que:

• Outros modelos de IA (como o GPT-4) erraram em 8,5% dos casos, sugerindo tratamentos perigosos ou proibidos.
• O CORE-Acu teve 0 erros em 1.000 testes. Ele não apenas acertou, mas fez isso explicando seu raciocínio de forma lógica e segura.

Resumo Final

O CORE-Acu é como transformar um assistente de IA que "chuta" respostas em um médico residente supervisionado. Ele é obrigado a:

1. Pensar passo a passo (não pular etapas).
2. Passar por um guarda de segurança que verifica regras de vida ou morte (como gravidez).
3. Ter atenção especial para não errar os nomes dos pontos vitais.

Isso torna a inteligência artificial segura o suficiente para ser usada em hospitais e clínicas de acupuntura, onde a precisão e a segurança do paciente são inegociáveis.

Resumo técnico

Resumo Técnico: CORE-Acu

1. O Problema

O artigo identifica desafios críticos na aplicação de Grandes Modelos de Linguagem (LLMs) para Suporte à Decisão Clínica (CDS) na área de Acupuntura, um campo que exige rigorosa interpretabilidade e segurança. Os principais problemas abordados são:

• Natureza de "Caixa Preta" e Alucinações: LLMs operam baseados em previsão probabilística de tokens, o que gera raciocínios não rastreáveis e alucinações clinicamente incorretas, mas linguisticamente plausíveis.
• Falha no Raciocínio TCM: A medicina tradicional chinesa (MTC) depende de um processo complexo de diferenciação de síndromes (Bian Zheng). Modelos existentes tendem a mapear sintomas diretamente para prescrições, ignorando etapas intermediárias críticas (diagnóstico, patogênese, princípios terapêuticos), o que compromete a auditabilidade e a segurança.
• Riscos de Segurança Específicos: Diferente de prescrições herbais, a acupuntura é uma intervenção física invasiva. Erros na seleção de pontos (ex: uso de pontos contraindicados na gravidez, como Hegu/LI4) podem causar danos diretos ao paciente.
• Desalinhamento Frequência-Importância: Funções de perda padrão (como Entropia Cruzada) tratam todos os tokens igualmente. Isso penaliza erros em palavras comuns da mesma forma que erros em entidades críticas de segurança (nomes de pontos de acupuntura), levando a um desvio terminológico (terminology drift) em entidades de alto risco.

2. Metodologia: O Framework CORE-Acu

Os autores propõem o CORE-Acu (Constrained Ontology Reasoning Engine for Acupuncture), um framework neuro-simbólico que integra raciocínio estruturado com verificação de segurança baseada em Grafos de Conhecimento (KG). A arquitetura opera em um ciclo de vida de Construção-Adaptação-Verificação:

A. Construção de Rastros de Raciocínio Estruturado (S-CoT)

• Foi criado o primeiro dataset de Rastros de Raciocínio Estruturado para Acupuntura (Acu-Reasoning), contendo 42.512 amostras.
• Em vez de mapear sintomas diretamente para pontos, o modelo é forçado a seguir uma cadeia causal explícita:
  1. Diagnóstico (Bian Zheng)
  2. Patogênese (Bing Ji)
  3. Princípio Terapêutico (Zhi Ze)
  4. Seleção de Pontos (Xuan Xue)
• Isso transforma o raciocínio implícito da MTC em uma geração observável e verificável.

B. Grafos de Conhecimento (KG) e Mecanismo de Veto Simbólico

• Foi construído um KG de Segurança da MTC padronizado (baseado em normas da OMS e padrões nacionais chineses), contendo 4.628 nós e 12.500 arestas.
• O KG codifica restrições rígidas, como contraindicações condicionais (ex: "Ponto X proibido para Gravidez") e riscos anatômicos.
• Implementa-se um Mecanismo de Veto Simbólico em um ciclo de Gerar-Verificar-Revisar (GVR):
  1. O LLM gera uma prescrição preliminar.
  2. O módulo simbólico verifica violações contra o KG.
  3. Se houver violação, um sinal de feedback negativo é injetado para forçar a revisão do modelo.
  4. Se o conflito persistir após um limite de tentativas, o sistema aciona um "fallback conservador" (solicitação de confirmação humana), garantindo zero violações de segurança.

C. Otimização Adaptativa via LMERL

• Para resolver o desalinhamento entre frequência e importância, os autores propõem a Função de Perda Ponderada por Entidade Correspondente ao Léxico (LMERL).
• Durante o fine-tuning, o gradiente é adaptativamente amplificado para entidades de alto risco (pontos de acupuntura, síndromes) com base em um peso $\alpha > 1$. Isso garante que o modelo priorize a precisão terminológica de entidades críticas em vez de apenas fluência linguística.

3. Contribuições Principais

1. Dataset e Paradigma S-CoT: Criação do primeiro dataset de raciocínio estruturado para acupuntura e um paradigma de fine-tuning que impõe uma cadeia causal explícita, mitigando a opacidade dos LLMs.
2. Mecanismo de Veto Simbólico: Um módulo de governança neuro-simbólico que utiliza regras determinísticas (KG) para interceptar violações de segurança em tempo real, garantindo limites de segurança rígidos.
3. LMERL: Uma nova função de perda que corrige o desvio terminológico em entidades críticas, melhorando a fidelidade da geração de termos médicos de alto risco.

4. Resultados Experimentais

Os experimentos foram realizados em um conjunto de teste retido de 1.000 casos clínicos, comparando o CORE-Acu com modelos de ponta (GPT-4o, Qwen-Max, GLM-4.6) e modelos médicos especializados (HuatuoGPT).

• Qualidade do Raciocínio: O CORE-Acu superou todos os baselines em métricas de fidelidade de entidades (Entity-F1: 0.4612 vs. ~0.29-0.35 dos outros) e em avaliação multidimensional de raciocínio clínico (pontuação total média de 42.96 vs. 36.88 do Qwen-Max e 20.00 do HuatuoGPT).
• Segurança (O Resultado Mais Crítico):
  • CORE-Acu: 0/1.000 violações de segurança observadas (0%).
  • GPT-4o: 8.5% de taxa de violação de segurança.
  • Qwen-Max: 4.1% de violação.
  • HuatuoGPT: 12.0% de violação (demonstrando que conhecimento médico geral não garante conformidade com regras específicas de acupuntura).
• Ablação: A versão do modelo apenas com fine-tuning (sem o veto simbólico) ainda apresentou 4.0% de violações, provando que a camada de verificação simbólica é essencial para a segurança absoluta.

5. Significado e Conclusão

O CORE-Acu estabelece um novo padrão para o uso de IA em contextos médicos de alto risco, especificamente na acupuntura.

• Auditabilidade: Transforma o "raciocínio de caixa preta" em um processo lógico transparente e verificável.
• Garantia de Segurança: Demonstra que a combinação de aprendizado profundo com verificação simbólica baseada em regras pode eliminar alucinações perigosas, algo que modelos puramente probabilísticos não conseguem fazer.
• Aplicabilidade: O framework oferece uma solução viável para a integração segura de IA em sistemas de suporte à decisão clínica, garantindo que as recomendações não sejam apenas linguisticamente fluídas, mas clinicamente seguras e logicamente consistentes com a teoria da Medicina Tradicional Chinesa.

Em suma, o trabalho prova que, para aplicações médicas invasivas, a precisão estatística não é suficiente; é necessária uma governança neuro-simbólica que imponha limites de segurança rígidos e rastreabilidade lógica.