A Hybrid Knowledge-Grounded Framework for Safety and Traceability in Prescription Verification

O artigo apresenta o PharmGraph-Auditor, um sistema híbrido que combina uma Base de Conhecimento Farmacêutico (HPKB) com um paradigma de Verificação em Cadeia (CoV) para transformar modelos de linguagem em motores de raciocínio transparentes e baseados em evidências, visando aumentar a segurança e a rastreabilidade na verificação de prescrições médicas.

O essencial

Imagine que você é um fiscal de trânsito muito experiente. Sua função é verificar se todos os carros que passam por você estão seguros, se têm a documentação em dia e se o motorista não está bebendo.

No mundo da medicina, esse "fiscal" é o farmacêutico. Antes de um remédio chegar ao paciente, ele precisa ser aprovado por um farmacêutico para garantir que a dose está certa, que não vai misturar mal com outros remédios e que não vai causar alergias.

O problema é que hoje em dia existem milhares de regras, dezenas de tipos de remédios e históricos de pacientes complexos. O farmacêutico humano, por mais inteligente que seja, pode ficar cansado, esquecer um detalhe ou não conseguir ler todas as regras rapidamente. É como tentar encontrar uma agulha num palheiro, mas o palheiro está pegando fogo e você está com sono.

Aqui entra o PharmGraph-Auditor, o sistema criado pelos autores deste artigo. Vamos explicar como ele funciona usando analogias simples:

1. O Problema: A "Bola de Cristal" vs. O "Livro de Regras"

Muitas pessoas acham que podemos usar Inteligência Artificial (especificamente os modelos de linguagem grandes, como o ChatGPT) para fazer essa verificação sozinha.

• O problema: A IA é como um aluno muito inteligente, mas que adora inventar histórias. Se você perguntar a ela sobre um remédio, ela pode dar uma resposta que parece muito real e convincente, mas que está errada. Na medicina, um erro de "invenção" (alucinação) pode custar a vida de alguém. Além disso, se ela errar, ninguém sabe de onde ela tirou essa informação.

2. A Solução: O "Banco de Dados Híbrido" (HPKB)

Os autores criaram um sistema que não confia apenas na "memória" da IA. Eles construíram uma Biblioteca de Conhecimento Híbrida (HPKB). Pense nela como uma biblioteca com dois andares muito diferentes:

• O Andar dos Números (Relacional): Imagine uma planilha de Excel super organizada. Aqui ficam as regras rígidas: "Se o paciente tem menos de 65 anos, a dose é X". "Se o peso é Y, a dose é Z". O sistema consulta essa planilha para fazer cálculos exatos. É rápido e não erra matemática.
• O Andar das Conexões (Grafo): Imagine um mapa de metrô gigante. Aqui ficam as conexões: "O Remédio A é feito de uma substância que causa alergia no Remédio B". "O Remédio C não pode ser usado se o paciente tem uma doença que é 'prima' da doença D". O sistema segue as linhas do mapa para descobrir conexões complexas que uma planilha comum não veria.

Esses dois andares estão conectados por um elevador mágico (o "Mapping Layer"), permitindo que o sistema use o melhor dos dois mundos: a precisão dos números e a inteligência das conexões.

3. Como a IA é usada? (O "Detetive" vs. O "Escritor")

Em vez de deixar a IA escrever o relatório do zero (o que é perigoso), o sistema usa uma técnica chamada Cadeia de Verificação (CoV).

Imagine que a IA não é mais o escritor que inventa a história, mas sim um detetive que segue um roteiro rigoroso:

1. Planejamento: O detetive (IA) olha a receita e diz: "Preciso verificar a dose, preciso verificar alergias e preciso verificar interações".
2. Coleta de Evidências: Em vez de inventar, o detetive vai até a Biblioteca Híbrida (os dois andares) e pede os documentos exatos.
   • Para a dose, ele vai à planilha (SQL).
   • Para as alergias, ele segue o mapa de conexões (Cypher).
3. Filtragem (P-EST): A biblioteca pode ter 100 regras sobre um remédio. O sistema usa uma "peneira inteligente" baseada no perfil do paciente (idade, peso, doença) para jogar fora as regras que não servem e ficar apenas com a única regra correta para aquele caso.
4. Relatório Final: Só então a IA recebe os documentos reais e escreve o relatório: "O remédio está errado porque a regra X diz isso, e aqui está o documento original provando".

Se faltar uma informação (ex: o médico não escreveu a função renal do paciente), o sistema não inventa. Ele levanta a mão e diz: "Falta um dado! Não posso verificar com segurança". Isso é crucial para a segurança.

4. O Resultado na Prática

Os autores testaram esse sistema com receitas reais de um hospital.

• Farmacêutico Humano: Era muito preciso quando acertava (não dava falsos alarmes), mas deixava passar muitos erros porque estava cansado ou não lembrou de uma regra específica (apenas 46% de detecção de riscos).
• Sistemas Antigos (Regras Rígidas): Avisavam de tudo, mas davam muitos alarmes falsos (52% de erros), o que cansa o farmacêutico e faz ele ignorar os avisos importantes.
• O PharmGraph-Auditor: Conseguiram o equilíbrio perfeito. Eles pegaram mais riscos do que o humano (70% de detecção) e cometeram menos erros do que os sistemas antigos, mantendo a precisão alta.

Resumo da Ópera

Este trabalho criou um assistente de segurança para farmacêuticos. Ele não substitui o humano, mas age como um super-fiscal que nunca dorme, nunca esquece uma regra, sabe exatamente onde procurar a informação e, o mais importante, nunca inventa nada. Ele traz a prova do documento original para cada decisão, garantindo que a medicina seja segura, rápida e transparente.

É como ter um parceiro que conhece todo o livro de regras de cor e salteado, mas que só fala quando tem o livro aberto na mão para mostrar a página exata.

Resumo técnico

Resumo Técnico: PharmGraph-Auditor

1. O Problema

Erros de medicação representam uma ameaça significativa à segurança do paciente, tornando a Verificação por Farmacêutico (PV) o último e mais crítico mecanismo de defesa. No entanto, este processo manual está sobrecarregado devido à complexidade crescente das evidências farmacêuticas, históricos de pacientes e diretrizes clínicas.

A aplicação direta de Modelos de Linguagem de Grande Escala (LLMs) para esta tarefa é considerada inviável por três razões fundamentais:

1. Inconfiabilidade Factual: LLMs são propensos a "alucinações" (gerar informações plausíveis, mas incorretas), o que é inaceitável em cenários de segurança do paciente.
2. Falta de Rastreabilidade: O conhecimento está codificado opacamente nos parâmetros do modelo, impossibilitando a vinculação de conclusões a documentos fonte originais, violando os princípios da medicina baseada em evidências.
3. Fraqueza em Raciocínio Complexo: A auditoria exige raciocínio multi-hop (conectar fatos dispersos, como função renal, propriedades do fármaco e diretrizes de dosagem), algo para o qual os LLMs puros não são robustos sem uma estrutura factual.

Sistemas existentes (como CDSS baseados em regras) sofrem com "fadiga de alerta" devido à baixa precisão e incapacidade de processar textos clínicos não estruturados.

2. Metodologia: PharmGraph-Auditor

O sistema proposto, PharmGraph-Auditor, introduz uma arquitetura híbrida baseada em uma Base de Conhecimento Farmacêutica Híbrida (HPKB) e um novo paradigma de raciocínio chamado Cadeia de Verificação Fundamentada em KB (CoV).

A. Base de Conhecimento Híbrida (HPKB)
A HPKB é implementada sob o paradigma de Grafo de Conhecimento Virtual (VKG), unificando dois componentes distintos para atender à natureza dual dos dados farmacêuticos:

• Componente Relacional (R): Armazena fatos atômicos e numéricos (ex: limites de dosagem, condições renais). É otimizado para Satisfação de Restrições de Conjuntos (usando índices B-Tree, complexidade $O(\log N)$), garantindo rigor em verificações numéricas.
• Componente Gráfico (G): Captura a topologia semântica e hierárquica (ex: interações medicamentosas, alergias, classificações de doenças). É otimizado para Travessia Topológica (usando adjacência sem índice, complexidade $O(1)$), permitindo raciocínio multi-hop eficiente.
• Camada de Mapeamento ($\phi$): Uma função bijetora que vincula vértices do grafo a tuplas relacionais, garantindo consistência de dados.

B. Construção da HPKB: Algoritmo de Refinamento de Esquema Iterativo (ISR)
Para lidar com a heterogeneidade dos textos médicos, o sistema utiliza o ISR, um processo semi-automático que evolui o esquema de dados:

1. Amostragem Estratificada: Seleciona documentos de diversas áreas terapêuticas.
2. Sinergia Humano-AI: Um agente LLM atua como "detector de lacunas", propondo novos campos ou relações. Um especialista humano atua como "arquiteto", validando e generalizando essas propostas para evitar fragmentação do esquema.
3. População Orientada por Seções: Utiliza um Framework Multi-Agente Orientado a Seções para extrair fatos de documentos pré-processados (PDFs convertidos em Markdown). Cada agente especializado (ex: Agente de Dosagem, Agente de Interações) extrai dados para o componente R ou G, garantindo que cada fato tenha metadados de proveniência (texto fonte exato).

C. Auditoria: Cadeia de Verificação Fundamentada em KB (CoV)
O CoV transforma o LLM de um gerador opaco em um motor de raciocínio transparente, dividido em quatro etapas:

1. Decomposição de Tarefas: Um agente especializado quebra a auditoria em uma lista estruturada de sub-tarefas verificáveis (ex: verificar dosagem, checar contraindicações).
2. Geração de Consultas Híbridas: Um motor determinístico gera consultas específicas:
   • Consultas SQL para o componente Relacional (regras de restrição).
   • Consultas Cypher para o componente Gráfico (travessia de hierarquias).
3. Recuperação e Curadoria (P-EST): Utiliza a Árvore de Seleção de Evidências Orientada ao Perfil do Paciente (P-EST) para filtrar dados brutos. O sistema busca correspondências exatas no perfil do paciente e, se não houver, faz um fallback hierárquico para encontrar a regra mais específica aplicável, reduzindo o ruído para o LLM.
4. Síntese Fundamentada: O LLM gera o relatório final baseado apenas nas evidências curadas. Se dados do paciente estiverem faltando para uma verificação, o sistema sinaliza explicitamente uma "Lacuna de Informação" em vez de alucinar uma conclusão.

3. Principais Contribuições

• Arquitetura Híbrida VKG: A primeira aplicação do paradigma VKG para auditoria de prescrições, resolvendo o dilema entre o rigor numérico (SQL) e o raciocínio semântico profundo (Grafos).
• Algoritmo ISR: Um método inovador para co-evolução de esquemas de grafos e relacionais a partir de textos médicos não estruturados, garantindo alta cobertura e compactação.
• Paradigma CoV: Uma nova abordagem que substitui a geração direta por um pipeline de verificação transparente, onde o LLM atua como um analista que interpreta evidências recuperadas, não como uma fonte de verdade.
• Gestão de Incerteza: Mecanismo explícito para identificar lacunas de dados, priorizando a segurança sobre a completude ilusória.

4. Resultados Experimentais

O sistema foi avaliado em um conjunto de dados de 100 prescrições reais de pacientes internados, anotadas por farmacêuticos clínicos experientes.

• Construção da Base de Conhecimento: O framework superou as abordagens de baselines (OpenIE Zero-shot e AutoKG One-shot), alcançando um F1-score global de 0,8374 (com GPT-4o), com alta precisão (>0,82) e recall (>0,84), demonstrando capacidade de extração robusta e minimização de alucinações.
• Desempenho de Auditoria:
  • vs. Especialista Humano: O sistema superou o recall do farmacêutico humano (70,3% vs. 45,9%), identificando mais de 50% dos riscos latentes que o humano perdeu, mantendo uma precisão alta (74,3%).
  • vs. CDSS Tradicional (Baseado em Regras): O sistema superou o CDSS legado em F1-score em +13,4%. Enquanto o CDSS tinha alta sensibilidade (Recall 67,6%) mas baixa precisão (52,1%, gerando muitos falsos positivos), o PharmGraph-Auditor equilibrou ambos, reduzindo drasticamente a fadiga de alerta.
  • Análise por Categoria: O sistema demonstrou superioridade significativa em categorias complexas como "Populações Especiais" (ex: ajuste renal), onde sistemas baseados em regras falharam completamente por não conseguirem interpretar notas clínicas não estruturadas.
• Estudo de Ablação: A remoção da CoV ou do conhecimento externo resultou em quedas drásticas de desempenho, confirmando que a combinação de recuperação de evidências estruturadas e raciocínio do LLM é essencial.

5. Significado e Impacto

O PharmGraph-Auditor representa um avanço paradigmático na IA para saúde clínica. Ele demonstra que é possível integrar a flexibilidade dos LLMs com o rigor necessário para a segurança do paciente, desde que o modelo seja "ancorado" em uma base de conhecimento estruturada e híbrida.

• Segurança e Rastreabilidade: Cada achado de risco é vinculado a um documento fonte, permitindo validação clínica e auditoria.
• Eficiência Clínica: Ao reduzir falsos positivos e identificar riscos que humanos e sistemas antigos perdem, o sistema atua como um assistente confiável, aliviando a carga cognitiva dos farmacêuticos.
• Adaptabilidade: A arquitetura híbrida é adaptável a outros domínios complexos que exigem tanto satisfação de restrições numéricas quanto raciocínio semântico profundo.

Em suma, o trabalho propõe uma mudança de papel para o LLM: de um gerador opaco para um motor de raciocínio verificável e baseado em evidências, essencial para sistemas de suporte à decisão clínica de alta confiabilidade.