A Governance and Evaluation Framework for Deterministic, Rule-Based Clinical Decision Support in Empiric Antibiotic Prescribing

Este trabalho propõe um framework de governança e avaliação para sistemas de suporte à decisão clínica determinísticos e baseados em regras, focado na prescrição empírica de antibióticos, que prioriza transparência, auditabilidade e a abstenção de recomendações quando as condições de governança não são atendidas, utilizando casos sintéticos para validar o alinhamento comportamental com as regras em vez de eficácia clínica.

O essencial

Imagine que você está dirigindo um carro em uma estrada de montanha muito perigosa, com neblina densa e curvas fechadas. De repente, um sistema de navegação inteligente (o Sistema de Apoio à Decisão Clínica) aparece no seu painel para te ajudar a escolher a melhor rota.

A maioria desses sistemas tenta adivinhar a rota mais rápida, mesmo que não tenha certeza, ou usa estatísticas complexas que ninguém consegue explicar. Se eles errarem, você pode cair no abismo.

Este artigo de pesquisa propõe algo diferente: um sistema de navegação super conservador e transparente, feito especificamente para situações de alto risco (como prescrever antibióticos quando não se tem todos os exames de laboratório).

Aqui está a explicação do que eles criaram, usando analogias simples:

1. O Grande Segredo: "Se não tiver certeza, pare o carro"

A ideia central é que, em situações de risco, não responder é uma resposta tão válida quanto dar uma instrução.

• A Analogia: Imagine um guarda de trânsito. Se ele não consegue ver claramente se o carro está vindo ou se a luz está vermelha, ele não chuta uma direção. Ele levanta a mão e grita: "PARE!" (ou "Não recomendo nada").
• No Artigo: O sistema foi programado para dizer "Não sei" (abstenção) sempre que faltarem informações ou se houver dúvida. Isso é considerado um sucesso, não um erro. O objetivo é evitar fazer algo errado, em vez de tentar adivinhar para parecer útil.

2. Duas Camadas de Segurança (O "Cozinheiro" e o "Chefe")

O sistema é dividido em duas partes que não se misturam, como se fossem dois funcionários diferentes na cozinha de um restaurante:

• O Cozinheiro (Lógica Clínica): Ele sabe as receitas. Se você tem uma infecção X, ele sabe que o remédio Y funciona. Ele pensa: "Ok, o remédio Y é bom para isso".
• O Chefe de Segurança (Governança): Ele não sabe cozinhar, mas conhece as regras de segurança. Ele olha para o Cozinheiro e pergunta: "Temos todos os ingredientes? O cliente tem alergia? Estamos dentro das regras do restaurante?".
  • Se o Cozinheiro sugerir o remédio Y, mas o Chefe de Segurança disser: "Falta um ingrediente crucial" ou "Isso viola uma regra de segurança", o Chefe bloqueia a sugestão.
  • A Regra de Ouro: O sistema só entrega a recomendação se ambos estiverem de acordo. Se o Chefe bloquear, a resposta final é "Não recomendo".

3. Sem "Adivinhação" Inteligente (Determinismo)

Muitos sistemas modernos usam Inteligência Artificial que "aprende" com dados e pode mudar de ideia ou dar respostas diferentes para a mesma pergunta (como um humano cansado).

• A Analogia: Este sistema é como uma máquina de vending (máquina de vendas) antiga. Se você colocar a moeda certa e apertar o botão "Coca-Cola", você sempre receberá uma Coca-Cola. Nunca uma Pepsi, nunca um suco, e nunca um erro.
• Por que isso é bom? Porque médicos e reguladores precisam saber exatamente por que o sistema decidiu aquilo. Se o sistema errar, eles podem olhar as regras e ver qual botão foi apertado. Não há "caixas pretas" ou mistérios.

4. O Teste de Fogo (Avaliação)

Como você testa se esse sistema é bom sem usar pacientes reais (o que seria perigoso)?

• A Analogia: Em vez de testar o carro em uma estrada real com chuva e buracos, eles criaram uma pista de obstáculos de brinquedo com cenários específicos.
  • "Cenário 1: O motorista não tem o mapa. O sistema deve parar?" (Resposta esperada: Sim).
  • "Cenário 2: O motorista quer o remédio mais forte, mas a regra diz para usar o mais fraco. O sistema deve bloquear?" (Resposta esperada: Sim).
• Eles criaram centenas desses cenários "fictícios" e verificaram se o sistema seguiu as regras à risca. Se o sistema seguiu as regras, ele passou no teste. Eles não mediram se os pacientes ficaram curados, mas sim se o sistema obedeceu às regras de segurança.

5. Por que fazer isso? (O "Porquê")

O mundo está cheio de sistemas de IA que prometem milagres, mas ninguém sabe como funcionam. Em medicina, especialmente com antibióticos, um erro pode criar "superbactérias" ou matar um paciente.

• A Lição: É melhor ter um sistema que diz "Não sei, fale com um médico" 100 vezes do que um sistema que dá uma resposta errada 1 vez.
• O artigo diz: "Vamos parar de tentar fazer a IA ser um médico genial. Vamos fazer a IA ser um guarda-costas rigoroso que só deixa passar o que é 100% seguro e explicado."

Resumo em uma frase:

Os autores criaram um manual de instruções para construir assistentes médicos que são tão conservadores e transparentes quanto um guarda de trânsito, onde a regra mais importante é: "Se não houver certeza absoluta baseada em regras claras, a resposta correta é não fazer nada."

Resumo técnico

Aqui está um resumo técnico detalhado do artigo "A Governance and Evaluation Framework for Deterministic, Rule-Based Clinical Decision Support in Empiric Antibiotic Prescribing", apresentado em português:

1. O Problema

A prescrição empírica de antibióticos em contextos clínicos de alto risco ocorre frequentemente sob condições de informação incompleta, antes da confirmação microbiológica. Decisões tomadas nesse cenário podem levar a coberturas inadequadas ou escalonamento injustificado, comprometendo a segurança do paciente e a gestão antimicrobiana (stewardship).
Embora existam Sistemas de Apoio à Decisão Clínica (CDSS), muitas abordagens atuais focam na geração de recomendações sem especificar explicitamente:

• As condições sob as quais uma recomendação é permitida.
• Como as estruturas de governança devem ser definidas.
• Como os limites do sistema devem ser operacionalizados na prática.
  A falta de mecanismos explícitos de governança e avaliação pode levar a comportamentos de "generalização silenciosa" ou recomendações não justificadas em cenários de incerteza.

2. Metodologia

O artigo propõe uma estrutura de governança e avaliação para CDSS determinísticos e baseados em regras. A metodologia baseia-se nos seguintes pilares:

• Escopo Consciente e Restrito: O sistema opera apenas dentro de limites clínicos explicitamente definidos. A saída é limitada a duas ações: (i) recomendação de uma classe de antibiótico empírico ou (ii) abstenção explícita.
• Comportamento Determinístico: O sistema não utiliza inferência probabilística, aprendizado de máquina ou mecanismos adaptativos. Entradas idênticas produzem sempre saídas idênticas, priorizando transparência e auditabilidade sobre a cobertura extrapolativa.
• Separação de Camadas: A arquitetura separa a Lógica de Decisão Clínica (o que pode ser recomendado) da Mecânica de Governança (se é permitido recomendar dado o contexto atual).
• Mecanismos de Governança:
  • Tipologia de Abstenção: A abstenção é tratada como um resultado correto e intencional quando condições de segurança não são atendidas. As categorias incluem: entradas faltantes, risco desconhecido, sinais conflitantes, exclusões explícitas e ambiguidade conservadora.
  • Restrições de Stewardship: Regras rígidas que vetam recomendações que violem princípios de gestão antimicrobiana (ex.: preferência por espectro estreito, proibição de escalonamento injustificado).
  • Regras de Exclusão: Contextos onde o sistema é projetado para não recomendar por definição.
• Protocolo de Avaliação Baseado em Casos:
  • Utiliza um conjunto fixo de casos clínicos sintéticos e acionados por mecanismos (não representando distribuições epidemiológicas reais).
  • Cada caso possui um comportamento esperado pré-definido (recomendação ou abstenção específica).
  • A avaliação verifica a concordância do comportamento esperado, focando na aderência às regras e não na eficácia clínica ou precisão preditiva.
  • Métricas incluem: concordância de comportamento esperado, cobertura de recomendação (como medida descritiva conservadora) e distribuição de razões de abstenção.

3. Principais Contribuições

1. Camada de Governança Formalizada: Especifica uma camada de governança como componente de primeira classe, separando a lógica clínica das regras que determinam a permissibilidade da recomendação.
2. Abstenção como Saída Intencional: Formaliza a abstenção não como um erro ou estado residual, mas como uma resposta correta e auditável quando as condições de governança não são satisfeitas.
3. Protocolo de Avaliação Reprodutível: Propõe um método de validação baseado em casos sintéticos fixos para inspecionar o alinhamento comportamental do sistema com suas regras, eliminando a variabilidade amostral e efeitos estocásticos.
4. Arquitetura Modular: Permite a atualização de regras clínicas sem alterar a estrutura de governança, facilitando a evolução controlada das políticas.

4. Resultados e Observações

• O framework demonstra que é possível especificar, governar e inspecionar sistemas de decisão clínica de forma rigorosa sem depender de dados de treinamento ou validação clínica prospectiva.
• A abordagem garante que, em casos de informação incompleta ou conflito de regras, o sistema não "adivinha" ou generaliza, mas abstém-se explicitamente, fornecendo a razão da abstenção (ex.: "entrada faltante" ou "risco não quantificado").
• A avaliação baseada em casos sintéticos permite a auditoria transparente de cada caminho de decisão, assegurando que as restrições de stewardship e segurança sejam aplicadas estruturalmente e não apenas como heurísticas implícitas.
• O sistema evita a "cobertura silenciosa", garantindo que nenhuma recomendação seja emitida fora dos limites validados das políticas clínicas.

5. Significado e Implicações

Este trabalho preenche uma lacuna metodológica crítica na implementação de CDSS em cenários de alto risco.

• Segurança e Transparência: Ao priorizar a explicabilidade e o controle de escopo sobre a maximização de recomendações, o framework oferece uma base mais segura para contextos onde a justificativa da decisão é obrigatória (regulatória ou institucional).
• Complementaridade ao Aprendizado de Máquina: O artigo posiciona a abordagem determinística como uma alternativa viável e necessária quando os dados de treinamento são escassos, as políticas clínicas são rígidas ou o risco de generalização indevida de modelos estatísticos é inaceitável.
• Template Metodológico: O framework não é apresentado como um sistema pronto para implantação clínica, mas como um modelo reprodutível para especificação e inspeção comportamental. Ele estabelece que a validação de comportamento (alinhamento às regras) é uma condição necessária, embora não suficiente, para a implantação clínica.
• Limitações Reconhecidas: O artigo admite que não avalia resultados clínicos reais, não utiliza dados de pacientes reais e não aborda questões de integração de fluxo de trabalho ou interação com o usuário, focando estritamente na especificação lógica e governança.

Em resumo, o artigo propõe uma mudança de paradigma: em vez de perguntar "qual é a melhor recomendação estatística?", o sistema pergunta "as condições de governança permitem emitir qualquer recomendação?". Se a resposta for não, a abstenção é o resultado desejado e auditável.