Governance-Bound Artificial Intelligence for Evidence-Linked Medicines Reliance Review: A Design Science Research Study

Todos os anos, as agências nacionais de saúde enfrentam uma montanha de papelada. Quando uma empresa quer vender um novo medicamento, ela deve submeter um dossiê massivo contendo milhares de páginas de dados sobre como o fármaco foi fabricado, como ele funciona no corpo e se é seguro. Em muitos países, especialmente naqueles com pessoal limitado, a revisão desses documentos leva muito tempo, atrasando o acesso a tratamentos que salvam vidas. Para acelerar o processo sem abrir mão do rigor, os reguladores adotaram uma estratégia chamada "confiança" (reliance). Em vez de começar do zero, uma agência local pode observar o trabalho já realizado por uma autoridade de confiança em outro país. Se essa autoridade de confiança já aprovou o medicamento, a equipe local pode usar essa avaliação como base. No entanto, esse processo ainda é incrivelmente difícil. A equipe local ainda precisa ler os documentos originais, verificar se o produto é exatamente o mesmo, encontrar quaisquer pequenas diferenças e escrever um novo relatório que explique sua decisão. Isso exige navegar por estruturas complexas, detectar erros minúsculos escondidos no texto e garantir que cada conclusão seja respaldada por evidências específicas. Se um erro for cometido, ou se o raciocínio não puder ser rastreado até um documento de origem, toda a decisão poderá ser contestada, colocando a saúde pública em risco.

Pesquisadores da Universidade do Western Cape, na África do Sul, enfrentaram esse problema projetando um novo tipo de ferramenta computacional, não para substituir os especialistas humanos, mas para atuar como um assistente altamente organizado. Eles chamam essa ferramenta de RAiA. A equipe não construiu simplesmente um programa para resumir textos, porque um resumo pode omitir os detalhes minúsculos que importam na medicina. Em vez disso, utilizaram um método chamado pesquisa de ciência do design (design science research), que se concentra em construir uma solução específica para um problema do mundo real e definir exatamente como ela deve funcionar antes mesmo de ser testada com dados reais. O objetivo era criar um sistema que pudesse realizar o trabalho pesado de leitura e organização dos documentos, mantendo o especialista humano firmemente no comando da decisão final. O resultado é um sistema protótipo que atua como uma ponte entre a pilha caótica de documentos e o relatório claro e defensável que um regulador precisa escrever.

O núcleo deste design é um conjunto de regras estritas que governam o comportamento do computador. Os pesquisadores perceberam que, para uma ferramenta ser útil em um ambiente de alto risco como a medicina, ela deve ser "vinculada à governança" (governance-bound). Isso significa que o sistema é construído com trilhos de segurança que o impedem de tomar suas próprias decisões ou esconder seu trabalho. Por exemplo, o sistema é projetado de modo que não possa aprovar ou rejeitar um medicamento por conta própria; ele pode apenas destacar problemas potenciais e sugerir conexões entre diferentes partes da papelada. Cada vez que o computador aponta um fato, ele também deve mostrar exatamente de onde esse fato veio, ligando a descoberta a uma frase específica no documento original. Isso garante que, se um revisor humano questionar o trabalho do computador, ele possa imediatamente ver a fonte e verificá-la. O sistema também mantém um registro detalhado de cada etapa que realiza, criando uma trilha de papel que prova que o trabalho foi feito de forma correta e segura.

Para construir isso, a equipe dividiu a tarefa massiva de revisar um dossiê de medicamentos em partes menores e gerenciáveis. Eles projetaram o sistema para tratar diferentes tipos de informação separadamente. Uma parte do sistema observa apenas os detalhes químicos e de fabricação, outra foca nos resultados de ensaios clínicos e uma terceira verifica a rotulagem e as instruções. Isso é semelhante a como uma equipe de especialistas poderia trabalhar, onde uma pessoa verifica o motor de um carro enquanto outra verifica os freios, em vez de uma única pessoa tentar fazer tudo de uma vez. O sistema reúne informações dessas diferentes áreas e as une, procurando por contradições ou peças faltantes. Se o relatório de fabricação diz que o medicamento foi produzido em uma fábrica, mas o relatório do ensaio clínico implica que ele foi produzido em outra, o sistema sinaliza essa discrepância para que o humano investigue. Crucialmente, o sistema é programado para ser conservador; é melhor sinalizar um problema potencial que acaba sendo nada do que deixar passar um perigo real.

Os pesquisadores também prestaram muita atenção em como o especialista humano interage com a máquina. A interface é projetada para que o humano possa facilmente aceitar, editar ou rejeitar o que o computador sugere. Se o computador cometer um erro, o humano pode corrigi-lo, e o sistema registra o motivo pelo qual a correção foi feita. Esse feedback não é usado para mudar instantaneamente o "cérebro" do computador, o que poderia levar a um comportamento imprevisível, mas é salvo para uma revisão posterior e cuidadosa pela equipe. Essa separação garante que a ferramenta permaneça estável e confiável. O sistema também protege informações sensíveis, como segredos comerciais ou dados privados, criptografando-os e garantindo que apenas pessoas autorizadas possam vê-los. O computador não tem permissão para usar esses dados privados para aprender por conta própria, o que evita o risco de que essas informações vazem posteriormente.

A equipe construiu uma versão funcional deste sistema, conhecida como protótipo, para mostrar como o fluxo ocorreria do início ao fim. Eles o testaram usando documentos fictícios que pareciam aplicações reais de medicamentos, mas não utilizaram nenhum dado confidencial de empresas reais. A demonstração mostrou que o sistema poderia pegar um arquivo grande, organizá-lo nas seções corretas, encontrar evidências relevantes e redigir um relatório que o especialista humano poderia então revisar e validar. O especialista humano permaneceu como a autoridade final em cada etapa, decidindo o que as evidências significavam e se o medicamento era seguro. O protótipo provou que o design era possível e que o fluxo de trabalho fazia sentido, mas os pesquisadores são cuidadosos ao afirmar que este ainda não é um produto acabado pronto para uso no mundo real. Eles ainda não mediram o quanto ele acelera o processo ou com que precisão encontra erros em documentos reais.

A principal contribuição deste trabalho não é um novo tipo de algoritmo computacional, mas um roteiro de como construir ferramentas confiáveis para a regulação de medicamentos. Os pesquisadores demonstraram que é possível projetar um sistema de inteligência artificial que respeite as regras de governança, proteja dados privados e mantenha os humanos no controle. Eles forneceram um conjunto de dez princípios orientadores que outros desenvolvedores podem seguir se desejarem construir ferramentas semelhantes. Esses princípios enfatizam que a ferramenta deve sempre vincular suas descobertas às evidências, nunca deve tomar uma decisão por conta própria e deve ser projetada de modo que seu trabalho possa ser auditado e verificado. Ao focar nessas regras desde o início, a equipe criou um modelo que pode ajudar reguladores na África e ao redor do mundo a gerenciar a crescente complexidade das aprovações de medicamentos sem comprometer a segurança.

Este estudo representa um passo significativo no pensamento sobre como a tecnologia pode apoiar especialistas humanos em campos críticos. Ele se afasta da ideia de que a inteligência artificial deve substituir o julgamento humano e, em vez disso, foca em como ela pode tornar o julgamento humano mais informado e eficiente. Os pesquisadores demonstraram que, com o design correto, um computador pode lidar com o trabalho tedioso de classificar e verificar documentos, liberando os especialistas humanos para focarem no raciocínio complexo e nas decisões finais que protegem a saúde pública. Embora a ferramenta ainda esteja na fase de protótipo e precise de mais testes, o próprio design oferece um caminho claro para a criação de sistemas seguros, confiáveis e responsáveis para o futuro da regulação de medicamentos.