Governance-Bound Artificial Intelligence for Evidence-Linked Medicines Reliance Review: A Design Science Research Study

Cada año, las agencias nacionales de salud se enfrentan a una montaña de papeleo. Cuando una empresa quiere vender un nuevo medicamento, debe presentar un dossier masivo que contiene miles de páginas de datos sobre cómo se fabricó el fármaco, cómo actúa en el cuerpo y si es seguro. En muchos países, especialmente en aquellos con personal limitado, la revisión de estos documentos lleva mucho tiempo, lo que retrasa el acceso a tratamientos que salvan vidas. Para acelerar este proceso sin escatimar en rigor, los reguladores han adoptado una estrategia llamada "dependencia" (reliance). En lugar de empezar de cero, una agencia local puede observar el trabajo ya realizado por una autoridad de confianza en otro país. Si esa autoridad de confianza ya ha aprobado el medicamento, el equipo local puede utilizar esa evaluación como base. Sin embargo, este proceso sigue siendo increíblemente difícil. El equipo local aún debe leer los documentos originales, comprobar que el producto es exactamente el mismo, encontrar cualquier pequeña diferencia y redactar un nuevo informe que explique su decisión. Esto requiere navegar por estructuras complejas, detectar errores minúsculos ocultos en el texto y asegurar que cada conclusión esté respaldada por evidencia específica. Si se comete un error, o si el razonamiento no puede rastrearse hasta un documento fuente, la decisión entera podría ser impugnada, poniendo en riesgo la salud pública.

Investigadores de la Universidad del Western Cape en Sudáfrica han abordado este problema diseñando un nuevo tipo de herramienta informática, no para reemplazar a los expertos humanos, sino para actuar como un asistente altamente organizado. Llaman a esta herramienta RAiA. El equipo no se limitó a construir un programa para resumir texto, porque un resumen podría pasar por alto los detalles minúsculos que importan en la medicina. En su lugar, utilizaron un método llamado investigación de ciencia del diseño (design science research), que se centra en construir una solución específica para un problema del mundo real y definir exactamente cómo debe funcionar antes de que sea probada con datos reales. Su objetivo era crear un sistema que pudiera encargarse del trabajo pesado de lectura y organización de los documentos, manteniendo al experto humano firmemente al mando de la decisión final. El resultado es un sistema prototipo que actúa como un puente entre la pila caótica de documentos y el informe claro y defendible que un regulador necesita escribir.

El núcleo de este diseño es un conjunto de reglas estrictas que gobiernan cómo se comporta la computadora. Los investigadores se dieron cuenta de que, para que una herramienta sea útil en un entorno de alto riesgo como la medicina, debe estar "vinculada a la gobernanza" (governance-bound). Esto significa que el sistema está construido con rieles de seguridad que impiden que tome sus propias decisiones o que oculte su trabajo. Por ejemplo, el sistema está diseñado de tal manera que no puede aprobar ni rechazar un medicamento por sí solo; solo puede resaltar problemas potenciales y sugerir conexiones entre diferentes partes del papeleo. Cada vez que la computadora señala un hecho, también debe mostrar exactamente de dónde proviene ese hecho, vinculando el hallazgo con una oración específica en el documento original. Esto asegura que, si un revisor humano cuestiona el trabajo de la computadora, pueda ver inmediatamente la fuente y verificarla. El sistema también mantiene un registro detallado de cada paso que realiza, creando un rastro de papel que demuestra que el trabajo se realizó de manera correcta y segura.

Para construir esto, el equipo dividió la enorme tarea de revisar un dossier de medicamentos en piezas más pequeñas y manejables. Diseñaron el sistema para tratar los diferentes tipos de información por separado. Una parte del sistema observa únicamente los detalles químicos y de fabricación, otra se enfoca en los resultados de los ensayos clínicos y una tercera verifica el etiquetado e instrucciones. Esto es similar a cómo un equipo de especialistas podría trabajar, donde una persona revisa el motor de un coche mientras otra revisa los frenos, en lugar de tener a una sola persona intentando hacer todo a la vez. El sistema recopila información de estas diferentes áreas y las une, buscando contradicciones o piezas faltantes. Si el informe de fabricación dice que el fármaco se fabricó en una fábrica, pero el informe del ensayo clínico implica que se fabricó en otra, el sistema señala esta discrepancia para que el humano la investigue. Crucialmente, el sistema está programado para ser conservador; es mejor señalar un problema potencial que resulta no ser nada, que pasar por alto un peligro real.

Los investigadores también prestaron mucha atención a cómo el experto humano interactúa con la máquina. La interfaz está diseñada para que el humano pueda aceptar, editar o rechazar fácilmente lo que la computadora sugiere. Si la computadora comete un error, el humano puede corregirlo, y el sistema registra por qué se realizó la corrección. Esta retroalimentación no se utiliza para cambiar instantáneamente el "cerebro" de la computadora, lo que podría conducir a un comportamiento impredecible, sino que se guarda para una revisión posterior y cuidadosa por parte del equipo. Esta separación garantiza que la herramienta siga siendo estable y fiable. El sistema también protege la información sensible, como secretos comerciales o datos privados, mediante el cifrado y asegurando que solo las personas autorizadas puedan verlos. La computadora no tiene permitido usar estos datos privados para enseñarse a sí misma, lo que evita el riesgo de que esa información se filtre más adelante.

El equipo construyó una versión funcional de este sistema, conocida como prototipo, para mostrar cómo fluiría el proceso de principio a fin. Lo probaron utilizando documentos ficticios que parecían aplicaciones de medicamentos reales, pero no utilizaron ningún dato confidencial real de empresas reales. La demostración mostró que el sistema podía tomar un archivo grande, clasificarlo en las secciones correctas, encontrar la evidencia relevante y redactar un informe que el experto humano pudiera entonces revisar y validar. El experto humano seguía siendo la autoridad final en cada paso, decidiendo qué significaba la evidencia y si el medicamento era seguro. El prototipo demostró que el diseño era posible y que el flujo de trabajo tenía sentido, pero los investigadores son cuidadosos al afirmar que esto no es todavía un producto terminado listo para su uso en el mundo real. Aún no han medido cuánto acelera el proceso o con qué precisión encuentra errores en documentos reales.

La principal contribución de este trabajo no es un nuevo tipo de algoritmo informático, sino un plano de cómo construir herramientas confiables para la regulación de medicamentos. Los investigadores han demostrado que es posible diseñar un sistema de inteligencia artificial que respete las reglas de gobernanza, proteja los datos privados y mantenga a los humanos en control. Han proporcionado un conjunto de diez principios rectores que otros desarrolladores pueden seguir si desean construir herramientas similares. Estos principios enfatizan que la herramienta siempre debe vincular sus hallazgos con la evidencia, nunca debe tomar una decisión por sí sola y debe estar diseñada de modo que su trabajo pueda ser auditado y verificado. Al centrarse en estas reglas desde el principio, el equipo ha creado un modelo que podría ayudar a los reguladores en África y en todo el mundo a gestionar la creciente complejidad de las aprobaciones de medicamentos sin comprometer la seguridad.

Este estudio representa un paso significativo hacia adelante en el pensamiento sobre cómo la tecnología puede apoyar a los expertos humanos en campos críticos. Se aleja de la idea de que la inteligencia artificial debe reemplazar el juicio humano y, en su lugar, se enfoca en cómo puede hacer que el juicio humano sea más informado y eficiente. Los investigadores han demostrado que, con el diseño adecuado, una computadora puede encargarse del trabajo tedioso de clasificar y verificar documentos, liberando a los expertos humanos para que se concentren en el razonamiento complejo y las decisiones finales que protegen la salud pública. Aunque la herramienta se encuentra todavía en la etapa de prototipo y necesita más pruebas, el diseño en sí ofrece un camino claro para la creación de sistemas seguros, fiables y responsables para el futuro de la regulación de medicamentos.