Governance-Bound Artificial Intelligence for Evidence-Linked Medicines Reliance Review: A Design Science Research Study

Chaque année, les agences nationales de santé sont confrontées à une montagne de paperasse. Lorsqu'une entreprise souhaite vendre un nouveau médicament, elle doit soumettre un dossier massif contenant des milliers de pages de données sur la manière dont le médicament a été fabriqué, son fonctionnement dans l'organisme et sa sécurité. Dans de nombreux pays, en particulier ceux disposant d'un personnel limité, l'examen de ces documents prend beaucoup de temps, retardant ainsi l'accès à des traitements vitaux. Pour accélérer le processus sans sacrifier la rigueur, les régulateurs ont adopté une stratégie appelée « reliance » (confiance). Au lieu de repartir de zéro, une agence locale peut s'appuyer sur le travail déjà effectué par une autorité de confiance dans un autre pays. Si cette autorité de confiance a déjà approuvé le médicament, l'équipe locale peut utiliser cette évaluation comme base de travail. Cependant, ce processus reste extrêmement difficile. L'équipe locale doit tout de même lire les documents originaux, vérifier que le produit est exactement le même, identifier les petites différences et rédiger un nouveau rapport expliquant sa décision. Cela nécessite de naviguer dans des structures complexes, de repérer des erreurs infimes cachées dans le texte et de s'assurer que chaque conclusion est étayée par des preuves spécifiques. Si une erreur est commise, ou si le raisonnement ne peut être retracé jusqu'à un document source, la décision entière pourrait être contestée, mettant ainsi la santé publique en péril.

Des chercheurs de l'Université du Western Cape en Afrique du Sud ont abordé ce problème en concevant un nouvel outil informatique, non pas pour remplacer les experts humains, mais pour agir comme un assistant hautement organisé. Ils appellent cet outil RAiA. L'équipe n'a pas simplement construit un programme capable de résumer du texte, car un résumé pourrait omettre les détails infimes qui comptent en médecine. Au lieu de cela, ils ont utilisé une méthode appelée recherche en design science (design science research), qui se concentre sur la construction d'une solution spécifique à un problème réel et sur la définition exacte de son fonctionnement avant même qu'elle ne soit testée sur des données réelles. Leur objectif était de créer un système capable d'assumer la lourde tâche de lecture et d'organisation des documents, tout en laissant l'expert humain pleinement maître de la décision finale. Le résultat est un système prototype qui sert de pont entre la pile chaotique de documents et le rapport clair et défendable que le régulateur doit rédiger.

Le cœur de cette conception est un ensemble de règles strictes qui régissent le comportement de l'ordinateur. Les chercheurs ont réalisé que pour qu'un outil soit utile dans un environnement à enjeux élevés comme celui de la médecine, il doit être « lié à la gouvernance » (governance-bound). Cela signifie que le système est construit avec des garde-fous qui l'empêchent de prendre ses propres décisions ou de dissimuler son travail. Par exemple, le système est conçu de telle sorte qu'il ne peut pas approuver ou rejeter un médicament de son propre chef ; il peut seulement mettre en évidence des problèmes potentiels et suggérer des liens entre différentes parties de la documentation. Chaque fois que l'ordinateur signale un fait, il doit également montrer d'où provient ce fait, en liant la découverte à une phrase spécifique du document original. Cela garantit que si un examinateur humain remet en question le travail de l'ordinateur, il peut immédiatement voir la source et la vérifier. Le système tient également un journal détaillé de chaque étape effectuée, créant ainsi une trace écrite qui prouve que le travail a été réalisé correctement et de manière sécurisée.

Pour construire cela, l'équipe a décomposé la tâche massive de l'examen d'un dossier de médicament en morceaux plus petits et gérables. Ils ont conçu le système pour traiter séparément différents types d'informations. Une partie du système examine uniquement les détails chimiques et de fabrication, une autre se concentre sur les résultats des essais cliniques, et une troisième vérifie l'étiquetage et les instructions. Cela s'apparente à la façon dont une équipe de spécialistes pourrait travailler, où une personne vérifie le moteur d'une voiture tandis qu'une autre vérifie les freins, plutôt qu'une seule personne essayant de tout faire à la fois. Le système rassemble les informations de ces différents domaines et les réunit, cherchant des contradictions ou des éléments manquants. Si le rapport de fabrication indique que le médicament a été produit dans une usine, mais que le rapport d'essai clinique implique qu'il a été produit dans une autre, le système signale cette divergence pour que l'humain puisse l'enquêter. Crucialement, le système est programmé pour être conservateur ; il vaut mieux signaler un problème potentiel qui s'avère être sans importance que de manquer un danger réel.

Les chercheurs ont également prêté une attention particulière à la manière dont l'expert humain interagit avec la machine. L'interface est conçue de sorte que l'humain puisse facilement accepter, modifier ou rejeter ce que l'ordinateur suggère. Si l'ordinateur commet une erreur, l'humain peut la corriger, et le système enregistre la raison pour laquelle la correction a été faite. Ce feedback n'est pas utilisé pour modifier instantanément le « cerveau » de l'ordinateur, ce qui pourrait entraîner un comportement imprévisible, mais est plutôt sauvegardé pour un examen ultérieur et minutieux par l'équipe. Cette séparation garantit que l'outil reste stable et fiable. Le système protège également les informations sensibles, telles que les secrets commerciaux ou les données privées, en les cryptant et en s'assurant que seules les personnes autorisées puissent y accéder. L'ordinateur n'est pas autorisé à utiliser ces données privées pour s'auto-instruire, ce qui empêche le risque que ces informations ne fuitent plus tard.

L'équipe a construit une version fonctionnelle de ce système, appelée prototype, pour montrer comment le processus se déroulerait du début à la fin. Ils l'ont testé en utilisant des documents fictifs ressemblant à de réelles demandes de médicaments, mais ils n'ont utilisé aucune donnée confidentielle réelle provenant de véritables entreprises. La démonstration a montré que le système pouvait prendre un fichier volumineux, le trier dans les sections appropriées, trouver les preuves pertinentes et rédiger un rapport que l'expert humain pouvait ensuite examiner et valider. L'expert humain demeurait l'autorité finale à chaque étape, décidant de la signification des preuves et de la sécurité du médicament. Le prototype a prouvé que la conception était possible et que le flux de travail était cohérent, mais les chercheurs précisent avec prudence qu'il ne s'agit pas encore d'un produit fini prêt pour une utilisation réelle. Ils n'ont pas encore mesuré à quel point il accélère le processus ou avec quelle précision il trouve des erreurs dans des documents réels.

La principale contribution de ce travail n'est pas un nouveau type d'algorithme informatique, mais un modèle (blueprint) de la manière de construire des outils dignes de confiance pour la réglementation médicale. Les chercheurs ont montré qu'il est possible de concevoir un système d'intelligence artificielle qui respecte les règles de gouvernance, protège les données privées et maintient le contrôle entre les mains des humains. Ils ont fourni un ensemble de dix principes directeurs que d'autres développeurs peuvent suivre s'ils souhaitent construire des outils similaires. Ces principes soulignent que l'outil doit toujours lier ses conclusions à des preuves, ne doit jamais prendre de décision de son propre chef et doit être conçu de manière à ce que son travail puisse être audité et vérifié. En se concentrant sur ces règles dès le départ, l'équipe a créé un modèle qui pourrait aider les régulateurs en Afrique et dans le monde à gérer la complexité croissante des approbations de médicaments sans compromettre la sécurité.

Cette étude représente une étape importante dans la réflexion sur la manière dont la technologie peut soutenir les experts humains dans des domaines critiques. Elle s'éloigne de l'idée selon laquelle l'intelligence artificielle devrait remplacer le jugement humain pour se concentrer plutôt sur la manière dont elle peut rendre le jugement humain plus informé et plus efficace. Les chercheurs ont démontré qu'avec une conception adéquate, un ordinateur peut gérer le travail fastidieux de tri et de vérification des documents, libérant ainsi les experts humains pour qu'ils puissent se concentrer sur le raisonnement complexe et les décisions finales qui protègent la santé publique. Bien que l'outil soit encore au stade de prototype et nécessite des tests supplémentaires, la conception elle-même offre une voie claire pour la création de systèmes sûrs, fiables et responsables pour l'avenir de la réglementation médicale.