From Ethical Principles to Lifecycle Oversight: A Library-Based Analysis of AI-Enabled Health Research in Canada

Dans le monde moderne de la recherche en santé, les scientifiques s'appuient souvent sur des programmes informatiques qui apprennent à partir de vastes quantités d'informations pour trouver des modèles, prédire des maladies ou suggérer des traitements. Ces programmes, connus sous le nom d'intelligence artificielle, sont des outils puissants, mais ils fonctionnent différemment des expériences traditionnelles utilisées par les chercheurs depuis des décennies. Dans une étude standard, un scientifique peut demander la permission à un groupe de personnes d'utiliser leurs dossiers médicaux pour une question spécifique, effectuer l'analyse et publier les résultats. Une fois l'étude terminée, le travail est généralement considéré comme achevé. Cependant, l'intelligence artificielle modifie ce calendrier. Ces systèmes peuvent être entraînés sur des données, puis mis à jour, améliorés et redéployés pour des tâches entièrement nouvelles longtemps après que la recherche initiale a été approuvée. Ils peuvent également créer de nouvelles informations à partir d'anciens dossiers, ou être utilisés par des entreprises extérieures à l'équipe de recherche, ce qui soulève des questions sur la responsabilité en cas de problème. Le Canada possède un ensemble de règles respectées, appelé l'Énoncé de politique des trois Conseils, qui guide la manière dont les chercheurs traitent les participants humains. Ces règles reposent sur trois idées solides : le respect des personnes, la sollicitude envers leur bien-être et la garantie de l'équité. Bien que ces principes soient forts, ils ont été rédigés avant que l'intelligence artificielle ne devienne une partie courante de la recherche en santé. La grande question à laquelle la communauté de la recherche canadienne est confrontée est de savoir si ces anciennes règles sont suffisantes pour gérer la nature changeante et évolutive de ces systèmes informatiques intelligents.

Un chercheur nommé Abdolreza Babamahmoodi s'est donné pour mission de répondre à cette question en examinant de près comment les règles actuelles du Canada s'appliquent à l'intelligence artificielle en santé. Il ne s'agissait pas d'une étude testant de nouveaux médicaments ou sondant des patients ; il s'agissait plutôt d'un examen minutieux des politiques, lois et directives existantes du Canada et du monde entier. Le chercheur a rassemblé vingt-huit documents différents, incluant la principale politique d'éthique de la recherche du Canada, des orientations internationales de l'Organisation mondiale de la santé, ainsi que des règles de l'Australie et de l'Union européenne. L'objectif était de voir si les règles canadiennes actuelles fournissent des instructions claires aux chercheurs et aux comités d'éthique sur la marche à suivre lorsque l'intelligence artificielle est impliquée. L'analyse s'est concentrée sur six domaines clés : décider de ce qui constitue une recherche, l'origine des données, l'équité du modèle informatique, le contrôle humain, la gestion des changements ultérieurs au système et le respect des droits des communautés autochtones.

L'étude a révélé que, bien que les règles existantes du Canada soient douées pour établir le ton moral, elles ne sont pas assez détaillées pour guider les décisions quotidiennes des chercheurs et des comités d'éthique. La politique actuelle stipule que les chercheurs doivent respecter les personnes et assurer l'équité, mais elle ne précise pas quelles preuves un chercheur doit fournir pour prouver qu'un modèle informatique est équitable. Elle ne précise pas ce qui se passe lorsqu'un modèle est mis à jour six mois après son approbation, ni qui est responsable si une entreprise tierce utilise les données d'une manière que le chercheur n'avait pas prévue. Le chercheur a noté qu'en l'absence de ces instructions spécifiques, les comités d'éthique sont laissés à eux-mêmes pour deviner. Certains pourraient demander trop d'informations, ralentissant ainsi des travaux importants, tandis que d'autres pourraient omettre des risques critiques parce qu'ils ne savent pas quoi chercher. L'article soutient que les principes sont suffisants pour juger du bien et du mal, mais qu'ils ne sont pas opérationnellement adéquats pour dire aux gens exactement quoi faire.

Pour résoudre cela, le chercheur a proposé une nouvelle façon d'aborder le processus, appelée « examen par cycle de vie ». Au lieu de traiter la recherche comme un événement unique qui se termine lorsque l'étude est publiée, cette approche considère la recherche comme un voyage continu comportant six points de contrôle distincts. Le premier point de contrôle est l'objectif : définir précisément ce que l'intelligence artificielle fera et qui elle aidera. Le deuxième est les données : cartographier la provenance de l'information et qui a le droit de l'utiliser. Le troisième est le développement : vérifier comment le modèle informatique a été construit et testé. Le quatrième est la validation : s'assurer que le modèle fonctionne bien pour différents groupes de personnes et pas seulement pour la moyenne. Le cinquième est le déploiement : s'assurer qu'un humain peut comprendre les suggestions de l'ordinateur et l'arrêter s'il commet une erreur. Le dernier point de contrôle est le changement et le retrait : planifier ce qui se passe lorsque le modèle est mis à jour, déplacé vers un nouvel endroit ou arrêté.

Ce nouveau cadre suggère que les chercheurs doivent soumettre un ensemble spécifique d'informations à chacune de ces six étapes. Par exemple, lorsqu'un modèle est proposé pour la première fois, le chercheur doit expliquer son utilisation prévue. Plus tard, si le modèle est mis à jour ou si les sources de données changent, le chercheur doit en informer le comité d'éthique pour voir si le changement est assez significatif pour nécessiter un nouvel examen. L'article souligne qu'il ne s'agit pas de créer une montagne de paperasse, mais de s'assurer que les bonnes personnes prennent les bonnes décisions au bon moment. Il suggère qu'une étude à faible risque pourrait n'avoir besoin que de quelques détails, tandis qu'une étude à haut risque affectant les soins aux patients nécessiterait un plan beaucoup plus approfondi.

Une partie cruciale de l'article traite des droits des peuples autochtones au Canada. Les règles actuelles reconnaissent déjà que les communautés autochtones possèdent des droits collectifs sur leurs données, et non seulement des droits individuels. Le chercheur a constaté que, bien que la politique existante reconnaisse cela, elle n'explique pas comment ces droits s'appliquent à l'intelligence artificielle. Par exemple, si un modèle informatique est entraîné sur des données provenant d'une communauté autochtone, la communauté a-t-elle son mot à dire si ce modèle est plus tard vendu à une entreprise ou utilisé à d'autres fins ? L'article soutient que ces questions ne peuvent être répondues par une politique générale écrite par des personnes extérieures. Au lieu de cela, le chercheur affirme explicitement que ces questions de gouvernance spécifiques doivent être menées par les communautés autochtones elles-mêmes. Le cadre proposé laisse un espace pour que ces communautés définissent leurs propres règles sur la manière dont leurs données et les modèles informatiques qui en résultent sont traités, garantissant ainsi que leur autorité est respectée sans être supplantée par une solution universelle.

Le chercheur a également examiné comment d'autres pays gèrent ces questions. L'Organisation mondiale de la santé et l'Australie ont commencé à créer des guides spécifiques pour l'intelligence artificielle, et l'Union européenne possède des lois qui exigent une surveillance stricte des systèmes à haut risque. L'article suggère que le Canada n'a pas besoin de copier ces lois exactement, mais peut apprendre de leur structure. En adoptant un guide « vivant » similaire qui peut être mis à jour à mesure que la technologie évolue, le Canada peut maintenir la stabilité de ses principes éthiques fondamentaux tout en ajoutant les détails nécessaires pour gérer les nouveaux défis. L'étude conclut que le système actuel n'est pas brisé, mais qu'il est incomplet. Il a besoin d'un pont entre ses principes moraux solides et les réalités pratiques du fonctionnement de l'intelligence artificielle.

La solution proposée est un modèle de travail qui peut être testé et amélioré. Le chercheur ne prétend pas que ce cadre est parfait ou qu'il résout tous les problèmes immédiatement. Au contraire, il est présenté comme un outil de discussion et de validation future. L'article suggère qu'avant que ce modèle ne devienne une règle standard, il devrait être testé auprès de vrais chercheurs et comités d'éthique pour voir s'il les aide réellement à prendre de meilleures décisions sans créer de retards inutiles. L'objectif ultime est de créer un système où l'intelligence artificielle peut être utilisée pour améliorer la santé, tout en veillant à ce que les personnes impliquées soient protégées, que les données soient utilisées de manière responsable et que les communautés affectées aient une voix réelle dans la gouvernance de la technologie. En décomposant le processus en étapes claires et gérables, le cadre vise à rendre le monde complexe de la recherche en intelligence artificielle plus transparent et responsable pour toutes les parties concernées.