Reporting of AI and ML Studies in Elderly Care Settings: A Rapid Systematic Scoping Review

Imaginez un monde où la technologie veille discrètement sur les personnes âgées, non pas pour remplacer le soin humain, mais pour le soutenir. Dans les maisons de retraite, les résidences autonomes et les domiciles privés, on demande de plus en plus aux ordinateurs de réaliser des tâches telles que détecter une chute avant l'arrivée d'un soignant, prédire quand un résident pourrait avoir besoin de plus d'aide, ou surveiller les routines quotidiennes pour repérer des signes de problèmes. Ces systèmes reposent sur l'intelligence artificielle et l'apprentissage automatique, deux termes qui semblent souvent relever de la science-fiction mais qui, en pratique, sont simplement des moyens pour les ordinateurs d'apprendre à partir de données pour faire des prédictions ou repérer des modèles. L'espoir est que ces outils puissent rendre les soins plus sûrs et plus efficaces. Cependant, pour que ces outils soient dignes de confiance et utilisés efficacement, les personnes qui les conçoivent doivent expliquer exactement comment ils fonctionnent, de quelles données ils ont appris et où ils pourraient échouer. Sans explications claires, un système qui semble parfait sur le papier pourrait s'avérer inutile, voire dangereux, dans le monde réel.

Une équipe de chercheurs de l'Université des sciences appliquées de Kempten a récemment décidé d'examiner de près la manière dont les scientifiques rapportent actuellement ces projets d'intelligence artificielle pour les personnes âgées. Ils n'ont pas construit un nouveau système ni testé un dispositif spécifique. Au lieu de cela, ils ont agi comme des auditeurs de la littérature, en rassemblant et en examinant 69 études récentes publiées depuis 2020. Leur objectif était de voir si les auteurs de ces études fournissaient suffisamment d'informations pour que d'autres puissent comprendre les systèmes qu'ils ont créés. Ils voulaient savoir si les rapports incluaient des détails sur l'utilisateur de la technologie, le type de données ayant entraîné l'ordinateur, et si le système avait été testé en dehors d'un environnement de laboratoire contrôlé.

Ils ont découvert un paysage de signalement inégal. Bien que les chercheurs aient été généralement bons pour décrire l'objectif de base de leurs systèmes et l'origine de leurs données, ils omettaient souvent les détails cruciaux qui déterminent si un système peut réellement fonctionner dans une maison de retraite animée ou dans un salon calme. Par exemple, presque chaque étude décrivait ce que l'ordinateur était censé faire, mais moins de la moitié expliquait clairement qui serait le décideur humain. Dans de nombreux cas, il n'était pas clair si le système était destiné à alerter une infirmière, un membre de la famille ou le résident lui-même, ou comment cette personne était censée réagir à l'alerte. Ce manque de clarté rend difficile de savoir comment la technologie s'intègre dans le flux complexe et centré sur l'humain du soin quotidien.

L'écart s'est creusé lorsque les chercheurs ont examiné comment ces systèmes étaient testés. La plupart des études reposaient sur une validation interne, ce qui signifie que l'ordinateur était testé sur les mêmes données qu'il avait déjà vues ou sur des données très similaires à celles dont il avait appris. C'est comme un élève passant un examen blanc en utilisant exactement les mêmes questions qu'il a étudiées. Bien que cela montre que l'ordinateur peut reconnaître des modèles, cela ne prouve pas qu'il puisse gérer la réalité désordonnée et imprévisible d'un nouvel environnement. Seule une petite fraction des études, soit 16 %, a fait état de tests de leurs systèmes sur des données nouvelles et indépendantes. Moins encore, environ 20 %, ont décrit le test du système dans un cadre de soin réel, où il interagissait avec de vrais patients et du personnel. Sans ces tests en conditions réelles, il reste incertain si les systèmes seront aussi performants face au bruit, aux mouvements et à la diversité d'un véritable domicile ou d'un établissement.

L'omission la plus préoccupante était sans doute le manque de discussion concernant l'incertitude et les biais. Lorsqu'un ordinateur fait une prédiction, il est rarement sûr à 100 % et il peut parfois se tromper de manières qui affectent certains groupes de personnes plus que d'autres. Les chercheurs ont constaté que seulement 9 % des études expliquaient comment le système gérait l'incertitude ou quel était son degré de confiance dans ses réponses. De même, seulement 23 % des études vérifiaient si le système fonctionnait différemment pour différents sous-groupes, tels que les hommes par rapport aux femmes ou les personnes ayant différents types de mobilité. Sans cette information, il est impossible de savoir si un système est équitable ou fiable pour toutes les personnes susceptibles de l'utiliser. Les études abordaient également rarement ce qui se passe lorsque des données sont manquantes, une occurrence courante dans la vie réelle, laissant un angle mort important sur le comportement de ces systèmes en cas de défaillance des capteurs ou de dossiers incomplets.

Les auteurs de la revue suggèrent que la manière dont ces études sont rédigées se concentre trop sur la construction technique du modèle informatique et pas assez sur la façon dont le système s'intègre dans l'environnement humain global. Les directives existantes pour rapporter la recherche médicale, conçues pour des outils de diagnostic comme les radiographies ou les analyses de sang, ne semblent pas couvrir pleinement les défis uniques des soins aux personnes âgées, où le « patient » est souvent une communauté entière de personnes aux besoins variés, et le « diagnostic » est souvent un flux continu de données comportementales. La revue indique que si la technologie progresse rapidement, la manière dont les chercheurs communiquent sa maturité et ses limites n'a pas suivi le même rythme. Tant que les rapports n'incluront pas de détails clairs sur l'utilisateur du système, sur la manière dont il a été testé dans le monde réel et sur ses points de défaillance, il sera difficile pour les soignants et les institutions de savoir si ces outils sont réellement prêts à être confiés à la sécurité et au bien-être des personnes âgées.