Governance, Accountability and Post-Deployment Monitoring Preferences for AI Integration in West African Clinical Practice: A Mixed-Methods Study

Cette étude à méthodes mixtes menée auprès de cliniciens et d'experts techniques en Afrique de l'Ouest révèle une forte préférence pour des cadres de gouvernance de l'IA indépendants, transparents et dotés de mécanismes de surveillance post-déploiement robustes afin de garantir une intégration clinique sûre et équitable.

L'essentiel

🌍 L'Intelligence Artificielle en Afrique de l'Ouest : Qui doit tenir les rênes ?

Imaginez que l'Afrique de l'Ouest est en train d'accueillir un nouveau super-héros dans ses hôpitaux : l'Intelligence Artificielle (IA). Ce robot virtuel peut aider les médecins à diagnostiquer des maladies plus vite, comme un assistant ultra-rapide. Mais, comme tout super-héros puissant, il peut aussi faire des erreurs ou devenir fou s'il n'est pas bien encadré.

Cette étude pose une question cruciale : Comment devons-nous surveiller ce super-héros pour qu'il ne blesse personne ? Les chercheurs ont demandé l'avis de 136 médecins et de 72 experts techniques en Afrique de l'Ouest. Voici ce qu'ils ont découvert, expliqué avec des images simples.

1. Le Problème : On ne fait pas confiance à l'usine qui a fabriqué le robot 🏭

Dans le monde, certains pensent que les entreprises qui créent l'IA (les "vendeurs") devraient se surveiller elles-mêmes. C'est comme demander à un fabricant de voitures de vérifier s'il n'y a pas de freins défectueux sur ses propres véhicules.

• Ce que disent les médecins : "Non merci !"
• L'analogie : Les médecins ne veulent pas que le vendeur soit le juge, le jury et l'exécuteur. Ils ont très peur que le vendeur dise : "C'est mon produit, il est parfait", même si ça ne marche pas.
• Le verdict : Seulement 3,7 % des médecins font confiance aux vendeurs pour surveiller l'IA. C'est le niveau de confiance le plus bas !

2. La Solution préférée : Un arbitre indépendant ⚖️

Si on ne fait pas confiance au vendeur, qui faut-il faire confiance ?

• Ce que disent les médecins : Ils veulent un arbitre indépendant.
• L'analogie : Imaginez un match de football. Vous ne voulez pas que l'entraîneur de l'équipe A soit l'arbitre. Vous voulez un arbitre neutre qui ne travaille pour personne, qui a ses propres règles et qui peut siffler une faute même si c'est l'équipe la plus riche qui l'a commise.
• Le résultat : 40,4 % des médecins préfèrent un "organisme indépendant" pour surveiller l'IA. C'est l'option la plus populaire. Ils veulent quelqu'un qui protège les patients et les médecins, pas les profits des entreprises.

3. La Surveillance : Pas de rapports annuels, on veut du "Direct" 📺

Comment les médecins veulent-ils savoir si le robot fonctionne bien ?

• Ce qu'ils rejettent : Les rapports annuels ou mensuels. C'est comme regarder un bulletin météo d'il y a six mois pour décider de prendre un parapluie aujourd'hui. Trop tard !
• Ce qu'ils veulent : Des tableaux de bord en temps réel.
• L'analogie : Ils veulent un écran de contrôle dans la salle de commande, comme dans un avion ou une centrale nucléaire. Dès que l'IA commence à faire une erreur ou à devenir "bizarre", l'alarme doit sonner tout de suite, pas dans un an.
• Le résultat : 41,9 % des médecins choisissent le "temps réel".

4. La Peur principale : Le médecin pris pour le bouc émissaire 🐐

C'est le point le plus important et le plus émotionnel de l'étude.

• La peur : Si l'IA se trompe et qu'un patient est blessé, qui est responsable ?
• L'analogie : Imaginez que vous conduisez une voiture avec un pilote automatique. Si le pilote automatique vous fait sortir de la route, est-ce que vous allez en prison ? Les médecins ont peur que, même si c'est l'ordinateur qui a fait l'erreur, on accuse le médecin d'avoir été trop bête pour ne pas l'avoir remarqué.
• Le chiffre choc : 76,5 % des médecins sont très inquiets d'être injustement blâmés pour des erreurs de l'IA.
• La demande : Ils veulent des règles claires écrites noir sur blanc : "Si l'IA a planté, c'est la faute du code ou du vendeur, pas du médecin."

5. Ce que les experts techniques disent : "Arrêtez-le !" 🛑

Les experts en informatique et les développeurs sont d'accord avec les médecins. Ils disent que l'IA n'est pas un produit fini qu'on achète et qu'on oublie. C'est comme un jardin : il faut l'arroser, le désherber et vérifier qu'il ne pousse pas de mauvaises herbes.

• Leur conseil : Si l'IA commence à mal fonctionner (parce que les données ont changé, par exemple), il faut pouvoir l'arrêter immédiatement, trouver la cause de l'erreur, et la réparer avant de la remettre en service.

🏁 En résumé : La recette pour un futur sûr

Pour que l'Intelligence Artificielle soit une amie et non une ennemie dans les hôpitaux d'Afrique de l'Ouest, les médecins et les experts disent qu'il faut trois choses essentielles :

1. Un gardien neutre : Un organisme indépendant (pas le vendeur, pas le gouvernement seul) qui surveille tout.
2. Des yeux ouverts 24h/24 : Des écrans de surveillance en direct pour voir les problèmes tout de suite.
3. Des règles de justice claires : Des lois qui protègent les médecins s'ils utilisent l'IA correctement, même si l'IA fait une erreur.

La conclusion finale : Les médecins d'Afrique de l'Ouest sont prêts à utiliser cette technologie révolutionnaire, mais seulement si on leur donne les clés de la sécurité. Sans ces règles, ils ont peur, et sans leur confiance, l'IA ne pourra jamais aider les patients.

Résumé technique

1. Problématique et Contexte

L'intégration de l'intelligence artificielle (IA) dans la santé en Afrique de l'Ouest passe de projets pilotes à un déploiement réel (ex: dépistage du cancer du col de l'utérus au Sénégal, prédiction du cancer au Nigeria). Cependant, l'absence de cadres de gouvernance adaptés au contexte local soulève des inquiétudes majeures :

• Risques de sécurité et d'équité : Les modèles entraînés sur des données occidentales peuvent souffrir de biais, de dérive des données (data drift) ou de dérive conceptuelle (concept drift) dans des environnements aux ressources limitées et culturellement diversifiés.
• Déficit de confiance : Les cliniciens craignent d'être injustement blâmés en cas d'erreur de l'IA, de subir un contrôle excessif de la part des fournisseurs commerciaux, et de manquer de voies claires pour signaler les incidents.
• Lacune de recherche : Aucune étude n'avait auparavant examiné systématiquement les préférences des cliniciens et experts techniques d'Afrique de l'Ouest concernant la gouvernance, la responsabilité et la surveillance post-déploiement de l'IA.

2. Méthodologie

Il s'agit d'une étude transversale à méthodes mixtes menée du 22 au 28 février 2026.

• Phase Quantitative :
  • Population : 136 médecins affiliés au Collège des Médecins d'Afrique de l'Ouest (WACP), majoritairement nigérians (84,6 %).
  • Instrument : Un questionnaire structuré auto-administré via la plateforme ODK (Open Data Kit), utilisant une échelle de Likert de 5 points.
  • Analyse : Statistiques descriptives, tests inférentiels (t-tests, ANOVA) et régression linéaire multivariée via SPSS v29.
• Phase Qualitative :
  • Population : 72 entretiens avec des informateurs clés (chefs techniques, développeurs d'IA, scientifiques de données, décideurs politiques, leaders hospitaliers).
  • Instrument : Guides d'entretien semi-structurés menés en ligne.
  • Analyse : Analyse thématique selon l'approche de Braun & Clarke, assistée par le logiciel NVivo v14.

3. Contributions Clés

Cette étude fournit les premières données empiriques de la région sur les préférences des professionnels de santé concernant la gouvernance de l'IA. Elle comble un vide critique en passant de la théorie à la pratique, en identifiant spécifiquement ce que les acteurs locaux jugent nécessaire pour une intégration sûre et équitable, au-delà des directives internationales générales (comme celles de l'OMS).

4. Résultats Principaux

A. Préférences de Gouvernance et de Surveillance

• Organisme de surveillance : Les cliniciens privilégient massivement un organisme de régulation indépendant (40,4 %) par rapport aux ministères gouvernementaux (20,6 %), aux administrations hospitalières (32,4 %) ou aux fournisseurs (3,7 %).
• Niveau de confiance : Les organismes indépendants obtiennent le score de confiance le plus élevé (moyenne de 4,3/5), tandis que les fournisseurs d'IA obtiennent le score le plus bas (2,4/5).
• Format de surveillance : La méthode préférée est le tableau de bord en temps réel (41,9 %), rejetant les rapports annuels (1,5 %).

B. Composants Essentiels

Les éléments jugés « essentiels » ou « très importants » par les majorités écrasantes incluent :

• Des voies claires de responsabilité (94,1 %).
• La transparence des algorithmes (91,9 %).
• Des données de performance en temps réel (89,7 %).
• Des audits indépendants réguliers (86,0 %).

C. Préoccupations Majeures

Les cliniciens expriment de fortes inquiétudes concernant :

• Le risque d'être injustement blâmé pour des erreurs de l'IA (76,5 %).
• Un contrôle excessif des fournisseurs (72,8 %).
• L'absence de voies claires pour signaler les préjudices liés à l'IA (69,9 %).

D. Recommandations Qualitatives (Entretiens)

Les experts techniques et politiques ont souligné la nécessité d'un cadre de surveillance continu répondant à quatre questions : Est-ce encore précis ? Équitable ? Sûr ? Améliore-t-il les soins ?
Les recommandations incluent :

• La surveillance stratifiée pour détecter les biais émergents (par âge, genre, zone géographique).
• Des mécanismes de détection automatique de la dérive des données.
• Des protocoles stricts en cas d'échec : suspension immédiate de l'outil, analyse des causes racines, recalibrage ou retrait du modèle.
• La création de comités de gouvernance de l'IA au sein des hôpitaux.

5. Signification et Implications

Les résultats offrent une feuille de route concrète pour les décideurs politiques et les régulateurs en Afrique de l'Ouest :

1. Création d'organismes indépendants : La confiance repose sur l'objectivité. Des autorités de régulation multipartites, indépendantes des intérêts commerciaux et politiques, sont indispensables.
2. Transparence en temps réel : L'infrastructure de surveillance doit permettre un accès immédiat aux données de performance pour les cliniciens, plutôt que des rapports périodiques.
3. Cadres juridiques de responsabilité : Il est urgent d'établir des lois claires attribuant la responsabilité (développeurs, déployeurs, utilisateurs) pour protéger les cliniciens d'une responsabilité disproportionnée en cas de défaillance algorithmique.
4. Protocoles d'incident : Mise en place de systèmes standardisés pour signaler les erreurs et les quasi-accidents, transformant les échecs en opportunités d'apprentissage.

Conclusion : L'étude démontre que les cliniciens d'Afrique de l'Ouest sont prêts à adopter l'IA, mais uniquement si des cadres de gouvernance robustes, transparents et équitables sont mis en place prioritairement. Sans ces garde-fous, le déploiement de l'IA risque d'aggraver les inégalités et de saper la confiance des professionnels de santé.