🤖 machine learning

dashi: A Python library for Dataset Shift Characterization to Support Trustworthy AI Development and Deployment

L'article présente **dashi**, une bibliothèque Python open-source qui répond au besoin critique d'une analyse accessible du changement de distribution (dataset shift) dans l'IA de confiance en fournissant des méthodes supervisées et non supervisées pour caractériser les changements de distribution à travers des domaines temporels et multi-sources, améliorant ainsi la robustesse et la sécurité des pipelines d'apprentissage automatique dans les applications de santé.

Auteurs originaux : David Fernández-Narro, Pablo Ferri, Ángel Sánchez-García, Juan M. García-Gómez, Carlos Sáez

Publié 2026-06-01

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : David Fernández-Narro, Pablo Ferri, Ángel Sánchez-García, Juan M. García-Gómez, Carlos Sáez

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un chef ayant perfectionné une recette de soupe célèbre dans sa cuisine à Valence. Vous savez exactement quel goût ont les ingrédients, combien de temps ils doivent mijoter et à quoi le plat final doit ressembler. Vous êtes si confiant que vous décidez d'ouvrir une chaîne de restaurants, envoyant votre recette dans des cuisines au Mexique, dans d'autres parties de l'Espagne, et même à travers différentes saisons de l'année.

Le Problème : Le Désastre « Silencieux »
L'article soutient que dans le monde de l'Intelligence Artificielle (IA), particulièrement dans la santé, nous commettons souvent la même erreur. Nous entraînons un modèle informatique (notre « chef ») sur de vieilles données (notre « vieille cuisine ») et supposons qu'il fonctionnera parfaitement pour toujours. Mais le monde réel est désordonné.

Les Ingrédients Changent : Peut-être qu'un hôpital commence à utiliser un nouveau type de thermomètre, ou que la population vieillit, ou qu'une pandémie change la façon dont les gens décrivent leurs symptômes.
La Recette se Brise : L'ordinateur ne sait pas que ces choses ont changé. Il continue de cuisiner la soupe de la même manière, mais maintenant, le résultat a un goût terrible.
L'Échec Silencieux : Le pire est que l'ordinateur ne crie pas « À l'aide ! » ou « Je me trompe ! ». Il sert simplement silencieusement un mauvais repas. Dans la santé, cela signifie qu'un médecin pourrait compter sur une IA défaillante pour prendre des décisions de vie ou de mort sans savoir que l'IA a perdu son chemin.

Ce phénomène est appelé Dataset Shift (décalage de latnées). C'est lorsque les données sur lesquelles l'IA a appris sont différentes des données qu'elle voit dans la vie réelle.

La Solution : La bibliothèque « dashi »
Les auteurs ont créé un outil gratuit appelé dashi (qui signifie Dataset Shift Characterization). Considérez dashi comme un « goûteur » et un « cartographe » de haute technologie pour les données d'IA. Il aide les chefs (scientifiques de données) à voir exactement comment et pourquoi leurs ingrédients ont changé avant de servir la soupe.

dashi fonctionne de deux manières principales :

Le « Cartographe » (Approche non supervisée) :
- Imaginez que vous avez une carte de tous vos ingrédients. dashi dessine une carte qui montre comment la « forme » de vos données change au fil du temps ou à travers différents hôpitaux.
- Il utilise une technique spéciale appelée Information Geometric Temporal (IGT) plots. Considérez cela comme un traceur GPS pour vos données. Si vos données sont un groupe de randonneurs, dashi dessine une ligne montrant où ils ont marché. Si le groupe se sépare soudainement en deux directions différentes, dashi dessine un virage brusque sur la carte et dit : « Hé, quelque chose a changé ici ! »
- Il possède également un outil de Multi-Source Variability (MSV). Si vous gérez des restaurants dans 20 villes différentes, cet outil vous indique quelles villes utilisent des ingrédients totalement différents des autres. Il peut signaler : « La cuisine de la Ville X utilise des épices complètement différentes du reste de la chaîne. »
Le « Goûteur » (Approche supervisée) :
- Cette partie teste réellement l'IA. Elle prend le modèle entraîné sur les « vieilles données » et lui injecte de « nouvelles données » pour voir comment il performe.
- Elle crée un bulletin de notes (une carte thermique/heatmap) montant exactement là où le modèle commence à échouer. Par exemple, elle pourrait montrer : « Votre modèle est excellent pour diagnostiquer des patients de 2021, mais si vous lui donnez des données de 2024, sa précision chute de 20 %. »

Exemples concrets de l'article
Les auteurs ont testé dashi sur trois scénarios réels pour prouver son efficacité :

Le cas du diabète « confus » : Ils ont simulé un hôpital où, pendant deux ans, le personnel a fait des erreurs dans la manière de noter les dossiers des patients (comme noter de mauvais taux de glycémie). L'IA a été confuse. Le « Cartographe » de dashi a vu un sursaut étrange dans la carte des données et a repéré l'erreur immédiatement, montrant que les groupes de patients « positifs » et « négatifs » s'entremêlaient. Une fois que l'hôpital a corrigé son étiquetage, la carte est redevenue normale.
Le cas du COVID-19 « différent » : Ils ont examiné des données COVID provenant de différents types d'hôpitaux au Mexique. Le « Cartographe » de dashi a montré que certains hôpitaux étaient si différents des autres (comme l'utilisation de protocoles de test différents) qu'une IA entraînée sur l'un échouerait lamentablement sur l'autre. Cela a permis d'identifier quels hôpitaux étaient des « valeurs aberrantes » (outliers).
Le cas de l'« appel d'urgence » : Ils ont analysé des millions d'appels d'urgence. Le texte utilisé par les gens pour décrire les urgences a changé soudainement lorsqu'un nouveau système informatique a été installé en 2014. dashi a détecté ce changement soudain instantanément. Il a également remarqué que pendant le confinement de 2020, les types d'appels ont changé (moins d'accidents de voiture, plus de problèmes respiratoires) et la performance de l'IA a évolué en conséquence.

Pourquoi cela importe
L'article conclut que nous ne pouvons pas simplement construire une IA et l'oublier. Nous devons continuer à la surveiller. dashi est l'outil qui permet de le faire. Il transforme des mathématiques complexes en cartes et bulletins de notes faciles à lire.

Au lieu d'attendre qu'un modèle échoue silencieusement et nuise à un patient, dashi agit comme un détecteur de fumée. Il vous dit : « Hé, les données ont changé ! L'IA n'est plus fiable ! » Cela permet aux médecins et aux hôpitaux de corriger le modèle, de le réentraîner ou de cesser de l'utiliser avant de causer des dommages. Il s'agit de passer de « espérer que l'IA fonctionne » à « nous savons que l'IA fonctionne ».

Résumé Technique : dashi – Une bibliothèque Python pour la caractérisation du décalage de données (Dataset Shift)

Problématique

Le déploiement de l'Intelligence Artificielle (IA) dans le secteur de la santé est confronté à un défi critique : l'hypothèse selon laquelle les distributions de données sont statiques entre le développement du modèle et son utilisation en conditions réelles est fréquemment invalide. Dans les environnements cliniques dynamiques, les décalages de données (dataset shifts) — des changements dans la distribution de probabilité jointe $P(X, Y)$ entre l'entraînement et le déploiement — surviennent en raison de l'évolution temporelle (ex: évolution des directives cliniques, changements épidémiologiques) ou de l'hétérogénéité multi-sources (ex: différences entre les hôpitaux).

Ces décalages se manifestent sous forme de :

Décalage de covariables (Covariate Shift) : Changements dans la distribution des caractéristiques d'entrée $P(X)$ .
Décalage de priorité (Prior/Label Shift) : Changements dans la prévalence des résultats $P(Y)$ .
Décalage de concept (Concept Shift) : Changements dans la relation conditionnelle $P(Y|X)$ .

Les approches actuelles de la qualité des données reposent souvent sur des contrôles univariés statiques (complétude, conformité) ou des mesures de performance rétrospectives. Ces méthodes ne parviennent pas à détecter les « inconnus inconnus » multivariés complexes et les défaillances silencieuses où les modèles se dégradent sans déclencher d'alertes standard. De plus, bien que des fondements théoriques pour la détection de décalage existent, il manque des outils logiciels accessibles et agnostiques au modèle pour opérationnaliser ces concepts dans le MLOps quotidien de l'IA en santé.

Méthodologie

L'article présente dashi, une bibliothèque Python open-source conçue pour combler le fossé entre la détection théorique de dérive et la surveillance pratique de l'IA en santé. Elle emploie une architecture à double approche :

1. Module non supervisé (centré sur les données)

Ce module est agnostique au modèle, analysant les propriétés informationnelles des lots de données sans dépendre d'algorithmes prédictifs.

Estimation de distribution : Il construit des cartes temporelles de données (évolution dans le temps) et des cartes de sources de données (hétérogénéité entre les sites) en estimant les distributions de probabilité empiriques.
Réduction de dimensionnalité : Pour gérer les données cliniques de haute dimension, il intègre des techniques telles que l'ACP, la SVD, l'MCA et la FAMD pour projeter les données dans des sous-espaces de dimension inférieure.
Projection de densité : Il utilise l'estimation de la densité par noyau (KDE) pour générer des fonctions de densité de probabilité jointe continues, visualisées sous forme de variétés (manifolds) 2D/3D.
Métriques de distance : Il quantifie la divergence entre les lots en utilisant la distance de Jensen-Shannon (JS), une métrique symétrique bornée entre 0 (identique) et 1 (disjoint).
Analyse visuelle :
- Graphiques Géométriques Informationnels Temporels (IGT) : Projette les dissimilarités des lots temporels sur une variété statistique non paramétrique pour visualiser les trajectoires, la saisonnalité et les décalages abrupts.
- Graphiques de Variabilité Multi-Sources (MSV) : Visualise l'hétérogénéité spatiale à l'aide de deux nouvelles métriques :
  - Déviation Probabiliste Globale (GPD) : Un scalaire mesurant la dispersion totale à travers toutes les sources.
  - Anomalie Probabiliste de Source (SPO) : Identifie les sources spécifiques qui s'écartent significativement de la tendance centrale.
Analyse conditionnelle : Permet d'isoler $P(X|Y)$ pour détecter spécifiquement les décalages de concept.

2. Module supervisé (centré sur le modèle)

Ce module mesure directement l'impact des décalages de distribution sur la performance prédictive.

Pipeline automatisé : Il automatise l'entraînement et l'évaluation inter-lots de modèles prédictifs de base (par défaut, des forêts aléatoires et des Gradient Boosting d'histogrammes).
Stratégies d'entraînement : Prend en charge les stratégies cumulatives (entraînement sur les données historiques accumulées) et à partir de zéro (entraînement sur des lots uniques).
Évaluation inter-lots : Les modèles entraînés sur des lots temporels ou de sources spécifiques sont évalués contre tous les autres lots pour générer des matrices de performance.
Métriques : Suit les métriques standards de classification (AUC, F1, Précision/Rappel) et de régression (MAE, RMSE, $R^2$ ) pour quantifier la dégradation des performances.

Contributions Clés

Cadre à double approche : dashi combine de manière unique l'analyse de distribution non supervisée avec le suivi de la performance supervisée, permettant aux utilisateurs de corréler directement les décalages de données avec la dégradation des modèles.
Nouvelles métriques et visualisations : Il introduit les graphiques IGT pour le suivi temporel et les métriques MSV (GPD/SPO) pour la caractérisation multi-sources, allant au-delà de la simple détection de dérive par paire pour une analyse topologique globale.
Opérationnalisation de la théorie : La bibliothèque traduit des concepts statistiques complexes (variétés statistiques, divergence JS) en un pipeline programmable accessible, compatible avec les formats de données EHR standards (pandas DataFrames) et les données multimodales (via des plongements/embeddings pour le texte et les images).
Taxonomie complète : Les auteurs fournissent un tableau structuré reliant des typologies de décalage spécifiques (abrupt, graduel, saisonnier, de sous-groupe) aux méthodes de détection au sein de dashi, à leurs effets sur l'IA et aux stratégies de mitigation recommandées.

Résultats

L'utilité de dashi a été validée à travers trois études de cas d'IA en santé :

Cohorte simulée de diabète gestationnel (GDM) (Décalage de concept temporel) :
- dashi a détecté avec succès une période simulée de codage incohérent (2021–2022) où la distribution conditionnelle $P(X|Y)$ était entrelacée.
- Les graphiques IGT ont clairement délimité deux sous-groupes temporels distincts séparés par un décalage topologique.
- L'analyse supervisée a confirmé que les modèles entraînés sur les premiers lots « bruités » souffraient de graves échecs de généralisation sur les données ultérieures corrigées, validant la capacité de la bibliothèque à prédire les défaillances silencieuses.
Cohorte COVID-19 au Mexique (Adaptation de domaine multi-sources) :
- La bibliothèque a identifié de sévères hétérogénéités structurelles entre les institutions du Système National de Santé (NHS).
- Les graphiques MSV ont mis en évidence des institutions spécifiques (ex: types de NHS 1 et 15) comme étant des anomalies avec des valeurs SPO élevées et des déséquilibres de classes distincts.
- Les matrices de performance inter-institutions ont révélé que les modèles entraînés sur certains domaines échouaient lors du transfert vers d'autres, tandis que le biclustering a identifié des groupes d'hôpitaux ayant des distributions de données compatibles.
Service d'urgence 112 de la Communauté Valencienne (Décalage temporel multimodal) :
- Appliqué à 2,5 millions d'enregistrements d'appels d'urgence en texte libre, dashi a utilisé des plongements contextuels (BioLord-2023) pour suivre la dynamique des données non structurées.
- Les graphiques IGT ont identifié un décalage abrupt fin 2014 (dû à une migration de système) et un second décalage en mars 2020 (lié aux confinements liés à la pandémie).
- La bibliothèque a capturé une forte saisonnalité dans les schémas d'appels et a démontré comment l'entraînement sur le lot pré-2014 entraînait les scores de généralisation les plus bas sur l'ensemble de la chronologie.

Signification et Revendications

L'article positionne dashi non pas simplement comme un outil analytique, mais comme un mécanisme fondamental d'audit algorithmique continu essentiel pour une IA de confiance.

Du Réactif au Proactif : Les auteurs soutiennent que dashi permet un changement de paradigme, passant d'une analyse réactive des « défaillances silencieuses » à une gouvernance des données proactive et en temps réel. En détectant les instabilités de données sous-jacentes avant qu'elles ne se manifestent par des erreurs cliniques, les institutions peuvent déclencher un recalibrage ou restreindre le déploiement.
Combler le fossé : La bibliothèque répond au goulot d'étranglement entre la détection théorique de décalage et le MLOps pratique, fournissant un kit complet qui traduit la théorie mathématique complexe en informations exploitables.
Conformité Réglementaire : Les auteurs affirment que dashi fournit l'infrastructure nécessaire pour se conformer aux normes émergentes de l'IA de confiance en garantissant que les hypothèses statistiques d'un modèle restent alignées avec les réalités cliniques évolutives.
Rentabilité : En utilisant des modèles basés sur des arbres efficaces et en se concentrant sur l'interprétabilité plutôt que sur la maximisation absolue de la prédiction, la bibliothèque offre une solution rentable pour la robustesse et la sécurité dans les environnements de santé dynamiques.

L'article conclut que la gestion du décalage de données n'est pas une tâche isolée post-déploiement, mais une exigence continue tout au long du cycle de vie de l'IA, et que dashi facilite cet audit rigoureux à chaque étape.