Software Frameworks for Explainable AI in Time Series Classification: A Systematic Review
Cette revue systématique analyse les cadres logiciels existants pour l'IA explicable dans la classification de séries temporelles, révélant une fragmentation significative et des limites concernant le support du domaine fréquentiel, les métriques d'évaluation spécialisées et la cohérence entre les cadres, tout en préconisant le développement de solutions d'XAI unifiées et spécifiques aux séries temporelles.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde moderne, les machines sont de plus en plus sollicitées pour donner du sens aux données qui circulent au fil du temps, comme le rythme d'un battement de cœur, la fluctuation des cours de la bourse ou le son d'une parole. Ce type de données, appelé série temporelle, est omniprésent dans la santé, l'industrie et la finance. Pour prédire ce qui va se passer ensuite, les scientifiques utilisent souvent de puissants programmes informatiques appelés modèles d'apprentissage profond (deep learning). Ces programmes excellent dans la détection de motifs et la réalisation de prédictions précises, mais ils fonctionnent comme des boîtes noires : ils produisent une réponse sans expliquer comment ils y sont parvenus. Dans des situations à enjeux élevés, comme le diagnostic d'un patient ou l'approbation d'un prêt, connaître la raison derrière une décision est tout aussi important que la décision elle-même. Ce besoin de clarté a donné naissance à un domaine appelé intelligence artificielle explicable, qui vise à ouvrir la boîte noire et à montrer à l'utilisateur humain quelles parties des données ont influencé le choix de la machine.
Une équipe de chercheurs s'est récemment donné pour mission d'examiner les outils disponibles pour aider les scientifiques à construire ces explications, spécifiquement pour les données basées sur le temps. Ils ont mené une revue systématique des cadres logiciels (frameworks) — essentiellement les boîtes à outils et les bibliothèques que les programmeurs utilisent pour générer et tester ces explications. Bien que de nombreux outils existent pour expliquer les décisions basées sur les images, les chercheurs ont constaté que le paysage pour les séries temporelles est fragmenté et encore en développement. Ils ont fouillé des milliers de projets open-source, les filtrant jusqu'à obtenir six cadres majeurs qui prétendent supporter les données de séries temporelles. Leur objectif était de comprendre ce que ces outils peuvent réellement faire, comment ils fonctionnent et s'ils sont prêts pour une utilisation en conditions réelles.
L'enquête a révélé un écart significatif entre la complexité des séries temporelles et les capacités des logiciels actuels. Bien que les six cadres identifiés offrent un large éventail de méthodes pour générer des explications, très peu de ces méthodes ont été réellement conçues dans l'optique des séries temporelles. La plupart des outils se contentent de prendre des méthodes créées pour les images ou d'autres types de données et de les appliquer à des signaux temporels sans adaptation spécifique. Les chercheurs ont constaté qu'une infime fraction des méthodes disponibles tient explicitement compte de la nature unique du temps, comme le fait que les événements passés influencent les événements futurs, ou que différents capteurs d'un même appareil dépendent souvent les uns des autres. Par exemple, dans un contexte médical, le signal d'un électrocardiogramme provenant d'une partie du cœur est profondément lié aux signaux provenant d'autres parties ; les outils actuels peinent souvent à expliquer ces relations complexes et simultanées à travers plusieurs canaux.
Une limitation particulièrement frappante découverte est l'absence de support pour l'analyse des données dans le domaine fréquentiel. Les séries temporelles peuvent être comprises non seulement en observant comment elles changent au fil des secondes ou des minutes, mais aussi en examinant les fréquences sous-jacentes, tout comme un accord musical peut être décomposé en notes individuelles. Dans de nombreuses tâches, comme distinguer une voix masculine d'une voix féminine ou identifier des types spécifiques de pathologies cardiaques, les indices cruciaux se cachent souvent dans ces motifs de fréquence plutôt que dans le signal brut lui-même. La revue a révélé que, parmi toutes les méthodes disponibles dans les six cadres, une seule était capable de générer des explications dans le domaine fréquentiel. Cela signifie que pour de nombreuses applications importantes, les outils sont actuellement aveugles aux motifs mêmes qui pourraient être les plus critiques pour comprendre la décision.
Les chercheurs ont également testé si ces outils produisent des résultats cohérents. Ils ont pris une approche mathématique identique pour expliquer la décision d'un modèle et l'ont passée à travers deux cadres logiciels différents. Étonnamment, les résultats n'étaient pas les mêmes. Dans un cas, en utilisant un cadre spécifique, l'explication n'a pas réussi à mettre en évidence le motif caractéristique qu'un expert médical s'attendrait à voir, tandis que l'autre cadre l'avait correctement identifié. Cela suggère que le choix de l'outil logiciel peut fondamentalement changer l'explication reçue par l'utilisateur, même lorsque la méthode sous-jacente semble être la même. Cette incohérence pose un sérieux défi pour la fiabilité, car elle implique que deux scientifiques pourraient arriver à des conclusions différentes sur la raison pour laquelle une machine a pris une décision, simplement en utilisant des progiciels différents.
De plus, l'étude a mis en évidence une pénurie de moyens fiables pour tester ces explications. Pour savoir si une explication est bonne, les chercheurs doivent la comparer à une vérité connue, un concept appelé "vérité de terrain" (ground truth). La revue a révélé que la plupart des ensembles de données utilisés pour les tests ne comprennent pas cette information de vérité de terrain, ce qui rend difficile la vérification de l'exactitude des explications. Seules deux métriques spécifiques ont été identifiées comme étant conçues spécifiquement pour les séries temporelles, tandis que la vaste majorité des outils de test étaient empruntés à d'autres domaines. Ce manque d'outils de test spécialisés signifie que la qualité des explications pour les données temporelles est souvent supposée plutôt que prouvée.
En conclusion, l'article affirme que bien que la communauté ait progressé dans la création de logiciels pour expliquer les décisions des séries temporelles, les outils actuels ne sont pas encore totalement prêts pour la tâche. Ils reposent lourdement sur des méthodes génériques qui n'ont pas été construites pour les défis uniques des données temporelles, tels que les dépendances entre canaux et les motifs de fréquence. Les chercheurs soutiennent que le domaine a besoin de cadres unifiés et dédiés, capables de générer des explications fidèles, reproductibles et conscientes du temps. Tant que de tels outils ne seront pas développés et standardisés, les utilisateurs devront procéder avec prudence, en comprenant que les explications fournies par les logiciels actuels peuvent être incomplètes ou incohérentes, et que la fiabilité de ces informations dépend fortement de l'outil spécifique choisi.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.