Imaginez que vous essayez d'apprendre à un robot à comprendre le monde. Vous lui donnez une caméra et un cerveau, et il commence à faire des prédictions : « C'est un chat », ou « Cette machine est sur le point de tomber en panne ». Mais parfois, le robot se trompe, ou pire, il a raison pour les mauvaises raisons. Peut-être pense-t-il qu'une photo de loup est réelle parce qu'il y a de la neige en arrière-plan, et non parce qu'il voit réellement le loup. C'est un problème majeur dans le monde de l'intelligence artificielle (IA), surtout lorsque les enjeux sont élevés, comme dans les hôpitaux ou les usines. Nous avons besoin de savoir pourquoi le robot a pris une décision, et pas seulement ce qu'il a décidé.

Pour corriger cela, les scientifiques utilisent ce qu'on appelle l'« IA explicable ». L'un des outils les plus fascinants de cette boîte à outils est le « contrefactuel ». Considérez un contrefactuel comme une histoire de type « et si ». Au lieu de simplement dire : « J'ai prédit que vous marchiez », un contrefactuel dit : « J'ai prédit que vous marchiez, mais si vous aviez ralenti le pas, j'aurais prédit que vous étiez assis ». C'est comme une recette pour changer le futur. Cependant, lorsqu'on traite des séries temporelles — des données qui changent au fil du temps, comme un moniteur de fréquence cardiaque ou un graphique boursier — créer ces histoires de type « et si » est délicat. Si vous modifiez simplement un point unique dans les données, c'est comme changer un seul mot dans une phrase en espérant que toute l'histoire garde son sens. Souvent, elle ne le fait pas. L'histoire devient un charabia, et l'explication du robot devient inutile.

C'est là qu'intervient une nouvelle méthode appelée ConceptCF. Les chercheurs derrière cet article, Annemarie Jutte et son équipe, ont réalisé qu'au lieu de manipuler les points individuels d'une série temporelle, nous devrions changer les « grandes idées » ou les « concepts » qui composent les données. Imaginez une chanson. Vous pourriez essayer de changer la chanson en modifiant chaque note une par une, ce qui est désordonné et déroutant. Ou bien, vous pourriez changer le « volume » (la sonorité) ou le « tempo » (la vitesse). Ce sont des concepts. ConceptCF est un système ingénieux qui prend une série temporelle, la décompose en ces concepts compréhensibles (comme la taille des vagues ou leur fréquence de répétition), puis demande : « Et si nous changions le volume ou le tempo ? ». Il utilise un processus d'évolution numérique, comme un jeu vidéo où les meilleures solutions survivent et s'améliorent, pour trouver les changements les plus petits et les plus logiques nécessaires pour inverser une prédiction. Le résultat est une explication qu'un humain peut réellement comprendre, comme dire : « Le robot a pensé que vous marchiez parce que vos pas étaient trop grands ; si vous faisiez des pas plus petits, il saurait que vous êtes assis ».

L'article présente ConceptCF comme un moyen de générer des explications de type « et si » spécifiquement pour les données de séries temporelles. L'idée centrale est de cesser de regarder les points de données bruts (les moments individuels dans le temps) et de commencer à regarder les concepts — des modèles de haut niveau que les humains saisissent facilement, tels que l'« échelle » globale (amplitude) d'un signal ou sa « fréquence » (sa répétition). Les auteurs soutiennent que les méthodes existantes dénaturent souvent le sens des données en modifiant des points de manière isolée, ce qui peut créer des scénarios étranges ou impossibles. ConceptCF évite cela en ne modifiant que les concepts sous-jacents.

Pour ce faire, l'équipe utilise trois méthodes différentes pour décomposer la série temporelle en concepts :

1. Basée sur Fourier : Cela considère le signal comme un mélange de différentes fréquences, comme la séparation d'un accord en notes individuelles.
2. Basée sur les ondelettes (Wavelet) : Cela décompose le signal en segments de différentes tailles, capturant à la fois les grandes tendances et les petits détails.
3. Centrée sur l'humain : Elle est conçue spécifiquement pour les personnes qui ne sont pas des experts en mathématiques, en décomposant le signal en éléments tels que la « tendance » (monte ou descend ?), le « biais » (est-il décalé vers le haut ou vers le bas ?) et l'« échelle » (quelle est sa taille ?).

Une fois que les données sont décomposées en ces concepts, la méthode utilise un algorithme génétique pour trouver le contrefactuel parfait. Considérez cela comme un programme de reproduction numérique. L'ordinateur commence avec une « population » de changements possibles. Il teste ces changements pour voir s'ils parviennent à changer la prédiction de l'IA (validité) tout en restant aussi proches que possible des données originales (proximité) et en modifiant le moins de choses possible (parcimonie/sparsity). Les solutions les plus « aptes » survivent et se mélangent pour créer des solutions encore meilleures dans la génération suivante. Le but est de trouver le changement minimal de concepts qui inverse la prédiction. Par exemple, si un modèle prédit « Marche », ConceptCF pourrait trouver qu'augmenter la « longueur d'onde » et l'« échelle » du mouvement ferait prédire au modèle « Assis ».

Les chercheurs ont testé ConceptCF contre cinq autres méthodes de haut niveau en utilisant des ensembles de données réels, incluant des données de mouvement de marche humaine et des données de fréquence cardiaque. Ils ont mesuré l'efficacité de la nouvelle méthode selon cinq critères :

• Validité : A-t-elle réellement changé la prédiction ?
• Confiance : Le modèle était-il sûr de la nouvelle prédiction ?
• Proximité : Le nouveau scénario était-il proche de l'original ?
• Parcimonie (Sparsity) : A-t-elle modifié très peu de choses, ou a-t-elle tout chamboulé ?
• Plausibilité : Le nouveau scénario ressemblait-il à quelque chose qui pourrait réellement se produire dans le monde réel ?

Les résultats ont montré que ConceptCF est très compétitif. En fait, il arrive souvent en tête, particulièrement pour la parcimonie. Cela signifie qu'il peut expliquer la décision de l'IA en changeant très peu de concepts, rendant l'explication beaucoup plus claire et facile à comprendre pour un humain. Alors que d'autres méthodes luttaient parfois pour maintenir le réalisme des données ou finissaient par modifier trop de points, ConceptCF a systématiquement trouvé le « juste milieu » consistant à effectuer le changement le plus petit et le plus logique pour inverser le résultat. Les auteurs ont constaté que la manière spécifique dont ils décomposaient les concepts (Fourier vs Wavelet vs Centré sur l'humain) ne changeait pas radicalement les résultats, suggérant que la méthode est flexible et peut être adaptée à différents besoins.

L'article conclut que ConceptCF est un nouvel outil puissant pour comprendre l'IA des séries temporelles. En se concentrant sur des concepts interprétables par l'humain plutôt que sur des points de données bruts, il comble le fossé entre les modèles complexes d'apprentissage automatique et le raisonnement humain. Les auteurs suggèrent que, bien que leur méthode soit mathématiquement solide et performante selon les tests standards, le test ultime sera de savoir si les humains comprennent réellement mieux les explications. Ils proposent que les recherches futures impliquent de vraies personnes pour voir si ces explications basées sur des concepts rendent réellement l'IA plus transparente et digne de confiance. Pour l'instant, ConceptCF représente une étape prometteuse pour faire en sorte que les décisions de l'IA soient moins une boîte noire et plus une conversation que nous pouvons tous comprendre.