💻 computer science

COGENT: Counterfactual Gaussian Explanations for Volumetric Medical Images

COGENT est un nouveau cadre qui génère des explications contrefactuelles creuses, spatialement localisées et anatomiquement cohérentes pour les images médicales volumétriques en optimisant des primitives gaussiennes au sein d'une représentation de scène 3D, offrant ainsi une alternative cliniquement significative aux méthodes traditionnelles d'explicabilité au niveau du voxel.

Auteurs originaux : Dorian Rząsa, Bartosz Zabdyr, Krzysztof Piekarz, Jakub Grzywaczewski, Bartlomiej Sobieski, Przemyslaw Biecek, Żaneta Świderska-Chadaj, Olga Śliwicka, Przemysław Spurek, Joanna Świebocka-Więk

Publié 2026-08-13

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Dorian Rząsa, Bartosz Zabdyr, Krzysztof Piekarz, Jakub Grzywaczewski, Bartlomiej Sobieski, Przemyslaw Biecek, Żaneta Świderska-Chadaj, Olga Śliwicka, Przemysław Spurek, Joanna Świebocka-Więk

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'apprendre à un robot super intelligent comment repérer un trésor caché dans un immense labyrinthe de brume en trois dimensions. Vous ne pouvez pas simplement pointer du doigt un seul pixel de lumière sur un écran plat ; le trésor est un objet physique réel flottant dans un espace 3D. C'est le monde de l'imagerie médicale, où les médecins utilisent des machines comme les scanners CT pour prendre des « coupes » de l'intérieur du corps humain, les empilant pour voir à l'intérieur sans inciser personne. Pendant des années, les scientifiques ont construit des modèles d'IA qui sont incroyablement doués pour trouver des maladies comme le cancer du poumon dans ces labyrinthes 3D. Mais il y a un piège : l'IA est une « boîte noire ». Elle donne une réponse, mais elle ne dit pas pourquoi. C'est comme un ami qui dit : « Je sais que c'est un mauvais endroit », mais refuse de le pointer du doigt. Dans des domaines à enjeux élevés comme la médecine, nous avons besoin de plus qu'une simple supposition ; nous avons besoin de voir la preuve. C'est là qu'intervient le concept d'« explicabilité » — essayer de jeter un coup d'œil à l'intérieur de la boîte noire pour comprendre la logique derrière la décision.

Maintenant, imaginez essayer d'expliquer le raisonnement de l'IA en piquant la brume elle-même. La plupart des méthodes actuelles tentent de faire cela en plissant les yeux sur les images 2D que l'IA voit, en surlignant des pixels comme un surligneur numérique. Mais c'est comme essayer de comprendre une sculpture en regardant son ombre sur un mur ; vous pourriez manquer la profondeur et la forme réelle. Une technologie plus récente et plus tape-à-l'œil appelée « Gaussian Splatting » a changé la donne. Au lieu de simplement regarder des images plates, cette méthode construit la scène 3D à partir de milliers de petites boules floues et invisibles (appelées Gaussiennes) qui flottent dans l'espace. Chaque boule a sa propre position, sa taille, sa couleur et son degré de « transparence ». C'est comme construire un nuage numérique où chaque goutte d'eau est un personnage programmable. Ce papier, COGENT, pose une question brillante : Et si nous pouvions expliquer la décision de l'IA non pas en plissant les yeux sur l'ombre 2D, mais en poussant doucement ces boules 3D floues pour voir ce qui se passe ?

L'histoire de COGENT : Pousser la brume

Les chercheurs derrière ce papier, dirigés par Dorian Rząsa et ses collègues, ont construit un outil appelé COGENT (Counterfactual Gaussian Explanations). Considérez-le comme une machine du « Et si ? » pour les scanners médicaux. Ils ont pris un modèle d'IA célèbre appelé Sybil, qui est un expert dans la prédiction du risque de cancer du poumon à partir de scanners CT à faible dose. Sybil est excellent, mais c'est aussi un mystère. Le travail de COGENT est de demander à Sybil : « Que devrais-tu voir pour changer d'avis ? »

Voici comment la magie opère. D'abord, COGENT prend le scanner pulmonaire d'un patient et le reconstruit en utilisant ces milliers de petites boules 3D floues (Gaussiennes) au lieu de simples pixels bruts. C'est comme prendre une photographie et la transformer en un nuage de briques Lego 3D. Ensuite, il demande à l'IA : « Si nous rendons cette partie spécifique du nuage un peu plus saine, diras-tu que le patient est en sécurité ? »

Pour trouver la réponse, COG ich utilise un tour astucieux. Il ne fait pas que deviner ; il lance un jeu mathématique de « tir à la corde ». Il pousse et tire doucement les propriétés des boules floues — les rendant plus petites, moins colorées ou les déplaçant légèrement — tout en surveillant le score de risque de l'IA. Il continue de peaufiner les boules jusqu'à ce que l'IA dise soudainement : « Oh ! Maintenant, cela semble être un risque faible ! » Les boules qui ont dû le plus changer pour faire changer d'avis l'IA sont les « suspects ». Ce sont les parties du poumon qui inquiétaient réellement l'IA.

Pourquoi c'est une grande affaire

Le papier soutient que l'ancienne façon d'expliquer l'IA — en surlignant des pixels sur une image plate — est désordonnée et souvent déroutante. Lorsque les chercheurs ont testé les anciennes méthodes, les « explications » ressemblaient à de la neige sur un vieux téléviseur : éparpillées, bruyantes et difficiles à comprendre. C'était comme essayer de trouver une aiguille dans une botte de foin en jetant des paillettes partout.

En revanche, l'approche de COGENT est chirurgicale. Parce qu'il travaille avec les boules 3D floues, les changements qu'il effectue sont localisés et anatomiquement cohérents. Lorsque COGENT trouve le « mauvais endroit », il ne répand pas du bruit partout dans le poumon ; il se concentre précisément sur le nodule spécifique (une petite masse) qui semble suspect.

L'équipe a testé cela sur de vrais scanners pulmonaires. Ils ont constaté que COGENT était bien meilleur pour localiser les points problématiques réels que les anciennes méthodes. En fait, lorsqu'ils ont mesuré à quel point l'explication correspondait à l'emplacement réel de la tumeur, COGENT a obtenu un score de 0,2837 (en utilisant une métrique appelée RRA), ce qui est nettement supérieur à la deuxième meilleure méthode, GradCAM, qui n'a obtenu que 0,0805. Cela suggère que COGENT est bien meilleur pour trouver l'aiguille sans jeter des paillettes partout.

La touche humaine

Les chiffres sont utiles, mais le vrai test est de savoir si un médecin humain est d'accord. Les chercheurs ont présenté les résultats à des radiologues experts. Ils leur ont demandé de regarder les versions « avant et après » des poumons créées par COGENT. Les changements ressemblaient-ils à ce qu'une véritable maladie ferait ?

Les résultats étaient prometteurs. Dans 40 % des cas, les médecins ont déclaré que les changements réduisaient clairement les signes de la maladie (comme le rétrécissement d'une tumeur), ce qui est exactement ce que vous voudriez voir si vous essayiez de prouver que l'IA avait raison concernant le risque. Un autre 40 % étaient neutres, et seulement 20 % montraient des changements qui semblaient aggraver la maladie. Cela nous indique que COGENT ne crée pas du bruit aléatoire ; il effectue des changements qui font sens pour les experts humains.

L'essentiel

Ce papier ne prétend pas avoir résolu tous les mystères de l'IA. Il suggère qu'en nous éloignant des images 2D plates pour travailler directement dans l'espace de paramètres 3D de ces boules gaussiennes floues, nous pouvons obtenir des explications beaucoup plus claires et dignes de confiance. C'est comme passer de la tentative de comprendre une sculpture 3D en regardant son ombre à la capacité de pouvoir marcher autour de la sculpture et toucher les parties qui comptent.

Les auteurs démontrent que cette méthode produit des explications qui sont non seulement mathématiquement plus fortes, mais aussi plus faciles à rendre crédibles pour les médecins. En demandant à l'IA : « De quoi aurais-tu besoin pour changer d'avis ? » puis en réarrangeant doucement les blocs de construction 3D de l'image, COGENT révèle la logique cachée derrière la boîte noire, une boule floue à la fois. C'est un pas vers un avenir où l'IA ne se contente pas de nous dire ce qui ne va pas, mais nous montre exactement où et pourquoi, d'une manière qui semble naturelle à l'œil humain.

Résumé Technique : COGENT

Énoncé du Problème
Le déploiement de modèles d'apprentissage profond dans des applications médicales à enjeux élevés, particulièrement pour l'imagerie volumétrique comme la TDM (scanner) et l'IRM, nécessite une explicabilité robuste. Bien que les modèles modernes atteignent des performances de pointe, leurs processus de prise de décision restent souvent opaques. Les méthodes d'explicabilité existantes pour les données volumétriques opèrent principalement dans l'espace des pixels ou des voxels (espace image). Ces approches échouent souvent à modéliser explicitement la structure tridimensionnelle sous-jacente de la scène, conduisant à des explications difficiles à interpréter sur le plan anatomique ou qui occultent des dépendances spatiales complexes. De plus, de nombreuses techniques sont appliquées coupe par coupe, ne parvenant pas à capturer des structures d'objets 3D cohérentes. Il existe un besoin de cadres d'explicabilité qui opèrent directement au sein de représentations 3D structurées afin de préserver la cohérence anatomique et de fournir des informations cliniquement significatives.

Méthodologie
L'article présente COGENT (Counterfactual Gaussian Explanations for Volumetric Medical Images), un cadre qui génère des explications contrefactuelles directement dans l'espace des paramètres de représentations volumétriques basées sur des Gaussiennes, plutôt que dans l'espace image brut. La méthodologie intègre trois composantes fondamentales :

Couche de Représentation (MedGS) : Le cadre utilise MedGS (Medical Gaussian Splatting), qui étend le 3D Gaussian Splatting à l'imagerie médicale multimodale. MedGS représente les données médicales volumétriques comme une collection de primitives gaussiennes explicites et différentiables. Chaque primitive est définie par des paramètres incluant la position spatiale ( $x_i$ ), les coefficients d'apparence ( $f_i$ ), l'opacité ( $o_i$ ), l'échelle ( $s_i$ ) et la rotation ( $r_i$ ). Cela crée un pont entièrement différentiable entre les paramètres de la Gaussienne et les coupes d'imagerie rendues.
Prédicteur Aval (Sybil) : Le cadre emploie Sybil, un modèle d'apprentissage profond conçu pour prédire le risque futur de cancer du poumon directement à partir de scanners CT thoraciques à faible dose. Dans COGENT, Sybil agit comme un classificateur fixe et gelé. Sa sortie (logits de risque) sert de signal d'optimisation.
Optimisation Contrefactuelle :
- Formulation : L'explicabilité est formulée comme un problème d'optimisation contrefactuelle contraint. L'objectif est d'identifier quelles primitives gaussiennes, lorsqu'elles sont modifiées, modifieraient la prédiction du modèle (par exemple, passer d'une prédiction de haut risque à un bas risque).
- Processus : Le système sélectionne un sous-ensemble de Gaussiennes (souvent celles qui intersectent des masques anatomiques ou des régions d'intérêt spécifiques). En utilisant la Descente de Gradient Projetée (PGD), le cadre optimise les paramètres de ces Gaussiennes sélectionnées.
- Flux de Gradient : Les gradients sont propagés en arrière depuis le classificateur Sybil gelé, à travers le pipeline de rendu différentiable, jusqu'aux paramètres de la Gaussienne.
- Contraintes : L'optimisation est contrainte par une borne $L_\infty$ ( $\epsilon$ ) et des intervalles de tronquage globaux pour garantir que le volume perturbé reste anatomiquement proche de l'original, évitant ainsi des artefacts irréalistes.
- Objectif : La fonction de perte ( $L_{cf}$ ) est définie en fonction de l'objectif contrefactuel, qu'il soit non ciblé (maximiser ou minimiser un logit de risque spécifique) ou ciblé (correspondre à une valeur de logit spécifique).
- Extraction : Après optimisation, le cadre identifie les 10 % de Gaussiennes ayant subi les mises à jour de paramètres les plus significatives. Ces primitives constituent l'explication, représentant les régions structurelles et texturales spécifiques qui pilotent la décision du modèle.

Contributions Clés

Cadre dans l'Espace de Représentation : Les auteurs introduisent un nouveau cadre qui connecte les représentations MedGS avec un modèle de prédiction du risque de cancer du poumon volumétrique, déplaçant l'explicabilité de l'espace image vers un espace de paramètres 3D structuré.
Optimisation Contrefactuelle dans l'Espace des Paramètres : Ce travail formule l'explicabilité comme un problème d'optimisation contrefactuelle directement au sein de l'espace des paramètres de représentations gaussiennes 3D, une divergence par rapport aux méthodes conventionnelles de perturbation de pixels/voxels.
Explications Cliniquement Significatives : L'article démontre que les explications contrefactuelles dans l'espace gaussien produisent des résultats spatialement localisés, parcimonieux et anatomiquement cohérents qui s'alignent sur les attentes cliniques, validés par des mesures quantitatives et une évaluation d'experts.

Résultats
Le cadre a été évalué sur des scanners CT pulmonaires à l'aide du modèle Sybil, comparant COGENT aux bases de référence établies (GradCAM, Saliency, Integrated Gradients, Input $\times$ Gradient, Kernel SHAP) ainsi qu'à une base de référence contrefactuelle dans l'espace des pixels.

Performance Quantitative : COGENT a obtenu les scores de localisation les plus élevés, avec des valeurs RRA et RRA_abs de 0,2837, surpassant de manière significative la base de référence classique la plus forte, GradCAM (0,0805). Cela indique une capacité supérieure à identifier les régions pathologiques qui pilotent la prédiction.
Parcimonie et Compacité : COGENT a maintenu un degré élevé de parcimonie (0,6550), produisant des explications focalisées par rapport au Kernel SHAP plus diffus (0,2083).
Stabilité de la Perturbation : La méthode a montré des scores compétitifs de Perturbation-AUC (0,0396) et de Mean-Perturbation (0,0414), indiquant une performance stable à travers les critères d'évaluation.
Évaluation Qualitative et d'Expert : Les comparaisons visuelles ont montré que COGENT produit des modifications anatomiquement plausibles et localisées (par exemple, ciblant des nodules spécifiques), tandis que les bases de référence dans l'espace des pixels résultaient en des motifs éparpillés et bruités. Une évaluation par un radiologue expert sur une échelle de 5 points a révélé que dans 40 % des cas, les explications contrefactuelles correspondaient à une atténuation positive de la sévérité de la maladie (atténuation des traits malins), avec un autre 40 % montrant un impact neutre. Les explications se localisaient systématiquement dans des régions qu'un expert identifierait comme suspectes.

Signification et Revendications
L'article affirme que COGENT offre une nouvelle perspective pour interpréter les modèles d'apprentissage profond volumétriques en intégrant l'explicabilité au sein de la représentation explicite de la scène 3D. La signification réside dans la capacité de générer des explications qui sont non seulement techniquement efficaces pour localiser l'attention du modèle, mais aussi cliniquement significatives et anatomiquement cohérentes. En opérant dans l'espace des paramètres de la Gaussienne, la méthode évite l'incohérence anatomique souvent rencontrée lors des perturbations au niveau du voxel. Les auteurs positionnent COGENT comme un paradigme général pour l'explicabilité dans l'espace de représentation, démontant son potentiel pour rendre les modèles d'IA volumétriques plus transparents et dignes de confiance pour la prise de décision médicale. Le travail suggère que les explications contrefactuelles dans l'espace des paramètres peuvent révéler efficacement les preuves structurelles et texturales sous-jacentes aux prédictions du modèle d'une manière qui s'aligne sur la compréhension radiologique.

L'histoire de COGENT : Pousser la brume

Pourquoi c'est une grande affaire

La touche humaine

L'essentiel

Articles similaires