🤖 machine learning

To forget is to preserve: Machine Unlearning for 3D medical image segmentation

Cet article évalue les stratégies d'oubli machine approximatif sur un modèle 3D ResNet-50 pour la segmentation d'images médicales MRBrainS18, démontrant que la stratégie de labels bruités (Noisy Label) offre le compromis optimal en réduisant considérablement la performance sur les sujets oubliés tout en préservant la précision sur les données conservées.

Auteurs originaux : Nitesh Kumar Singh, Akhilesh Singh, Arjun Arora

Publié 2026-06-16

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Nitesh Kumar Singh, Akhilesh Singh, Arjun Arora

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le gros problème : le « droit à l'oubli » dans l'IA

Imaginez que vous engagiez un chef étoilé pour apprendre à cuisiner un plat spécifique en utilisant les recettes et les ingrédients de 10 amis différents. Le chef devient un expert. Cependant, un jour, l'ami n°3 décide de quitter le groupe et demande au chef d'oublier complètement tout ce qu'il a appris sur ses ingrédients spécifiques et son style de cuisine.

Dans le monde de l'intelligence artificielle (IA), il s'agit d'une exigence juridique majeure (comme les lois RGPD). Si un patient dit : « Supprimez mes données », l'IA de l'hôpital ne doit pas seulement supprimer le fichier ; elle doit aussi « désapprendre » les schémas qu'elle a mémorisés à partir des scanners de ce patient.

Le hic : L'ancienne méthode consistait à licencier le chef et à en embaucher un nouveau pour repartir de zéro, en cuisinant uniquement avec les 9 amis restants. C'est précis, mais incroyablement lent et coûteux (comme le fait de réentraîner un modèle à partir de zéro qui prend des centaines d'heures).

La solution : l'« Unlearning » (Désapprentissage machine)

Cet article explore une méthode plus rapide : l'Unlearning machine (désapprentissage machine). Au lieu de licencier le chef, nous essayons d'apprendre à l'expert actuel à « désapprendre » le style de l'ami n°3 tout en préservant ses compétences pour les 9 autres amis.

Les chercheurs ont testé cela sur des images médicales 3D (comme des IRM cérébrales). Ils ont utilisé un modèle d'IA pré-entraîné (un « ResNet-50 » qui connaît déjà beaucoup de choses sur l'anatomie 3D) et ont tenté de faire oublier des patients spécifiques.

L'expérience : 6 différentes astuces de « désapprentissage »

L'équipe a testé six stratégies différentes pour faire oublier à l'IA. Voyez cela comme différentes façons de confondre le chef pour qu'il oublie les recettes de l'ami n°3 :

Inversion du gradient (La méthode « Faire l'opposé ») :
- Comment ça marche : Quand l'IA regarde les données de l'ami n°3, l'ordinateur lui dit : « Tu as tort ! Essaie de donner la réponse complètement à l'envers. »
- Le résultat : Cela a trop bien fonctionné. L'IA est devenue tellement confuse à force de vouloir se tromper qu'elle a commencé à gâcher les recettes des 9 autres amis aussi.
Étiquette bruyante (La méthode « Devinette aléatoire ») :
- Comment ça marche : Quand l'IA regarde les données de l'ami n°3, l'ordinateur remplace les bonnes réponses par des réponses aléatoires et absurdes. C'est comme dire au chef : « Pour cet ingrédient spécifique, fais comme si c'était une chaussure. »
- Le résultat : C'était le gagnant. L'IA a compris que les données de l'ami n°3 étaient absurdes et a cessé de prêter attention à celles-ci, mais elle a gardé ses compétences aiguisées pour les 9 autres amis.
Encodeur aléatoire (La méthode « Bruit statique ») :
- Comment ça marche : L'IA est forcée de regarder les données de l'ami n°3 à travers une couche de bruit statique (comme une télévision sans signal) avant d'essayer d'apprendre.
- Le résultat : L'IA n'a pas vraiment oublié. Elle a simplement appris à ignorer le bruit et à deviner quand même la bonne réponse, donc le « désapprentissage » n'a pas bien fonctionné.
Apprendre les autres / Apprendre le bruit (La méthode « Imitateur ») :
- Comment ça marche : On dit à l'IA de copier les caractéristiques des autres amis (ou simplement du bruit aléatoire) lorsqu'elle regarde les données de l'ami n°3.
- Le résultat : C'était trop agressif. Cela a cassé le cerveau de l'IA, provoquant l'oubli de tout le monde, pas seulement de l'ami n°3.
Décodeur fixe (La méthode « Tête gelée ») :
- Comment ça marche : On dit à l'IA de « geler » son « cerveau final » (la partie qui prend la décision) et de ne changer que ses « yeux » (la partie qui voit l'image).
- Le résultat : Cela a fonctionné correctement pendant un certain temps, mais si on continuait l'entraînement, l'IA devenait confuse et commençait à mieux performer sur les données qu'elle était censée oublier, ce qui est l'inverse de ce que nous voulons.

Les résultats : Qui a gagné ?

Les chercheurs ont mené ces tests sur deux durées différentes (20 « rounds » et 50 « rounds »).

Le gagnant : La stratégie de l'Étiquette bruyante (Noisy Label).
- Après 50 rounds, elle a réussi à faire « oublier » les données spécifiques du patient à hauteur de 93 % (l'IA s'est presque totalement trompée sur le patient oublié).
- Crucialement, elle a conservé 84 % de sa précision sur les autres patients. Elle n'a pas cassé l'IA ; elle a simplement effacé la mémoire spécifique.
Les perdants : La plupart des autres méthodes ont fonctionné correctement pendant un certain temps, mais si on continuait l'entraînement plus longtemps, elles provoquaient une « dégradation catastrophique ». Cela signifie que l'IA devenait tellement confuse à force de vouloir oublier qu'elle en oubliait sa mission pour tout le monde.

Ce qu'il faut retenir

L'article conclut que si vous voulez qu'une IA médicale 3D « oublie » un patient spécifique sans nuire à sa capacité d'aider d'autres patients, la meilleure astuce est de nourrir l'IA avec les données de ce patient accompagnées d'étiquettes aléatoires et fausses (Noisy Label).

Cela fournit une règle claire et testée pour les hôpitaux et les développeurs : si vous devez respecter les lois sur la confidentialité et supprimer l'influence d'un patient de l'IA, ne réentraînez pas tout depuis le début. Utilisez la méthode de l'« Étiquette bruyante » pour supprimer chirurgicalement ce souvenir spécifique tout en gardant le reste de l'IA en bonne santé.

Résumé technique : Oublier, c'est préserver : L'oubli machine pour la segmentation d'images médicales 3D

1. Énoncé du problème

L'adoption rapide de l'apprentissage profond dans l'imagerie médicale, particulièrement pour les données volumétriques 3D comme l'IRM et le scanner (CT), soulève des préoccupations critiques en matière de confidentialité des données. Les réglementations telles que le RGPD (Article 17), l'HIPAA et la DPDPA 2023 de l'Inde accordent aux individus le « droit à l'effacement », exigeant que les données personnelles soient supprimées non seulement du stockage, mais aussi des modèles d'apprentissage automatique entraînés.

Dans le contexte de la segmentation d'images médicales 3D, cela présente un défi unique. Contra_irement aux tâches de classification 2D où « oublier » peut impliquer la suppression de classes entières, l'oubli machine médical nécessite la suppression de données au niveau du sujet (c'est-à-dire des patients spécifiques). De plus, la sortie est une prédiction dense, par voxel, plutôt qu'une étiquette unique. L'approche standard de mise en conformité — réentraîner un modèle de zéro sur les données restantes — est prohibitive en termes de calcul pour les ensembles de données volumétriques 3D, nécessitant souvent des centaines d'heures-GPU. Par conséquent, il existe un besoin de stratégies d'oubli machine approximatif capables de modifier un modèle pré-entraîné existant pour « oublier » des sujets spécifiques tout en maintenant des performances élevées sur les données conservées, sans le coût d'un réentraînement complet.

2. Méthodologie

2.1 Architecture de base (Backbone)

L'étude utilise une architecture ResNet-50 3D pré-entraînée avec le framework Med3D. Ce backbone est choisi pour sa capacité à apprendre des représentations volumétriques robustes à partir de divers ensembles de données médicales 3D (poumon, foie, cerveau) à travers les modalités CT et IRM. Le modèle est décomposé en :

Encodeur ( $E_\phi$ ) : Un ResNet-50 3D qui extrait des caractéristiques spatiotemporelles.
Décodeur/Tête de segmentation ( $G_\psi$ ) : Un décodeur multicouche impliquant des convolutions transposées 3D et des couches de raffinement qui projettent les caractéristiques vers des logits de classe par voxel.

Le modèle a été affiné sur le jeu de données MRBrainS18, qui contient des annotations d'experts pour les structures cérébrales chez des sujets âgés.

2.2 Configuration expérimentale

Jeu de données : MRBrainS18 (10 sujets).
Ensemble à oublier ( $D_f$ ) : 2 sujets (20 % des données).
Ensemble à conserver ( $D_r$ ) : Les 8 sujets restants.
Tâche : Segmentation binaire (tissu cérébral vs tissu non cérébral).
Horizons d'entraînement : Les stratégies d'oubli ont été évaluées sur 20 et 50 époques.
Métriques :
- Coefficient de similitude de Dice (DSC) : Mesure le chevauchement spatial.
- Erreur absolue moyenne (MAE) : Mesure la déviation de la probabilité de prédiction.
- Métriques d'écart (Gap) : $\Delta$ Dice ( $D_r - D_f$ ) et $\Delta$ MAE ( $D_f - D_r$ ) pour quantifier le compromis entre l'oubli et la rétention.

2.3 Stratégies d'oubli

L'étude évalue plusieurs stratégies d'oubli approximatif adaptées du cadre I2I et d'autres publications, classées selon quatre mécanismes :

Approches basées sur le gradient (GA) :
- Étiquette de rétention / Perte maximale (Retain Label / Max Loss) : Modifie la fonction de perte en négeant le gradient pour l'ensemble à oublier (maximisation de l'erreur) tout en minimisant l'erreur pour l'ensemble à conserver.
- Risque : L'ascension de gradient non bornée peut entraîner une dégradation catastrophique de l'ensemble conservé.
Manipulation des étiquettes et des données :
- Étiquette bruyante (Noisy Label - NL) : Remplace les étiquettes de vérité terrain des voxels des sujets à oublier par des étiquettes uniformément aléatoires pendant l'entraînement. Le modèle est optimisé sur cette distribution manipulée, écrasant efficacement les représentations mémorisées pour les sujets à oublier tout en renforçant les sujets conservés.
Interventions dans l'espace des caractéristiques :
- Encodeur aléatoire (Random Encoder - RE) : Écrase les cartes de caractéristiques latentes des sujets à oublier avec un bruit gaussien avant qu'elles n'atteignent le décodeur.
- Apprendre les autres (Learn Others - LO) & Apprendre le bruit (Learn Noise - LN) : Utilise un paradigme de distillation enseignant-étudiant. L'encodeur étudiant est contraint de projeter les sujets à oublier vers une cible générique (soit la moyenne des caractéristiques du lot actuel, soit un bruit gaussien dynamique) tout en imitant l'enseignant pour les sujets conservés.
Affinage et réentraînement sélectif :
- Décodeur fixé (Fix Decoder - FD) : Gèle les paramètres de la tête de segmentation (décodeur) et ne met à jour que les paramètres de l'encodeur via la distillation. Cela vise à confiner l'oubli à l'espace des caractéristiques latentes pour éviter la dérive du décodeur.

3. Résultats clés

Les expériences ont révélé des différences significatives entre l'efficacité de l'oubli et la rétention de l'utilité :

Stratégie d'Étiquette Bruyante (NL) : Cette approche a démontré le meilleur compromis global.
- Après 50 époques, elle a atteint un Écart de Dice de +0,6963 et un Écart de MAE de +0,091.
- Elle a réduit le score de Dice de l'ensemble à oublier de 93 % (de 0,9226 à 0,0613).
- Crucialement, elle a maintenu une précision de 84 % sur l'ensemble conservé (score de Dice de 0,7576).
- Contrairement aux autres méthodes, ses performances s'améliorent avec des horizons d'entraînement plus longs, renforçant simultanément l'oubli et la rétention.
Méthodes basées sur le gradient (Retain Label/Max Loss) : Bien qu'efficaces pour supprimer la performance de l'ensemble à oublier, ces méthodes ont souffert d'une dégradation catastrophique de l'ensemble conservé, surtout à 50 époques. La négation non contrainte de la perte a poussé le modèle vers de mauvaises régions de l'espace des paramètres.
Interventions dans l'espace des caractéristiques (RE, LO, LN) :
- L'Encodeur Aléatoire (RE) a préservé la performance de l'ensemble conservé mais a obtenu un oubli très limité (écart de Dice ~0,01–0,04), suggérant que le décodeur peut compenser les caractéristiques corrompues de l'encodeur.
- Apprendre les autres/le bruit (LO, LN) a provoqué un effondrement quasi total de la performance de l'ensemble conservé, indiquant que la manipulation agressive des caractéristiques a trop perturbé les représentations apprises.
Décodeur Fixé (FD) : A montré un oubli modéré à 20 époques mais est devenu instable à 50 époques, finissant par inverser le comportement voulu en performant mieux sur l'ensemble à oublier que sur l'ensemble conservé.

4. Contributions et Signification

L'article revendique les contributions et significations suivantes :

Premier benchmark systématique : À la connaissance des auteurs, il s'agit de la première étude évaluant systématiquement plusieurs stratégies d'oubli approximatif spécifiquement pour la segmentation d'images médicales 3D utilisant des ensembles à oublier au niveau du sujet. Les benchmarks précédents étaient largement limités aux tâches de classification 2D (ex: CIFAR-10, ImageNet).
Évaluation empirique de l'oubli 3D : L'étude adapte et évalue ces stratégies sur un cadre Med3D ResNet-50, fournissant les premières données empiriques sur la suppression de connaissances spécifiques aux patients dans les modèles volumétriques 3D.
Protocole d'évaluation reproductible : Les auteurs établissent un protocole utilisant des métriques spécifiques à la segmentation (Dice et MAE) pour quantifier le compromis entre l'efficacité de l'oubli et l'utilité clinique retenue, répondant à la difficulté d'appliquer les métriques 2D aux tâches de prédiction dense 3D.
Identification de la stratégie optimale : L'étude identifie la stratégie d'Étiquette Bruyante (Noisy Label) comme la méthode la plus robuste pour ce domaine, capable de parvenir à un oubli fort tout en préservant la majorité de l'utilité du modèle sur les données conservées.

5. Conclusion et Travaux Futurs

L'étude conclut que bien que de nombreuses stratégies d'oubli existent, elles échouent souvent dans le contexte complexe et de haute dimension de l'imagerie médicale 3D, soit en échouant à oublier efficacement, soit en détruisant l'utilité du modèle. La stratégie d'Étiquette Bruyante émerge comme la solution la plus viable pour l'oubli au niveau du sujet dans ce domaine.

Les auteurs notent que les travaux futurs devraient se concentrer sur :

Des évaluations de confidentialité adverses formelles utilisant l'inférence d'appartenance (membership inference) ou les attaques par inversion de modèle pour prouver rigoureusement la suppression des informations résiduelles.
L'investigation d'algorithmes d'optimisation adaptatifs (ex: ordonnancement dynamique de l'alpha) et de l'ajustement fin efficace en paramètres (ex: LoRA) pour stabiliser davantage l'oubli dans l'espace des caractéristiques.

L'article souligne que le développement de méthodes d'oubli efficaces est une étape nécessaire vers la construction de systèmes d'IA clinique dignes de confiance qui respectent les principes de confidentialité dans les contextes de santé réels.