UniPrompt-CL: Sustainable Continual Learning in Medical AI with Unified Prompt Pools

Each language version is independently generated for its own context, not a direct translation.

Imaginez que vous êtes un médecin expert qui apprend tout au long de sa carrière.

Dans le monde de l'intelligence artificielle (IA), la plupart des modèles sont comme des étudiants qui apprennent une fois avec un manuel fixe, puis arrêtent d'étudier. Le problème ? Le monde médical change vite : de nouveaux appareils, de nouvelles maladies, de nouvelles techniques apparaissent. Si l'IA ne peut pas apprendre continuellement, elle devient obsolète.

C'est là qu'intervient le Continual Learning (Apprentissage Continu). Mais la plupart des méthodes actuelles sont comme des étudiants qui ont appris à reconnaître des chats et des voitures (des images naturelles), et qui échouent lamentablement quand on leur montre des radiographies ou des lésions de peau. Pourquoi ? Parce que les détails qui comptent en médecine sont subtils : un léger changement de couleur, une petite tache précise, pas un gros objet qui change de forme.

Voici comment les auteurs de cette étude, Gyutae Oh et Jitae Shin, ont résolu ce problème avec leur nouvelle méthode appelée UniPrompt-CL.

1. Le Problème : L'Étagère Encombrée

Imaginez que l'IA utilise une bibliothèque de "mots-clés" (appelés prompts) pour comprendre les images.

Les anciennes méthodes (pour les chats et voitures) remplissent cette bibliothèque de manière désordonnée. Elles ajoutent des mots-clés à chaque étage de leur cerveau (couche par couche), ce qui crée beaucoup de redondance. C'est comme avoir trois dictionnaires différents pour le même mot, ce qui gaspille de l'espace et de l'énergie.
En médecine, c'est pire. Comme les images médicales sont très précises et standardisées, avoir des mots-clés qui se chevauchent empêche l'IA de voir les petits détails vitaux (comme une micro-hémorragie dans un œil).

2. La Solution : UniPrompt-CL (Le Bibliothécaire Intelligents)

Les chercheurs proposent une nouvelle organisation de cette bibliothèque avec trois idées clés :

A. Une Bibliothèque Unifiée (Le "Prompt Pool" Unifié)

Au lieu d'avoir des étagères séparées pour chaque niveau de profondeur du cerveau de l'IA, ils créent une seule grande bibliothèque centrale partagée par tout le système.

L'analogie : Imaginez un chef cuisinier qui n'a plus 10 placards séparés pour chaque type d'ingrédient, mais un seul grand garde-manger centralisé. Cela évite d'avoir trois fois la même épice et permet de trouver exactement ce qu'il faut plus vite.
Le résultat : L'IA utilise mieux sa mémoire et évite de répéter les mêmes informations inutiles.

B. L'Expansion Minimale (Ajouter juste ce qu'il faut)

Quand l'IA rencontre un nouveau type de maladie (par exemple, passer de la rétine diabétique à un cancer de la peau), elle n'a pas besoin de réapprendre tout depuis zéro.

L'analogie : C'est comme si vous appreniez une nouvelle langue. Vous ne réécrivez pas tout votre dictionnaire. Vous ajoutez simplement 20 % de nouveaux mots spécifiques à cette langue, tout en gardant les anciens mots bien rangés et gelés (vous ne les oubliez pas).
Le résultat : L'IA apprend vite, sans oublier ce qu'elle savait avant (pas d'amnésie catastrophique).

C. Le "Cerveau" Unique et Rapide

Les anciennes méthodes devaient souvent faire passer l'image deux fois dans le cerveau de l'IA pour bien comprendre, ce qui est lent et coûteux en énergie.

L'analogie : UniPrompt-CL est comme un lecteur rapide qui comprend le livre d'un seul coup d'œil, alors que les autres doivent le relire deux fois pour être sûrs.
Le résultat : C'est beaucoup plus rapide et moins cher à faire tourner, ce qui est crucial pour les hôpitaux qui ont des budgets limités.

3. Les Résultats : Plus Précis, Plus Économe

Les chercheurs ont testé leur méthode sur des images de rétinopathie diabétique (yeux) et de cancer de la peau.

Précision : Ils ont gagné entre 1 % et 3 % de précision par rapport aux meilleurs concurrents. En médecine, chaque pourcentage compte pour sauver des vies.
Efficacité : Ils ont réduit la consommation d'énergie (calculs) de moitié par rapport aux méthodes qui font deux passages.
Stabilité : L'IA n'oublie pas les anciennes maladies quand elle apprend les nouvelles.

En Résumé

UniPrompt-CL est comme un médecin résident ultra-efficace :

Il a un seul grand carnet de notes bien organisé (pas de doublons).
Il n'ajoute que les nouvelles pages nécessaires quand il rencontre un nouveau cas.
Il diagnostique plus vite et avec plus de justesse que ses collègues, sans avoir besoin de relire les dossiers deux fois.

C'est une avancée majeure pour rendre l'IA capable de s'adapter à l'évolution constante de la médecine, tout en restant légère et précise.

Each language version is independently generated for its own context, not a direct translation.

1. Problématique et Contexte

L'apprentissage continu (Continual Learning - CL) vise à permettre aux modèles d'IA de s'adapter à de nouvelles tâches sans oublier les connaissances précédentes. Cependant, la majorité des méthodes CL existantes sont conçues et validées sur des images naturelles (comme ImageNet ou CIFAR), ce qui les rend peu efficaces pour les données médicales.

Les auteurs identifient plusieurs défis spécifiques au domaine médical :

Biais de domaine et contraintes institutionnelles : Les images médicales sont acquises selon des protocoles standardisés, mais avec des variations subtiles dues aux équipements, aux hôpitaux et aux patients.
Frontières inter-étapes subtiles : Contrairement aux images naturelles qui présentent une grande variabilité intra-classe (angles, formes), les images médicales nécessitent de suivre des lésions fines et des changements de couleur très précis.
Inefficacité des méthodes Prompt-Based (PCL) actuelles : Les méthodes PCL existantes (comme OS-Prompt) apprennent souvent des régions de "prompts" trop larges et dispersées, ce qui crée des redondances entre les couches du réseau et gaspille la capacité de mémoire limitée. De plus, certaines approches nécessitent plusieurs inférences (double passage ViT) ou plusieurs backbones, augmentant considérablement le coût computationnel.

L'objectif est de concevoir une méthode CL adaptée au médical qui offre un meilleur compromis stabilité-plasticité avec un coût computationnel réduit.

2. Méthodologie : UniPrompt-CL

Les auteurs proposent UniPrompt-CL, une méthode d'apprentissage continu basée sur les prompts (Prompt-Based Continual Learning) spécifiquement conçue pour les données médicales. Elle repose sur trois piliers principaux :

A. Pool de Prompts Unifié (Unified Prompt Pool)

Contrairement aux approches précédentes qui utilisent des pools de prompts indépendants pour chaque couche du réseau (ce qui entraîne des redondances), UniPrompt-CL introduit un pool de prompts global et partagé à travers toutes les couches.

Fonctionnement : Les tokens [CLS] de chaque couche servent de requêtes pour sélectionner les prompts dans ce pool unique.
Avantage : Cela permet une utilisation plus efficace de la capacité des prompts, évitant l'encodage redondant d'informations de bas niveau et favorisant le suivi de détails fins à travers l'architecture hiérarchique.

B. Stratégie d'Expansion Minimale des Prompts (Few Prompt Expansion)

Pour gérer l'arrivée de nouvelles tâches (nouveaux ensembles de données) sans oublier les anciennes :

Au lieu de réentraîner tout le pool ou d'ajouter massivement des paramètres, la méthode n'ajoute qu'une petite fraction (20%) de nouveaux prompts à chaque étape.
Les prompts appris précédemment sont gelés (frozen), préservant ainsi les connaissances antérieures.
Cette approche limite le risque d'oubli catastrophique tout en minimisant l'augmentation de la taille du modèle.

C. Terme de Régularisation de Cohérence

Pour s'assurer que les nouveaux prompts ajoutés capturent efficacement les nouvelles informations sans interférer avec les anciens, un terme de régularisation ( $\mathcal{L}_s$ ) est introduit dans la fonction de perte.

Ce terme pénalise la similarité excessive entre les nouveaux prompts et les anciens, encourageant la diversité et la complémentarité des représentations.
La perte totale est définie comme : $\mathcal{L}_{total} = \mathcal{L}_{CE} + \lambda \mathcal{L}_s$ .

D. Architecture Efficace

Backbone unique : L'approche utilise un seul backbone (DINOv2-base) et ne nécessite qu'une seule inférence (single forward pass) par image.
Contraste avec l'état de l'art : Cela élimine le besoin de doubles inférences ViT ou de multiples backbones requis par des méthodes comme OS-Prompt++, réduisant drastiquement le coût computationnel (GFLOPs).

3. Contributions Clés

Conception spécifique au domaine médical : Identification du fait que les stratégies de prompt learning pour les images naturelles (zones larges) ne fonctionnent pas pour les images médicales (besoin de précision fine), et proposition d'un pool unifié pour y remédier.
Efficacité computationnelle : Réduction significative des coûts d'inférence grâce à une architecture à backbone unique et à une seule passe, tout en surpassant les méthodes multi-passes.
Nouvelle stratégie d'expansion : Introduction d'une expansion minimale des prompts (20%) couplée à une régularisation pour équilibrer plasticité et stabilité.
Validation rigoureuse : Démonstration de la supériorité de la méthode sur des ensembles de données réels de rétine diabétique et de cancer de la peau, surpassant les méthodes basées sur la régularisation, le réentraînement (rehearsal) et l'architecture.

4. Résultats Expérimentaux

Les expériences ont été menées sur des scénarios d'apprentissage incrémental de domaine (Domain-Incremental Learning) avec des ensembles de données de rétinopathie diabétique (APTOS, DDR, DRD) et de cancer de la peau (ISIC, HAM, DERM7).

Performance (Précision et F1-Score) :
- UniPrompt-CL atteint les meilleures performances par rapport à l'état de l'art (SOTA), améliorant la précision moyenne (AvgACC) de 1 à 3 points de pourcentage par rapport aux meilleures méthodes existantes.
- Dans le meilleur des cas, l'amélioration atteint +10 points de précision et +9 points de F1-score par rapport aux baselines.
- La méthode surpasse également les approches basées sur le réentraînement (Rehearsal) et la régularisation, tout en évitant les problèmes de confidentialité liés au stockage de données passées.
Efficacité et Coût (GFLOPs) :
- Grâce à l'inférence unique, UniPrompt-CL consomme 44,17 GFLOPs, contre 66,42 GFLOPs pour OS-Prompt++ (qui utilise deux inférences) et jusqu'à 168 GFLOPs pour les méthodes de réentraînement.
- La métrique CARA (Cost-Adjusted Retained Accuracy), qui combine précision, stabilité et coût, est nettement supérieure pour UniPrompt-CL, démontrant le meilleur compromis performance/efficacité.
Analyse de l'Oubli :
- Les résultats montrent une réduction significative de l'oubli catastrophique. Les nouveaux prompts capturent des informations distinctes sans chevaucher les anciens, comme le confirment les visualisations de similarité des prompts.

5. Signification et Impact

Ce travail est significatif car il comble le fossé entre l'apprentissage continu théorique (souvent testé sur des images naturelles) et les applications médicales pratiques.

Adaptabilité : Il démontre que les stratégies d'IA doivent être adaptées aux caractéristiques spécifiques des données (ici, la standardisation des protocoles d'acquisition médicale et la nécessité de détails fins).
Viabilité Clinique : En réduisant le coût computationnel et en éliminant le besoin de stocker des données historiques (contrairement aux méthodes de réentraînement), UniPrompt-CL offre une solution plus viable pour le déploiement dans des environnements hospitaliers où les ressources et la confidentialité des données sont critiques.
Futur : La méthode ouvre la voie à l'application de l'apprentissage continu sur d'autres modalités médicales (CT, IRM, pathologie) et tâches (segmentation, détection), en suggérant l'utilisation de encodeurs visuels spécifiques au domaine médical.

En résumé, UniPrompt-CL propose une approche robuste, efficace et économiquement viable pour l'apprentissage continu en intelligence artificielle médicale, résolvant les problèmes d'oubli et de surcoût computationnel grâce à une conception innovante des pools de prompts.