CUPID: A Plug-in Framework for Joint Aleatoric and Epistemic Uncertainty Estimation with a Single Model

Le papier présente CUPID, un module plug-in général qui estime conjointement les incertitudes aléatoire et épistémique dans n'importe quel réseau pré-entraîné sans nécessiter de modification ni de réentraînement, offrant ainsi des estimations d'incertitude modulaires, interprétables et agnostiques au modèle pour des systèmes d'IA plus fiables.

L'essentiel

Imaginez que vous avez un expert en intelligence artificielle (IA) très doué, capable de diagnostiquer des maladies sur des photos de yeux ou de deviner à quoi ressemblera une image floue une fois agrandie. C'est formidable, mais il y a un problème : cet expert est parfois trop confiant. Il peut vous dire avec 100 % de certitude que c'est une tumeur, alors qu'il s'agit juste d'une ombre, ou inversement, ignorer un danger réel.

Dans le monde réel (médecine, voitures autonomes), cette confiance aveugle est dangereuse. On a besoin que l'IA dise : "Je suis sûr à 90 %" ou "Je ne suis pas du tout sûr, regardez-moi ça de plus près".

C'est là qu'intervient le CUPID, le sujet de ce papier de recherche.

Qu'est-ce que CUPID ?

Le nom est un clin d'œil au dieu de l'amour Cupidon. Tout comme Cupidon perce les cœurs pour révéler l'amour caché, CUPID perce les modèles d'IA pour révéler leurs doutes cachés.

Mais attention, ce n'est pas une nouvelle IA qu'il faut entraîner de zéro. C'est un "module plug-and-play" (comme une extension de navigateur ou un accessoire de téléphone). Vous pouvez le brancher sur n'importe quel modèle d'IA existant, sans avoir à le réapprendre ni à le modifier.

Les deux types de doutes (La métaphore du chef cuisinier)

Pour comprendre CUPID, imaginons un chef cuisinier (l'IA) qui prépare un plat. Il peut avoir deux types de doutes :

1. L'incertitude "Aléatoire" (Aleatoric) : Le bruit dans la cuisine.

   • C'est quoi ? C'est le bruit, la poussière, une photo floue, un ingrédient de mauvaise qualité. C'est du bruit dans les données.
   • Le problème : Même si le chef est un génie, il ne peut pas cuisiner parfaitement avec des tomates pourries. C'est une limite inhérente à la matière première.
   • Ce que fait CUPID : Il dit : "Attention, la photo est floue ou le signal est mauvais. Je ne peux pas être sûr à cause de la qualité de l'image, pas à cause de moi."

2. L'incertitude "Épistémique" (Epistemic) : Le manque de connaissance du chef.

   • C'est quoi ? C'est quand le chef n'a jamais vu ce type de plat avant. Par exemple, si on lui donne une photo d'un plat exotique qu'il n'a jamais cuisiné.
   • Le problème : Le chef n'est pas confiant parce que l'image est mauvaise, mais parce qu'il ne connaît pas le sujet.
   • Ce que fait CUPID : Il dit : "Je ne connais pas ce plat. Je n'ai jamais vu ça dans mes livres de cuisine. Je ne devrais pas prendre de décision ici."

Comment CUPID fonctionne-t-il ? (La magie du "Jeux de rôle")

CUPID est malin. Il ne demande pas au chef de réfléchir à nouveau. Il joue un petit jeu d'acteur avec les données intermédiaires :

1. Pour le doute "Aléatoire" (Le bruit) : CUPID apprend à estimer le "bruit" de la cuisine. Il regarde les données et dit : "Tiens, cette image semble très bruitée, donc je vais augmenter mon niveau d'incertitude."
2. Pour le doute "Épistémique" (L'ignorance) : CUPID fait une petite expérience. Il prend les données intermédiaires du chef, les modifie très légèrement (comme si on changeait un ingrédient), et demande au chef : "Si je change un tout petit peu les choses, est-ce que ton résultat change radicalement ?"
   • Si le résultat change énormément pour un tout petit changement, c'est que le chef est instable et qu'il ne connaît pas bien le sujet (doute épistémique élevé).
   • Si le résultat reste stable, c'est que le chef est confiant.

Pourquoi est-ce une révolution ?

Avant CUPID, pour avoir ces deux types d'informations, il fallait souvent :

• Construire des modèles complexes et lourds (comme des "réseaux bayésiens").
• Réentraîner tout le système de zéro (ce qui coûte des milliers d'euros et prend du temps).
• Utiliser plusieurs modèles en même temps (comme avoir 10 chefs qui cuisinent le même plat et prendre la moyenne).

Avec CUPID :

• C'est léger : On ajoute juste un petit module.
• C'est rapide : Pas besoin de réapprendre le modèle.
• C'est transparent : On sait exactement pourquoi l'IA est incertaine. Est-ce à cause de la qualité de l'image (Aléatoire) ou parce qu'elle ne connaît pas le sujet (Épistémique) ?

À quoi ça sert dans la vraie vie ?

• En médecine : Si un système de diagnostic a un doute "Aléatoire" élevé, le médecin sait : "Ah, l'image est floue, il faut la reprendre." Si le doute est "Épistémique", le médecin sait : "C'est un cas rare que l'IA ne connaît pas, je dois intervenir moi-même."
• En voiture autonome : Si la voiture a un doute "Épistémique" (elle ne reconnaît pas un objet), elle ralentit et demande de l'aide. Si c'est un doute "Aléatoire" (il pleut, la caméra est sale), elle peut ajuster sa confiance mais continuer prudemment.

En résumé

CUPID est comme un traducteur de doutes pour les intelligences artificielles. Il permet de brancher un petit accessoire sur n'importe quel modèle existant pour lui demander : "Es-tu sûr de toi ? Et si oui, est-ce parce que tu es intelligent ou parce que l'image est bonne ?"

Cela rend l'IA plus honnête, plus sûre et plus facile à utiliser dans des situations critiques où une erreur peut coûter cher.

Résumé technique

Voici un résumé technique détaillé du papier « CUPID: A Plug-in Framework for Joint Aleatoric and Epistemic Uncertainty Estimation with a Single Model », accepté à ICLR 2026.

1. Problématique

L'estimation fiable de l'incertitude dans les réseaux de neurones profonds est cruciale pour le déploiement de modèles dans des domaines à haut risque (diagnostic médical, prise de décision autonome). Cependant, les méthodes existantes présentent plusieurs limitations majeures :

• Spécialisation : Elles ne traitent souvent qu'un seul type d'incertitude (soit l'incertitude aléatoire, soit l'incertitude épistémique) sans pouvoir les distinguer clairement.
• Coût et complexité : Les approches avancées (comme les réseaux bayésiens ou les ensembles profonds) nécessitent souvent une modification de l'architecture du modèle de base et un réentraînement complet, ce qui est coûteux et incompatible avec les systèmes existants.
• Manque d'interprétabilité : Il est difficile de comprendre la source de l'incertitude (bruit des données vs manque de connaissances du modèle) pour guider les actions correctives.

L'objectif est donc de développer une méthode capable d'estimer simultanément ces deux types d'incertitudes sans modifier ni réentraîner le modèle pré-entraîné.

2. Méthodologie : CUPID

Les auteurs proposent CUPID (Comprehensive Uncertainty Plug-in estImation moDel), un module léger et universel qui peut être inséré à n'importe quelle couche intermédiaire d'un réseau pré-entraîné. CUPID ne modifie pas les poids du modèle principal ($M$) mais opère sur les représentations de caractéristiques intermédiaires ($m_l$).

Le module se compose de trois éléments clés :

1. Extracteur de caractéristiques : Traite les features intermédiaires du modèle.
2. Branche de Reconstruction (pour l'incertitude épistémique) :
   • Elle génère une version perturbée des features ($m'_l$) qui doit maximiser la déviation par rapport à l'original tout en préservant la prédiction finale (invariance de sortie).
   • L'incertitude épistémique est quantifiée par la divergence entre la prédiction originale et la prédiction obtenue via les features perturbées : $U_{epis} = \|\hat{y} - \hat{y}'\|_1$.
   • Cela permet de détecter les régions où le modèle est sensible aux perturbations internes (manque de confiance).
3. Branche d'Incertitude (pour l'incertitude aléatoire) :
   • Elle apprend une cartographie identité bayésienne pour estimer la variance dépendante des données ($\hat{\sigma}^2$).
   • Elle modélise le bruit inhérent aux données (bruit d'acquisition, ambiguïté) via une distribution gaussienne hétéroscédastique.
   • L'incertitude aléatoire est donnée par la variance prédite : $U_{alea} = \hat{\sigma}^2$.

Fonction de perte :
CUPID est optimisé conjointement avec une perte totale combinant :

• Une perte épistémique ($L_{epis}$) qui encourage la perturbation des features tout en maintenant la cohérence de la prédiction.
• Une perte aléatoire ($L_{alea}$) basée sur la vraisemblance négative (log-likelihood) pour estimer la variance.
• Un terme de perte de différence de features ($-\|m_l - m'_l\|_1$) pour éviter les solutions triviales et renforcer la sensibilité aux changements de distribution.

3. Contributions Clés

• Module Plug-and-Play : CUPID est le premier cadre général capable d'estimer conjointement les deux types d'incertitudes sans réentraînement du modèle de base ni modification de sa structure.
• Désentanglement des incertitudes : La méthode permet de distinguer clairement si une prédiction incertaine est due au bruit des données (aléatoire) ou à un manque de connaissances du modèle (épistémique), offrant des insights actionnables (ex: réacquisition d'image vs révision du modèle).
• Analyse de la propagation : En insérant CUPID à différentes profondeurs, les auteurs montrent que l'incertitude épistémique s'accumule dans les couches profondes (représentations abstraites), tandis que l'incertitude aléatoire est mieux capturée près de la sortie ou dans les couches profondes encodant la variabilité des données.
• Performance SOTA : Le modèle atteint des performances de pointe sur plusieurs tâches (classification, régression, détection OOD) tout en étant plus efficace que les ensembles ou les réseaux bayésiens.

4. Résultats Expérimentaux

Les évaluations ont été menées sur trois types de tâches :

• Détection de mauvaise classification (Imagerie Médicale) :

  • Sur les jeux de données GLV2 (glaucoma) et HAM10000 (lésions cutanées), CUPID dépasse les méthodes de référence (MC Dropout, BNN, Rate-in).
  • Une observation intéressante : sur GLV2 (bruit d'acquisition élevé), la branche aléatoire domine, tandis que sur HAM10000 (classes déséquilibrées), la branche épistémique est plus performante.

• Détection Hors Distribution (OOD) :

  • CUPID Epistemic excelle pour détecter des décalages subtils au sein de tâches cliniques (PAPILA, ACRIMA).
  • CUPID Aleatoric surpasse les autres méthodes pour des décalages de domaine extrêmes (CIFAR-10), car il modélise efficacement l'imprévisibilité dans les espaces de features sous-représentés.

• Super-Résolution d'Image (Régression) :

  • Sur des images naturelles (Set5, Set14), l'incertitude aléatoire est le facteur dominant.
  • Sur des images médicales (IXI, IRM cérébrale), très différentes des données d'entraînement, l'incertitude épistémique devient prédominante, démontrant la capacité d'adaptation de CUPID.
  • Les cartes d'incertitude générées par CUPID s'alignent mieux avec les erreurs réelles que les méthodes concurrentes.

• Efficacité Computationnelle :

  • CUPID est extrêmement rapide à l'inférence (ex: ~10ms pour la classification vs ~50ms pour MC Dropout nécessitant plusieurs passes).
  • Le temps d'entraînement est négligeable car seul le module plug-in est entraîné, contrairement aux méthodes nécessitant un réentraînement complet.

5. Signification et Impact

CUPID représente une avancée significative vers une IA plus transparente et digne de confiance.

• Praticité : En éliminant le besoin de réentraînement, il rend l'estimation d'incertitude accessible pour les systèmes hérités et les déploiements en temps réel.
• Interprétabilité : En fournissant une vue granulaire (couche par couche) de l'origine de l'incertitude, il aide les praticiens à prendre des décisions éclairées (ex: "L'image est-elle floue ?" vs "Le modèle n'a-t-il jamais vu ce type de lésion ?").
• Généralité : Sa capacité à fonctionner aussi bien sur la classification que sur la régression, et sur des données structurées ou des images, en fait un outil universel pour la quantification d'incertitude.

En résumé, CUPID offre une solution modulaire, efficace et interprétable pour débloquer le potentiel des modèles de deep learning dans des environnements critiques où la confiance est primordiale.