Courtroom Analogy: New Perspective on Uncertainty-Aware Classification

Résumé Technique : Analogie du Tribunal : Nouvelle Perspective sur la Classification Consciente de l'Incertain

Énoncé du Problème
Les modèles d'apprentissage automatique modernes produisent souvent des prédictions excessivement confiantes qui ne reflètent pas l'incertitude prédictive, posant des risques significatifs dans des domaines à haut enjeu. Bien que les méthodes d'Quantification de l'Incertain (UQ) en un seul passage, en particulier l'Apprentissage Profond Évidentiel (EDL), soient apparues comme des alternatives efficaces aux approches basées sur l'échantillonnage, elles font face à une limitation critique : elles se concentrent principalement sur l'amélioration de l'expressivité de la distribution de sortie (généralement une distribution de Dirichlet) sans fournir d'aperçu clair sur la manière dont l'incertitude est structurée et agrégée. Par conséquent, les méthodes existantes produisent souvent des estimations d'incertitude à faible interprétabilité, rendant difficile la distinction entre différentes sources d'incertitude (par exemple, preuves insuffisantes par rapport à des interprétations contradictoires).

Méthodologie : L'Analogie du Tribunal et MoDEX
Les auteurs proposent un nouveau cadre conceptuel pour la classification consciente de l'incertitude basé sur une « analogie du tribunal ». Dans cette perspective, la classification est modélisée comme un débat structuré parmi $K$ avocats, où chaque avocat représente une étiquette de classe potentielle.

1. Processus Génératif :

   • Opinions des Avocats : Chaque avocat $k$ forme une opinion probabiliste sur le vecteur de probabilité de classe $\pi$. Cette opinion est modélisée comme une distribution de Dirichlet, $Dir(\pi | \alpha_k)$.
   • Décomposition Structurée : Pour assurer l'évolutivité et l'interprétabilité, le paramètre de concentration $\alpha_k$ pour chaque avocat est décomposé en deux composantes :
     • Preuve Partagée ($\alpha$) : Une croyance de base reflétant les faits objectifs du cas observés par tous les avocats.
     • Plaidoirie Spécifique à la Classe ($\tau_k$) : Une masse de concentration supplémentaire que l'avocat $k$ attribue à sa propre classe, représentant des arguments interprétatifs ou un cadrage sélectif unique à cette classe.
   • Agrégation : Le verdict final est un mélange de ces opinions, pondéré par des poids de plausibilité dépendants de l'entrée $\omega(x)$. Mathématiquement, la distribution prédictive est un mélange structuré de distributions de Dirichlet :
     $$p(\pi | x) = \sum_{k=1}^K \omega_k(x) \text{Dir}(\pi | \alpha(x) + \tau_k(x)e_k)$$

2. Architecture MoDEX :
   Pour concrétiser ce cadre, les auteurs introduisent Mixture of Dirichlet EXperts (MoDEX), une architecture neuronale en un seul passage. Étant donné une entrée $x$, MoDEX prédit trois ensembles de paramètres via des têtes neuronales légères :

   • Tête de Concentration : Prédit la preuve de base partagée $\alpha(x)$.
   • Tête de Commutation (Gating) : Prédit les poids de plausibilité du mélange $\omega(x)$.
   • Tête de Force de Plaidoirie : Prédit les forces de plaidoirie spécifiques à la classe $\tau(x)$.
     Ces paramètres définissent un modèle probabiliste cohérent équivalent à la distribution de Dirichlet Flexible Étendue (EFD).

3. Entraînement et Mesures d'Incertitude :

   • Fonction Objectif : MoDEX est entraîné en utilisant une perte composite comprenant : (i) l'Erreur Quadratique Moyenne (MSE) sur la moyenne prédictive, (ii) une régularisation basée sur le score de Brier sur $\omega(x)$ pour prévenir un pondération dégénérée, et (iii) une régularisation par divergence KL sur $\tau(x)$ pour guider la plaidoirie spécifique à la classe.
   • Décomposition de l'Incertitude : Le cadre sépare explicitement l'incertitude en :
     • Incertitude Aléatoire : Entropie de la distribution prédictive d'ordre un induite (ambiguïté résiduelle dans le verdict final).
     • Incertitude Épistémique : Variance totale de la distribution d'ordre deux, décomposable davantage en incertitude inter-expert (désaccord entre les avocats) et incertitude intra-expert (imprécision au sein des avocats individuels due à des preuves faibles).

Contributions Clés

• Cadre Conceptuel : L'introduction de l'analogie du tribunal fournit un mécanisme sémantiquement ancré pour modéliser l'agrégation de l'incertitude, déplaçant l'accent des familles de distributions purement expressives vers une incertitude induite structurellement.
• Architecture MoDEX : Un réseau de neurones novateur en un seul passage qui réalise l'analogie du tribunal, offrant une alternative interprétable et économe en paramètres ($O(K)$) aux EDL standard.
• Avancées Théoriques :
  • Généralisation : Il est démontré que MoDEX se réduit à l'EDL standard et à F-EDL dans des paramètres spécifiques, l'établissant comme une généralisation fondée sur des principes des modèles existants.
  • Interprétations Duales : Il est démontré que MoDEX admet deux vues équivalentes : (i) un ensemble pondéré de $K$ experts EDL, et (ii) un mélange d'un prédicteur EDL de base et d'un prédicteur softmax.
  • Décomposition de l'Incertitude : Il est démontré que l'incertitude épistémique se décompose naturellement en composantes inter-expert et intra-expert, capturant ainsi plusieurs sources d'incertitude.
• Performance : Des performances de pointe démontrées sur divers benchmarks, y compris des configurations standard, à longue queue et bruyantes.

Résultats Expérimentaux
Des expériences extensives ont été menées sur CIFAR-10, CIFAR-100, CIFAR-10-LT (à longue queue) et DMNIST-LT (bruyant et à longue queue).

• Configurations Standard et à Longue Queue : MoDEX a atteint une précision de classification supérieure et a surpassé les variantes EDL de l'état de l'art (par exemple, I-EDL, R-EDL, F-EDL) dans les tâches de détection de mauvaise classification et de détection hors distribution (OOD). Notamment, dans des configurations à longue queue sévères ($\rho=0.01$), MoDEX a considérablement atténué le biais vers les classes principales, maintenant une détection OOD robuste là où d'autres méthodes échouaient.
• Changement de Distribution : MoDEX a démontré une forte capacité à détecter les changements de distribution (CIFAR-10-C), l'incertitude épistémique augmentant de manière cohérente avec la sévérité de la corruption.
• Efficacité : En tant que méthode en un seul passage, MoDEX maintient des temps d'inférence comparables à l'EDL et F-EDL, surpassant considérablement les méthodes basées sur l'échantillonnage comme les Deep Ensembles et MC Dropout en efficacité computationnelle tout en atteignant des performances UQ compétitives ou supérieures.
• Analyse Qualitative : Les visualisations sur des entrées ambiguës de classes à longue queue ont montré que MoDEX pouvait séparer la preuve partagée de la plaidoirie spécifique à la classe, empêchant le biais vers les classes principales de déformer la preuve de base et fournissant des estimations d'incertitude interprétables qui s'alignent sur les distributions d'annotation humaine.

Signification et Revendications
L'article revendique que MoDEX offre un cadre fondé sur des principes pour la classification consciente de l'incertitude qui équilibre l'efficacité computationnelle avec une interprétabilité profonde. En structurant l'agrégation de l'incertitude à travers l'analogie du tribunal, MoDEX permet aux praticiens de diagnostiquer la source de l'incertitude (par exemple, distinguer entre des opinions d'experts contradictoires et des preuves insuffisantes). Les auteurs positionnent MoDEX non pas comme une méthode qui récupère une distribution d'ordre deux unique de vérité terrain à partir de la supervision one-hot seule, mais comme un modèle qui induit des signaux d'incertitude structurés et significatifs grâce à ses biais inductifs architecturaux. Cette approche adresse la nature de « boîte noire » des variantes EDL précédentes, fournissant un mécanisme transparent pour la formation et l'agrégation de l'incertitude prédictive, ce qui est crucial pour un déploiement fiable dans des applications critiques pour la sécurité.