🤖 machine learning

Evaluating Epistemic Uncertainty: Beyond OOD Detection and Active Learning

Cet article propose un cadre de théorie de la décision pour évaluer l'incertitude épistémique en se basant sur la minimisation du regret plutôt que sur les tâches de substitution traditionnelles, démontrant que les mesures de corrélation standards échouent à prédire l'utilité opérationnelle et révélant des écarts significatifs entre les classements décisionnels et ceux des tâches de substitution des méthodes d'incertitude.

Auteurs originaux : Jakub Paplhám, Willem Waegeman, Eyke Hüllermeier, Vojtěch Franc

Publié 2026-07-17

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jakub Paplhám, Willem Waegeman, Eyke Hüllermeier, Vojtěch Franc

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes le capitaine d'un vaisseau spatial naviguant à travers une nébuleuse chaotique. L'ordinateur de votre vaisseau est incroyablement intelligent, mais il doit vous rapporter deux types distincts d'« incertitude ». Le premier est l'incertitude aléatoire : c'est le « brouillard de la guerre », le bruit dans les capteurs, les parasites sur la radio, le fait que la nébuleuse elle-même soit simplement désordonnée et imprévisible. Peu importe la performance de votre ordinateur, ce bruit sera toujours présent ; c'est le chaos irréductible de l'univers. La seconde est l'incertitude épistémique : c'est le sentiment d'« ignorance » de l'ordinateur. C'est ce qu'il ressent lorsqu'il observe une zone de l'espace qu'il n'a jamais vue auparavant et qu'il se dit : « Je n'ai aucune idée de ce qui se trouve là, car je n'ai pas étudié cette région ». Ce type d'incertitude est réductible ; si l'ordinateur apprend davantage, cette peur disparaît.

Pendant longtemps, les scientifiques essayant de construire une meilleure IA se sont acharnés à apprendre aux ordinateurs à faire la distinction entre le « brouillard » et leur propre « ignorance ». Pourquoi ? Parce que si un ordinateur sait qu'il est ignorant, il peut dire : « Je ne sais pas, ne me pose pas la question », et ainsi éviter de commettre une erreur dangereuse. Mais voici la partie délicate : comment tester si un ordinateur est réellement capable de repérer sa propre ignorance ? Traditionnellement, les chercheurs ont utilisé deux principaux « tests de substitution ». L'un est la détection de données hors distribution (OOD), qui demande : « Peux-tu dire quand tu regardes quelque chose de totalement étrange que tu n'as jamais vu ? ». L'autre est l'apprentissage actif, qui demande : « Si tu pouvais choisir une nouvelle donnée à étudier, laquelle t'apprendrait le plus ? ». La grande question est : ces tests nous disent-ils réellement si l'ordinateur est bon pour repérer sa propre ignorance, ou testent-ils tout à fait autre chose ?

Cet article, intitulé « Évaluer l'incertitude épistémique : au-delà de la détection OOD et de l'apprentissage actif », soutient que nous jouons le mauvais jeu. Les auteurs, une équipe de chercheurs issus d'universités de Prague, Gand et Munich, ont découvert que la « réponse parfaite » mathématique pour repérer des données bizarres (OOD) ou pour choisir le meilleur matériel d'étude (Apprentissage Actif) est en réalité complètement différente de la « réponse parfaite » pour repérer l'ignorance (Regret).

Pour comprendre cela, imaginez que vous êtes un enseignant corrigeant un élève.

Le test OOD revient à demander à l'enseignant : « Pouvez-vous dire si cette question a été écrite par un extraterrestre ? ». La réponse parfaite dépend uniquement de l'apparence de la question, et non de savoir si l'élève connaît la réponse.
Le test d'Apprentissage Actif revient à demander : « Quelle question devrions-nous poser ensuite pour aider l'élève à le plus apprendre ? ». La réponse parfaite dépend de la mesure dans laquelle les futures connaissances de l'élève s'amélioreront.
Le test du Regret (Incertitude Épistémique) consiste à demander : « Pour cette question spécifique en ce moment, quelle est la probabilité que l'élève se trompe parce qu'il ne maîtrise tout simplement pas le sujet ? ».

L'article prouve mathématiquement que ces trois « réponses parfaites » pointent souvent vers des directions totalement différentes. Un ordinateur peut être excellent pour repérer des questions extraterrestres (OOD) mais incapable de savoir quand il est sur le point d'échouer à un problème de mathématiques spécifique (Regret). En fait, les auteurs ont construit un monde de « bac à sable » unidimensionnel simple (inspiré par une fonction appelée fonction de Rossellini) pour montrer que la meilleure stratégie pour la détection OOD pourrait vous dire de rejeter une région spécifique de l'espace, tandis que la meilleure stratégie pour minimiser le regret vous dirait d'accepter cette même région. Ils sont fondamentalement désalignés.

En raison de ce décalage, les auteurs soutiennent que l'utilisation de la détection OOD ou de l'apprentissage actif comme « substitut » pour juger la capacité d'un modèle à comprendre sa propre ignorance est erronée. Ils montrent qu'une méthode qui arrive en première position sur les tests OOD peut arriver en dixième position sur les tests de regret, et vice versa. Par exemple, dans leurs tests sur le jeu de données CIFAR-10H (une collection d'images comportant de nombreuses opinions humaines sur ce qu'elles représentent), une méthode appelée « Réseaux Évidentiels » était médiocre pour repérer des données bizarres (OOD) mais était la meilleure pour identifier quand elle était ignorante et susceptible de commettre une erreur. Inversement, les « Ensembles Profonds » (Deep Ensembles) étaient excellents pour repérer des données bizarres mais échouaient à minimiser le regret.

L'article traite également d'une idée populaire dans le domaine appelée « désentrelacement » (disentanglement). Récemment, certains chercheurs ont soutenu que si le score de « brouillard » d'un ordinateur et son score d'« ignorance » sont fortement corrélés (ils augmentent et diminuent ensemble), l'ordinateur a échoué à séparer ces deux concepts. Les auteurs contestent cela. Ils montrent que même si les scores sont fortement corrélés, l'ordinateur peut tout de même prendre des décisions parfaites. Au lieu de simplement vérifier si les scores sont corrélés, ils proposent un nouveau test plus pratique : le écart de Pareto (Pareto-gap).

Voyez l'écart de Pareto comme une « carte de décision ». Imaginez un graphique en 3D où vous pouvez échanger entre le nombre de questions auxquelles vous répondez (Couverture), le nombre d'erreurs que vous commettez (Risque) et la quantité d'« ignorance » que vous évitez (Regret). L'ordinateur « parfait » dessine une courbe idéale et fluide sur cette carte. Les auteurs mesurent à quel point la courbe d'un ordinateur réel est proche de cette ligne parfaite. Ils ont découvert que les méthodes présentant une forte corrélation entre leurs scores (ce que certains considéraient comme un défaut) pouvaient en fait dessiner des courbes très proches de la ligne parfaite, ce qui signifie qu'elles étaient opérationnellement utiles.

En résumé, les auteurs prouvent que nous ne pouvons pas simplement regarder si un modèle repère bien les données bizarres ou choisit bien ses sujets d'étude pour voir s'il comprend sa propre ignorance. Ils fournissent un nouveau cadre qui traite l'incertitude comme un outil pour prendre de meilleures décisions, montrant que les anciennes méthodes de test nous mènent souvent à de mauvaises conclusions sur quels modèles d'IA sont réellement sûrs et fiables. Leurs conclusions reposent sur des preuves mathématiques rigoureuses et des benchmarks étendus sur des jeux de données réels avec des annotations humaines denses, suggérant que le domaine doit cesser de compter sur ces tests de substitution pratiques mais trompeurs, et commencer à mesurer l'incertitude en fonction du regret réel qu'elle aide à éviter.

Résumé Technique : Évaluer l'incertitude épistémique au-delà de la détection OOD et de l'apprentissage actif

Énoncé du problème
L'évaluation actuelle de l'incertitude épistémique (l'ignorance du modèle) repose largement sur des tâches substitutives telles que la détection de hors-distribution (OOD) et l'apprentissage actif. Cependant, les auteurs soutiennent que les stratégies de décision bayésiennes optimales pour ces tâches de substitution ne s'alignent pas mathématiquement avec les scores utilisés pour quantifier l'incertitude épistémique lors du déploiement. La détection OOD optimise les rapports de vraisemblance des entrées indépendamment de la perte prédictive, tandis que l'apprentissage actif optimise la réduction globale de l'erreur, alors que l'incertitude épistémique dans un contexte de déploiement est définie comme l'erreur réductible locale (le regret). Ce décalage théorique conduit à une situation où des méthodes classées en tête sur des tâches de substitution peuvent être peu performantes lorsqu'elles sont évaluées sur leur utilité opérationnelle réelle : la minimisation du regret. De plus, la littérature récente critique le désenchevêtrement de l'incertitude basé sur les hautes corrélations de rang entre les composantes aléatoires et épistémiques apprises, une métrique que les auteurs soutiennent ne pas capturer l'utilité fonctionnelle.

Méthodologie
Le papier propose un cadre unifié pour évaluer l'incertitude épistémique en mesurant directement sa capacité à identifier le regret, plutôt qu'en s'appuyant sur des tâches de substitution.

Unification théorique : Les auteurs unifient la classification sélective standard (incertitude totale) et l'option de rejet épistémique en un cadre d'optimisation contraint unique. Ils formulent la prédiction sélective comme un problème d'optimisation sur la couverture ( $\rho$ ), le risque attendu ($Ri$) et le regret ($Re$).
Sélecteur optimal : Ils prouvent (Théorème 1) que le sélecteur optimal pour toute combinaison de ces contraintes est une combinaison convexe seuillée des incertitudes aléatoires ( $A^*$ ) et épistémiques ( $E^*$ ) de vérité terrain. Le score optimal prend la forme $(1-\lambda)A^* + \lambda E^*$ , où $\lambda \in [1/2, 1]$ .
Métrique diagnostique (Pareto-gap) : Au lieu de s'appuyer sur la corrélation de rang pour évaluer le désenchevêtrement, les auteurs proposent de mesurer la distance entre la surface réalisable d'une méthode dans l'espace (Couverture, Risque, Regret) et la surface de Pareto-optimalité théorique ( $S^*$ ). Cette distance, nommée « Pareto-gap », sert de diagnostic pour déterminer si les composantes apprises contiennent conjointement l'information nécessaire aux décisions de déploiement optimales.
Évaluation empirique : Pour contourner l'incalculabilité du vrai regret dans les contextes standards à étiquette unique, les auteurs utilisent des jeux de données avec des annotations humaines denses (ex. : CIFAR-10H, APPA-REAL, suite DCIC) afin d'approcher la distribution génératrice de données réelle $p^*(y|x)$ . Cela permet le calcul exact du prédicteur bayésien optimal et du véritable regret fréquentiste. Ils évaluent les méthodes classiques de quantification de l'incertitude (MC-Dropout, Deep Ensembles, DDU, Réseaux Évidentiels) par rapport à ces vérités de terrain et les comparent aux résultats des tâches de substitution (détection OOD, Apprentissage Actif).

Contributions clés

Décalage théorique : Le papier démontre que les scoreurs bayésiens optimaux pour la détection OOD, l'apprentissage actif (BALD, EER) et la minimisation du regret de rejet ciblent fondamentalement des régions différentes de l'espace d'entrée. Une méthode optimisée pour un critère peut échouer sous un autre.
Cadre unifié : Les auteurs fournissent une preuve mathématique que la règle de décision optimale pour minimiser l'excès de risque sous contraintes de couverture est toujours un seuil sur une combinaison convexe des incertitudes aléatoires et épistémiques.
Nouveau diagnostic : Ils remettent en question l'utilisation de la corrélation de rang pour évaluer le désenchevêtrement de l'incertitude. Ils montrent qu'une corrélation élevée n'indique pas nécessairement un échec de la séparation si les composantes peuvent encore former une frontière de décision optimale via une combinaison linéaire. Ils introduisent le Pareto-gap comme une métrique plus pertinente sur le plan opérationnel.
Preuves empiriques : À travers une évaluation approfondie sur des jeux de données avec des distributions annotées par l'humain, les auteurs montrent que les classements décisionnels (basés sur le regret) divergent souvent substantiellement des classements par tâches de substitution. Notamment, ils observent des inversions de rang par paires où des méthodes classées en tête sur l'OOD ou l'Apprentissage Actif sont classées en queue de liste sur le regret, et vice versa.

Résultats

Inversions de rang : Sur le jeu de données CIFAR-10H, les réseaux évidents (Evidential Networks) ont obtenu la meilleure utilité épistémique pure (AuReC le plus bas) et le plus petit Pareto-gap, malgré de faibles performances sur les benchmarks de détection OOD et d'apprentissage actif. Inversement, Deep Ensembles et DDU, qui dominent la détection OOD, ont été peu performants pour isoler l'erreur réductible (regret).
Corrélation vs Utilité : Sur CIFAR-10H, les réseaux évidents présentent une corrélation de rang quasi parfaite ( $\rho_S = 0,999$ ) entre leurs composantes aléatoires et épistémiques apprises. Les métriques traditionnelles classeraient cela comme un échec de désenchevêtrement. Cependant, ces mêmes composantes ont atteint la distance la plus faible par rapport à l'optimum théorique (Pareto-gap = 0,0379), démontant que la corrélation élevée n'empêche pas l'utilité opérationnelle.
Corrélation de la vérité terrain : Les auteurs ont également noté que même les incertitudes aléatoires et épistémiques de vérité terrain ( $A^*, E^*$ ) peuvent présenter une corrélation de rang élevée (jusqu'à 0,882 sur CIFAR-10H), suggérant qu'une corrélation élevée dans les composantes apprises peut refléter le processus générateur de données plutôt qu'un échec méthodologique.

Signification
Le papier affirme que l'reliance du domaine sur la détection OOD et l'apprentissage actif comme proxies de l'incertitude épistémique est théoriquement erronée et mène à des conclusions trompeuses sur l'utilité des estimateurs d'incertitude. En déplaçant l'accent de l'évaluation sur la capacité à minimiser le regret et en introduisant le Pareto-gap comme diagnostic de l'utilité opérationnelle conjointe, les auteurs fournissent une base plus rigoureuse pour l'évaluation de la quantification de l'incertitude. Ils soutiennent que les chercheurs doivent explicitement définir l'action en aval (ex. : s'abstenir de prédictions risquées) plutôt que de se fier à des notions ambiguës d'ignorance ou à des tâches de substitution qui optimisent des objectifs mathématiques différents. Ce travail souligne que les métriques d'évaluation standard peuvent sélectionner des modèles sous-optimaux pour l'objectif réel de réduction de l'erreur réductible lors d'un déploiement réel.

Articles similaires