📊 statistics

An uncertainty-aware Bayesian framework for machine learning classification models: A case study in land cover classification

Cet article propose un cadre bayésien pour les modèles de classification en apprentissage automatique génératif qui intègre explicitement l'incertitude de mesure des entrées, démontrant par la classification de l'occupation des sols et des simulations synthétiques que cette approche offre une interprétabilité, une robustesse et une efficacité computationnelle supérieures par rapport à des modèles populaires tels que les forêts aléatoires et les réseaux de neurones.

Auteurs originaux : Samuel Bilson, Miles McCrory, Anna Pustogvar

Publié 2026-05-27

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Samuel Bilson, Miles McCrory, Anna Pustogvar

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez d'identifier différents types de terrains depuis l'espace — forêts, fermes, villes et prairies — en utilisant des photos satellites. Cela s'appelle la « Classification de l'occupation des sols ». Habituellement, les ordinateurs (modèles d'apprentissage automatique) sont très bons pour cela, mais ils ont un gros défaut : ils agissent comme des étudiants trop confiants. Ils vous donnent une réponse, mais ne vous disent pas à quel point ils sont sûrs, ni si la photo qu'ils regardent est floue ou déformée.

Dans le monde réel, les photos satellites ne sont pas parfaites. Les capteurs comportent des erreurs, l'atmosphère diffuse la lumière, et le traitement des données introduit du « bruit ». Cet article présente une nouvelle façon d'enseigner aux ordinateurs à être humbles et honnêtes face à ces erreurs.

Voici la décomposition de leur approche à l'aide d'analogies simples :

1. Le Problème : Le « Aveugle » contre le « Conscient »

La plupart des modèles d'IA actuels ressemblent à un chef qui goûte une soupe mais refuse de croire que le salier pourrait fuir. Ils supposent que les ingrédients (les données satellites) sont parfaits. Si les données sont légèrement décalées, le chef (l'IA) pourrait dire avec assurance : « C'est définitivement une forêt », alors qu'il s'agit en réalité d'un champ.

Les auteurs soutiennent que dans la science et la métrologie (la science de la mesure), il faut tenir compte du fait que votre mètre ruban pourrait être légèrement étiré. Ils veulent une IA qui sait : « Hé, ce pixel ressemble à une forêt, mais le capteur était un peu instable, donc je ne suis sûr qu'à 80 %. »

2. La Solution : Le « Détective Bayésien »

Les auteurs proposent un cadre bayésien. Imaginez cela comme un détective qui ne regarde pas seulement les preuves (la photo), mais qui tient aussi un carnet de bord sur la fiabilité habituelle du témoin (le capteur).

L'Ancienne Méthode (IA Standard) : Regarde la photo et devine.
La Nouvelle Méthode (QDA Bayésienne) : Regarde la photo et demande : « Quel est le niveau de bruit dans cette image ? Si l'image est floue, j'élargirai mon hypothèse pour être plus prudent. »

Ils ont spécifiquement utilisé un modèle appelé Analyse Discriminante Quadratique Bayésienne (BQDA).

Analogie : Imaginez que vous trie des billes par couleur.
- Un modèle standard trace une ligne nette sur la table : « Tout ce qui est à gauche est Bleu, tout ce qui est à droite est Rouge. »
- Le modèle BQDA trace un nuage flou pour le Bleu et un nuage flou pour le Rouge. Il sait qu'une bille « Bleue » pourrait rouler un peu dans la zone « Rouge » parce que la table tremble (incertitude de mesure). Il calcule la probabilité que la bille atterrisse dans l'une ou l'autre zone en fonction de l'intensité des tremblements de la table.

3. L'Expérience : Données Réelles et Données Fictives

L'équipe a testé ce nouveau modèle « humble » de deux manières :

A. Vie Réelle (Le Paysage Britannique) :
Ils ont utilisé des images satellites du Royaume-Uni de 2020 et 2021. Ils ont simulé du « bruit » en faisant semblant que les données atmosphériques utilisées pour nettoyer les images étaient légèrement erronées (comme si l'on avait deviné l'humidité avec une erreur de 5 %).

Le Résultat : Lorsque les données étaient désordonnées ou que l'ensemble d'apprentissage était petit, le nouveau modèle BQDA était beaucoup plus fiable. Il ne se laissait pas confondre aussi facilement que les modèles populaires « Forêt Aléatoire » ou « Réseau de Neurones ».
Le Problème des « Terres Cultivées » : Ils ont constaté que les « Terres Cultivées » (fermes) étaient les plus difficiles à identifier car elles ressemblent à du sol nu sur certaines photos et à des plantes vertes sur d'autres. Le nouveau modèle a admis cette confusion plutôt que de deviner à l'aveugle.

B. Données Synthétiques (La Simulation) :
Ils ont créé de faux mondes avec des mathématiques parfaites pour tester comment les modèles gèrent différents niveaux de « bruit » (de 0,1 à 1,0).

Le Résultat : À mesure que le bruit augmentait, les modèles standards commençaient à échouer plus rapidement. Le modèle BQDA a mieux résisté. C'était comme un coureur qui ralentit gracieusement sous la pluie, tandis que les autres glissaient et tombaient.

4. Pourquoi Cela Compte (Le Facteur « Confiance »)

L'article revendique trois avantages principaux pour ce nouveau modèle :

Fiabilité : Il vous dit explicitement pourquoi il est incertain. Il distingue « Je ne sais pas parce que les données sont mauvaises » de « Je ne sais pas parce que le modèle est mauvais ».
Interprétabilité : Vous pouvez examiner les mathématiques du modèle et dire : « Ah, il pense que c'est une forêt parce que la couleur moyenne des forêts dans les données d'apprentissage était X. » Les modèles complexes comme les réseaux de neurones sont des « boîtes noires » où l'on ne peut pas voir le raisonnement.
Efficacité : Il est beaucoup plus rapide à exécuter. Alors que les modèles complexes prennent des heures à entraîner, celui-ci est rapide, ce qui le rend plus facile à utiliser pour des cartes à grande échelle.

Résumé

L'article ne prétend pas que cela guérira des maladies ou prédira le marché boursier. Il affirme spécifiquement que pour cartographier la surface de la Terre, utiliser un modèle qui reconnaît les imperfections de ses propres capteurs conduit à des résultats plus fiables, interprétables et efficaces. Il transforme un « devin confiant » en un « scientifique prudent ».

Résumé technique : Un cadre bayésien conscient de l'incertitude pour les modèles de classification en apprentissage automatique

Énoncé du problème

Les modèles de classification par apprentissage automatique (AA) sont de plus en plus omniprésents dans des applications telles que la cartographie de l'occupation des sols (OS), mais ils manquent souvent de « fiabilité » en raison de leur incapacité à expliquer les décisions ou à quantifier l'incertitude. Bien que la recherche actuelle sur la quantification de l'incertitude (UQ) se concentre fortement sur l'incertitude épistémique (incertitude du modèle), elle néglige fréquemment l'incertitude de mesure des entrées. En métrologie et en observation de la Terre, les données d'entrée comportent souvent une incertitude inhérente due aux limitations des dispositifs ou résultent de modèles de mesure précédents dans une chaîne de traçabilité. Ignorer cette incertitude d'entrée brise la chaîne de traçabilité pour les applications en aval (par exemple, la modélisation climatique, la comptabilité des gaz à effet de serre). De plus, les modèles complexes standards tels que les forêts aléatoires (RF) et les réseaux de neurones (NN) n'admettent pas naturellement l'intégration de l'incertitude de mesure des entrées sans recourir à des approches d'ensemble de Monte Carlo coûteuses en calcul.

Méthodologie

Les auteurs proposent un cadre bayésien général pour intégrer l'incertitude de mesure des entrées dans les modèles de classification génératifs par apprentissage automatique. La méthodologie centrale repose sur une approche Variables avec Erreurs (EiV), traitant les entrées mesurées comme des réalisations de valeurs vraies, inconnues.

Formulation du cadre :
- Le modèle suppose que les entrées mesurées $x$ sont des réalisations d'entrées vraies $\chi$ soumises à une erreur de mesure $\epsilon_x$ ( $x = \chi + \epsilon_x$ ).
- En utilisant le théorème de Bayes, la probabilité prédictive a posteriori de la classe est dérivée en intégrant sur les entrées vraies inconnues et les paramètres du modèle.
- Le cadre distingue les cas où les paramètres d'incertitude de mesure sont connus/fixés de ceux où ils sont inconnus (estimés conjointement avec les paramètres du modèle). L'article se concentre sur ce dernier cas, où les paramètres d'incertitude sont appris par inférence bayésienne.
Implémentation spécifique : Analyse Discriminante Quadratique Bayésienne (BQDA) :
- Les auteurs instancient le cadre en utilisant l'Analyse Discriminante Quadratique (QDA), un classificateur génératif paramétrique qui modélise les distributions conditionnelles par classe comme des gaussiennes multivariées.
- Modèle de mesure : L'incertitude de mesure des entrées est modélisée comme une distribution gaussienne multivariée centrée sur l'entrée vraie.
- Solution analytique : En supposant des priors conjugués pour les paramètres gaussiens, les auteurs dérivent une expression analytique pour la distribution prédictive a posteriori. Cela évite le besoin de techniques d'échantillonnage telles que les chaînes de Markov Monte Carlo (MCMC), généralement requises pour les posteriors intraitables dans les modèles complexes.
- Distribution résultante : La distribution prédictive finale pour une classe est une distribution t multivariée, qui prend naturellement en compte à la fois l'incertitude des paramètres du modèle (épistémique) et le bruit de mesure des entrées (aléatoire).
Étude de cas : Classification de l'occupation des sols :
- Données : Données Copernicus Sentinel-2 (2020–2021) sur une zone de 20 km × 20 km en Écosse.
- Étiquettes : Dérivées automatiquement des cartes UKCEH en utilisant un critère de stabilité temporelle (étiquettes inchangées sur trois ans) et un critère de qualité (probabilité de classification >95 %).
- Génération d'incertitude : Pour simuler l'incertitude des entrées, les auteurs ont fait varier l'Épaisseur Optique des Aérosols (AOD) utilisée dans la correction atmosphérique (Sen2Cor). Ils ont généré 25 réalisations de la réflectance en bas de l'atmosphère (BOA) pour chaque pixel en échantillonnant l'AOD à partir d'une distribution gaussienne basée sur les incertitudes des données CAMS.
- Classes : Quatre classes LULUCF : Forêt, Terres agricoles, Prairies et Zones bâties.

Contributions clés

Cadre pour l'incertitude des entrées : Une méthodologie bayésienne concrète qui intègre explicitement l'incertitude de mesure des entrées dans les classificateurs génératifs, dépassant l'hypothèse standard d'entrées sans bruit.
Dérivation analytique de la BQDA : La dérivation d'une solution sous forme close pour la BQDA qui modélise le bruit des entrées, permettant un calcul efficace sans moyennage d'ensemble ni MCMC.
Étalonnage : Une comparaison complète de la BQDA avec des classificateurs standards (QDA standard, LDA, Forêts aléatoires et Réseaux de neurones) sur des données réelles d'occupation des sols et des jeux de données synthétiques avec des forces de bruit et des dimensions variables.

Résultats

L'étude évalue les performances à l'aide des scores macro F1/F2, de la perte d'entropie croisée et du score de Brier (une règle de score appropriée pour l'étalonnage des probabilités), ainsi que du coût computationnel.

Données réelles d'occupation des sols :
- Régime de petites données : La BQDA surpasse nettement la QDA standard et les autres références lorsque les données d'entraînement sont rares (par exemple, <1000 pixels). La QDA standard échoue souvent (matrices de covariance singulières) dans ces scénarios, tandis que le prior bayésien dans la BQDA agit comme un régularisateur.
- Généralisabilité : Lors de l'entraînement et du test sur des années différentes (par exemple, entraînement 2020, test 2021), la BQDA maintient les performances les plus cohérentes (score de Brier le plus bas), indiquant une meilleure gestion de l'incertitude prédictive à travers les domaines.
- Performance par classe : Bien que tous les modèles aient eu des difficultés avec les « Terres agricoles » en raison de leur forte variance spectrale, la BQDA a fourni des sorties de probabilité plus fiables.
- Efficacité : La BQDA, la QDA et la LDA étaient nettement plus efficaces en termes de calcul que les RF et les NN. Contrairement aux RF/NN, la BQDA produit des résultats reproductibles pour les mêmes données, car elle repose sur des expressions analytiques plutôt que sur la génération de nombres aléatoires pendant l'entraînement.
Expériences sur données synthétiques :
- Des expériences ont été menées sur des données gaussiennes synthétiques avec 2, 10 et 50 variables d'entrée, avec des forces de bruit variables (Gaussien et Uniforme).
- Robustesse : À mesure que la force du bruit augmentait, la BQDA obtenait systématiquement de meilleurs scores métriques que les autres modèles.
- Bruit en haute dimension : Dans des contextes de haute dimension (50 variables), la BQDA non seulement surpassait les références, mais déclinait également plus lentement à mesure que le bruit augmentait, démontrant l'effet régularisateur du prior bayésien contre le surapprentissage.
- Indépendance de la distribution : L'avantage de performance de la BQDA s'est maintenu pour les distributions de bruit d'entrée gaussiennes et uniformes.

Importance et affirmations

L'article affirme que le cadre BQDA proposé offre une alternative plus fiable et interprétable aux modèles complexes de type boîte noire pour les applications nécessitant une traçabilité métrologique.

Interprétabilité : Contrairement aux NN ou aux RF, les paramètres de la BQDA mappent directement sur la moyenne et la covariance des données d'entrée, rendant les frontières de décision du modèle et les sources d'incertitude transparentes.
Efficacité : Elle fournit un moyen efficace en calcul de prendre en compte l'incertitude des entrées sans le coût élevé des ensembles Monte Carlo.
Pertinence métrologique : En modélisant explicitement l'incertitude de mesure des entrées, le cadre soutient la « chaîne de traçabilité » requise en métrologie, garantissant que les applications en aval (comme la modélisation climatique) peuvent propager correctement les incertitudes.

Les auteurs notent modestement des limites : le travail actuel ne traite pas de l'incertitude d'étiquetage des classes (par exemple, les pixels mixtes) et se concentre sur les cas où la distribution d'incertitude des entrées doit être apprise plutôt que connue a priori. Cependant, le cadre est présenté comme extensible à ces défis futurs.