🤖 machine learning

Bayesian 3D Steerable CNNs: Enabling Equivariance and Uncertainty Quantification Simultaneously

Cet article introduit un cadre de réseau de neurones convolutifs (CNN) bayésien pilotable qui préserve l'équivariance exacte SE(3) tout en permettant une quantification simultanée de l'incertitude par inférence variationnelle, atteignant ainsi une robustesse supérieure aux décalages de distribution et des performances améliorées grâce à des prédictions guidées par l'incertitude.

Auteurs originaux : Abhishek Keripale, Ponkrshnan Thiagarajan, Susanta Ghosh

Publié 2026-06-16

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Abhishek Keripale, Ponkrshnan Thiagarajan, Susanta Ghosh

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez d'apprendre à un robot à reconnaître des objets en 3D, comme des chaises, des lits ou des toilettes, simplement en les regardant. La partie délicate est que ces objets peuvent être pivotés dans n'importe quelle direction. Un robot standard pourrait s'embrouiller si une chaise est tournée de côté, pensant qu'il s'agit d'un objet complètement différent.

Pour résoudre cela, les scientifiques utilisent ce qu'on appelle des CNN orientables (Steerable CNNs). Imaginez cela comme un ensemble spécial de « lentilles intelligentes » qui comprennent la rotation. Peu importe comment vous faites pivoter l'objet, le robot voit toujours la même chose. C'est comme avoir une carte qui pivote automatiquement avec vous pour que vous ne vous perdiez jamais.

Cependant, il y a un bémol avec ces lentilles intelligentes : elles sont déterministes. Cela signifie qu'elles sont comme un robot rigide qui vous donne une seule réponse avec une confiance de 100 %, même si elle est fausse. Elles n'ont aucune notion de « je ne suis pas sûr ». Dans le monde réel, surtout avec des données bruitées ou désordonnées, savoir à quel point on est sûr est tout aussi important que d'obtenir la bonne réponse.

La Grande Idée : Le Robot « Confiant mais Humble »

Les auteurs de ce papier ont créé une nouvelle version de ces lentilles intelligentes appelée CNN 3D orientables bayésiennes. Ils ont réussi à donner au robot deux super-pouvoirs à la fois :

Conscience de la rotation : Il comprend toujours qu'une chaise pivotée est toujours une chaise.
Conscience de l'incertitude : Il peut désormais dire : « Je suis assez sûr que c'est une chaise », ou « Je suis vraiment confus, cela pourrait être une chaise ou une table bizarre ».

Comment ont-ils fait ? (L'analogie de la cuisine)

Pour comprendre leur astuce, imaginez une recette de gâteau (le « noyau » ou kernel qui reconnaît l'objet).

L'ancienne méthode (Déterministe) : La recette est écrite dans la pierre. « Ajoutez exactement 2 tasses de farine. » Si vous la suivez, vous obtenez le même gâteau à chaque fois.
Le Problème : Si les ingrédients sont mauvais (données bruitées), le gâteau peut rater, mais la recette ne le sait pas.
La Nouvelle Méthode (Bayésienne) : Au lieu d'écrire « 2 tasses », la recette dit : « Ajoutez entre 1,8 et 2,2 tasses de farine, selon une probabilité. »
- Les auteurs ont gardé la structure de la recette (la « base orientable ») rigide pour qu'elle comprenne toujours la rotation.
- Mais ils ont rendu les quantités (les coefficients) flexibles et aléatoires.
- Chaque fois que le robot regarde un objet, il échantillonne une version légèrement différente de la recette. Parfois, il ajoute un peu plus de farine, parfois un peu moins.

En faisant cela, le robot ne donne pas seulement une réponse ; il donne un éventail de réponses. Si toutes les différentes versions de la recette sont d'accord, le robot est confiant. Si elles donnent toutes des résultats différents, le robot sait qu'il est incertain.

Qu'ont-ils trouvé ?

Les chercheurs ont testé ce nouveau robot sur un ensemble de données de modèles 3D appelé ModelNet10 (qui comprend des choses comme des baignoires, des bureaux et des canapés). Voici ce qui s'est passé :

Il est tout aussi bon pour deviner : Le nouveau robot « incertain » était tout aussi performant pour identifier les objets que l'ancien robot « rigide ».
Il est meilleur pour gérer le bruit : Lorsqu'ils ont ajouté du « grain » ou du « bruit » aux images (comme rendre l'image granuleuse), le robot rigide a commencé à échouer rapidement. Le nouveau robot, cependant, était beaucoup plus robuste. Il a conservé sa précision même lorsque le bruit était très élevé, surpassant l'ancien robot d'environ 6 %. C'est comme si le robot avec la recette flexible pouvait encore faire un gâteau décent même avec de mauvais ingrédients, tandis que le rigide l'avait brûlé.
Il sait quand il se trompe : La partie la plus excitante est que le « score d'incertitude » du robot était réellement significatif. Quand le robot disait : « Je ne suis pas sûr », il avait généralement raison d'être incertain. Quand il disait : « Je suis sûr à 100 % », il avait généralement raison.
- Ils ont trouvé un schéma clair : plus le robot était incertain, plus il était susceptible de commettre une erreur. Cela prouve que le robot ne devine pas au hasard ; il comprend réellement ses propres limites.
Calibration : La confiance du robot correspondait parfaitement à la réalité. S'il disait qu'il était sûr à 90 %, il avait raison 90 % du temps.

Le Compromis

Il y a un petit coût. Parce que le robot doit garder trace de toutes ces différentes « variations de recettes » (probabilités) au lieu d'une seule recette fixe, il utilise deux fois plus de mémoire et prend un peu plus de temps pour réfléchir. C'est comme transporter tout un livre de cuisine de variations au lieu d'une simple fiche indexée.

Résumé

Le papier présente une façon de créer des systèmes de reconnaissance d'objets 3D qui sont à la fois insensibles à la rotation (ils fonctionnent peu importe comment l'objet est tourné) et humbles (ils savent quand ils ne sont pas sûrs). En traitant la mathématique interne du système comme une plage de possibilités plutôt que comme un nombre unique et fixe, ils ont créé un modèle qui est plus robuste face aux données désordonnées et qui fournit des scores de confiance dignes de confiance, sans pour autant briser les règles de symétrie qui font fonctionner ces systèmes.

Résumé technique : Réseaux de neurones convolutifs 3D orientables bayésiens

Énoncé du problème
Les réseaux de neurones convolutifs orientables (Steerable-CNNs) se sont imposés comme un paradigme puissant pour le traitement de données 3D, garantissant l'équivariance SE(3) en paramétrant les noyaux convolutifs comme des combinaisons linéaires de fonctions de base orientables. Cette contrainte architecturale garantit que la transformation de l'entrée (par exemple, via une rotation 3D) produit une sortie transformée de manière correspondante, réduisant ainsi considérablement l'espace d'hypothèses et améliorant la généralisation dans des domaines tels que la reconnaissance de formes et la prédiction de propriétés moléculaires. Cependant, les Steerable-CNNs existants sont entièrement déterministes. Ils produisent des estimations ponctuelles uniques sans mesures de confiance associées, ce qui les rend inadaptés aux applications critiques pour la sécurité (par exemple, l'imagerie médicale, les systèmes autonomes) où la quantification de l'incertitude (UQ) est essentielle.

Un défi majeur dans le développement de réseaux de neurones convolutifs orientables bayésiens est que l'introduction naïve de stochasticité dans les poids du réseau rompt généralement la propriété d'équivariance. Si les noyaux de convolution sont échantillonnés de manière aléatoire, ils violent généralement la contrainte d'« intertwiner » ou d'orientabilité, ce qui signifie que les réalisations stochastiques résultantes ne seraient pas équivariantes, même si leur moyenne l'est.

Méthodologie
Les auteurs proposent un cadre de Steerable-CNN Bayésien qui résout ce conflit en plaçant des distributions postérieures sur les coefficients scalaires des fonctions de base orientables, plutôt que sur les matrices de noyaux elles-mêmes.

Noyaux équivariants stochastiques : Le noyau de convolution $K(x)$ est défini comme une combinaison linéaire de fonctions de base orientables déterministes et précalculées $\{\kappa_b(x)\}$ (dérivées des matrices de Wigner D pour SO(3)) :
$K(x; w) = \sum_{b=1}^{B} w_b \kappa_b(x)$
Les fonctions de base $\kappa_b$ sont fixes et satisfont la contrainte d'orientabilité par construction. Les coefficients $w = (w_1, \dots, w_B)$ sont traités comme des variables aléatoires.
Préservation de l'équivariance : L'article prouve (Proposition 1) que si les fonctions de base satisfont la contrainte d'orientabilité, toute combinaison linéaire de celles-ci — que les coefficients soient déterministes ou échantillonnés à partir d'une distribution de probabilité — reste équivariante. Cela permet des noyaux stochastiques sans modifications architecturales pour imposer l'équivariance.
Inférence variationnelle : Le modèle utilise l'approche Bayes-by-Backpropagation. Une distribution postérieure variationnelle gaussienne à champ moyen $q(w|\theta)$ est supposée sur les coefficients, paramétrée par une moyenne $\mu$ et une log-variance $\rho$ . Le modèle est entraîné en maximisant la borne inférieure de l'évidence (ELBO), qui consiste en un terme de perte d'entropie croisée et un terme de divergence de Kullback-Leibler (KL) régularisant la distribution postérieure par rapport à une distribution a priori gaussienne.
Décomposition de l'incertitude : Lors de l'inférence, le modèle effectue $N$ $N$ passages directs stochastiques. L'incertitude prédictive totale est décomposée en :
- Incertitude Aléatoire : Bruit inhérent aux données (capturé par l'entropie moyenne des prédictions individuelles).
- Incertitude Épistémique : Incertitude du modèle due à des données limitées (capturée par la variance des prédictions à travers les $N$ échantillons).

Contributions clés

Nouvelle formulation bayésienne : La première intégration de l'inférence stochastique avec les convolutions orientables, obtenant la distribution postérieure des coefficients de base des noyaux tout en maintenant une équivariance SE(3) exacte.
Preuve théorique : Une preuve formelle démontrant que la stochasticité dans l'espace des coefficients ne viole pas la contrainte d'intertwiner, garantissant que chaque noyau échantillonné reste équivariant.
Incertitude décomposable : Un cadre qui fournit des estimations d'incertitude calibrées et décomposables (épistémique vs aléatoire) pour les modèles équivariants 3D.

Résultats expérimentaux
Le modèle a été évalué sur le jeu de données ModelNet10 (modèles CAO 3D) en utilisant une architecture construite sur la bibliothèque escnn.

Performance de classification : Le modèle bayésien a atteint une précision de test de 86,34 %, ce qui est compétitif avec ses homologues déterministes.
Calibration : Le modèle a démontré une excellente calibration avec une erreur de calibration attendue (ECE) de 0,0263, indiquant que les scores de confiance prédits correspondent étroitement à la précision empirique.
Robustesse au changement de distribution : Sous un bruit gaussien additif, le modèle bayésien a fait preuve d'une robustesse supérieure par rapport à la base déterministe. À un niveau de bruit élevé ( $\epsilon_{noise} = 0,9$ ), le modèle bayésien a conservé une précision de 81,83 %, surpassant le modèle déterministe (75,66 %) de 6,17 %.
Utilité de l'incertitude :
- Prédiction sélective : En filtrant les échantillons présentant une incertitude élevée, le modèle a obtenu un gain de précision d'environ 4 % sur 84 % du jeu de test (échantillons avec une incertitude inférieure à un seuil spécifique).
- Signification sémantique : Une corrélation de rang de Spearman négative statistiquement significative (-0,3989) a été trouvée entre l'incertitude épistémique et l'erreur de prédiction, confirmant qu'une incertitude plus élevée prédit de manière fiable une erreur de classification plus élevée.
- Convergence de l'incertitude : Pendant l'entraînement, l'incertitude totale a diminué régulièrement, tandis que l'incertitude épistémique est restée constamment basse, suggérant que le modèle est devenu confiant dans sa distribution de poids apprise.

Signification et affirmations
L'article affirme unifier la quantification de l'incertitude bayésienne avec le biais inductif des CNN équivariants. Les auteurs soulignent qu'il s'agit du premier travail ayant réussi à intégrer l'inférence stochastique et les convolutions orientables dans un seul modèle discriminatif. La signification réside dans la possibilité d'une prise de décision tenant compte des risques dans les domaines 3D : le modèle respecte non seulement les symétries géométriques, mais fournit également des estimations de confiance décomposables et fondées. Cela permet aux praticiens de distinguer l'ambiguïté inhérente aux données (aléatoire) de l'absence de connaissances du modèle (épistémique), facilitant ainsi l'amélioration ciblée du modèle et un déploiement plus sûr dans des applications sensibles à la sécurité. Le cadre atteint ces bénéfices sans sacrifier les garanties d'équivariance qui rendent les Steerable-CNNs efficaces pour les données 3D.