🤖 machine learning

Bayesian 3D Steerable CNNs: Enabling Equivariance and Uncertainty Quantification Simultaneously

Dieses Paper führt ein Bayesian Steerable-CNN-Framework ein, das exakte SE(3)-Äquivarianz bewahrt und gleichzeitig eine simultane Unsicherheitsquantifizierung durch Variational Inference ermöglicht, wodurch eine überlegene Robustheit gegenüber Verteilungsverschiebungen sowie eine verbesserte Performance durch unsicherheitsgeleitete Vorhersagen erreicht wird.

Ursprüngliche Autoren: Abhishek Keripale, Ponkrshnan Thiagarajan, Susanta Ghosh

Veröffentlicht 2026-06-16

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Abhishek Keripale, Ponkrshnan Thiagarajan, Susanta Ghosh

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, 3D-Objekte wie Stühle, Betten oder Toiletten zu erkennen, indem er sie einfach nur betrachtet. Der schwierige Teil dabei ist, dass diese Objekte in jede beliebige Richtung gedreht sein können. Ein Standardroboter könnte verwirrt werden, wenn ein Stuhl seitlich gedreht ist, und ihn für ein völlig anderes Objekt halten.

Um dies zu lösen, verwenden Wissenschaftler etwas namens Steerable CNNs (lenkbare faltende neuronale Netzwerke). Denken Sie an diese als eine spezielle Auswahl an „intelligenten Linsen“, die Rotation verstehen. Egal, wie man das Objekt dreht, der Roboter erkennt es als dasselbe Objekt. Es ist wie eine Karte, die sich automatisch mit Ihnen mitdreht, damit Sie sich nie verlaufen.

Es gibt jedoch einen Haken bei diesen intelligenten Linsen: Sie sind deterministisch. Das bedeutet, sie sind wie ein starrer Roboter, der Ihnen eine einzige Antwort mit 100 % Sicherheit gibt, selbst wenn diese falsch ist. Er hat kein Konzept von „Ich bin mir nicht sicher“. In der realen Welt, besonders bei verrauschten oder unordentlichen Daten, ist das Wissen darüber, wie sicher man sich ist, genauso wichtig wie die richtige Antwort selbst.

Die große Idee: Der „selbstbewusste, aber bescheidene“ Roboter

Die Autoren dieser Arbeit haben eine neue Version dieser intelligenten Linsen entwickelt, die Bayesian 3D Steerable CNNs genannt werden. Es ist ihnen gelungen, dem Roboter zwei Superkräfte gleichzeitig zu geben:

Rotationsbewusstsein: Er versteht immer noch, dass ein gedrehter Stuhl immer noch ein Stuhl ist.
Unsicherheitbewusstsein: Er kann nun sagen: „Ich bin mir ziemlich sicher, dass dies ein Stuhl ist“, oder „Ich bin echt verwirrt, das könnte ein Stuhl oder ein seltsamer Tisch sein.“

Wie haben sie das gemacht? (Die Küchenanalogie)

Um ihren Trick zu verstehen, stellen Sie sich ein Rezept für einen Kuchen vor (den „Kernel“, der das Objekt erkennt).

Der alte Weg (Deterministisch): Das Rezept ist in Stein gemeißelt. „Füge genau 2 Tassen Mehl hinzu.“ Wenn man es befolgt, bekommt man jedes Mal denselben Kuchen.
Das Problem: Wenn die Zutaten schlecht sind (verrauschte Daten), kann der Kuchen misslingen, aber das Rezept weiß es nicht.
Der neue Weg (Bayesianisch): Anstatt „2 Tassen“ zu schreiben, sagt das Rezept: „Füge basierend auf einer Wahrscheinlichkeit zwischen 1,8 und 2,2 Tassen Mehl hinzu.“
- Die Autoren haben die Struktur des Rezepts (die „steerable Basis“) starr gehalten, damit es weiterhin die Rotation versteht.
- Aber sie haben die Mengen (die Koeffizienten) flexibel und zufällig gestaltet.
- Jedes Mal, wenn der Roboter ein Objekt betrachtet, zieht er eine leicht andere Version des Rezepts. Manchmal fügt er etwas mehr Mehl hinzu, manchmal etwas weniger.

Dadurch liefert der Roboter nicht nur eine einzige Antwort, sondern eine ganze Bandbreite an Antworten. Wenn alle verschiedenen Rezeptversionen übereinstimmen, ist der Roboter selbstbewusst. Wenn sie alle unterschiedliche Ergebnisse liefern, weiß der Roboter, dass er unsicher ist.

Was haben sie herausgefunden?

Die Forscher haben ihren neuen Roboter mit einem Datensatz von 3D-Modellen namens ModelNet10 getestet (der Dinge wie Badewannen, Schreibtische und Sofas enthält). Dies geschah:

Er ist genauso gut im Raten: Der neue „unsichere“ Roboter war bei der Identifizierung von Objekten genauso gut wie der alte „starre“ Roboter.
Er ist besser im Umgang mit Rauschen: Als sie „Statik“ oder „Rauschen“ zu den Bildern hinzufügten (wie etwa das Bild körnig zu machen), versagte der starre Roboter schnell. Der neue Roboter hingegen war viel robuster. Er behielt seine Genauigkeit selbst bei sehr hohem Rauschen bei und übertraf den alten Roboter um etwa 6 %. Es ist, als könnte der Roboter mit dem flexiblen Rezept auch mit schlechten Zutaten noch einen ordentlichen Kuchen backen, während der starre eine verbrannt hätte.
Er weiß, wann er falsch liegt: Der spannendste Teil war, dass der „Unsicherheitsscore“ des Roboters tatsächlich aussagekräftig war. Wenn der Roboter sagte: „Ich bin mir nicht sicher“, lag er meistens richtig mit seiner Unsicherheit. Wenn er sagte: „Ich bin mir zu 100 % sicher“, lag er meistens richtig mit seiner Sicherheit.
- Sie fanden ein klares Muster: Je unsicherer der Roboter war, desto wahrscheinlicher war es, dass er einen Fehler machte. Dies beweist, dass der Roboter nicht einfach zufällig rät; er versteht tatsächlich seine eigenen Grenzen.
Kalibrierung: Das Vertrauen des Roboters entsprach perfekt der Realität. Wenn er sagte, er sei zu 90 % sicher, war er auch in 90 % der Fälle richtig.

Der Kompromiss

Es gibt einen kleinen Preis. Da der Roboter all diese verschiedenen „Rezeptvariationen“ (Wahrscheinlichkeiten) anstelle eines einzigen festen Rezepts im Auge behalten muss, benötigt er doppelt so viel Speicherplatz und braucht etwas länger, um nachzudenken. Es ist, als würde man ein ganzes Kochbuch voller Variationen mit sich führen, anstatt nur einer einzelnen Karteikarte.

Zusammenfassung

Die Arbeit stellt eine Methode vor, die 3D-Objekterkennungssysteme sowohl rotationsresistent (sie funktionieren, egal wie das Objekt gedreht ist) als auch bescheiden (sie wissen, wann sie unsicher sind) macht. Indem sie die interne Mathematik des Systems als einen Bereich von Möglichkeiten anstelle einer einzigen festen Zahl behandelten, schufen sie ein Modell, das robuster gegenüber unordentlichen Daten ist und vertrauenswürdige Konfidenzwerte liefert, ohne dabei die Regeln der Symmetrie zu brechen, die diese Systeme so effektiv machen.

Technische Zusammenfassung: Bayesianische 3D Steerable CNNs

Problemstellung
Steerable Convolutional Neural Networks (Steerable-CNNs) haben sich als leistungsstarkes Paradigma für die Verarbeitung von 3D-Daten etabliert, indem sie SE(3)-Äquivarianz garantieren, indem sie die Faltungskerne als Linearkombinationen von steuerbaren Basisfunktionen parametrisieren. Diese architektonische Einschränkung stellt sicher, dass eine Transformation der Eingabe (z. B. durch 3D-Rotation) eine entsprechend transformierte Ausgabe erzeugt, was den Hypothesenraum erheblich reduziert und die Generalisierung in Bereichen wie der Formerkennung und der Vorhersage molekularer Eigenschaften verbessert. Bestehende Steerable-CNNs sind jedoch vollständig deterministisch. Sie liefern Punkt-Schätzungen ohne zugehörige Konfidenzmaße, was sie für sicherheitskritische Anwendungen (z. B. medizinische Bildgebung, autonome Systeme) ungeeignet macht, in denen die Quantifizierung von Unsicherheit (Uncertainty Quantification, UQ) essenziell ist.

Eine primäre Herausforderung bei der Entwicklung von Bayesianischen Steerable-CNNs besteht darin, dass die naive Einführung von Stochastizität in die Netzgewichtungen typischerweise die Äquivarianz-Eigenschaft bricht. Wenn Faltungskerne zufällig gesampelt werden, verletzen sie im Allgemeinen die „Intertwiner“- oder Steuerbarkeitseigenschaft, was bedeutet, dass die resultierenden stochastischen Realisierungen nicht äquivariant wären, selbst wenn ihr Mittelwert dies ist.

Methodik
Die Autoren schlagen ein Bayesianisches Steerable-CNN-Framework vor, das diesen Konflikt löst, indem es posteriore Verteilungen über die skalaren Koeffizienten der steuerbaren Basisfunktionen legt, anstatt über die Kernel-Matrizen selbst.

Stochastische äquivariante Kerne: Der Faltungskern $K(x)$ wird als Linearkombination aus deterministischen, vorab berechneten steuerbaren Basisfunktionen $\{\kappa_b(x)\}$ definiert (abgeleitet von Wigner-D-Matrizen für SO(3)):
$K(x; w) = \sum_{b=1}^{B} w_b \kappa_b(x)$
Die Basisfunktionen $\kappa_b$ sind fixiert und erfüllen durch Konstruktion die Steuerbarkeitseigenschaft. Die Koeffizienten $w = (w_1, \dots, w_B)$ werden als Zufallsvariablen behandelt.
Bewahrung der Äquivarianz: Das Paper beweist (Proposition 1), dass wenn die Basisfunktionen die Steuerbarkeitseigenschaft erfüllen, jede Linearkombination von ihnen – unabhängig davon, ob die Koeffizienten deterministisch oder aus einer Wahrscheinlichkeitsverteilung gesampelt sind – äquivariant bleibt. Dies ermöglicht stochastische Kerne ohne architektonische Modifikationen zur Erzwingung der Äquivarianz.
Variational Inference: Das Modell verwendet den Bayes-by-Backpropagation-Ansatz. Es wird eine Mean-Field-Gaußsche Variationsposteriori $q(w|\theta)$ über die Koeffizienten angenommen, die durch einen Mittelwert $\mu$ und eine Log-Varianz $\rho$ parametrisiert ist. Das Modell wird durch Maximierung der Evidence Lower Bound (ELBO) trainiert, welche aus einem Cross-Entropy-Loss-Term und einem Kullback-Leibler-Divergenz-Term besteht, der die Posteriori gegen eine Gaußsche Prior-Verteilung regularisiert.
Zerlegung der Unsicherheit: Während der Inferenz führt das Modell $N$ $N$ stochastische Vorwärtsläufe durch. Die gesamte prädiktive Unsicherheit wird zerlegt in:
- Aleatorische Unsicherheit: Inhärentes Rauschen in den Daten (erfasst durch die durchschnittliche Entropie der einzelnen Vorhersagen).
- Epistemische Unsicherheit: Modellunsicherheit aufgrund begrenzter Daten (erfasst durch die Varianz der Vorhersagen über die $N$ Samples hinweg).

Wesentliche Beiträge

Neuartige Bayesianische Formulierung: Die erste Integration von stochastischer Inferenz mit steuerbaren Faltungen, wobei die posteriore Verteilung der Kernel-Basiskoeffizienten gewonnen wird, während die exakte SE(3)-Äquivarianz erhalten bleibt.
Theoretischer Beweis: Ein formaler Beweis, der zeigt, dass Stochastizität im Koeffizientenraum die Intertwiner-Bedingung nicht verletzt, wodurch sichergestellt wird, dass jeder gesampelte Kernel äquivariant bleibt.
Zerlegbare Unsicherheit: Ein Framework, das kalibrierte, zerlegbare Unsicherheitsschätzungen (epistemisch vs. aleatorisch) für 3D-äquivariante Modelle liefert.

Experimentelle Ergebnisse
Das Modell wurde auf dem ModelNet10-Datensatz (3D-CAD-Modelle) unter Verwendung einer Architektur aufgebaut, die auf der escnn-Bibliothek basiert.

Klassifizierungsleistung: Das Bayesianische Modell erreichte eine Testgenauigkeit von 86,34 % und ist damit mit deterministischen Gegenstücken konkurrenzfähig.
Kalibrierung: Das Modell zeigte eine exzellente Kalibrierung mit einem Expected Calibration Error (ECE) von 0,0263, was darauf hindeutet, dass die vorhergesagten Konfidenzwerte eng mit der empirischen Genauigkeit übereinstimmen.
Robustheit gegenüber Verteilungsverschiebungen: Unter additivem Gaußschen Rauschen zeigte das Bayesianische Modell eine überlegene Robustheit im Vergleich zum deterministischen Baseline-Modell. Bei einem hohen Rauschpegel ( $\epsilon_{noise} = 0,9$ ) behielt das Bayesianische Modell eine Genauigkeit von 81,83 % bei und übertraf damit das deterministische Modell (75,66 %) um 6,17 %.
Nutzen der Unsicherheit:
- Selektive Prädiktion: Durch das Filtern von Proben mit hoher Unsicherheit erreichte das Modell einen Genauigkeitsgewinn von ~4 % auf 84 % des Testdatensatzes (Proben mit einer Unsicherheit unterhalb eines bestimmten Schwellenwerts).
- Semantische Bedeutung: Es wurde eine statistisch signifikante negative Spearman-Rangkorrelation (-0,3989) zwischen epistemischer Unsicherheit und Vorhersagefehler gefunden, was bestätigt, dass höhere Unsicherheit zuverlässig höhere Klassifizierungsfehler vorhersagt.
- Konvergenz der Unsicherheit: Während des Trainings nahm die gesamte Unsicherheit stetig ab, während die epistemische Unsicherheit konsistent niedrig blieb, was darauf hindeutet, dass das Modell hinsichtlich seiner gelernten Gewichtungsverteilung sicher wurde.

Bedeutung und Ansprüche
Das Paper beansprucht, die Bayesianische Unsicherheitsquantifizierung mit dem induktiven Bias von äquivarianten CNNs zu vereinigen. Die Autoren betonen, dass dies die erste Arbeit ist, die stochastische Inferenz und steuerbare Faltungen erfolgreich in einem einzigen diskriminativen Modell integriert. Die Bedeutung liegt in der Ermöglichung risikobewusster Entscheidungsfindung in 3D-Domänen: Das Modell respektiert nicht nur geometrische Symmetrien, sondern liefert auch fundierte, zerlegbare Konfidenzschätzungen. Dies ermöglicht es Praktikern, zwischen der in den Daten inhärenten Mehrdeutigkeit (aleatorisch) und einem Mangel an Modellwissen (epistemisch) zu unterscheiden, was eine gezielte Modellverfeinerung und einen sichereren Einsatz in sicherheitskritischen Anwendungen erleichtert. Das Framework erzielt diese Vorteile, ohne die Äquivarianzgarantien zu opfern, die Steerable-CNNs für 3D-Daten effektiv machen.