XConv: Low-memory stochastic backpropagation for convolutional layers

Die Arbeit stellt XConv vor, eine nahtlos integrierbare Methode zur drastischen Reduzierung des Speicherverbrauchs beim Training von Faltungsschichten durch komprimierte Aktivierungen und stochastische Gradientenschätzung, ohne dabei die Architektur einzuschränken oder die Leistung signifikant zu beeinträchtigen.

Anirudh Thatipelli, Jeffrey Sam, Mathias Louboutin, Ali Siahkoohi, Rongrong Wang, Felix J. HerrmannWed, 11 Ma🤖 cs.LG

Robust Training of Neural Networks at Arbitrary Precision and Sparsity

Die Arbeit stellt ein einheitliches Framework vor, das Quantisierung und Sparsifizierung als additives Rauschen modelliert und durch eine prinzipiengeleitete Denoisings-Transformation eine stabile Gradientenbahn schafft, wodurch das Training von neuronalen Netzen mit beliebiger Präzision und Sparsity, einschließlich sub-1-Bit-Architekturen, ermöglicht wird.

Chengxi Ye, Grace Chu, Yanfeng Liu, Yichi Zhang, Lukasz Lew, Li Zhang, Mark Sandler, Andrew HowardWed, 11 Ma🤖 cs.AI

On the Conjecture of Stability Preservation in Arbitrary-Order Adams-Bashforth-Type Integrators

Diese Arbeit widerlegt die Vermutung, dass ein von Buvoli vorgestellter hochordnungsfähiger expliziter Zeitschrittalgorithmus bei unendlicher Genauigkeit stabil bleibt, liefert jedoch eine harmonische Analyse, die eine deutlich verbesserte Stabilität im Vergleich zu klassischen Adams-Bashforth-Verfahren bestätigt und Kriterien für die maximale zulässige Genauigkeit sowie eine einheitliche L2L^2-Stabilitätsanalyse für parabolische PDEs bereitstellt.

Daopeng Yin, Liquan MeiWed, 11 Ma🔢 math

Global Asymptotic Rates Under Randomization: Gauss-Seidel and Kaczmarz

Diese Arbeit schließt die Lücke zwischen Theorie und Praxis bei randomisierten iterativen Verfahren wie Gauß-Seidel und Kaczmarz, indem sie asymptotische Leistungsschranken herleitet, die auf einer neuen Technik zur Spektralradiusabschätzung und einer Verbindung zur Perron-Frobenius-Theorie für nichtkommutative Algebren basieren und zudem die bisher unerklärte Rolle der Relaxation zur Leistungssteigerung quantifizieren.

Alireza Entezari, Arunava BanerjeeWed, 11 Ma🔢 math

Invertibility of the Fourier Diffraction Relation in Raster Scan Diffraction Tomography

Diese Arbeit untersucht die Invertierbarkeit der Fourier-Beugungsrelation bei der Raster-Scan-Diffractionstomographie mit fokussierten Strahlen und zeigt, dass die Fourier-Koeffizienten des Streupotenzials in Dimensionen höher als zwei generisch eindeutig bestimmt sind, während im zweidimensionalen Fall nur ein Teil des Fourier-Bereichs eindeutig rekonstruierbar ist.

Peter Elbau, Noemi NaujoksWed, 11 Ma🔢 math

Robust Parameter and State Estimation in Multiscale Neuronal Systems Using Physics-Informed Neural Networks

Diese Arbeit stellt einen physik-informierten neuronalen Netzwerk-Ansatz (PINN) vor, der robuste und genaue Schätzungen biophysikalischer Parameter und rekonstruierte Zustandsvariablen aus teilweise verrauschten Beobachtungen in multiskaligen neuronalen Systemen ermöglicht und dabei die Grenzen traditioneller numerischer Methoden überwindet.

Changliang Wei, Yangyang Wang, Xueyu ZhuWed, 11 Ma🤖 cs.LG

A finite element continuous data assimilation framework for a Navier--Stokes--Cahn--Hilliard system

Diese Arbeit stellt ein kontinuierliches Datenassimilierungs-Framework auf Basis von Finite-Elemente-Methoden vor, das die Trajektorien eines gekoppelten Navier-Stokes-Cahn-Hilliard-Systems mit einem zusätzlichen Transportfeld aus grob aufgelösten Beobachtungen rekonstruiert und dabei sowohl theoretische Stabilitätsnachweise als auch numerische Synchronisationserfolge demonstriert.

Tianyu SunWed, 11 Ma🔢 math

An efficient predictor-corrector approach with orthogonal spline collocation finite element technique for FitzHugh-Nagumo problem

Diese Arbeit stellt einen effizienten Prädiktor-Korrektor-Algorithmus mit orthogonaler Spline-Kollokation für die räumliche Diskretisierung und variable Zeitschritte für die FitzHugh-Nagumo-Gleichung vor, der durch lineare Nichtlinearitäten und adaptive Zeitschritte hohe Genauigkeit sowie bedingungslose Stabilität auch bei Singularitäten gewährleistet.

Eric NgondiepWed, 11 Ma🔢 math