342 Arbeiten
Diese Arbeit untersucht die grundlegenden Eigenschaften paraconvexer Funktionen, analysiert die Konvergenz von projizierten Subgradientenverfahren mit verschiedenen Schrittweiten für deren globale Minimierung unter Hölder-Fehlerbedingungen und validiert die theoretischen Ergebnisse durch erfolgreiche Anwendungen auf robuste Probleme der niedrigrangigen Matrixwiederherstellung.
Diese Arbeit zeigt, dass der Fluch der Dimensionalität die Optimierung neuronaler Netze mit glatten Aktivierungsfunktionen fundamental einschränkt, indem sie nachweist, dass die Konvergenzrate des Populationsrisikos unter Gradientenfluss durch die Dimension des Eingaberaums und die Glattheit der Zielfunktion begrenzt wird.
Die Autoren stellen Clip21-SGD2M vor, einen neuen Algorithmus für das Federated Learning, der durch eine innovative Kombination aus Clipping, Heavy-Ball-Momentum und Error Feedback sowohl optimale Konvergenzraten bei beliebiger Datenheterogenität als auch starke lokale Differentialprivatsphäre-Garantien ohne restriktive Annahmen erreicht.
In dieser Notiz werden verschiedene Konzepte der Nichtsteifigkeit horizontaler Vektoren in Carnot-Gruppen, die durch die Charakterisierung monotoner Mengen und Whitney-Erweiterungseigenschaften motiviert sind, miteinander verglichen.
Diese Arbeit stellt ein Maximum-Entropie-Inverse-Reinforcement-Learning-Verfahren für unendliche Horizont-Mittelwertspiele vor, das mittels reproduzierender Kern-Hilberträume nichtlineare Belohnungsfunktionen aus Expertendemonstrationen ableitet und sowohl für stationäre als auch nicht-stationäre Szenarien theoretisch fundierte Optimierungsalgorithmen bereitstellt.
Diese Arbeit stellt einen inertial beschleunigten Primal-Dual-Algorithmus vor, der auf einem zeitlich skalierten Differentialgleichungssystem zweiter Ordnung basiert, um nicht-glatt konvexe Optimierungsprobleme mit linearen Gleichungsnebenbedingungen zu lösen und dabei schnelle Konvergenzraten für den Primal-Dual-Lücke, die Zulässigkeitsverletzung und das Zielresiduum nachzuweisen.
Dieser Artikel stellt einen proximalen stochastischen Gradientenalgorithmus mit adaptiver Schrittweite und Varianzreduktion für die konvexe zusammengesetzte Optimierung vor, der unter Lipschitz-Bedingungen starke Konvergenz sowie eine Konvergenzrate von nachweist und in numerischen Experimenten zur Logistischen und Lasso-Regression validiert wird.
Diese Arbeit stellt ein neues Rahmenwerk zur Berechnung von Schranken für das Permutations-Fließshop-Scheduling-Problem vor, das auf einer Matrixformulierung basiert und durch die effiziente Lösung von Min-Max-Ausdrücken über Pfadmengen signifikante Verbesserungen bei den unteren und oberen Schranken für Standard-Testinstanzen sowie neue asymptotische Erkenntnisse liefert.
Dieses Papier stellt einen neuartigen dezentralen symmetrischen ADMM-Algorithmus vor, der durch den Einsatz mehrerer Kommunikationsrunden pro Iteration die Gesamtzahl der Iterationen und damit die gesamten Kommunikationskosten bei der Optimierung über Netzwerke ohne zentrale Koordination signifikant reduziert und dabei eine lineare Konvergenz garantiert.
Die Autoren stellen Deep FlexQP vor, einen durch Deep Unfolding beschleunigten, immer zulässigen QP-Löser mit -Elastizität, der nicht nur konvexe Optimierungsprobleme effizient löst, sondern auch bei Infeasibilität robuste Lösungen bietet und in der sequentiellen quadratischen Programmierung (SQP) sowie bei Sicherheitsfiltern signifikante Geschwindigkeits- und Erfolgssteigerungen gegenüber bestehenden Methoden erzielt.
Die Autoren stellen einen verteilten, beschleunigten primal-dualen Algorithmus mit Backtracking (D-APDB) für dezentrale Optimierungsprobleme mit privaten Nebenbedingungen vor, der ohne Kenntnis der Lipschitz-Konstanten auskommt und unter Standardannahmen eine optimale Konvergenzrate von garantiert.
Diese Arbeit liefert eine direkte und vereinfachte Analyse des Muon-Optimierers, die schärfere Konvergenzgarantien für nichtkonvexe Optimierungsprobleme unter weniger restriktiven Annahmen als bisherige Studien etabliert.
Die Arbeit stellt einen Variationsrahmen vor, der Transformer-Schichten als Optimierungsalgorithmen interpretiert, und nutzt diese Perspektive, um einen Nesterov-beschleunigten Transformer zu entwickeln, der auf TinyStories und OpenWebText eine bessere Leistung als ein nanoGPT-Baseline erzielt.
Die Arbeit zeigt, dass das robuste Permutations-Fließshop-Problem unter Budgetunsicherheit durch die Lösung einer polynomiellen Anzahl von Nominalproblemen gelöst werden kann, was zu einem polynomiellen exakten Algorithmus für zwei Maschinen und einer polynomiellen Approximation für eine beliebige feste Anzahl von Maschinen führt.
Die Arbeit zeigt, dass das Bild der reellen Punkte unter einem G-invarianten Quotienten in Bezug auf ein metrisches Maß extrem selten ist, was erklärt, warum in G-invarianten Optimierungsproblemen kritische Punkte und globale Minima bevorzugt an den Randstrata mit nicht-trivialen Stabilisatoren liegen und somit Symmetrie begünstigen.
Diese Arbeit stellt eine Methode zur Steuerung von Stromnetzen vor, die mithilfe eines Fleming-Viot-Partikelansatzes und multistochastischer Optimierung seltene Ereignisse wie langanhaltende Wind- und Solarunterversorgung modelliert, um die Kosten für konventionelle Kraftwerke zu optimieren und die Versorgungssicherheit zu gewährleisten.
Diese Arbeit zeigt, dass die nichtkonvexe Optimierung gemischter H2/H∞-Regler durch eine „wohlwollende" Struktur gekennzeichnet ist, bei der jeder stationäre Punkt global optimal ist, und leitet daraus skalierbare, datengetriebene Methoden für große Systeme ab.
Dieser Beitrag stellt eine direkte, geometrische Methode zur Set-Membership-Lokalisierung vor, die auf unbekannt aber beschränkten Messfehlern basiert und durch effiziente konvexe Optimierung ein garantiertes, konvexes Äußeres (wie einen Würfel oder eine Ellipse) für die nichtkonvexe Menge aller mit den Entfernungsdaten konsistenten Positionen berechnet.
Dieser Artikel liefert unter milden Regularitätsvoraussetzungen eine probabilistische Lösung für lineare quadratische stochastische Steuerungsprobleme mit Zustandsbeschränkungen, indem er eine Darstellung des Wertfunktionswerts und eine optimale Steuerung in starker Form herleitet.
Diese Arbeit zeigt, dass bei hochdimensionalen Zufallsdaten der Gradientenabstieg für flache ReLU-Netzwerke mit hoher Wahrscheinlichkeit eine implizite Verzerrung zugunsten der Minimum-L2-Norm-Lösung aufweist, wobei die Abweichung von der exakten Lösung in der Größenordnung von liegt.