Projected subgradient methods for paraconvex optimization: Application to robust low-rank matrix recovery
本論文は、パラ凸関数の性質を解析し、多様なステップサイズを用いた射影部分勾配法の収束性を理論的に証明するとともに、ロバスト低ランク行列復元問題への適用を通じてその有効性を数値的に検証するものである。
🔢 Category
math.OC
342 件の論文
Curse of Dimensionality in Neural Network Optimization
本論文は、滑らかな活性化関数を持つ浅いニューラルネットワークの勾配流による最適化において、目標関数の滑らかさと次元数が学習速度に決定的な影響を与え、高次元空間における最適化計算に「次元の呪い」が存在することを、パラメータ分布の進化（2-ワッセルシュタイン勾配流）を通じて示しています。
Double Momentum and Error Feedback for Clipping with Fast Rates and Differential Privacy
本論文は、連合学習において任意のデータ異質性を仮定しつつも、強差分プライバシーと最適収束速度を両立させる新たな手法「Clip21-SGD2M」を提案し、その理論的保証と実証的な優位性を示すものである。
A note on pliability and the openness of the multiexponential map in Carnot groups
この論文は、単調集合の characterization やホイットニー拡張の性質に動機づけられた、カルタン群における水平ベクトルの非剛性に関するいくつかの概念を比較検討している。
Kernel Based Maximum Entropy Inverse Reinforcement Learning for Mean-Field Games
本論文は、無限時間定常平均場ゲームにおける報酬関数を再生核ヒルベルト空間でモデル化し、最大因果エントロピー逆強化学習を可能にする新しい枠組みを提案し、理論的な一貫性を証明するとともに、交通ルーティングゲームなどの実証実験で線形報酬ベースラインを大幅に上回る性能を示すとともに、有限時間非定常設定への拡張も行うものである。
Inertial accelerated primal-dual algorithms for non-smooth convex optimization problems with linear equality constraints
本論文は、線形等式制約付き非滑らかな凸最適化問題に対して、時間スケーリングを伴う第二階微分系に基づいた慣性加速型原始双対アルゴリズムを提案し、その連続時間システムおよび離散化アルゴリズムの原始双対ギャップ、実行可能性違反、目的関数残差に関する高速収束性を理論的に証明するとともに数値実験で有効性を示すものである。
A Proximal Stochastic Gradient Method with Adaptive Step Size and Variance Reduction for Convex Composite Optimization
本論文は、滑らかな凸関数と非滑らかな凸関数からなる複合最適化問題に対して、分散低減技術と適応ステップサイズ戦略を組み合わせた近接確率勾配法（PSGA）を提案し、その強収束性、勾配誤差の期待値収束、およびの収束率を理論的に証明するとともに、ロジスティック回帰と Lasso 回帰の数値実験でその有効性を検証したものである。
Bounds for the Permutation Flowshop Scheduling Problem: New Framework and Theoretical Insights
本論文は、行列定式化に基づき新しい枠組みを提案し、多項式時間で計算可能な経路集合を用いてパーミュテーションフローショップスケジューリング問題の上下界を導出することで、主要なベンチマークインスタンスの多くにおいて既存の境界値を改善し、タイルードの予想や漸近的近似比に関する理論的洞察をもたらすものである。
Communication-Efficient Decentralized Optimization via Double-Communication Symmetric ADMM
この論文は、メトリック部分正則性などの比較的弱い仮定のもとで線形収束を保証し、反復ごとの通信ラウンド数を最適化する新しい制約定式化に基づく「二重通信対称 ADMM」を提案することで、分散最適化における総通信コストを大幅に削減する手法を提示しています。
Deep FlexQP: Accelerated Nonlinear Programming via Deep Unfolding
この論文は、制約の非可搬性に対処しつつ最適解を復元する凸二次計画ソルバー「FlexQP」を提案し、その深層学習による展開（Deep FlexQP）を通じて非線形最適化問題を既存手法より 4〜16 倍高速に解き、安全性と成功率を大幅に向上させることを示しています。
An Accelerated Primal Dual Algorithm with Backtracking for Decentralized Constrained Optimization
この論文は、リプシッツ定数の事前知識を必要とせず、分散バックトラッキング手法を用いて非線形制約付き分散最適化問題に対して最適な収束率を達成する新しい加速型双対アルゴリズム（D-APDB）を提案し、その理論的保証と数値的有効性を示したものである。
Improved Convergence Rates of Muon Optimizer for Nonconvex Optimization
本論文は、Muon オプティマイザの収束保証を既存の手法よりも厳密な仮定なしに導き、より広範な問題設定において高速な収束率を達成するよう改善した理論的解析を提示するものです。
YuriiFormer: A Suite of Nesterov-Accelerated Transformers
本論文は、トランスフォーマー層を最適化アルゴリズムの反復として解釈する変分枠組みを提案し、これに基づいてナステロフ加速法を導入した「YuriiFormer」を開発することで、TinyStories や OpenWebText などのタスクにおいて nanoGPT ベースラインを上回る性能を達成したことを示しています。
Robust Permutation Flowshops Under Budgeted Uncertainty
本論文は、各機械で最大限に所定数のジョブ処理時間が変動する予算型不確実性モデル下のロバスト順次フローショップ問題を、多項式個の名义問題の求解に帰着させることで、2 機械の場合に多項式時間で解き、任意の固定された機械数に対して多項式時間近似が可能であることを示しています。
Metric Rarity and the Emergence of Symmetry in G-Invariant Potential Surfaces
有限群 G の作用を持つ複素アフィン代数多様体において、実像の相対体積が対合の個数の逆数に等しく、特に対称群の場合に超指数関数的に減少するという「計量的希少性」を証明し、これが G 不変最適化問題において非対称な臨界点の稀な発生や、エネルギー最小状態が対称性の高い境界領域へ誘導される現象を幾何学的に説明する。
Multistage Stochastic Programming for Rare Event Risk Mitigation in Power Systems Management
本論文は、再生可能エネルギーの供給不足という稀な事象を効果的に捉えるために、Fleming-Viot 粒子法を用いて低風況シナリオにバイアスをかけた多段階確率計画アプローチを提案し、電力系統の運用におけるコスト効率と堅牢性の両立を実現する手法を提示しています。
Policy Optimization of Mixed H2/H-infinity Control: Benign Nonconvexity and Global Optimality
本論文は、混合 H2/H∞制御の最適化問題が非凸性を持つにもかかわらず、すべての停留点が大域的最適解となる「良性の非凸構造」を有し、拡張凸リフティング（ECL）枠組みを用いてその性質を証明することで、大規模・データ駆動型の政策最適化手法の設計を可能にすることを示しています。
Set-Membership Localization via Range Measurements
本論文は、ノイズを含む距離測定値から未知点の位置を推定する問題に対し、未知但有界な誤差を仮定した集合メンバーシップ手法を適用し、非凸な一致集合を凸最適化を用いて効率的に外側から近似する手法を提案している。
A class of stochastic control problems with state constraints
本論文は、状態制約付き線形二次最適制御問題に対し、制約領域の正則性や係数の条件の下で、価値関数と最適制御の確率的表現を導出し、特に強解としてブラウン運動で生成されるフィルトレーションに適合する制御を構成する手法を提案している。
How Does the ReLU Activation Affect the Implicit Bias of Gradient Descent on High-dimensional Neural Network Regression?
この論文は、高次元のランダム特徴量を持つ浅い ReLU ニューラルネットワークにおいて、勾配降下法が収束する解が、確率的に最小 L2 ノルム解に近似することを、予測値とデータスパン係数の進化を追跡する新たな双対解析によって示しています。