Projected subgradient methods for paraconvex optimization: Application to robust low-rank matrix recovery
이 논문은 파라볼록 함수의 특성을 규명하고 다양한 스텝 사이즈를 적용한 투영 서브그래디언트 방법의 수렴성을 분석하며, 이를 강건한 저랭크 행렬 복원 문제에 적용하여 이론적 기반을 실험적으로 검증했습니다.
🔢 Category
math.OC
342 편의 논문
Curse of Dimensionality in Neural Network Optimization
본 논문은 2-워asserstein 그래디언트 흐름을 통해 신경망 최적화 역학을 분석함으로써, 매끄러운 타겟 함수를 근사하는 과정에서 매개변수 분포의 진화를 연구하고 차원의 저주가 활성화 함수의 리프시츠 연속성과 함수의 매끄러움 정도에 따라 어떻게 최적화 계산 속도에 영향을 미치는지 이론적으로 규명했습니다.
Double Momentum and Error Feedback for Clipping with Fast Rates and Differential Privacy
이 논문은 클리핑, 헤비볼 모멘텀, 오차 피드백을 결합한 새로운 알고리즘인 Clip21-SGD2M 을 제안하여, 데이터 이질성이 심한 비볼록 분산 최적화 문제에서도 최적의 수렴 속도와 강력한 차분 프라이버시 보장을 동시에 달성함을 증명합니다.
A note on pliability and the openness of the multiexponential map in Carnot groups
이 논문은 단조 집합의 특성화와 휘트니 확장 성질에 영감을 받아 최근 제안된 카르노 군 내 수평 벡터의 비강성(non-rigidity)에 관한 여러 개념들을 비교 분석합니다.
Kernel Based Maximum Entropy Inverse Reinforcement Learning for Mean-Field Games
이 논문은 무한 시간 평균장 게임에서 RKHS 기반의 최대 인과 엔트로피 역강화학습을 제안하여, 기존 선형 보상 모델의 한계를 극복하고 비선형 보상 구조를 효과적으로 학습하며 이론적 일관성과 실제 교통 시나리오에서의 우수성을 입증합니다.
Inertial accelerated primal-dual algorithms for non-smooth convex optimization problems with linear equality constraints
이 논문은 선형 등식 제약이 있는 비볼록 최적화 문제를 해결하기 위해 시간 스케일링이 적용된 2 차 미분 시스템을 기반으로 한 관성 가속 원 - 쌍대 알고리즘을 제안하고, 이 시스템과 이산화된 알고리즘의 원 - 쌍대 간격, 실현 가능성 위반, 목적 함수 잔차에 대한 빠른 수렴 속도를 증명하며 수치 실험을 통해 그 유효성을 입증합니다.
A Proximal Stochastic Gradient Method with Adaptive Step Size and Variance Reduction for Convex Composite Optimization
이 논문은 매끄러운 볼록 함수와 비매끄러운 볼록 함수로 구성된 합성 최적화 문제를 해결하기 위해 분산 감소 기법과 적응형 스텝 사이즈 전략을 결합한 근사 확률적 경사 하강법 (PSGA) 을 제안하고, 이 방법의 강한 수렴성, 오차 기대값의 0 수렴, 그리고 의 수렴 속도를 증명하며 로지스틱 및 라쏘 회귀 실험을 통해 그 유효성을 검증합니다.
Bounds for the Permutation Flowshop Scheduling Problem: New Framework and Theoretical Insights
본 논문은 퍼뮤테이션 플로우샵 스케줄링 문제 (PFSP) 에 대한 행렬 형식을 기반으로 새로운 상한선 및 하한선 도출 프레임워크를 제안하여 태일러드 및 VRF 벤치마크 instance 의 대부분에서 기존 경계를 개선하고, Taillard 의 추측 및 알고리즘의 점근적 근사비에 관한 이론적 통찰을 제공했습니다.
Communication-Efficient Decentralized Optimization via Double-Communication Symmetric ADMM
이 논문은 중앙 조정자 없이 분산 복합 최적화 문제를 해결하기 위해, 새로운 제약 조건을 통해 이웃을 넘어선 정보 교환을 가능하게 하는 '이중 통신 대칭 ADMM' 알고리즘을 제안하며, 이는 반복 횟수와 전체 통신 비용을 크게 줄이고 선형 수렴을 보장하는 것을 보여줍니다.
Deep FlexQP: Accelerated Nonlinear Programming via Deep Unfolding
이 논문은 제약 조건이 실현 가능하거나 비실현 가능한 경우 모두 최적해를 보장하는 새로운 QP 솔버 FlexQP 를 제안하고, 이를 심층 전개 (deep unfolding) 기법으로 가속화하여 비선형 프로그래밍 및 안전 필터링 문제에서 기존 방법보다 훨씬 빠른 속도와 높은 성공률을 달성하는 Deep FlexQP 를 개발했습니다.
An Accelerated Primal Dual Algorithm with Backtracking for Decentralized Constrained Optimization
이 논문은 리프시츠 상수에 대한 사전 지식 없이 분산 백트래킹 기법을 통해 비선형 제약 조건이 있는 다중 에이전트 최적화 문제를 해결하고 최적 수렴 속도를 보장하는 새로운 분산 가속 원 - 쌍대 알고리즘 (D-APDB) 을 제안합니다.
Improved Convergence Rates of Muon Optimizer for Nonconvex Optimization
이 논문은 기존 연구의 제한적인 가정을 피하고 직접적인 분석을 통해 뮤온 (Muon) 옵티마이저의 수렴 속도를 개선하고 더 넓은 문제 설정을 포괄하는 정교한 수렴 보장을 제시합니다.
YuriiFormer: A Suite of Nesterov-Accelerated Transformers
이 논문은 트랜스포머 레이어를 최적화 알고리즘의 반복으로 해석하는 변분 프레임워크를 제안하고, 이를 바탕으로 네스테로프 가속 기법을 적용한 YuriiFormer 아키텍처를 개발하여 TinyStories 와 OpenWebText 데이터셋에서 기존 nanoGPT 보다 우수한 성능을 입증했습니다.
Robust Permutation Flowshops Under Budgeted Uncertainty
본 논문은 예산 제약 하의 불확실성 모델을 적용한 강건한 순차적 플로우샵 문제에 대해, 다항식 개수의 명목 문제 (nominal problem) 를 해결함으로써 다항식 시간 내에 최적 해를 구할 수 있음을 증명하고, 특히 2 대의 기계에 대해서는 다항식 시간 해법이 존재하며 고정된 수의 기계에 대해서는 다항식 시간 근사 알고리즘이 가능함을 보여줍니다.
Metric Rarity and the Emergence of Symmetry in G-Invariant Potential Surfaces
이 논문은 G-불변 잠재력 표면에서 실수 이미지의 부피가 대칭군의 involutions 수에 반비례하여 급격히 감소한다는 기하학적 희소성을 증명하고, 이를 통해 최적화 문제에서 비대칭 임계점의 부재와 낮은 에너지 상태가 높은 대칭성을 갖는 경계 영역으로 유도되는 현상을 설명합니다.
Multistage Stochastic Programming for Rare Event Risk Mitigation in Power Systems Management
이 논문은 풍력 발전의 극단적인 부족 상황을 효과적으로 대비하기 위해, 희귀 사건 발생 확률을 높여 시나리오를 생성하는 플레밍 - 비오프 입자 기법을 활용한 다단계 확률적 프로그래밍 기반의 전력 시스템 제어 방법을 제시합니다.
Policy Optimization of Mixed H2/H-infinity Control: Benign Nonconvexity and Global Optimality
이 논문은 현대적 정책 최적화 관점에서 혼합 H2/H∞ 제어 문제를 재검토하여, 모든 정상점이 전역 최적해인 '유익한 비볼록성'을 증명하고 확장된 볼록 리프팅 (ECL) 프레임워크를 통해 대규모 및 데이터 기반 설정에서도 확장 가능한 전역 최적화 방법을 제시합니다.
Set-Membership Localization via Range Measurements
이 논문은 노이즈가 포함된 거리 측정치를 바탕으로 미지의 점 위치를 추정하는 문제를 다루며, 오차 모델을 기반으로 한 집합-구성원 (set-membership) 방법론을 사용하여 국소화 집합을 정의하고 이를 효율적인 볼록 프로그래밍 기법으로 단순한 외접 상자 또는 타원체로 근사화하는 새로운 접근법을 제시합니다.
A class of stochastic control problems with state constraints
이 논문은 상태 제약 조건을 가진 선형 2 차 최적 제어 문제에 대해 상태가 주어진 폐집합의 여집합 내에 머물도록 확률적 해와 최적 제어 전략을 도출하고, 이를 위한 확률적 표현식과 명시적 공식을 제시합니다.
How Does the ReLU Activation Affect the Implicit Bias of Gradient Descent on High-dimensional Neural Network Regression?
이 논문은 고차원 랜덤 특징을 갖는 얕은 ReLU 신경망에서 경사 하강법의 암시적 편향이 최소 L2-노름 해를 근사함을 보이며, 이를 위해 예측과 데이터 계수의 진화를 추적하는 새로운 원 - 쌍대 분석 기법을 제시합니다.