Step-Size Decay and Structural Stagnation in Greedy Sparse Learning
이 논문은 희소 학습 관점에서 단계 크기 감쇠가 과도할 경우 (α>1) 저차원 환경에서도 구조적 정체가 발생한다는 것을 이론적 하한과 수치 실험을 통해 규명하고, 이를 통해 탐욕적 희소 학습의 단계 크기 설계에 대한 통찰을 제공합니다.
🤖 Category
cs.LG
8686 편의 논문
Deep Incentive Design with Differentiable Equilibrium Blocks
이 논문은 게임과 무관한 미분 가능 균형 블록 (DEB) 을 모듈로 활용하여 계약 설계, 기계 스케줄링, 역균형 문제 등 다양한 인센티브 설계 과제를 단일 신경망으로 해결하는 '딥 인센티브 설계 (DID)' 프레임워크를 제안합니다.
Reverse Distillation: Consistently Scaling Protein Language Model Representations
이 논문은 자연어 처리나 컴퓨터 비전과 달리 단백질 언어 모델 (PLM) 의 확장성이 부진한 문제를 해결하기 위해, 작은 모델의 표현을 큰 모델의 직교 부분 공간으로 분해하여 '마트료시카' 구조를 갖는 역 증류 (Reverse Distillation) 프레임워크를 제안하고, 이를 통해 단백질 벤치마크에서 더 큰 모델이 일관되게 우수한 성능을 발휘하도록 함을 보여줍니다.
A Lightweight MPC Bidding Framework for Brand Auction Ads
이 논문은 브랜드 광고의 고유한 특성을 활용하여 복잡한 머신러닝 모델 없이도 온라인 등분위 회귀를 통해 단조로운 입찰 - 지출 및 입찰 - 전환 모델을 구축하는 경량 예측 제어 (MPC) 프레임을 제안하며, 이를 통해 실시간 입찰 환경에서 지출 효율성과 비용 통제력을 크게 향상시킨다고 설명합니다.
Hide and Find: A Distributed Adversarial Attack on Federated Graph Learning
이 논문은 연방 그래프 학습 (FedGL) 의 취약점을 악용하여 기존 방어 기법을 우회하고 90% 이상의 시간 단축으로 높은 공격 성공률을 달성하는 새로운 2 단계 'Hide and Find' 분산 적대적 공격 방법인 'FedShift'를 제안합니다.
Uncertainty-Gated Generative Modeling
이 논문은 불확실성을 내부 제어 신호로 활용하여 표현, 전파, 생성 단계를 제어하는 '불확실성 게이트 생성 모델링 (UGGM)'을 제안함으로써 금융 시계열 예측의 위험 민감성과 강건성을 크게 향상시켰습니다.
Using GPUs And LLMs Can Be Satisfying for Nonlinear Real Arithmetic Problems
이 논문은 LLM 과 GPU 가속을 결합한 새로운 SMT 솔버 'GANRA'를 개발하여 비선형 실수 산술 문제를 해결하는 데 있어 기존 최첨단 기술 대비 훨씬 빠른 속도와 높은 성능을 달성했음을 보여줍니다.
Breaking Training Bottlenecks: Effective and Stable Reinforcement Learning for Coding Models
이 논문은 현대 코딩 모델의 학습 병목 현상을 해결하기 위해 조건부 트렁케이션 마스킹, 다양성 기반 온도 선택, KL 손실 제거 등 세 가지 혁신을 도입한 MicroCoder-GRPO 알고리즘과 더 까다로운 학습 데이터셋, 그리고 정밀한 평가 프레임워크를 제안하여 강력한 베이스라인 대비 LiveCodeBench v6 에서 최대 17.6% 의 상대적 성능 향상을 달성했다고 요약할 수 있습니다.
Lindbladian Learning with Neural Differential Equations
이 논문은 중성 원자 및 초전도 양자 프로세서와 같은 다양한 개방 양자 시스템에서 측정 데이터를 기반으로 비볼록 최적화 문제를 해결하고 노이즈에 강인하게 리드블라디안 동역학을 학습할 수 있는 신경 미분 방정식을 활용한 새로운 학습 프레임워크를 제안합니다.
Scaling Data Difficulty: Improving Coding Models via Reinforcement Learning on Fresh and Challenging Problems
이 논문은 자동 난이도 필터링을 포함한 4 단계 데이터 처리 프레임워크를 통해 최신의 고난이도 프로그래밍 문제만 선별한 'MicroCoder' 데이터셋을 구축하고, 이를 통해 기존 데이터셋 대비 훨씬 큰 성능 향상을 이끌어낸 Reinforcement Learning 기반 코딩 모델 학습 방법을 제안합니다.
ProgAgent:A Continual RL Agent with Progress-Aware Rewards
이 논문은 무레이블 전문가 비디오에서 작업 진행도를 추정하는 지각 모델을 통해 밀도 보상과 적대적 정제 기법을 결합하고, JIT 컴파일된 병렬 학습 아키텍처에 PPO 와 continual learning 기법을 통합하여 파국적 망각을 줄이고 복잡한 조작 기술을 습득하는 'ProgAgent'를 제안합니다.
Vision Transformers that Never Stop Learning
이 논문은 비전 트랜스포머 (ViT) 에서 발생하는 가소성 손실의 원인을 규명하고, 재초기화 방식의 실패를 지적하며 곡률 추정을 통해 경사 방향을 적응적으로 재구성하는 새로운 옵티마이저 'ARROW'를 제안하여 지속적인 학습 능력을 향상시키는 방법을 제시합니다.
Toward Global Intent Inference for Human Motion by Inverse Reinforcement Learning
이 논문은 MO-IRL 알고리즘을 활용하여 피험자와 자세에 구애받지 않는 단일 시간 가변 비용 함수가 인간 도달 운동의 최적성 원리를 설명하고 기존 방법보다 평균 27% 낮은 오차로 운동 궤적을 정확하게 예측할 수 있음을 입증합니다.
Neural Precoding in Complex Projective Spaces
이 논문은 다중 사용자 MISO 시스템에서 전구간 위상 불변성을 활용하여 전구간 위상 중복성을 제거한 복소 사영 공간 (CPS) 기반 딥러닝 프리코딩 프레임워크를 제안함으로써, 기존 방식 대비 합계 용량 성능과 일반화 능력을 크게 향상시킨다는 점을 보여줍니다.
Learning embeddings of non-linear PDEs: the Burgers' equation
이 논문은 물리 정보 신경망 (PINN) 에 다중 헤드 구조와 주성분 분석 (PCA) 을 결합하여 비선형 편미분방정식 (버거스 방정식) 의 해 공간에 대한 저차원 임베딩을 구축하고, 이를 통해 역학적 특성을 포착하는 소수의 잠재 모드를 추출하는 방법을 제시합니다.
Fusion Complexity Inversion: Why Simpler Cross View Modules Outperform SSMs and Cross View Attention Transformers for Pasture Biomass Regression
이 논문은 목초 생체량 회귀 과제에서 데이터의 희소성으로 인해 복잡한 융합 모듈보다 단순한 국소 모듈이 더 우수한 성능을 보이며, 특히 백본 모델의 사전 학습 품질이 아키텍처 선택보다 결정적인 요소임을 규명했습니다.
Transferable Optimization Network for Cross-Domain Image Reconstruction
이 논문은 다양한 도메인의 대규모 이질적 데이터로 범용 특징 추출기를 학습한 후, 제한된 데이터만 있는 새로운 타겟 도메인에 맞춰 어댑터를 학습하는 이중 최적화 기반 전이 학습 프레임워크를 제안하여, 데이터 부족 문제를 해결하고 고품질의 이미지 재구성을 가능하게 합니다.
Gradient Iterated Temporal-Difference Learning
이 논문은 이동하는 타겟에 대한 기울기를 계산하여 반-기울기 방법과 경쟁할 수 있는 학습 속도를 가지면서도 수렴성을 보장하는 '기울기 반복 시간차 (Gradient Iterated TD) 학습' 알고리즘을 제안하고, 아타리 게임 등 다양한 벤치마크에서 기존 반-기울기 방법과 경쟁하는 성능을 입증했습니다.
Guess & Guide: Gradient-Free Zero-Shot Diffusion Guidance
이 논문은 역전파 오버헤드 없이 다양한 역문제에 대해 가장 빠르고 파레토 최적의 성능을 달성하는 경량 가능도 대리 모델을 제안하여, 사전 학습된 확산 모델을 활용한 제로샷 생성의 계산 비용을 획기적으로 줄였습니다.
An Interpretable Generative Framework for Anomaly Detection in High-Dimensional Financial Time Series
이 논문은 복잡한 시계열 의존성과 교차-sectional 구조의 진화를 고려하여, 예측 불일치와 재구성 저하 등을 통합한 해석 가능한 생성 모델 ReGEN-TAD 를 제안함으로써 레이블이 없는 고차원 금융 시계열 데이터의 이상 탐지 및 경제적 요인 귀속을 가능하게 합니다.