Compressed Proximal Federated Learning for Non-Convex Composite Optimization on Heterogeneous Data

이 논문은 비볼록 합성 최적화 문제를 해결하기 위해 프록시 업데이트와 통신을 분리하고 오차 피드백 및 제어 변수를 통합하여 통신 효율성과 수렴성을 동시에 향상시킨 새로운 연방 학습 알고리즘인 FedCEF 를 제안하고 그 이론적 수렴성과 실증적 유효성을 입증합니다.

Pu Qiu, Chen Ouyang, Yongyang Xiong, Keyou You, Wanquan Liu, Yang Shi2026-03-10🤖 cs.LG

Partial Differential Equations in the Age of Machine Learning: A Critical Synthesis of Classical, Machine Learning, and Hybrid Methods

이 논문은 고전적 수치 해법과 기계 학습 접근법의 인식론적 차이를 명확히 구분하고, 두 방법론의 한계와 상호 보완성을 비판적으로 분석하여 PDE 해법을 위한 하이브리드 설계 원칙과 미래 방향성을 제시합니다.

Mohammad Nooraiepour, Jakub Wiktor Both, Teeratorn Kadeethum, Saeid Sadeghnejad2026-03-10🤖 cs.LG

Mitigating the Memory Bottleneck with Machine Learning-Driven and Data-Aware Microarchitectural Techniques

이 논문은 현대 프로세서의 메모리 병목 현상을 해결하기 위해 실행 중 관찰된 데이터 패턴을 학습하고 애플리케이션 데이터의 의미적 특성을 활용하는 머신러닝 기반의 데이터 인식형 마이크로아키텍처 기법들을 제안하여 성능과 에너지 효율을 획기적으로 향상시켰음을 보여줍니다.

Rahul Bera2026-03-10🤖 cs.LG

Scalable Training of Mixture-of-Experts Models with Megatron Core

이 논문은 메모리, 통신, 연산의 통합 최적화 및 다양한 병렬화 기법을 통해 MoE 모델의 확장성 문제를 해결하고, NVIDIA GB200/GB300 클러스터에서 높은 성능을 달성한 Megatron Core 기반의 실용적인 오픈소스 솔루션을 제시합니다.

Zijie Yan (NVIDIA), Hongxiao Bai (NVIDIA), Xin Yao (NVIDIA), Dennis Liu (NVIDIA), Tong Liu (NVIDIA), Hongbin Liu (NVIDIA), Pingtian Li (NVIDIA), Evan Wu (NVIDIA), Shiqing Fan (NVIDIA), Li Tao (NVIDIA), Robin Zhang (NVIDIA), Yuzhong Wang (NVIDIA), Shifang Xu (NVIDIA), Jack Chang (NVIDIA), Xuwen Chen (NVIDIA), Kunlun Li (NVIDIA), Yan Bai (NVIDIA), Gao Deng (NVIDIA), Nan Zheng (NVIDIA), Vijay Anand Korthikanti (NVIDIA), Abhinav Khattar (NVIDIA), Ethan He (NVIDIA), Soham Govande (NVIDIA), Sangkug Lym (NVIDIA), Zhongbo Zhu (NVIDIA), Qi Zhang (NVIDIA), Haochen Yuan (NVIDIA), Xiaowei Ren (NVIDIA), Deyu Fu (NVIDIA), Tailai Ma (NVIDIA), Shunkang Zhang (NVIDIA), Jiang Shao (NVIDIA), Ray Wang (NVIDIA), Santosh Bhavani (NVIDIA), Xipeng Li (NVIDIA), Chandler Zhou (NVIDIA), David Wu (NVIDIA), Yingcan Wei (NVIDIA), Ashwath Aithal (NVIDIA), Michael Andersch (NVIDIA), Mohammad Shoeybi (NVIDIA), Jiajie Yao (NVIDIA), June Yang (NVIDIA)2026-03-10🤖 cs.LG

Global Convergence of Average Reward Constrained MDPs with Neural Critic and General Policy Parameterization

이 논문은 신경망 크리틱과 일반 정책 파라미터화를 사용하는 평균 보상 제약 MDP 를 위한 원 - 쌍대 자연 액터 - 크리틱 알고리즘을 제안하고, NTK 이론을 활용하여 혼합 시간 오라클 없이 전역 수렴과 누적 제약 위반률 O~(T1/4)\tilde{\mathcal{O}}(T^{-1/4})을 보장하는 최초의 이론적 결과를 제시합니다.

Anirudh Satheesh, Pankaj Kumar Barman, Washim Uddin Mondal, Vaneet Aggarwal2026-03-10🤖 cs.LG

Reverse Distillation: Consistently Scaling Protein Language Model Representations

이 논문은 자연어 처리나 컴퓨터 비전과 달리 단백질 언어 모델 (PLM) 의 확장성이 부진한 문제를 해결하기 위해, 작은 모델의 표현을 큰 모델의 직교 부분 공간으로 분해하여 '마트료시카' 구조를 갖는 역 증류 (Reverse Distillation) 프레임워크를 제안하고, 이를 통해 단백질 벤치마크에서 더 큰 모델이 일관되게 우수한 성능을 발휘하도록 함을 보여줍니다.

Darius Catrina, Christian Bepler, Samuel Sledzieski, Rohit Singh2026-03-10🤖 cs.LG

A Lightweight MPC Bidding Framework for Brand Auction Ads

이 논문은 브랜드 광고의 고유한 특성을 활용하여 복잡한 머신러닝 모델 없이도 온라인 등분위 회귀를 통해 단조로운 입찰 - 지출 및 입찰 - 전환 모델을 구축하는 경량 예측 제어 (MPC) 프레임을 제안하며, 이를 통해 실시간 입찰 환경에서 지출 효율성과 비용 통제력을 크게 향상시킨다고 설명합니다.

Yuanlong Chen, Bowen Zhu, Bing Xia, Yichuan Wang2026-03-10🤖 cs.LG

Breaking Training Bottlenecks: Effective and Stable Reinforcement Learning for Coding Models

이 논문은 현대 코딩 모델의 학습 병목 현상을 해결하기 위해 조건부 트렁케이션 마스킹, 다양성 기반 온도 선택, KL 손실 제거 등 세 가지 혁신을 도입한 MicroCoder-GRPO 알고리즘과 더 까다로운 학습 데이터셋, 그리고 정밀한 평가 프레임워크를 제안하여 강력한 베이스라인 대비 LiveCodeBench v6 에서 최대 17.6% 의 상대적 성능 향상을 달성했다고 요약할 수 있습니다.

Zongqian Li, Shaohan Huang, Zewen Chi, Yixuan Su, Lexin Zhou, Li Dong, Nigel Collier, Furu Wei2026-03-10🤖 cs.LG

Lindbladian Learning with Neural Differential Equations

이 논문은 중성 원자 및 초전도 양자 프로세서와 같은 다양한 개방 양자 시스템에서 측정 데이터를 기반으로 비볼록 최적화 문제를 해결하고 노이즈에 강인하게 리드블라디안 동역학을 학습할 수 있는 신경 미분 방정식을 활용한 새로운 학습 프레임워크를 제안합니다.

Timothy Heightman, Roman Aseguinolaza Gallo, Edward Jiang, JRM Saavedra, Antonio Acín, Marcin Płodzien2026-03-10⚛️ quant-ph

Scaling Data Difficulty: Improving Coding Models via Reinforcement Learning on Fresh and Challenging Problems

이 논문은 자동 난이도 필터링을 포함한 4 단계 데이터 처리 프레임워크를 통해 최신의 고난이도 프로그래밍 문제만 선별한 'MicroCoder' 데이터셋을 구축하고, 이를 통해 기존 데이터셋 대비 훨씬 큰 성능 향상을 이끌어낸 Reinforcement Learning 기반 코딩 모델 학습 방법을 제안합니다.

Zongqian Li, Tengchao Lv, Shaohan Huang, Yixuan Su, Qinzheng Sun, Qiufeng Yin, Ying Xin, Scarlett Li, Lei Cui, Nigel Collier, Furu Wei2026-03-10🤖 cs.LG