Randomized Kriging Believer for Parallel Bayesian Optimization with Regret Bounds
이 논문은 기존 병렬 베이지안 최적화 방법들의 한계를 극복하고 낮은 계산 복잡성과 이론적 후회 한계 보장을 동시에 제공하는 '랜덤화 크리깅 벨리버 (Randomized Kriging Believer)' 알고리즘을 제안하고 실험을 통해 그 유효성을 입증합니다.
📊 Category
stat.ML
333 편의 논문
Partition-Based Functional Ridge Regression for High-Dimensional Data
이 논문은 고차원 기능적 선형 모델의 다중공선성, 과적합 및 해석성 문제를 해결하기 위해 계수 함수를 주효과와 약한 효과로 분할하여 차등 리지 패널을 적용하는 새로운 프레임워크를 제안하고, 이를 통해 추정량의 일관성과 점근적 정규성을 증명하며 예측 성능을 향상시킨다는 결과를 보여줍니다.
Co-Diffusion: An Affinity-Aware Two-Stage Latent Diffusion Framework for Generalizable Drug-Target Affinity Prediction
이 논문은 희소 레이블과 도메인 편이로 인한 표현 붕괴 문제를 해결하고, 약물-표적 친화도 예측의 일반화 능력을 획기적으로 향상시키기 위해 친화도 지향 잠재 매니폴드 정렬과 확률적 확산 정규화를 결합한 새로운 2 단계 프레임워크 'Co-Diffusion'을 제안합니다.
Efficient Approximation to Analytic and functions by Height-Augmented ReLU Networks
이 논문은 3 차원 네트워크 아키텍처를 통해 sawtooth 함수의 효율적인 표현을 가능하게 함으로써, 해석 함수 및 함수에 대한 기존 이론의 한계를 극복하고 지수적 근사율 향상과 고차 비점근적 근사 정리를 제시합니다.
Deep regression learning from dependent observations with minimum error entropy principle
이 논문은 강한 혼합 조건 하의 종속 관측치를 기반으로 최소 오차 엔트로피 원리를 적용한 비모수 회귀를 제안하고, 비페널티 및 희소 페널티 심층 신경망 추정량의 기대 초과 리스크 상한을 증명하여 가우스 오차 모델에서 최소극한 최적 수렴 속도를 달성함을 보여줍니다.
Algorithmic Capture, Computational Complexity, and Inductive Bias of Infinite Transformers
이 논문은 무한 폭 트랜스포머가 '알고리즘적 포획 (Algorithmic Capture)'을 정의하고, 효율적 다항 시간 휴리스틱 (EPTHS) 클래스 내의 저복잡도 알고리즘에 대한 귀납적 편향을 가지며 고복잡도 알고리즘 학습에는 실패함을 이론적으로 규명합니다.
Trustworthy predictive distributions for rare events via diagnostic transport maps
이 논문은 희귀 사건에 대한 신뢰할 수 있는 예측 분포를 제공하기 위해 기본 예측 모델을 보정하는 진단 운송 맵 (diagnostic transport maps) 을 제안하고, 이를 허리케인 강도 예측에 적용하여 기존 운영 예보보다 우수한 성능을 입증했습니다.
RIE-Greedy: Regularization-Induced Exploration for Contextual Bandits
이 논문은 교차검증 기반 정규화 과정의 확률적 특성을 탐험의 원천으로 활용하여 블랙박스 추정기에서도 효과적으로 작동하는 'RIE-Greedy' 알고리즘을 제안하고, 이것이 이론적으로 톰슨 샘플링과 동등하며 실전 환경에서 기존 방법들보다 우수한 성능을 보임을 입증합니다.
Outrigger local polynomial regression
이 논문은 이분산성이나 오차 분포의 구조적 가정을 요구하지 않으면서도 가우시안 오차 하에서 표준 로컬 다항식 추정량과 동등한 점근적 위험을 보장하고, Hölder 클래스에서 최소최대 최적성을 달성하는 'Outrigger' 로컬 다항식 추정량을 제안하고 그 이론적 성질과 실증적 유효성을 입증합니다.
Worst-case low-rank approximations
이 논문은 이질적인 도메인 간 분포 변화에 강인한 최악의 경우 저랭크 근사를 위한 통합 프레임워크인 wcPCA 를 제안하고, 이를 다양한 목적 함수와 행렬 완성 문제로 확장하여 이론적 최적성과 실증적 성능 개선을 입증합니다.
On the Robustness of Langevin Dynamics to Score Function Error
이 논문은 스코어 함수의 L^p 오차가 매우 작더라도 고차원 공간에서 랑베빈 역학이 목표 분포와 TV 거리가 먼 분포를 생성할 수 있음을 보여줌으로써, 실제 데이터 기반 학습 시 확산 모델이 랑베빈 역학보다 우월함을 입증합니다.
Spatially Robust Inference with Predicted and Missing at Random Labels
이 논문은 예측된 라벨과 결측이 무작위 (MAR) 인 공간 의존성 데이터에서 교차 적합으로 인한 분산 추정의 왜곡을 해결하기 위해 잭나이프 기반의 공간 HAC 분산 보정을 도입한 이중 강건 추정기를 제안하여, 하향 통계적 추론의 유효성을 보장합니다.
Decomposing Observational Multiplicity in Decision Trees: Leaf and Structural Regret
이 논문은 의사결정나무 모델의 관측적 다중성을 '리프 후회'와 '구조적 후회'로 분해하여 구조적 불안정성이 주요 원인임을 규명하고, 이를 선택적 예측의 거절 메커니즘으로 활용함으로써 모델 안전성을 향상시키는 새로운 프레임워크를 제시합니다.
Exploiting Expertise of Non-Expert and Diverse Agents in Social Bandit Learning: A Free Energy Approach
이 논문은 보상에 대한 정보 없이도 다른 에이전트의 행동만을 관찰하여 그들의 전문성을 추정하고 이를 개인 경험과 통합함으로써 비전문가 및 다양한 에이전트 집단에서도 최적 정책을 수렴하고 로그 후회 (logarithmic regret) 를 달성하는 자유 에너지 기반의 사회적 밴딧 학습 알고리즘을 제안합니다.
A Further Efficient Algorithm with Best-of-Both-Worlds Guarantees for -Set Semi-Bandit Problem
본 논문은 -set 반-밴딧 문제에서 프레체 (Fréchet) 및 파레토 (Pareto) 분포를 활용한 FTPL 알고리즘이 적대적 환경과 확률적 환경 모두에서 최적의 후회 (regret) 보장을 달성하고, 조건부 기하학적 리샘플링을 통해 계산 복잡도를 획기적으로 낮추는 효율적인 알고리즘을 제안합니다.
Language Generation with Replay: A Learning-Theoretic View of Model Collapse
이 논문은 생성된 텍스트가 학습 데이터에 재유입되는 '리플레이'가 언어 생성의 수렴성에 미치는 영향을 학습이론적 관점에서 분석하여, 균일 생성에는 무해하지만 비균일 생성과 극한 생성에서는 성능 저하를 초래할 수 있음을 증명하고, 이를 완화하는 실용적 기법들의 이론적 한계를 규명합니다.
Hypercomplex Widely Linear Processing: Fundamentals for Quaternion Machine Learning
이 논문은 머신러닝 분야에서 3 차원 회전 모델링의 강력한 능력을 가진 쿼터니온의 부흥을 배경으로, 증강 통계, 광선형 모델, 쿼터니온 미적분 및 평균 제곱 추정 등을 체계적으로 다루어 쿼터니온 머신러닝 연구의 기초를 마련합니다.
Data Fusion with Distributional Equivalence Test-then-pool
이 논문은 과거 대조군 데이터를 활용하여 통계적 검정력을 높이는 동시에 제 1 종 오류를 엄격히 통제하기 위해 최대 평균 불일치 (MMD) 기반의 분포 동등성 검정과 부분 부트스트랩 기법을 결합한 새로운 '테스트 후 풀링 (Test-then-pool)' 프레임워크를 제안합니다.
EnTransformer: A Deep Generative Transformer for Multivariate Probabilistic Forecasting
이 논문은 에너지 기반 스코링 목적 함수와 엔그레션 (engression) 을 결합하여 파라미터적 가정을 피하면서도 상관관계가 있는 다변량 시계열의 복잡한 결합 예측 분포를 학습하고 일관된 확률적 예측을 생성하는 새로운 딥 생성 트랜스포머 모델인 'EnTransformer'를 제안하고, 다양한 벤치마크 데이터셋에서 기존 모델보다 우수한 성능을 입증합니다.
Uncovering Locally Low-dimensional Structure in Networks by Locally Optimal Spectral Embedding
이 논문은 전역적 저차원 가정이 실세계 네트워크의 국소적 구조를 왜곡하는 문제를 해결하기 위해 가중치 스펙트럼 분해를 기반으로 한 '국소 인접 스펙트럼 임베딩 (LASE)'을 제안하고, 이를 통해 국소적 저차원 구조를 효과적으로 포착하며 UMAP-LASE 를 통해 고충실도 전역 시각화를 가능하게 함을 보여줍니다.