The Volterra signature
이 논문은 비마르코프 시간 계열 데이터 학습을 위해 제안된 볼테라 시그니처 (Volterra signature) 의 이론적 근거, 계산적 효율성 및 실용적 유효성을 입증하고 기존 경로 시그니처 기반 방법론보다 우수한 성능을 보여줍니다.
📊 Category
stat.ML
335 편의 논문
Oracle-efficient Hybrid Learning with Constrained Adversaries
이 논문은 학습자 가설 클래스와 제약된 적대자 라벨 클래스의 라데마허 복잡도에 비례하는 후회도를 가지며 ERM 오라클을 기반으로 계산적으로 효율적인 하이브리드 온라인 학습 알고리즘을 제안하고, 이를 통해 고차원 행동 집합을 가진 확률적 제로섬 게임의 균형 계산 문제를 해결합니다.
K-Means as a Radial Basis function Network: a Variational and Gradient-based Equivalence
이 논문은 온도가 0 으로 수렴할 때 가중 RBF 네트워크의 목적 함수가 K-평균 알고리즘과 -수렴하며, 엔트맥스 (Entmax-1.5) 를 통해 수치적 안정성을 확보함으로써 이산적 클러스터링과 연속적 최적화를 연결하는 미분 가능한 통합 프레임워크를 제시합니다.
Optimal Prediction-Augmented Algorithms for Testing Independence of Distributions
이 논문은 예측 정보를 활용하여 예측의 정확도에 따라 적응적으로 샘플 복잡도를 줄이면서도 최악의 경우 유효성을 보장하는 최적의 독립성 검정 알고리즘을 제안하고, 이에 대한 하한을 증명합니다.
sFRC for assessing hallucinations in medical image restoration
이 논문은 의료 영상 복원 시 딥러닝 모델이 생성할 수 있는 환각 (hallucination) 을 탐지하기 위해 작은 패치 단위의 푸리에 링 상관관계 (FRC) 를 스캔하는 sFRC 기법을 제안하고, 이를 다양한 의료 영상 복원 문제에서 효과적으로 검증합니다.
Why the Brain Consolidates: Predictive Forgetting for Optimal Generalisation
이 논문은 기억의 고정이 단순한 안정화가 아니라, 미래 예측에 기여하는 정보만 선택적으로 유지하는 '예측적 망각'을 통해 일반화 능력을 최적화하는 과정임을 제시하며, 이를 다양한 신경 및 언어 모델 시뮬레이션을 통해 입증하고 있습니다.
Distributional Equivalence in Linear Non-Gaussian Latent-Variable Cyclic Causal Models: Characterization and Learning
이 논문은 구조적 가정이 없는 선형 비가우시안 잠재 변수 순환 인과 모델에 대해 두 그래프가 동일한 분포를 생성하는지 판단하는 그래픽 기준과 동치 클래스를 탐색하며 모델을 학습하는 알고리즘을 제시하여, 기존 방법론의 한계를 극복하는 최초의 구조적 가정 없는 인과 발견 체계를 확립했습니다.
The Inductive Bias of Convolutional Neural Networks: Locality and Weight Sharing Reshape Implicit Regularization
이 논문은 국소성과 가중치 공유가 고차원 구면 데이터에서도 완전 연결 네트워크와 달리 효과적인 일반화를 가능하게 하는 인과적 기제를 이론적으로 증명하고, 자연 이미지의 패치 기하학적 특성이 이러한 안정성 메커니즘을 촉진하여 합성곱 신경망의 우수한 일반화 성능을 설명한다고 요약할 수 있습니다.
How Does the ReLU Activation Affect the Implicit Bias of Gradient Descent on High-dimensional Neural Network Regression?
이 논문은 고차원 랜덤 특징을 갖는 얕은 ReLU 신경망에서 경사 하강법의 암시적 편향이 최소 L2-노름 해를 근사함을 보이며, 이를 위해 예측과 데이터 계수의 진화를 추적하는 새로운 원 - 쌍대 분석 기법을 제시합니다.
Non-Euclidean Gradient Descent Operates at the Edge of Stability
이 논문은 방향성 매끄러움 (Directional Smoothness) 개념을 비유클리드 노름으로 확장하여 일반화된 날카로움 (sharpness) 지표를 정의함으로써, 다양한 옵티마이저에서도 안정성 한계 (Edge of Stability) 현상이 보편적으로 관찰됨을 이론적으로 해석하고 실험적으로 입증합니다.
Federated Causal Discovery Across Heterogeneous Datasets under Latent Confounding
이 논문은 데이터 프라이버시 규정과 이질성을 고려하여 잠재 교란 변수 하에서도 분산된 이질적 데이터셋 간 인과적 발견을 가능하게 하는 새로운 연합 조건부 독립성 검정 'fedCI'와 이를 기반으로 한 'fedCI-IOD' 알고리즘을 제안합니다.
Towards a data-scale independent regulariser for robust sparse identification of non-linear dynamics
이 논문은 데이터 정규화로 인한 왜곡 문제를 해결하고 노이즈가 있는 데이터에서도 강건한 희소 동역학 식별을 가능하게 하는 새로운 통계 기반 정규화 불변 알고리즘인 STCV 를 제안하고 그 유효성을 입증합니다.
Learning Optimal Individualized Decision Rules with Conditional Demographic Parity
이 논문은 편향된 데이터로 인해 발생할 수 있는 개인화 의사결정 규칙의 차별적 영향을 완화하기 위해 인구통계학적 평등과 조건부 인구통계학적 평등 제약을 통합한 새로운 프레임워크를 제안하고, 이를 통해 계산 효율성을 갖춘 최적의 규칙을 도출하며 이론적 수렴 속도와 실증적 유효성을 입증합니다.
Layer by layer, module by module: Choose both for optimal OOD probing of ViT
이 논문은 사전 학습된 비전 트랜스포머 (ViT) 의 중간 레이어가 분포 변화에 따라 최적의 성능을 내는 위치가 달라지며, 심한 분포 변화 시에는 피드포워드 네트워크 내부 활성화가, 약한 변화 시에는 멀티헤드 셀프 어텐션의 정규화된 출력이 각각 최적의 OOD 탐지 지점임을 규명합니다.
Bayesian Supervised Causal Clustering
이 논문은 치료 효과를 결과 변수로 활용하여 공변량 프로필과 치료 효과가 모두 유사한 환자 하위 그룹을 식별하는 베이지안 감독 인과 군집화 (BSCC) 방법을 제안하고, 시뮬레이션 데이터와 제 3 회 국제 뇌졸중 임상 시험 데이터를 통해 그 유효성을 검증합니다.
How important are the genes to explain the outcome - the asymmetric Shapley value as an honest importance metric for high-dimensional features
이 논문은 임상 예측 모델에서 유전체와 같은 고차원 특징의 중요성을 평가할 때 기존 방법의 한계를 극복하고, 비대칭 샤플리 값을 활용하여 변수 간의 인과 방향성과 공선성을 고려한 정직한 중요도 측정 지표와 효율적인 계산 알고리즘을 제안합니다.
Bayes with No Shame: Admissibility Geometries of Predictive Inference
이 논문은 베이지안 위험 우위, 언제든 유효한 적절성, 주변 커버리지 유효성, 그리고 체사로 접근성이라는 네 가지 서로 다른 기하학적 기준이 예측 추론의 적절성을 정의하며, 이들이 서로 포함되지 않고 각기 다른 최적성 증명과 기하학적 불일치를 가진다는 것을 증명합니다.
On the Statistical Optimality of Optimal Decision Trees
이 논문은 경험적 위험 최소화 (ERM) 기반 의사결정나무에 대한 엄밀한 통계 이론을 정립하여, 국소화된 라데마허 복잡도 기반의 균일 집중 부등식과 새로운 PSHAB 함수 클래스에 대한 최소최대 최적 수렴 속도를 도출함으로써 그 통계적 최적성을 입증합니다.
Harnessing Synthetic Data from Generative AI for Statistical Inference
이 논문은 생성형 AI 를 활용한 합성 데이터의 통계적 유효성과 한계를 분석하고, 편향 및 불확실성 축소와 같은 함정을 지적하며 합성 데이터를 원칙에 따라 신뢰성 있게 활용하기 위한 프레임워크와 실용적 지침을 제시합니다.
Thermodynamic Response Functions in Singular Bayesian Models
본 논문은 비정규 통계 모델에서 사후 분포의 온도 조절 (tempering) 을 통해 열역학적 응답 함수 계층을 도입하고, 이를 통해 WAIC, WBIC 및 특이 학습 이론의 핵심 개념들을 통합된 열역학적 프레임워크로 해석하여 복잡성과 구조적 재구성을 설명하는 새로운 체계를 제시합니다.