Learning under Distributional Drift: Prequential Reproducibility as an Intrinsic Statistical Resource
この論文は、学習がデータ生成過程に影響を与える閉ループ環境における分布ドリフトを、フィッシャー・ラオ距離に基づく内在的なドリフト予算で定量化し、その累積速度に依存する事前逐次再現性の精度限界を証明する幾何学的枠組みを提案しています。
📊 Category
stat.ML
335 件の論文
Synthetic Augmentation in Imbalanced Learning: When It Helps, When It Hurts, and How Much to Add
この論文は、不均衡学習における合成データ拡張が常に有益とは限らず、データの局所的な対称性や生成器の誤差の方向性によって効果や最適な生成数が変化することを統計的に示し、検証損失を最小化する「検証チューニング合成サイズ（VTSS）」を推奨する枠組みを提案しています。
Universal Coefficients and Mayer-Vietoris Sequence for Groupoid Homology
この論文は、アンプル群のホモロジーを研究し、離散係数に対する普遍係数定理と Mayer-Vietoris 系列を証明するとともに、非離散係数の場合における写像の全射性の条件や、コンパクト開集合の被覆に基づく計算手法を確立するものである。
Rich Insights from Cheap Signals: Efficient Evaluations via Tensor Factorization
この論文は、限られた人間の評価データと安価な自動評価スコアをテンソル分解を用いて統合する統計モデルを提案し、プロンプトレベルでの生成モデルの性能を高精度かつ効率的に評価し、人間の注釈なしにモデル性能を推定可能にする手法を提示しています。
Causal Learning Should Embrace the Wisdom of the Crowd
この論文は、個々の人間や LLM エージェントが持つ断片的な因果知識を、大規模なクラウドソーシングや対話型知識抽出、堅牢な集約手法、そして LLM によるシミュレーションを統合した新しいパラダイムを通じて統合し、単独では達成不可能な大規模な因果構造（DAG）の復元を可能にする包括的な研究枠組みを提案するものである。
The Theory behind UMAP?
この論文は、UMAP の理論的基盤であるスパイバックのメトリック実現や関連関手、およびマッキンズらによる有限変種の導出に含まれる誤りを修正し、完全な導出と UMAP アルゴリズムとの対応関係について詳述するものである。
Learning Order Forest for Qualitative-Attribute Data Clustering
本論文は、症状や婚姻状況などの質的属性値の局所的な順序関係を木構造で表現し、木構造とクラスタリングを相互に最適化する共同学習メカニズムを通じて、質的データに対する高精度なクラスタリングを実現する「学習順序フォレスト」を提案し、実データによる実験でその有効性を検証したものである。
Beyond Cross-Validation: Adaptive Parameter Selection for Kernel-Based Gradient Descents
本論文は、バイアス・バリアンス分析と分割法を統合し、経験的有効次元の概念を導入することで、カーネル基底勾配法に対して最適な汎化誤差 bound を達成する適応的パラメータ選択戦略を提案し、その理論的妥当性を学習理論の枠組みで厳密に証明したものである。
Surprisal-Rényi Free Energy
本論文は、KL 発散の極限として機能し、平均・分散のトレードオフや大偏差理論を統一的に記述する新しい汎関数「Surprisal-Rényi Free Energy (SRFE)」を提案し、その幾何学的および情報理論的な性質を解明したものである。
Scalable Contrastive Causal Discovery under Unknown Soft Interventions
この論文は、単一の介入レジームと未知のソフト介入下で、対照的クロスレジーム向き付けルールを用いてスケーラブルかつ整合的な因果構造を回復し、理論的保証と実験的有効性を示す新しいモデルを提案するものです。
Minimax Optimal Strategy for Delayed Observations in Online Reinforcement Learning
本論文は、遅延観測を伴うオンライン強化学習問題に対して、状態・行動空間サイズ、時間ホライズン、最大遅延長に依存する最小最大最適な後悔 bound を達成するアルゴリズムを提案し、その最適性を下界と一致することで証明したものである。
Solving adversarial examples requires solving exponential misalignment
この論文は、機械学習モデルの概念認識空間（PM）の次元が人間のそれよりも桁違いに高いことが、敵対的サンプルの発生原因であり、その次元の一致（アライメント）が敵対的ロバスト性の達成に不可欠であると示唆しています。
Controllable Generative Sandbox for Causal Inference
本論文は、混合ガウス潜在事前分布とデータタイプ固有のデコーダを結合し、重なり、交絡、治療効果の不均一性を独立に制御可能な変分生成フレームワーク「CausalMix」を提案することで、因果推論における現実的な合成データ生成と因果メカニズムの精密な操作という課題を解決したものである。
Empirical Evaluation of No Free Lunch Violations in Permutation-Based Optimization
この論文は、置換に基づく最適化において、目的関数の代数的再構成がサンプリング順序の影響を通じて「無料の午餐」定理の直観からの構造的な逸脱を生み出し、アルゴリズム選択やベンチマーク設計に問題クラスと目的関数の表現の両方を考慮する必要性を明らかにしたものである。
Extending Neural Operators: Robust Handling of Functions Beyond the Training Set
本論文は、カーネル近似と再生核ヒルベルト空間の理論を統合して、訓練データ分布外の関数やその微分を頑健に扱えるニューラル演算子の拡張枠組みを構築し、多様体上の楕円型偏微分方程式の求解を通じてその有効性を実証したものである。
Riemannian Langevin Dynamics: Strong Convergence of Geometric Euler-Maruyama Scheme
本論文は、多様体上の確率微分方程式に対する幾何学的オイラー・マルウヤマ法が、幾何学的および正則性の条件下で強収束次数 1/2 を達成することを証明し、リーマンnian ランジュバン力学系を用いた多様体上サンプリングのワルシュタイン距離による誤差評価を導出するものである。
A Stein Identity for q-Gaussians with Bounded Support
本論文は、有界支持を持つ q-ガウス分布に対して、エスコート分布を用いた新しいボネット・プライス型定理を導出することで、ガウス分布とほぼ同様の形式で実装可能なステイン恒等式を確立し、勾配推定量の分散低減を通じてベイズ深層学習や鋭さ感知最小化への応用を可能にするものです。
Generalization Properties of Score-matching Diffusion Models for Intrinsically Low-dimensional Data
この論文は、天然画像などの実データに見られる低次元構造を考慮し、コンパクトな支持や多様体仮定を必要としない条件下で、拡散モデルが従来の次元の呪いを回避して最適輸送の最小最大レートに一致する収束率を達成することを示しています。
Inverse Contextual Bandits without Rewards: Learning from a Non-Stationary Learner via Suffix Imitation
この論文は、報酬にアクセスできない観測者が、学習者の非定常な行動データから最適な方策を復元するために「2 段階接尾模倣」フレームワークを提案し、報酬なしでも学習者と同様の収束速度を達成できることを示しています。
Observationally Informed Adaptive Causal Experimental Design
この論文は、観察データに基づく事前モデルのバイアスを修正する残差に焦点を当てる「Active Residual Learning」という新たなパラダイムと R-Design フレームワークを提案し、従来のゼロから学習する手法よりも効率的に因果推論を実現できることを理論的・実験的に示しています。