Randomized Kriging Believer for Parallel Bayesian Optimization with Regret Bounds
本論文は、並列ベイズ最適化において既存手法が抱える実用性や理論保証の課題を克服し、低計算コストと非同期処理への対応を維持しながら、ランダム化クリギング・ビリーバー法を提案し、そのベイズ期待後悔の保証を実証したものである。
📊 Category
stat.ML
333 件の論文
Partition-Based Functional Ridge Regression for High-Dimensional Data
この論文は、高次元関数線形モデルにおける多重共線性や過学習の問題を解決し、解釈性を向上させるために、係数関数を支配的効果と微弱効果に分割して異なるリッジ正則化を適用する「分割ベースの関数リッジ回帰」フレームワークを提案し、その理論的性質と実データへの有効性を示しています。
Co-Diffusion: An Affinity-Aware Two-Stage Latent Diffusion Framework for Generalizable Drug-Target Affinity Prediction
本論文は、冷たいスタートやドメインシフトといった課題に対処し、未見の分子スキャフォールドやタンパク質ファミリーに対する汎化性能を飛躍的に向上させるため、アフィニティを考慮した潜在拡散モデル「Co-Diffusion」を提案し、その有効性を示しています。
Efficient Approximation to Analytic and functions by Height-Augmented ReLU Networks
この論文は、 sawtooth 関数の効率的な表現を可能にする 3 次元のネットワークアーキテクチャを導入することで、解析関数および関数に対する指数関数的かつ非漸近的な高精度近似を実現し、パラメータ効率の向上に寄与する理論的基盤を確立したものである。
Deep regression learning from dependent observations with minimum error entropy principle
本論文は、最小誤差エントロピー原理に基づく非ペナルティ化およびスパースペナルティ化深層ニューラルネットワークを用いて、強混合条件下の非パラメトリック回帰問題における期待過剰リスクの上限を導出し、ガウス誤差モデルにおいてSchmidtらによって確立された下限と一致する（対数因子を除く）最小最大収束率を達成することを示しています。
Algorithmic Capture, Computational Complexity, and Inductive Bias of Infinite Transformers
本論文は、無限幅トランスフォーマーが「アルゴリズム的キャプチャ（グロッキング）」を達成する能力を定義し、その推論時の計算量に上限があることを示すことで、効率的な多項式時間ヒューリスティックスキーム（EPTHS）に属する低複雑度アルゴリズムへの誘導バイアスが存在し、より高複雑度アルゴリズムの習得は困難であることを理論的に証明しています。
Trustworthy predictive distributions for rare events via diagnostic transport maps
この論文は、稀な事象を含む高次元データに対する予測分布の信頼性を向上させるため、ベースモデルの誤りを特定・修正する「診断輸送マップ」を提案し、ハリケーン強度の短期予測において実用的な改善効果を実証したものである。
RIE-Greedy: Regularization-Induced Exploration for Contextual Bandits
本論文は、モデル学習過程における交差検証に基づく正則化の確率的性質が、ブラックボックス推定器を用いた文脈付きバンドット問題において、トンプソンサンプリングと理論的に同等の探索を自然に誘発することを示し、大規模実環境において従来の手法を上回る性能を達成する「RIE-Greedy」という新たな手法を提案している。
Outrigger local polynomial regression
この論文は、誤差分布の仮定に依存せず、条件付きスコア関数の推定値と広域のデータを用いた「アウトリッガー」機構によって安定性を確保しつつ、ホルダークラスにおける最小最大最適性を達成する新しい局所多項式回帰推定量「アウトリッガー」を提案し、その理論的性質と実データでの有効性を検証したものである。
Worst-case low-rank approximations
この論文は、異なるドメイン間での分布のシフトに起因する PCA の不安定性に対処するため、複数のドメインにおける最悪ケース性能を最適化する「wcPCA」という統一的な枠組みを提案し、その理論的保証と実データへの適用による性能向上を実証しています。
On the Robustness of Langevin Dynamics to Score Function Error
この論文は、学習データから推定されたスコア関数に任意に小さな誤差が含まれる場合でも、高次元の単純な分布においてランジュバンダイナミクスが目標分布から遠く離れた分布を生成してしまうことを示し、拡散モデルに対するそのロバスト性の欠如を指摘しています。
Spatially Robust Inference with Predicted and Missing at Random Labels
この論文は、機械学習による予測ラベルと空間的依存性を伴う欠損データ下での統計的推論において、クロスフィットによる折れレベルの相関が空間分散推定を歪める問題を解決し、ジャックナイフ法に基づく空間 HAC 分散補正を導入することで、漸近的に有効な信頼区間を構築する二重頑健推定量を提案しています。
Decomposing Observational Multiplicity in Decision Trees: Leaf and Structural Regret
本論文は、決定木分類器における観測的多様性を「葉の後悔」と「構造の後悔」に分解する理論的枠組みを提示し、構造の後悔が主要な要因であることを実証するとともに、これらを棄却メカニズムとして活用することでモデルの安全性を向上させる手法を提案しています。
Exploiting Expertise of Non-Expert and Diverse Agents in Social Bandit Learning: A Free Energy Approach
この論文は、報酬の知識がない他者の行動のみを観測する社会型バンディット学習において、オラクルや社会的規範に依存せずに他者の専門性を推定し、直接経験と他者の推定ポリシーを統合する自由エネルギーベースのアルゴリズムを提案し、その最適ポリシーへの収束性と、非専門家を含む多様なエージェント集団における学習性能の向上を実証的に示したものである。
A Further Efficient Algorithm with Best-of-Both-Worlds Guarantees for -Set Semi-Bandit Problem
本論文は、-集合半バンドット問題において、フリーチェ分布やパレート分布を用いたフォロウ・ザ・パーターブド・リーダー（FTPL）アルゴリズムが、敵対的設定で最適な regret 境界 を達成し、確率的設定でも対数 regret を達成する「両方の世界における最適性」を有することを示すと同時に、条件付き幾何学的リサンプリングを拡張することで計算複雑性を まで削減する効率的なアルゴリズムを提案しています。
Language Generation with Replay: A Learning-Theoretic View of Model Collapse
本論文は、学習理論の枠組みを用いて、生成モデルの出力が学習データに再流入する「リプレイ」が、生成の強弱の定義によってモデル崩壊を誘発する条件を理論的に解明し、実務で用いられるデータクリーニングなどの手法の有効性と限界を明らかにしたものである。
Hypercomplex Widely Linear Processing: Fundamentals for Quaternion Machine Learning
この論文は、機械学習における Quaternion（四元数）の活用を促進するため、四元数値確率過程の拡張統計、広線形モデル、四元数微積分・代数、および最小二乗推定といった基礎理論とアルゴリズムの導出を体系的に解説しています。
Data Fusion with Distributional Equivalence Test-then-pool
この論文は、歴史的対照群と現在の対照群の分布を最大平均不一致（MMD）と同等性検定を用いて評価し、部分的なブートストラップ法やパーミュテーション法によって第一種過誤を厳密に制御しながら、より高い検出力を実現する新しい「テスト・テン・プール」フレームワークを提案するものである。
EnTransformer: A Deep Generative Transformer for Multivariate Probabilistic Forecasting
本論文は、確率論的学習パラダイムである「engression」とトランスフォーマーの表現力を統合し、パラメトリックな仮定を課さずに複雑な多変量予測分布を直接学習することで、高品質な確率論的予測を実現する深層生成モデル「EnTransformer」を提案し、複数のベンチマークデータセットにおいて既存モデルを上回る性能を実証したものである。
Uncovering Locally Low-dimensional Structure in Networks by Locally Optimal Spectral Embedding
この論文は、大域的低ランク仮定に依存する従来の手法の限界を克服し、重み付きスペクトル分解を用いて局所的な低次元構造を抽出する「局所隣接スペクトラル埋め込み（LASE）」を提案し、その理論的保証と実ネットワークにおける高品質な可視化への有効性を示しています。