The Volterra signature
本論文は、非マルコフ性時系列データに対する解釈可能かつ学習理論的に保証された特徴量表現「ボルテラ署名」を提案し、その普遍近似性や数値計算の効率性を理論的に示すとともに、実データを用いた動的学習タスクにおいて従来のパス署名を凌駕する有効性を実証しています。
📊 Category
stat.ML
335 件の論文
Oracle-efficient Hybrid Learning with Constrained Adversaries
本論文は、ラベルを固定された関数クラスから選択する制約付き敵対者を想定したハイブリッド学習問題において、ERM オラクルを用いて効率的に実行可能でありながら、統計的に最適に近いレグレートを達成する新しいアルゴリズムを提案し、高次元行動空間を持つ確率的ゼロサムゲームの均衡計算への応用や、新規なフランク・ウルフ法や混合マルチンゲール差列の尾部確率 bound といった技術的貢献を示しています。
K-Means as a Radial Basis function Network: a Variational and Gradient-based Equivalence
この論文は、K-平均法と微分可能なラジアル基底関数ネットワークの間の厳密な変分および勾配ベースの等価性を確立し、温度パラメータの消失に伴う収束を証明するとともに、Entmax-1.5 を用いた安定化手法を提案することで、離散的なクラスタリングと連続的な最適化を統合し、深層学習アーキテクチャへの埋め込みを可能にします。
Optimal Prediction-Augmented Algorithms for Testing Independence of Distributions
本論文は、補助的な予測情報を活用しつつもその精度に依存せず頑健性を保つ「予測拡張分布テスト」の枠組みを提案し、離散分布および高次元多変量分布の独立性検定において、予測誤差に応じてサンプル複雑度を最適に削減するアルゴリズムと、その一致する下限を導出するものです。
sFRC for assessing hallucinations in medical image restoration
この論文は、医療画像復元における深層学習モデルの出力に生じるハルシネーション（幻覚）を検出するための新しい手法「sFRC」を提案し、その数学的定式化と、CT や MRI の様々な復元タスクにおける有効性を実証しています。
Why the Brain Consolidates: Predictive Forgetting for Optimal Generalisation
この論文は、記憶の固定化だけでなく、将来の予測に寄与する情報の選択的保持を通じて複雑性を削減する「予測的忘却」が、高容量な大脳皮質ネットワークにおいてオフライン反復処理によって一般化性能を最適化する新たな計算論的役割を担うことを示しています。
Distributional Equivalence in Linear Non-Gaussian Latent-Variable Cyclic Causal Models: Characterization and Learning
この論文は、線形非ガウス性の潜在変数循環因果モデルにおいて、構造的仮定を一切置かずに分布等価性を特徴づけるグラフ基準を確立し、等価クラスを横断する手続きとデータからのモデル復元アルゴリズムを提案することで、構造的仮定なしの因果発見を可能にする画期的な成果を報告しています。
The Inductive Bias of Convolutional Neural Networks: Locality and Weight Sharing Reshape Implicit Regularization
本論文は、局所性と重み共有という畳み込みニューラルネットワークのアーキテクチャ的帰納バイアスが、勾配降下法におけるエッジ・オブ・スタビリティ現象による暗黙的正則化を再構成し、高次元球面上のデータにおいて全結合ネットワークでは不可能な優れた汎化性能を実現する理論的メカニズムを証明し、自然画像のパッチ幾何学的特性がこれを支えていることを示しています。
How Does the ReLU Activation Affect the Implicit Bias of Gradient Descent on High-dimensional Neural Network Regression?
この論文は、高次元のランダム特徴量を持つ浅い ReLU ニューラルネットワークにおいて、勾配降下法が収束する解が、確率的に最小 L2 ノルム解に近似することを、予測値とデータスパン係数の進化を追跡する新たな双対解析によって示しています。
Non-Euclidean Gradient Descent Operates at the Edge of Stability
本論文は、方向性滑らかさの概念を非ユークリッドノルムに拡張して一般化された鋭敏性を定義し、これが勾配降下法だけでなく-降下やブロック座標降下など多様な最適化手法においても「安定性のエッジ」現象を統一的に説明できることを理論的・実験的に示しています。
Federated Causal Discovery Across Heterogeneous Datasets under Latent Confounding
プライバシー規制やデータ異質性という課題を克服し、潜在的な交絡変数下での分散・異種データセットにおける因果発見を可能にする新しい連合学習フレームワーク「fedCI」とその拡張「fedCI-IOD」を提案し、これにより個人データを集約することなく統計的検出力を大幅に向上させる手法を開発しました。
Towards a data-scale independent regulariser for robust sparse identification of non-linear dynamics
本論文は、データ正規化によるスケーリングの影響を受けずに非線形力学系の支配方程式を頑健に同定するための、新しい統計的指標「係数存在度（CP）」に基づくスパース回帰アルゴリズム「STCV」を提案し、その有効性を数値ベンチマークおよび物理実験を通じて実証したものである。
Learning Optimal Individualized Decision Rules with Conditional Demographic Parity
この論文は、バイアスのあるデータから学習された個別化意思決定ルールにおける差別を緩和するため、デモグラフィック・パリティおよび条件付きデモグラフィック・パリティの制約を理論的に導出された摂動法によって効率的に組み込む新たな枠組みを提案し、その有効性をシミュレーションおよび実証分析で示しています。
Layer by layer, module by module: Choose both for optimal OOD probing of ViT
本論文は、事前学習と下流タスク間の分布シフトが Vision Transformer の深い層の性能低下の主要因であることを示し、分布シフトの強さに応じてフィードフォワードネットワーク内の活性化またはマルチヘッド自己注意モジュールの正規化出力をそれぞれプローブすることで、分布外（OOD）検出を最適化できることを明らかにしています。
Bayesian Supervised Causal Clustering
本論文は、治療効果を結果変数として用いて共変量プロファイルと治療効果の両面で均質な患者サブグループを特定する新しい手法「ベイズ型教師あり因果クラスタリング（BSCC）」を提案し、シミュレーションおよび第 3 回国際脳卒中試験のデータを用いてその有効性を検証したものである。
How important are the genes to explain the outcome - the asymmetric Shapley value as an honest importance metric for high-dimensional features
臨床予測モデルにおいて、遺伝子などの高次元特徴量の重要性を従来の方法よりも正確に評価するため、変数間の依存関係の方向性を考慮した非対称シャプロン値の導入、その効率的な計算アルゴリズムの導出、および大腸がんの無増悪生存期間予測への適用を提案する論文です。
Bayes with No Shame: Admissibility Geometries of Predictive Inference
本論文は、ベイズリスク支配、いつでも有効な適格性、交換性カバレッジ、およびセサロアプローチ可能性という 4 つの異なる幾何学的枠組みが、それぞれ独自の最適性証明を持ち、互いに包含関係にない「適格性」の基準を形成し、予測推論における適格性が本質的に基準相対的であることを示しています。
On the Statistical Optimality of Optimal Decision Trees
この論文は、局所化されたラデマハークレキシティに基づく一様集中枠組みを用いて、高次元回帰・分類における経験的リスク最小化（ERM）決定木の統計的最適性を証明し、解釈性と精度のトレードオフを定量化するとともに、スパース性・異方性・空間的不均一性を捉えた新しい関数クラスにおけるミニマックス最適レートや重尾ノイズ下での頑健な保証を確立したものである。
Harnessing Synthetic Data from Generative AI for Statistical Inference
本論文は、生成 AI による合成データの利用が統計的推論にもたらす可能性と課題を統計的視点から総覧し、その有効な活用条件や限界、および実用的な指針を提示するものである。
Thermodynamic Response Functions in Singular Bayesian Models
本論文は、特異統計モデルにおける非識別性や退化したフィッシャー幾何学の問題を、後方分布の温度付けによって誘起される熱力学的応答関数の枠組みで統一的に解釈し、WAIC や WBIC などの基準を特異学習理論の幾何学的不変量と結びつけることで、複雑性や予測変動、構造再編成の理解を深めることを示しています。