The Role of Feature Interactions in Graph-based Tabular Deep Learning
本論文は、合成データを用いた分析により、現在のグラフベース表データ深層学習手法が予測精度の向上を目的としていても、実際には特徴量間の相互作用を無作為に近いレベルでしか捉えられず、真の相互作用構造を正しくモデル化することが予測精度の向上に不可欠であることを示しています。
329 件の論文
本論文は、合成データを用いた分析により、現在のグラフベース表データ深層学習手法が予測精度の向上を目的としていても、実際には特徴量間の相互作用を無作為に近いレベルでしか捉えられず、真の相互作用構造を正しくモデル化することが予測精度の向上に不可欠であることを示しています。
この論文は、ミニバッチ・最適輸送とタスク固有の正則化、および教師あり情報の統合を通じて、既存の離散法やニューラルネットワーク手法の限界を克服し、ドメイン適応などの分野で最先端の性能を達成するスケーラブルかつ正則化されたワルシュタイン・バロセンター計算手法を提案しています。
この論文は、ベイズニューラルネットワークの事前分布をメルカー核の表現から直接定義する「メルカー事前分布」を導入することで、ガウス過程の解釈性とベイズニューラルネットワークのスケーラビリティを両立させる新しい手法を提案しています。
この論文は、学習データに存在するスパースな相関(ショートカット)に依存して分布外一般化性能が低下する深層学習の問題に対し、ラベルと強く相関する潜在空間の軸を特定し、その方向に異方性ノイズを注入して分類器の感度を正則化することで、ショートカットラベルや矛盾するサンプルを必要とせずに分布外一般化性能を向上させる手法を提案しています。
この論文は、非加法的な現実世界の報酬構造や高次元のスパース性を扱うために、単一化された非線形説明フレームワーク「疎性等方性シャプレー回帰(SISR)」を提案し、単調変換の学習とスパース性制約を同時に実行することで、既存のシャプレー値の歪みを解消し、理論的保証と高い実用性を両立させることを示しています。
本論文は、空間グラフのトポロジカル特徴を保持しつつノード数を削減するパラメータ不要の手法を提案し、三角形を考慮した新しいフィルトレーションに基づく永続的図の適応と、回転・並進・スケーリングに対する等変性を保証する理論的性質を特徴とする。
この論文は、高次元かつスパースなマルコフ決定過程におけるオフライン強化学習において、従来の手法では困難だった単一方策集中性条件下での汚染耐性を持つ Actor-Critic 法を提案し、汚染データが存在する状況でも近最適方策の学習を保証する初の非自明な理論的保証を提供するものである。
本論文は、生物学や物流などの多様なドメインにおけるグラフ構造データに対して、置換不変性を備えた要約ネットワークと事後推定ネットワークを組み合わせることで、ノード・エッジ・グラフレベルのパラメータに対する迅速かつ校正されたベイズ推論を可能にする、アモルタイズドベイズ推論の新しい枠組みを提案し、その有効性を検証したものである。
この論文は、関数型共変量と複数の相関するタスクを同時に扱えるようスケーラブルな分離カーネル構造を導入したマルチタスクガウス過程を提案し、リベット接合部などの複雑な機械システムにおいて、単一タスクモデルよりも少ないサンプル数で高精度な予測と不確実性の定量化を実現することを示しています。
この論文は、古典的なジッタードサンプリングよりも低い期待スター・ディスクリパンシーを達成する新たな非等体積分割に基づく層化サンプリング手法を提案し、その理論的優位性と既存の上限値の改善を示すものです。
この論文は、大規模で複雑なデータセットの要約において、従来の重心ベースのクラスタリングが抱える冗長性の課題を克服し、より簡潔かつ正確な要約を実現するための「Khatri-Rao クラスタリング」パラダイムを提案し、k-Means および深層クラスタリングへの適用を通じてその有効性を示しています。
この論文は、強非線形ダイナミクスを持つ高次元システムにおけるデータ同化の課題を解決するため、安定な線形潜空間で再構成された潜在オートエンコーダーアンサンブルカルマンフィルター(LAE-EnKF)を提案し、その理論的保証と数値実験による有効性を示したものである。
本論文は、並列化、メモリ制約、ネットワークトポロジーを統合的に考慮し、構造化された動的計画法を用いて分散深層学習のデバイス配置を最適化するフレームワーク「NEST」を提案し、既存手法と比較して最大 2.43 倍のスループット向上とスケーラビリティの改善を実現することを示しています。
本論文は、標準的な共形予測が持つ外挿領域における過信の問題と、クレダル手法の較正保証の欠如を克服するため、局所的証拠が弱い場合に幅を広げる解釈可能なクレダル包絡線を構築し、その上で分割共形較正を適用して分布フリーの保証付き予測区間を提供する「CREDO」という手法を提案するものである。
分散が無限大となる重尾分布を持つバイラテラル取引において、自己有界性の拡張と截断平均推定を用いることで、ノイズの乗モーメントと市場価値関数の-Hölder 滑らかさに基づく最小最大後悔の正確なレート(の古典的非パラメトリックレートからの線形レートまでを補間する)を導出し、一致する下界を証明しました。
本論文は、変分原理、グリーン関数、および特性曲線法という 3 つのアプローチを統一的に統合し、非線形力学系のクープマン固有関数や輸送方程式の解を近似するために適応型カーネルを学習する新しい枠組みを提案し、その理論的同等性と数値的有効性を示したものである。
この論文は、属性情報を考慮した意思決定では公平性の強制が常に不利な集団の利益になるが、属性を排除した「属性非認識」の状況では分布に依存して両集団の利益を損なう「レベルダウン」を招く可能性があり、そのメカニズムと条件を明らかにしていることを示しています。
本論文は、ベースモデルのサポートを超える際に生じる「尤度分位(LQ)」という障壁を明らかにし、出力報酬を用いた方策勾配法が次元の呪いに直面するのに対し、プロセス報酬モデルを用いることでトークンレベルの LQ に依存し、次元の呪いを回避して最適に学習できることを示しています。
この論文は、因果的公平性の評価において平均処置効果(ATE)のみに依存する規制が、交絡変数によって「因果的マスキング」を引き起こし、見かけ上の公平性を維持しながら実質的な不平等を隠蔽する深刻なリスクを有することを示し、モデルレベルでの公平性規制の必要性を説いています。
本論文は、マッチングプラットフォームにおける参加者の不満や離脱を防ぐために、アームの満足度を最大化する新たなオンライン学習問題「組合せ割り当てバンドット」を提案し、そのために上界信頼区間法と Thompson サンプリング法を開発して近似後悔の理論的保証と実験的有効性を示したものである。