Wavelet Tree Ensembles for Triangulable Manifolds

技術要約：三角形分割可能な多様体のためのウェーブレット木アンサンブル

問題提起
本論文は、球体や一般的な曲面のような、三角形分割可能な多様体における非パラメトリック回帰の課題に取り組んでいる。既存のウェーブレット回帰の文献は通常、固定された規則的なユークリッド格子（例：二進区間）上の単一の再帰的分割木によって定義されるウェーブレット基底に依存している。これらの標準的なアプローチは、自然な座標軸の欠如やグローバルな座標系による歪みのために、多様体上では苦戦することになる。逆に、決定木アンサンブル手法（例：ランダムフォレスト、ブースティング）は非ユークリッド領域へと一般化されているが、ウェーブレットのような疎なマルチスケール表現能力に欠けることが多く、特に低信号対雑音比の状況において、高い分散や過学習を招く可能性がある。著者らは、直交ウェーブレット表現、データ駆動型の再帰的分割、および現代的なアンサンブル技術を組み合わせた統一的なフレームワークが、これらの複雑な領域における推定と推論を改善するために必要であると主張している。

手法
著者らは、古典的な不均衡ハール（Unbalanced Haar; UH）ウェーブレット木を、規則的な格子から一般的な三角形分割可能な多様体へと拡張するフレームワークである不均衡ハール（UH）ウェーブレット木アンサンブルを提案している。その手法は、主に以下の3つのコンポーネントで構成される。

1. 多様体上の不均衡ハール（UH）構成:

   • 固定された中点を用いる代わりに、本手法はデータ駆動型の測地線三角形の再帰的分割を採用する。
   • 三角形は、エッジ上の点 $\xi$ を反対側の頂点と測地線弧で結ぶことによって分割される。分割位置は、経験的なUHウェーブレット係数を最大化するように選択される。これにより、局所的なデータの変動や幾何学的形状に適応する「不均衡」な分割が可能となる。
   • 得られるウェーブレット関数は、$L^2(\mu_n)$（$\mu_n$ はサンプル点上の経験測度）における直交系を形成する。これにより、サンプリングされた位置での正確な再構成と、基礎となる多様体の幾何学に関わらない直交性が保証される。
   • 分割ルールには、「バランス」（中辺二等分）、「適応」（最大の係数を持つエッジを選択）、「適応頂点」（エッジと切断点の両方をデータに基づいて選択）が含まれる。

2. アンサンブル学習戦略:

   • 最適化ベースのブースティング: 著者らは、弱学習器として残差に適合させたUH木を用いる前方ステージワイズ・ブースティング・アルゴドリズムを開発した。多様体上の木同士の多様性を確保するため、各木を適合させる前に、ランダムな剛体運動（例：球面に対する $SO(3)$ での回転）や固有の再パラメータ化を採用している。正則化は、早期終了、学習率、および再構成時のソフト閾値処理を通じて行われる。
   • ベイズ・バックフィッティング（RUHWT）: 確率的な定式化が導入されており、分割の次元と位置に対して事前分布が置かれる。これにより、木の構造に対する事後分布が誘導され、不確特定量を可能にする。著者らは、BART（Bayesian Additive Regression Trees）と同様に、木の構造と係数を更新するために、メトロポリス・ウィズイン・ギブス・ステップを備えたギブス・サンプラーを利用する。

3. 理論的分析:

   • 本論文では、提案されたUH推定量を標準的な「リーフワイズ（葉単位）」推定量（CARTなど）と比較するオラクル境界を導出している。この分析は、UH推定量の確率的誤差項が「活性な（非ゼロの）」係数の数に比例するのに対し、リーフワイズ推定量は総リーフ数に比例することを実証している。これは、UHアンサンブルがウェーブレット辞書において疎な信号に対して特に有利であることを示唆している。

主な貢献

• 多様体への一般化: 本研究は、測地線三角形分割と経験測度を通じて、直交性と正確な再構成特性を維持しつつ、UHウェーブレット木を2D/3D格子から三角形分割可能な多様体へと拡張した。
• データ駆動型の適応性: 固定された格子上のバランスのとれたハール基底とは異なり、提案手法は三角形のエッジに沿った任意の場所での分割を可能にし、局所的な信号変動やサンプリング密度に適応する。
• アンサンブルの統合: 本論文は、直交ウェーブレット、幾何学を考慮した再帰的分割、およびアンサンブル技術（ブースティングおよびベイズの両方）を組み合わせた最初のフレームワークを提示する。
• 不確実性の定量化: ベイズ版（RUHWT）が提供されており、多様体上の関数推定に対する事後不確実性の定量化を可能にしている。

結果
著者らは合成データおよび実世界のデータセットを用いて手法を評価している。

• 画像デノイジング（ユークリッド格子）: ノイズの多い宇宙飛行士の画像において、UHアンサンブルはバランス・ハール（BH）アンサンブルを大幅に上回る性能を示した。結果は、弱学習器が中点でのみ分割するように制約されている場合、ブースティングは効果的ではないことを示しており、中点から離れた場所での分割を可能にする「不均衡」な性質が性能向上の鍵であることが示された。
• 合成球面回帰: 単位球面上のシミュレーションデータにおいて、UH木を用いたランダム回転ブースティング法は、Fréchet Forest、Random Rotation Random Forest、および最先端の深層ガウス過程モデルと比較して、最も低い平均二乗誤差（MSE）を達成した。この手法は、回転していない予測で見られる人工的な境界を効果的に平滑化する。
• 実世界への応用（GISS）: 球面を三角形分割した全球表面温度偏差データ（GISS）に適用したところ、UHアンサンブルは競合する決定木ベースの手法を上回った。予測結果は、特に複雑な空間変動を捉える際に精度が向上しており、ランダム回転ブースティング・アンサンブルにおいて最も低いテストMSEが観察された。

意義と主張
本論文は、直交ウェーブレット、幾何学を考慮した再帰的分割、および現代的なアンサンブル技術を統合した、三角形分割可能な多様体のための初の統一回帰手法を提示していると主張している。著者らは、本構成が以下の3つの主要な特性を保持していることを強調している。(i) 直交性と正確な再構成、(ii) 多様体の幾何学に適応した再帰的かつデータ駆動型の分割、および (iii) 最適化ベースおよびベイズ的アンサンブル構築の両方との互換性。

理論的結果は、UHアンサンブルが、全ツリーサイズではなく重要な係数の数によってリスクが制御される、疎性を適応的に表現できることを示唆しており、従来のリーフワイズ推定量に対する理論的な優位性を提供している。経験的には、本手法は、特に低信号対雑音比や複雑な幾何学構造を持つシナリオにおいて、古典的な決定木アンサンブルや非適応的なメッシュベースのウェーブレットに対して大幅な改善を示している。著者らは、本研究を、複雑な領域におけるマルチスケール回帰のための、実用的かつ理論的根拠に基づいたツールとして位置づけており、古典的なウェーブレット理論と現代的な決定木機械学習の間の溝を埋めるものであるとしている。