SharpNet: Enhancing MLPs to Represent Functions with Controlled Non-differentiability

技術要約: SharpNet

問題提起
多層パーセプトロン（MLP）は、関数近似や幾何学的表現（NeRFやSDFにおけるニューラル符号付き距離関数など）の標準的なツールである。しかし、滑らかな活性化関数を持つ標準的なMLPは、グローバルに滑らかな（$C^\infty$）出力を生成する。一方で、ReLUベースのMLPは、区分的に線形（$C^0$）ではあるものの、非微分性の位置を精密に制御することができない。この制限により、既存の手法では、特定の、あるいはユーザー定義または学習可能な位置において、意図的な勾配の不連続性（鋭いエッジ、角、または中軸）を持つ関数を表現することが困難である。InstantNGPのようなグリッドベースの手法や、NH-Repのようなパッチ分割手法は、アーティファクトやグリッドに沿ったアーティファクトを導入したり、開いた（閉じていない）鋭い特徴や複雑なトポロジーを扱うことに失敗したりすることが多い。

手法
著者らは、ほとんどの領域で滑らかであるが、規定された位置において制御された非微分性（勾配のジャンプを伴う$C^0$連続性）を示す関数を表現するために設計されたMLPアーキテクチャであるSharpNetを提案している。

1. ポアソン方程式による特徴関数:
   SharpNetは、標準的なMLPの入力に、補助的な特徴関数 $f: \Omega \to \mathbb{R}$ を付加する。この関数は、特徴集合 $M$（2Dにおける曲線または3Dにおける曲面）上のジャンプ・ノイマン境界条件を伴うポアソン方程式の解として定義される：

   • $x \in \Omega \setminus M$ において $\nabla^2 f(x) = h(x)$。
   • 連続性条件：$f$ は $M$ を横切って連続である。
   • ジャンプ条件：$f$ の法線微分は $M$ を横切ってジャンプ不連続性を示す。

   グリーン（Green）の第3恒等式を用いることで、解はラプラシアンのグリーン関数を用いた境界積分として表現される。計算効率のために、著者らは $h(x)=0$ およびジャンプの大きさを1と設定することでこれを簡略化し、特徴関数を $M$ 上のグリーン関数の積分へと還元している。

2. 局所化と加速:
   高コストなグローバル積分の回避のため、著者らはモディファイア（平滑化関数）（滑らかでコンパクトな台を持つ関数）を導入している。これにより、グローバル積分を局所的な積分の和へと分解することが可能になる。特徴関数は局所的な寄与の加重和として計算され、$M$ 上で $C^0$ を維持し、それ以外の場所では $C^\infty$ であることが保証される。この定式化は、幾何構造 $M$ に対して完全に微分可能であり、共同最適化を可能にする。

3. ネットワークアーキテクチャと構成:
   最終的なネットワークは $\Phi_\theta(x, f(x))$ で定義される。ここで $x$ は空間座標であり、$f(x)$ は補助的な特徴である。理論的解析（定理3.1）によれば、ネットワークが特徴チャネルに対して局所的に敏感である場合（すなわち $\partial \Phi / \partial f \neq 0$）、$f$ の非微分性は出力へと伝達される。

   勾配ジャンプの大きさが急激に変化する複雑な幾何構造（例：鋭いエッジの接合部）を扱うために、特徴集合 $M$ は互いに素な部分集合 $\{M^{(i)}\}$ に分割される。各部分集合は、個別の特徴関数 $f^{(i)}$ に関連付けられる。ネットワークの入力はこれらの複数の特徴関数を連結し、これにより、区分的に変化する方向微分ジャンプを表現することが可能となる。

4. 最適化:
   本フレームワークは以下の2つのモードをサポートする：

   • 固定された特徴: 特徴の幾何構造 $M$ が既知の場合（例：メッシュから）、$f$ は固定された事前知識として扱われる。
   • 学習可能な特徴: $M$ が未知の場合、$M$ の幾何学を定義するパラメータは、MLPの重み $\theta$ と共に共同で最適化される。特徴関数が $M$ に対して微分可能であることにより、エンドツーエンドでの特徴位置の学習が可能となる。

主な貢献

• 制御された非微分性: SharpNetは、特定の、あるいはユーザー指定または学習可能な位置において、$C^0$ 連続性と勾配の不連続性を強制するための原理的な方法を提供し、標準的なMLPのグローバルな滑らかさの限界を克服する。
• メッシュレスな定式化: パッチベースまたはグリッドベースの手法とは異なり、SharpNetはドメインの分割やメッシュの分割を必要としない。CSGツリーのトポロジカルな制約なしに、開いた（閉じていない）鋭いエッジや複雑なトポロジーを表現できる。
• 学習可能な特徴幾何: 著者らはポアソン方程式に基づく微分可能な特徴関数を導入しており、事前のセグメンテーションなしに、データ（例：点群）から鋭い特徴の位置自体を学習することができる。
• 効率的な評価: モディファイアと、線分や三角形上でのクローズドフォームのグリーン関数積分を用いることで、効率的な局所評価が可能となり、このアプローチは3D再構成に対してスケーラブルである。

結果
著者らは、2Dの距離場適合および3D CAD再構成タスクにおいてSharpNetを検証している：

• 2D実験: 測地線距離適合およびメディアルアクシス学習において、SharpNet（Softplus活性化を使用）は鋭い遷移とメディアルアクシスを正確に復元した。これは、標準的なMLP（過度な平滑化を行う）、ReLUベースのMLP（偽の折れ目を生じさせる）、およびInstantNGP（グリッドに沿ったアーティファクトを生成する）よりも優れている。
• 3D CAD再構成:
  • メッシュから: SharpNetは、特に開いた鋭い曲線や、パッチ分割の制限によりNH-Repが失敗する高次種数（high-genus）の形状において、NH-Repよりも正確に鋭いエッジを持つモデルを再構成する。
  • 方向性を持つ点群から: SharpNetは、Chamfer Distance (CD)、Hausdorff Distance (HD)、およびNormal Error (NE) において、InstantNGPやSIRENを凌駕し、グリッドアーティファクトなしに鋭いエッジを効果的に復元する。
  • 生の点群から: 法線情報の監督がない場合でも、SharpNetはNeurCADReconやSIRENを上回り、方向性のない点群から幾何構造と鋭い特徴の両方を学習する堅牢性を示している。
• 定量的指標: 100個のCADモデルを含むすべてのデータセットにおいて、SharpNetは一貫して、最先端のベースラインと比較して低いCD、HD、NE、および高いF-1スコアを達成している。

意義と主張
本論文は、SharpNetが、鋭い特徴を持つ幾何学のための柔軟かつ精密な代替手段を提供すると主張している。古典的な偏微分方程式（ジャンプ・ノイマン条件を伴うポアソン方程式）とグリーン関数を活用することで、滑らかなニューラル近似と、鋭い幾何学的忠実度の必要性との間の溝を埋めている。著者らは、本手法が「意図しない領域への鋭さの漏洩」（メッシュベースまたはグリッドベースの補間における問題）を回避し、鋭い特徴の幾何学を共同学習することをサポートしていることを強調している。この研究は、SharpNetを、複雑で、開いた、あるいは高次種数の構造を扱うことができる、インプリシットCAD再構成のための優れたバックボーンとして位置づけている。