Beyond Uniform Local Isometry and Topology: FactoMap for Disentangled Representations

技術要約：FactoMap — 解きほぐされた表現のための手法

問題提起
解きほぐされた表現学習（Disentangled representation learning）の目的は、データセットの根底にある生成因子を復元し、単一の因子を操作することが表現内の単一の座標の変化に対応するようにすることである。既存の手法は、統計的な独立性や、一様局所等長性（uniform local isometry）（因子空間における等しい変化が、固定されたグローバルなスケールを除いて、観測空間において等しい変化を生むという性質）といった幾何学的仮定に依存することが多いが、これらの仮定は実用上、頻繁に失敗する。

本論文は、現在の幾何学的アプローチにおける2つの主要な限界を特定している：

1. 非一様な幾何学（Non-Uniform Geometry）: 統計的に独立した因子であっても、幾何学的には結合している場合がある。例えば、色相（hue）とスケール（scale）が独立して変化するレンダリングにおいて、色の変化が観測（例：面積）に与える影響と、スケールの変化（例：境界）が与える影響は、異なる速度で増大する。これは、固定された単位の再スケーリングでは補正できない、**位置依存的な異方性（position-dependent anisotropy）**を生み出す。
2. 位相的および構造的な不十分さ（Topological and Structural Insufficiency）: 標準的な位相幾何学（トポロジー）だけでは、同相（topologically equivalent）であるが異なる因子構成を持つ空間を区別するには不十分である。例えば、正方形、円盤、円錐は位相的には類似しているが、異なる因子幾何学（例：円形の因子が一定の広がりを維持するか、縮小するか、あるいは崩壊するか）を保持する。さらに、局所等長性は、周期性（閉鎖性）や因子の終端といったグローバルな特性を決定することはできない。

手法：因子空間の構造とFactoMap
これらの問題に対処するため、著者らは因子空間構造（Factor-Space Structure）という新しい定式化と、対応する学習アルゴリズムであるFactoMap（Factor-Space Topographic Map）を導入する。

1. 因子空間構造 ($F_g$):
   著者らは、因子空間構造を、以下の要素からなる3つ組 $F_g = (Z, \approx_g, c_g)$ として定義する：

   • $Z = \prod Z_i$ は、因子ドメイン（区間 $I$ または円 $S^1$）の直積である。
   • $\approx_g$ は、**生成器に起因する識別（generator-induced identifications）**を表し、どの点が $Z$ 内の同じ点に写像されるか（例：周期性や一点への崩壊）を定義する。
   • $c_g = (c_1, \dots, c_p)$ は、位置依存的なスケールを表す。ここで $c_i(z) = \|\frac{\partial g}{\partial z_i}(z)\|_2$ は、因子 $i$ が観測空間に与える局所的な影響を測定する。
     この定式化は、位相は同じであるが、因子の識別方法やスケールが異なる空間を区別するものである。

2. FactoMap アーキテクチャ:
   FactoMapは、因子空間構造を地形図的表現として実現する、構造化されたプロトタイプ学習器である。これは以下の3つのコンポーネントで構成される：

   • 因子空間格子 ($\Lambda_F, d_F$): ユーザーから提供される有限の格子であり、特定の位相（例：環状か直線か）、識別（例：潰れたファイバー）、および位置依存的なスケールを反映する解析的な距離関数をエンコードする。
   • プロトタイプ場 ($W$): 格子サイト $k \in \Lambda_F$ によってインデックス付けされた、学習可能なプロトタイプ $w_k \in \mathbb{R}^m$ の集合。
   • 地形的学習目的関数: モデルは、以下の自己組織化マップ（SOM）の目的関数を最小化することで学習を行う：
     $$L_t(W) = \mathbb{E}_x \left[ \sum_{k \in \Lambda_F} H_{\sigma_t}(q_W(x), k) \|x - w_k\|^2 \right]$$
     ここで、$q_W(x)$ は最良一致格子サイトであり、$H_{\sigma_t}$ は格子距離 $d_F$ に基づく近傍カーネルである。これにより、近接する格子サイトが近接する観測値を表現することが促進され、格子の幾何学的および位相的な特性が学習されたプロトタイプへと効果的に転移される。

主な貢献

• 因子空間の定式化: 因子ドメイン、生成器に起因する識別、および因子ごとのスケールを厳密に分離することを提案している。これにより、同相であるが異なる幾何学的構成を持つ空間を区別することが可能になる。
• 一様等長性の失敗の証明: 著者らは、統計的に独立した因子（具体的には色相とスケール）が、位置依存的な異方性を示す可能性があることを示す理論的証明（命題 2.1）と実証的証拠を提供する。彼らは、固定された対角的な再重み付けでは、非退化なスケール区間全体にわたって計量を一様にユークリッド的にすることはできないことを示している。
• FactoMap アルゴリズム: 格子によってインデックス付けされた解釈可能なプロトタイプを学習する新しい手法である。基礎となる因子空間構造（周期性や非一様なスケーリングを含む）に一致する格子を提供することで、標準的なユークリッド空間や不一致な位相的仮定が失敗する場面でも、FactoMapは解きほぐしを実現する。
• 制御された評価: 制御された生成因子を持つ合成データセット FactoShapes の導入により、因子空間の構造が解きほぐしにどのように影響するかを分離して検証できる。

結果
FactoShapesを用いた実験により、プロトタイプのドメインを基礎となる因子空間構造に一致させることが、解きほぐしにおいて極めて重要であることが示された：

• 位相の一致: 周期的な因子（色相）に対して開いた直線格子を使用すると、「切れ目」が生じ、隣接する色が分離してしまう。環状格子を使用すると、隣接性が正しく復元される。これは、グローバルな閉鎖性が局所的な学習だけでなく、格子によってエンコードされなければならないことを証明している。
• スケールの一致: 色相とスケールが共同で変化する場合、それらの画像空間における速度は異なるべき乗則（$c_h \propto s$ および $c_s \propto \sqrt{s}$）に従う。長方形の格子は、これらの因子を解きほぐすことができず、表現内でこれらを混合させてしまう。
• 円錐格子による成功: 円周がスケール軸に応じて変化する「円錐構造」の格子（解析的な予測に一致するもの）は、色相とスケールを正常に解きほぐすことに成功した。
• 定量的指標: InfoMEC（解きほぐし指標）を用いた結果、一致させた円錐格子は高いスコア（InfoM $\approx$ 0.95, InfoE $\approx$ 0.82, InfoC $\approx$ 0.95）を達成したが、不一致な格子（グリッド）は低い性能（InfoM $\approx$ 0.27, InfoE $\approx$ 0.54, InfoC $\approx$ 0.025）にとどまった。

意義と主張
本論文は、統計的独立性は幾何学的分離性を意味しないと主張している。生成因子の基礎となる幾何学は複雑であり、標準的なユークリッド空間や固定された位相のモデルでは捉えきれない、非一様なスケールや特定の生成器による識別を含む可能性がある。

FactoMapの意義は、因子空間の構造（位相、識別、および局所的なスケール）を明示的にエンコードできる点にある。格子の座標を基礎となる因子に合わせることで、手法は因子の連続性を保持し、生成プロセスが一様局所等長性の仮定に違反している場合でも、解きほぐしを可能にする。著者らは、位相だけでは不十分であるが、生成器に起因する識別と位置依存的なスケールを組み合わせることで、複雑な生成因子を表現するための必要な枠組みが提供されることを強調している。