A Scalable Vector Graphics Latent Space

技術要約：スケーラブル・ベクター・グラフィックス潜在空間 (SLS)

問題提起
スケーラブル・ベクター・グラフィックス (SVG) は、解像度に依存しない視覚的コンテンツの標準であるが、ディープラーニング・コミュニティには、ベクター表現のために特別に設計された、連続的で高密度かつ可逆的な潜在空間が欠けている。既存のアプローチには、以下のような根本的な限界がある：

1. ラスタ化: SVGをピクセルベースの画像に変換する手法（例：CLIPやDINOv2を使用）は、基礎となる記号的な幾何学的構造やスタイル属性を破棄してしまうため、有効なSVGコードへの可逆性が失われる。
2. トークンベースのLLM: SVGのマークアップを生のテキストシーケンスとして扱う手法（例：IconShop、LLM4SVG）は、長いトークンシーケンスを生成または消費する。これは、疎で高次元な表現をもたらし、コンテキストウィンドウを圧迫し、検索などのダウンストリーム・タスクを複雑にし、ベクター推論のためのコンパクトな潜在空間を提供できない。
3. 限定的な埋め込み品質: 既存のベクター特化型エンコーダ（例：DeepSVG）の多くは、厳格なコマンドベースのパラメータ化に依存しており、スタイルの属性を欠落させていたり、高忠実度で連続的な埋め込みを学習できなかったりする。

核心となる課題は、個々のSVGパスが、幾何学的構造とスタイル属性の両方を保持し、有効なSVGマークアップへと可逆であり、かつ効率的なベクター空間演算をサポートする単一の高密度ベクトルへとマッピングされる、連続的な埋め込み空間を構築することである。

手法：SLS (SVG潜在空間)
著者らは、個々のSVGパスのコンパクトな潜在表現を学習するために設計された、TransformerベースのオートエンコーダであるSLSを提案している。そのアーキテクチャと学習戦略は、以下の主要コンポーネントによって定義される：

• パスレベルの粒度: 全体のSVGファイルを処理する手法とは異なり、SLSは個々のパスに対して動作する。複合的なSVGオブジェクトは独立したパスシーケンスに分解されるため、画像全体を扱う手法と比較して、平均シーケンス長を2桁以上削減できる。
• データ駆動型BPEトークナイゼーション: 厳格なコマンドベースの境界を使用する代わりに、SLSはパスのコーパスから直接学習されたバイトペアエンコーディング (BPE) トークナイザを採用している。これにより、描画コマンド、数値座標、およびスタイル属性（塗り、ストローク、不透明度）を包含する統一された語彙が作成される。このアプローチは、幾何学的情報とスタイリスティックな情報の異質な混合を自然に扱い、厳格なトークナイザが見逃してしまうバリエーションを捉えることができる。
• エンコーダ・デコーダ・アーキテクチャ:
  • エンコーダ: Transformerエンコーダがトークン化されたパスシーケンスを処理する。学習可能な [CLS] トークンの代わりに、モデルは終端シーケンス (</s>) トークンに対応する最終隠れ状態をグローバルな高密度埋め込み ($\mathbf{z}$) として利用する。
  • デコーダ: 軽量な自己回帰デコーダが、潜在ベクトル $\mathbf{z}$ に条件付けられて元のトークンシーケンスを再構成する。SVGパスの決定論的かつ構文的に厳格な性質 due to、デコーダは有効な再構成を保証するために、確率的サンプリングではなく貪欲デコーディング（各ステップで最も確率の高いトークンを選択する手法）を採用する。
• 学習目的: モデルは、トークン再構成損失を用いてエンドツーエンドで学習される。潜在空間を正則化するために、学習中にガウスノイズ ($\epsilon \sim \mathcal{N}(0, \sigma^2 \mathbf{I})$) が潜在埋め込みに注入される。損失関数は、ターゲットと予測されたトークン分布間の分布の一貫性を強制するために、クロスエントロピー ($\mathcal{L}_{CE}$) とKLダイバージェンス項 ($\mathcal{L}_{KL}$) を組み合わせている。
• 超球面構造: 学習されたエンコーダの顕著な創発的特性は、潜在表現がほぼ一定の $\ell_2$ ノルムを示すことである。その結果、埋め込みは自然に単位超球面に位置することになる。推論時、埋め込みは効率的なコサイン類似度検索を可能にするために、単位ノルム ($\mathbf{z}_{norm}$) に正規化される。再構成においては、ノルムはデコーディング前に経験的平均によって再スケールされる。

主な貢献

1. 可逆なパスレベル潜在空間: SLSは、各SVGパスが単一の高密度ベクトルにマッピングされる、スケーラブルな潜在空間を導入する。この空間は完全に可逆であり、ラスタベースのエンコーダには欠けている、高い幾何学的およびスタイリスティックな忠実度を持って元のSVGパスを再構成できる。
2. 統一されたBPEトークナイゼーション: データ駆動型のBPEトークナイザをコマンド、座標、およびスタイル属性に一様に適用することで、厳格なコマンドベースの代替案よりも豊かな表現が得られ、スタイルのバリエーションを効果的に捉えられることを本論文は示している。
3. 超球面埋め込み: 学習された空間は、埋め込みを自然に単位超球面上に整理するため、複雑なアーキテクチャの変更なしに、単純なベクター空間演算による効率的なダウンストリーム操作（検索、合成）を可能にする。
4. 汎用性と効率性: SLSの埋め込みは、多様なタスク（検索、キャプション生成）において汎用性を持ち、計算コストを大幅に削減する。数千のトークンを単一の埋め込みに圧縮することで、このアプローチはトークンベースの手法と比較して訓練FLOPsを150倍以上削減し、具体的な実験では訓練TFLOPsを167倍削減している。

実験結果
著者らは、再構成、キャプション生成、および検索のタスクにおいてSLSを検証している：

• 再構成: SLSは、画像レベルの指標（MSE, SSIM, LPIPS, DINO類似度）およびパスレベルの指標（BLEU, METEOR, mIoU）のすべてにおいて、最先端のDeepSVGベースラインを大幅に上回る。定性的な結果は、幾何学とスタイルの両方における優れた再構成を確認している。
• SVG画像キャプション生成: 大規模言語モデル (LLM) のための視覚エンコーダとして使用する場合、SLSの埋め込みは、生のXMLトークン入力やDeepSVGと比較して優れた性能を発揮する。3つのLLMバックボーン（Qwen3, Llama 3.2, Gemma 2）にわたり、SLSはCLIPスコアを平均+2.82、BLEU5を平均+19.19向上させる。極めて重要な点として、SLSは平均コンテキスト長を約2432トークンから約15.56トークンへと減少させ、コンテキスト処理において156倍の高速化と、訓練TFL TFLOPsの167倍の削減を実現した。
• パス検索: 大規模な検索ベンチマークにおいて、SLSは視覚的類似度（MSE-Sim, LAB距離）および構文的忠実度（BLEU, METEOR）の両方において、ラスタベースのエンコーダ（CLIP, DINOv2）およびSVGネイティブのベースライン（DeepSVG）を凌駕し、画像レベルのモデルよりも構造的バリエーションをより良く捉えられることを示した。
• 堅牢性: 潜在空間は、ガウスノイズ（$\sigma=0.02$ まで）および角度摂動（最大30°まで）に対しても安定しており、再構成品質を維持している。
• 汎用性: SLSは、ドメイン外のデータセット（UniSVG）に適用した場合に緩やかな劣化を示すが、これはSLSが特定のデータに過学習せず、一般的なSVGの特性を学習していることを示唆している。さらに、パス埋め込みを集約することで効果的な画像レベルの分類が可能となり、DeepSVGの性能をほぼ倍増させている。

意義
本論文は、SLSがラスタ画像に対する変分オートエンコーダ（VAE）が果たした役割と同様に、ベクターグラフィックス研究の基礎的な構成要素を提供すると主張している。連続的で可逆的、かつ意味的に構造化された潜在空間を確立することで、SLSは記号的なベクター表現と現代の基盤モデルとの間の溝を埋める。これにより、幾何学的構造を損なったり、長いトークンシーケンスを処理する計算オーバーヘッドを発生させたりすることなく、ベクターコンテンツに対するスケーラブルな推論を可能にし、ベクターネイティブなモデリング、生成、および編集の将来の研究を促進する。