TikZilla: Scaling Text-to-TikZ with High-Quality Data and Reinforcement Learning

本論文は、高品質で大規模な DaTikZ-V4 データセットと逆グラフィックスに基づく強化学習を活用し、小規模なオープンソースモデル「TikZilla」を開発することで、テキストから高品質な TikZ 図を生成する性能を大幅に向上させ、GPT-5 に匹敵する結果を達成したことを報告しています。

要約

この論文は、**「AI に科学の図表を描かせる」**という難しい課題を、新しいデータと「褒美」の仕組みを使って劇的に改善したというお話しです。

タイトルは**「TIKZILLA（ティクジラ）」。
「ティクジ（TikZ）」は科学者たちが使う図形描画言語の名前で、「ジラ（Zilla）」はゴジラのように巨大・強力なものを意味する造語です。つまり、「科学の図を描くゴジラ」**のような AI です。

以下に、専門用語を避けて、わかりやすい例え話で解説します。

---

1. 何が問題だったの？（以前の AI の悩み）

科学の論文には、グラフや回路図、分子構造など、正確な図が欠かせません。これらをコンピュータに描かせるために、**「文章で指示を出せば、AI が図を描くプログラム（TikZ コード）を書いてくれる」**という研究がありました。

しかし、これまでの AI には 2 つの大きな弱点がありました。

• 弱点①：データの質が悪かった
  過去のデータは、図の横にある「キャプション（簡単な説明）」しかありませんでした。

  例え話：
  料理のレシピを頼むのに、「美味しいパスタ」という一言しか渡されていないようなもの。
  「トマトが赤くて、ソースは濃厚で、パスタは太い」という詳細な指示がないと、AI は「何を作ればいいかわからない」か、勝手に「チョコレートパスタ」を作ってしまいます。
  これでは、正確な科学図は描けません。

• 弱点②：「描いた結果」を見ていない
  以前の AI は、文章からコードを書くことしか練習していませんでした。実際にそのコードをコンパイル（実行）して、**「本当にきれいな図ができたか？」**を確認するプロセスが欠けていました。

  例え話：
  料理人が「レシピ」だけを見て料理を作りますが、「味見」や「盛り付け」を全くしない状態です。
  その結果、AI は「ループ（無限ループ）で止まってしまうコード」を書いたり、関係ないものを描き足したり、位置がズレた図を描いたりしていました。

2. 彼らがやったこと（3 つの魔法）

この論文の著者たちは、この問題を解決するために 3 つのステップを踏みました。

① 超巨大で高品質な「レシピ本」を作った（DaTikZ-V4）

まず、AI に教えるためのデータセットを、以前の 4 倍以上の規模に拡大しました。

• GitHub や arXiv（科学論文のデータベース）から、実際に使われている 200 万枚以上の図を集めました。
• AI による「デバッグ（修理）」：コードがエラーで動かないものを、別の AI が自動で直しました。
• VLM（視覚 AI）による「詳細な説明」：単なる「キャプション」ではなく、**「青い丸が左にあり、赤い矢印が右に伸びている」**といった、図を正確に再現できるレベルの文章を AI に書かせました。

  例え話：
  料理人（AI）に、単なる「パスタ」という一言ではなく、**「トマトソース、ニンニク 2 片、オリーブオイル大さじ 1、パスタは 200g」**という、プロのシェフが使うような詳細なレシピ本を 200 万冊分与えたのです。

② 2 段階のトレーニング（SFT → RL）

AI を育てるのに、2 つの段階を使いました。

1. SFT（教師あり学習）： 大量の「詳細な説明」と「正解のコード」を見せ、文法や書き方を覚えます。
2. RL（強化学習）： ここが重要！AI がコードを書いた後、実際に図を描いて、それが正解の図とどれだけ似ているかを評価します。
   • ここでは、**「逆グラフィックス（画像からコードを推測する AI）」**という特別な先生を雇いました。この先生は、AI が描いた図を見て、「うん、これは正解に近いね！褒美をあげよう」と評価します。

     例え話：
     料理人がレシピを見て料理を作った後、「味見をする先生」がやってきます。「塩味が足りてない？」「盛り付けが崩れてる？」と厳しくチェックし、「美味しい！」と言われた料理には星をあげるというシステムです。
     AI は「星（報酬）」をもらうために、より正確で美しい図を描こうと必死に練習します。

③ 小さなモデルでも最強に（TikZilla）

彼らが作った AI「TikZilla」は、30 億〜80 億パラメータという、GPT-4o や GPT-5 といった巨大モデルに比べるとかなり小さいサイズです。
しかし、上記の「高品質なレシピ」と「厳格な味見システム」のおかげで、巨大なモデルよりも上手に図を描けるようになりました。

3. 結果はどうだった？

• 精度： 人間の評価でも、GPT-4o を上回り、GPT-5 とほぼ同等の性能を出しました。
• エラー： 以前はよくあった「コードが動かない（コンパイルエラー）」という問題が、95% 以上解決しました。
• 効率： 小さなモデルでも高性能なので、コストが安く、誰でも使えるようになります。

まとめ：なぜこれがすごいのか？

この研究は、**「AI に『結果』を評価させる仕組み」と「高品質な『詳細な説明』」**を組み合わせることで、小さな AI でも科学者のような正確な図を描けるようになったことを示しました。

最終的なイメージ：
これまでの AI は、「適当なメモを見て、適当に料理を作っていた」状態でした。
しかし、TikZilla は「プロのシェフが書いた詳細なレシピ」を手にし、「味見をする厳しい先生」の指導のもとで修行を積んだ結果、「小さなキッチン（小さな AI）」でも、世界最高峰の料理（科学図表）を作れるようになったのです。

これにより、科学者たちは AI を使って、より早く、正確に、美しい論文の図を作れるようになるでしょう。

技術概要

TIKZILLA: 高品質データと強化学習によるテキストから TikZ へのスケーリング技術の概要

本論文「TIKZILLA: SCALING TEXT-TO-TIKZ WITH HIGH-QUALITY DATA AND REINFORCEMENT LEARNING」は、科学図表の生成タスクにおいて、大規模言語モデル（LLM）がテキスト記述から TikZ（LaTeX のベクターグラフィック言語）コードを生成する能力を大幅に向上させるための新しいアプローチを提案しています。

以下に、問題定義、手法、主な貢献、結果、および意義について詳細にまとめます。

1. 問題定義 (Problem)

科学分野では、LaTeX エコシステムにシームレスに統合され、高精度かつ解釈可能な TikZ プログラムを用いた図表生成が不可欠です。しかし、既存の「テキストから TikZ へ」の変換技術には以下の重大な課題がありました。

• データセットの規模と品質の欠如: 既存のデータセット（例：DaTikZ-V3）は規模が小さく、ノイズが多いため、TikZ の複雑さを十分に捉えられていません。その結果、テキストと生成された図の間にミスマッチが生じやすくなります。
• 既存手法の限界: 従来のアプローチは教師あり微調整（SFT）のみに依存しており、モデルが生成したコードの「レンダリングされた意味（視覚的意味）」を直接学習していません。これにより、無限ループ、無関係なコンテンツの生成、空間関係の誤りなどのエラーが頻発します。
• キャプションの質: 既存のデータセットに含まれる図説明文（キャプション）は、図を正確に再構築するには不十分で、詳細な構造的要素や視覚的特徴が欠落していることが多く、モデルのハルシネーション（幻覚）を招きます。

2. 手法 (Methodology)

著者らは、高品質な大規模データセットの構築と、強化学習（RL）を組み合わせた 2 段階のトレーニングパイプラインを提案しています。

2.1 高品質データセット「DaTikZ-V4」の構築

既存の DaTikZ-V3 を大幅に拡張し、200 万件以上のユニークな TikZ サンプルを含む「DaTikZ-V4」を作成しました。

• データソース: arXiv（2021 年以降）、GitHub（約 5,500 リポジトリから抽出）、TeX StackExchange、および合成データ。
• 品質向上プロセス:
  1. ルールベースのフィルタリング: 外部ファイル依存の除去、インラインコメントの削除、動的なパッケージ検出（例：circuitikz の文脈から circuitikz パッケージを自動追加）などを行い、コンパイル成功率を向上させました。
  2. LLM ベースのデバッグ: コンパイルエラーが発生したコードに対し、LLM にエラーログを入力して修正を指示するパイプラインを導入。130 万件の未コンパイルコードのうち 60 万件を修復しました。
  3. VLM による図説明文生成: 既存のキャプションの質の低さを克服するため、Vision Language Model（VLM: Qwen2.5-VL-7B）を用いて、図の構造、色、ラベル、空間関係などを詳細に記述した新しい説明文を生成し、データセットに付与しました。

2.2 2 段階トレーニングパイプライン

• 段階 1: 教師あり微調整 (SFT)
  DaTikZ-V4 を用いて、Qwen ベースのモデル（3B, 8B）を微調整し、TikZ の構文とタスク固有のトークン分布にモデルを適合させます。
• 段階 2: 強化学習 (RL)
  生成されたコードの視覚的整合性を高めるため、GRPO（Group Relative Policy Optimization）を用いた強化学習を導入します。
  • 報酬モデル: 従来の CLIPScore や DreamSIM ではなく、逆グラフィックス（Image-to-TikZ）タスクで学習された画像エンコーダーを報酬モデルとして使用します。このエンコーダーは、Ground Truth の画像と生成された画像の埋め込み間の意味的類似度（Earth Mover's Distance を使用）を評価し、科学的図表のニュアンスをより正確に捉える報酬信号を提供します。

3. 主な貢献 (Key Contributions)

1. キャプションの質の分析: 既存のキャプションが図の再構築には不十分であることを実証し、VLM による詳細な説明文の必要性を明らかにしました。
2. 大規模データセットの拡張: arXiv と GitHub から収集したデータを含め、DaTikZ-V4 を作成し、既存データセットの 4 倍以上の規模（200 万件以上）を実現しました。
3. データ品質の向上: 動的パッケージ検出、VLM による説明文生成、LLM によるデバッグパイプラインを組み合わせ、高品質でコンパイル可能な TikZ コードの生成を可能にしました。
4. ドメイン特化型報酬モデル: 逆グラフィックスで学習された画像エンコーダーを報酬モデルとして導入し、一般的なメトリクスよりも人間の評価と相関の強い報酬信号を実現しました。
5. TikZilla モデルファミリー: 3B と 8B パラメータの小型オープンソースモデル（TikZilla）を公開。これらは SFT と RL を組み合わせることで、GPT-4o や GPT-5 を凌駕する性能を達成しました。

4. 結果 (Results)

DaTikZ-V4 のテストセットおよび人間による評価において、TikZilla は顕著な成果を示しました。

• 自動評価指標:
  • TikZilla-3B-RL と TikZilla-8B-RL は、CLIPScore、DreamSIM、TeX 編集距離（TED）の総合スコアにおいて、GPT-5（0.365）を上回る0.385と0.384を記録しました。
  • 既存のオープンソースモデル（Qwen3-32B など）や TikZero-Plus-10B とも比較され、大幅な改善が見られました。
• コンパイル成功率:
  • RL 導入により、コンパイル成功率が**95%〜98%**まで向上しました（ベースモデルは 50〜80% 程度）。
  • 生成トークン数も削減され、より効率的なコード生成が可能になりました。
• 人間による評価:
  • 9 人の専門家による評価（5 段階評価）において、TikZilla-3B-RL と TikZilla-8B-RL は、テキスト整合性と画像整合性の両方でGPT-4o を上回り、GPT-5 と同等（画像評価で 3.46 vs 3.48）のスコアを達成しました。
  • ベースモデルに比べて 1.5〜2 ポイントの改善が見られました。
• 分布外（OOD）データ:
  • TikZ 以外のツール（matplotlib など）で生成された図表を含む SPIQA ベンチマークでも、GPT-5 を上回る性能を示し、モデルの汎用性の高さを証明しました。

5. 意義 (Significance)

• 小規模モデルによる高性能化: 巨大な商用モデル（GPT-5 など）に匹敵する、あるいは凌駕する性能を、3B や 8B という小規模なオープンソースモデルで達成しました。これにより、コストのかかるプロプライエタリなソリューションへの依存を減らし、再現性のある効率的なシステム構築が可能になります。
• 科学的図表生成の新たな基準: 高品質なデータセットとドメイン特化型の強化学習の組み合わせが、構造化されたコード生成タスクにおいて有効であることを示しました。
• 今後の応用: このアプローチは、LaTeX テーブル、CAD デザイン、フローチャートなど、プログラム的な忠実性が重要な他の構造化生成タスクへの拡張も期待されます。

総じて、本論文は、高品質なデータ構築とドメイン特化型の強化学習を組み合わせることで、LLM を用いた科学図表生成の課題を解決し、実用的なレベルまで到達させた画期的な研究と言えます。