Code2Math: Can Your Code Agent Effectively Evolve Math Problems Through Exploration?

本論文は、コード実行環境を活用したマルチエージェントフレームワーク「Code2Math」を提案し、既存の数学問題を自律的に探索・進化させることで、構造的に異なりかつより高度な難易度の新たな解ける問題を生み出すことを実証している。

要約

この論文は、**「AI 自身が、自分より難しい数学の問題を、コード（プログラミング）を使って作り出せるのか？」**という面白い実験について書かれています。

タイトルは『Code2Math（コードから数学へ）』。
内容を、難しい専門用語を使わず、日常の例え話で解説します。

---

🎭 物語：「天才な問題作成家 AI」の誕生

1. 背景：なぜ新しい問題が必要なの？

現在、AI（大規模言語モデル）は数学が得意になりつつあります。オリンピックレベルの問題も解けるようになってきました。
でも、**「AI をもっと強くするには、もっと難しい問題が必要」というジレンマに陥っています。
人間が手作業で「超難問」を作るのは大変で、数が足りません。そこで、「AI 自身が、既存の問題を改造して、もっと難しい新問題を作れないか？」**と考えたのです。

2. 仕組み：3 人の「AI 監督チーム」

この研究では、1 人の AI ではなく、3 人の AI がチームを組んで作業を行います。まるで映画製作のようですね。

• 🎬 監督（進化エージェント）

  • 役目： 既存の「種（シード）」となる問題をもらい、「どうすればもっと難しくなるか？」を考えます。
  • 特徴： ただ問題を難しくするだけでなく、「コード（プログラミング）」を書いて実験します。
    • 例え話： 「このパズルを解くには、数字を 100 回足す必要があるかな？いや、コードでシミュレーションしてみよう」と、実際に計算機を使って試行錯誤します。
  • 目標： 解く人が「あ！ひらめいた！」（Aha moment）と叫ぶような、深い洞察が必要な問題を作ること。

• 🛡️ 審査員 A（正解性チェック）

  • 役目： 監督が作った問題が「バグ（矛盾）」がないか、本当に解ける問題かを確認します。
  • 特徴： 監督が書いた「解答のステップ」を、コードを使って厳しくチェックします。「この計算は間違っている」「問題自体が矛盾している」と見つけたら、その問題はゴミ箱行きです。

• 📊 審査員 B（難易度チェック）

  • 役目： 「本当に元の問題より難しいか？」を評価します。
  • 特徴： 「計算量が増えただけの面倒な問題」は不合格です。本当に「ひらめき」が必要な、知的な難易度の高い問題かどうかを見極めます。

3. 実験の結果：AI は「自分より強い敵」を作れたか？

実験では、100 個の数学問題（中学・高校のコンテストやオリンピックレベル）を「種」として与えました。

• ✅ 成功： AI は、人間が手作業で作るのと同じくらい、あるいはそれ以上に**「論理的に正しい、かつ非常に難しい問題」**を多数作り出しました。

• 📉 驚きの事実： 作った問題の難易度は、「問題を作った AI 自身」の能力を超えていました。

  • 例え話： 自分が 100m 走で 15 秒の選手が、自分より速い 12 秒のランナーを「想像して」設計図を描き、実際にそのランナーを走らせることに成功したようなものです。
  • AI は、自分の現在の解く能力の限界を超えた「発見の重荷（Burden of Discovery）」を、問題の中に仕込むことができました。

• ⚠️ 課題： 完璧な問題を作るのは簡単ではありませんでした。

  • 1 つの成功した問題を作るために、平均して3〜6 回は失敗（コードがエラーになる、矛盾が見つかるなど）しました。
  • 「正解性」と「難易度」の両方を満たすまで、何度も試行錯誤（ロールアウト）を繰り返す必要がありました。

4. 具体的な例：どうやって難しくしたの？

論文の図 1 や付録にある例を見ると、変化がわかります。

• 元の問題： 「数字のリストの和が 30 で、最頻値が 9 なら、二乗和はいくつ？」（単純な計算パズル）
• AI による進化： 「和が 323 で、最頻値が 10。かつ、リストの要素数を最大にしたい。その最大数は？」
  • 変化点： 単に答えを計算するだけでなく、「どうすれば最大になるか」という最適化問題になり、コードを使って「ありうる組み合わせ」をすべて探さないと解けないレベルに昇華しました。

💡 この研究のすごいところ（まとめ）

1. 「試行錯誤」が鍵： AI はただ言葉で考えているだけではありません。**「コードを書いて、実際に計算して、結果を見て、また考え直す」**という、数学者が実際に行うような実験プロセスを再現しました。
2. 自動で「超難問」が作れる： 人間が手作業で集めるのが大変な「質の高い難問」を、AI が自動で生成できる可能性があります。
3. AI の成長のヒント： 「AI が自分より難しい問題を作れる」ということは、AI が自ら学習データを増やし、進化し続ける（自己進化）未来への第一歩かもしれません。

一言で言うと：
「AI に『プログラミング』という道具を持たせて、自ら『より難しい数学パズル』を設計・検証させることに成功した。これにより、AI のトレーニング用データを無限に増やせる可能性が開けた！」という画期的な研究です。

技術概要

Code2Math: 探索によるコードエージェントの数学問題進化能力に関する技術的サマリー

本論文「Code2Math: Can Your Code Agent Effectively Evolve Math Problems Through Exploration?」は、大規模言語モデル（LLM）の数学的推論能力が国際数学オリンピック（IMO）レベルに達する一方で、トレーニングおよび評価用の高難度・高品質な問題の不足がボトルネックとなっている現状に焦点を当てています。著者らは、コード実行環境を活用したマルチエージェントシステムを開発し、既存の数学問題を自律的に探索・進化させ、より複雑で難易度の高い新しい問題を生成する手法を提案しています。

以下に、本論文の主要な要素を詳細にまとめます。

1. 背景と課題

• 課題: LLM の数学能力向上には、より難易度の高い問題データが必要ですが、人間による手動での問題作成は専門知識と多大な労力を要し、スケーラビリティに欠けます。
• 仮説: 近年のコードエージェントは、推論能力と実行可能な計算環境（Python など）を併せ持っており、数学的な空間を探索し、仮説を検証するプロセスを通じて、人間の数学者と同様に新しい問題を発見・進化させることができるのではないか。
• 目的: コードエージェントが既存の問題を分析し、構造的に異なる、かつより困難な「進化版」の問題を自律的に生成・検証できるかを実証すること。

2. 提案手法：マルチエージェント・フレームワーク

本研究では、問題の適応という長期的なタスクを、3 つの専門エージェントに分割したマルチエージェントシステムを構築しました。

2.1. エージェントの役割

1. 進化エージェント (Evolution Agent):
   • 入力: 元の問題（シード問題）とその解答。
   • タスク: 問題の「認知的ボトルネック（解く際の核心的な難所）」を特定し、それを隠蔽したり、新たな洞察（Aha moment）を注入したりすることで、より困難な新しい問題を設計します。
   • 特徴: 単なる計算量の増加ではなく、「発見の負担（Burden of Discovery）」を増大させることを目指します。これには、理論的推論だけでなく、コード実行による探索が不可欠です。
2. 解可能性検証エージェント (Solvability Verification Agent):
   • タスク: 生成された問題の論理的整合性と、提案された解答の妥当性を検証します。
   • 手法: 表面レベルの誤り検出に加え、コード（SymPy, Z3 など）を用いて論理的な矛盾や解の存在を厳密にチェックします。論理的に完璧な解答が存在すれば、その問題が解可能であるとみなします。
3. 難易度検証エージェント (Difficulty Verification Agent):
   • タスク: 元の問題と進化版の問題を比較し、難易度が本質的に向上したかを評価します。
   • 評価基準: 「人工的な複雑さ（計算量の増大）」ではなく、「認知的深さ（新しい洞察の必要性）」を重視します。5 段階評価を行い、単なる手作業の増大（スコア 2）を排除し、構造的な変化や美的な美しさ（スコア 5）を評価します。

2.2. コードによるテスト時スケーリング (Test-time Exploration)

• システムは、進化エージェントに対して複数の試行（rollouts）を許可し、コード実行を通じて仮説を検証させます。
• 利用するツール：SymPy（記号計算）、Z3（制約充足）、NetworkX（グラフ理論）、itertools（組み合わせ列挙）など。
• エージェントは、数値シミュレーション、反例の探索、不等式の境界値の精密化などをコードで実行し、問題の構造を深く理解した上で進化を行います。

3. 実験設定

• データセット: 教科書、地域大会、IMO、AIME などの多様なソースから収集した 100 のシード問題。
• モデル:
  • 進化エージェント：DeepSeek-Chat, DeepSeek-Reasoner, Gemini-3-Pro-Preview-Thinking, Kimi-K2-Thinking, Seed-2.0-Pro。
  • 評価用ソルバー：上記に加え、Qwen3, GPT-5.2-Medium/High など計 6 種類のモデル。
• 評価指標:
  • 合意率 (Agreement Rate): 内部検証エージェントと外部ジャッジ（GPT-5.2-High）の間で、問題が解可能と判断される割合。
  • 解決率 (Solve Rate): ソルバーが問題を正しく解ける割合（進化版で低下すれば難易度上昇とみなす）。
  • トークン消費量: 問題解決に必要な推論の長さ（難易度の代理指標）。

4. 主要な結果

4.1. 解可能性と信頼性

• 生成された問題の解可能性は非常に高く、DeepSeek-Reasoner を使用した場合、外部ジャッジとの合意率は約 96%（94/98）に達しました。
• これは、コードによる論理的検証が、無効な生成を効果的にフィルタリングできていることを示しています。

4.2. 難易度の向上

• 進化された問題に対するソルバーの解決率は、元のシード問題と比較して顕著に低下しました。
  • 例：DeepSeek-Reasoner によって進化された問題に対し、GPT-5.2-High の解決率は 70% から 64% へ、Gemini-3-Flash-Thinking は 56% から 35% へと低下しました。
• 能力の非対称性: 進化エージェントが、自分自身よりも強力なソルバーモデルであっても解決率を低下させるような問題を作成できることが示されました。これは、エージェントが自身の推論能力の限界を超えた「発見の負担」を設計できることを意味します。

4.3. 計算コストと効率

• 成功するまでには平均して 1.56〜6.55 回の失敗（リトライ）が必要であり、特に解可能性の検証（論理的矛盾の発見）が主要なボトルネックとなっています。
• 難易度検証よりも解可能性の検証で多くの失敗が発生しており、数学的に整合性のある問題を生成することの難しさが浮き彫りになりました。

4.4. ケーススタディ

• 具体的な例として、単なる不等式の証明問題から、確率変数のモーメントに関する構造的な最適化問題へと進化させたケースなどが紹介されています。
• これらの進化版問題は、単に計算量が増えるだけでなく、解法のパターン（テンプレート）を無効化し、新しい洞察（例：離散分布の支持点の特定、多項式の構造的理解）を要求するものとなっています。

5. 貢献と意義

1. 新しいフレームワークの提案: 問題進化タスクを「進化・解可能性検証・難易度検証」の 3 エージェントに分割し、コード実行を探索エンジンとして活用するシステムを構築しました。
2. 高品質な数学データの生成: 自律的に生成された問題は、数学的に整合性があり、かつ現在の最先端モデルにとって明確に困難な問題であることが実証されました。
3. コード駆動型探索の有効性: 純粋なテキスト推論ではなく、コードによる実証的探索（シミュレーション、反例検索）が、構造的に複雑な数学的洞察の発見に不可欠であることを示しました。
4. 将来展望: このアプローチは、数学推論に限らず、構造化された推論タスクにおける自律的な難易度スケーリングの viable な方向性を示唆しています。

結論

Code2Math は、コードエージェントが単なる問題解決者としてだけでなく、**問題生成者（Problem Setter）**としても機能し得ることを実証しました。コード実行を伴う探索プロセスを通じて、LLM は既存の知識を再構成し、人間が手作業ではスケーリングできないレベルの難易度を持つ数学的問題を自律的に進化させることができます。これは、将来の AI 研究におけるトレーニングデータの生成や、モデルの推論能力の限界を探るための強力な手段となります。