💬 NLP

MathFimer: Enhancing Mathematical Reasoning by Expanding Reasoning Steps through Fill-in-the-Middle Task

本論文は、コード推論の「中間埋め込み」タスクに着想を得た「MathFimer」フレームワークを提案し、既存の数学的推論データに詳細な中間ステップを自動生成して拡張することで、外部モデルや高コストな推論なしに大規模言語モデルの数学的推論能力を向上させることを実証しています。

原著者： Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Xin Xu, Mengdi Zhang, Jian Shao, Yueting Zhuang

公開日 2026-02-26

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Xin Xu, Mengdi Zhang, Jian Shao, Yueting Zhuang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

この論文は、**「AI が数学の問題を解くとき、なぜ『答え』だけでなく『途中の考え』を詳しく書くことが重要なのか」**という問いに答える、とても面白い研究です。

タイトルは**「MathFimer（マスマイマー）」**といいます。

この研究を、日常の言葉と面白い例えを使って説明しましょう。

🧩 1. 問題：AI は「答え」は知っているが、「途中」が苦手

昔から、AI（大規模言語モデル）は数学の問題を解くのが得意になりました。でも、よく見ると、「答え」は合っているのに、その前に書いた「考え方のステップ」が飛躍していたり、簡略化されすぎていたりすることがありました。

これって、まるで**「料理のレシピ」**を想像してみてください。

悪いレシピ： 「材料を混ぜて、焼けば完成！」（どう混ぜて？どのくらい焼くの？わからない！）
良いレシピ： 「卵を割って、ボウルに注ぐ。砂糖を小さじ 1 加えて、泡立てる。オーブンで 180 度、20 分焼く。」（誰でも真似できる！）

AI が「良いレシピ（詳しい思考プロセス）」を学べば、もっと賢く、正確に考えられるようになります。でも、これまで「良いレシピ」を作るには、もっと頭の良い AI に頼んで書かせたり、人間が手作業で修正したりする必要があり、とてもお金と時間がかかっていました。

🛠️ 2. 解決策：「穴埋め」ゲームで AI を鍛える

この研究のすごいところは、**「コード（プログラミング）の世界で使われている『穴埋め』のテクニック」**を、数学の思考プロセスに応用したことです。

【例え話：穴埋めパズル】
Imagine you have a story with a missing middle part.

物語の前半（プレフィックス）： 「今日、太郎君は学校に行きました。バス停で友達に会いました。」
物語の後半（サフィックス）： 「そして、教室で先生に挨拶をしました。」
穴（ミドル）： 「（ここが抜けている）」

この「穴」を、前後の文脈から推測して埋めるゲームです。

MathFimer は、この「穴埋めゲーム」を数学の問題でやります。

すでに正解している数学の問題の答え（思考プロセス）を用意します。
その中の「途中のステップ」をわざと隠してしまいます。
AI に**「前後の文脈から、隠れたステップを自分で考えて埋めてください」**と練習させます。

これを何十万回も繰り返すことで、AI は**「どうすれば、思考の飛躍を埋められるか」**を自然に学び取ります。

🚀 3. 結果：AI が「超詳しい解説」を自動で作れるように

この「穴埋め練習」を終えた AI（MathFimer-7B という名前です）は、すごい能力を手に入れました。

できること： 既存の「少し簡略化された答え」を渡すと、AI が**「あ、このステップ、もっと詳しく説明したほうが良いね！」**と判断し、新しい詳細なステップを自動で挿入してくれます。
効果： これによって、AI が学習するデータが「超詳しいレシピ」に変わります。そのデータで AI を育てると、GSM8K（小学生レベルの算数）や MATH（数学オリンピックレベル）などのテストで、劇的に成績が向上しました。

💡 4. なぜこれが画期的なのか？（他の方法との違い）

これまでの方法には 3 つの大きな問題がありました。

もっと頭の良い AI が必要： 詳しい答えを作るには、さらに巨大な AI が必要で、コストがかかりすぎる。
計算コストが高い： 何度も試行錯誤して正解を探すのに、莫大な電力が必要。
嘘をつくリスク： 全く新しい答えを作ろうとすると、AI が間違ったことを言ってしまう（ハルシネーション）ことがある。

MathFimer のすごい点：

既存の「正解」を壊さない： 新しくゼロから作らず、「すでに正しい答え」の隙間を埋めるだけなので、間違った答えになるリスクが低いです。
安くて簡単： 特別な巨大な AI や、複雑な計算は不要。既存のデータを使って、「穴埋め」の練習をするだけなので、誰でも手軽に実行できます。

🌟 まとめ

この論文は、**「AI に『答え』を教えるのではなく、『考え方の隙間』を埋める練習をさせることで、AI の推理能力を劇的に高められる」**ことを証明しました。

まるで、**「料理のレシピの『適当に混ぜる』という部分を、『卵を 30 秒間、時計を見ながら混ぜる』という具体的な指示に書き換える」**ような作業を、AI 自身が自動でできるようになったのです。

これにより、将来の AI は、より複雑な数学の問題や、論理的な課題を、人間が納得できるほど詳しく、正確に解けるようになるかもしれません。

論文要約：MathFimer

1. 背景と課題 (Problem)

大規模言語モデル（LLM）の数学的推論能力を向上させるためには、推論プロセスにおける「思考の連鎖（Chain-of-Thought: CoT）」の質が極めて重要です。近年の研究では、より詳細で粒度の細かい中間ステップを含むデータで学習させることでモデルの性能が向上することが示されています。

しかし、既存の推論ステップ拡張手法には以下の 3 つの重大な課題がありました：

モデル依存性: より強力な外部モデル（より大きなモデル）を必要とし、性能向上のために常にさらに大きなモデルが必要になる悪循環に陥る。
計算コスト: モンテカルロ木探索（MCTS）などの高度な探索アルゴリズムを使用する場合、莫大な計算リソースを消費する。
信頼性の欠如: 既存の人間検証済みステップを基盤とするのではなく、全く新しい推論連鎖を生成するため、予期せぬ誤りを導入し、解の信頼性を低下させるリスクがある。

これらの課題に対し、「既存の人間生成解の妥当性を保ちつつ、より効率的かつ信頼性の高い方法で推論ステップを拡張できるか？」という問いが提起されました。

2. 提案手法 (Methodology)

本論文では、コード推論分野で成功している「Fill-in-the-Middle (FIM)」タスクのアイデアを数学的推論に応用した新しいフレームワーク MathFimer を提案しています。

2.1 基本的なアプローチ

既存の CoT データを「プレフィックス（前）」と「サフィックス（後）」に分解し、その中間のステップをモデルに再構築させるタスクを定義します。

入力: 問題文 ( $Q$ ) + 前段のステップ ( $P$ ) + 後段のステップ ( $S$ )
出力: 欠落している中間ステップ ( $M$ )
数式表現: $FIM(Q, P, S) \Rightarrow M$

2.2 実装プロセス

データ構築 (NuminaMath-FIM):
- 高品質な数学推論データセット「NuminaMath-CoT」を使用。
- 各解答をステップ単位に分解し、ランダムに 1 つのステップを「中間（Middle）」として隠蔽します。
- 残りのステップをプレフィックスとサフィックスとして、FIM 形式（<|fim_prefix|> ... <|fim_middle|> ... <|fim_suffix|>）で再構成します。
- これにより、250 万サンプルからなる「NuminaMath-FIM」データセットを構築しました。
モデル学習 (MathFimer-7B):
- 数学特化ベースモデル「Qwen2.5-Math-7B」を基盤とし、上記の FIM データで教師あり微調整（SFT）を行いました。
- 損失関数は、<|fim_middle|> タグ以降の生成トークンのみに対して計算し、欠落ステップの補完能力を学習させます。
推論ステップの拡張:
- 学習済みの MathFimer-7B を使用して、既存の数学データセット（MathInstruct, MetaMathQA など）の推論ステップを拡張します。
- 連続する 2 つのステップの間に、FIM モデルを用いて詳細な中間ステップを挿入します。
- 類似度フィルタリング: 生成されたステップが元の次のステップと過度に類似している場合（閾値 $\eta=0.8$ 以上）、重複とみなして除外し、品質を維持します。

3. 主要な貢献 (Key Contributions)

新しいステップ拡張フレームワークの提案: コード補完技術（FIM）に着想を得た MathFimer を提案し、既存の解に対して中間ステップをターゲットに挿入することで数学的推論を強化します。
データセットとモデルの公開: 詳細なステップ拡張用データセット「NuminaMath-FIM」と、そのための専用モデル「MathFimer-7B」を開発・公開しました。これは実用的でスケーラブルな解決策を提供します。
包括的な実験による実証: 複数のベンチマーク（GSM8K, MATH など）およびモデルアーキテクチャ（一般用途 LLM と数学特化 LLM）において、拡張データで学習したモデルが常に元のデータで学習したモデルを上回る性能を示すことを実証しました。

4. 実験結果 (Results)

複数のベースモデル（Meta-Llama-3.1-8B/70B, Qwen2.5-Math-7B/72B）とデータセット（GSM8K+MATH, MathInstruct, MetaMathQA など）を用いた実験結果は以下の通りです。

性能向上: MathFimer 拡張データで学習したモデルは、GSM8K や MATH などの主要ベンチマークで一貫して精度を向上させました。
- 例：Meta-Llama-3.1-8B + MathInstruct-CoT の場合、平均精度が 27.75% から 31.52% へ（+3.77 ポイント）向上。
- 例：Qwen2.5-Math-72B + MetaMathQA の場合、平均精度が 52.71% から 57.14% へ（+4.43 ポイント）向上。
反復拡張の可能性: 拡張されたステップに対してさらに FIM を適用する「反復拡張」を行うことで、推論精度がさらに向上することが確認されました（GSM8K で 3 回反復により +15.54 ポイントの改善）。
モデル規模の影響: MathFimer-1.5B, 7B, 72B を比較したところ、ステップ拡張タスク自体は比較的小さなモデル（7B 程度）でも十分に機能し、モデル容量がボトルネックにならないことが示されました。
他手法との比較: 強化学習（RL）や DPO などの手法と比較して、MathFimer は計算コストが低く、推論ステップの「質と粒度」に特化している点で優れています。また、RL の初期値として MathFimer 拡張データを使用すると、さらに高い性能が得られることが示されました。
一般化能力: 数学データで学習した MathFimer を用いて拡張したデータで学習させたモデルは、数学以外の推論タスク（論理推論、科学的推論など）においても性能向上が見られました。

5. 意義と結論 (Significance)

MathFimer は、外部の強力なモデルや高コストな推論プロセスに依存することなく、既存のデータセットを「詳細化」することで LLM の推論能力を向上させる、実用的かつスケーラブルな手法です。

効率性: 既存の人間検証済み解の構造を維持しつつ、欠落した論理の飛躍を埋めることで、モデルが「なぜその答えに至ったか」をより深く理解することを可能にします。
信頼性: 完全に新しい推論経路を生成するのではなく、既存の正解に基づいてステップを補完するため、誤った推論を誘発するリスクを低減しています。
将来性: このアプローチは数学に限らず、他の推論ドメインにも応用可能であり、LLM の推論能力向上における「ステップの粒度」と「品質」の重要性を再確認させる重要な知見を提供しました。

本論文は、大規模言語モデルの推論能力向上において、単に「より大きなモデル」や「より多くの計算」を求めるのではなく、「より質の高い推論ステップの構造」をデータ側から最適化するアプローチの有効性を示す画期的な成果と言えます。