テクニカル・サマリー：INSIDE – LLM学生シミュレーターにおける潜在的な推論と行動の共同モデリング

問題提起

教育における大規模言語モデル（LLM）ベースのシミュレーターは、観察可能な学生の行動（例：コードの提出）を複製することは多いが、その背後にある潜在的な推論プロセスを捉えることに失敗している。教育的な文脈において、2人の学生が根本的に異なる理由から同一のコードを生成したり、あるいは異なる認知経路を経て同じ誤った解に到達したりすることがある。既存のアプローチは通常、学生の振る舞いをブラックボックスとして扱い、結果の予測のみに焦点を当てている。この限界は、誤概念（misconceptions）の診断、ターゲットを絞ったフィードバックの生成、あるいはチュータリングシステムの効果的な評価を妨げる。なぜなら、観察可能な行動は認知の断片的な側面しか示さないからである。さらに、LLMの推論研究は通常、正解率の向上に焦点を当てているが、人間の学習には頻繁なエラー、誤概念、不完全な戦略が含まれるものであり、現在のモデルはこれらを真正にシミュレートすることに苦慮している。

メソドロジー

本論文は、学生の行動とその内部的な推論プロセスを共同でモデリングするフレームワークである INSIDE (INTERNAL STUDENT DIALOGUE) を提案している。この手法は、主に以下の3つのコンポーネントで構成される。

1. データとコンテキスト

本研究では、カリフォルニア大学バークレー校の初級プログラミングコースのデータ（2024年春学期および2025年春学期）を使用している。このデータセットには、約900人の学生、10個の宿題、およびマルチアテンプト（複数回の試行）のサブミッション・ストリームが含まれる。各試行には、学生のコード、オートグレーダーの結果、およびAIチューターによる自然言語のフィードバックが記録されている。データは、トレーニングセット（2025年春）とテストセット（2024年春）に分割され、さらに「既知の問題（Old Problems：馴染みのある問題、新しい学生）」と「未知の問題（New Problems：未経験の問題）」に分類されている。

2. 内部対話の生成（教師モデル）

真の内部推論は観測不可能であるため、著者らは教師モデル（GPT-5）を用いて**遡及的推論（retrospective inference）**を行う。インタラクションのコンテキスト（問題、過去の提出物、フィードバック）と、次に観察される提出物を与えられた上で、教師モデルは以下を生成する：

• 構造化された状態要約： ブルームのタキソノミー（教育目標分類学）に基づき、学生の認知的（理解度／誤概念）、感情的（感情／モチベーション）、および行動的（具体的なステップ）な状態を第三者視点で分析したもの。
• 一人称の内部対話： 提出に先立つ学生の内部モノローグをシミュレートした「思考の跡（think trace）」($z_t$)。この対話は、不確実性、部分的な理解、および潜在的なエラーを含む、初学者特有の推論を反映するように設計されている。

3. 学生モデリング・フレームワーク

核心となる貢献は、インタラクション履歴を条件として、内部対話とその後のコード提出（$c_t$）の両方を生成するように訓練された学生モデルである。

• ファインチューニング（INSIDE）： モデル（Qwen2.5, Qwen3, LLaMA-3）に対し、(コンテキスト $\to$ 内部対話 $\to$ コード) のペアシーケンスを用いてLoRAによるファインチューニングを行う。内部対話は中間的な認知レイヤーとして機能する。
• ベースライン： 本フレームワークは以下のモデルと比較される：
  • SFT： 内部対話を用いないファインチューニング（直接的な コンテキスト $\to$ コード）。
  • プロンプティング（CoT）： 標準的なChain-of-Thoughtプロンプティング。
  • プロンプティング（BloomCoT）： ブルームのタキソノミーに着想を得た構造化プロンプティング。

主な貢献

1. 教育学的に根拠のある推論トレースの再構築： 相互作用データから潜在的な推論トレースを再構築する手法を導入し、真の推論が存在しない状況でも、解釈可能な内部対話を生成することを可能にした。
2. 共同モデリング・フレームワーク（INSIDE）： 観察可能な行動に先立つ潜在的な推論プロセスを明示的にモデリングし、内部対話を条件としたコード生成を行う新しいフレームワーク。
3. 二次元的な評価： 生成されたコードの分布と実在する学生のコードとの類似性を測る「行動の忠実度（Action Fidelity）」と、生成された対話と実際のコード編集との整合性を測る「推論の質（Reasoning Quality）」の両面から包括的な評価指標を提示した。

結果

評価の結果、INSIDEは内部推論を持たないファインチューニング・ベースライン（SFT）および各種プロンプティング戦略の両方を上回ることが示された。

行動の忠実度（Action Fidelity）

生成されたコードの分布と実際の学生のコードとの間の分布的類似性を測定するためにWasserstein距離を使用：

• INSIDE は、「既知の問題」のテストセット（$test\_OP$）において、各種メトリクス（合格率、コード行数、ASTの深さ/幅、PEP 8違反）を通じて一貫して最も低いWasserstein距離を達成した。
• 「未知の問題」（$test\_NP$）においては、SFTと同等の性能を示したが、その差は小さい。これは、$test\_NP$における成功率が高いため、SFTがすでにターゲットの分布に近いことに起因すると著者らは述べている。
• 合格率の軌跡： 実在の学生は、最終ステップ付近で急激に上昇する低い初期合格率を示す。SFTモデルはこの傾向をよく追跡できるが、プロンプティングベースのモデルは、最初から人工的に高い合格率を維持してしまう傾向がある。INSIDEモデルは、実在する学生の漸進的な進歩を密接に再現しており、合格率の軌跡における平均絶対誤差（MAE）が最も低かった。

推論の質（Alignment）

整合性は、生成された内部対話に含まれる原子的な主張のうち、実際のコード編集に反映されている割合を測定する：

• INSIDE は、テストされたモデルの中で最高の整合性スコアを達成した。具体的には、Qwen3-8B-INSIDE は $test\_NP$ で 57.9% に達し、Qwen2.5-7B-INSIDE は $test\_OP$ で 51.8% に達し、どちらの設定においても最良のプロンプティング・ベースラインを上回った。
• 特筆すべき点として、より大規模で高性能なモデル（例：GPT-5, Qwen3-32B）は、しばしば低い整合性スコアを示す。これは、優れた一般的な推論能力が、必ずしも初学者のようなエラーを起こしやすい推論のシミュレーションに直結するわけではないことを示唆している。
• 自己整合性（Self-Consistency）： プロンプティングモデルは高い自己整合性（自身の生成したコードと推論が一致すること）を示すが、実在する学生の振る舞いには一致しないことが多い。INSIDEは、優れた整合性を達成しながらも、競争力のある自己整合性を維持している。

意義と主張

本論文は、観察可能な行動を超えた推論をモデリングすることが、現実的な学生シミュレーターを構築するために不可ントであると主張している。内部対話を組み込むことで、INSIDEは説明と行動の間のギャップを埋め、推論が観察されたコード編集と一貫したシミュレーションを実現する。

著者らは、主に以下の2つの含意を強調している：

1. 評価と最適化： 内部対話を持つ学生シミュレーターを用いることで、AIチューターのフィードバックが誤概念を解消するかどうかを評価したり、展開前に介入の反事実的分析（counterfactual analysis）を行ったりすることが可能になる。
2. 学習者向けツール： 内部対話を外部化することで、学生の省察とメタ認知を支援し、表面的な振る舞いではなく推論パターンに基づいて学生をクラスタリングすることを可能にする。

論文では限界についても認めており、主に内部対話は観察されたものではなく再構築されたものであるため、実際の初学者よりも一貫した推論を反映している可能性があるとしている。しかし、このアプローチは観察不可能な認知信号の有用なプロキシ（代理指標）となり、教育における人間中心のAIを進展させるものであると主張している。