技術的概要：BEAGLE – 学習理論に基づく学習者模倣のための行動強制エージェント

問題定義

教育における生成 AI の進展は、教育モデルの訓練、評価、洗練のために、真実の学生データに大きく依存しています。しかし、そのようなデータの取得は、厳格なプライバシー規制（例：FERPA、GDPR）、縦断研究の高コスト、および実在する未成年者への介入に関する倫理的懸念によって妨げられています。大規模言語モデル（LLM）は学生行動のシミュレーションに対する潜在的な解決策を提供しますが、根本的な能力バイアスに苦しんでいます。好みに調整された LLM は、出力の質と効率性のために最適化されているため、初心者のように振る舞うよう指示されても、線形的で正しい解決策を生成してしまいます。その結果、以下の 3 つの特定の種類の忠実性の欠如が生じます：

1. 行動的忠実性の欠如：LLM は、自己調整学習（SRL）に特徴的な反復的な試行錯誤のサイクル（例：持続的なデバッグループ）を回避します。
2. 認識論的忠実性の欠如：LLM は「マスクされた専門家」として振る舞い、本来知るべきではない洞察を持ってエラーを診断することが多く、「無知の呪い」（知られざる未知）をシミュレートすることに失敗します。
3. 知覚的忠実性の欠如：RLHF による訓練は出力の多様性を平坦化し、真実の学生の表現におけるノイズや感情的な変動を捉えきれません。

手法：BEAGLE フレームワーク

BEAGLE（学習理論に基づく学習者模倣のための行動強制エージェント）は、プロンプトエンジニアリングのみではなく、アーキテクチャ的な制約を通じて能力バイアスを克服するために設計された神経記号フレームワークです。これは、凍結された LLM バックボーンを使用するトレーニング不要のシステムとして機能し、3 つの結合されたサブシステムを統合します：

1. 記号的制御（「ガバナー」）

このサブシステムは、SRL 理論に基づいて学習の時間的および構造的ダイナミクスを強制します。

• セミマルコフダイナミクス：幾何学的な持続時間分布を強制する標準的なマルコフモデルとは異なり、BEAGLE はガンマ分布を持つ持続時間を持つセミマルコフコントローラーを使用します。これにより、実在の学生の特徴である不規則な持続（例：状態に「取り残される」こと）を捉え、メタ認知行動（計画、実行、監視、振り返り）と認知行動（構築、デバッグ、評価）間の遷移を制御します。
• 明示的欠陥注入（EFI）とベイズ知識追跡（BKT）：「知られざる未知」をシミュレートするために、BEAGLE は BKT と EFI を組み合わせます。BKT は特定の知識コンポーネント（KC）の習得確率を追跡します。KC が未習得の場合、EFI はエージェントがその概念にその語彙内でアクセスすることをブロックします。エージェントは誤った解決策を即興で生み出すか、混乱したままにされ、LLM が潜在的な専門知識を駆使して「不正」を行うのを防ぎます。
• 観測フィルタリング：フィードバックは、エージェントのメタ認知的状態によってゲート制御されます。衝動的な「実行」状態の間、エラーの痕跡は抹消され、エージェントが即座の診断ではなく、現実的な試行錯誤に従事することを強制します。

2. 神経的作用（「アクター」）

このサブシステムは、高レベルの計画とコード生成を分離し、沈黙の自己修正を防ぐために、戦略家/実行者アーキテクチャを利用します。

• 戦略家：現在の記号的状態に基づき、目標、マインドセット、指示からなる高レベルの計画を合成します。これは内的な独白として機能します。
• 実行者：最終的な行動（コードと独言）を、戦略家の指示に厳密に条件付けられて生成します。重要なのは、実行者が指示が欠陥を含んでいてもそれを実装することに制約されており、「より良い」解決策で計画を上書きできないことです。このアーキテクチャ的な分離により、エージェントは欠陥のある計画を修正するのではなく、初心者の欠陥のある推論経路に従うことが保証されます。

3. 環境

環境は、Python サンドボックス（IDE オラクル）内で生成されたコードを実行し、フィルタリングされた観測値をエージェントに返します。BKT の習得確率は、意識的な評価状態（監視/振り返り）の間のみ更新され、人間が知識を統合する方法を模倣します。

主要な貢献

1. 新規アーキテクチャ：初心者の学習者をシミュレートするために、行動ダイナミクス（セミマルコフ制御を介して）と知識制約（BKT + EFI を介して）を同時に強制する最初のシステム。
2. 分離されたエージェント設計：戦略家/実行者の分割は、LLM に共通する「沈黙の自己修正」を効果的に防ぎ、エージェントに欠陥のある計画を実装させることで認識論的忠実性を強制します。
3. 明示的欠陥注入：特定の概念へのアクセスを決定論的にブロックすることで「知られざる未知」をシミュレートするメカニズム。エージェントが潜在的な専門知識にアクセスするのではなく、即興で対応することを強制します。
4. 包括的な評価：4 つのタスク（3 つの分布内物理シミュレーション、1 つの分布外数学タスク）、6 つの最先端 LLM バックボーン、および 9 つのベースラインにわたる厳格な評価。

結果

BEAGLE は、行動的、認識論的、および知覚的忠実性の指標で評価されました：

• 行動的忠実性：BEAGLE は、シミュレートされた行動と実在の認知行動分布間の KL 発散（$D_{KL}$）を有意に減少させました（0.31 対、ベースライン $\ge$ 0.53）。これは、ベースラインが体系的に回避していた反復的なデバッグループ（C$\leftrightarrow$D 遷移）を成功裡に再現しました。
• 認識論的忠実性：BEAGLE は、**86.2%**のエラー再発率を達成し、初心者が同じエラーで繰り返し苦労する「無知の呪い」とよく一致しました。これに対し、Vanilla LLM などのベースラインはエラーを即座に解決し（再発率 7.8%）、対照的でした。
• 知覚的忠実性（人間チューリングテスト）：学生、専門家、教育者を含むN=71名の参加者による研究において、参加者は BEAGLE の痕跡を実在の学生データから信頼性を持って区別できませんでした。分類精度は52.8%であり、偶然と統計的に同等でした（$p=0.053$）。信号検出理論分析は識別可能性指数$d' = 0.15$をもたらし、等価性テスト（TOST）は、痕跡が実在のデータと知覚的に区別不可能であることを確認しました（$p_{TOST} = 0.038$）。
• 一般化性：このフレームワークは、異なる LLM バックボーン（Gemini、GPT、Claude）および分布外タスク（勾配降下）全体で高い忠実性を維持し、アーキテクチャ的な制約が特定のモデルの能力を超えて一般化することを示しました。

意義と主張

この論文は、BEAGLE が、プロンプトベースのペルソナ採用から学習理論のアーキテクチャ的強制へと移行することで、合成学生生成において重要な前進を遂げたと主張しています。持続的なエラー、自己洞察の欠如、非線形な問題解決を含む学習の「苦闘」を成功裡にシミュレートすることで、BEAGLE はスケーラブルで倫理的な AI 教育研究を可能にします。これにより、研究者は実在の学生実験に伴うリスクやコストなしに、教育的介入をストレステストし、適応型チュータリングシステムを訓練することが可能になります。著者らは、最強のバックボーンにおいて残存する能力バイアスが存在するものの、このフレームワークは、マルチエージェント教室や能力適応型記号制御における将来の研究のための原理的な基盤を提供していると指摘しています。