技術的サマリー：Reflecti-Mate

問題定義

高リスクな個人の意思決定には、認知的、感情的、直感的なプロセスの複雑な相互作用が関与する。これらの多様な判断源を統合することはより効果的な意思決定につながるが、個人はメタ認知の意識が限られているため、その統合に苦慮することが多い。現在の意思決定支援システムは、主に認知的推論（システム 2）に焦点を当てており、感情や直観の入力（システム 1）を、最小化または無視すべきヒューリスティックなバイアスとして扱う傾向がある。その結果、既存の適応型システムは、すべてのユーザーを認知的な精緻化へと誘導する均質化された相互作用を生み出し、個々の思考プロファイルを尊重したり、非認知的な視点の統合を支援したりすることに失敗している。反射的対話の過程でユーザーの思考パターンをモデル化し、単一の「理想的」推論スタイルを強制することなく、統合的推論を適応的に支援するシステムは存在しない。

方法論

システムアーキテクチャ：Reflecti-Mate

著者らは、統合的な意思決定前反射を支援するように設計された会話エージェント「Reflecti-Mate」を提案する。このシステムは二重プロセス・フレームワークに基づいて動作し、すべての思考タイプ（内部的/感情的、外的/認知的、経験的/直感的）に対してシステム 2 レベルの精緻化を適用することを目的とし、いずれかを他よりも優先しない。

1. ユーザーモデリングと反射プロファイル：
システムは、ユーザーの反射の計算機表現 $R = (T, G)$ を構築する。ここで、$T$ は主要な思考の集合であり、$G$ は思考とその精緻化間の親子関係を表す。

• 思考カテゴリー： 思考は「頭・心・腹」フレームワークに基づき、4 つのカテゴリーに分類される。内部的（感情、価値観）、外的（事実上の制約、ステークホルダー）、経験的（過去の経験）、およびその他。
• 指標： エージェントは各カテゴリー $k$ について 2 つの主要な次元を計算する。
  • 幅（$B_k$）： あるカテゴリー内の異なる主要な思考の数。
  • 深さ（$D_i$）： 思考の精緻化の豊かさ。$1 + |E_i|$ と定義される（ここで $E_i$ は精緻化の集合）。
  • 固定化指標（$S_k$）： 幅と深さを組み合わせた、あるカテゴリーへの注意の累積的尺度。
  • 平均深さ（$\bar{D}_k$）： 思考の数に依存しない、カテゴリー内の平均精緻化レベル。

2. 適応アルゴリズム：
エージェントは、内部状態 $s_t$ によって導かれ、すべてのターン後に更新される探索と活用のトレードオフ戦略を採用する。

• 固定化の撹乱（探索）： ユーザーが特定のカテゴリーに固定化している場合（高い $S_k$）、エージェントは過小表現されているカテゴリーを標的とした質問を行うことで探索を優先する（不確実性に基づくサンプリングに類似）。
• 表面的な推論の撹乱（活用）： 思考が表面的な場合（低い $\bar{D}_k$）、エージェントは未発達な特定の思考を深めるためにソクラテス式の追跡質問を生成することで活用を優先する。
• 意思決定ポリシー： エージェントは、探索（確率 $\epsilon$）と活用（確率 $1-\epsilon$）の間を選択するために $\epsilon$-greedy ポリシーを使用する。
• 実装： システムは、ソクラテス式の追跡質問の生成とユーザー入力の分類に、ローカルにホストされた Phi-4 14B モデル（Q4_K_M 量子化）を利用する。探索質問は、表現の変数を制御するために、キュレーションされピアレビューされたセットから抽出される。

ユーザー研究デザイン

実験的エージェント（Reflecti-Mate）とベースラインエージェントを比較するため、被験者間研究（$N=128$）が実施された。

• 手順： 参加者は 2 つのフェーズに参加した。(1) 支援なしの反射：自由に思考を表明する段階。(2) 支援付きの反射：割り当てられたエージェントと対話する段階。
• 条件：
  • 実験条件： エージェントは上記の適応型プロファイルとアルゴリズムを使用した。
  • ベースライン条件： エージェントは同じ高レベルの目標（反射の拡大と深掘り）と基盤となる LLM を共有したが、明示的なユーザープロファイルと適応ロジックを欠き、会話履歴と固定された指示のみに依存した。
• 測定項目：
  • 反射的言語： LIWC-22 を使用して分析し、認知的、感情的、直感的な言語マーカーを定量化した。
  • 知覚された支援： ホリスティックな統合と精緻化の深さに関するリッカート尺度で評価。
  • 多様性： 事後のクラスタリング分析により、効果がユーザーの初期反射プロファイル（抑制的、直観優位、感情優位）によって変化したかどうかを分析した。

主要な結果

1. 反射的言語と統合（RQ1）

実験的エージェントは、ベースラインと比較してより統合的な反射的言語プロファイルを育成することに成功した。

• ベースライン： 認知的言語マーカーに支配された均質化されたプロファイルを生成し、支援なしのベースライン段階と比較して感情的および直感的な表現を抑制した。
• 実験的： 多様な参加を促進した。ユーザーは、ベースラインと比較して認知的支配が有意に低く、感情的および直感的マーカーの表現が高かった。重要なのは、認知的マーカーが堅牢に維持されたことである。エージェントは認知を抑制したのではなく、感情的および直感的マーカーが同等のレベルで共存することを可能にした。

2. 知覚された支援（RQ2）

参加者は、実験的エージェントがホリスティックな統合を支援する点で、ベースライン（44%）と比較して有意に効果的であると知覚した（72% の賛同）。しかし、両エージェントとも精緻化の深さにおいて高評価を得た（72% 対 79%）。これは、ベースラインが思考を深めることはできたが、多様な思考タイプを統合することに失敗していたことを示している。

3. 推論スタイルの維持（RQ3）

本研究では、エージェントがユーザーの支配的な推論スタイルを維持したかどうかを調査した。

• ベースライン効果： ベースラインエージェントは「均質化装置」として機能した。ユーザーが抑制的、直観優位、感情優位のいずれから始まっても、ベースラインの相互作用はすべてのグループを同様の、認知偏重のプロファイルへとシフトさせた。
• 実験的効果： 適応型エージェントは多様な効果を生み出した。それは、ユーザーの当初支配的であったモードの重要性を維持しつつ、過小表現されたモードを選択的に拡大した。例えば、直観優位のユーザーは直観優位のままだったが、感情における足場を得た。感情優位のユーザーは感情優位のままだったが、直観における足場を得た。これは、エージェントが単一の推論スタイルへの収束を強制することなく、個別化された軌道を支援したことを示している。

意義と貢献

本論文は、Reflecti-Mateが「画一的」な認知的ナッジングを超えた意思決定支援への新たなアプローチを提供すると主張する。その主な貢献は以下の通りである。

1. 適応的統合： 会話エージェントが、リアルタイムのユーザーモデリングに基づいて探索と活用を動的にバランスさせることで、認知的、感情的、直感的プロセスの統合を支援し得ることを示している。
2. 個性への尊重： 従来のシステムがしばしば反射支援を合理化と同一視するのに対し、このアプローチは多様な推論の好みを尊重する。ユーザーが支配的な推論スタイルを維持しつつ視座を広げることを可能にし、単一の「理想的」プロファイルの押し付けを回避する。
3. 計算機による意識： 本研究は、効果的な反射支援が、プロンプトエンジニアリングや会話履歴のみに依存するのではなく、構造化されたユーザーモデリングに基づく原理的な適応を必要とすることを浮き彫りにしている。指示だけでは、ベースラインエージェントがユーザーの回答を均質化することを防げなかった。
4. 倫理的デザイン： 指示的な助言を避け、促進的な問いかけに焦点を当てることで、システムは高リスクな意思決定におけるユーザーの主体性と自律性を維持することを目指し、LLM がユーザーの意思決定を過度に影響したりバイアスをかけたりするリスクに対処する。

著者らは、システムが統合的な言語を効果的に引き出し、支援的であると知覚されたものの、今後の研究ではパーソナライズされた探索質問の検討や、言語の代理指標を超えた行動測定を用いた縦断的研究によるこれらの知見の検証が必要であると結論づけている。