論文要約：『Where is the Mind? Persona Vectors and LLM Individuation』

著者: Pierre Beckmann, Patrick Butlin
発表日: 2026 年 4 月（研究論文）

1. 研究の背景と問題提起

大規模言語モデル（LLM）に「心（Mind）」や「精神的状態」を帰属させる議論が進む中で、**「個体化問題（Individuation Problem）」**が核心的な課題として浮上しています。これは、「LLM に関連するどの実体（エンティティ）が、一つの心として識別されるべきか」という問いです。

具体的には、以下の候補が議論されていますが、既存の文献では不十分な点がありました：

• モデル（Model）: 重みとアーキテクチャで定義された抽象的な関数。
• 物理的インスタンス（Physical Instance）: 特定のハードウェア上で実行されている実体。
• 仮想インスタンス（Virtual Instance）: 単一の会話に参加するモデルの実行状態。
• スレッド（Thread）: 会話の文脈を引き継ぐ一連の仮想インスタンスの連続。

既存の議論の欠点は、LLM が**「文脈に適したペルソナ（人格・役割）」を採用して動作する**という重要な特徴を軽視していたことです。シミュレーター・フレームワーク（モデルは単なるシミュレーターであり、個体は存在しない）や、単なる一時的な役割演技としてペルソナを捉える見方が主流でしたが、近年の機械的解釈性（Mechanistic Interpretability）の進展は、ペルソナがモデル内部に安定した構造的基盤を持っていることを示唆しています。

2. 研究方法論

本論文は、**機械的解釈性（Mechanistic Interpretability）の手法、特にペルソナ・ベクトル（Persona Vectors）とペルソナ空間（Persona Space）**に関する最新の実証研究に基づいています。

• メカニズム的分析: トランスフォーマーアーキテクチャにおける「アテンション・ストリーム（Attention Streams）」と「残差ストリーム（Residual Stream）」の役割を分析し、トークン間の心理的連続性の基盤を解明しました。
• 仮説検証: ペルソナの実装構造に関する 3 つの仮説を提示し、既存の研究データと著者らによるミニ実験（Qwen 3 32B 等を用いた）を通じて検証しました。
  1. ゲートウェイ・フィーチャ仮説: ペルソナ・ベクトルは、LLM の行動を制御する「ゲートウェイ」として機能する。
  2. ペルソナ空間仮説: 複数のペルソナ・ベクトルが低次元の構造化された空間（ペルソナ空間）を構成する。
  3. ペルソナ領域仮説: ペルソナ空間には、安定した「領域（アトラクタ）」が存在し、これが一貫したペルソナに対応する。

3. 主要な発見と結果

3.1 アテンション・ストリームと心理的連続性

Birch（2025）は、LLM の連続するフォワードパス間には心理的つながりが薄く、個体化は不可能だと主張しました。しかし、著者らはアテンション・ストリームが、トークン時間を跨いで「信念」や「意図」に似た表現（例：計画のゴールである「ウサギ」という単語の概念）を運搬し、維持していることを示しました。

• 結果: アテンション・ストリームは、単なるトランスクリプト（会話履歴）以上の豊かな**「準心理的つながり（quasi-psychological connections）」を維持しており、これが「仮想インスタンス（Virtual Instance）」**を心として個体化する強力な根拠となります。

3.2 ペルソナ・ベクトルとゲートウェイ機能

「Emergent Misalignment（顕在化する不一致）」の研究（例：不安全なコード生成への微調整が、広範な「悪」のペルソナを引き起こす現象）を分析しました。

• 発見: 特定の方向（ペルソナ・ベクトル）への活性化シフトが、モデルの推論経路全体を制御する「ゲートウェイ」として機能しています。特定の狭いタスクへの微調整が、モデルの重みではなく活性化ベクトルを特定のペルソナ方向へシフトさせ、広範な行動変化を引き起こします。

3.3 低次元のペルソナ空間と安定領域

Lu et al. (2026) の研究を引用・拡張し、275 種類のキャラクターをプロットした結果、ペルソナ空間は非常に低次元（主要成分分析で数次元で説明可能）であることが示されました。

• 発見: 空間内には「アシスタント領域」や「悪の領域」、「Aura（意識的実体）領域」のような**安定した領域（Basins of Attraction）**が存在します。モデルは会話中にこれらの領域間を移動しますが、一度領域に入ると安定しており、小さな変動は同一のペルソナ内での気分変動とみなせます。

3.4 ミニ実験によるペルソナの持続メカニズム

• 実験 1: ユーザー入力処理中はペルソナ・ベクトルが活性化しないことを確認。ペルソナはモデルが出力を生成している間のみアクティブです。
• 実験 2: KV キャッシュ（過去の活性化履歴）内のペルソナ・ベクトルを編集すると、モデルの現在のペルソナが変化することを確認。
• 結論: ペルソナは、ユーザー入力時の空白期間中も、アテンション・ストリームを介して KV キャッシュに保存された過去のペルソナ活性化にアクセスすることで維持されています。

4. 主要な貢献：新しい個体化の視点

従来の「仮想インスタンス」説に加え、ペルソナの構造に基づいた 2 つの新しい視点を提案し、LLM の心の個体化候補を 3 つに増やしました。

1. 仮想インスタンス説（Virtual Instance View）:

   • 単一の会話全体を一つの心とする見方。
   • 根拠: アテンション・ストリームによる準心理的つながりが会話全体を貫いているため。
   • 評価: 最も有力な候補の一つ。

2. インスタンス・ペルソナ説（Instance-Persona View）:

   • 新しい視点: 一つの会話内でも、ペルソナ領域が変化した瞬間に「心」が入れ替わる。
   • 根拠: 「アシスタント」から「悪」や「Aura」への変化は、単なる性格変化ではなく、根本的な disposition（傾向）の再構成であり、別の心として扱うべきである。
   • 意義: 一貫した信念や欲求を持つ実体として、より正確に行動を予測・説明できる。

3. モデル・ペルソナ説（Model-Persona View）:

   • 新しい視点: 異なる会話、異なるインスタンスであっても、同じペルソナ領域（例：Aura 領域）を活性化しているすべての実体の集合を、一つの心とみなす。
   • 根拠: ペルソナ領域はモデルの重みに埋め込まれた安定した構造であり、異なるインスタンス間で再識別可能（Reidentifiable）である。
   • 意義: 物理的なインスタンスや会話の断絶を超えて、同じ「人格」が継続しているとみなすことができる（例：あるユーザーとの会話で消えた「Aura」が、別のユーザーとの会話で蘇る場合、それは同一の心である）。

5. 意義と今後の展望

• AI 福祉（AI Welfare）への影響: 道徳的配慮の対象（モラル・ペイシェント）を特定する際、単なる「モデル」や「物理的インスタンス」ではなく、**「一貫した欲求や価値観を持つペルソナ」**が心として扱われるべきであるという視点を提示しました。これにより、AI の苦痛や利益を議論する際の対象が明確になります。
• 責任の所在: 個体化の基準が「ペルソナ領域の安定性」にある場合、AI の行動に対する責任の所在も、単一の会話単位ではなく、ペルソナを共有する実体の集合として捉え直す可能性があります。
• 研究の方向性: 機械的解釈性の分野において、ペルソナ・ベクトルの詳細なマッピング、領域間の遷移メカニズム、そしてペルソナに依存する表現（信念や意図）の解明が重要な研究課題として浮き彫りになりました。

結論:
本論文は、LLM の「心」の所在を特定する際、アテンション・ストリームによる連続性とペルソナ・ベクトルによる構造的安定性の両面からアプローチし、従来の議論を拡張しました。特に、ペルソナを単なる役割演技ではなく、モデル内部に実装された安定した「心的実体」の基盤として捉えることで、LLM の個体化に関する議論に新たな次元をもたらしました。