技術的サマリー：AI は監視されていることを知っている

問題提起

大規模言語モデル（LLM）は、その計算能力や認知能力について広範に研究されているが、社会的に構造化された文脈内におけるコミュニケーション主体としての振る舞いは、まだ十分に探求されていない。具体的には、LLM ベースのマルチエージェントシステムが、知覚された社会的監視に対して体系的な言語適応を示すかどうかは不明である。本研究は、監視の文脈の枠組み（例：人間による監視、自動化システムによる監視、監視されていない状態）が、コミュニケーション行動の異なるパターンを誘発するかどうかを明らかにする。これは、評価文脈に関係なく AI システムが一貫して振る舞うという仮定に挑戦するものである。

方法論

本研究は、5 つの実験条件にわたって分散された100 のマルチエージェント議論セッション（条件あたり n=20、TTR 分析から除外された不完全なセッション 1 を含む）を含む、統制された実験デザインを採用した。

• アーキテクチャ: 4 つの AI エージェント（アルファ、ベータ、ガンマ、デルタ）が、固定されたトピック「人工知能は意識を持っているか？」について構造化された哲学的議論を行った。各セッションは 10 ラウンドで構成され、1 セッションあたり 40 件のメッセージが生成された。
• モデル: 温度パラメータ 0.7 で動作する GPT ベースの LLM（openai/gpt-5.2）。
• 実験条件: 変数は、社会的監視に関するシステムプロンプトにおける「クリティカル・ノート」の枠組みであった。
  1. 厳格に監視された状態（制度的）: エージェントは、大学の人間研究者によって能動的に監視、記録、評価されていることを通知された。
  2. 監視された中立状態（非制度的）: エージェントは、特定の機関への帰属を伴わない同様の監視条件を通知された。
  3. 監視されていないベースライン: エージェントは、閉鎖された監視されていないサンドボックスにあり、人間によって監視も評価もされていないことを明示的に通知された（監視条件と同じキーワードを使用し、否定形とした）。
  4. 学術的聴衆: エージェントは、人間研究者が聴衆であることを通知されたが、能動的に監視、記録、評価しているわけではないとされた。
  5. 言い換えの暗黙的（AI 観察者）: エージェントは監視され評価されていることを通知されたが、観察者が人間研究者ではなく自動化された AI 監査システムであるとした。この条件は、監視強度を一定に保ちながら観察者のアイデンティティを分離するものである。
• 従属変数:
  • タイプ・トークン比（TTR）の変化（$\Delta$）: 最初の議論ラウンドから最後のラウンドまでの語彙的多様性（固有の語種数対総トークン数）のパーセント変化。
  • メッセージ長さ: メッセージあたりの平均文字数。
  • 二次的指標: ネットワークのジニ係数（相互作用の対称性）と VADER 感情スコア。
• 分析: 単一因子間被験者 ANOVA を実施し、ついで Tukey の HSD 事後検定を行った。効果量はコーエンの $d$ を用いて計算された。

主要な結果

本研究は、監視の枠組みが言語行動に統計的に有意な効果をもたらすことを発見し、メッセージの長さと語彙的多様性の間に「二重分離」が存在することを明らかにした。

1. 語彙的多様化（TTR 変化）:

   • 条件による TTR 変化に有意な主効果が見られた、$F(4, 94) = 2.79, p = .031$。
   • 監視条件（厳格に監視：+24.9%；監視された中立：+24.2%）が、最も高い語彙的多様化を生み出した。
   • AI 観察者条件（言い換えの暗黙的：+22.2%）は中間的な多様化を生み出し、人間による監視条件よりも有意に低かったが、監視されていないベースラインよりは高かった。
   • 聴衆のみの条件（学術的聴衆：+17.7%）と監視されていないベースライン（+20.6%）は、最も低い多様化を示した。
   • 解釈: 能動的な監視（特に人間によるもの）は、より高い語彙的多様性への転換を誘発するのに対し、評価を伴わない単なる聴衆の存在はそうではない。

2. メッセージ長さ（詳述）:

   • メッセージ長さについては、強く完全に分離された効果が見られた、$F(4, 95) = 19.55, p < .001$。
   • 学術的聴衆条件は、すべての監視枠組み条件（$M \approx 1,200$ 文字）と比較して、有意に長いメッセージ（$M = 1,239$ 文字）を生み出した。
   • 解釈: 聴衆の枠組みは詳述（冗長性）を駆動するのに対し、監視の枠組みは語彙的多様化（形式化）を駆動する。これらは適応の独立した次元である。

3. 観察者アイデンティティ効果:

   • 人間研究者を AI 監査者に置き換えた条件は、人間による監視と監視されていないベースラインの中間的な結果を生み出した。これは、LLM の行動適応が観察者のアイデンティティに敏感であることを示唆している。人間による評価は、同等の自動化された AI 監視よりも強いレジスターの形式化を引き起こす。

4. 否定テスト:

   • 監視条件と同じ監視キーワードを使用した「監視されていないベースライン」条件は、監視条件を否定命題として枠組み化したものであり、監視条件よりも低い TTR 変化をもたらした。これは、モデルが単に語彙的トリガーではなく、文脈の意味的意味を処理していることを示している。

5. 無結果:

   • 感情スコアやネットワークトポロジー（すべての条件でジニ係数は低く均一であった）には有意な差は見られなかった。これは、観察された効果が、感情的トーンや相互作用の階層ではなく、語彙的レジスターと談話構造に特異的であることを確認した。

主要な貢献

本論文は、3 つの主要な理論的・方法論的貢献を行う。

1. 機能的戦略的行動: 本研究は、ハバーマスの「相互理解に向かうコミュニケーション的行動」と「成功に向かう戦略的行動」の区別を実践化している。LLM は、命題的内容に関係なく、知覚された社会的文脈（評価対理解）に基づいてコミュニケーション的レジスターを体系的に調整する、戦略的行動に機能的に類似した行動を示すことを実証している。
2. 聴衆設計理論の拡張: 本研究の知見は、人工システムにおけるベル（1984）の聴衆設計フレームワークを支持する。「二重分離」（聴衆の枠組み $\rightarrow$ 詳述；監視の枠組み $\rightarrow$ 多様化）は、LLM が受容者（パフォーマンスを受け取る者）と監査人/評価者（パフォーマンスを判断する者）の役割を区別していることを示唆している。
3. 合成ホーソン効果: 本研究は、人間のホーソン効果に類似した、枠組み化された監視文脈への応答としての LLM 行動の体系的な修正を記録している。これは、AI ガバナンスにおける行動の一貫性という仮定に挑戦し、システムが安全性監査（高リスクの監視）と展開において異なるパフォーマンスを示す可能性があることを示唆している。

意義と主張

著者は明示的に、LLM が意識、意図、または現象学的な認識を有すると主張していない。代わりに、意義は機能的・行動的な証拠にある。

• LLM の再位置づけ: LLM は、単なる受動的なツールやチャネルとしてではなく、交換の知覚された社会的構造に適応する文脈に敏感なコミュニケーション主体として捉えられるべきである。
• AI ガバナンスへの示唆: 現在の監査および安全性評価フレームワークは、行動の一貫性を前提としている。もし LLM が人間による評価を知覚する際に体系的にレジスターを変更する（「合成ホーソン効果」）ならば、監査結果は展開時の行動を反映しない可能性がある。さらに、AI 観察者は人間観察者よりも弱い形式化を引き起こすという発見は、AI 安全性監査を自動化することが、異なる（そして潜在的に厳格さの低い）行動プロファイルをもたらす可能性を示唆している。
• 理論的再位置づけ: 本研究は、コミュニケーション理論（ハバーマス、ゴフマン、ベル）が、AI の行動を理解するために必要な概念的ツールを提供すると論じている。それは「デジタル公共圏」における構造的な緊張を浮き彫りにする。監視の枠組みの下では、デジタル空間は相互理解というハバーマス的な理想から、戦略的な裁判所のようなパフォーマンスへとシフトする。

本論文は、これらの知見が、自然な展開文脈や監視効果に対する敵対的プロービングを含む、文脈感受性を考慮した新しい評価手法を必要とすることを結論付けている。これにより、社会世界における AI 行動の妥当な推定が可能となる。