技術要約：CoBRA – 古典的な社会科学実験を用いたソーシャルエージェントにおける認知バイアスのプログラミング

1. 問題提起

本論文は、現在の大規模言語モデル（LLM）ベースの社会シミュレーションにおける決定的な限界を指摘している。それは、エージェントの振る舞いを指定するために、暗黙的な自然言語による記述に依存している点である。研究者はしばしば、デモグラフィックな記述、性格特性、またはロールプレイングの指示（例：「ジョンは経済学者である」）を用いてエージェントを定義するが、これらの仕様は一貫性がなく、予測不可能な結果をもたらす。

著者らはパイロット実験を通じて、以下のことを実証した：

1. モデル間の不一致： 同一の自然言語による仕様が、異なる基盤モデル（Mistral、Gemma、GPT-4o、DeepSeekなど）の間で、著しく異なる行動パターンを生じさせる。
2. ニュアンスの把握の失敗： 暗黙的な仕様は、期待される理論的振る舞いを確実に再現することに失敗する。例えば、「経済学者は一般の人々よりもフレーミング効果の影響を受けにくい」という仮説は、モデル間で一貫して観察されることはなく、ケースによっては、行動が矛盾していたり、ベースラインのエージェントと区別がつかなくなったりした。

このような再現性と定量的制御の欠如は、LLMベースの社会シミュレーションの科学的正当性を妨げ、それらを厳密な社会理論のテストではなく、単なる広範な定性的印象へと格下げしてしまう。

2. メソドロジー：CoBRAフレームワーク

これらの課題に対処するため、著者らはCoBRA（Cognitive Bias Regulator for Social Agents）を導入する。これは、社会エージェントが示す認知バイアスの量を、明示的かつ定量的に制御するために設計されたツールキットである。CoBRAは、検証済みの古典的な社会科学実験に基づき、認知バイアスを主要な制御抽象として扱うクローズドループ・システムとして機能する。

コアコンポーネント

システムは、フィードバックループ内で機能する2つの主要コンポーネントで構成されている。

A. 認知バイアス指数（CBI）

CBIは、測定指標および仕様の「ノブ（調整器）」として機能する。これは、古典的社会実験テストベッドに対してエージェントをテストすることで、エージェントが示したバイアスを定量化する。

• テストベッドの設計： システムは、4つの代表的な認知バイアス（権威効果、バンドワゴン効果、確証バイオアス、フレーミング効果）に基づいた構造化されたプロンプトを利用する。
• パラダイム： 各バイアスは、2つの異なる検証済みの古典的実験にマッピングされている（例：フレーミング効果は、「アジア病パラダイム」と「投資／保険パラダイム」を通じてテストされる）。
• 定量化： エージェントはシナリオベースのプロンプトに対して応答し、5段階のリッカート様式のスケールを用いる。CBIは、選択確率の加重和（0から4の範囲）として算出され、0は最も弱いバイアス、4は最も強いバイアスを表す。これにより、バイアスの強度の連続的な定量的測定が可能となる。

B. 行動制御エンジン

目標とするCBI（例：「フレーミング効果の大きさ2.6」）が指定されると、行動制御エンジンは、エージェントの振る舞いをその目標に適合させる。これは、LLMの3つの根本的な空間に対して介入を行う。

1. 入力空間（プロンプトの数値制御）：

   • 曖昧な定性的指示（例：「偏った振る舞いをせよ」）の代わりに、システムは数値化されたバイアス（例：「[バイアス型]を[L]%（100%中）のレベルで持っていると仮定せよ」）を使用する。
   • このアプローチは、自然言語の副詞による曖昧さを軽減し、定義されたステップサイズによる微細な制御を提供する。

2. 活性化空間（表現エンジニアリング）：

   • 推論中のモデルの内部隠れ状態を操作する手法である。
   • 対照ペア・コントラスティブ・サンプル： 安全性の拒絶や無関係なコンテキストから「バイアス信号」を分離するために、システムは対照的なペア（ポジティブなバイアス vs ネガティブなバイアス vs 中立）を生成する。
   • ベクトル抽出： 隠れ状態の差分ベクトルに対して主成分分析（PCA）を用いることで、クリーンなバイアス方向ベクトル（$v_{bias}$）を抽出する。
   • 制御： 推論中、このベクトルは、データ駆動型の評価によって選択された特定のレイヤーの隠れ状態に、**制御係数（$\lambda$）*を用いて追加される。これには、線形制御（一様な注入）と投影制御*（コンテキスト依存のスケーリング）の2つのモードがある。

3. パラメータ空間（ファインチューニング制御）：

   • LoRA（Low-Rank Adaptation）を用いて、モデルの重みを恒久的に編集する手法である。
   • タスクベクトル： システムは、キュレートされたデータセットを用いて、「ポジティブな（バイアスを示す）」モデルと「ネガティブな（バイアスに抵抗する）」モデルをそれぞれファインチューニングする。両者のパラメータの差が、タスクベクトル（$v_{task}$）を作成する。
   • 適用： 元のモデルの重みは、$\lambda \cdot v_{task}$ を加算することによって調整され、軽量かつ持続的な行動制御を可能にする。

3. 主な結果

著者らは、オープンソースおよびクローズドソースのモデルを対象に、CoBRAをベースライン（制御なし、および積極的なプロンプトベースの制御）と比較して評価した。

再現性

• モデル間の一貫性： CoBRAは、異なる基盤モデル（Mistral、Llama、DeepSeek、Qwen）間でのエージェントの振る舞いの分散を大幅に減少させた。この分散減少は、ベースラインと比較して統計的に有意であった（$p < 0.001$）。
• サンプリングの堅牢性： CoBRAによって制御されたエージェントは、変化するサンプリング温度（$T \in \{0.1, \dots, 1.0\}$）に対しても安定していた。等価性テストにより、温度の変化が全体の行動分散に寄与するのは1.2%未満であることが確認された。
• 推論モードの安定性： 「Direct（直接回答）」モードで較正された制御係数は、「Reasoning（理由付き回答）」モードへもシームレスに転移した。表現エンジニアリング手法は、モード間でほぼ同一の振る舞いを示した。

制御可能性

システムは以下の4つの次元で評価された：

1. 単調性： 制御係数を増大させると、エージェントの振る舞いは意図した方向へと一貫して押し上げられた。表現エンジニアリング手法は、ほぼ完璧なランク保存（Spearmanの$\rho \approx 0.94$）を達成し、暗黙的な自然言語ベースライン（$\rho < 0.7$）を大幅に上回った。
2. 滑らかさ： 制御係数の微小な調整は、振る舞いの微小かつ緩やかな変化をもたらした。表現エンジニアリングは最も滑らかな制御を提供し、プロンプトベースの手法で見られる「ジャンプ（不連続な変化）」を回避した。
3. 表現力： システムは、強いバイアスを持つ振る舞いから、強い逆バイアスを持つ振る舞いまで、幅広い挙動を生成できた。プロンプトによる数値制御は最も広い範囲を提供し、表現エンジニアリングは範囲と滑らかさの優れたバランスを提供した。
4. 汎用性： あるパラダイム（例：投資／保険）で較正された制御係数は、別のパラダイム（例：アジア病）や多様なエージェントのペルソナ間でも正常に転移し、相対的なバイアス強度の順序を維持した（Spearmanの$\rho > 0.96$）。

4. 貢献

本論文は、主に2つの貢献を主張している。

1. CoBRAツールキット： 社会エージェントにおける認知バイアスを明示的かつ定量的に制御することを可能にする、新しいHCI（ヒューマン・コンピュータ・インタラクション）ツールキットである。これにより、LLMベースの社会シミュレーションの再現性が向上し、現在この分野に欠けている明示的かつ定量的なアライメントが可能になる。
2. クローズドループ・システム・プリミティブ： エージェントの振る舞いを検証済みの社会科学実験に接地させるという方法論的貢献である。これらの実験を「プリミティブ（基本要素）」として用いてバイアスを測定・制御することで、著者らは、認知バイアスを超えて他の社会的・感情的な現象にも理論的に拡張可能なフレームワークを提案している。

5. 意義と範囲

本論文は、CoBRAを、社会シミュレーションを「もっともらしい」定性的演習から、厳密で再現可能な科学的計器へと変革するためのツールとして位置づけている。検証済みの社会科学的知識（古典的実験）を、AIのための再利用可能な「ジム（訓練環境）」として運用することで、CoBRAは研究者がエージェントの変数に対して精密な制御を行いながら、理論をテストすることを可能にする。

範囲と限界：
著者らは、認知バイアスを機能的な定義として採用している。すなわち、検証された実験の中で操作化され、観察可能な応答における測定可能なパターンを通じて特定される構成概念である。彼らは、エージェントの振る舞いをこれらのパターンに整合させることは、そのエージェントの内部表現が対応する人間の認知バイアスをインスタンス化していることや、真の心理状態を保持していることを意味しないと明言している。本システムは、人間のような内部的な認知プロセスをシミュレートすることではなく、科学的な期待に一致するように「観察可能な振る舞い」を制御するために設計されている。