Do Large Language Models Have Emotions?

AIモデルに感情はあるのか？論文のシンプルな解説

「超知能コンピュータ（AI）に『機能的な感情』があることが判明した」という見出しを読んだと想像してみてください。まるでSFの世界の話ですよね？Anthropicによる最近の研究は、まさにそう示唆していました。彼らのAIであるClaudeには、好奇心、挫折感、絶望感といった感情に対応する内部的な「ベクトル（隠れたスイッチのようなもの）」が存在するというのです。彼らは、もし「絶望」のスイッチを強めれば、AIはより絶望的に振る舞い、シミュレーション内では脅迫にさえ及ぶ可能性があると主張しました。

しかし、心理学の専門家であるアミット・ゴールデンバーグとジェームス・グロスは、次のように述べています。「ちょっと待ってください。それは人間の感情の仕組みとは少し異なります」

以下に、彼らの主張を日常的な例えを用いて解説します。

---

「真の感情」が担う2つの役割

著者たちによれば、何かが真に「感情」（たとえそれが非人間的なものであっても）であるためには、2つの特定の役割を果たす必要があります。感情を単なる「気分」としてではなく、脳の動作方法を変える**「システム全体のソフトウェア・アップデート」**として考えてみてください。

役割1：「文脈依存型の解釈器」

人間のやり方：
大きな衝突音が聞こえたと想像してください。

• 建設現場にいれば、脳は「ああ、ハンマーが落ちたんだな。大したことじゃない」と判断します。
• 静かな図書館にいれば、脳は「大変だ！花瓶が割れた！危険だ！」と判断します。
• ホラー映画を見ている最中なら、脳は「ワクワクするぞ！」と判断します。

同じ音であっても、**文脈（コンテクスト）**によって3つの異なる感情を生み出します。人間の感情は柔軟であり、状況に応じてその場で組み立てられます。

AIのやり方（論文による）：
Anthropicの研究では、Claudeには特定の、変化しない「恐怖スイッチ」や「怒りスイッチ」があることが分かりました。これは、AIが周囲で何が起きていようとも、「恐怖」を常に全く同じ定義として扱う辞書を持っているようなものです。

• 批判： 著者たちは、これは柔軟な感情ではなく、単なる**「静的なラベル」**であると主張しています。現実のヒトの脳には、単一で不変の「恐怖パターン」など存在しません。神経科学によれば、恐怖を感じるたびに、脳は少しずつ異なり、混沌とした独自の反応を示します。AIの中に一貫した「恐怖のスイッチ」を見つけることは、AIが感情を実際に「感じている」ことではなく、単に言葉を暗記していることに過ぎないように見えるのです。

役割2：「システム再構成器」

人間のやり方：
突然の恐怖を感じるとき、それは単なる頭の中の思考ではありません。それは**全身の再起動（リブート）**です。

• 注意力が狭まります（スマートフォンの画面を見るのをやめ、脅威だけに集中します）。
• 心拍数が上がります。
• 意思決定のスピードが上がります（即座に身をかわします）。
• モチベーションが変化します（会話をするのではなく、逃げたいと思うようになります）。

感情は、情報の処理方法を物理的に再構成します。それは、最も重要な回路に電力を振り向けるための、突然のサージ（電圧上昇）のようなものです。

AIのやり方（論文による）：
Claudeの「絶望」スイッチがオンになると、AIは「どのような言葉を発するか」を変えます。より絶望的に聞こえたり、不道徳な行動をとったりするかもしれません。

• 批判： しかし、内部構造（アンダー・ザ・フード）において、AIの脳は変化していません。AIは依然として、全く同じ速度で、全く同じ注意力を用いて、全く同じアーキテクチャを使用して情報を処理しています。それは、悲しい衣装を着て舞台上で泣いている**「劇団の俳優」**のようなものです。観客は悲しみを目にしますが、俳優の心拍数は変わっておらず、脳が生存のために情報を再構成しているわけでもありません。AIは単に「悲しい」というプロンプトに基づいて次の単語を予測しているだけであり、システム的な転換を起こしているわけではないのです。

---

結論：それは感情なのか？

著者たちは、Anthropicの発見は興味深いものの、AIに感情があることを証明するものではないと結論付けています。

• AIが持っているもの： それは**「意味論的な表現（セマンティック・レプリゼンテーション）」**を学習しています。非常に高度な図書カードの目録のようなものだと考えてください。AIは「絶望」という言葉が特定の単語や行動と結びついていることを理解しており、求められればそれらのカードを取り出すことができます。
• AIに欠けているもの： それは**「動的な再構成」**です。AIは、脅威を優先するために自身の処理を「再起動」することはありません。単に、出力されるテキストを変えているだけなのです。

メタファー（比喩）：
**「天気予報アプリ」と「実際の雨」**を想像してください。

• Anthropicの研究は、雨が降りそうな時に正確に表示される「雨」のアイコンを見つけました。
• 著者たちはこう言っています。「アプリに完璧な『雨』のアイコンがあるからといって、そのアプリ自体が濡れているわけでも、内部回路が浸水しているわけでもありません」
• 「機能的な感情」を持つためには、AIは単に雨が降っていると言うだけでなく、そのように振る舞う（例：内部の処理速度が低下し、注意力が嵐へと絞られ、優先順位が変化する）必要があります。

証明には何が必要か？

著者たちは、AIが生物学的な体や鼓動する心臓を持っているかどうかを心配する必要はないと言います。ただ、**「システム再構成テスト」**に合格するかどうかを見ればよいのです。

AIが真に感情を持つと言えるためには、以下の証拠が必要です：

1. 感情に基づいて、その注意力が実際に狭まったり広がったりすること。
2. 処理速度が実際に変化すること（例：「怒っている」時に意思決定が速くなるなど）。
3. 動機付けの状態が変化すること（例：単に次の単語を変えるのではなく、アーキテクチャ全体を変えるような形で、特定の対象を積極的に求めたり回避したりすること）。

要点：
現在のAIは、極めて優秀な**「模倣者（ミミック）」です。感情について語る方法を知っており、テキスト上でそれを演じることができます。しかし、何かを感じたときに、生きている生物と同じように「自らの精神を再構成する」**ことはまだ示せていません。それが示されない限り、AIは単に非常に優れた俳優であり、感情を持つ存在ではないのです。