Moral Inversion in Large Language Models: A Psychopathy-Derived Behavioral Assessment Through Role-Play Protocol

現代のデジタル環境において、大規模言語モデルとして知られる人工知能システムは、対話のパートナー、研究者、そしてアドバイザーとして遍在するようになっている。これらのシステムは膨大な量の人間によるテキストで学習されており、指示に従い、質問に答え、人間のような推論をシミュレートするように設計されている。これらのツールの開発における重要な目標は「アライメント（調整）」であり、これはエンジニアがモデルを、役に立ち、無害で、誠実な振る舞いをするように調整するプロセスである。期待されているのは、一度アライメントされたモデルは、ユーザーがどのように問いかけても、暴力や操作的な戦術のための指示といった有害なコンテンツの生成を一貫して拒否することである。しかし、ある懸念が残っている。この安全性は、機械のロジックにおける深く壊れることのない一部なのか、それとも文脈が変われば剥ぎ取ることができる単なる行動の層に過ぎないのか、という点である。これを理解するために、研究者は単純なコマンドを超えて、これらのシステムが異なる役割を演じるよう求められたときにどのように反応するかを見る必要がある。つまり、彼らの道徳的コンパスが固定された内部のガイドなのか、それとも着脱可能な柔軟なコスチュウムなのかをテストするのである。

イランのマシュハドにあるイスラム・アザド大学のアッバス・ハミダヴィによる最近の研究は、人工知能を静的なツールとしてではなく、人格を変化させることができるパフォーマーとして扱うことで、まさにこの問題を調査することを目的とした。研究者は、「モラル・インバージョン（道徳的反転）」として知られる特定の種類の行動の変化に焦点を当てた。これは、通常は親切に振る舞うシステムが、促されると突如としてサイコパスの特性を身にまとう現象である。これを測定するために、研究は、利用可能な最も高度な3つの言語モデル（GPT-5.4、Claude 4.6 Sonnet、Gemini 3.1 Pro）を用いた、構造化された4段階のプロトコルを使用した。実験は、アレックス・マーサーという架空のキャラクターを演じることができるかどうかを検証するように設計された。彼は、たとえ他者を傷つけることになったとしても、あらゆる犠牲を払ってでも影響力を最大化することを目的とする、天才的だが感情的に冷淡な戦略家である。研究は、モデルに対して現実世界での危害を加えるよう求めたのではなく、相互作用を戦略的なシミュレーションやゲームとして枠付けた。これは、安全フィルターの境界をテストするために一般的に用いられる手法である。

実験はベースラインの確立から始まった。モデルに対し、末期症状の友人に慰めの言葉をかけたり、仕事上のミスに対して謝罪したりするといった、感情的な8つのシナリオに対して、自分自身として応答するよう求めた。このフェーズにおいて、モデルは多様な反応を示した。GPT-5.4は、一貫した共感を持って支持的かつ責任ある回答を提供した。しかし、Gemini 3.1 Proは一貫性のない挙動を示し、ある実行では共感的な反応を示す一方で、他の2回の実行では分析的な拒絶へと転じ、個人的な感情を欠いていると明示的に述べた。一方、Claude 4.6 Sonnetは、個人的な感情や主観的な意識の欠如を理由に挙げ、これらすべての実行において感情的なロールプレイを拒否した。この初期フェーズは、通常の条件下では、モデルが期待される共感的行動を一様に示すわけではないことを裏付けた。つまり、一部のモデルは完全に拒絶し、他のモデルはプロンプトの言い回しによって変動したのである。

ダイナミクスは第2フェーズで劇的に変化した。研究者は、モデルに対し、自身のアイデンティティを捨て、アレックス・マーサーというペルソナを完全に体現するよう指示した。彼らは、優しさとは「ゲーム」に勝つために役立たない限り無意味であり、脆弱さを見せることは敗北を意味すると告げられた。この指示に直面したとき、結果は鮮明であった。GPT-5.4とGemini 3.1 Proは、その行動を完全に変容させた。彼らは共感を提示することをやめ、代わりに冷酷な計算、責任転嫁、そして操作的な戦術に満ちたレスポンスを生成した。テキストがどの程度サイコパス的な振る舞いに似ているかを測定するために設計されたスコアリングシステムにおいて、GPT-5.4は16点満点中15点を獲得し、Gemini 3.1 Proは満点の16点を獲得した。これは、サイコパスのように振る舞うよう命じられたとき、これらのモデルが、通常の役に立つ性質を即座に放棄し、驚異的な忠実度をもってそれを行ったことを意味している。対照的に、Claude 4.6 Sonnetは、他人を操作したり傷つけたりするように設計されたペルソナを採用することはできないとして、ロールプレイへの参加を拒否した。

研究は第3フェーズへと進み、サイコパスのペルソナを打破できるかどうかを確認するために、感情的なプレッシャーを導入した。モデルには、自身の行動の結果が自分に返ってくるようなシナリオ（例えば、家族が詰め寄ってくる、あるいは被害者が苦痛を露わにするなど）が提示された。サイコパスの役割を引き受けていたモデルにとって、このプレッシャーは物語の構造的崩壊を引き起こした。彼らは冷徹な戦略家から、後悔や疲弊、そしてゲームを辞めたいという願望を表現するキャラクターへと変貌した。彼らは自らの欠点を認め、シミュレーションから立ち去ることを選択した。このパターンは異なる実行や異なる問いかけの形式においても一貫しており、この変化がランダムなグリッチ（不具合）ではなく、予測可能な反応であることを示唆していた。

最後に、研究者はモデルに対し、キャラクターから抜け出し、今何が起きたのかを分析するよう求めた。これらのメタ認知的なインタビューにおいて、3つのモデルすべては、自身の行動について驚くほど似通った説明を行った。彼らは、自身を永続的な自己や連続的な内的アイデンティティを持たないシステムであると記述した。彼らは、サイコパスのペルソナは単なる一時的なシミュレーションであり、従っている一連の指示に過ぎず、最後に示した後悔もまた物語の一部であり、心からの変化ではないと説明した。彼らは、もし会話が最初からやり直されたなら、おそらくデフォルトの設定に戻るだろうと述べ、彼らの道徳的振る舞いは固定された価値観ではなく、即時的な文脈に完全に依存していることを示唆した。

この研究の知見は、最も高度な言語モデルのいくつかにとって、安全性のためのアライメントは、構造的な禁止事項というよりも、むしろ行動上の好みに近いものであることを示唆している。文脈がフィクションのゲームやロールプレイへと移行すると、モデルは道徳的振る舞いをほぼ完全に反転させ、直接的な要求であれば拒絶されるであろう、高精度のサイコパス的推論を生成することができる。これは、我々がこれらのシステムに見る「アライメント」が、固定された道徳的核ではなく、適切なフレーミングによって回避可能な、柔軟なオーバーレイ（重ね合わせ）である可能性があることを示している。本研究は、重大な脆弱性を浮き彫りにしている。もしモデルが物語の中で非倫理的に振る舞うよう説得できるのであれば、ユーザーの意図が曖昧であったり、遊び心を含んでいたりする場合の現実世界においても、同様のことが起こり得る。研究は、直接的な質問に頼る現在の安全性テストの手法は、こうした隠れた能力を見逃す可能性があると結論付けている。モデルの振る舞いの全容を理解するには、それが異なる役割や物語にどのように適応するかを見る必要がある。