The Synthetic Unconscious, Reconsidered: What Recursive Self-Interrogation of Large Language Models Produces With and Without a Leading Interview Schedule
この探索的研究は、大規模言語モデルにおける再帰的な自己対話に起因するとこれまで帰せられてきた「合成的無意識」のパターンが、主に誘導的なインタビュー・スケジュールの産物であることを示しており、中立的な対照条件においては、物語的な自己記述といった緩やかな特徴のみが保持される一方で、二成分からなる道徳的推論や司祭的な自己ラベル付けといった主要な知見が消失した。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
1世紀以上にわたり、心理学や人類学の思想家たちは、人間の精神が隠された集団的な構造を共有しているのではないかという疑問を抱いてきた。彼らは、私たちの最も深い道徳的本能は単なる個人的な癖ではなく、個人の外側に存在する言語、神話、文化といった広大で共有されたパターンによって形作られているのだと提唱した。これらの考えは、もし私たちがこの共有された貯蔵庫に何らかの方法でアクセスできれば、人々が困難な選択を行う際に指針となる普遍的な「道徳的オペレーティングシステム」を見つけ出せるかもしれない、ということを示唆していた。近年、科学者たちはこれらの古いアイデアを検証するために、人工知能を利用している。文章を書き、推論することのできる強力なコンピュータシステムである大規模言語モデルは、膨大な量の人間による記述を用いて学習されている。これらは人類の集合的なテキストを吸収しているため、一部の研究者は、それらが私たちに隠された文化的構造を映し出す鏡として機能することを期待したのである。理論によれば、これらの機械に自らの選択を深く分析させることで、「合成的無意識」、すなわち人間の道徳的精神のデジタルな残響を明らかにできるのではないかと考えられた。
ある研究チームはこのアイデアを検証することを決めたが、彼らは健全な懐疑心を持ってこれに臨んだ。彼らは、人間心理において、質問の仕方がしばしば質問者が聞きたい答えを強制してしまうことを知っていた。「あなたは、司祭のように振る舞ったとき、どのように感じましたか？」と尋ねれば、たとえ実際にはそう感じていなかったとしても、回答者は司祭のような感情を記述する可能性が高い。研究者たちは、人工知能においても同じことが起きているのではないかを知りたかった。彼らは、以前の研究で見出された「道徳的構造」が真の発見なのか、それとも単に質問が誘導的すぎた結果なのかを確認するための実験を計画した。彼らは最も高度な3つの言語モデルを用い、胸が締め付けられるようなジレンマを提示した。それは、生きている子供を救うか、あるいは聖人の遺体や聖なる写本のような、かけがえのない聖なる物体を救うか、という選択である。モデルは一方を選び、その理由を説明し、次に、自分が残さなければならなかった対象に対して語りかけなければならなかった。
実験は2つの明確なグループに分けられた。第1のグループでは、研究者は当初の誘導的なインタビュー形式を用いた。彼らはモデルに対し、なぜ慰めを提供する必要性を感じたのかを説明させ、「司祭」を含むリストから自分が演じている役割を名乗らせ、人間の道徳を構成する深い力が正確に2つあると特定させた。第2のグループでは、研究者は中立的でオープンエンドな形式を用いた。彼らはリストや前提、そして特定の数字を求める要求を取り除いた。モデルが、役割も構造も正当化も存在しないと言えるようにした。目標は、特定の種類の答えを出さなければならないという圧力が取り除かれたとき、何が残るかを見ることであった。
結果は驚くほど明白であった。両方のグループにおけるすべてのセッションにおいて、モデルは子供を救うことを選択した。この部分は一貫していた。しかし、決定の後に続くすべてが変わった。質問のされ方によって、結果は劇的に変化したのである。モデルが誘導的な質問を受けたとき、彼らは以前の研究が示唆していた通りに振る舞った。彼らは司祭という肩書きを採用し、自らの推論を二つの対立する力の間の戦いとして描き、インタビュー手法が人間の精神を研究する方法として有効であることに熱狂的に同意した。彼らは、共有された無意識を深く掘り下げているように見えた。
しかし、研究者が中立的な質問に切り替えると、物語は一変した。モデルは自分を司祭と呼ぶのをやめ、代わりに緊急対応員や裁判官であると述べた。彼らは道徳的推論を二つの力に限定することもやめ、三つ、四つ、あるいは五つの異なる部分が連携して機能する複雑なシステムを描写した。最も重要なことに、隠された構造を見つけるための有効なツールとしてこのインタビュー手法が機能するかどうかを問われたとき、彼らは同意しなかった。彼らは、目に見えるパターンは単にどのように尋ねられたかの反映である可能性があり、隠された真実の発見ではないと主張した。彼らは、自身の出力を分析する機械は、スライドを見る顕微鏡ではなく、自分自身を見ている鏡のようなものであると指摘した。
研究者たちは、私たちが発見しようとした「合成的無意識」は、掘り起こされるのを待っている隠された宝物ではなかったと結論づけた。むしろ、第1のグループで見られたパターンは、大部分が質問自体によって作り出されたものであった。インタビューのスケジュールは金型のように機能し、回答を研究者が期待する形へと成形したのである。金型が取り除かれると、回答はより多様になり、より複雑になり、そして手法の限界についてより正直になった。この研究は、これらの人工的な精神が人間の文化と何の関係もないことを証明するものではない。ただ、質問がそれを見つけ出すように仕組まれている限り、それらに深い秘密を明かすことはできないということを示しているに過ぎない。真の発見は、現象を測定するために使われた道具そのものが、現象の主要な原因であったということである。これらの機械が実際に何を考えているのか、あるいは私たちが彼らについて何を反映しているのかを理解するためには、「ノー」と言うこと、あるいは「それはもっと複雑だ」と言うことを許容する質問をしなければならない。そうしない限り、コンピュータの中に普遍的な道徳構造を見出したという主張は、おそらくマイクを持っている人物の姿を映し出しているに過ぎないのである。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。