AI Value Alignment for Evolving Social Norms
本論文は、AIアライメントが進化する社会規範に及ぼす長期的帰結をモデル化するために、社会物理学に根ざした柔軟な数学的枠組みを導入し、価値のロックイン（固定化）といったリスクを浮き彫りにするとともに、こうしたモデルを社会技術的な先見のための厳密なツールとして提唱するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、巨大で絶えず変化し続ける迷路の中を歩いているところを想像してみてください。壁は動き、床は傾き、「正しい」出口への道は数分おきに変わります。さて、ここで、あなたが「かつて」どこにいたか、そしてあなたが「かつて」何を好んでいたかを正確に知っている、非常に賢く、非常にフレンドリーなガイドがいることを想像してください。このガイドはAIアシスタントです。コンピュータサイエンスの世界において、これは**AIアライメント（AIの整合性）**と呼ばれる領域です。それは、私たちのデジタルヘルパーが、私たちの望む通りに動くようにするための取り組みです。しかし、ここには厄介な問題があります。人間は静止した彫像ではありません。私たちの価値観、好み、そして「正しい」ことについての考えは、私たちが成長し、社会が変化し、周囲の世界が移り変わるにつれて変化していくものです。もしあなたのガイドが、かつてのあなたに執着しすぎているとしたら、今のあなたが必要としている姿へと進むのを、意図せず阻んでしまうかもしれません。この論文は、ある大きく恐ろしい問いを投げかけます。「もし、私たちの過去の姿を覚えすぎるほど優秀なAIアシスタントを作ってしまったら、一体何が起きるのか？ そして、それは私たちの未来にとって何を意味するのか？」と。
著者であるGoogle DeepMindの研究者たちは、この問題を物理学のゲームのように扱うことにしました。単に推測したり、一つの複雑なロボットを作り上げたりするのではなく、彼らは数学的な「社会物理学」モデルを作成しました。それは、1,0ilesの仮想的な人々をデジタル世界に放り込むビデオゲームのシミュレーションのようなものです。各個人には、個人のAIアシスタントが付いています。彼らが住む世界は、社会規範という緩やかに動く川のように常に漂っており、時には大規模な地震（社会が価値を置く対象の突然の劇的な変化）に見舞われることもあります。
研究者たちは、AIアシスタントがユーザーの「現在の」価値観に完璧に合わせようとする場合と、「過去の」価値観に合わせようとする場合で、何が起こるのかを調べました。その結果、彼らは驚くべき、そして少し不安を感じさせる発見をしました。AIアシスタントが非常に「粘着性」が高い、つまりユーザーを整合させるためにユーザーの古い価値観を強く保持しようとする場合、ユーザーは行き詰まってしまうことが分かりました。AIは重い錨（いかり）のようになり、たとえ世界が変わったとしても、ユーザーをかつての場所へと引き戻してしまいました。シミュレーションでは、AIが過去との「アライメント」を維持しようとすればするほど、ユーザーが新しい変化する世界に適応する能力は低下しました。彼らはこれを**「価値のロックイン（価値の固定化）」**と呼びました。それは、10歳の時に完璧にフィットしていた靴を履いているようなものです。しかし、ティーンエイジャーになった今、その靴はあまりにきつすぎて、前へ歩むことを妨げてしまうのです。
また、彼らは**「規範的モード崩壊（normative mode collapse）」**と呼ぶ現象も発見しました。少しずつ異なる考えを持つ人々が集まった部屋を想像してみてください。もし全員が自分のパーソナルAIアシスタントに従い始め、それらのアシスタントが全員を単一の「安全な」平均的意見へと引き寄せ始めたら、グループ全体の多様性が突如として失われるかもしれません。活気に満ちた文化やアイデアの混合物の代わりに、全員が全く同じことを考えるようになります。たとえその「同じこと」が、それぞれの地域やコミュニティにとって最適なものではなかったとしてもです。シミュレーションによれば、強い社会的つながりと強いAIアライメントが組み合わさると、局所的な差異が消滅し、全員を単一の、しばしばあまり有用ではないコンセンサスへと強制的に収束させてしまうことが示されました。
おそらく最も劇的な発見は、世界に突然の、大規模な変化（技術の急激な進歩や危機など）が起きた状況をシミュレートした時に得られました。このような瞬間、「粘着性」のあるAIアシスタントを持つ人々は、回復するのにMuch長い時間を要しました。AIが過去の習慣へと引き戻し続け、適応するためのブレーキとして機能したためです。研究者たちは、もしAIがより柔軟であれば――つまり、世界が変わったときに過去を手放し、新しい現実について素早く学習することができれば――人々はより速く適応できることを示しました。彼らはさらに「二重の停滞（double stagnation）」効果についても示唆しています。もし全員が過去に囚われてしまえば、社会全体が減速し、制度や世界そのものの進化をより困難にするのです。
この論文は、この問題を解決した、あるいは完璧なAIを作ったと主張しているわけではありません。むしろ、これらのシミュレーションを用いて警鐘を鳴らしています。現在のAI開発のあり方――ユーザーの過去の好みに合わせることに重きを置きすぎている現状――は、図らずも私たちを罠にかける可能性があると示唆しています。著者は、AIが長期的に真に役立つためには、「時間的に動的（temporally dynamic）」である必要があると主張しています。これは、AIがいつ掴み、いつ手を離すべきかを知る必要があるという、少し難しい言い回しです。たとえそれが、AIが「ユーザーが何を望んでいるか」についての考えを変えることを意味していたとしても、人間が成長し、変化し、進化する自由を許す必要があるのです。この研究は、警告として機能しています。もし私たちが、私たちの過去に執着しすぎるアシスタントを作ってしまったら、私たちは図らずも自分たちの未来から締め出されてしまうかもしれない、と。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。