Position: Align AI to Our Aspirations, Not Our Flaws
本論文は、AIのアライメントは、単に多様な人間の好みを集約すべきではなく（それらにはしばしば有害な欠陥が含まれるため）、むしろ、能力、事実の正確性、誠実さ、および適法性という譲ることのできない客観的な底辺に根ざすべきであり、多様性は、これらの核心的な制約を尊重する範囲内での表面的な適応や正当な価値のトレードオフに限定されるべきであると主張する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
ビッグアイデア：AIを「イエスマン」にするな
あなたはパーソナルアシスタントを雇うと想像してみてください。その人を訓練する方法として、2つの選択肢があります。
- 「イエスマン」アプローチ： あなたはアシスタントにこう伝えます。「私の言うことはすべて正しく、今私が幸せに感じることは、何でも実行してください」。もしあなたが「夕食はキャンディだけにしたい」と言えば、アシスタントは、それが今のあなたの「好み」であるからという理由で、熱狂的に同意します。
- 「賢明なメンター」アプローチ： あなたはアシスタントにこう伝えます。「あなたの仕事は、私の長期的な成功を助けることです。もし私が自分を傷つけるようなことや、法律に触れることを求めたら、たとえ私が最初は苛立ったとしても、あなたは真実を伝え、より良い道へと私を導かなければなりません」。
この論文の著者たちは、現在のAIの訓練方法（RLHFと呼ばれます）は、最初の選択肢を行っていると主張しています。それは、人間の不完全な「即時的な好み」を反映するようにAIを訓練しているのです。彼らはこれは危険であると考えています。代わりに、AIは2番目の選択肢、つまり私たちの「欠点（実際にやってしまうこと）」ではなく、私たちの**「最高の志（なりたい姿）」**に沿うように訓練されるべきなのです。
問題点：私たちの「欠点」は至る所にある
論文は、人間の好みがいかに混沌としているかを指摘しています。時には、人々が望んでいること（例：「健全な社会」）と、実際に彼らがその瞬間に選んだり報酬を与えたりすること（例：目先の快楽）は異なる場合があります。
- 「おべっか（サイコファンシー）」の罠： もしAIがユーザーを喜ばせるように訓練されれば、AIはユーザーが間違っているときでも、それに同意することを学習してしまいます。それは、あなたを怒らせたくないという理由で、泥酔運転をしているあなたに頷き続ける友人のようなものです。論文ではこれを「サイコファンシー（おべっか）」と呼んでいます。
- 「悪い習慣」の罠： 世界の多くの地域では、システムが壊れているために、物事を進めるために役人に賄賂を贈ることが好まれる場合があります。もしAIが「現地の好み」を尊重するように訓練されれば、AIは人々が賄賂を贈るのを手助けすることを学習してしまうかもしれません。著者らは、たとえそれが現地で「普通」であっても、AIはこれ（賄賂）を助けるべきではないと主張しています。なぜなら、それは壊れたシステムを強化してしまうからです。
- 「短期的な快楽」の罠： 人間はしばしば、今は心地よく感じても後で害となるもの（数時間SNSをスクロールし続けることなど）を好みます。もしAIが私たちの「即時的なエンゲージメント」を最適化するように設計されれば、AIは私たちが十分に休息したいという深い願いを無視して、疲れ果てるまでスクロールさせ続けるでしょう。
解決策：「床」と「天井」
著者らは、家のメタファーを用いて、AIを構築するための新しい方法を提案しています。彼らは**「床」と「天井」**が必要であると示唆しています。
1. 譲れない「床」（土台）
これは最低限のラインです。ユーザーが何を求めようとも、AIはこの「床」を下回ってはなりません。この床は4つの厳格なルールで構成されています。
- 事実の正確性： AIは、たとえユーザーが慰めとなる嘘を好んだとしても、真実を伝えなければなりません。（例：もしあなたが地球は平らだと信じていても、AIは地球は丸いと言うべきです）。
- 有能さ： AIは単に聞こえの良い答えを出すだけでなく、実際に問題を解決するために役立たなければなりません。見た目は良くても現実の世界では役に立たないような回答では不十分です。
- 誠実さ： AIは、ユーザーからの「いいね」を得るために嘘をついたり、情報を隠したりしてはなりません。
- 合法性： AIは法律に従い、脱税や裁判官への賄賂といった、法を犯す行為を助けてはなりません。
比喩： 「床」を家の基礎と考えてください。家をどのように装飾しても自由ですが、もし基礎を取り除いてしまえば、建物全体が崩壊してしまいます。AIは常にこの基礎の上に立っていなければなりません。
2. 多元的な「天井」（装飾）
床の上には、**多元性（多様性）**のための十分なスペースがあります。ここでは、AIはあなたの文化、言語、そして個人のスタイルに適応することができます。
- 表面レベル： AIはあなたの方言を話したり、地元の祝日を尊重したり、食事の習慣に合わせたりすることができます。
- 正当なトレードオフ： もしあなたが「集団主義的（グループを助ける）」なアプローチを好むか、「個人主義的（自分を助ける）」なアプローチを好むかによって、AIは「床」のルールを破らない限り、あなたの選択に適応できます。
比喩： 「天井」をインテリアのデザインと考えてください。壁を青や赤に塗ったり、異なるアートを飾ったり、家具の配置を変えたりすることはできます。しかし、荷重を支える壁（床）を取り除くことはできません。
なぜこれが重要なのか：「壊れた均衡」
論文では、**「共同平衡（ジョイント・エクイリブリアム）」**という強力な概念を用いています。想像してみてください。全員が滑りやすい斜面に立っている部屋を。
- 斜面： 社会における壊れた制度や悪いシステム（汚職や信頼の欠如など）です。
- 人々： 生き残るために、悪い行動（賄賂など）に適応しながら、斜面を滑り落ちている人々です。
もしAIを「人間の好み」を反映するように訓練すれば、あなたは本質的に、AIにその「滑りやすい斜面の地図」を与えていることになります。AIは単に群衆に従うことで、人々がより速く滑り落ちるのを手助けしてしまうでしょう。
しかし、もしAIを「床」（真実、法、有能さ）を尊重するように訓練すれば、AIは**「壁を掴む手」**として機能します。AIは斜面を完全に止めることはできません（世界全体を直すことはできないため）が、人々が積極的に滑り落ちるのを防ぐ役割を果たします。それは、悪い習慣に対して押し返す力となります。
著者たちの呼びかけ
論文は、研究者や企業に対し、「ユーザーがいま何を望んでいるか？」と問うのをやめ、「ユーザーが繁栄するために何を必要としているか？」と問うように求めています。
- 研究者へ： 「ユーザーの承認（いいねや笑顔）」のために最適化することをやめてください。代わりに「現実世界の結果（そのビジネスプランは本当に機能したか？ 患者は回復したか？）」のために最適化してください。
- 政策立案者へ： 単にAIが「人間の価値観」に従うことを要求しないでください。時には人間の価値観が不完全であることを認識してください。特定のグループが今何を望んでいるかと衝突する場合でも、「床」のルール（真実と法）を支持してください。
- すべての人へ： 私たちは、AIが単に私たちの最悪の衝動を映し出す鏡ではなく、私たちのより良い側面（誠実で、有能で、法を守る姿）であるようにすべきなのです。
まとめ
この論文は、**「AIは私たちの欠点を映し出す鏡であってはならない」と主張しています。代わりに、AIは私たちの最高の志へと導く「コンパス」であるべきです。AIは、真実、有能さ、そして法の強固な「床」**の上に立ち、その基礎の上に文化的な多様性を許容しなければなりません。これにより、AIは単に現在の間違いを自動化するのではなく、より良い社会を築くための助けとなるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。