Uncountably many conditionally inaccessible decisions exist in every finite probability space
本論文は、任意の有限確率空間において、意思決定を条件付で到達不可能にする無数に存在する客観的確率測度と効用関数の対が存在することを証明し、これによりエージェントの主観的確率が、客観的に最適な意思決定を体系的に阻害し得ることを示す。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
以下は、この論文を平易な言葉と創造的な比喩を用いて説明したものです。
全体像:合理性の「盲点」
あなたが船を操縦する船長(エージェント)だと想像してください。あなたの頭の中には、海流や天気についてあなたが真実であると思っていることを表す地図(あなたの主観的確率、)があります。また、水の実際の物理法則を表す「神の視点」からの海の見方(客観的確率、)も存在します。
完璧な世界では、実際の天候を見て地図を更新し、その後決定を下せば、あなたは常に最善の選択を行うことになります。しかし、この論文はそれが常に真実ではないと主張しています。
著者たちは、現実世界に関する部分的な情報をどれだけ集めようとも、更新された地図が決して客観的に最善の決定に至らない無数の状況が存在することを証明しました。実際、あなたの合理的な更新は、真実からあなたを遠ざける方向に船を操縦してしまうかもしれません。
核心的な概念
1. 決定の文脈(メニュー)
ルート A かルート B のような 2 つの行動のどちらかを選ぶと想像してください。
- 客観的真理(): 実際の交通データ。これに基づけば、ルート A は明らかに速いです。
- あなたの信念(): 交通に関するあなたの現在の推測。
- 決定: あなたは、あなたの信念に基づいて最も速く見えるルートを選びます。
2. 更新戦略(ジェフリー条件化)
あなたは完全な交通報告を知りません。代わりに「部分的な証拠」を得ます。
- 例: 「北側に事故がある」という噂を聞きますが、正確な場所は知りません。
- プロセス: あなたは現在の信念()を、この部分的な噂に基づいて更新します。これにより、新しい「アップグレードされた」信念()が生まれます。
- 目標: あなたは、このアップグレードされた信念が、客観的に良い選択であるルート A を取るように指示することを望みます。
3. 問題点:「条件的に到達不能」な決定
この論文は、どのような部分的な証拠を得ても、あなたのアップグレードされた信念が決して客観的に最善のルートを取るよう指示しない場合、その決定を**「条件的に到達不能」**と定義しています。
これは、磁気的に歪んだコンパスを持っているようなものです。どの方向を見ても(どのような部分的な証拠を集めても)、針は決して北を指しません。東、西、または南を指すかもしれませんが、北を指すことは決してありません。
主要な発見:それは稀ではなく、至る所に存在する
以前の論文で、著者たちはこの「壊れたコンパス」が発生するいくつかの例を見つけました。彼らは、これが複雑な状況で頻繁に起こるかもしれないと推測しました。
この論文は、彼らが慎重であったことが誤りだったことを証明します。 彼らは以下を示しています:
- それはほぼすべての状況で起こる: 少なくとも 3 つの選択肢(3 つのルートなど)を持つ決定であれば、この問題は存在します。
- それは無限である: あなたが現在持っている考え()のどの方法に対しても、あなたの合理的な更新が最善の決定を見つけられなくなる現実世界のシナリオ()が非可算無限の存在します。
- それは頑健である: これは偶然の出来事ではありません。この失敗が発生する無限の選択肢のペア(ルート A 対ルート B)が存在します。
比喩:
巨大で暗い部屋で特定の鍵を見つけようとしていると想像してください。あなたは懐中電灯(あなたの部分的な証拠)を持っています。この論文は、鍵のありうるほぼすべての位置に対して、ビームをどのように掃引しても、決して鍵に光を当てないような、あなたの懐中電灯の壊れ方があることを証明しています。あなたは床を掃引することで合理的になっていると思い込むかもしれませんが、懐中電灯の物理法則が、あなたが目標を見逃すことを保証しています。
「盲点」の説明
著者たちは**「ベイズの盲点」**と呼ばれる数学的概念を使用しています。
- あなたの現在の信念()を眼鏡のペアだと考えてください。
- 「盲点」とは、その眼鏡を通して部分的な手がかりに基づいて調整するだけでは到達できない、ありうるすべての現実()の集合です。
- この論文は、この「盲点」が巨大であることを証明しています。それは可能性の宇宙のほとんどを覆っています。
- もし「現実世界」がこの盲点に落ちれば、あなたの合理的な更新は常に現実と一致することに失敗します。
失敗の度合い
この論文はまた、コンパスがどの程度壊れているかを測定する方法を導入しています。
- 度 0: あなたの更新は常に完璧に機能します。
- 最大度: あなたの更新は、どのような証拠を得ても決して機能しません。
- 発見: 著者たちは、あなたが遭遇する可能性のある証拠の種類の任意の特定の数に対して、失敗が発生する状況を見つけられることを証明しています。あなたは、あなたのコンパスが 10 個の可能な手がかりのうち正確に 5 回失敗する、あるいは 100 回中 99 回失敗するようなシナリオを設計できます。
「驚くべき」結果:学習は状況を悪化させるのか?
「もし私が悪い推測から始め、真理を学べば、きっと良くなるのではないか?」と思うかもしれません。
この論文は、具体的で直感に反する事実を証明しています:
もしあなたの合理的な更新(部分的な証拠を使用)が誤った決定に至るならば、それはあなたの元の推測(更新前)も誤っていたことを意味します。
- 訳: あなたは「良い」推測から始め、いくつかの部分的な真理を学び、その結果として「悪い」決定に至ることはできません。更新があなたを道に迷わせるなら、あなたは最初から道に迷っていたのです。
- しかし: この論文の主要な点は、あなたの合理的な更新が真理を見つけられなくなる状況に自分自身を置くことが統計的に圧倒的であるほど、「良い」現実に対応する「悪い」出発点(主観的信念)があまりにも多く存在するということです。
一文で要約
この論文は、特定の信念セットを持つあらゆる合理的な人にとって、部分的な情報をどれだけ集め処理しても、その合理的な更新が客観的に最善の選択を行うことを体系的に妨げる、広大で無限の現実世界のシナリオの海が存在することを証明しています。
自分の分野の論文に埋もれていませんか?
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。