Tails and Walls: Reality's Two Honest Priors

ゲームのルールを推測しようとしている場面を想像してみてください。ただし、あなたは一度もそのゲームがプレイされるのを見たことがありません。統計学では、これを「事前分布（プライア）」を選ぶことと呼びます。これは、データを見る前に、世界がどのように機能しているかについての初期の推測を持つことです。長い間、科学者たちは、極端で激しい出来事が起こり得るとしても、それを想定することが唯一の誠実な「無知」のあり方だと考えてきました。これは、天気が「どんなものでもあり得る」と仮定することに似ています。穏やかな微風からハリケーンまで、硬い制限はありません。これが「重い（heavy）」思考の枝であり、そこでは確率の曲線が、細長いロープのように、永遠に伸びる裾（テイル）を持っています。

しかし、もし宇宙に「壁」があったらどうでしょう？ もし、ある種の事象が物理的な限界に突き当たるために、決して起こり得ないとしたら？ ボールが部屋の中で跳ねる様子を想像してください。ボールは速く動けますが、光速を超えることはできませんし、天井より高く跳ね上がることもできません。数十年の間、統計学者はこれらの「壁」をほとんど無視し、ロープが永遠に伸びると想定してきました。この論文は、大胆な問いを投げかけます。現実は終わりのないロープでできているのか、それとも固い壁も存在するのか？ 著者たちは、データの「裾（テイル）」と「壁（リミット）」を探求し、どちらが私たちの世界をより良く記述しているのかを検証しています。彼らは、自然界が無限の可能性を好むのか、それとも限定された境界を好むのかを測定するために、新しい数学的な地図を用いています。

---

二つの誠実な事前分布：ロープと部屋

「Tails and Walls: Reality's Two Honest Priors（裾と壁：現実の二つの誠実な事前分布）」と題されたこの論文は、あるシステムについて完全に無知であろうとする時、実は一つではなく、二つの誠実な選択肢があることを明らかにしています。著者らは、これら二つの選択肢を「ブランチ（枝）」と呼んでいます。

重いブランチ（終わりのないロープ）：
これは古くからの定番です。これは、スチューデントのt分布（有名なベルカーブの親戚）のようなものです。ロープが永遠に伸びている様子を想像してください。どれほど遠くまで行っても、さらに極端なものが見つかる可能性が常にわずかに存在します。現実の世界では、これは嵐の音や、柔軟な分子における原子間の距離のように見えます。これらは非常に大きく、あるいは非常に小さくなることができ、極端な値が発生する確率は、長い尾のようにゆっくりと減少します。論文によれば、環境音や水素結合は、このブッチに属しています。これらは「重い」と言われます。なぜなら、硬い天井がなく、いくらでも伸びることができるからです。

ドロップレット・ブランチ（壁のある部屋）：
これは新しい発見です。テーブルの上に置かれた一滴の水滴を想像してください。それは形を持っていますが、ある端で唐突に止まります。それは永遠に伸びることはなく、ある「壁」に当たり、その壁を超えて何かを見つける確率は正確にゼロになります。論文は、私たちの世界の多くのものが、実際にはこのようなものであることを示しています。例えば、デジタル写真のピクセルは「ドロップレット（水滴）」です。カメラが記録できる最大輝度（8ビット画像では255）よりも明るくなることはできません。論文は、「壁」はカメラのミスではなく、私たちが目にするデータの根本的な特徴であると主張しています。炭素－酸素結合のような共有結合における原子間の距離を考えるとき、互いに反発し合う前に近づきすぎることができないという硬い限界が存在します。これが、データの中に「壁」を作り出します。

大いなる地図：現実の形を測る

著者らは単に推測したわけではありません。彼らは「情報体積（Information Volume）」と呼ばれる新しい測定ツールを構築しました。これは、データをどのように引き伸ばしたり捻ったりしても同じように機能する「定規」のようなものです。彼らはこの定規を使って、4つの異なる世界における「裾」の形を測定しました。

1. 分子： 13万4千個の分子を調査しました。その結果、分子の一部（伸び縮みする水素結合など）は「重い（終わりのないロープ）」性質を持ち、他の部分（タイトな炭素－酸素結合など）は「ドロップレット（壁に当たる）」性質を持っていることが分かりました。
2. 音： 環境音（風や雨など）は「重い」性質を持ちます。これらは非常に大きくなることができ、極端な音になることに硬い制限はありません。
3. 音声： 人間の音声は興味深いものです。鋭い破裂音（「p」や「t」のような音）によって最初は「重い」性質を示しますが、文章全体を聞いていると、すぐに通常のベルカーブ（ガウス分布）へと緩和されます。
4. 画像： これが大きな驚きでした。著者らは、自然界は荒々しいものなので、デジタル画像も「重い」性質を持つのではないかと考えていました。しかし、画像は実際には「ドロップレット」であることが分かりました。「壁」はカメラとコンピュータ画面から来ています。現実世界の光（輝度）は「重く」終わりはありませんが、私たちが見る「画像」は、固定された数値の範囲（0から255など）に押し込められているため、ドロップレットなのです。

「誠実な推測」と「真実の推測」

論文は、「真実の推測（truth-guess）」という巧妙な概念を導入しています。あなたが、あるグループの平均身長を推測しようとしているが、その中に誰がいるのかを知らない場面を想像してください。あなたは自分が知っていることに基づいて推測を行います。著者らは、もしあなたが本当に誠実であるならば、あなたの推測は、あらゆる可能なモデルの「重心（barycenter）」と一致すべきであることを示しています。

彼らは一つのルールを見つけました。もし、あなたの出発点の推測（事前分布）が重い裾を持っているなら、あなたの最終的な推測もまた重い裾を持つことになります。もし、あなたの出発点の推測が壁を持っているなら、その壁は維持されます。ただし、あなたが観察しているデータがあまりに荒々しく、その壁を壊してしまう場合を除きます。

例えば、限定された信号（デジタル画像など）を、限定されたレンズを通して見る場合、壁は維持されます。しかし、限定された信号を、非常に「ぼやけた」あるいは非限定的なレンズ（ガウスぼかしなど）を通して見る場合、壁は洗い流され、データは通常のベルカーブのように見え始めます。これが、なぜデジタル画像がドロップレットのように見えるのかを説明しています。カメラ（レンズ）が限定されているため、壁が生き残るのです。

この論文が否定したもの、そして証明したもの

著者らは、自分たちの主張について非常に慎重です。彼らは、「限定されていること（限界があること）」が自動的に「ドロップレット」であることを意味するわけではない、という考えを明確に否定しています。数字がある地点で止まるからといって、それがドロップレットであるとは限りません。ドロップレットは、壁に近づくにつれて特定の滑らかな形状、つまり端に優しく触れるような曲線を持っています。もしデータが唐突に止まったり（ハードクリップ）、ジャンプしたりする場合、それはドロップレットではありません。論文は、画像や分子結合といった自然界の信号が、実際にこのような滑らかな多項式的な形状を持っており、真のドロップレットであることを証明しています。

また、彼らは「重い」ブランチこそが唯一の誠実な無知のあり方であるという考えも否定しました。長い間、統計学者は重い裾こそが最も安全な賭けであると考えてきました。しかし、この論文は、多くの事象において「ドロップレット」こそが誠実な事前分布であることを示しています。

どの程度確かなのか？

著者らは、テストした対象に対する測定において非常に高い自信を持っています。彼らは、裾の形を測定するために「極値理論（extreme value theory）」を用いました。彼らは結果を複数の方法で検証しました。

• 彼らは、壁が単にコンピュータコードの産物ではないことを確認するために、異なる「ジッター（微小なランダム変化）」をテストしました。壁は変わりませんでした。
• 彼らは、データの量によって形が変わらないことを確認するために、異なる閾値をテストしました。形（重いかドロップレットか）は変わりませんでした。
• 彼らは「ホールドアウト・テスト」を実施しました。データの半分でモデルを学習させ、残りの半分でテストしました。正しいブランチ（C-O結合にはドロップレット、O-H結合には重い裾）を使用したとき、モデルは極端な値を完璧に予測しました。一方で、間違ったモデル（標準的なベルカーブなど）を使用したとき、モデルは惨めに失敗しました。重いO-H結合に対してベルカーブを用いた場合、ベルカーブは極端な事象のリスクを10倍も過小評価していました！

しかし、解決できなかった謎も一つあります。彼らは、太陽のハイダイナミックレンジ（HDR）画像のような、一種のデータが、「重い」ブランチが許容するよりもさらに重い「超・重い（super-heavy）」性質を持っていることを発見しました。彼らはこれを「ストレス・テスト」と呼び、まだ答えを持っていないことを認めています。これは、彼らがまだ発見していない新しい物理学や数学が存在することを示唆しているのか、あるいは単に太陽があまりに明るいために、彼らの現在のルールを破壊しているだけなのかもしれません。

まとめ

この論文は、新しい眼鏡を見つけたようなものです。以前、私たちは世界はベルカーブか、あるいは長いロープのどちらかであると考えていました。今、私たちは、世界には水滴と壁も存在するのだということを知りました。

• 音や柔軟な分子は？ それらはロープ（重い）です。
• デジタル画像やタイトな化学結合は？ それらはドロップレット（壁）です。
• 音声は？ ロープから始まり、ベルカーブへと変化します。

最も重要な教訓は、「データの形」がより良いモデルを構築する方法を教えてくれるということです。もしドロップレットをロープでモデル化しようとすれば、画面に表示できるよりも明るいピクセルといった、不可能な事象を予測することになります。もしロープを壁でモデル化しようとすれば、稀に起こる危険な事象（巨大な嵐など）を見逃すことになります。裾の指数（あなたがロープを持っているのか壁を持っているのかを教える数値）を測定することで、私たちは適切な道具を選ぶことができます。この論文は、初めて、現実の異なる部分に対してどの道具を使うべきかを正確に教えてくれる地図を手に入れたことを示唆しています。