Towards a Theory of Pragmatic Information

宇宙の理解における世界のあり方において、信号の生のデータと、そこから私たちが抽出する実際の意味との間には、長年にわたる区別が存在します。数十年にわたり、情報の標準的な科学は、ほぼ完全に技術的な側面に焦点を当ててきました。すなわち、メッセージがいかに正確に送信できるか、一連の記号を伝送するためにいくつのビットが必要か、そしてその伝送中のエラーをいかに防ぐかという点です。「情報理論」として知られるこの枠組みは、メッセージを記号の連鎖として扱い、それらの記号が受信者に何か新しいことや有用なことを実際に伝えているかどうかについては問いません。それは、封筒を開けて中に愛のメッセージが入っているのか、請求書が入っているのか、あるいは白紙が入っているのかを確認することなく、手紙の重さを量るようなものです。この技術的なアプローチは通信ネットワークを構築する上で非常に成功してきましたが、情報を「受け取る」という人間の経験に関しては、溝を残しています。私たちはしばしば、メッセージが私たちの考えを変えたり、より良い選択をするのを助けたりする場合にのみ、そのメッセージが「情報に富んでいる」と言いますが、この分野の標準的な数学的ツールには、その変化を測定する方法はありません。

この溝こそが、ニューヨーク大学の研究者であるエドワード・D・ワインバーガーが提案する新しい理論的枠組みの焦点です。彼の研究は、データの技術的な伝送と、意思決定者にとってのデータの実際的な有用性との間の隔たりを埋めようとする試みです。その核心となるアイデアは単純ながらも深遠です。情報は、それを受け取る人や機械の信念を変えるとき、具体的には意思決定に影響を与えるときにのみ、意味を持つようになるというものです。ワインバーガーはこれを「実用的情報（pragmatic information）」と呼んでいます。それはメッセージの長さやコードの複雑さについてではなく、受信者の心の中で起こる確率の変化についてのものです。もしメッセージが届いても、受信者の世界に対する理解が全く変わらないのであれば、どれほど多くの言葉が語られたとしても、実用的情報は得られていないことになります。逆に、たった一言が、将来の出来事に対する受信者の予想を完全に修正させたならば、その言葉は高い量の実用的情報を運んできたことになります。

この概念を厳密に定義するために、論文では、意思決定者がある状況に関する一連の初期の信念（確率分布として表現される）を持っているモデルを導入しています。これが世界に対する「事前（prior）」の視点です。メッセージが到着すると、これらの信念は「事後（posterior）」として知られる新しい確率の集合へと更新されます。実用的情報の量は、これら二つの信念の集合間の距離を測定することによって計算されます。メッセージが大きな変化をもたらせば距離は大きくなり、情報は価値のあるものとなります。メッセージが変化をもたらさなければ、距離はゼロであり、情報は役に立ちません。このアプローチにより、同じメッセージが人によって異なる意味を持ち得るという事実を説明することが可能になります。専門家にとっては完全に明白なメッセージは、彼らにとっては実用的情報がゼロである一方、初心者にとっては啓示となり、その人にとっては膨大な実用的情報を持つ可能性があるのです。

論文は、実用的情報がコーディングの効率性と直接結びついていることを証明することで、この定義が数学的な精査に耐えうることを示しています。簡単に言えば、メッセージが提供する実用的情報の量は、受信者が世界の理解を更新したときに節約されるビット数に等しいということです。もし受信者がイベントの結果を確実に知っていれば、そのイベントを最小限のビットで記述できます。知識が曖昧であれば、可能性を記述するためにより多くのビットが必要になります。メッセージが状況を明確にすると、世界をエンコードするために必要なビット数が減少します。理論は、メッセージを受け取ることによって引き起こされる、世界を符号化するために必要なビット数の減少が、得られた実用的情報と正確に等しいことを示しています。これは、「意味」という抽象的な概念を、データ圧縮という物理的な現実に根ざした具体的な、測定可能な根拠に基づいたものにしています。

この理論の最も顕著な応用の一つは、古典的な「ワンアーム・バンディット（片腕の強盗）」、すなわち未知の配当率を持つスロットマシンの問題に見られます。プレイヤーが、そのマシンでのプレイを続けるべきかどうかを判断しようとしている場面を想像してください。当初、彼らはマシンが頻繁に払い出すのか、あるいは稀なのかについて全く知りません。プレイを進めるにつれ、彼らは勝利と敗北を観察し、それぞれの結果とともに、マシンの配当確率に対する推定値を更新していきます。論文は、新しいスロー（回転）が提供する新しい情報の量を正確に計算しています。その結果は、一部の人には直感に反するものです。プレイヤーがプレイを重ねれば重ねるほど、追加のスローから得られる新しい情報の量は減少していきます。初期のスローは、プレイヤーの信念を劇的に変えるため、非常に情報量が多いものです。しかし、数百回の試行を経た後の後のスローは、プレイヤーがすでに非常に正確な推定を持っているため、新しい知識をほとんど付け加えません。理論はこの収穫逓減を定量化しており、情報の価値は一定ではなく、受信者がすでに何を知っているかに完全に依存していることを示しています。

この枠組みは、「ディスインフォメーション（誤報・偽情報）」と「ノイズ」の性質についても扱っています。標準的な情報理論では、偽のメッセージは、それが同程度に複雑であれば、真のメッセージと同じように扱われることがよくあります。しかし、実用的情報の領域では、その区別が極めて重要です。メッセージが受信者の信念を変えるのであれば、たとえその新しい信念が間違っていたとしても、それは依然として実用的情報を運んでいるとみなされます。理論は、情報の「量」と情報の「価値」を分離しています。メッセージは、人の心を動かすという意味では非常に情報量が多い（informative）ことがありますが、もしその変化が悪い決定につながるならば、それは「実用的にディスインフォーマティブ（実用的な誤報）」です。論文は、メッセージを三つのグループに分類できることを示唆しています。すなわち、無関係で何も変えないもの、有用でより良い決定につながるもの、そして誤報であり、より悪い決定につながるものです。この区別は、偽の情報が真の情報と同じくらい効果的に行動を変え得る現実世界のシナリオを理解する上で不可欠です。

著者はこれらのアイデアを金融の世界へと拡張し、経済理論の礎石である「効率的市場仮説」に対して新鮮な視点を提供しています。伝統的な見解では、資産価格は利用可能なすべての情報を反映しており、一貫して市場を出し抜くことは不可能であるとされています。論文はこの考えを再定式化し、市場は、利用可能なデータから実用的な効用を抽出できない参加者にとってのみ効率的であると示唆しています。もし市場のニュースがトレーダーの信念を変え、より良い取引を行うのを助けるならば、その情報は彼らにとって実用的に有用です。したがって、仮説は、情報がすべての人にとって役に立たないということではなく、特定の参加者にとって、利用可能な情報は、彼らにとって無関係であるか、あるいはすでに処理済みであるということです。これは、高度なアルゴリズムを持つ投資家のような人々が、他の人々には無用なデータの中に価値を見出すことができる理由を説明しています。市場が魔法のように効率的なのではなく、平均的な参加者の計算能力が、生のデータを実用的情報へと変える能力を制限しているのです。

最後に、論文は生物学的な含意に触れ、この理論を種の進化へと結びつけています。進化の文脈において、「意思決定者」とは、生物の集団と環境との相互作用です。環境は生存圧力という形で「メッセージ」を送り、集団はどの形質が有利であるかについての「信念」を更新します。理論は、進化の速度は、集団がこれらの環境からのメッセージから抽出できる実用的情報の量によって制限されることを示唆しています。人間がデータを処理する限界があるのと同様に、生物学的種も、エラーを起こす前に信頼できる情報を蓄積できる限界を持っています。これは「エラー・カタストロフィ（エラー破局）」という概念につながります。つまり、突然変異率があまりに高いため、種が生存に必要な情報を維持できなくなる状態です。論文は、人間の脳であれ、コンピュータであれ、あるいは生物学的なゲノムであれ、受信者の計算能力こそが、世界からどれだけの意味を抽出できるかを決める根本的な制約であると断じています。

結論として、この研究は、情報は「それが生み出す変化」と同じ価値があるという直感的なアイデアに、厳密な数学的基礎を与えています。実用的情報を「決定につながる信念の変化」と定義することで、この理論は統計学、コンピュータサイエンス、経済学の概念を統合しています。それは、情報の量に関する技術的な問いを超えて、そのデータがどれほど重要かという、より実践的な問いへと移行します。その知見は、情報の価値はメッセージ自体の固有の属性ではなく、メッセージとそれを受け取る精神との間の関係性であることを示唆しています。この洞察は、ギャンブルや株式取引から、生命や進化のプロセスに至るまで、あらゆる事象の理解に深い影響を及ぼし、無限のデータが存在する世界において、真の通貨とは「それを理解する能力」であることを思い出させてくれます。