Against Retrospective Certainty: Temporal Honesty and the Governance of Institutional Memory

政府の諜報機関からテクノロジー企業に至るまで、あらゆる組織は、その瞬間に知っていることに基づいて意思決定を行っています。これらの決定は多くの場合、結果が未知であり、証拠が不完全な、不確実性の霧の中で下されます。数年後、結果が明らかになったとき、人々はそれらの決定を振り返り、実際よりも確信に満ち、確実なものだったと捉えることがよくあります。これは「後知恵バイアス」として知られる一般的な人間の傾向であり、脳が過去を書き換えて、未来が不可避であったかのように見せる現象です。しかし、大きな組織において、この書き換えは単なる心のトリックではなく、書類作成の問題でもあります。元の文書、メモ、そして疑念が失われたり、上書きされたり、最終的な結論から切り離されたりすると、意思決定がどのように行われたかという歴史を検証することが不可能になります。元の記録がなければ、組織は、かつては単なる推測や懸念、あるいは少数意見であったものを、あたかも確固たる事実であったかのように、意図的あるいは偶然に提示できてしまうのです。

研究者イリアス・コンスタンティニディスによる新しい論文は、「テンポラル・オネスティ（時間的な誠実さ）」という標準を提案することで、この問題に取り組んでいます。この概念は、組織には、過去の思考の乱雑で不確定的で進化し続ける性質をそのまま保持する義務があることを示唆しています。最終的な報告書を保存するだけでは不十分です。組織は、決定が下されたその瞬間に存在した疑念、意見の相違、仮定、そして具体的な証拠をも保存しなければなりません。目的は、もし数年後に誰かが振り返ったとしても、洗練され簡略化された歴史のバージョンに基づいて推測するのではなく、その特定の瞬間に組織が何を理解し、何を感じていたのかを正確に再構成できるようにすることです。論文は、このような誠実な記録管理がなければ、組織が過去の行動に対して真に責任を問われることは不可能になると論じています。なぜなら、彼らの主張を検証するために必要な証拠が、時間によって消し去られてしまうからです。

これがなぜ重要なのかを理解するために、組織が通常どのように機能するかを考えてみみます。彼らは情報を収集し、議論し、最終的に判断を下します。時間が経過し、新しい情報が入ってきたりリーダーシップが変わったりすると、その判断は更新されます。テンポラル・オネスティのないシステムでは、古いバージョンの判断が単に削除されたり、新しいものに置き換えられたりすることがあります。元の推論、使用された具体的なデータポイント、そして最終決定に対して反対した声は消えてしまいます。これにより、実際に起きたことと、生き残った文書が示していることの間に乖離が生じます。論文は、この乖離を「遡及的確実性（retrospective certainty）」、つまり、過去が実際よりも清潔で統一されているように見える状態と呼んでいます。著者は、これを修正するためには、組織は過去の知識の状態を、黙って上書きされることのない永久的な記録として扱う必要があると示唆しています。古い評価を削除する代わりに、それを新しいものに関連付け、何が変わり、何が追加され、何が削除されたのかを明確に示すべきであるとしています。

論文は、過去を再構成する能力が極めて重要となった、2つの非常に異なる現実世界の事例を見て、このアイデアを検証しています。最初のケースは、イラクにおける大量破壊兵器に関する調査です。イラクが大量破壊兵器を保有しているという結論に、なぜ諜報機関が達したのかを理解するために、いくつかの公式調査が行われました。研究者たちは、これらの調査が困難であったのは、元の記録が不完全であったためだと指摘しました。ある事例では、レビュー委員会は関連するすべてのインテリジェンス文書を確認したと考えていましたが、後に8つの重要な文書が漏れていたことが判明しました。別のケースでは、委員会は主要な報告書の原本を見つけることができず、改ざんされたコピーしか見つけることができませんでした。最も重要なことに、調査では、証拠が脆弱であると専門家が警告していた「異論」が、適切に記録されていなかったか、あるいは、それを見るべき人々から隠されていたことが分かりました。これらの記録が欠落していたり、不明瞭であったりしたため、調査員たちは元の状況がどのようなものであったかを繋ぎ合わせるために何年も費やすことになり、それでもなお、一部の詳細は不明なまま残りました。論文はこれを用いて、決定の「系譜（リネージ）」が断たれると、組織が間違いを犯したのか、それとも記録自体に欠陥があったのかを知ることが非常に困難になることを示しています。

2つ目の例は、人工知能（AI）企業がどのように自らの作業を文書化しているかを見ています。これらの企業は、新しいバージョンのAIモデルをリリースする際、そのモデルの性能を説明するレポートを公開します。研究者たちは、これらのレポートが時間の経過とともにどのように変化したかを調査しました。彼らは、モデルが事実を捏造するといった同様のリスクについて企業が引き続き言及している一方で、それらのリスクを測定するために使用される具体的なテストが、絶えず変化していることに気づきました。ある年に使用されたテストは、翌年には別のテストに置き換わっており、その2つがどのように関連しているのかという明確な注釈はありませんでした。過去と比較しようとする外部の観察者にとって、この明確なつながりの欠如は、過去と現在を比較することを困難にします。論文は、評価のプロセスを示す明確な連鎖がなければ、あるリスクが本当に対処されたのか、それとも単に測定ツールが変わったために無視されただけなのかを知ることは不可能であると論じています。

論文の核心となる発見は、「エピステミック・ステート（認識状態）」、つまり、特定の時点で何が知られ、何を疑い、何を決定したかという全体像を保存することは、優れたガバナンスの明確かつ不可欠な要素であるということです。これは、その決定自体が正しかったか間違っていたかとは別の問題です。組織は不適切なデータに基づいてひどい決定を下すことがありますが、その不適切なデータと不適切な決定の記録が誠実に保存されていれば、人々はそこから学ぶことができます。もしその記録が失われたり、滑らかに整えられたりすれば、教訓も失われます。著者は、これを達成するための実践的なルールを提案しています。これらのルールには、変更を可視化するためのバージョン履歴の保持、不確実性や意見の相違を最終的な結論から剥ぎ取るのではなく、それに付随させること、そして誰がいつどの情報を見たのかの記録を保持することなどが含まれます。論文は、安全やプライバシーのために秘密にしなければならない情報があることも認めていますが、たとえそのような場合であっても、記録の構造、すなわち、決定が下されたこと、誰が下したのか、そしてそれがどのような種類の証拠に基づいているのかという事実は、目に見える形で残るべきであると主張しています。

このアプローチは、組織の失敗におけるすべての問題を解決するものではありません。リーダーに警告を聞かせたり、誤った選択を止めさせたりすることはできません。また、人々が声を上げることを恐れる文化を修正することもできません。しかし、これは、物事がうまくいかなかったときに、真実が書き換えられた歴史の層の下に埋もれてしまうことを防いでくれます。組織の「過去の姿」を、その疑念や誤りと共に完全な形で可視化することを求めることで、この論文は、より誠実な未来を作るための方法を提示しています。過去から学ぶ最善の方法は、過去を完璧に記憶することではなく、物語がどのように終わったかという予断なしに、当時のままの、乱雑な証拠を検証可能な状態で保持しておくことであると示唆しています。