Against Retrospective Certainty: Temporal Honesty and the Governance of Institutional Memory
本文认为，制度记忆必须受“时间诚实”规范的约束，以保存当代的认识论记录——包括不确定性、异议和修订脉络——从而减轻回顾性确定性的治理风险，并实现对过去判断的可审计重构，正如伊拉克大规模杀伤性武器调查和人工智能系统评估所阐释的那样。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
从政府情报机构到科技公司，每一家组织在做决策时，都是基于其在当时所掌握的信息。这些决策往往是在充满不确定性的迷雾中做出的，当时的结果是未知的，证据也是不完整的。多年以后，当结果变得明朗时，人们回看那些决策，往往会觉得当时的决策比实际情况显得更加自信和确定。这是一种常见的心理倾向，被称为“后视偏差”（hindsight bias），即大脑通过重写过去，使未来看起来像是必然的结果。然而，在大型机构中，这种重写不仅是思维的陷阱，也是一个文书记录的问题。当原始文件、笔记和疑虑被丢失、覆盖或与最终结论分离时，决策是如何做出的历史记录就变得无法核查了。如果没有原始记录，机构可能会在无意或有意的情况下，将过去的判断呈现为确凿的事实，而实际上那可能只是一种猜测、一种担忧或一种少数派意见。
研究员伊利亚斯·康斯坦丁尼迪斯（Ilias Konstantinidis）的一篇新论文通过提出一个名为“时间诚实性”（temporal honesty）的标准来应对这一问题。这一概念建议，机构有责任完整保留其过去思维中那种混乱、不确定且不断演变的状态。仅仅保存最终报告是不够的，组织还必须保留决策做出时的疑虑、分歧、假设以及具体的证据。其目标是确保如果有人在多年后回顾，他们能够准确地重建该机构在那个特定时刻所知道的和所感受到的内容，而不是根据一个经过润色、简化的历史版本来进行猜测。论文指出，如果没有这种诚实的记录方式，要让机构对其过去的行动承担真正的责任将变得不可能，因为用于检验其主张的证据已被时间抹去。
为了理解为什么这很重要，请考虑机构通常是如何运作的。它们收集信息，进行辩论，并最终发布判断。随着时间的推移，随着新信息的到来或领导层的更迭，该判断会被更新。在一个缺乏“时间诚实性”的系统中，旧版本的判断可能会被直接删除或被新版本取代。原始的推理过程、所使用的具体数据点，以及那些反对最终决定的声音都会消失。这在实际发生的情况与幸存的文件所记载的情况之间造成了鸿回。论文称这种差距为“追溯性确定性”（retrospective certainty），即过去看起来比实际情况更清晰、更统一的状态。作者建议，要解决这个问题，机构需要将过去的知识状态视为不可被静默覆盖的永久记录。与其删除旧的评估，不如将其与新的评估相链接，清晰地展示哪些内容发生了变化、增加了什么以及删除了什么。
论文通过观察两个非常不同的、重建过去的能力至关重要的现实案例来测试这一观点。第一个案例涉及对伊拉克大规模杀伤性武器的调查。当时启动了多次官方调查，以了解情报机构是如何得出伊拉克拥有此类武器这一结论的。研究人员发现，这些调查之所以困难，是因为原始记录是不完整的。在一次案例中，一个审查委员会认为自己已经看到了所有相关的情报文件，后来才发现有八份重要的文件被遗漏了。在另一个案例中，委员会无法找到一份关键报告的原始草案，只能找到经过修改的副本。最重要的是，调查发现，一些专家曾警告证据薄弱，但这些异议意见并未被妥善记录，或者被隐瞒了那些需要看到它们的人。由于这些记录缺失或被遮蔽，调查人员不得不花费数年时间试图拼凑出最初的情况，即便如此，某些细节仍然模糊不清。论文利用这一点说明，当决策的“谱系”断裂时，很难判断是机构犯了错，还是记录本身存在缺陷。
第二个例子观察了人工智能公司如何记录其工作。随着这些公司发布新版本的 AI 模型，它们会发布报告解释模型的表现。研究人员检查了这些报告随时间的变化情况。他们注意到，虽然公司持续讨论同类型的风险（例如模型编造事实），但用于衡量这些风险的具体测试方法却一直在变化。一年前使用的测试在第二年可能会被另一种测试取代，且没有明确的注释说明两者之间的关系。对于试图追踪 AI 是变得更好还是更差的外部观察者来说，这种缺乏清晰联系的情况使得对比过去与现在变得非常困难。论文认为，即使在公众视野下，如果没有一个清晰的链条显示一个评估是如何导向下一个评估的，那么就无法得知一项风险是被真正解决了，还是仅仅因为测量工具改变而被忽略了。
论文的核心发现是，保留“认识状态”（epistemic state）——这是一个专业术语，指代在特定时刻所掌握的、怀疑的及决定的全貌——是良好治理中一个独特且必要的部分。这与决策本身是对是错是两回事。一个机构可以基于错误的数据做出糟糕的决策，但如果该错误数据和错误决策的记录被诚实地保留下来，人们就可以从中学习。如果记录丢失或被平滑处理，教训也会随之流失。作者提出了实现这一目标的实践规则。这些规则包括保留版本历史以使变化可见，确保不确定性和分歧与最终结论挂钩而非被剥离，以及记录谁在何时看到了哪些信息。论文承认，出于安全或隐私原因，某些信息必须保持机密，但它也指出，即使在这种情况下，记录的结构——即决策已做出、由谁做出以及是基于何种类型的证据——也应当保持可见。
这种方法并不能解决所有的组织失败问题。它无法强迫领导者倾听警告，也无法阻止他们做出错误的决策。它也无法修复一个人们不敢直言不讳的文化。然而，它确实能确保当事情出错时，真相不会被埋没在层层重写的历史之下。通过要求机构保持其过去自我的可见性，包括所有的疑虑和错误，这篇论文提供了一种让未来更加诚实的方法。它表明，学习过去最好的方式不是完美地记住它，而是保留原始的、混乱的证据，以便可以对其进行精确的检验，而不受“已知结局”所带来的扭曲影响。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。