← 最新论文
🤖 machine learning

Bootstrap Theory of Representational Emergence: Explanatory Insufficiency as a Driver of Representation Learning and World Models

本文介绍了表征涌现的自举理论(TBER),该框架提出,机器学习和生物系统中的新表征并非仅仅源于数据或算力的增加,而是作为对“解释不足”的一种必然响应而产生,即当现有模型无法使观察结果变得可理解时,这种不足会驱动一个由异常检测与表征创新构成的递归循环。

原作者: Jacques Raynal, Pierre Slangen, Elsa Raynal, Jacques Margerit

发布于 2026-06-08
📖 1 分钟阅读☕ 轻松阅读

原作者: Jacques Raynal, Pierre Slangen, Elsa Raynal, Jacques Margerit

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

核心理念:当你的地图不再奏效时

想象你正在城市中导航。起初,你使用的是一张简单的纸质地图。它在你的社区周边非常管用,你可以找到杂货店、公园和你的家。这就是表征(Representation):一种描述世界并帮助你理解世界的方式。

但随后,城市发生了变化。一个巨大的地下地铁系统建成,新的摩天大楼遮挡了你观察街道的视线。你的纸质地图仍然正确地显示着街道,但它再也无法解释为什么你会陷入交通拥堵,或者如何到达新的地铁站。这张地图关于街道的描述并没有“错”,但它已经变得在解释力上显得不足(Explanatorily Insufficient)。它描述了表面,但却无法再让城市的深层组织结构变得清晰可理解。

根据这篇论文,这种“我目前的理解方式不再够用了”的感觉实际上是一件好事。它是一个信号,表明是时候构建一张更好、更新的地图了。作者将此称为表征涌现的引导理论(Bootstrap Theory of Representational Emergence, TBER)

主要问题:我们通常只是在增加数据

在现代科学和人工智能(AI)领域,我们经常认为解决问题的办法就是获取更多的数据、更大的计算机或更聪明的算法。我们试图让旧的地图变得更加详细。

论文指出,这忽略了真正的重点。有时候,问题不在于我们需要在旧地图上增加更多细节,而在于我们正在使用的地图类型对于这项工作来说是不合适的。

  • 论文的观点: 一个新的表征层面(一种新的地图类型)之所以变得必要,不是因为我们有了更多的数据,而是因为旧的地图撞到了墙。它仍然可以描述我们所看到的东西,但它再也无法解释事物是如何运作的,或者事物为何会发生变化。

“引导”循环:新地图是如何诞生的

作者描述了一个当我们撞到这面“墙”时会发生的五步循环(即“引导”过程)。你可以把它想象成从纸质地图升级到 GPS,再升级到 3D 全息模型的过程。

  1. 稳定观察(舒适区):
    你拥有一张运行良好的地图。你每天使用它,它能预测你需要去哪里。一切都感觉很稳定。

    • 例子: 在科学中,这就像使用简单的测量值(如速度或距离)来描述一个人的步行方式。这在一段时间内运行良好。
  2. 异常检测(故障):
    你开始看到地图无法解释的情况。也许即使地图显示道路畅通,你却陷入了交通拥堵。或者,两种不同的步行模式在你的速度计上看起来完全一样,但其中一种感觉要稳定得多。

    • 论文的观点: 这些“异常”不仅仅是错误;它们是地图缺失了某些东西的线索。
  3. 识别解释力的不足(“啊哈”时刻):
    你意识到问题不在于交通或步行风格,而在于地图本身。你会说:“我目前看待这个问题的方式不足以解释正在发生的事情。”

    • 关键点: 旧地图并不一定是错误的。只是城市已经成长到了其边界之外。论文称之为解释力不足(Explanatory Insufficiency)
  4. 表征涌现(构建新地图):
    因为旧地图无法解释这个故障,你发明了一种新的观察方式。也许你从纸质地图切换到了一个可以显示地下隧道的 GPS。

    • 论文的观点: 这种新的表征(GPS)不仅仅是“更好”;它是一种不同的工具,能让之前令人困惑的事物突然变得清晰易懂。
  5. 临时稳定(新常态):
    新地图奏效了!你可以通过地铁和摩天大楼进行导航。你重新感到稳定了。但最终,你可能会发现一个新的问题(比如无人机配送网络)是 GPS 无法解释的,于是循环再次开始。

论文中的现实世界案例

作者使用了几个具体的例子来展示这在现实生活中是如何运作的:

  • 在科学领域(物理学史):
    长期以来,科学家使用“经典力学”(如牛顿定律)来描述物体的运动。它在描述苹果落地时表现完美。但当他们观察接近光速运动的物体时,旧的规则就不再适用了。旧规则对于苹果来说并没有“错”,但对于光来说是不足的。这个差距迫使科学家们创造了一种新的表征:相对论

  • 在人工智能与机器学习领域:

    • 旧方式: 早期的计算机使用“手工特征”(人类告诉计算机要寻找什么,比如“边缘”或“角落”)。
    • 差距: 这在处理简单任务时有效,但在数据变得过于复杂时就会失效。
    • 新方式: 我们转向了“潜空间(Latent Spaces)”和“基础模型(Foundation Models)”。这些是计算机自主学习的新型地图,它们能发现人类此前无法看到的隐藏模式。
    • 论文的观点: 我们不仅仅是在把旧地图画得更好,我们必须发明一种全新的种类的地图,因为旧的地图无法解释数据的复杂性。
  • 在生物学领域(我们如何行走):
    作者提到了一个关于人类如何步行的特定研究。

    • 阶段 1: 科学家测量了“表现”(一个人走得有多快或多远)。
    • 差距: 他们发现两个人的步行速度可能相同,但身体动作却完全不同。“速度”这张地图无法解释这种差异。
    • 阶段 2: 他们创建了一张侧重于“组织结构(Organization)”(肌肉如何协调)的新地图。
    • 差距: 即使是这样也不够。有些组织结构是稳定的,而有些则不是。
    • 阶段 3: 他们创建了一张侧重于“生存能力(Viability)”(在压力下保持工作的能力)的新地图。
    • 教训: 每当我们遇到旧的描述无法解释“为什么”的墙时,我们就必须发明一个新的、更深层的描述层次。

对未来的重大启示

论文指出,为了让人工智能变得真正聪明且具有适应性,它需要学习这个循环。

目前,人工智能非常擅长在地图内学习。它可以变得更擅长使用 GPS 来寻找最快的路线。
但论文认为,真正智能的系统需要能够检测地图何时损坏。它们需要意识到:“我无法再用目前的工具来解释这个现象了,”然后自主发明一种新工具

总结: 这篇论文不是关于如何制作更好的地图,而是关于理解为什么我们需要丢弃旧地图并绘制新地图。触发这种变化的诱因是解释力不足(Explanatory Insufficiency)——即当我们当前的观察世界的方式不再符合逻辑,即便它在表面上看起来依然正确的那一刻。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →