The Birth, Life, and Death of Internal Organization
本文提出了一个名为“后果组织”（Consequence Organization）的框架，旨在根据内部结构对未来结果的因果影响来定义学习系统内结构的生命周期与身份，并证明了这种组织方式在持续、迁移与消亡的过程中，表现出了无法仅通过表示相似性或算子对齐来捕捉的特性。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在学习机器的研究领域，科学家们长期以来一直试图理解这些系统在获得经验时是如何变化的。当一台计算机学习一项新技能时，其内部设置会发生偏移，其行为也会随之演化。多年来，研究人员一直试图通过观察机器内部模式之间的相似性，或者通过测试一个简单的工具是否能“读取”机器在思考什么，来追踪这些变化。主流观点认为，如果两台机器在内部看起来相似，或者它们都能被解码以揭示相同的信息，那么它们一定在做同样的事情。然而，这种方法假设物理位置是其身份最重要的部分。它将机器的内部结构视为一张地图，其中坐标的重要性超过了城市本身。这种视角留下了一个关键问题悬而未决：当一组变化的部件真正成为一个具有独立生命的、独特的、有组织的实体时，究竟是在何时？这个实体是否有开始、中间和结束？如果这个实体消失了，它还会留下什么？
独立研究员余选轩（Yuxuan Deng）的一项新研究通过将焦点从机器“看起来像什么”转向“实际在做什么”，解决了这些问题。研究者并没有询问两个内部模式是否相似，而是提出了一个不同的问题：如果你以特定的方式“戳”一下机器，它是否会以一种特定的、命名的形式改变未来？该研究并非通过它在机器内部的生存位置来定义“组织”（organization），而是通过它如何控制结果来定义。如果一组内部变化能够一致地导致一个特定的结果，那么这组变化就被视为一个单一的、活着的组织。研究者随后观察了这些组织的诞生、成长、变化和消亡，并测试了它们是否可以像移植器官一样，从一台机器移动到另一台机器中。
研究始于一个大规模的真实世界视频推荐数据集。系统被喂入了数百万次用户观看或点击视频的交互数据，但研究人员引入了一个转折：他们随机地将一些推荐视频与其他视频进行了交换。这创造了一个自然实验，使系统必须学会根据不断变化的现实来预测结果。研究人员观察着系统的学习过程，寻找特定内部变化开始可靠地预测特定未来结果（例如用户长时间观看视频）的时刻。他们发现，这些组织并非瞬间出现的。当系统学会区分两个此前被视为相同的不同结果时，组织便诞生了。在此之前，系统的内部变化是可互换的；在此之后，为了实现特定目标，特定的内部调整变得必不可少。这就是组织的诞生，它不是由其形状定义的，而是由其引导未来的独特能力定义的。
一旦诞生，这些组织展现出了惊人的韧性。当系统继续接收同类反馈时，组织会持续存在并稳固其地位。但当反馈发生变化时，组织并不会简单地消失，而是会重组。它会调整其内部结构以适应新的现实，有时甚至会反转其行为以符合新的规则。最令人震惊的证据出现在研究人员决定“杀死”一个组织时。他们移除了该组织所依赖的特定反馈，实际上切断了它的生命线。在许多情况下，组织立即死亡，失去了影响结果的能力。然而，曾经承载该组织的机器物理部分并未消失。在某些实例中，“载体”仍然活跃甚至变得更强，尽管它已经失去了原有的目的。这就像是一个工具在不再用于其预期工作后，依然留在工具箱里一样。这证明了组织与其承载的物理物质是两回事。组织可以死亡而载体幸存，反之亦然，载体可以在没有组织的情况下存在。
随后，研究人员测试了这些组织是否可以被移动。研究人员从一台机器中提取了一个正在工作的组织，并尝试将其移植到一台从未见过它的新机器中。当两台机器接受相同类型的任务和相同类型的结果训练时，移植成功了。接收机瞬间获得了产生相同特定未来结果的能力，尽管其内部部件与捐赠者完全不同。这表明组织的身份并不取决于特定的坐标或特定的机器设计，而是取决于内部动作与外部结果之间的关系。然而，这种身份有着严格的边界。当研究人员尝试将一个组织移植到一台经过完全不同类型结果训练的机器中——即规则在根本上不兼容的机器——移植便失败了。尽管接收机的内部部件与捐赠者几乎完全相同，但该组织无法扎根。组织不是一个普适的对象；它是其特定语境下的产物。
最后，研究人员探索了这一生命周期的动态过程。他们发现，组织的诞生取决于系统能否招募其内部部件来服务于特定目的。如果系统没有得到合适反馈的支持，组织就不会形成，或者会消解。研究表明，这些转变并非随机发生的。它们遵循一种模式：系统要么招募新部件以维持结果之间的区别，要么在维持差异的压力被移除时，让这些差异重新合并。研究人员能够在某些情况下预测这些转变，但他们强调，这并不是适用于每台机器在任何情况下的普遍规律。规则取决于机器学习的具体方式以及它所接收到的反馈的特定性质。
这项工作的意义是深远的。它表明，我们应该停止寻找技能或规则在机器内部的“座位”，而应开始寻找定义它们的函数关系。组织不是一个坐在特定位置的静态对象，而是一个动态的过程，它仅在受到正确后果支持时才存在。它可以诞生，可以改变，也可以死亡，只留下曾经承载它的物理外壳。这种观点改变了我们对人工智能的看法。这意味着学习行为的身份并非固定在代码或机器的权重中。它是一个脆弱的、活着的生命，完全取决于它运行的环境。如果环境改变，组织就会改变。如果环境消失，组织就会死亡，即使机器本身依然完好无损。
这项研究并未声称发现了解释每一个学习系统的普遍理论。它并未暗示所有机器的行为方式都相同，也并未暗示我们现在可以完美预测任何系统中任何组织的生命周期。相反，它提供了一种清晰、可衡量的方法，来追踪特定系统中这些组织的运行。它证明了我们可以识别它们何时诞生、何时死亡以及何时可以移动。它证明了学习行为的身份相对于它产生的后果，而非承载它的物理部件。这是理解学习机器内在生活的重要一步，让我们从对结构的静态观察转向对功能的动态观察。研究人员已经展示出，组织的生命是一种真实的、可观察的现象，它是可以被研究、操纵和理解的，即便它像风中的火焰一样转瞬即逝且依赖于其语境。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。