Functional equivalence without structural convergence: A Monte Carlo study of evolutionary and evolution-strategy search in small neural network architectures
这项蒙特卡洛研究表明，使用不同算法的独立优化路径可以通过架构多样化的方案实现相似的高功能神经网络，这说明功能等效性并不一定需要结构收敛。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
在生物世界中，生物学经常通过许多不同的路径实现相同的结果。心脏可以泵血，神经元可以放电，电路可以处理信息，即使其底层部分的排列方式截然不同。这种不同的结构产生相同功能的能力被称为“简并性”（degeneracy）。它是复杂系统的一个基本特征，表明自然并不依赖于单一、僵化的蓝图来解决问题。相反，它似乎拥有一个广阔的可能解空间，其中不同的排列方式可以导致相同的成功结果。这向研究系统如何进化的科学家提出了一个深刻的问题：如果你从不同的工具开始，并让它们进化以解决同一个问题，它们最终会抵达同一种设计，还是会保持差异？
独立研究员莱昂·桑德勒（Leon Sandler）最近的一项研究利用一个小型神经网络的计算机模型探讨了这个问题。目标是观察不同的优化方法在被要求构建一个能够最大化特定复杂度与集成度指标的网络时，是否会收敛于单一、共享的架构。研究员将该网络视为节点之间连接的网络，每个连接的强度都可以进行调整。他定义了三种衡量网络“优劣”的不同方式：一种观察各部分如何作为一个整体协同工作；另一种测量将网络拆分为两部分所需的最小信息量；第三种则检查网络是依赖于协作式交互还是冗余式交互。这些度量标准充当了评分卡，用以衡量网络活动的丰富程度与集成程度。
为了寻找最佳网络，桑德勒运行了四种不同的搜索策略。一种方法使用数字版的DNA，将网络的权重编码为可以随世代进行突变和选择的字母序列。另一种使用了标准的连续遗传算法，其原理类似于前者，但使用的是数字而非字母。第三种方法使用了进化策略，这种技术以其通过调整搜索步长大小来微调解决方案的能力而闻名。第四种是简单的随机搜索，作为基准以观察那些更智能的方法是否真的发挥了作用。所有方法都被赋予了相同的计算时间来寻找得分最高的网络。
结果显示，较智能的搜索方法在寻找高分网络方面确实远优于随机机会。进化策略最为成功，其次是遗传算法，而随机搜索则难以找到比典型的、未经优化的网络更好的结果。然而，最令人惊讶的发现是这些获胜网络的结构发生了什么。尽管所有方法都找到了得分相似的高分网络，但这些网络本身看起来却大相径庭。当研究员比较网络的“骨架”时——观察其连接模式、小群体之间的平衡以及对突然冲击的反应——他们并没有收敛于同一种形状。事实上，不同方法找到的网络彼此之间的差异，往往与两个完全随机的网络之间的差异一样大。
即使研究员改变了游戏规则，这种结构上的不收敛现象依然存在。他在不同类型的活动下测试了这些网络，包括稳态和更复杂的重复模式。在几乎所有情况下，在高集成度指标下得分较高的网络在结构上都保持了多样性。唯一的例外是观察非线性系统中对扰动的特定类型反应时，出现了一丝相似性的迹象，即便如此，这种相似性也是微弱且不一致的。研究表明，对于这些复杂度度量而言，不存在单一的“完美”形状。相反，存在着多种不同的架构，它们都能同样出色地完成任务。
研究还测试了这些优化网络的脆弱性。当研究员删除高分网络中一小部分连接时，其性能急剧下降，这表明这些解决方案是脆弱的，高度依赖于其精确的配置。当他尝试通过让搜索算法重新运行来修复受损网络时，网络恢复了部分功能，但并未回到原始形状。它们找到了新的、与受损前同样高效的不同结构，这进一步强化了这样一个观点：存在许多不同的方式可以构建一个功能系统。
最终，这项研究为“功能等效性而非结构收敛性”提供了一个清晰的范例。它证明了在这些模拟网络的领域中，达到高水平的性能并不需要特定的、独特的方案设计。不同的进化路径可以抵达同一个功能峰值，却让旅者停留在完全不同的地方。这支持了这样一种观点：生物系统（其内部布线虽有不同，但行为往往表现出相似性）可能是在一个充满多样且同样有效的解的空间中进行航行，而非朝着单一、必然的形式迈进。虽然这些发现仅限于这些计算机模拟和特定的数学度量，但它们为复杂性如何从多种来源产生提供了一个引人入胜的视角。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。