Drosophila Connectome Topology Provides No Measurable Language- Model Advantage: A Preregistered Negative Experimental Program
这项预注册研究系统地测试了果蝇大脑拓扑结构是否能改进语言模型，并发现尽管采用了各种架构集成方式，但与随机、度匹配或原生基准相比，果蝇衍生的布线在降低负对数似然或提高联想检索方面并未提供可衡量的优势。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
几十年来，人工智能领域一直存在着一种持久而安静的希望：即生物大脑那杂乱的生物布线可能隐藏着构建更智能机器的秘密。这个想法很简单。进化花费了数百万年的时间来完善动物神经元之间的连接，创造出了高效、模块化且在学习方面表现出惊人能力的网络。如果我们能够复制那些特定的连接模式——即“布线图”——并将它们粘贴到一个旨在理解语言的计算机程序中，也许计算机就能学得更快，或者思考得更清晰。这种希望不仅仅是一个隐喻，它是一个可测试的问题。大脑的物理图谱能否作为机器学习模型的有效起点或“归纳偏置”？为了找出答案，研究人员转向了黑腹果蝇（Drosophila melanogaster）。科学家已经绘制出了成年果蝇整个神经系统的图谱，识别出大约13.9万个神经元和数千万个连接。这张被称为“连接组”的图谱，是目前已知最详细的动物大脑布线图。现在的疑问是，这种特定的生物蓝图是否真的能改进一个语言计算机，还是说果蝇大脑的复杂性与处理人类语言的任务相比实在相差太远。
一位研究人员致力于通过一项严谨且预先计划好的实验来回答这个问题。他们并非仅仅猜测果蝇的大脑会有所帮助；他们设计了一系列严格的测试，其中获胜的规则在收集任何数据之前就已经写明。其目标是观察使用果蝇的布线图是否能让一个小型的语言模型在预测句子中下一个词的能力上，优于使用随机的一组连接或完全不使用特殊图谱的模型。他们测试了几种使用果蝇解剖结构的途径。首先，他们尝试将该图谱作为引导计算机关注句子不同部分的指南。然后，他们用一个冻结的、不可更改的果蝇嗅觉系统副本替换了计算机处理引擎的一个标准部分，该系统以扩展信息和过滤信息而闻名。最后，他们测试了一个受果蝇存储记忆方式启发的更复杂的想法：一个信息被隐藏起来，且只能通过特定的“提醒”信号进行检索的系统，这一概念被称为“沉默印迹”（silent engram）。
结果清晰且一致：果蝇的布线图并未提供任何可衡量的优势。在第一组测试中，即研究人员使用果蝇图谱来引导计算机注意力的测试中，该模型的表现并不比没有任何图谱的模型更好。事实上，当他们将基于果蝇的模型与使用相同规模的完全随机网络的模型进行比较时，随机网络的表现往往与之持平甚至更好。研究人员发现，尽管果蝇的图谱包含有趣的模式，但这些模式并不能转化为比空白状态更好的理解语言语法或事实的能力。其中一个具体的测试涉及提取果蝇大脑的原始连接，并利用它们来预测词语之间的关系。虽然果蝇图谱有时可以击败其自身的打乱版本，但它无法击败“没有任何图谱”这一基准线。性能差异如此之小，以至于在统计学上与随机概率无法区分。
实验进一步测试了将果蝇大脑作为标准计算机组件替代品的可能性。研究人员提取了果蝇大脑中负责扩展感官输入并进行过滤的部分，并将其固定下来，作为语言模型的固定处理器。他们曾预期这种生物结构会成为一种更优的信息处理方式。然而，该计算机的表现反而不如使用相同规模的简单随机网络。生物性的扩张并非提升语言处理能力的魔力钥匙；在这种语境下，它是一个比标准、无结构的网络效率更低的工具。研究人员还测试了“沉默印迹”的想法。在果蝇中，记忆可以以一种在常规检查中不可见的方式存储，只有当特定的化学信号作为提醒时才会变得可访问。研究人员构建了一个模拟这种行为的计算机系统，试图观察这种用于隐藏和检索记忆的生物技巧是否比标准计算机记忆具有优势。他们发现，虽然他们可以构建一个运作方式类似于果蝇的系统，但一个更简单的通用计算机程序完全可以同样出色地完成这项工作。果蝇这种隐藏记忆的特定方法并非独特或优越；一个标准的、受约束的选择器可以在不需要复杂生物蓝图的情况下实现同样的结果。
甚至研究人员试图将果蝇大脑作为寻找信息的工具（类似于果蝇利用大脑识别气味）的尝试，也未能超越标准方法。当他们使用果蝇的扩张机制作为查找数据的一种方式时，一种随机的扩张方法表现得更好。密集的、标准的计算机方法在检索正确信息方面要优越得多。研究还观察了果蝇的中央复合体，这是大脑中负责导航和维持方向感的部分。他们尝试看看这种结构是否可以作为计算机中的稳定记忆环，从而随时间保留一段信息。测试表明，该果蝇结构保留信息的能力并不比随机网络更好；事实上，信息在对照组中消退得更快。
在整个研究过程中，研究人员非常谨慎地区分了他们测试的内容与未测试的内容。他们并未声称果蝇的大脑对于所有机器学习都是无用的，也没有说大脑是不好的计算机模型。他们只是表明，这些特定的尝试将果蝇的布线复制到语言模型中的做法并未奏效。作为背景参考的那个拥有8亿参数的模型，其性能优越并非因为果蝇的图谱，其性能是单独测量的，并不属于连接组实验的一部分。研究得出结论，虽然可以构建一个使用类似于果蝇的稀疏、家族级通信的计算机，但 Drosophila 项目图谱的具体拓扑结构相对于随机或学习到的连接而言并无优势。在这种情况下，生物蓝图并不是通往更智能机器的捷径。实验证明，进化为果蝇大脑提供的解决方案，并不自动解决教计算机理解人类语言的问题。通过这项特定且经过仔细衡量的研究，复制大脑布线图能瞬间提升人工智能的希望，并未得到证据的支持。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。