Exploring Academic Influence of Algorithms by Co-occurrence Network Based on Full-text of Academic Papers
本研究通过构建跨越四十余年的全文学术论文大规模共现网络，分析了自然语言处理领域算法的结构演化与集体影响力，揭示了经典且高度中心化的算法保持着主导地位，而衰落中的算法则首先失去其核心网络位置。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下计算机科学的世界，特别是研究如何让计算机理解人类语言的领域（自然语言处理，简称 NLP），就像一座巨大且繁忙的城市。在这座城市中，每一个“算法”（即计算机遵循的一套特定规则来解决问题）都是一座建筑。
长期以来，研究人员试图通过计算有多少人路过某座建筑（即该算法在论文中被提及的频率）来判断哪些建筑最重要。但这项研究表明，仅仅通过人流量来判断一座建筑的重要性，就像忽略了它是否是连接两个社区的桥梁，或者是否是市中心的一座摩天大楼一样。
以下是研究人员的工作内容，其解释如下：
1. 大地图：构建“友谊网络”
研究人员并没有仅仅计数提及次数，而是查看了 1979 年至 2020 年间数千篇学术论文的全文。他们提出了一个简单的问题：“哪些算法在同一篇论文中被共同提及？”
- 类比： 想象一场盛大的派对。如果两个人总是被看到在一起交谈，我们就他们在他们之间画一条线。如果算法 A 和算法 B 经常在同一篇论文中被讨论，那么它们就是“朋友”。
- 结果： 他们构建了一张巨大的地图（网络），其中算法是点，而线段显示了它们共同出现的频率。他们发现这张地图看起来像是一个“小世界”——这意味着尽管有数以千计的算法，但它们都出奇地接近彼此，通过短路径相互连接。
2. 衡量重要性：不仅仅是受欢迎程度
研究人员使用了四种不同的“尺子”来衡量一个算法在网络中的重要性，而不是仅仅计算提及次数：
- 受欢迎程度（度，Degree）： 这个算法有多少个朋友？（它与多少其他算法一起被提及？）
- 控制力（介数，Betweenness）： 这个算法是一座桥梁吗？如果你想从“语法”社区走到“机器学习”社区，是否必须经过这座特定的建筑？如果是，它就拥有高控制力。
- 中心位置（接近度，Closeness）： 这个算法是在市中心吗？它能快速到达其他所有地方吗？
- 平衡性（熵，Entropy）： 这个算法是一个公平的朋友吗？它是平等对待所有邻居，还是只和某个特定的群体混在一起？
3. 三位“超级巨星”的故事
研究人员追踪了三个特定“建筑”的影响力随时间变化的轨迹：
- 老派守卫者（上下文无关语法 - Context-Free Grammar）： 在早期（1980-90年代），它是王者。它是基础。但随着城市的扩张和更复杂的新社区出现，这座古老的建筑变得不再那么核心。它并未消失，但它不再是每个人都必须经过的主要桥梁。
- 桥梁搭建者（支持向量机 - SVM）： 这个算法出现得较晚。它之所以成名，是因为它非常全能。它充当了连接旧的“统计学”方法与新的“深度学习”方法的桥梁。它是完美的中间人，连接了旧思想与新思想，这使得它在很长一段时间内都处于领先地位。
- 新王（LSTM 与 BERT）：
- LSTM 到达后，迅速成为了新的城市中心。它处理序列（如句子）的能力如此出色，以至于几乎每个新项目都必须提到它。它成为了最“中心”的建筑。
- BERT（一个较新的模型）在最近（约 2020 年前后）到来，并立即开始撼动这座城市。它如此强大，以至于已经开始取代 LSTM 成为新的中心枢纽。
4. 算法的生命周期
研究发现这些“建筑”兴起与衰落的模式：
- 兴起： 当一个算法既新颖又实用时，它开始与许多其他算法建立联系。
- 巅峰： 它成为一个“桥梁”或“枢纽”，坐落在网络的中心，连接着不同的群体。
- 衰落： 最终，它会先失去其“桥梁”地位。它不再是那个必不可少的连接者。然后，它开始失去它的“邻居”（其他算法不再提及它）。最后，它变成了一个位于城市边缘的安静建筑，虽然还在那里，但已不再是关注的焦点。
5. 为什么这很重要
研究人员认为，观察网络（谁与谁是朋友）所讲述的故事与仅仅观察受欢迎程度（提及了多少次）是不同的。
- 令人惊讶之处： 一些并非被提及次数最多的算法，可能实际上是最重要的，因为它们维系着整个网络。它们是粘合剂。
- 教训： 要真正理解人工智能的历史和未来，我们需要看到这些工具是如何协同工作的，而不仅仅是看它们被提到了多少次。
简而言之： 这篇论文不仅计算了算法被提及的次数，还绘制了它们的社交生活。它表明，最具影响力的算法通常是那些在不同技术时代之间充当桥梁、并在新一代接管之前维系整个社区的算法。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。