The New Associationism: Lessons from Deep Learning

以下是丹尼尔·罗斯柴尔德（Daniel Rothschild）的论文《新联结主义：深度学习带来的启示》（The New Associationism: Lessons from Deep Learning）的解析，使用了简单的语言和日常类比。

核心思想：AI 是我们学习方式的一面镜子

想象一下，你正在试图弄清楚人类大脑是如何学习的。长期以来，科学家们一直在争论：我们是通过遵循严格的规则（就像计算机程序一样）来学习，还是通过基于经验建立联系（比如婴儿学习叫“妈妈”）来学习。

这篇论文认为，现代人工智能（AI）为我们提供了一个强有力的线索：我们很可能主要是通过基于经验建立联系来进行学习的。 作者称之为向**联结主义（Associationism）**的一次“适度但真实”的回归。

以下是该论文三个主要观点的简单拆解。

---

1. 秘密武器：“监督学习”

你可能认为 AI 以多种不同的方式学习。但论文指出，现代 AI 所做的所有惊人之举（写诗、下棋、识别人脸）实际上都依赖于一种特定的方法：监督学习（Supervised Learning）。

类比：批改作业
把监督学习想象成一个拿着答案解析做作业的学生。

• 输入： 学生看到一道数学题。
• 输出： 学生写下一个答案。
• 反馈： 老师（或计算机）对照答案进行检查。如果答案错了，老师会说：“你差了 5 分。”
• 学习： 学生稍微调整自己的大脑，以便下次能得到更接近正确答案的结果。

论文指出，即使 AI 看起来在做完全不同的事情（比如玩电子游戏或生成艺术），它实际上也在秘密地进行这种“检查答案并进行调整”的常规操作。唯一的区别在于这个“答案解析”是如何生成的。有时由人类编写；有时由计算机自己创建答案解析（例如预测句子中的下一个词）。

要点： 论文声称，一个单一且简单的机制——从错误中学习——是驱动几乎所有现代 AI 成功的引擎。

2. “顿悟”时刻：将难题转化为“作业”

论文认为，AI 最大的突破不仅仅是更快的计算机或更多的数据。而是一个聪明的技巧：将困难的问题重新定义，使其看起来像简单的作业。

类比：“去噪”游戏
想象你想教机器人画一只猫。

• 困难的方法： 告诉机器人：“画一只猫。”机器人完全不知道从哪里开始。
• AI 的技巧（扩散模型）： AI 从一张纯粹的静态噪声图开始。然后它被布置了一个“作业任务”：“这里有一张带有噪声的图片。你能猜出原本的噪声是什么吗，以便我们可以将其去除？”
• 结果： 通过无数次练习这个“猜噪声”的游戏，AI 学会了猫的形态模式。最终，它可以从纯噪声开始，通过“去除”噪声来显现出一只完美的猫。

作者说，语言也是如此。我们不是在教机器人语法规则，而只是问它：“这是一个缺词的句子。哪个词填在这里？”通过进行数十亿次这种简单的“填空”游戏，机器人学会了写作、翻译和推理。

要点： 现代 AI 的天才之处在于意识到，几乎任何复杂的任务都可以转化为一个“猜答案”的游戏，从而让简单的错误修正引擎发挥作用。

3. 旧有的争论：规则 vs. 联结

几十年来，心理学家一直在争论：“人类不能仅仅靠建立联系；我们需要复杂的规则来思考。”这篇论文说：“事实上，AI 证明了他们错了。”

类比：肌肉训练

• 旧观点： 要举起重物（进行复杂思考），你需要一个特殊的、预先建好的起重机（先天规则）。
• 新观点（联结主义）： 你不需要起重机。你只需要一块肌肉，每当你举起重量并失败时，它就会变得更强壮。
• 证据： AI 系统在开始时几乎一无所知（没有起重机）。它们只是不断地练习举重（进行预测并修正错误）。最终，它们变得足够强大，可以举起最重的重量（超越人类水平的国际象棋、复杂的推理）。

论文认为，这种“肌肉构建”（根据错误调整连接）的力量足以解释我们如何学习几乎任何事物。

---

“但是……”（局限性）

作者谨慎地表示，AI 并不是人类大脑的完美复制品。他提出了三个重要的注意事项：

1. 训练 vs. 执行： 学习过程（缓慢的、由错误驱动的肌肉构建）是联结主义的。但思考过程（当 AI 实际解决问题时）看起来非常快速且聪明，几乎像是正在使用规则。论文认为这没问题：一个缓慢的、由错误驱动的训练过程可以构建出一个看起来在使用规则的系统。
2. 硬件很重要： 虽然学习方法很简单（错误修正），但 AI 的结构却极其复杂。这就像说汽车引擎依靠汽油运行（学习方法），但汽车还需要底盘、车轮和方向盘（复杂的架构）才能实际行驶。论文指出，现代 AI 的“底盘”比早期联结主义心理学家想象的要复杂得多。
3. 先天 vs. 后天： 论文支持我们通过经验学习（联结主义）的观点，但它并未证明我们没有先天规则。它表明，虽然学习的“引擎”对所有事物都是一样的，但我们喂入引擎的“零件”（我们的感官、我们的注意力）可能是由进化预先设定的。

总结

论文的主要结论是：
现代 AI 向我们展示了，一种简单且通用的方法——通过犯错并进行微调来进行学习——是多么强大。这支持了关于我们大脑通过建立联系进行学习（联结主义）的旧观点。然而，这个简单的引擎只有在被构建在一个极其复杂、精密的结构之中时，才能发挥出最佳效果。

用一句话概括： 我们很可能通过不断纠正错误来学习，就像 AI 一样，但我们的大脑拥有一个比早期理论所暗示的要复杂得多的“底盘”。