Simulating Human Memory with Language Models
本文表明，尽管开箱即用的语言模型相较于人类拥有过于可靠的记忆，但通过应用特定的提示策略和记忆压缩器可以诱发类人的遗忘，从而提升其作为教育情境中用户模拟器的有效性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图教一个机器人如何成为一名学生，以便在将其方法应用于真人之前，先在它身上测试你的教学手段。你当然希望这个机器人能像人类一样遗忘事物，对吧？如果这个机器人能完美地记住一切，那它对于人类教师来说就不是一个很好的测试对象了。
这篇论文讲述的是一群研究人员试图构建一个能像人类一样遗忘事物的“学生机器人”的故事。他们发现，标准的人工智能模型实际上在记忆方面过于出色，因此他们不得不构建特殊的“遗忘机器”来修正这一问题。
以下是他们研究发现的简述，分为几个简单的部分：
1. 问题所在：拥有完美记忆的机器人
研究人员为人类和人工智能模型设计了一系列记忆测试。你可以把这些测试想象成：
- 数字游戏：记住一串数字并倒序复述。
- 故事游戏：阅读一篇短文并逐字复述。
- 地图游戏：查看一张城市地图，然后在不看地图的情况下回答如何从 A 点到达 B 点。
结果：人类表现尚可。他们能记住大约 7 个数字，复述出故事的几个细节，对地图也记得比较清楚。但人工智能模型呢？它们简直是超级英雄。它们能完美记住 20 个数字，一字不差地背诵整篇故事，并毫无差错地规划地图路线。
即使研究人员告诉人工智能：“嘿，表现得像个疲惫且健忘的人类一样，”人工智能也置若罔闻，继续完美地记住一切。这就像告诉相机拍一张模糊的照片；相机却继续拍摄清晰、高画质的照片，因为这就是它被设计来做的。
2. 解决方案：“四格”背包
研究人员意识到，仅仅要求人工智能去遗忘是行不通的。他们需要改变人工智能的“背包”。
在人类心理学中，有一个著名的观点：我们的短期记忆就像一个只有四个隔层（或“组块”）的背包。如果你试图往里面塞进超过四样东西，最旧的那些就会掉出来。
因此，研究人员构建了一种名为**COMPACTOR（压缩器）**的特殊工具。
- 工作原理：在人工智能尝试回答问题之前，它被迫将刚刚读取的所有信息放入一个只有四个槽位的“背包”中。
- 关键点：它必须对信息进行总结以使其适配。如果故事很长，它就必须将细节挤进四个小格子里。任何放不下的内容都会被丢弃。
- 结果：突然间，人工智能开始遗忘事物了！它开始犯错。它忘记了地图的部分内容。它混淆了数字。它终于开始像一个 struggling（苦苦挣扎）的人类学生那样表现，试图跟上节奏。
3. “假”人类 vs. “真”人类
研究人员还尝试了其他几种让人工智能表现得像人类的技巧：
- “表演”技巧：他们给人工智能展示了人类犯错的例子，并说：“照这样模仿。”
- 结果：效果不佳。人工智能可以模仿犯错的风格，但它并没有真正遗忘信息。这就像一个演员假装绊倒，但走起路来依然完美无缺。
- “总结”技巧：他们要求人工智能仅根据文本的总结来回答问题。
- 结果：这有所帮助，但**COMPACTOR（四格背包）**无疑是赢家。它迫使人工智能真正丢失信息，而这正是真正的人类会做的事情。
4. 这为何重要？（“教学”测试）
为了验证这种新的“遗忘型人工智能”是否真的有用，研究人员进行了一项最终测试。他们假装人工智能是课堂上的学生。
他们向人工智能（以及真实的人类）展示了同一本传记的不同版本：
- 版本 A：用简单、易懂的语言写成。
- 版本 B：用非常复杂、难懂的语言写成。
- 版本 C：充满了重复的事实（冗余）。
- 版本 D：充满了分散注意力、无用的信息。
他们问道：“人类学生会记住哪个版本的故事最好？”
- 标准人工智能（完美记忆）：回答说：“哦，人类会完美地记住所有版本！用哪个版本都无所谓。”（这是错误的，因为人类确实难以处理复杂或分散注意力的文本）。
- COMPACTOR 人工智能（类人记忆）：回答说：“人类在处理复杂版本和分散注意力的版本时会感到吃力，但在处理简单版本或重复版本时会表现尚可。”
COMPACTOR 人工智能在预测真实人类能处理什么方面要出色得多。它意识到，如果你给人类太多困难的内容，他们就会遗忘。
核心结论
该论文得出结论：如果你想利用人工智能来模拟人类（例如，用于测试新的教学方法或设计更好的用户界面），你不能直接使用标准的人工智能。标准人工智能过于完美。
你必须在其中构建人为的限制——比如一个只有四个槽位的背包——让它们像我们一样遗忘事物。只有这样，它们才能成为真实人类有用的替代品。
这篇论文没有说：
- 它没有说这将治愈人类的记忆丧失。
- 它没有说这些机器人将取代人类教师。
- 它没有声称人工智能现在已“完美”地像人类；即使是最好的“遗忘型”人工智能，其犯错的类型也与人类不同。它只是比以前更接近人类了。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。