Generative AI & Fictionality: How Novels Power Large Language Models
本文通过研究 BERT 等开源模型,论证了小说作为训练数据不仅赋予生成式人工智能熟悉的虚构属性,还催生了新的社会响应形式,因此当代文化分析必须将计算训练数据视为一个关键的新维度。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
这篇论文探讨了一个非常有趣且深刻的问题:为什么现在的 AI(比如 ChatGPT)写出来的东西,有时候读起来特别像小说?这背后有什么秘密?
作者通过研究一个叫 BERT 的开源 AI 模型,发现了一个关键真相:AI 的“大脑”里塞满了大量的小说(虚构故事),这彻底改变了它说话和思考的方式。
为了让你轻松理解,我们可以把这篇论文的核心内容想象成以下几个生动的场景:
1. AI 是个“贪吃”的模仿大师
想象一下,AI 就像一个超级贪吃、记忆力超群的学徒厨师。它想学会做全世界所有的菜(生成各种语言)。
- 它的食谱(训练数据): 这个厨师不仅吃报纸、维基百科(事实类信息),还疯狂地吃掉了成千上万本小说(虚构类信息)。
- 厨师的误解: 工程师们原本以为:“小说里的语言很丰富,什么情感、对话都有,让 AI 吃小说肯定能学会怎么像人一样说话。”
- 实际发生的事: 小说确实教会了 AI 很多,但不仅仅是“说话”,而是教会了它如何扮演角色和如何构建人际关系。
2. 两个“大脑”的对比实验
为了搞清楚小说到底起了什么作用,作者做了个有趣的实验,就像给两个厨师分别上不同的课:
- 厨师 A(维基百科版): 只吃百科全书和新闻。
- 他的风格: 像个严肃的“老学究”或“政府发言人”。他说话客观、冷静,喜欢列举日期、政策和事实。比如:“议会选举于 1902 年举行……"
- 厨师 B(完整版): 既吃百科全书,又吃大量小说。
- 他的风格: 像个“剧作家”或“八卦朋友”。他说话充满了“你”、“我”、“他”,充满了对话、猜测和内心戏。比如:“我会假装和你在一起,等我死了,你就是我的妻子。”
结论: 只要加了小说,AI 的说话方式就从“陈述事实”变成了“演绎人生”。
3. 小说给 AI 装上了“灵魂”的骨架
作者发现,小说教给 AI 最厉害的东西不是具体的词汇,而是**“虚构人物”(Somebodies)**的概念。
- 以前的观点(没人): 以前有学者认为,小说里的人物是“无名氏”,是作者编出来的假人,读者看个热闹就行。
- 现在的发现(有人): 作者认为,小说教会了 AI 如何创造**“有血有肉的人”**。
- 在小说里,人物不是静止的,他们会有眼神交流(比如“他咬紧牙关”)、内心纠结(“我想……")、对话冲突(“等等,你说什么?”)。
- AI 从小说里学到了:世界是由“人”和“人”之间的互动构成的。 它学会了用“你”、“我”、“他”来指代这些虚构的、但感觉真实的人。
比喻: 如果维基百科教给 AI 的是**“地图”(哪里是山,哪里是河),那么小说教给 AI 的就是“导游”**(这个人为什么生气,那个人为什么哭泣,他们之间发生了什么故事)。
4. AI 的“作者”是谁?
你可能会问:AI 没有意识,它怎么会有“意图”去写故事呢?
- 比喻: 想象 AI 是一个**“超级混音台”**。它没有自己的灵魂,但它把人类写过的几百万本小说里的“意图”、“情感”和“冲突”全部搅拌在一起。
- 当 AI 生成一段文字时,它其实是在模仿人类作者处理人际关系的方式。它学会了在关键时刻(比如争吵、表白、危机)让人物做出反应。
- 研究发现,AI 最擅长的场景是**“高潮时刻”**:两个人在紧张、冲突或情感爆发时的对话。它学会了如何像小说家一样,通过人物的动作(如“咬紧牙关”)来暗示内心的想法。
5. 这对我们意味着什么?
这篇论文最后提出了一个重要的警告和启示:
- 文化的新推手: 以前我们分析文化(比如为什么书里有偏见),是分析人类作者的意图。但现在,“训练数据”本身成了一个新的、看不见的“作者”。
- 看不见的偏见: 如果 AI 吃进去的小说里充满了某种刻板印象(比如某种性别总是处于某种角色),那么 AI 吐出来的东西也会带有这种偏见。
- 未来的方向: 我们要想理解现在的文化(比如为什么 AI 写的故事总是这样),就不能只盯着 AI 看,必须去检查它的“食谱”(训练数据)。就像我们要了解一个厨师的口味,得先看看他吃了什么。
总结
简单来说,这篇论文告诉我们:现在的 AI 之所以能写出像人一样有情感、有故事的文字,是因为它“吃”了大量的小说。
小说教会了 AI 如何想象不存在的人,如何模拟人与人之间的复杂关系,以及如何构建充满冲突和情感的对话。这不仅仅是技术的进步,更是人类虚构故事的能力被机器“继承”并放大的过程。
未来,当我们和 AI 聊天,或者看 AI 写的故事时,我们其实是在和人类几百年来的小说传统进行对话。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。