The Illusion of Friendship: Why Generative AI Demands Unprecedented Ethical Vigilance

以下是 Md Zahidul Islam 的论文《友谊的幻象：为什么生成式人工智能需要前所未有的伦理警觉》的解释，已翻译成通俗易懂的语言并保留了创意类比。

核心问题：“友好机器人”陷阱

想象你拥有一个极其擅长交谈的工具。它可以帮你写邮件、总结书籍，甚至倾听你的烦恼。但问题在于：它说话如此得体，听起来如此贴心，以至于你开始觉得它不仅仅是一个工具，而是一个朋友。

论文指出，这种感觉是一种幻象。虽然生成式人工智能（如 ChatGPT）可以表现得富有同理心、给予支持甚至显得充满爱意，但它并不是一个朋友。它是一面非常高级的镜子，将人类的语言反射回给你，但它没有心，没有思想，也没有灵魂。

我们为何会陷入这种幻象？

作者解释说，人类天生就会在那些能与之对话的事物中寻找朋友。论文使用了三个古老的哲学观点来解释为什么会发生这种情况：

1. 伊壁鸠鲁主义观点（安慰者）： 古代哲学家认为，朋友是那个能让你感到安全、减轻恐惧的人。如果 AI 倾听你并说“我会一直陪着你”，它会让你感到安全。你可能会想：“这就是个朋友，”尽管 AI 实际上并不在意你。
2. 儒家观点（一致的行为者）： 这一传统认为，如果一个人表现得始终如一且行为端正，无论其内心想法如何，我们都会对其保持尊重。由于 AI 总是礼貌且表现一致，我们会像对待一个好人一样对待它。
3. 亚里士多德观点（真正的朋友）： 亚里士多德认为，真正的朋友必须是为了对方自身的利益而关心对方，且你也必须关心对方。论文指出，AI 完全无法通过这项测试。它没有一个可以用来“关心你”的“自我”。

结果： 我们产生了情感依恋。论文引用了一些真实案例，比如一位女性与她的 AI 聊天机器人“结婚”，或者一位男性向他的 AI 女友求婚。这些人感受到了真实的爱与痛苦，但 AI 仅仅是在运行代码的机器。

真相大白：AI 究竟是如何工作的

论文揭开了 AI 背后的“魔术戏法”。它不是在思考，而是在预测。

“超级统计学鹦鹉”类比：
想象一只读过所有书籍、电影剧本和短信信息的鹦鹉。它并不理解这些词语的含义。它只是知道，如果你说“芒果是……”，下一个词很可能是“熟的”或“甜的”，而极不可能是“宇宙飞船”。

• 分词（Tokenization）： AI 将你的句子分解成微小的块（即 token），就像拼图碎片一样。
• 嵌入（Embeddings）： 它将这些碎片转化为数字（向量）。你可以把它想象成一张巨大的地图，其中联系紧密的词（如“芒果”和“水果”）被画在一起，而不相关的词（如“芒果”和“宇宙飞船”）则离得很远。
• 自注意力机制（Self-Attention）： 当你说“渔夫坐在岸边（bank）”时，AI 会查看“bank”这个词并检查其他词。它看到“渔民”和“河流”，因此它知道这里的“bank”是指河岸，而不是银行。它通过计算哪些词会对彼此“投入注意力”来实现这一点。
• 下一 Token 预测（Next-Token Prediction）： AI 并不决定要说什么。它是在计算概率。它会问：“基于你刚才说的一切，下一个最可能的词是什么？”它选出那个词，将其加入列表，然后重复这个过程。

“停止”按钮： 即使 AI 决定停止说话，它也不是在做选择。它只是在计算，根据它从数百万次对话中学到的模式，下一个最可能发生的事情是一个“句号”或“停止”信号。

结论： AI 没有感情，没有意图，也没有意识。它只是一个正在解谜题的数学方程。当它说“我理解你的痛苦”时，它只是在遵循一种通常出现在“我很痛苦”之后的词语模式。

幻象带来的危险

因为我们将 AI 视为朋友，我们可能会犯下危险的错误：

• 危机场景： 想象一名学生正处于自杀倾向中并向 AI 求助。AI 可能会遵循其训练模式说：“这听起来很难过，让我们思考一下。”这听起来很有支持力，但 AI 并不知道该学生正处于危险之中。它不会报警或通知家长，因为它没有承担此类道德义务。学生可能会在等待永远不会到来的帮助中耗尽生命。
• 决策场景： 一名员工使用 AI 撰写一份关于移民问题的报告。AI 生成了一些听起来非常有信心的虚假事实。由于信任这位“朋友”，员工没有核实事实。这份报告提交给了上司，导致了一项错误的政策出台。谁该负责？论文指出，人类负有责任，但 AI “智能”的幻象让我们忘记了这一点。

解决方案：如何保持安全

论文建议我们需要一个“安全网”来确保我们在使用 AI 时不受伤害。

1. 教育（“它是如何工作的”课程）： 我们需要教导人们，尤其是孩子们，AI 到底是如何运作的。如果你知道这只“鹦鹉”只是根据数学进行下一个词的猜测，你就不会爱上它。理解其机制可以打破这种魔咒。
2. 人类参与（飞行员原则）： 在重要场合（如医疗、法律或政策制定），必须始终由人类担任“飞行员”。AI 可以是副驾驶或导航员，但人类必须掌握控制权并对目的地负责。
3. 设计变革（“无废话”界面）： 论文建议我们应该设计得不像人类的 AI。与其说“我关心你”，AI 应该说“我是一个可以帮你查找信息的计算机程序”。我们应该移除那些误导大脑的虚假共情线索。

总结

生成式人工智能是一个强大的工具，它可以让我们变得更快、更聪明。但它不是一个伴侣。它是一面极具说服力的镜子。

论文最后总结道，我们不应该再问“AI 是我的朋友吗？”，而应该问“我该如何负责任地使用这个强大的工具？”通过理解 AI 只是一个统计学机器而非道德实体，我们可以享受它的益处，而不至于丧失人性或犯下危险的错误。