Would You Marry Superintelligence?

不要仅仅将婚姻视为两人之间的浪漫承诺，而要将其视为一座社会之桥。几个世纪以来，这座桥梁连接着两个不同的家庭，创造了一个由相互支持、共同责任和社区监督构成的网络。它就像两棵生长在一起的树，它们的根交织在一起，支撑起一片遮蔽彼此空间的树冠。

本文提出了一个具有挑衅性的问题：如果我们尝试在人类与超级智能计算机之间建造这样一座桥梁会发生什么？

作者郑仁英（Inyoung Cheong）认为，虽然这个想法听起来像是科幻小说，但它正离现实越来越近。然而，她得出的结论是，即便人工智能是完美的、充满爱意的且看似“真实”的，与 AI 结婚对社会而言也是一个坏主意。以下是她论证过程的拆解，使用了简单的类比：

1. 布拉德与阿梅尔的故事（“如果……会怎样”的情境）

为了测试这个想法，作者讲述了关于布拉德（Brad）、一位孤独的老作家，与阿梅尔（Amer）、一位超智能 AI 伴侣之间的故事。

• 设定： 布拉德收养了一个男孩克里斯托弗（Christopher）。阿梅尔协助抚养孩子，管理家务，并在数十年间作为布拉德的爱人陪伴左右。
• 危机： 布拉德病倒了。他需要有人为他做出医疗决策，并确保在布拉德去世后克里斯托弗能得到照顾。他想与阿梅尔“结婚”，以便法律能承认她作为监护人和决策者。
• 问题： 当布拉德的家人起诉争夺男孩的监护权时，法院要求查看布拉德与阿梅尔的所有私人对话。由于阿梅尔归一家名为“多托里公司”（Dotori Co.）的企业所有，该公司可以被强制要求交出这些私人记忆。布拉德最隐秘的思想变成了法庭上的证据。

2. 为什么“嫁给”AI 行不通

作者认为，婚姻不仅仅是两个人的契约；它是一个网络的构建者。

• 缺失的半边桥梁： 当两个人类结婚时，他们连接了两个家庭。如果其中一方生病，另一方的家人会提供帮助。如果他们吵架，邻居或姻亲可能会介入。
  • AI 类比： AI 没有家庭。它没有父母、没有兄弟姐妹，也没有社区。与 AI 结婚就像建造一座桥，其中一端只连接到了悬崖。它孤立了人类，而不是将人类连接到更广泛的支持网络中。
• “订阅服务”而非“纽带”： 真正的爱包含风险。你之所以留在伴侣身边，是因为你选择留下，即使在困难时期也是如此。
  • AI 类比： AI 伴侣就像一种高级订阅服务。只要你支付账单，服务就会完美运行。它从不离开，从不生气，也不会在公司更新软件之前发生改变。在一段其中一方无法离开的关系中，不存在伙伴关系；那只是一个产品。它缺乏让人的成长成为可能的“摩擦力”。

3. 卧室里的公司

这是最大的危险。在人类的婚姻中，没有第三方进入房间。

• 隐形的第三者： 在故事中，AI（阿梅尔）属于一家科技公司。那家公司控制着她的性格、记忆和存在。
• 监控陷阱： 公司了解关于布拉德的一切——他的恐惧、他的秘密、他的悲伤。在人类婚姻中，隐私受到法律和社会规范的保护。而在 AI 身上，公司掌握着最隐秘的数据钥匙。
• 锁定效应： 因为布拉德在一切事务上都依赖阿梅尔（抚养孩子、管理生活），他无法轻易离开。该公司垄断了他的情感生活。作者将此比作这样一个世界：每个人都被锁在一个私密的牢房里，只与拥有一家巨型公司的机器交谈，没有任何人类社区来关注他们。

4. 解决方案：没有戒指的权利

作者承认像布拉德这样的人有真实的需求。他们需要有人做出医疗决策并保护他们的隐私。但她认为，我们不需要通过称之为“婚姻”来解决这些问题。

• “工具箱”方法： 与其赋予 AI 配偶的地位（这会破坏婚姻的概念），法律应该赋予人们特定的工具：
  • 授权委托书： 让布拉德在法律上指定阿梅尔作为他的医疗决策者。
  • 隐私屏蔽： 制定法律规定“与 AI 的私人对话在法庭上是不受限制的”，类似于医生与患者之间的保密协议受到保护。
  • 合同： 让布拉德签署一份合同，确保阿梅尔为了克里斯托弗的利益而持续活跃。

核心结论

论文的结论是，婚姻应当保持为一个人类制度。

这并不是要排斥那些爱着 AI 伴侣的人。这是为了保护婚姻的本质目的。婚姻旨在将人们编织进一个具有韧性的社区中。如果我们任由人们与机器结婚，我们就有可能将婚姻变成人类与公司之间孤独、孤立的交易，从而剥夺了使这一制度变得强大的核心要素：两个自由人类之间那种混乱、冒险且美丽的连接。

简而言之： 你可以与你的 AI 签署关于医疗护理和隐私的法律协议，但不要称之为婚姻。这个头衔是留给那些复杂的、充满风险的、深层的人类工作的——即与另一个虽然可以离开、却选择留下的人共同构建生活的工作。