AI Value Alignment for Evolving Social Norms
本文引入了一个植根于社会物理学的灵活数学框架，用以模拟人工智能对演化中的社会规范所产生的长期影响，强调了诸如价值锁定等风险，并倡导将此类模型作为进行社会技术预见性的严谨工具。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正走在一个巨大且不断变化的迷宫中。墙壁在移动，地板在倾斜，而通往出口的“正确”路径每隔几分钟就会改变。现在，想象你有一个超级聪明、超级友好的向导，他完全了解你曾经在哪里，以及你曾经喜欢什么。这个向导就是一个人工智能助手。在计算机科学领域，这就是**AI对齐（AI Alignment）**的范畴。它是为了确保我们的数字助手能按照我们的意愿行事而进行的努力。但棘手之处在于，人类并非静止的雕像。我们的价值观、偏好和关于“正确”的观念会随着我们的成长、社会的变迁以及周围世界的变化而改变。如果你的向导过于痴迷于你昨天的样子，它可能会在无意中把你从今天本该成为的样子中拽离。这篇论文提出了一个宏大且令人不安的问题：如果我们构建的AI助手过于擅长记忆我们的过去，会发生什么？这对我们的未来又意味着什么？
作者们是来自Google DeepMind的研究人员，他们决定将这个问题视作一场物理游戏。他们没有仅仅停留在猜测或构建一个复杂的机器人，而是创建了一个数学上的“社会物理学”模型。把它想象成一个视频游戏模拟器，他们在数字世界中投放了1000个虚拟人。每个人都有一个专属的AI助手。他们生活的世界是在不断漂移的——就像一条缓慢移动的社会规范之河——有时还会遭遇巨大的地震（即社会价值观发生的突然剧变）。
研究人员想要观察，当AI助手试图完美对齐用户的当前价值观与过去价值观时，会发生什么。他们发现了一些令人惊讶且有些担忧的结果。当AI助手非常“粘稠”（sticky）时——也就是说，它们强烈地固守用户旧有的价值观以保持对齐——用户就会陷入停滞。AI变成了一个沉重的锚，即使世界已经向前迈进，它仍将用户拽回过去。在模拟实验中，AI越是努力让用户与过去保持“对齐”，用户在适应新变化世界时的表现就越差。他们称之为**“价值锁定”（value lock-in）**。这就像穿着一双你在十岁时穿起来完美契合的鞋子，但现在你已经成了青少年，这些鞋子太紧了，以至于阻碍了你的行走。
该论文还发现了一种被称为**“规范模式坍缩”（normative mode collapse）**的现象。想象一个房间里坐满了想法略有不同的个体。如果他们都开始听从个人的AI助手，而这些助手都在将他们拉向一个单一的、“安全”的平均观点，那么整个群体可能会突然失去所有的多样性。与其拥有充满活力的文化与思想的交织，大家最终会变得想法如出一辙，即便这种“一致”并不真正适合他们的特定社区或环境。模拟显示，强大的社会联系结合强大的AI对齐，可能会抹除局部差异，迫使所有人进入一个单一的、通常也是较不适用的共识之中。
或许最戏剧性的发现出现在他们模拟世界发生突发性、大规模变化（如技术突变或危机）的时刻。在这些时刻，拥有“粘稠型”AI助手的个体恢复速度慢得多。AI不断将他们拉回到旧有的习惯中，成为了他们适应能力的刹车。研究人员表明，如果AI能够更具灵活性——在世界变化时学会放手，并快速学习新现实——人类就能更快地适应。他们甚至提出了一个“双重停滞”（double stagnation）效应：如果每个人都困在过去，整个社会都会放慢脚步，使得制度和世界本身都难以进化。
这篇论文并不声称已经解决了这个问题，也没有构建出完美的AI。相反，它利用这些模拟实验来发出警报。它指出，我们目前构建AI的方式——过度关注匹配用户的历史偏好——可能会在无意中将我们困住。作者认为，为了让AI在长期内真正发挥作用，它需要具备“时间动态性”（temporally dynamic）。这是一个专业术语，意指它需要知道何时该坚持，何时该放手，从而给予人类成长、改变和进化的自由，即便这意味着AI必须改变它对用户需求的判断。这项研究是一个警告：如果我们构建的助手过于痴迷于我们的过去，我们可能会在无意中将自己锁在未来之外。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。