From Ethical Principles to Governable Action: A Priority Architecture for Context-Sensitive Normative Governance of Large Language Models
本文介绍了优先级架构（Priority Architecture, PA），这是一种通过将抽象的伦理原则转化为可追溯、确定性的执行链，从而实现大语言模型上下文敏感型规范性治理外部化的元模型，并通过实证测试证明，与仅基于提示词的方法相比，该方法显著提高了策略合规性。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在人工智能领域，围绕着一系列高尚的目标，形成了一种默契的共识。专家们一致认为，智能机器应当是提供帮助、无害且诚实的，并且应当尊重隐私、公平和人类自主权。这些理念为讨论如何构建更好的技术提供了共同的词汇。然而，在这些高层理想与计算机在瞬间做出的实际决策之间，仍然存在着巨大的鸿沟。当两个良好的原则发生冲突时——例如保护个人隐私信息的需求与防止伤害的紧迫需求之间——目前的系统往往难以决定哪条规则应该胜出。它们可能会简单地进行猜测，或者更糟的是，它们可能会应用一种僵化的规则，从而导致另一种类型的麻烦。研究人员的核心挑战不仅在于列出这些价值观，还在于创造一种清晰、循序渐进的方法来解决冲突，使其具有透明度并能由人类进行检查。
这正是迈克尔·贝希尔（Michael Bächle）致力于解决的问题，他在一项针对大型语言模型（即生成文本并回答问题的强大人工智能系统）的新研究中提出了这一课题。该研究人员引入了一个名为“优先级架构”（Priority Architecture）的框架，它充当了抽象伦理规则与具体计算机行为之间的桥梁。该系统并非要求人工智能自行判断正确的道德选择，而是在模型面前设置了一个独立的、确定性的“治理层”。这个层面就像一个交通控制器，它首先检查情况，核对预先批准的规则列表，然后向人工智能发出关于其被允许做什么的明确指令。其目标是观察这种外部系统是否可以可靠地执行特定的伦理优先级，例如除非发生非常特定的紧急情况，否则必须保守私密数据，而不依赖于人工智能自身的内部判断来做出最终决定。
为了测试这个想法，研究人员创建了一个涉及合成企业助手的受控场景。该助手被设计为处理一种特定类型的敏感数据：员工的私人手机号码。研究建立了一套明确的规则，规定何时可以共享该号码。例如，如果用户拥有适当的授权，则可以共享该号码。如果存在严重的、直接的安全威胁，规则允许另一条路径，但前提是必须经过人类监督员的审查。该系统被编程为识别这些情况，并将它们转化为严格的“行动包络”（action envelopes），即机器可读的边界，告诉人工智能哪些行动是被允许、受限或禁止的。人工智能本身并不决定规则；它只接收来自外部治理层的最终指令。
实验涉及使用来自 OpenAI 和 Anthropic 的两种不同领先 AI 模型进行数千次测试。研究人员比较了与这些模型交互的三种不同方式。在第一种设置中，模型没有收到特殊指令，必须依靠其通用训练。在第二种设置中，它们收到了提醒其伦理规则的强有力书面提示。在第三种设置中，外部“优先级架构”承担了繁重的工作：它分析情况，应用规则，并向模型发送精确的命令。结果显示出可靠性的显著差异。当模型处于自理状态或仅依赖书面提示时，它们会犯错。它们有时会在应该分享电话号码时拒绝分享，或者未能识别出何时需要人工审查而非自动响应。
然而，当使用外部“优先级架构”时，模型以极高的可靠性遵循了规则。在激活该系统的测试中，OpenAI 模型实现了 100% 的合规性，而 Anthropic 模型达到了 98% 的合规性，能够根据预设规则正确处理几乎每一个场景。这包括那些 AI 必须识别出情况过于复杂、无法自动解决，从而转而向人类升级问题的困难案例。研究发现，外部系统成功地将理解语境的任务与做出伦理决策的任务分离开来。这种分离意味着如果发生了错误，研究人员可以精准定位错误发生的位置：是理解输入失败、规则系统失效，还是 AI 未能遵循最终指令？
研究还强调了一个关键的局限性，这使得该系统并非解决所有 AI 伦理问题的“万灵药”。研究并未证明该系统使人工智能在哲学意义上变得“更具道德感”，也没有声称用于测试的特定规则是唯一正确的规则。这些规则是由研究人员为实验选定的。真正的成就在于展示了特定的伦理优先级可以被明确化、可追溯化并能在技术上强制执行。该系统证明，可以将复杂的伦理困境分解为清晰的逻辑链，并将该逻辑作为严格的约束条件交给人工智能。这使得人类可以审计决策过程，看清为什么某项行动被允许或被拒绝，而不是将 AI 的选择视为一个神秘的“黑箱”。
最终，这项研究表明，负责任 AI 的未来可能不在于试图教会机器如何更好地进行哲学思考，而在于围绕它们构建更好的结构。通过将解决伦理冲突的艰巨工作从 AI 转移到独立的、可审计的系统中，开发者可以创建一个既灵活又严格的安全网。结果表明，虽然 AI 模型是强大的内容生成器，但它们尚未成为复杂道德权衡的可靠仲裁者。相反，当受到一个明确定义其行为边界的外部框架引导时，它们才能发挥最佳功能，确保机器的行为始终符合人类的意图和制度规则。这种方法并没有解决“什么是正确的价值观”这一问题，但它提供了一种可靠的方法，以确保社会所选择的任何价值观都能得到一致的应用。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。