⚡ electrical engineering

Welfarist Control Design -- How to fulfill the societal mandate in multi-agent control?

本文提出了一个设计多智能体控制系统的原则性框架，通过将个体偏好聚合为目标函数，并利用在线反馈优化、马尔可夫决策过程以及模型预测控制中的反馈机制，使系统符合社会指令，从而确保稀缺资源的伦理且高效的分配。

原作者： Sophie Hall, Kai Zhang, Ilia Shilov, Heinrich H. Nax, Saverio Bolognani

发布于 2026-06-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Sophie Hall, Kai Zhang, Ilia Shilov, Heinrich H. Nax, Saverio Bolognani

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下繁忙的高速公路、电网或供水系统。在所有这些地方，都存在着一种有限的资源（如空间、电力或水），需要由许多不同的人（代理人）来共享。

长期以来，设计这些控制资源的工程师主要遵循行业的经验法则。他们会问：“如何让这个运行得更快、更便宜？”但他们往往忽略了一个至关重要的问题：“如何让这个运行得更公平？”

本文认为，随着我们越来越多地将世界自动化，工程师需要一种全新的、有原则的方法来决定如何分配这些稀缺资源。他们称之为**“福利主义控制设计”（Welfarist Control Design）**。

以下是他们理念的拆解，使用了简单的类比：

1. 问题所在：“公平”的“黑箱”

想象一个交通灯控制器。它决定谁可以通行，谁必须等待。

旧方法： 工程师将其设置为每分钟通过最多的车辆（效率）。
问题在于： 这可能意味着载有 50 人的公交车要等待很久，而一辆私家车却能飞速通过。或者，它可能意味着救护车被堵在了一辆送货卡车后面。
论文的观点： 工程师现在正在自动做出“社会决策”。他们需要一个清晰的配方来定义什么是“公平”，而不是仅仅靠猜测或遵循旧习惯。

2. 配方：“福利主义”方法

作者提出了一个三步走的配方，将模糊的“公平”概念转化为计算机可以解决的数学问题。

第一步：倾听每个人（偏好）
首先，你需要知道每个人对特定结果的“痛苦”或“获益”程度有多少。

类比： 如果你在切披萨，你需要知道谁在挨饿，谁只是有点饿，以及谁正在节食。你需要为每个人对每一块披萨分配一个“成本”。

第二步：决定你能比较什么（“可比性”规则）
这是最关键的部分。你必须决定你对比较人们痛苦程度的能力有多大的信任。论文概述了四个信任等级：

等级 1（“谁处境最糟？”规则）： 你只知道谁过得最惨，但不知道具体有多惨。
- 类比： 你知道 A 在挨饿，B 只是有点饿。但你不知道 A 是否比 B “饿了两倍”。所以，你只需确保最饿的人先吃饱。（这被称为最大化最小值/罗尔斯式公平）。
等级 2（“比例”规则）： 你知道人们的尺度不同，但无法直接比较。
- 类比： 你知道 A 损失了 10 美元，B 也损失了 10 美元，但对 A 来说，10 美元可能是一顿饭，而对 B 来说可能只是 1 分钱。于是你决定按各自预算的相同百分比来削减。（这是纳什公平）。
等级 3（“等额美元”规则）： 你可以比较成本的差异，但不能比较总量。
- 类比： 你知道为 A 省下 10 美元与为 B 省下 10 美元一样好，即使 A 很富有而 B 很贫穷。你只需把所有的节省金额加起来并实现总和最大化。（这是功利主义公平）。
等级 4（“完全知识”规则）： 你可以完美地比较一切。
- 类比： 你完全了解每个人每一块钱的含义。你可以完美地平衡效率与平等。

第三步：解开谜题
一旦你选择了你的“信任等级”（第二步），你就会得到一个特定的数学公式。然后，你输入你的数据（第一步），让计算机找到最优解。

3. 超能力：反馈循环

论文强调，控制系统之所以特殊，是因为它们是动态的。它们不仅仅是做一个决定，而是反复做出决定，观察结果并进行调整。

类比： 想象一位指挥乐团的指挥家。
- 静态社会选择（旧理论）： 指挥家写好乐谱后就希望效果很好。
- 福利主义控制（新理论）： 指挥家在音乐演奏时进行聆听。如果小提琴声太大了（不公平），他会挥动指挥棒让声音变小。如果鼓声太弱了，他会调大音量。
为什么这很重要： 因为系统会不断检查结果，所以它可以纠正错误。如果一场风暴（外部因素）导致了某个社区停电，系统可以自动转移电力以平衡负载，确保没有人被长时间抛弃在黑暗中。

4. 论文中的现实世界案例

作者展示了这在三个特定领域是如何运作的：

互联网数据（带宽带宽）：
- 场景： 一个服务器向三个人发送视频。
- 功利主义方法： 把所有的速度都给连接最好的那个人。（总视频速度最快，但其他人什么也得不到）。
- 最大化最小值方法： 给每个人刚好足够的带宽，使得连接最差的人也能看到可观看的视频，即便这意味着其他人的画质会降低。
- 纳什方法： 分配带宽，使得在不按比例损害他人利益的情况下，没人能获得更多速度。
公共交通（巴士时刻表）：
- 场景： 一个城市有额外的巴士。应该把巴士派往繁忙的市中心，还是派往安静的郊区？
- 论文的洞察： 取决于你选择哪种“公平规则”，答案会改变。
  - 如果你想帮助平均水平的一天，你会把巴士派往市中心。
  - 如果你想确保每一天都是公平的，你可能会把巴士派往郊区，以平衡市中心的拥挤情况。
  - 如果你想修复过去的不公平，你今天可能会因为郊区昨天被忽视了，而把巴士派往那里。
电网（电费单）：
- 场景： 一个社区有一个用电限制。谁可以使用空调？
- 论文的洞察： 如果你使用“总成本”规则，富裕的家庭可能会因为负担得起成本而获得所有电力。如果你使用“最大化最小值”规则，系统可能会优先切断富裕家庭的电源，以确保贫困家庭能够保持凉爽。

核心结论

本文并不声称拥有解决所有不平等问题的魔杖。相反，它提供了一个工具包。

它告诉工程师们：“不要只是猜测‘公平’意味着什么。要明确地选择一个规则（比如‘帮助处境最糟的人’或‘实现总幸福最大化’），解释你为什么选择该规则，然后利用你控制系统的反馈循环来确保该规则得到实时执行。”

通过这样做，我们可以构建出不仅高效运行，而且以社会可以理解、信任和接受的方式运行的自动化系统。

技术摘要：福利主义控制设计

问题陈述

现代社会技术系统日益依赖自动化控制，在异质智能体之间分配稀缺资源（如能源、带宽、水资源、交通容量）。虽然控制工程师的任务是做出关于社会目标的决定性假设，但目前的决策设计往往由行业规范或临时目标驱动，而非基于原则性的伦理框架。一个核心挑战是效率与公平之间的“大权衡”：如何将个体智能体的偏好聚合为集体决策，从而满足社会指令（如公平性、可持续性、安全性），同时避免陷入未定义公平度量或帕累托劣解（Pareto-dominated outcomes）的陷阱。

本文认为，尽管社会选择理论长期以来一直在解决这些聚合问题，但其研究结果在很大程度上仍停留在抽象层面，且与控制系统的实时性、动态性和不确定性脱节。核心问题在于如何弥合福利经济学的公理化基础与动力学系统控制的操作需求之间的鸿沟。

方法论

本文提出了一种将社会选择理论与控制工程相结合的**福利主义控制设计（Welfarist Control Design）**框架。该方法论分为三个主要阶段：

1. 福利主义设计流水线

作者基于**福利主义（Welfarism）**提出了一个形式化的设计程序，即社会决策仅取决于智能体的个体福祉（成本或效用）。

形式化： 智能体 $i \in \mathcal{N}$ 通过个体成本函数 $J_i(x)$ 来评估结果 $x$ 。社会成本泛函（SCFL）根据成本剖面 $J = (J_1, \dots, J_n)$ 对结果进行排序。
公理化基础： 该设计依赖于三个核心公理以确保理性的社会排序：
- 帕累托原则 (P)： 如果所有智能体都认为结果 $x$ 优于 $y$ ，则社会也必须认为 $x$ 优于 $y$ 。
- 无关备选方案独立性 (IIA)： 两个结果之间的排序仅取决于智能体对这两个结果的评价，从而防止通过无关选项进行操纵。
- 成对连续性 (PC)： 成本的微小扰动不应导致社会排序的剧烈逆转。
福利主义定理： 在这些公理下，任何社会排序都可以由一个连续的社会成本函数 (SCF) $C(J(x))$ 来表示，该函数对个体成本进行聚合。
人际可比性： 社会成本函数 (SCF) 的具体形式取决于关于跨智能体比较的信息水平：
- 序数级可比性 (OLC)： 仅已知序数排名。可接受的 SCF 为：最大化最小 (Maximin)（罗尔斯主义）， $C = \max_i J_i(x)$ 。
- 基数非可比性 (CNC)： 成本是基数的，但尺度未知。可接受的 SCF 为：纳什谈判 (Nash Bargaining) 解。
- 基数单位可比性 (CUC)： 成本差异在共同尺度上是可比的。可接受的 SCF 为：加权功利主义 (Weighted Utilitarian)， $C = \sum c_i J_i(x)$ 。
- 基数完全可比性 (CFC)： 水平和差异都是可比的。可接受的 SCF 为：功利主义加上关于均值偏差的函数。

2. 动态福利主义控制

本文将这些静态概念扩展到决策重复进行、结果受外部扰动影响且存在反馈的动态场景中。文中改编了三种控制方法：

福利主义反馈优化：
- 用于具有快速瞬态过程且稳态映射 $x = h(u, w)$ 稳定的系统。
- 控制器通过对 SCF $C(J(x))$ 进行投影梯度下降来迭代更新决策 $u$ 。
- 至关重要的是，梯度是通过测量结果 $x$ 和灵敏度 $\nabla_u h$ 通过链式法则计算的，这使得系统能够在不知道扰动 $w$ 的情况下追踪福利主义最优解。
- 示例： 数据网络效用最大化，其中不同的 SCF（功利主义 vs. 纳什 vs. 最大化最小）在信道衰落环境下会导致截然不同的功率分配策略。
马尔可夫决策过程 (MDP) 的福利主义控制：
- 处理随机动力学和不确定性。
- 本文识别了四种基于聚合算子顺序（求和 $\sum$ $\sum$ 、社会成本 $C$ $C$ 、期望 $E$ $E$ ）的不同福利准则：
  1. SCE： 预期阶段成本之和（事前，阶段性）。
  2. SEC： 阶段成本之和的期望（事后，阶段性）。
  3. CES： 预期总序列的社会成本（事前，序列性）。
  4. ECS： 总序列的期望社会成本（事后，序列性）。
- 关键洞察： SEC 和 SCE 可以通过标准的马尔可夫策略和线性规划求解。而 ECS 需要追踪已实现的序列以补偿过去的公平性，因此需要非马尔可夫策略（或通过累积成本进行状态扩充）才能确保实现轨迹上的公平。
- 示例： 公共交通巴士分配中，不同的准则如何处理城市与郊区之间的需求不确定性。
福利主义模型预测控制 (MPC)：
- 结合了约束和预测机制，并在滚动时域内运行。
- 提出了两种目标设计：
  1. 追踪福利主义稳态： 最小化与预计算的最优稳态 $(\bar{x}, \bar{u})$ 的距离。
  2. 每时时刻的福利主义： 最小化 $\sum C(J(x_t, u_t))$ ，确保每一步的公平性。
  3. 跨时段的福利主义： 最小化 $C(\sum J(x_t, u_t))$ ，允许通过让智能体现在承受损失来换取未来的补偿。
- 示例： 住宅能源管理中，约束（线路限制）对不同智能体产生异质性影响。SCF 的选择（例如最大化最小 vs. 功利主义）会极大地改变负担的分配方式。

核心贡献

原则性设计流水线： 本文为控制工程师提供了一个严谨的方案，使其能从“临时性”的公平度量转向基于公理的社会成本函数，明确地将 SCF 的选择与可获得的信息水平联系起来。
动态集成： 它成功地将静态社会选择定理转化为动态控制框架（反馈优化、MDP 和 MPC），展示了如何利用反馈回路来认证并修正随时间变化的分配情况。
准则区分： 它阐明了“事前”（预期）与“事后”（实现）公平，以及“阶段性”与“序列性”聚合之间的关键区别，表明这些选择会从根本上改变控制策略和结果。
稳定性与保证： 本文讨论了闭环稳定性和平均性能的理论保证，指出标准控制证明在何处适用（如功利主义 MPC），以及在何处仍是开放性挑战（如最大化最小稳定性）。

结果与说明

本文通过说明性案例而非大规模实证部署来验证其框架：

功率削减： 演示了对于同一个物理问题，取决于设计者假设的是 CUC、OLC 还是 CNC，会产生不同的规则（最小总额、相等或比例削减）。
数据网络： 展示了功利主义反馈优化会使低效的智能体处于饥饿状态，而纳什和最大化最小方法在信道衰落存在时提供了不同形式的公平性（比例公平 vs. 结果平等）。
公共交通： 说明了不同的福利准则（SEC vs. ECS）如何处理需求不确定性。SEC 强制执行每日平等，而 ECS 则补偿实现的非公平性，从而在极端场景下减少长期的不平等。
能源管理： 强调了在约束条件下，功利主义目标可能会将负担集中在特定智能体身上，而最大化最小目标则会重新分配成本以保护最弱势的群体，即使这会增加总系统成本。

意义与主张

本文声称为“公平控制”提供了一个原则性的基础，使其超越了隐含的行业惯例。其意义在于：

跨学科桥接： 它将拥有百年历史的社会选择理论与现代控制工程相连接，使抽象的“不可能定理”在应用于实时系统时变得具体可行。
可认证性： 通过将决策建立在公理和特定的 SCF 之上，该框架使得自动化决策的可解释性和认证成为可能，这对于关键基础设施中自动化的社会接受度至关重要。
动态修正： 与静态社会选择不同，控制视角利用反馈来纠正外部扰动和不确定性，提供了一种实现“跨时段”公平的机制，而非仅仅是在单个瞬间实现公平。

作者的声明较为谦逊，承认虽然该框架提供了一个严谨的起点，但仍存在重大挑战。其中包括证明非功利主义 SCF（如最大化最小）的稳定性、开发面向风险厌恶型社会规划者的算法、开发针对未知环境的高效学习算法，以及将理论扩展到非时间可分目标。本文将其定位为迈向未来的一大步，即在社会技术系统的控制中实现社会选择的运作集成。