💻 computer science

Possibility Ethics: Measuring Moral Value as the Expansion of Safe Future Options in Sociotechnical Systems

本文介绍了“可能性伦理学”（Possibility Ethics），这是一个通过一种被称为“选项熵”（Option Entropy）的新型指标来量化社会技术系统对伦理上可接受的未来机会之影响的概念计算框架，该框架通过 Omega-PE 工具包得以实现，旨在揭示那些常被总量指标所忽略的分布性机会损失。

原作者： Mohammad Amir Khusru Akhtar

发布于 2026-09-11

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Mohammad Amir Khusru Akhtar

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在现代世界中，技术不仅仅是交付结果，它还在塑造着我们下一步行动的可能性图景。当一个数字平台移除了一个导出按钮，或者医院的排班表忽略了患者缺乏交通工具的事实，其直接问题不仅是一个糟糕的结果，更是对未来的萎缩。这是社会技术系统（sociotechnical systems）的领域，在这里，软件与人类制度交织在一起，共同决定了人们可获得的抉择范围。多年来，伦理学家一直主张我们必须保护人类自由并确保公平，但这些想法往往停留于抽象的原则，而非工程师可以用作比较不同系统设计的工具。挑战在于，如何找到一种方法来衡量一种新设计究竟是真正扩大了人们安全、真实的机遇，还是在悄然缩小它们，尤其是对于那些本就选择最少的人群。

由研究员莫哈末·阿米尔·库斯鲁·阿克塔尔（Mohammad Amir Khusru Akhtar）开发的一个名为“可能性伦理学”（Possibility Ethics）的新框架，为回答这个问题提供了一个具体的途径。该框架并不试图计算一个人的总幸福感或道德价值，而是专注于一个具体且可衡量的核心问题：一种系统设计为某一群体留下了多少条截然不同、安全且可行的未来路径？其核心思想是，一个更具道德意义的设计，是能够保留或增加这些截然不同的未来选项数量的设计，特别是针对弱势群体。为此，研究人员创建了一种方法，通过统计一个人在现实中可以实现的各种不同结果的数量，同时过滤掉那些仅仅是理论上的或带有过高风险的选择。

研究人员构建了一个计算系统来测试这一想法，将未来视为一个分支状的可能性的树，而非单一的直线。首先，系统会查看一个人在设定时间内可能采取的所有潜在路径。随后，它应用一系列严格的过滤器：它会移除任何不可行的路径，即个人缺乏资金、时间、技能或权限去实际执行的路径；它也会移除任何会对个人、他人或社区造成伤害的路径。一旦这些危险或不可能的路径被剔除后，系统会将剩余的路径根据其最终结果进行分类。如果两条路径导致了同一种类型的结局，则将其计为一个选项。系统随后根据这些截然不同且安全的类别数量来计算得分。当出现新的、不同的且安全的选项时，得分会上升；但随着选项数量变得非常庞大，得分增长会趋于缓慢，这反映了最初的几个新选择更为重要的理念。

为了验证这种方法在现实世界中的有效性，团队进行了两类测试。在一次受控模拟实验中，他们对比了针对具有不同支持水平的学生群体的三种不同系统设计。其中一种设计提供了一种离开系统并离线的方式，另一种提供了一个个性化助手，第三种则是标准的基准设计。结果显示，那种允许人们离开并离线的设计，为起步资源最少的学生创造了最多样化且安全的未来选项。而个性化助手虽然对某些人很有帮助，但与基准设计相比，它实际上减少了最脆弱群体所拥有的安全选项总数。该模拟证明，该框架能够检测出某种设计在帮助一部分人的同时，却在悄然损害另一部分人的细微之处，而简单的平均分往往会忽略这种差异。

随后，研究人员将同样的方法应用于来自开放大学（Open University）的大规模真实数据集，该数据集追踪了近 8,000 名学生在数年间的学习历程。他们观察了残障学生、低收入背景学生以及重修课程的学生是如何进行学业规划的。分析显示，虽然该项目的一年期数据显示出整体路径数量的轻微提升，但同时也减少了残障学生的选项。聚合得分看起来很不错，但详细的分解显示，特定群体正在失去机会。这一发现触发了“选项修复”（Option Repair）的要求——这是一个程序性步骤，要求系统设计者必须识别是什么阻碍了这些学生，并寻找恢复他们失去的选择的方法。这项研究表明，仅仅看平均值会掩盖特定群体自由度被侵蚀的事实。

该框架并不声称能解决所有的伦理问题，也不旨在取代人类的判断。它并不衡量尊严、美德或广义上的生活质量。相反，它为审计员和设计者提供了一个透明、可重复的工具，用以观察系统究竟如何改变了未来可能性的菜单。它迫使人们清晰地核算哪些选项是真实的，哪些只是幻象，并强调了即使是出于好意的设计选择，何时会收窄弱势群体的视野。通过使未来选项的结构变得可见且可比，可能性伦理学提供了一种确保我们的社会技术系统是在扩展人类能动性，而非悄然限制人类能动性的方式。

技术摘要：可能性伦理学 (Possibility Ethics)

问题陈述
社会技术系统（包括人工智能、数字平台和制度性工作流）正日益塑造着不仅是即时结果，更是个人与社区所能获得的全部可行未来范围。虽然现有的伦理框架阐述了自主性、公平性和能力等原则，但它们普遍缺乏一种透明的计算方法，来根据系统设计如何保留或扩展伦背合乎伦理的可接受的未来机会进行比较。目前的方法往往无法将这些原则转化为一种常规的审计流程，以考虑到可行性、伤害、分配公平性以及“可达未来”的结构性特征。

方法论：可能性伦理学框架
本文引入了可能性伦理学，这是一个概念-计算框架，旨在通过衡量其对不同、可行且伦理上可接受的未来选项类的影响来评估社会技术系统。该方法通过 Omega-PE 软件工具包实现，并遵循一个确定性的审计流程：

形式化定义：
- 可行性 (Viability)： 如果一条轨迹满足硬性前提条件且可行性得分 ( $F$ ) 超过阈值 ( $\tau$ )，则该轨迹是可行的。这过滤掉了名义上的选项（例如由于成本或缺乏支持而实际上无法实现的选项）。
- 伤害护栏 (Harm Guardrail)： 只有当预测的风险 ( $R$ ) 对主体、第三方或集体利益保持在容差 ( $\gamma$ ) 以下时，轨迹才是伦理上可接受的。
- 确定性聚类 (Deterministic Clustering)： 可接受的轨迹通过相似性规则和阈值 ( $\theta$ ) 被映射到结果类中。这防止了“菜单通胀”，即将重复或近乎相同的输出视为单一的选项类。
- 选项熵 ( $\Omega$ )： 核心指标是一个对数机会指数，定义为：
  $\Omega^d_i = \log(\kappa + K^d_i) - \log \kappa = \log\left(1 + \frac{K^d_i}{\kappa}\right)$
  其中 $K^d_i$ 是在设计 $d$ 下，群体 $i$ 的不同可接受结果类的计数， $\kappa$ 是平滑参数。这种对数形式确保了边际收益递减（第101个选项的价值小于第2个），并压缩了规模以便进行跨领域比较。
聚合与保障措施：
- 敏感于脆弱性的聚合 (Vulnerability-Sensitive Aggregation)： 设计的分数通过加权和 ( $L(d)$ ) 计算，其中脆弱群体获得更高的权重 ( $V_i$ )。
- 群体底线 (Group Floors)： 为受保护群体设定了最小阈值 ( $\phi_g$ )，以确保整体收益不会掩盖对最弱势群体的严重损失。
- 群体级非倒退 (Cohort-Level Non-Regression)： 一种设计不得将其选项熵降低到低于基准减去容差 ( $\epsilon_i$ ) 的水平。违规行为将触发选项修复 (Option Repair)，这是一种识别障碍并评估恢复或补偿的程序性要求。
数学属性：
该框架确立了受保护的单调性（增加一个新的可接受类总是会提高得分）、重复不变性（增加一个重复类不会改变得分）以及边际贡献递减。一个特征定理证明，在独立组合公理下，对数形式是唯一的连续、严格递增的有效机会多样性度量。

核心贡献

整合七大要素： 本文独特地将可计算的机会测量、可行性/可行性过滤、伤害护栏、确定性聚类、敏感于脆弱性的聚合、非倒退保障以及程序性修复机制整合进一个单一的审计流程中。
形式化特征： 它提供了一个严谨的数学基础来定义“选项熵”，通过关注状态空间的组合大小而非概率分布，将其与香农熵区分开来。
可复现实现： 该框架以 Omega-PE 软件构件的形式发布，包括用于合成基准测试和真实数据审计的脚本，确保了结果的完全可复现性。

结果与评估
该框架通过两种不同的方法进行了评估：

合成基准测试： 对三种设计（基准、退出/离线、个性化助手）在四个群体中的表现进行了受控比较。
- 发现： “退出/离线”设计排名最高，因为它为选项较少的群体创造了不同的可接受路径。“个性化助手”排名较低，尽管它提升了整体水平，但有时会减少特定脆弱群体的选项。
- 敏感性分析： 在可行性 ( $\tau$ ) 和伤害 ( $\gamma$ ) 阈值的网格中，首选设计始终保持第一，尽管次优排名发生了偏移，这展示了该框架在识别依赖假设的结果方面的诊断效用。
真实数据审计 (OULAD)： 对开放大学学习分析数据集（包含四次呈现方式下的 7,909 条学生记录）进行了观察性审计。
- 发现： 2014J 次呈现显示出最高的整体机会水平 ( $L(d) = 7.773$ )。然而，框架检测到了群体级倒退：在 2014J 中，“残障”群体的选项熵出现了下降，而在 2014B 中，“重修尝试”群体出现了倒退。
- 启示： 这些倒退触发了选项修复协议，说明了整体层面的改进可能会掩盖针对脆弱群体的特定损失——这是标准聚合指标所无法察觉的细微差别。

意义与主张
本文将“可能性伦理学”定位为一种透明、可复现且可审计的决策支持工具，而非替代道德理论、政治推理或综合性正义框架。

范畴： 它解决了一个特定且通常是隐含的问题：“给定两个候选的社会技术设计，哪一个在尊重安全和分配约束的同时，更有效地保留或扩展了人们真实的未来机会？”
局限性： 作者明确承认该框架并不衡量幸福、尊严或美德。它依赖于关于可行性、伤害和相似性的声明性假设，这些假设需要通过参与式治理和公众辩论来获得合法性。
价值： 其主要贡献在于使机会结构的扩张与收缩变得可见、可比较、可质疑且可修复，从而在社会技术治理中将伦理 AI 实践从抽象原则转向操作性审计。

技术摘要：可能性伦理学 (Possibility Ethics)

类似论文