技术摘要：塑造人机交互以提供改进路径并平衡竞争目标

作者： Keziah Naggita
机构： 芝加哥拓乐科技学院 (Toyota Technological Institute at Chicago)
学位： 计算机科学博士 (2026年6月)

1. 问题陈述

AI 系统在决策高风险领域（如招聘、录取）及家庭环境中的广泛应用，产生了一种反馈循环：个体（智能体）会对系统形成信念，并采取策略性行动来影响结果。这些行为既可以是真实的改进（增强潜在资质），也可以是博弈/操纵（在没有真实改进的情况下操纵可观测特征）。

本论文旨在解决塑造此类交互过程中的三个核心挑战：

1. 发展与行为动态： 人类（特别是父母）如何看待并应对儿童对 AI 驱动设备（机器人、智能音箱、平板电脑）表现出的攻击性行为，以及设备的拟人化程度如何影响这些反应？
2. 激励改进： 决策者如何设计目标并提供指导，以最大化真实的智能体改进，同时确保公平性和可达性？
3. 平衡竞争目标： 当智能体既能改进又能进行博弈时，如何设计 AI 系统以最大化真阳性（识别合格智能体）并最小化假阳性（拒绝不合格智能体）？

2. 研究方法

本论文采用多维度的研究方法，整合了：

• 人类受试者实验： 一项在线被试间研究（$N=332$），调查家长对儿童针对机器人、智能音箱和平板电脑表现出攻击行为的反应。
• 算法设计与优化： 开发用于目标放置、反事实解释（CFE）生成和榜样选择的多项式时间及伪多项式算法。
• 理论分析： 应用学习理论（PAC 学习）、图论和复杂度理论（NP 困难证明）来分析战略环境下可学习性、样本复杂度以及分类界限。
• 实证评估： 在真实世界数据集（Adult, OULAD, Law School）和半合成数据上进行实验，以评估不同风险规避策略和几何约束下的算法性能。

3. 核心贡献与结果

第一部分：通过人类受试者实验研究人机交互

重点： 家长对儿童针对 AI 设备攻击行为的反应。

• 方法： 采用 2（攻击性：攻击性 vs 中性）$\times$ 3（设备：机器人、智能音箱、平板电脑）$\times$ 3（模态：音频、物理、音频+物理）的设计。
• 关键发现：
  • 攻击性的影响： 与中性行为相比，当孩子表现出攻击行为时，家长表达了显著更高的担忧，并且更有可能进行干预（训斥或移除设备）。
  • 设备感知： 虽然家长认为机器人和智能音箱比平板电脑更具拟人化、有生命感且更温暖，但研究发现，在家长对机器人的担忧程度或干预可能性方面，机器人与智能音箱之间不存在显著差异。这与假设不符，即物理实体化（机器人）会比无实体的语音助手更显著地提高担忧程度。
  • 干预风格： 家长对中性行为表现为鼓励和协助，而对攻击行为则触发训斥，并将此情况作为学习机会。

第二部分：通过塑造交互以提供改进路径

重点： 设计能够激励真实改进的机制。

3.1 设定可达目标（第3章）

• 问题： 确定放置 $k$ 个技能水平目标的最佳位置，以最大化智能体的总改进量，考虑到智能体会向最近的可达目标进行改进。
• 挑战： 目标放置具有非单调性；增加一个目标可能会因为导致智能体从远距离、高价值目标转向近距离、低价值目标，从而减少总改进量。
• 贡献：
  • 开发了一种动态规划多项式时间算法来最大化总改进量。
  • 构建了用于解决公平性（最大最小目标）问题的社会福利帕累托前沿（Pareto frontier）。
  • 证明了一个结构性结果：存在一个解，对于 $g$ 个组别（在共同改进能力下）同时满足 $\Omega(1/g^3)$ 的近似最优性。
  • 证明了最大最小公平解并不保证能为所有组别同时提供常数近似。

3.2 生成可操作的洞察（第4章）

• 问题： 生成既具有可操作性又符合大规模状态空间中现实世界动作的 Counterfactual Explanations (CFEs)。
• 贡献：
  • 提出了单智能体且数据驱动的 CFE 生成器，架起了基于特征的空间与基于动作的空间之间的桥梁。
    | 引入了“高层级”CFEs，这类解释修改较少的特征，但比传统的低层级特征修改能带来更高的智能体改进。
  • 证明了数据驱动的生成器可以通过利用智能体状态之间的相似性，高效地生成有效的 CFEs，从而提高可扩展性和资源效率。

3.3 选择性揭示榜样（第5章）

• 问题： 社会规划者需在有限预算内，通过揭示榜样的标签（正向/负向）来最大化模仿正向目标的智能体数量。
• 贡献：
  • 表明仅当规划者被限制于揭示正向目标时，社会福利函数才具有次模性（yielding a $(1-1/e)$-approximation via greedy algorithms）。
  • 证明允许揭示负向目标会破坏次模性，可能导致性能极差。
  • 引入了一种代理福利函数，即使在存在负向目标时仍保持次模性，从而恢复了近似保证。
  • 确定无论是否存在披露限制，该问题仍然是 NP-Hard 的。

第三部分：联合优化竞争目标

重点： 对既能改进又能博弈的智能体进行分类。

4.1 带有改进能力的 PAC 学习（第6章）

• 问题： 改进能力如何影响可学习性和样本复杂度？
• 贡献：
  • 分析了智能体可以在邻域内（图模型）移动以进行改进的设置下的 PAC 学习。
  • 零误差学习： 证明在均匀分布下，可以实现零泛化误差，其样本复杂度为 $O(\frac{n \log n}{d_{min}^+ + 1})$，其中 $d_{min}^+$ 是正向节点的最小度。这与通常具有常数误差界的标准 PAC 模型形成对比。
  • 表明风险规避的学习策略（严厉惩罚假阳性）在改进设置中特别有效。

4.2 改进型与博弈型智能体的分类理论（第7章）

• 问题： 设计分类器以在智能体既能改进（蓝边）又能博弈（红边）时，最大化真阳性并最小化假阳性。
• 模型：
  • 通用离散模型： 智能体与准则构成一个加权、有色的二分图。
  • 线性模型： 智能体在 $\mathbb{R}^d$ 中移动；某些维度属于改进，某些属于博弈。
• 贡献：
  • 算法： 开发了一种高效算法（算法 7.1），用于在通用离散模型中寻找一组准则，以在实现零假阳性的前提下最大化真阳性。
  • 硬度： 证明即使在线性模型中，在假阳性为非零约束的情况下最大化真阳性也是 NP-Hard 的。
  • 线性分类： 表明寻找一个能准确分类所有智能体并使所有可改进智能体达标的线性分类器是可能的，但在二维空间中，要在最小化假阳性的同时最大化真阳性需要特定的算法构建。

4.3 实证研究（第8章）

• 问题： 在真实世界数据上评估具备改进-博弈意识的算法。
• 结果：
  • 风险规避： 风险规避策略（例如，惩罚假阳性的加权损失函数）在随着改进预算增加时，在减少误差方面始终优于标准模型。
  • 权衡： 虽然增加风险规避可以降低分类误差，但过度的风险规避可能会降低整体效用得分。
  • 零误差 vs. 效用： 实现零分类误差并不保证完美的效用；真阳性与假阳性的比例至关重要。
  • 几何约束： 范数的选择（$\ell_\infty$ vs. $\ell_2$）显著塑造了智能体移动的方向和范围。

4. 意义与主张

本论文声称通过提供设计符合人类需求、价值观和能力的 AI 系统之原则与方法，推动了以人为本的机器学习。

• 理论进展： 它将学习理论扩展到“带改进的学习”，证明了在特定条件下，智能体的能动性可以降低样本复杂度并实现零误差学习，这挑战了标准的 PAC 学习假设。
• 算法鲁棒性： 它提供了关于目标放置非单调性和平衡改进与博弈之难度的结构性结果，提供了对策略性行为具有鲁棒性的算法。
• 实践设计： 通过实证和实验工作，它为政策制定者和系统设计者提供了可操作的见解：
  • 儿童-AI 安全： 设计者必须意识到家长可能无法区分机器人和智能音箱在攻击性方面的差异，因此安全功能应在不同类型的设备间保持一致。
  • 追索权（Recourse）： 从基于特征的解释转向基于动作的、数据驱动的指导，可以提高算法追索的可扩展性和公平性。
  • 策略性分类： 系统应采用风险规避策略，并在激励真实改进的收益与假阳性的成本之间进行仔细平衡。

这项工作整合了严谨的理论分析与数据驱动建模以及人类受试者实验，以弥合抽象算法公平性与人机交互实际情况之间的鸿沟。