What Influences Readers' and Writers' Perceived Necessity of AI Disclosure?

本研究通过对 727 名参与者进行情境实验，探讨了影响写作中人工智能披露感知必要性的因素，结果显示读者比作者要求更高的透明度，且判断显著受人工智能的可替代性、直接性以及作者意图的影响，而写作努力程度并无显著影响。

要点

以下是用通俗语言和日常类比对该论文的解读。

核心问题：谁需要知道关于 AI 的事？

想象一下你在烤蛋糕。有时你完全从零开始制作；有时你使用预制的混合粉；或者你请朋友帮忙给蛋糕抹面。

现在，想象一项新规则正在被辩论：“如果你使用了帮助（或机器）来制作蛋糕，你是否必须告诉人们？”

这篇论文提出了一个非常具体的问题：人们（读者）和烘焙者（作者）何时认为必须承认使用了 AI？

研究人员发现，读者和作者往往通过截然不同的视角看待这一情况，而答案在很大程度上取决于如何使用 AI。

---

研究的三大主要要素

为了弄清楚这一点，研究人员设计了一份包含 727 种不同场景（称为“情境片段”）的“品尝菜单”。他们混合搭配了三个主要要素，以观察它们如何改变人们的想法：

1. 视角（谁在说话？）： 你是读者（吃蛋糕的人）还是作者（烤蛋糕的人）？
2. 目的（蛋糕是做什么用的？）： 它是用于严肃的工作面试（评估）、学校课程（学习），还是仅仅用于博客上的有趣故事（娱乐）？
3. 过程（蛋糕是如何制作的？）： 这是最复杂的部分。他们考察了 AI 参与的四种具体方式：
   • 可替代性： 作者能否不借助 AI 就完成这个蛋糕？（如果答案是“不能”，那么 AI 就是必不可少的）。
   • 努力程度： 作者是否仍然付出了辛勤劳动，还是 AI 几乎包揽了一切？
   • 意图性： 作者是给 AI 制定了严格的食谱并掌舵，还是仅仅说“给我做个蛋糕！”然后让 AI 接管方向盘？
   • 直接性： 作者是将 AI 的输出直接复制到盘子上，还是仅将其作为参考？

---

令人惊讶的结果

以下是该研究的发现，已翻译成通俗易懂的语言：

1. “自利”差距

发现： 读者比作者更有可能说：“是的，你必须告诉我们！”
类比： 想象一位魔术师。观众（读者）想知道把戏是真的，还是机器在干活。但魔术师（作者）可能会想：“我仍然在表演；机器只是个道具。”研究表明，作者往往觉得披露的必要性较低，因为即使使用了 AI，他们仍感觉自己仍是作品的“主人”。

2. “目的”迷思

发现： 令人惊讶的是，文本为何被撰写并不重要。
类比： 你可能会认为，当文本用于严肃的工作申请（评估）时，人们比用于有趣的博客帖子（娱乐）时更在乎诚实。但研究发现，无论文本是用于学校、工作还是娱乐，人们了解 AI 使用情况的必要性大致相同。“利害关系”并没有改变披露的需求。

3. “如何”最重要（过程因素）

研究发现，如何使用 AI 改变了一切。当出现以下情况时，披露被视为更必要：

• AI 不可替代： 如果作者没有 AI 就无法独自完成，人们认为承认这一点至关重要。
• AI 接管了方向盘（低意图性）： 如果作者只是输入“写个故事”并让 AI 决定情节，读者会强烈希望知道这一点。
• AI 输出被直接使用： 如果作者几乎未做修改就直接粘贴了 AI 的文本，披露被视为必要。

关于努力程度的转折：
研究人员原本认为，如果作者付出极少的努力（让 AI 完成 90% 的工作），人们会要求披露。但他们错了。 作者付出的努力程度并没有显著改变人们是否认为披露是必要的。这无关作者有多累，而是关乎 AI 实际上做了多少工作。

4. “掌舵”悖论

发现： 这是最令人困惑的部分。

• 读者认为：“如果你让 AI 开车（低意图性），你必须告诉我们！”
• 作者认为：“如果我让 AI 开车，我觉得更少有必要告诉任何人。”
• 类比： 这就像一位司机说：“其实我没怎么开；是 GPS 在开。”司机觉得自己责任更小，但乘客（读者）却觉得有必要知道汽车是在自动驾驶。

---

这对未来意味着什么？

该论文指出，由于作者和读者的看法不同，我们不能仅仅依赖作者“凭良心行事”。

解决方案： 我们需要更好的工具。
与其仅仅要求作者“披露 AI 使用”，平台应帮助他们解释如何使用了它。

• 不要只说： “我用了 AI。”
• 要说： “我用 AI 生成了大纲，但句子是我自己写的，”或者“我让 AI 写了整个草稿，我只是进行了编辑。”

该论文建议设计能够自动为作者起草这些解释的工具，使他们更容易以符合读者真正关注点（例如 AI 是否承担了繁重工作，还是仅仅帮助了几个词）的方式进行透明披露。

总结

• 读者比作者更想了解 AI 的使用情况。
• 文本为何被撰写（学校 vs. 娱乐）并不改变披露的需求。
• 如何使用 AI 最为关键：如果 AI 承担了繁重工作、主导了方向或被直接复制，人们会觉得披露是必要的。
• 努力程度并不像我们想象的那么重要。
• 作者在让 AI 主导时往往觉得披露的必要性较低，尽管读者持相反观点。

技术摘要

以下是 Fang、Wen 和 Lee 发表于 FAccT '26 的论文《什么影响了读者和写作者对 AI 披露必要性的感知？》的详细技术总结。

1. 问题陈述

人工智能（AI）迅速融入写作过程，造成了“创作权鸿沟”，即 AI 生成或 AI 辅助的文本往往与人类写作难以区分。这种模糊性挑战了读者对内容背景化的能力、对可信度的评估以及对责任归属的判断。尽管现有法规通常强制要求披露，但自上而下的政策与实际利益相关者（即读者（内容消费者）和写作者（内容创作者））的“自下而上”感知之间存在错位。

核心研究问题是理解影响AI 披露感知必要性的具体因素。具体而言，作者调查了视角（读者 vs. 写作者）、文本的目的（评估、学习、娱乐）以及程序性因素（AI 的使用方式）如何塑造这些感知。

2. 方法论

该研究采用情境实验（基于调查的实验设计，使用假设场景）来系统地操纵变量并测量感知。

• 参与者：从 Prolific 招募了 $N = 727$ 名参与者（美国本土、精通英语、具备 AI 素养）。
• 设计：采用IV 级部分因子设计以管理变量的组合复杂性。
• 自变量：
  1. 视角：两个水平（读者 vs. 写作者）。
  2. 目的：三个水平（评估、学习、娱乐），每个水平通过两个具体场景操作化（例如，评估对应求职申请与求职信）。
  3. 程序性因素：四个维度，每个维度设高/低水平：
     • 可替代性：写作者能否在不使用 AI 的情况下产出类似作品？
     • 费力程度：写作者投入了多少时间/精力？
     • 意图性：写作者是主导 AI（高）还是让 AI 主导（低）？
     • 直接性：AI 输出是直接整合（高）还是仅作为参考（低）？
• 过程：参与者被分配一个单一情境，描述包含上述因素特定组合的写作场景。他们被问到一个二元问题：“在这种情况下，AI 披露是否有必要？”（是/否）。他们还提供了开放式的理由。
• 分析：
  • 定量：逻辑回归建模以预测二元结果（必要性：是/否），包括主效应、交互项（视角 $\times$ 程序性因素）和协变量（写作自我效能感、AI 素养、内部判断）。
  • 定性：对开放式回答进行反思性主题分析，以补充定量发现。

3. 主要贡献

1. 自下而上的视角：将焦点从监管指令转向直接利益相关者（读者和写作者）持有的“感知必要性”，填补了 FAccT 透明度研究的空白。
2. 程序性因素的综合：将先前的框架（如 CCC 框架、CoCo 矩阵）整合为四个独特的、可操作化的程序性因素（可替代性、费力程度、意图性、直接性），专门针对 AI 辅助写作。
3. 视角差异的识别：实证证明了读者和写作者对披露需求的感知存在显著分歧，特别是关于意图性的作用。
4. 设计指南：提出了针对 AI 披露工具的具体设计干预措施，包括“脚手架”（自动化、细粒度的披露模板）以及基于特定使用模式的行为助推。

4. 主要结果

逻辑回归和定性分析得出了以下发现：

• 视角效应（RQ1）：

  • 读者认为披露的必要性显著高于****写作者（写作者认为披露有必要的几率低约 80%）。
  • 解释：写作者可能受自我服务偏差影响，或将 AI 视为“环境”基础设施，从而降低了其披露义务感。

• 目的效应（RQ2）：

  • 文本的目的（评估、学习、娱乐）对披露的感知必要性没有统计学上的显著主效应。
  • 注：虽然定性数据表明存在一些特定背景的细微差别，但定量模型显示，AI 的使用方式比文本的写作原因更为重要。

• 程序性因素（RQ3）：

  • 可替代性：当 AI 贡献不可替代（低可替代性）时，披露被视为更有必要。
  • 费力程度：出乎意料的是，写作者投入的努力量对感知必要性没有显著影响。这与“努力启发式”（即努力越少意味着所有权越少）相矛盾。
  • 意图性：当写作者不主动引导 AI（低意图性）时，披露被视为更有必要。
  • 直接性：当 AI 内容直接整合且改动极小时（高直接性），披露被视为更有必要。

• 交互效应（RQ4）：

  • 意图性 $\times$ 视角：该交互作用显著且反直觉。
    • 读者：当意图性低（AI 主导）时，认为披露更有必要。
    • 写作者：当意图性低时，认为披露更没必要。
  • 这表明，当写作者让 AI 主导时，他们可能感到更少的所有权（因此披露需求更少），而读者则认为这种缺乏人类控制的情况使披露对信任至关重要。

• 协变量：

  • 更高的写作自我效能感和AI 素养与较低的披露感知必要性相关。
  • 更强的披露内部判断（重视透明度）与较高的披露感知必要性相关。

5. 意义与启示

该研究为设计更好的 AI 披露机制提供了数据驱动的基础：

• 超越二元标签：当前的"AI 生成”标签是不够的。披露应细粒度化，详细说明 AI 使用的可替代性、意图性和直接性，因为这些是读者真正关心的因素。
• 披露脚手架：平台应提供基于交互日志自动生成披露草稿的工具（例如：“您使用 AI 生成了 80% 的文本，且编辑极少”）。至关重要的是，这些工具应弱化努力程度（因为参与者并不在意）并强调意图性（因为这是读者和写作者之间的主要分歧点）。
• 行为助推：为了使写作者的行为与读者期望保持一致，系统应在检测到低意图性（即写作者让 AI 主导）时部署有针对性的助推，提醒他们这种特定场景在透明度方面受到读者的高度评价。
• 政策改革：法规应从僵化的“全有或全无”规则转向反映研究中确定的细微程序性因素的语境感知指南。

总之，该论文认为，有效的 AI 透明度需要超越简单的检测或强制标签，转向一种理解人机协作本质并弥合内容创作者与消费者之间感知鸿沟的体系。