📈 economics

When Is Self-Disclosure Optimal? Incentives and Governance of AI-Generated Content

本文开发了一个形式化模型，证明仅在人工智能能力和成本节约处于中间水平时，强制披露人工智能生成内容才具有经济最优性，因为先进的人工智能能力最终会使严格的披露制度产生反作用，从而抑制高质量内容的产出并减少创作者盈余。

原作者： Juan Wu, Zhe, Zhang, Amit Mehra

发布于 2026-01-27

📖 1 分钟阅读☕ 轻松阅读

原作者： Juan Wu, Zhe, Zhang, Amit Mehra

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个巨大的数字广场（类似于 YouTube 或 Instagram），人们在这里分享故事、艺术和视频。多年来，每个人都是手工创作这些内容的。但现在，一个全新的、超高速的机器人助手（生成式人工智能）来到了这里。这个机器人可以更便宜、更快地制作内容，有时甚至比人类制作的内容还要好。

然而，广场的管理人员（平台方）感到很担忧。镇上的居民（观众）通常更喜欢人类创作的故事，因为它们感觉更“真实”且更值得信赖。如果他们发现一个故事是由机器人制作的，他们可能会失去兴趣。但如果这个机器人真的很出色，镇上的居民也可能依然会乐在其中。

管理人员面临着一个大问题：他们该如何处理机器人生成的内容？

这篇论文探讨了管理人员运营这个广场的两种主要方式：

城镇的两条规则

“沉默侦探”规则（非披露）： 管理人员试图使用一种神奇的扫描仪来识别机器人制作的内容。如果扫描仪抓到了，就贴上标签；如果扫描仪漏掉了，内容就会保持隐藏状态。创作者不需要说明任何事情，只需寄希望于扫描仪不会抓到自己。
“诚实箱”规则（自我披露）： 管理人员告诉创作者：“你必须举手并说：‘我用了机器人来制作这个！’”如果你没有举手，而扫描仪后来抓到了你，你就会受到罚款（或你的内容会被隐藏）。如果你举了手，你就不会被罚款，但镇上的居民可能仍会有些怀疑，因为他们知道机器人参与了其中。

重大发现：取决于机器人的技能

论文的主要发现是，并没有一种单一的“最佳”规则。正确的选择完全取决于机器人的质量如何以及它为创作者节省了多少成本。

你可以把机器人的质量想象成一个可以调节的旋钮。

场景 A：机器人很笨拙（低质量）
如果机器人制作的东西很差，管理人员就不应该强制要求标注。为什么呢？因为如果强制要求标注，就没人会去使用这个机器人了。既然机器人本身做的东西就很差，那也没关系。但如果我们不强制标注，机器人可能仍会被一些人使用，但由于人们不喜欢，这些糟糕的内容会被自然地过滤掉。
- 类比： 如果一家新的餐车卖的是焦掉的面包，你不需要挂个牌子写着“焦面包”。反正也没人会买。强制挂牌只会让那些原本可能尝试一下的人望而却步，但这对城镇并无益处。
场景 B：机器人是大师级作品（高质量）
如果机器人非常厉害，制作出的东西甚至比人类还好，那么管理人员应该停止强制要求标注。为什么呢？因为如果强制要求标注，镇上的居民看到“机器人制作”就会跳过，即便内容很棒。这会伤害创作者和平台。管理人员应该让机器人各施其能，不要让“机器人”标签阻碍它。
- 类比： 如果一位机器人厨师做出了世界上最好的披萨，在菜单上挂一个巨大的“机器人厨师”招牌可能会吓跑顾客。最好让披萨本身说话。
场景 C：机器人“还不错”（中等质量）
这是最完美的平衡点。机器人足够好，可以用到，也能节省成本，但又没完美到让人产生排斥感。在这种情况下，**“诚实箱”（自我披露）**是最佳策略。
- 运作方式： 它起到了过滤器的作用。那些制作涉及信任敏感型内容（如新闻或严肃建议）的创作者，会选择标注，以免被抓到撒谎。而制作有趣内容（如迷因/梗图）的创作者可能会隐瞒。这种分类有助于平台保留“好的”机器人内容，同时过滤掉那些人们讨厌的“有风险”的机器人内容。

诚实的代价

论文还指出了一件棘手的副作用。虽然强制创作者保持诚实让城镇广场变得更加透明，但它实际上损害了创作者的钱包。

平台获利： 平台通过更好地管理信任而赚得更多。
创作者受损： 创作者最终要支付“信任税”。他们要么因为标注内容（因为人们点击率降低）而损失收入，要么冒着被罚款的风险去隐瞒。即使政策对平台有利，它也往往从内容创作者身上夺走了价值。

“执法”之舞

论文还研究了管理人员应该多么严格地惩罚撒谎者。

当机器人很新/很弱时： 管理人员应该非常严格。“如果你使用了机器人却没说明，你就出局了！”这能阻止人们秘密使用劣质的机器人工具。
当机器人非常先进时： 管理人员应该停止如此严厉地惩罚人们。如果机器人非常出色，惩罚那些使用它（甚至是秘密使用）的人，只会阻碍最好的内容被看到。管理人员应该让创作者自己决定是否诚实，因为内容本身已经足够优秀，规则的影响并不那么重要。

底线

论文的结论是：披露是一种工具，而不是一根魔杖。

当技术处于中间阶段时，它效果最好——既足够有用，又不至于完美到不需要规则。
当技术太差（只会让人们停止尝试）或太好（会阻碍最好的内容被看到）时，它就会失效。
最重要的是，虽然透明度听起来很美好，但它往往将“信任”的负担转移到了创作者身上，使他们在平台变得更富有的同时，自己却变得更穷。

简而言之：如果机器人很烂（没人会在乎），或者如果机器人是个天才（人们反正也会喜欢它），就不要强迫挂上“机器人制作”的牌子。只有当机器人“相当不错”时，才强迫挂牌，因为那时这个牌子能帮助筛选出优胜劣汰。

技术摘要：何时自我披露是最优的？生成式人工智能内容的激励与治理

1. 问题陈述

生成式人工智能（Gen-AI）在数字平台上的激增带来了治理困境：虽然 AI 降低了生产成本并扩大了内容产出，但也引发了关于真实性、可信度和用户信任的担忧。目前，平台主要依靠两种机制进行管理：

算法检测： 不完美且成本高昂的系统，能够在没有创作者输入的情况下识别 AI 内容。
自我披露政策： 要求创作者标注 AI 使用情况的指令，并辅以针对违规行为的处罚。

本文探讨的核心经济学问题是：在何种条件下，平台应当强制执行自我披露，而非仅仅依赖检测。具体而言，本研究调查了披露制度如何重塑创作者的激励（采用、隐瞒和诚实标注）、如何影响平台利润，以及如何改变内容的总体质量和创作者剩余。

2. 研究方法

作者开发了一个包含连续异质性创作者与平台的正式博弈论模型。该模型捕捉了平台政策、创作者行为与观众感知之间的策略性互动。

模型组成部分

代理人：
- 平台： 选择监管机制（非披露 vs. 强制自我披露），并设定违规处罚额度 ( $p$ )。平台保留佣金率 ( $r$ )。
- 创作者： 在对受众可信度的敏感度上具有异质性（通过可信度参数 $f$ 进行建模）。他们选择人类生成内容 ( $N_{AI}$ ) 或 AI 生成内容 ($AI$)。在披露制度下，他们进一步选择诚实披露还是隐瞒 AI 使用情况。
- 观众： 从内容质量中获得效用，但会对标记为 AI 的内容应用可信度折扣 ( $f$ )。如果创作者隐瞒了 AI 使用且被检测到，观众会施加额外的信任惩力 ( $k$ )。
技术：
- 人类内容： 成本为 $c$ ，标准化质量为 1。
- AI 内容： 降低后的成本为 $\delta c$ （其中 $\delta \in (0,1)$ ）且质量为变量 $v$ 。
检测： 平台的算法以概率 $\beta$ 检测 AI 内容（不完全检测）。
对比的制度：
1. 非披露制度 ( $N$ )： 创作者无需标注；平台会对检测到的 AI 内容进行标注。
2. 强制自我披露制度 ( $D$ )： 创作者必须标注。未披露行为在被检测到时将触发处罚 ( $p$ ) 和信任惩罚 ( $k$ )。

分析方法

作者使用逆向归纳法求解子博弈精 Equilibirum (Subgame Perfect Equilibrium)：

观众反应： 根据标签和检测结果确定参与度。
创作者策略： 创作者根据制度、处罚和其特定的可信度参数 $f$ 最大化预期效用。这导致了基于截断值的创作者细分。
平台优化： 平台选择制度和处罚水平，通过比较不同 AI 质量范围 ( $v$ ) 和成本效率 ( $\delta$ ) 下的结果来最大化利润。

3. 核心贡献

本文通过以下三个方面为平台治理和 AI 驱动型生产的文献做出贡献：

内生激励机制： 不同于以往将披露视为被动透明度要求的做法，本模型将披露框架化为一种战略工具，能够主动塑造创作者在采用、隐瞒和内容定位方面的决策。
整合信任摩擦： 该模型独特地整合了不完全检测、观众对 AI 的折扣处理以及异质性创作者的可信度，以分析信任外部性如何与技术效率相互作用。
统一的经济视角： 它提供了平台政策设计与创作者行为的对比分析，将信息披露模型扩展到 Gen-AI 背景下，展示了披露如何重新分配 AI 的使用。

4. 核心结果

最优披露条件

披露并非普遍最优。只有当 AI 内容的内在价值 ( $v$ ) 及其成本节约优势（低 $\delta$ ）均处于中间水平时，平台才会采用强制自我披露制度。

低 AI 质量/低成本节约： 披露会抑制采用，但无法提升内容价值；因此非披露制度更优。
高 AI 质量： 披露会产生反作用。可信度折扣和执行成本会扭曲高效的采用，从而降低总体的有效内容质量。此时非披露制度更优，以允许高价值的 AI 内容蓬勃发展。
中间区域： 披露作为一种有效的筛选机制，能在限制对真实性敏感型创作者采用的同时，保留总体的质量。

执行策略的演变

随着 AI 能力的提升，平台的最佳执行策略也会发生演变：

严格威慑： 当 AI 质量较低时，通过高额处罚来防止隐瞒并维持透明度。
部分筛选： 当 AI 质量适中时，平台设定中间水平的处罚。这是在筛选低可信度创作者与保留高价值 AI 内容之间进行的权衡，允许一定程度的策略性隐瞒存在。
去监管化： 当 AI 质量足够高时，最优处罚降至零 ( $p^*=0$ )。平台允许创作者在隐瞒与披露之间进行内生排序，因为处罚会不必要地降低优质 AI 内容实现的价值。

对利益相关者的影响

平台利润： 在中间区域，通过减轻信任外部性，利润可以在实施披露后增加。然而，相对于 AI 质量，利润表现出非单调行为（取决于成本节约情况，呈现 U 型或 W 型）。
创作者剩余： 自我披露降低了总体的创作者剩余 ( $CS_D < CS_N$ )。虽然它提高了透明度，但将合规成本和可信度成本转嫁给了创作者。
透明度 vs. 质量：
- 披露严格增加了透明度 ( $T_D > T_N$ )。
- 披露仅在 AI 技术劣于人类创作（即 $v < 1$ ）时，才能提高总体内容质量。
- 当 AI 优于人类（即 $v > 1$ ）时，由于可信度折扣，披露会降低总体内容质量，因为它抑制了高质量 AI 的采用。

5. 重要性与主张

本文得出结论：披露是一种战略性治理工具，而非中性的透明度机制。其有效性取决于技术的成熟度以及信任摩擦的大小。

战略性重新分配： 披露不仅仅是移动了采用的边界，它从根本上改变了内容的构成，因为它重新分配了不同类型创作者的生产技术。
权衡： 透明度与生产效率之间存在根本性的权衡。虽然披露减少了信息不透明性，但它也可能扭曲高效的 AI 采用，从而可能抑制高质量内容并降低创作者的激励。
政策启示： 研究结果表明，“一刀切”的披露指令可能是次优的。平台应根据所使用的 AI 工具的具体质量和成本效率特征，来校准披露和执行强度，并意识到透明度的提升可能会以牺牲生态系统价值和创作者福利为代价。