Beyond AI-Generated Labels: Watermarking, Co-Creation, and Conflation of AI-Generation with Disinformation
本文认为，依赖人工智能生成的数字水印和标签是应对虚假信息的一种误导性方法，因为它无法传达真实性或意图，并据此提出应优先考虑过程透明度和信息素养，以更好地应对合成内容的伦理和认识论挑战。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
伟大的数字侦探游戏
想象一下，你正走在座巨大的、嘈杂的图书馆里，书本、画作和音乐每秒钟都在被创作出来。有些是人类写的，有些是机器人写的，还有许多是两者奇妙结合的产物。近年来，一种新型机器人出现了，它们创作故事、绘画和作曲的能力几乎可以媲美人类。这让每个人都感到有些不安：我们如何知道什么是真实的，什么是虚假的？我们如何识破谎言？
为了解决这个问题，科学家和科技公司一直在讨论“水印”的概念。把水印想象成一个微小的、隐形的纹身，机器人在创作艺术品的瞬间，就会在上面刻下一个记号。这是一个只有特殊计算机才能看到的秘密信号，意在表达：“嘿，这是机器人制作的！”其初衷是，如果我们能识别出这些纹身，我们就能过滤掉不良内容，让图书馆保持安全。但这里有一个大问题：这个隐形纹身究竟是破解假新闻和 AI 谎言之谜的魔力钥匙，还是一个并不契合拼图的闪亮玩具？这就是你即将阅读的这篇论文试图讲述的故事。
论文的核心观点：为什么“AI 纹身”可能是一个糟糕的标签
本文的作者 Federico Germani 和 Giovanni Spitale 正在研究将这些隐形水印转化为大型、可见的“AI 生成”标签的想法。他们认为，虽然水印对于捕捉那些在互联网上大量发送垃圾信息的机器人可能有效，但对于人类与 AI 共同完成的那些复杂且具有创造性的工作来说，水印却是一个糟糕的主意。
“非此即彼”的问题
想象一下，你和机器人正在一起建造一个树屋。你设计了形状，机器人切割木材，你粉刷墙壁，然后机器人加上了一个滑梯。这个树屋是“人造的”还是“机器人制造的”？它两者皆是！但论文指出，目前的水印技术就像一个笨拙的印章，它只能看到机器人做的第一刀。如果机器人做了最初的草图，整个树屋都会被盖上“机器人制造”的印记，即便你后来花了数周时间进行粉刷和修整。
作者指出，这些水印是非常脆弱的。如果你对图片稍作修改（比如调整大小或添加滤镜），或者对段落进行改写，那个隐形的信号往往会断裂或消失。这造成了一种奇怪的情况：
- 如果你进行了微小的编辑，标签依然存在，人们会认为整个作品都是虚假的，尽管大部分工作是你完成的。
- 如果你进行了大量的编辑，标签消失了，人们会认为整个作品都是真实的，尽管最初是由机器人开始的。
论文建议，试图在复杂的项目上贴一个简单的“AI 生成”标签，就像试图通过仅仅说“它含有面粉”来描述一个美味的多层蛋糕一样。这完全忽略了谁才是真正的烘焙者、装饰者和品尝者。
“假 = 坏”的陷阱
这是论文强调的第二个大问题。当我们给某样东西贴上一个巨大的“AI 生成”标签时，人们往往会认为这意味着“这是谎言”或“这是危险的”。作者说这是一个巨大的错误。
把它想象成一个厨房。一位机器人厨师可以完美地切好蔬菜来做一份健康的沙拉（这是好的、真实的）；而一位人类厨师也可以切好蔬菜来做一锅有毒的炖菜（这是坏的、虚假的）。工具本身并不能决定食物是否安全；决定权在于使用工具的人。
论文认为，标记某样东西为“AI”并不能告诉我们它是真还是假。机器人可以写出一篇完美的历史课文，而人类也可以写出一个极具说服力的谎言。通过给所有事物贴上可怕的“AI”标签，我们可能会在无意中阻止人们利用机器人来制作有益的东西，比如清晰的医疗指导或有趣的教育视频。与此同时，我们可能会过度信任未标记的内容，心想：“哦，没有机器人标签，所以它一定是 100% 人类制作且 100% 真实的！”但一个撒谎的人依然是撒谎者。
真正的解决方案：透明度，而非纹身
那么，如果隐形纹身和大标签都不是答案，那该是什么呢？作者建议，我们不应该只盯着“产品”（图片或文本），而应该开始关注“过程”（它是如何被制作出来的）。
与其问“是否有机器人接触过这个？”，我们应该问“谁核实了事实？”以及“目标是什么？”
- 过程透明度： 想象一张食谱卡，上面写着：“我用机器人切了洋葱，但我检查了食谱，品尝了汤，并决定多加点盐。”这能准确告诉你发生了什么。
- 信息素养： 论文建议，对抗谎言最好的防御不是机器人检测器，而是教导人们如何成为聪明的侦探。我们需要学习如何识别错误的论点、核实来源，并询问：“无论是否由机器人协助，是谁写了这些内容，以及为什么要这么写？”
底线
论文总结道，虽然水印可能有助于捕捉那些在互联网上大规模发送垃圾信息的机器人，但它们并不是理解人类-AI 协作行为的正确工具。试图将简单的“AI”或“人类”标签强加于复杂的协作之上，就像试图把彩虹分类到仅仅两个桶里一样。这行不通，甚至可能让我们在对待所读所见内容时变得不再谨慎。真正的解决方案是诚实地对待我们如何使用工具，并教导每个人如何批判性地思考他们所阅读和看到的各种故事。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。