On the Role of Artificial Intelligence in Human-Machine Symbiosis
本文提出了一种方法论，旨在通过从生成文本中推断提示所指定的角色，来追溯和恢复人机共生中人工智能的潜在功能角色（如辅助编辑或创意生成），从而支持关于人工智能参与之透明度与公平性的伦理研究。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个世界，人类与计算机不再仅仅是并肩工作，而是如此紧密地共舞，以至于难以分辨谁在引领、谁在跟随。本文探讨这种“共舞”，并提出一个新问题：与其仅仅追问“这篇文字是否由计算机协助撰写？”，我们更应追问“计算机是如何协助的？”
以下是该论文的观点、方法与发现以简明语言呈现的概述。
问题所在：“隐形伙伴”
设想撰写一篇论文或新闻报道。
- 情境 A：人类撰写初稿，人工智能扮演校对者的角色，修正语法、润色句子。
- 情境 B：人类向计算机提供一个单一想法（例如“写一个悲伤的机器人”），人工智能则扮演创作者的角色，从头开始撰写整篇故事。
目前，若仅阅读最终文本，两者看起来并无二致。“校对者”与“创作者”所生成的文字可能完全相同。论文主张，我们需要一种方法，能够审视成品并指出：“啊，这主要是由机器编辑的”，或“这主要是由机器创作的”。
解决方案：“隐形墨水”方法
研究人员提出了一种巧妙的方法，在文本中留下隐藏的指纹，以揭示人工智能所扮演的角色。他们称之为主动方法（在文本完成前植入线索），而非被动方法（事后试图猜测）。
以下是他们的“隐形墨水”如何运作：
- 侦探（分类）：首先，人工智能审视人类的指令（提示词），判断其应扮演的角色：是“编辑者”还是“创作者”？
- 艺术家（编码）：在撰写文本时，人工智能并非随机选词，而是秘密地偏向于与该角色相关联的特定随机词表。
- 类比：想象人工智能正在作画。若它是“编辑者”，它会在每第十笔中秘密使用一种特定的蓝色；若它是“创作者”，则使用一种特定的红色。肉眼看来画面正常，但图案已然存在。
- 法医科学家（解码）：随后，若有人想了解其角色，便可分析文本。他们统计那些“秘密蓝色”或“秘密红色”词汇出现的次数。若蓝色词汇的出现频率远超随机可能，他们便知道人工智能扮演的是编辑者角色。
实验：验证理论
研究人员使用两种不同的人工智能模型（GPT-2 和 LLaMA-3）以及四种不同类型的文本（电影评论、新闻摘要、百科全书条目和科学摘要）测试了这一构想。
他们将“隐形墨水”方法与常见的其他 AI 检测方法进行了比较，后者通常仅试图猜测“人类还是机器”。
结果：
- 辨别差异：新方法在区分“编辑文本”的 AI 与“创作文本”的 AI 方面表现卓越。旧方法在此方面表现糟糕；它们能判断是否有机器参与，却无法分辨机器“如何”参与。
- “拟人化”测试：人们常试图通过替换同义词来掩盖 AI 写作（例如将“快乐”改为“喜悦”）。研究人员在 AI 输出中进行了此类替换测试。即使替换了高达 100% 的词汇，他们的方法仍能有效运作。这表明“指纹”不仅存在于具体词汇中，更存在于整篇文本的统计模式里。
- 质量检查：他们检验了这种“隐形墨水”是否会使文字显得怪异或机械。文本确实变得略微不那么“完美”（一项技术指标“困惑度”有所上升），但依然可读且质量上乘。
宏观视角
论文结论指出，随着人类与机器日益交织，仅仅追问“这是 AI 吗？”已不足够。我们需要理解合作的本质。
通过这种方法，我们可以在对话结束、原始指令消失后，仍能追溯人工智能的“功能角色”。这就像能够观察一块成品蛋糕，判断烘焙师是使用机器搅拌面糊，还是手工搅拌，即便蛋糕外观完全相同。
本文并未声称：
- 它并未声称这将阻止假新闻或政治操纵（尽管作者希望未来可能有助于伦理问题）。
- 它并未声称目前适用于图像或音频（仅适用于文本）。
- 它并未声称适用于所有可能的 AI 协作类型，仅限于他们测试过的特定“编辑者”与“创作者”场景。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。