Editorial Alignment: A Participatory Approach to Engaging Editorial Expertise in LLM-mediated Knowledge Dissemination
本文提出将“编辑对齐”（editorial alignment）作为一种参与式设计实践，旨在赋能公共知识机构，使其能够重新调整大语言模型界面，使其符合其编辑标准与价值观，从而在人工智能介导的知识传播过程中保留编辑自主权。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一座精心收藏了百年书籍的公共图书馆。这里的每一个事实都经过核实，每一个故事都经过验证，馆员们为自己作为社区信任之源的身份感到无比自豪。现在，想象一个极其快速的新型机器人馆员来到了这里。这个机器人可以在一秒钟内阅读数百万本书并即时回答任何问题。但有一个问题：这个机器人是由一家大型科技公司制造的，它学习到的“个性”和“规则”源于该公司的商业数据，而非这家图书馆特定的标准。
这篇论文讨论的是，这家图书馆如何教会机器人尊重自身的规则，同时又不失其灵魂。
问题所在：机器人的“默认设置”
作者认为，当公共知识机构（如丹麦、瑞典和挪威的国家百科全书）开始使用大语言模型（LLMs）来回答人们的问题时，它们面临着巨大的风险。这些人工智能模型自带由其商业创造者预设的“内置”价值观和风格。如果图书馆只是简单地开启机器人，它可能会开始表现得像个随意的聊天机器人，编造事实，或者使用一种对于严肃百科全书来说显得过于非正式的语气。
图书馆的主要职责是成为一个权威的信任来源。如果机器人开始表现得像一个通用的互联网搜索引擎，图书馆就会失去其独特的价值。挑战在于：如何在不从零开始构建一个新机器人的情况下，让机器人表现得像一位特定且严肃的图书管理员？
解决方案：“编辑对齐”（Editorial Alignment）
论文引入了**“编辑对齐”的概念。请不要将其视为一种技术修复，而应将其视为一场协作式工作坊**，由人类编辑（馆员）向机器人传授其行为准则。
研究人员并没有让工程师去猜测编辑的需求，也没有仅仅让编辑说一句“要友好”，而是将编辑与技术团队聚集在一起，像设计团队一样共同解决问题。
他们是如何做的：两步走的舞步
研究人员通过与百科全书资深编辑进行的两次工作坊，来确定如何使人工智能与图书馆的价值观“对齐”。
1. “未来工作坊”（梦想与批判）
首先，他们要求编辑们观察一个人工智能原型，并指出其中的问题。
- 反馈： 编辑们表示：“这听起来太生硬、太学术化了，”但同时也说，“它太随意了，有时还会出错。”
- 类比： 这就像向一位厨师展示一份新食谱，并问道：“这味道符合我们餐厅的标准吗？”厨师回答：“不，它缺少我们的招牌香料，而且口感完全不对。”
2. “以实践为中心的工作坊”（真正的实操）
这是最关键的部分。研究人员并没有仅仅要求编辑们写下一份规则清单（因为专家往往知道“如何做”，却难以解释“为什么”），而是给他们展示了人工智能回答错误的真实案例。
- 活动： 编辑们必须亲自修改这些 AI 的回答。他们必须修正关于某种方言或某种医疗状况的回复，使其符合百科全书的标准。
- 发现： 在编辑的过程中，他们开始意识到自己那些隐藏的规则。他们注意到，他们讨厌 AI 对读者说话（例如说“嘿，你！”），而是希望 AI 谈论主题本身。他们意识到，他们希望 AI 在深入细节之前，先给出一个像新闻标题一样的摘要。他们决定，即使这样做能让内容更易理解，AI 也绝不应该试图变得“有趣”或使用表情符号。
- 结果： 他们创建了一份**“编辑标准”**。这是一个活的文档——机器人的规则手册。它规定了诸如：“始终先进行摘要”、“绝不使用‘你’来称呼读者”以及“始终将事实置于历史背景中”等规则。
大惊喜：机器人变得更加“严肃”了
作者发现了一个有趣的现象。当他们询问编辑们是否想要一个面向青少年的“友好、有趣”的 AI 时，编辑们竟然说：“不。”
编辑们认为，为了保持可信度，AI 必须听起来像百科全书一样：严肃、中立且结构化。他们愿意牺牲一些“趣味性”来维持“信任”。他们决定，如果图书馆要成为真理的来源，那么读者理解答案时需要付出一点努力是可以接受的。AI 不应该试图“钻进读者的脑海”或表现得像个爱聊天的朋友；它应该表现得像一本可靠的参考书。
陷阱：影响力 vs. 权力
论文最后提出了一个至关重要的警告。虽然编辑们成功地参与了规则的设计（即“编辑标准”），但他们并不真正拥有这个机器人。管理层和科技公司仍然掌握着权力。
- 类比： 想象馆员们为新的机器人馆员起草了一部宪法。但建筑的所有者（管理层）仍然可以走进来，无视这部宪法，并在任何时候更改机器人的行为。
- 结论： 论文认为，要让这一切真正奏效，图书管理员需要的不仅仅是一个参与讨论的席位，而是共同所有权。他们需要一项正式的保证，确保他们的规则不会被覆盖。否则，这个过程就有可能沦为一种仅仅是利用编辑的数据来让机器人变得稍微好一点的“资源采集”手段，而无法赋予图书管理员真正的控制权。
总结
简而言之，这篇论文表明，你不能仅仅把一个聪明的 AI “插”进一座严肃的图书馆就期望它能正常运作。你必须与专家（编辑）坐下来，通过真实的实践让他们教会 AI 他们特定的思维方式。这创造了一套保持 AI 可信度的规则。然而，要使这成为一种真正的伙伴关系而非仅仅是咨询，专家们需要拥有执行这些规则的实权，而不仅仅是提出建议的能力。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。