Prompts for Public-Sector LLMs Should Be Governed as Commons
本文认为，公共部门大语言模型的提示词应当被视为受治理的公共资源而非私人输入，并提出了一种“提示词公地”（Prompt Commons）框架，通过版本化的仓库和利益相关者协商机制，来增强人工智能部署中的透明度、可争议性和可审计性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在主持一场城市议会会议，一位非常聪明但略带主见性的机器人助手正在协助你起草决策。你可能会认为机器人的个性是固定的，因为它是由一家大型科技公司制造的。但本文认为，你如何与机器人交流（即“提示词/Prompt”）实际上才是对话中最重要的部分。
以下是该论文核心思想的简单拆解，使用了日常生活的类比。
1. 问题所在：“隐藏的食谱”
把大语言模型（LLM）想象成一个巨大的、高功率的厨房。食材（数据）和厨师的训练（模型的代码）已经设定好了。
然而，论文指出，你给厨师的食谱才是决定菜肴品质的关键。
- 如果你告诉厨师：“为一场预算有限的派对做一道辣味菜肴，”你会得到一种结果。
- 如果你告诉他们：“为一位 VIP 准备一道健康且昂贵的菜肴，”你会得到完全不同的结果。
在公共政府工作中，这些“食谱”（提示词）通常由一个人编写，通过非正式渠道传递，或者被保密处理。如果一个食谱带有隐藏的偏见（例如假设每个人都开车），那么机器人做出的决策就会伤害到那些乘坐公交车的人。因为食谱是隐藏的，所以没有人能看到其中的偏见、对此进行争论或予以修正。
2. 解决方案：“社区食谱库”（Prompt Commons）
作者提出了一个名为 Prompt Commons 的新系统。想象一个公共的、由社区运营的食谱图书馆，而不是藏在单个厨师口袋里的秘密笔记本。
这个图书馆有三条特殊规则：
- 版本控制： 每份食谱都有版本号和历史记录。如果有人更改了某种成分，每个人都会确切知道何时以及为何更改。
- 溯源（“谁”）： 每份食谱必须注明作者是谁。它是出自一位老年人，一位残障人士倡导者，还是一位社区团体之手？这确保了我们知道谁的声音被融入了食谱中。
- “否决”按钮： 如果某个特定群体（如当地残障人士委员会）发现某份食谱会对其社区造成伤害，他们可以按下“暂停”键。该食谱将被锁定在隔离区，直到问题得到讨论并解决。
3. 实际运作方式：“城市试点”
研究人员在一个大型北美城市测试了这个想法。他们召集了来自各种社区团体（老年人、移民、LGBTQ+ 群体等）的 443 名不同人员，让他们为城市机器人如何谈论街道和公园编写自己的“食谱”。
他们将这些内容转化成一个包含 3,000 多个变体的数据库，并测试了管理该图书馆的三种不同方式：
- 开放式： 任何人都可以添加食谱（就像一个公共公告栏）。
- 策展式： 一个团队负责检查每份食谱是否带有正确的标签，并涵盖了不同的群体（就像一位严格的编辑）。
- 启用否决权： 在策展系统的基础上，增加了特定群体拦截不良食谱的权力。
结果显示：
- 当使用单个人的食谱时，机器人的回答会非常“执着”于某一方的观点（例如，始终优先考虑汽车）。
- 当使用社区食谱库（尤其是带有“否决权”的版本）时，机器人的回答变得更加平衡。它更有可能提出“折中方案”（例如，“让我们既建自行车道，也保留停车位”），而不是只选出一个赢家。
- 最重要的是，当出现“错误”答案时，拥有否决系统的团队修复速度更快（仅用约 5 小时），而开放式系统则需要超过 3 0 小时。
4. 为什么这很重要（对政府而言）
论文建议，政府不应将这些提示词视为临时的笔记。相反，应该将它们视为正式的政策文件。
- 透明度： 正如城市必须公布预算一样，它也应该公布其用于决策的“食谱”。
- 问责制： 如果决策出现失误，你可以追溯到导致问题的具体版本的食谱。
- 协商： 与其由一个人决定机器人的个性，不如让不同群体提交自己的版本，并将系统设计为寻找中间地带。
5. 论文并未提及的内容
明确遵循论文的实际主张是非常重要的：
- 它并未说这个系统是完美的，也并未解决所有的 AI 问题。
- 它并未声称这些“折中”的答案总是最好的道德选择；它只是说这些答案更具可见性且更容易被讨论。
- 它并未暗示需要改变机器人的大脑（模型）；改变完全在于我们如何与其交流。
核心结论
论文认为，我们如何提问与答案本身同样重要。 通过将“问题”（提示词）视为一种公共的、共享的且受监管的资源，我们可以让政府中的 AI 变得更加公平、透明，并能更好地响应其服务的人民。它将一个秘密的、单人指令转变成了一场公开的对话。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。