Three Lessons from Citizen-Centric Participatory AI Design
本文基于三场 2025 年的参与式研讨会，识别了以公民为中心的智能体 AI 设计中的关键挑战——具体包括维持参与度、弥合专家与外行之间的沟通鸿沟，以及将推测性输入转化为系统——并指出，反思性的长期参与对于负责任的 AI 开发至关重要。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个这样的世界：计算机不再仅仅是听从指令，而是像拥有各自个性的“小助手”一样，能够做出决策并与我们聊天。科学家们称这些为“AI智能体”（AI agents）。但这里有一个重大的问题：谁来决定这些小助手应该是什么样子的？通常情况下，是由实验室里一小群技术专家来设计的。但如果那些真正要与这些小助手共生活的人——比如学生、退休人员和邻居们这些普通大众——也能参与设计呢？这就是“以公民为中心的设计”（citizen-centric design）的核心。这就像是邀请乘客来参与设计巴士，而不仅仅是让司机来决定。其目标是确保这些未来的AI助手能够契合我们的现实生活、我们的价值观以及我们的社区，而不仅仅是那些可能会意外造成麻烦的酷炫小玩意。
这篇论文是一份研究报告，由一个研究团队撰写，他们试图在技术专家与公众之间架起一座桥梁。他们举办了三场不同的工作坊，将普通民众与专家聚集在一起，共同构思这些AI智能体可能呈现出的样子。参与者不仅仅是在交谈，他们还发挥了创造力：他们通过讲述醒来时遇到奇特AI情境的故事，并使用乐高、黏土和杂志剪贴画制作“低保真”（lo-fi）原型，以此展示他们理想中的AI助手是什么样的。随后，他们将这些天马行空的创意带给了一组专家，以观察这些想法是否真的可以被实现。
研究团队发现，虽然这个想法听起来很棒，但实际操作起来其实非常困难。他们确定了三个主要的障碍。首先，让人们保持参与度是很困难的。这就像维持一支乐队一样；如果你只邀请人们来唱一首歌（一次工作坊），你就会错过整张专辑。研究人员意识到，要获得真正的价值，人们需要参与到整个旅程中，从最初的灵感火花到最终的产品，而不仅仅是来参加一次简短的聊天。
其次，每个人的语言都不一样。专家们谈论的是“智能体”和“算法”，而普通大众可能只是将其视为“智能电脑”。研究人员发现，他们必须非常小心，不要因为使用高级词汇或展示会让参与者产生特定思维方式的案例，从而在无意中误导了参与者。他们必须承认，即使是研究人员本身也可能有自己的偏见，因此他们必须格外小心地倾听，而不去引导对话。
最后，是将那些有趣的、富有创意的绘画和故事转化为真实的、可运行的技术所面临的挑战。参与者提出了14个不同的AI创意，但弄清楚其中哪些在现实世界中是切实可行的却是一个难题。研究人员建议，最好的前进方式是保持对话的持续性，将这些创意想法与能够解决技术和伦理细节的专家结合起来。这目前还不是一个已解决的问题，但他们相信，如果我们能让公众从始至终地参与其中，我们就能构建出既具创新性又真正造福于每个人的AI。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。