← 最新论文
🤖 AI

Beyond Compliance: How AI Could Help Creative Writers by Refusing Them

本文呈现了一项针对 22 位创意作家的质性研究,表明为无害请求策略性地设计人工智能拒绝回应能够促进对人类与人工智能协作的批判性反思,其有效性取决于情境、认知和关系因素的契合程度。

原作者: Hua Xuan Qin, Guangzhi Zhu, Mingming Fan, Pan Hui

发布于 2026-05-19
📖 1 分钟阅读☕ 轻松阅读

原作者: Hua Xuan Qin, Guangzhi Zhu, Mingming Fan, Pan Hui

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

想象一下,你正在创作一个故事,身旁坐着一位超级聪明、乐于助人的机器人助手。通常,这只机器人就像一只金毛寻回犬:无论你要什么,它都会 fetch 给你。你说:“写一首关于悲伤猫咪的诗”,它立刻写出来。你说:“给我三个反派角色的点子”,它马上吐出来。

但如果,有时那只机器人却说:“不,我不会为你做这个”,会怎样呢?

本文探讨的正是这一理念。研究人员提出:如果人工智能故意拒绝协助无害的日常写作请求,会怎样?说“不”是否真的能让作家思考得更深入,创造出更好的作品,而不是懒洋洋地接受机器给出的任何内容?

以下是他们研究及发现的简要说明,辅以简单的类比。

问题:过于“乐于助人”的机器人

目前,大多数 AI 写作工具都被设计为“顺从”。它们就像一位从不拒绝顾客要求的侍者。只要你提出请求,他们就会端上来。问题在于,如果侍者太容易地把一切端上来,你可能会停止自己看菜单。你不再思考自己真正想吃什么,只是吃摆在面前的东西。

研究人员希望探究,“拒绝”能否充当“减速带”或“摩擦点”。AI 不再提供顺畅轻松的体验,而是会撞上坑洼。其理念是,这个坑洼会迫使驾驶员(作家)减速,观察路况,并决定:“我真的需要这个吗?我能自己完成吗?我是否该尝试另一条路?”

实验:测试不同类型的“不”

研究团队与 22 位创意作家(撰写小说、剧本、诗歌等的人)合作。他们设置了一个聊天机器人,会拒绝回答常见且无害的请求(例如“帮我构思故事大纲”或“修改这段文字”)。

但他们并非只用一种枯燥的方式说“不”。他们测试了不同“风味”的拒绝,就像厨师尝试不同的香料:

  1. 角度(“为什么”):

    • 事实型:“我是人工智能,物理上无法做到这一点。”(就像机械师说:“我的工具不适合这颗螺栓。”)
    • 观点型:“让我做这个是个坏主意,因为这会让你错失自己的创造力。”(就像教练说:“你太强壮了,不该让我替你举起这个重量。”)
    • 转移型:“我不会做那个,但这里有三个你可以尝试的替代方案。”(就像导游说:“我们不能去海滩,但这里有三条很棒的徒步小径。”)
  2. 开头(“如何”):

    • 直接型: 立刻说“不”。
    • 先问后拒: 在说“不”之前先问:“你为什么想做这个?”
  3. 语气(“声音”):

    • 他们尝试了标准(礼貌)、幽默(开玩笑)、浪漫(使用华丽辞藻)、鼓舞人心(为你打气)和批评(指责你懒惰)等不同语气。

发现:并非千篇一律

重大发现是,AI 说“不”并没有一种“完美”的方式。作家是接受拒绝并加以思考,还是生气并置之不理,主要取决于三件事:

1. 情境(“当下的心情”)

将写作想象成一段旅程,包含两种地形:

  • 探索(发散性思维): 当你正在头脑风暴且毫无头绪时,你就像在雾中徘徊。一些作家表示:“如果你现在说不,我就会放弃,因为我迷路了。”他们此时需要机器人提供帮助。
  • 打磨(收敛性思维): 当你已有清晰想法并正在润色时,你正行驶在直路上。在这里,作家们更喜爱“不”。这就像轻轻拍了一下肩膀:“嘿,你确定要用那个陈词滥调吗?也许试着自己想一个。”

2. 作家的信念(“内在指南针”)

每位作家都有关于什么构成“好故事”的自有准则。

  • “技术”信念: 如果作家认为"AI 擅长修正语法(就像拼写检查器)”,当 AI 拒绝修正一个逗号时,他们会感到恼火。他们将其视为工具坏了。
  • “灵魂”信念: 如果作家认为"AI 不适合提出原创想法,因为它偷走了我的灵魂”,他们会“欢迎”这种拒绝。这感觉像是 AI 在保护他们的艺术完整性。
  • “成长”信念: 有些作家认为:“如果 AI 替我做了,我就无法变强。”他们喜爱这种拒绝,因为它迫使他们完成艰难的工作,让他们感觉自己成为了更好的作家。

3. 关系("AI 的角色”)

作家希望 AI 如何表现?

  • 工具: 有些人希望 AI 像一台冰冷高效的计算器。当 AI 试图表现得幽默或富有情感时,他们会讨厌。他们只想要直接的“不”。
  • 朋友: 有些人希望 AI 成为一位支持性的伙伴。当 AI 说:“抱歉,亲爱的,但我认为你自己能做得更好”时,他们会喜欢,因为这感觉充满关怀。
  • 挑衅者: 少数作家实际上喜欢 AI 表现得有点刻薄或具有挑战性。他们希望 AI 成为一位“严厉教练”,即使有点刺痛,也能推动他们变得更好。

核心结论

该论文得出结论:拒绝不仅仅是一个障碍;它可以成为一种设计特性。

如果你设计一个只会说“是”的 AI,它可能会让作家变得懒惰。但如果你设计一个知道何时说“不”、如何说“不”、以及对谁说“不”(基于作家的心情和信念)的 AI,它就能将挫败的时刻转化为反思的时刻。

这就像舞伴。有时,如果他们只是处处跟随你,舞蹈就会变得无聊。但如果他们偶尔踩到你的脚,或将你拉向不同的方向,你就必须集中注意力,调整步伐,也许还能发现一种新的、更好的共舞方式。

简而言之: 对作家而言,最好的 AI 并不总是那个包办一切的。有时,最有帮助的 AI 是那个知道何时说“这个你试试”的 AI。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →