🤖 AI

CreativityNeuro: Steering Language Model Weights to Improve Divergent Thinking and Reduce Mode Collapse

本文介绍了 CreativityNeuro，一种无需数据的（data-free）方法，该方法通过引导语言模型权重，在无需重新训练或行为数据的情况下，显著增强各种创造性任务中的发散性思维并减少模式崩塌。

原作者： Samuel Schapiro, Core Francisco Park, Felix Sosa, Lav R. Varshney

发布于 2026-07-03

📖 1 分钟阅读☕ 轻松阅读

原作者： Samuel Schapiro, Core Francisco Park, Felix Sosa, Lav R. Varshney

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，一个大型语言模型（比如驱动聊天机器人的那些模型）就像一位超级聪明但非常循规蹈矩的大厨。这位大厨读过世界上几乎所有的食谱。当你要求他“做点有创意的东西”时，他往往只是反复端出那几种最热门的菜肴。他陷入了一个循环，当你想要“新鲜感”时，他却只会端出“披萨”；当你想要惊喜时，他却只会端出“意面”。在论文中，作者将这种现象称为**“人工蜂群效应” (artificial hivemind effect)**——即每个人（或每个 AI）的想法都完全一致。

这篇论文介绍了一个名为 CreativityNeuro 的新工具来解决这个问题。以下是它的工作原理，使用简单的类比进行说明：

1. 问题所在：大厨的“舒适区”

当 AI 尝试进行创作时，它往往会退回到它最常见、最稳妥的答案上。这就像一位爵士乐手，因为最熟悉，所以只知道演奏那三个相同的音符。论文称之为**“模式崩塌” (mode collapse)**。AI 停止了对新想法的探索，只是在重复同样的模式。

2. 解决方案：“权重转向” (大脑手术)

作者并没有教 AI 新的食谱（因为这需要喂给它成千上万个新示例），相反，他们对 AI 的大脑（其内部数学权重）进行了一次微小而精准的“手术”。

对比测试： 他们给了 AI 两类指令：
- 创意提示词： “写一个让你质疑现实的故事”或“给我一个惊喜”。
- 乏味提示词： “写一个标准的故事”或“保持精确”。
寻找“创意开关”： 通过比较 AI 大脑对这两类提示词的不同反应，该系统识别出了特定的微小开关（数学权重）——这些开关仅在 AI 进行创作时亮起，而在它表现平庸时则保持熄灭。
调高音量： 他们找到了这些特定的开关，并稍微调高了它们的“音量”（通过一个缩放因子）。这就像是在调音台上找到控制“想象力”的特定旋钮，然后将其稍微调大，而不改变其他音乐的部分。

3. 结果：跳出框架思考

论文在三个不同的“创意游戏”上测试了该方法：

“无关词汇”游戏 (DAT)： AI 必须列出 10 个彼此毫无关系的词。
- 之前： AI 列出的词是“猫、狗、鸟、鱼……”（全都是动物）。
- 使用 CreativityNeuro 后： AI 列出的词是“烤面包机、星系、低语、火山……”（分布得更加广泛）。
- 结果： 与普通人类相比，AI 的答案提升了 14 个百分点。它变得显著更加多样化。
“新用途”游戏 (AUT)： AI 必须思考砖块或回形针的奇特用途。
- 结果： 人类评判者认为 AI 的新想法比以前更具原创性、更令人惊讶且更有创意。
“游戏节目”游戏 (Task Task)： AI 必须发明一个有趣的、搞怪的游戏节目挑战。
- 结果： 同样，人类评判其想法更具创意和原创性。

4. 为什么这很特别

无需新数据： 不同于其他需要喂给 AI 数千个“优秀”示例来学习的方法，这种方法使用零新数据。它只是微调了现有的“大脑”。
无需重新训练： 他们不需要从头开始教 AI。他们只是调整了设置。
它具有泛化能力： 论文发现，即使是 AI 没见过的游戏，这种方法依然有效。这就像是调校汽车的引擎，使其能在任何道路上跑得更好，而不仅仅是在测试过的特定路面上。

5. 潜在的问题：创意 vs. 事实

论文还发现了一个有趣的事实：创意与事实推理是纠缠在一起的。

当他们调高“创意”音量时，AI 回答事实性问题（如数学或历史）的能力会略微下降。
这就像是帮助你记忆事实的大脑部分，同时也负责帮你想象新事物。你无法在不稍微影响其中一者的前提下，轻松提升另一者。论文建议，为了获得最佳效果，你可能需要针对不同任务使用不同的“模式”（一种模式用于事实，另一种用于创意）。

总结

CreativityNeuro 是一种通过微调 AI 内部设置来打破其重复习惯的方法。通过识别并放大 AI 内部处理“跳出框架思考”的特定部分，作者使 AI 能够生成更多样、更令人惊讶且更具原创性的想法，而无需重新训练或喂入新数据。这就像是轻轻推了 AI 一把，让它不再仅仅是求稳，而是开始尝试冒险。

技术摘要：CreativityNeuro

问题陈述

大语言模型（LLMs）表现出一种被称为“人工蜂群效应”（artificial hivemind effect）的现象，即它们在面对开放式问题时，往往会生成高度相似、同质化的回答。这种行为限制了它们的发散性思维（divergent thinking）能力——即生成多个多样化解决方案的能力——而这是创造力的核心组成部分。现有的增强创造力的方法，如提示词工程（prompting）、解码参数调节（如 temperature）以及激活转向（activation steering），通常需要行为数据集、基于梯度的微调，或者无法在不同的创意任务中实现泛化。此外，目前对于创造性行为是否可以从模型的权重空间中与事实推理分离，仍缺乏深入理解。

方法论：CreativityNeuro

作者引入了 CreativityNeuro (CN)，这是一种无需数据的（data-free）方法，通过转向 LLM 权重来放大发散性思维。与依赖行为数据或梯度更新的以往方法不同，CN 通过基于对比提示集（contrastive prompt sets）识别并缩放模型权重空间中的特定参数来运作。

核心算法

该方法遵循三步流程（详见算法 1）：

对比提示集： CN 不依赖于结构化数据集（如用于推理的 MATH），而是利用六组对比提示集（ $P_{cre}$ vs. $P_{non-cre}$ ），涵盖了诸如叙事、构思和极简指令（例如，“给我惊喜”对比“保持精确”）等风格。
参数重要性评分： 利用一种类 Wanda 的评分机制，该方法计算每一层 $\ell$ 中权重的重要性得分 $S_{\ell,ij}$ 。得分是权重量级与激活范数的乘积，并在提示集的所有 token 上进行求和：
$S_{\ell,ij} = \sum_{b,t} |W_{\ell,ij}| \cdot \|x^{(b,t)}_{\ell,j}\|^2$
得分分别针对创意型提示（ $P_{cre}$ ）和非创意型提示（ $P_{non-cre}$ ）进行计算。
权重选择与缩放： 该方法通过选择在创意重要性排名在前 $\rho$ 百分比中、但未出现在非创意提示前 $\rho$ 百分比中的权重（ $C_\ell \setminus N_\ell$ ），来隔离创造性特定的参数。这些选定的权重在推理过程中将按因子 $(1 + \alpha)$ 进行缩放。

这种方法不需要行为生成、评分响应或标记样本，使其完全实现了无数据化。

核心贡献

论文概述了五项主要贡献：

无数据转向： 引入了 CreativityNeuro，这是一种无需行为数据集或重新训练即可转向创造性行为的方法。
提升发散联想任务（DAT）表现： 证明了 CN 显著提高了 DAT 分数，其表现优于包括提示词、采样参数变化和激活转向在内的基准方法。
复杂任务的泛化能力： 通过在替代用途测试（AUT）和任务任务（TT）上进行的大规模人类评估（ $N=720$ ）进行了验证，显示在原创性、惊喜感和创造力方面均有提升。
减少模式崩溃（Mode Collapse）： 证据表明 CN 减少了词级（DAT）和响应级（AUT/TT）的模式崩溃。
权重空间纠缠： 发现发散性思维与事实推理在权重空间中是不可分离的；试图隔离它们会导致两个领域的性能均下降。

实验结果

1. 发散联想任务 (DAT)

在六个经过指令微调的模型（涵盖 Phi、Llama、Qwen 系列，参数量从 3B 到 14B 不等）上进行了评估：

性能： CN 将 DAT 性能提升了高达 14 个百分位点。
对比： CN 实现了平均 94.1 的人类百分位数，略微超过了激活转向（93.9），并显著优于提示词和采样基准。
数据效率： 与需要通过评分行为数据构建转向向量的激活转向不同，CN 仅使用提示对就取得了更优的结果。

2. 替代用途测试 (AUT) 与任务任务 (TT)

通过大规模人类评估（ $N=720$ ）评估了原创性、惊喜感、实用性和创造力：

AUT： CN 在原创性（平均 Cohen's $d = +0.36$ ）和惊喜感（ $d = +0.43$ ）方面均产生了统一的正向影响。
TT： CN 在原创性（ $d = +0.40$ ）方面表现出强劲增益，并在创造力（ $d = +0.24$ ）方面表现出中度提升。
泛化性： 虽然激活转向在 DAT 上表现出与 CN 相当的水平，但它无法泛化到 AUT 和 TT。这突显了权重空间转向在处理未见的复杂创意任务时优于激活转向。
权衡： CN 降低了 AUT 中的实用性得分，这是创意生成中固有的“新颖性-实用性”权衡的必然结果。

3. 模式崩溃

DAT： CN 将前 10 个最频繁词汇的概率质量降低了 10.2 个百分点，并将词汇熵增加了 10%。
AUT/TT： CN 减少了模型内重复和模型间同质化，证明了在句子和段落长度的响应中减少了语义层面的模式崩溃。

4. 发散性思维与事实推理的可分离性

作者研究了能否将创意权重从事实推理权重中分离出来（通过 MMLU 基准测试进行测试）：

发现： 发散性思维和事实推理在权重空间中是功能性纠缠的。
证据： 试图通过排除与 MMLU 相关的权重来保护 MMLU 性能的做法，尽管减小了掩码（mask）的大小，但反而导致了 MMLU 分数的进一步下降。这表明驱动创造力的参数与驱动事实准确性的参数是深度交织在一起的。

重要性与主张

论文声称 CreativityNeuro 提供了一种直接的、无数据的机制来增强 LLM 在创意领域的表现。其主要意义在于：

泛化性： 证明了权重空间转向可以泛化到激活转向失效的未见创意任务（AUT、TT）中。
高效性： 无需微调或收集行为数据集的计算成本或数据需求，即可达到最先进的创意表现。
机械论洞察： 为“创造力和事实推理在权重空间中并非模块化可分离”提供了证据，这表明增强其中之一本质上会影响另一者。

作者总结道，虽然 CN 有效地改善了发散性思维并减少了同质化，但创意权重与事实权重的纠缠仍然是当前 LLM 架构的一个基本约束，未来研究可能需要通过多智能体系统或统一的因子化表示来解决这一问题。