Disrupting convergence in large language model generation
本文表明，与仅依赖显式指令相比，提供异质性的外部信息线索是增加大语言模型输出语义多样性的一种更可靠且有效的方法，这凸显了提示词设计中信息输入与行为引导之间的关键区别。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个这样的世界：当你要求计算机思考一个新点子时，它总是给出相同的答案。这并非假设的情景，而是我们日常使用的人工智能系统正在面临的现实。这些大型语言模型是强大的工具，能够生成文本、解决问题并激发创意。然而，研究人员注意到了一种令人不安的模式：当许多人向这些系统寻求创意时，其响应往往表现出越来越趋同的特征。这种被称为“收敛”的现象意味着，与其产生广泛且独特的建议，数百万用户的集体输出却缩减到了一组极小且重复的答案中。对于像头脑风暴或设计这样价值在于拥有多种不同选择的任务而言，这种同质化是一个显著的问题。科学家们面临的问题不在于这些机器能否产生多样性，而在于我们如何可靠地鼓励它们这样做，而不至于让每个人最终都得到同样的结果。
一位研究人员试图通过测试两种打破重复循环的方法来解决这个问题。第一种方法是许多人可能会本能尝试的做法：仅仅告诉计算机要有所不同。这涉及给机器一个标准任务，并添加一条特定的指令，要求其避免常见答案或生成一些不寻ों的东西。第二种方法涉及在计算机回答之前改变它所看到的信息。研究人员并没有仅仅要求一个不同的响应，而是提供了一个随机且无关的单词作为灵感。其核心思想是观察向机器输入新的、多样的信息是否会自然地导致更多样化的答案，还是关键完全在于指令的措辞方式。
为了寻找答案，研究人员通过涉及超过16,000次独立文本生成的系列实验，进行了三场精心计划的研究。他们使用了三种不同的领先人工智能模型，并要求它们执行三个截然不同的创意任务：为一个放在红色椅子旁的物体命名、建议一个空纸箱的新用途，以及提出一个关于可重复使用水瓶的改进方案。在第一项研究中，他们对比了仅仅要求一个不同答案的标准方法与提供随机外部单词的方法。结果清晰且一致：当模型仅仅被告知要有所不同时，答案的多样性仅有微小的提升，并且往往无法打破重复的模式。然而，当研究人员引入一个随机单词作为灵感来源时，答案的多样性却大幅跃升。模型产生了更广泛的创意，分布在许多不同的可能性中，而不是聚集在少数几个相同的响应周围。
随后，研究人员深入挖掘，以了解计算机究竟是如何使用这一新信息的。他们想知道计算机是需要被明确告知去使用这个随机单词，还是仅仅该单词的存在本身就足够了。在第二项研究中，他们保持随机单词完全相同，但改变了围绕它的指令。在一组中，模型被告知完全忽略该单词；在另一组中，它们被告知可以根据需要使用它；在第三组中，它们被要求必须使用它。研究结果揭示了一种令人惊讶的不对称性。当模型被告知忽略随机单词时，多样性的益处消失了，答案变得和基准情况一样具有重复性。然而，当模型仅仅是被展示了这个单词而没有任何使用它的具体指令时，多样性依然保持在高水平。更有趣的是，告诉模型它们“必须”使用该单词，并不会比仅仅展示该单词而不加指令时带来更多的多样性。存在多样化信息的本身才是驱动力的源泉，而明确要求使用它的指令并非解锁这种潜力的必要条件。事实上，告诉计算机忽略该信息是唯一能成功阻止多样化发生的操作。
在最后一项研究中，研究人员保持信息不变，仅改变关于预期结果的指令。他们给所有模型提供了相同的随机单词和相同的“将其作为灵感”的指令。然后，他们添加了第二层指令：一些模型被告知要做出与其他人的结果不同的答案，一些被告知要使其清晰易懂，另一些则被告知要使其与他人的结果相似。结果显示，“要有所不同”的指令确实推动了答案远离计算机的默认习惯，从而创造了更多样性。相反，“要相似”的指令则将答案拉回了中心，减少了多样性。这证实了虽然信息环境提供了多样性的原材料，但指令起到了引导作用，既可以放大这种多样性，也可以抑制它。
该研究得出结论：防止人工智能反复产生相同答案最可靠的方法是改变信息环境，而不仅仅是改变提示词。仅仅要求计算机具备创造力，往往不足以克服其趋向于产生最显而易见答案的倾向。相反，提供多样的外部线索——如随机单词、示例或不同的视角——会自然地引发输出的变化。这种效应是稳健的；即使没有强制要求使用新信息，它也会发生。然而，研究人员也发现这种效应是脆弱的。如果指令明确要求计算机忽略这些新信息，多样性的益处就会消失。关键的启示是，保持人工智能生成内容的多样性需要设计计算机运行的上下文环境。通过确保机器能够接触到广泛且独特的各种信息，并避免使用那些要求其忽略该信息的指令，我们可以鼓励产生更丰富、更多样化的集体输出。这种方法为任何依赖这些工具进行创新的人提供了一条切实可行的路径，确保人工智能辅助创意的未来是多样化的，而非单一化的。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。