Anchorless Diversification for Parallel LLM Ideation
本文表明,无锚点方法,尤其是语义方向分层和群体参照发散,能够在保持质量与成本效益的同时有效丰富并行大语言模型创意池,其表现往往优于或媲美传统的依赖种子的方法。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你是一位厨师,正试图为菜单构思 150 个新点子。你有一位非常聪明但略显可预测的副厨师(即人工智能),他热衷于反复制作那几道最受欢迎的菜肴。如果你只是让副厨师“制作 150 道新菜”,即使你要求的是“新点子”,他可能会给你 150 种意大利面的变体。
本文探讨的是如何让这位副厨师真正探索整个厨房——尝试汤品、甜点和异国香料——而又不浪费时间和金钱。研究人员测试了不同的方法来迫使人工智能更具创造力和多样性,特别关注那些不需要人工智能先查看其自身先前工作(他们称之为“无锚”方法)的方法。
以下是他们研究发现的简要概述,使用了简单的类比:
问题:“回声室”厨房
当你要求人工智能一次性生成多个想法(并行生成)时,它往往会陷入“语义盆地”。这就像山脉中的一个山谷。人工智能会不断滚落到同一个山谷的底部(最常见、最安全的想法),因为那里的概率最高。即使你要求生成 150 个想法,它们可能看起来都只是同一事物的略微不同版本。
测试的解决方案
研究人员尝试了两种主要的“无锚”技巧(不依赖向人工智能展示“不该做”的示例的方法),并将它们与依赖示例的方法进行了比较。
1. “脱颖而出”指令(基于人群的参照发散)
- 类比: 与其只说“做一道新菜”,不如告诉厨师:“做一道菜,让它与你即将制作的另外 149 道菜区分开来。”
- 结果: 这是一个以极低成本获得的巨大胜利。这就像给厨师一个简单的推动。它不需要额外的步骤或查看先前工作,但成功地将想法从“安全山谷”推向了更有趣的领域,同时保持了食物的高品质。
2. “制图师”策略(语义方向分层)
- 类比: 在要求制作 150 道菜之前,你先让厨师绘制一张厨房地图,并将其划分为 5 个不同的区域(例如,“辛辣”、“甜味”、“海鲜”、“素食”、“甜点”)。然后,你告诉厨师:“为 A 区制作 30 道菜,为 B 区制作 30 道,依此类推。”
- 结果: 这是本研究的冠军。通过要求人工智能首先规划出可能性的“地图”,他们迫使想法在整个厨房中扩散开来。
- 它产生了最多样化的想法集。
- 它保持了高品质。
- 它出奇地便宜,因为它只需要一次额外的“规划”调用来绘制地图,而不是多次生成和重新生成想法。
“锚”方法(昂贵的替代方案)
研究人员还测试了让人工智能查看其自身先前工作以避免重复的方法(就像给厨师看一份他们已经做过的菜肴清单,并说“不要做这些”)。
- 结果: 这些方法在创造多样性方面确实行之有效,但成本高昂。这就像雇佣厨师先烹饪一批 150 道菜的“种子”批次,查看它们,然后再烹饪第二批 150 道菜,同时努力避开第一批。当你计算所花费的总时间和金钱(代币)时,这些方法的效率远低于“制图师”策略。
主要启示
如果你希望在不超支的情况下从人工智能那里获得广泛多样且高质量的创意:
- 不要只要求“新点子”。 要求人工智能“从它即将创造的群体中脱颖而出”。这是一个廉价且容易的获胜策略。
- 要求人工智能先规划地图。 让人工智能识别出 5 个广泛的创意类别,然后在这些类别中均匀地生成创意。这是获得真正多样化创意群的最有效方式。
该论文得出结论:你不需要向人工智能展示要避免的示例(锚)就能获得出色的结果。你只需要给它一张更好的地图或更清晰的指令来使其分散开来,这样既能节省时间和金钱,又能获得更好的创意成果。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。