MO-CAPO: Multi-Objective Cost-Aware Prompt Optimization
MO-CAPO 是一种新颖的多目标提示优化算法，它通过高效的预算分配联合优化大语言模型的性能与推理成本，在保持成本效益的同时，通过发现多样化且稳健的性能 - 成本权衡而优于现有方法。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象你拥有一个非常聪明但价格昂贵的机器人助手（即大型语言模型，LLM）。你希望它完成一项具体任务，比如写故事或解数学题。为了让机器人发挥最佳水平，你必须给它一套指令，称为“提示”（prompt）。
问题在于，手动编写完美的提示就像猜中奖彩票号码：既困难、耗时，又往往不可靠。此外，机器人按你输入的每个词（输入）和它输出的每个词（输出）向你收费。如果你的提示太长，或让机器人思考得过于深入，你的账单就会上涨。
旧方法：“越多越好”
此前，研究人员试图通过构建自动化工具来编写更优的提示以解决这一问题。然而，这些工具存在一个重大盲点：它们只关心机器人的表现如何，而不关心成本。
这就像雇佣一名只在乎把包裹尽快送达、却不在乎是否绕路多耗汽油的送货司机。你可能得到一个很好的提示，但其运行成本高昂到在现实应用中毫无用处。
其他研究人员尝试使用“厨房水槽”方法（一种名为 NSGA-II 的算法）来平衡性能与成本。他们把一切可能的手段都抛出去，看看哪些有效。但这既缓慢又浪费，就像在寻找最佳食谱时，先把世界上所有可能的菜肴（包括那些明显糟糕的）都试做一遍，然后再继续。
新方案：MO-CAPO
本文作者提出了MO-CAPO（多目标成本感知提示优化）。可以将 MO-CAPO 想象成一位精明且注重预算的厨师，正在寻找完美的菜单。
以下是其工作原理，使用简单类比说明：
1. 两个目标（性能 vs. 成本）
MO-CAPO 不再仅仅寻找“最佳”菜肴，而是寻找最佳的权衡。
- 目标 A：让菜肴味道惊艳（高性能）。
- 目标 B：控制购物账单低廉（低成本）。
MO-CAPO 不只给出一个答案，而是提供一系列选项菜单： - 选项 1：一道便宜简单的菜，味道达到最佳菜品的 80%。
- 选项 2：一道稍贵的菜，味道达到最佳菜品的 90%。
- 选项 3：最昂贵、最精致的菜肴，味道达到最佳菜品的 100%。
这使得用户可以根据自身的具体预算和需求选择最合适的选项。
2. “竞速”机制（节省开支）
MO-CAPO 最大的创新在于它在搜索这些提示的过程中如何节省开支。
想象你要测试 100 道新食谱。传统方法会将每一道从头到尾完全做完，以判断哪道最好。这会浪费大量汽油和食材。
MO-CAPO 采用**“竞速”**策略：
- 它开始同时烹饪所有 100 道食谱，但只煮几分钟。
- 如果某道食谱在 5 分钟后明显味道不佳，它就立即停止烹饪并丢弃。
- 它只将全部时间和资金投入到那些展现出潜力的食谱上。
这意味着 MO-CAPO 能以远低于旧方法的速度和成本找到优质解决方案。
3. 统计每一个 Token（真实成本）
旧方法通常只计算指令的长度（比如计算信件中的单词数量）。MO-CAPO 则更聪明。它知道在 AI 世界中，机器人写出的内容比你让它读的内容更昂贵。
- 阅读（输入）：就像听播客，相对便宜。
- 写作（输出）：就像机器人打出一篇长文章，这很昂贵。
MO-CAPO 基于这两者计算成本，确保最终生成的提示在现实应用中真正具有成本效益。
结果：他们的发现
研究人员在三种不同的“机器人”（AI 模型）和四项不同任务（如数学、新闻分类和编程）上测试了 MO-CAPO。
- 更高的效率：与旧的“厨房水槽”方法相比，MO-CAPO 用少得多的资金找到了高质量解决方案。在某些情况下，它仅用一小部分预算就达到了相同的品质。
- 更多选择：与只提供单一“最佳”提示的单目标工具不同，MO-CAPO 提供了一整套选择光谱。你可以清楚地看到，为了获得一点点更高的准确率，需要额外花费多少资金。
- 同样优秀：尽管 MO-CAPO 专注于节省成本，但它找到的“最佳”提示与那些昂贵单目标工具找到的提示一样好。它并未为了省钱而牺牲质量，只是找到了最佳平衡点。
总结
MO-CAPO 是一款帮助人们更智能地使用 AI 的工具。它摒弃了“把一切抛向墙壁”的做法，代之以一种战略性的、具备成本意识的搜索方法。它为用户提供了一个帕累托前沿（Pareto Front）——这是一个 fancy 术语，意指“权衡菜单”，让用户能够在获得出色结果与保持钱包满意之间选择完美的平衡。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。