Route to Reason: Adaptive Routing for LLM and Reasoning Strategy Selection
该论文提出了路由至推理（Route-To-Reason, RTR），这是一个统一的路由框架，它根据任务难度动态选择最优的语言模型和推理策略，旨在实现卓越准确度的同时，显著降低计算成本并避免过度思考。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你是一位在问题星系中航行的宇宙飞船船长。有些问题很简单，比如“2+2等于几？”或者“天空是什么颜色的？”另一些则是宇宙级的谜题，比如“如何计算彗星穿过黑洞的运行轨迹？”在人工智能，特别是大语言模型（LLM）的世界里，我们已经制造出了极其强大的引擎。有些模型就像是紧凑、省油的踏板车，适合快速处理琐事；而另一些则像是巨大的、轰鸣的火箭，能够解决宇宙中最难的奥秘。
长期以来，有一个简单的经验法则：“有疑问时，就用最大的火箭。”科学家们发现，如果让这些巨型模型思考得更久、更深——生成数千个词的逐步推理过程——它们就能解决极其困难的问题。这被称为“推理时扩展”（test-time scaling）。然而，就像火箭引擎一样，这种力量伴随着沉重的代价：它会消耗大量的燃料（计算能力），并且耗费很长时间。更糟糕的是，有时火箭会因为过于兴奋而开始过度思考，在自己的思绪中原地打转并迷失方向，即使面对的是一个简单的问题。科学家们面临的核心问题变成了：我们如何知道何时该启动巨大的火箭，何时只需骑上踏板车？我们需要一种方法，将合适的工具匹配给合适的工作，而不浪费能源。
于是，由中国科学技术大学的研究人员提出的 Route-to-Reason (RTR) 框架登场了。你可以将 RTR 想象成一个超级智能、具有自适应能力的 AI GPS。它不再盲目地为每个问题选择最强大的模型或最复杂的思考方式，而是扮演着一名交通管制员的角色。它观察一个问题，瞬间判断其难度，然后做出关于两件事的瞬时决策：使用哪种 AI 模型（踏板车还是火箭）以及采用哪种“思考策略”（例如简单的直接回答、逐步列表或基于代码的计算）。
研究人员发现，过去那种对所有问题都只挑选“最好”模型的做法是低效的。他们发现，在简单问题上使用一个巨大的、深度思考的模型往往会导致“过度思考”，即 AI 会浪费时间和金钱去生成数千个不必要的词汇，有时甚至因为被自己冗长的推理搞糊涂了而导致回答错误。相反，在超级难的数学问题上使用一个小模型可能会失败。RTR 通过解决这个问题，学会了为每种模型和策略的组合预测两件事：“得到正确答案的可能性有多大？”以及“表达这个答案需要多少个词？”
为了实现这一点，团队创建了一个系统，为每个问题构建一个“路由表”。这就像一份菜单，每道菜（模型 + 策略）都有一个预测的“口感得分”（准确度）和“卡路里计数”（Token 使用量）。系统会挑选出那道能以最低卡路里提供最佳口感的菜肴。在实验中，他们在各种数学和科学挑战中测试了该系统，涵盖了七种不同的开源模型和四种不同的思考策略。结果令人震惊：RTR 的准确率竟然比他们测试过的单一最佳模型还要高，同时使用的 Token（词元）减少了 60% 以上。例如，在一个特定的数学问题上，表现最好的模型用了超过 4,000 个词却给出了错误答案，而 RTR 将问题路由给了一个带有简洁策略的小模型，仅用 32 个词就答对了。
论文指出，这种方法之所以是一个重大进步，是因为它不仅选择了模型，还选择了“策略”。它证明了在许多情况下，“少即是多”。通过在不同的智能水平和不同的思考方式之间进行动态切换，RTR 找到了一个甜点区（sweet spot），即在获得高质量答案的同时，不会耗尽预算。研究人员还展示了该系统即使在面对从未见过的问题时也能奏效，证明了它不仅仅是在记忆答案，而是在学习如何判断难度。最终，RTR 提供了一种让 AI 变得更聪明且更便宜的方法，确保将适度的脑力应用于合适的问题，既防止 AI 陷入“思维陷阱”，又节省了大量的计算能量。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。