Decoupling Performance from Energy in AI-Based Business Optimization: An Error-Driven Control Loop for Sustainable Tabular Reasoning
本文提出了一种误差驱动的提示词优化框架，该框架将提示词微调视为一个离散时间反馈控制循环，并证明了其在金融推理任务上达到了与全量微调或 LoRA 相媲美的性能，同时消耗的能量显著低于后者。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代商业世界中，公司越来越依赖人工智能来阅读财务报告、回答关于复杂表格的问题并做出关键决策。这些系统构建在大型语言模型之上，这类模型是经过海量文本训练的强大计算机程序。虽然这些模型能力极其出色，但要教它们执行特定的、专业化的任务，通常需要一个被称为“微调”的过程。这个过程就像是让一名学生针对新学科进行重新培训；它涉及让模型通过数千个示例进行学习，同时调整其内部设置。然而，这种重新训练是非常耗能的，会消耗大量的电力并产生显著的碳足迹。随着监管的收紧以及公司努力减少其对环境的影响，业界对于能够使这些人工智能系统适应特定工作，且无需承担传统重训高昂能源成本的方法产生了日益增长的需求。
匈牙利德布勒森大学的一个研究小组探索了一条不同的路径。他们没有试图重新训练模型的“大脑”，而是专注于改变给予它的指令。他们将提高人工智能性能的过程视为一个反馈循环，而不是一次训练课程，类似于恒温器调节房间温度的方式。在他们的系统中，一个小型且高效的计算机模型尝试根据财务表格回答算术问题。当它犯错时，系统并不仅仅是丢弃错误；它会将类似的错误归为一组。随后，人类专家会查看这些错误组，并编写一条简单的、用自然语言表达的规则，以修复该特定类型的错误。这条规则会被添加到给人工智能的指令中，并重复此过程。研究人员直接从墙上的插座测量了整个循环所消耗的电量，并将其与传统重训方法的估计能耗进行了对比。
研究结果令人瞩目。通过使用一个拥有40亿参数的小型语言模型，研究人员将其回答财务问题的准确率从大约57%提升到了66%。这一进步是通过在若干步骤中仅添加几条人工编写的规则实现的。寻找这些错误、编写规则并测试结果的整个过程仅消耗了351瓦时的电量。为了直观理解，研究人员估计，使用标准方法对同一模型进行部分更新将需要超过7,400瓦时，而进行全面重训则需要超过3,500瓦时。这种新方法所消耗的能量大约是部分重训估算值的二十分之一，也是全面重训估算值的十分之一。
这项发现之所以特别重要，是因为这个经过优化的、小型化的模型表现得与通常用于此类任务的规模大得多的专用系统一样出色。研究人员发现，他们运行在组织内部本地硬件上的这个小型模型，可以达到一个经过人工编程规则处理的、基于更大规模商业模型的系统的准确度。这表明，公司并不一定需要投入大规模、高能耗的重训周期来获得高质量的结果。相反，他们可以使用一种更精确、由人类引导的方法，这种方法可以将数据安全地保留在自己的网络内，并允许对每一个适应步骤进行审查和理解。
该研究还强调，节能程度在很大程度上取决于计算机模型的“思考”速度。模型回答问题的速度越快，在循环的测试阶段浪费的能量就越少。对于他们测试的特定模型而言，节省的能量是非常可观的。然而，对于运行较慢的模型，这种新方法与传统重训之间的差距会缩小，尽管新方法仍然保持竞争力。研究人员强调，虽然电力节省是真实且可衡量的，但该过程仍需要人力投入。领域专家花费了几个小时的时间来审查错误组并编写规则。这段人力时间代表了一种成本，它并未记录在电表之中，但它是一种可以被管理和审计的成本，不像大规模训练运行那样具有不透明的能源消耗。
最终，这项工作为在金融和能源等受监管领域运营的企业提供了一个实用的替代方案。这些行业要求决策必须是准确、可解释且可持续的。通过将性能与能源脱钩，研究人员证明了在不产生通常伴随的大规模环境代价的情况下，构建高效人工智能工具是可能的。这种方法之所以精确，是因为它针对准确答案进行测试；之所以可解释，是因为每一次变化都是一句可读的句子；并且之所以可证实，是因为其能源使用量是直接测量的。随着各公司面临着记录其碳排放和能源使用的压力，这种方法提供了一种清晰、透明的方式，将人工智能适配于现实世界的需求，从而将一个潜在的环境负担转化为一个可管理的、高效的业务流程。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。