ST-KEDA: Predictive Cost-Aware Autoscaling for Kubernetes Microservices via Spectral- Temporal Demand Forecasting
ST-KEDA 是一个针对 Kubernetes 微服务的预测性、成本感知型自动扩缩容框架，它集成了变分模态分解与拓扑感知的协同 LSTM 预测技术，并结合实时成本估算，在保持严格 SLA 合规性的同时，显著降低了基础设施成本和扩缩容延迟。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
现代软件通常不再作为一个庞大的单一程序运行，而是作为一系列被称为微服务的、小型且独立的组成部分。这些部分不断地相互通信，就像一个专家团队通过传递便条来解决复杂问题一样。为了让这个团队顺畅运行，托管它们的计算机必须自动调整其动力。如果同时访问网站的人数过多，系统需要立即增加更多的“工人”。如果流量减少，它必须让工人离开以节省成本。这种自动调整被称为自动扩缩容（autoscaling）。目前，大多数系统在看到问题（如响应速度变慢）之后才会做出反应——这种反应需要几分钟时间，而在数字世界中，这几分钟的延迟感就像是永恒，会导致用户体验到延迟或错误。此外，管理这些系统的管理人员往往缺乏对每次特定调整所产生费用的清晰、即时的视图，这使得在性能与预算之间取得平衡变得困难。
来自马来西亚多媒体大学的一个研究小组开发了一种旨在同时解决这两个问题的新系统。他们将该框架称为 ST-KEDA。ST-KEDA 不再是等待流量激增后再做出反应，而是尝试在激增发生之前对其进行预测。它还为每一次行动记录一份实时账单，使系统能够做出既能省钱又不会牺牲速度的决策。研究人员在两个现实世界的复杂软件案例上测试了该系统：一个拥有 11 个不同服务的在线购物商店，以及一个拥有 41 个服务的火车票预订系统。他们的研究结果表明，通过前瞻性观察并理解每项动作的财务影响，该系统可以减少超过三分之一的基础设施成本，同时大幅减少那种手忙脚乱地增加和移除工人的次数。
核心问题在于目前的系统是如何监测麻烦的。标准工具监控计算机当前的负载，例如处理器的繁忙程度。当工作量超过某个界限时，系统会订购更多的计算能力。然而，从察觉到峰值、计算需求、寻找新计算机、下载必要的软件并启动新工人，整个过程所需的时间是非常显著的。在研究人员的测试中，整个过程平均耗时近五分钟。在这段时间内，系统会被压垮，用户也会因此遭受损失。新的方法 ST-KEDA 将策略从“反应式”转变为“预测式”。它通过研究流量模式的历史，来推测未来几分钟内会发生什么。
为了使这些预测准确，系统首先将复杂的流量历史分解为更简单、易于理解的部分。想象一段嘈杂的繁忙街道录音：它包含了稳定的交通轰鸣声、有节奏的通勤高峰模式，以及像汽车鸣笛声这样突然而尖锐的声音。研究人员使用了一种数学技术，将这些不同的节奏从噪声中分离出来。他们发现，通过研究这些分离后的模式——稳定的趋势、每日的周期以及突发的峰值——计算机比仅仅观察原始、混乱的数据能更好地理解流量。这种分离使得预测引擎能够理解需求的底层结构，而非仅仅看到混沌。
随后，该系统使用一个高级学习模型，该模型理解软件的不同部分是如何相互依赖的。在微服务架构中，一个部分往往会触发另一个部分。例如，用户点击“购买”可能会触发库存检查，进而触发支付流程。如果系统预测到“购买”点击量的激增，它就会知道库存和服务支付服务也需要更多的动力，甚至在这些服务显示出繁忙迹象之前。通过绘制这些连接关系，系统可以同时为整个服务链做好准备。这防止了当一个部分准备就绪而下一个部分仍在“苏醒”时所产生的延迟。
至关重要的是，这个系统不仅关心速度，还关心价格标签。云计算服务按分钟计算每一个处理器和内存单元的使用费用。研究人员在系统中构建了一个层，能够近乎实时地计算每一次扩缩容决策的成本。虽然传统的账单可能需要几天才能送达，但该系统能在做出变更后的数秒内估算出成本。它确切地知道下一个小时内一个新的计算机实例将花费多少钱。这使得系统可以做出权衡：它可以决定通过保持较低的工人数量来节省资金，接受极小的减速风险；或者它可以投入更多资金来保证完美的运行速度。研究人员测试了一种优先考虑节省成本的设置，并成功地将运行该在线商店的总成本降低了 34.7%。
测试结果非常惊人。与标准的反应式系统相比，新方法将适应新流量的时间从近五分钟缩短到了仅 8 秒。这种速度意味着系统很少会掉队。研究人员还测量了所谓的“抖动”（flapping），即系统过度反应——先增加太多工人，然后立即移除他们，接着又再次增加。这种不断的切换是浪费且不稳定的。新系统将这种混乱行为减少了 96.6%，实现了更加平稳的运行。当系统被允许忽略成本问题而只专注于性能时，缓慢响应的数量降至仅 2%，相比标准系统的 8% 有了显著改善。
研究还表明，其设计的各个特定组件都是必不可少的。当他们移除分解流量模式的能力时，预测的准确性下降了；当他们移除对服务间连接关系的理解时，系统无法及时准备好下游环节；而当他们移除成本追踪功能时，系统便无法做出能带来如此显著节省的智能权衡。研究人员发现，当系统被调优为同时兼顾成本与速度时，能达到最佳平衡。
这项工作证明了管理复杂软件系统并不一定非要玩一场“追赶游戏”。通过结合对流量模式演变的深刻理解、对不同软件部分相互依赖关系的掌握，以及对每一项决策具体成本的精确计算，运行这些系统可以变得更加高效且廉价。研究人员在两种不同类型的应用上测试了他们的想法，这表明该方法对于处理不同类型的负载具有足够的鲁棒性。虽然该系统是在特定的云环境中进行的测试，但预测需求并将成本整合进决策循环的原则，为任何管理大规模数字服务的人提供了清晰的前行路径。云计算的未来可能不仅仅在于拥有更多动力，而在于准确知道何时以及如何使用它。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。