A one-year measurement of quota-induced waste in private clouds
本文通过分析一年的私有云运营数据,揭示了基于配额的资源管理,结合用户为峰值需求进行配置的行为以及管理层超卖的行为,如何导致了以尽管存在可用容量却仍持续出现配额耗尽,以及虚拟机闲置时间过长为特征的显著低效现象。
原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
在计算领域,存在着一种持续的张力:即拥有足够完成工作的能力与在闲置时浪费这些能力之间的矛盾。公共云服务(如大型企业所使用的服务)通常通过向用户收取每一秒钟消耗的计算时间来解决这个问题。这种价格标签起到了天然制动器的作用;如果一台服务器没有在做有用的工作,用户就会停止为此付费并将其关闭。然而,私有云的运作方式则不同。这些是属于大学、研究实验室或大型公司的专用计算环境,用户不需要为他们占用的资源支付账单。相反,管理员会为每个团队设定一个固定的限制,称为“配额”(quota),规定他们可以预留多少计算能力。其理念很简单:给每个团队分配总容量的一个公平份额,以免某个小组吞噬掉所有资源。但由于缺乏一种可以抑制浪费的价格机制,一种奇怪的动态可能会随之出现。团队可能会尽可能多地占领他们被允许获取的计算能力,以防将来需要,导致这些能力在空转,而其他团队却在苦苦寻找可用空间。
来自巴西坎皮纳大河联邦大学和意大利皮埃蒙特东方大学的研究人员决定调查这种隐形的浪费。他们在从2024年5月到2025年5月的一整年里,观察了他们所在大学使用的私有云的数字脉搏。这个系统基于名为OpenStack的开源软件构建,为数百名研究人员和学生提供服务。它是一台庞大的机器,能够同时运行一千多台虚拟计算机,总内存容量为1,024吉字节(GB)。研究团队不仅观察了使用了多少功率,还观察了预留了多少功率与实际进行工作的功率之间的比例。他们收集了超过6,400万个数据点,追踪了每一台虚拟机、每一个项目以及每五分钟一次的活动间隔。他们的目标是看看这些旨在保持公平的规则是否实际上导致了系统的低效。
研究发现,该系统陷入了一个由其自身制造的悖论中。该云的设计包含了一个安全余量,这意味着分配给所有团队的总计算能力实际上大于物理机器同时能承载的量。这是一种常见的做法,称为“超卖”(oversnesselling),其基于一种假设,即并非每个人都会在同一时刻需要他们的全部份额。实际上,物理机器很少达到极限;它仅在约3%的天数里处于完全满载状态。然而,尽管存在这种大量的空闲空间,许多团队却不断被阻断,无法创建新的虚拟机。研究人员发现,至少有一半的项目遇到了瓶颈,由于耗尽了个人配额限额,它们甚至无法配置哪怕是最小型的计算机。在整个研究期间,约有14%的项目一直处于这种状态。更具说明性的是,大约27%的项目在整个集群仅使用70%到80%的总物理内存时,仍被阻断无法添加新机器。瓶颈不在于硬件不足,而在于配额制度本身僵化的规则。
这种阻塞的原因在于,当持有资源没有成本时,用户的行为模式。研究显示了一种资源囤积的模式。当一个团队获得配额时,他们往往会立即占用其全部份额,通常在实际需要虚拟机之前很久就开始配置它们。这些机器随后便处于闲置状态,消耗着他们的配额,而团队则在等待未来的项目开始。研究人员通过观察一台虚拟机实际工作的时间与闲置时间之比来衡量这一点。他们将“有意义的使用”定义为处理器正在进行计算的时间,而不包括机器仅仅是在内存中持有数据的时刻。结果非常惊人:在整个系统中,虚拟机的闲置时间是其有意义使用时间的两倍多。虽然大约一半的机器在创建当天就开始工作,但仍有相当数量的机器在数周甚至数月内完全处于未使用状态。
这种行为创造了一个恶性循环。因为用户无法确定如果他们放弃资源,以后是否还能重新获得,所以他们会紧紧抓住资源不放。他们今天创建一个虚拟机,让它在没有任何任务的情况下运行数周,仅仅是为了确保在截止日期到来时它就在手边。对于个人团队来说,这是一个理性的选择,但对整个系统而言却是灾难性的。这意味着,当一个团队坐拥一大堆闲置的计算能力时,另一个团队却因为配额已满而无法启动新项目。研究人员指出,这并非硬件的失败或需求的缺乏,而是激励机制的失败。由于没有针对闲置时间的定价,也没有通过预约系统保证未来访问权,用户最安全的策略就是囤积。
研究表明,解决方案不仅仅是建造更大的机器或发放更多的配额,因为那很可能只会导致更多的囤积。相反,管理员需要改变游戏规则。他们可以引入允许用户为特定未来时间预留资源的机制,从而在不强迫用户持有闲置机器的前提下,给予他们目前所寻求的安全感。他们还可以实施检测系统,当一台机器闲置过久时,自动回收该空间供他人使用。数据表明,大量的潜在计算能力正在被浪费,不是因为机器坏了,而是因为使用它的人正在玩一场鼓励“抢占并持有”的游戏。通过理解这种行为,研究人员希望设计出不仅在理论上公平,而且在实践中高效的私有云,确保为研究而建的强大机器真正用于研究。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。