SCOPE: Stateful Serverless in the Edge-to-Cloud Continuum
本文介绍了 SCOPE,一种用于边缘到云端连续体的有状态 FaaS 编程模型和执行平台,它利用动态会话管理来平衡低延迟近邻性与资源可用性,从而克服了当前无状态服务器无感解决方案的局限性。
原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一个这样的世界:你的数字生活——你的照片、健康数据、智能家居控制——都存在于一个遥远而巨大的仓库中。几十年来,这一直是计算的标准模式:你的手机或传感器向大洋彼岸的大型数据中心发送请求,后者处理信息并将其传回。这对于许多事情运作良好,但它会产生一种延迟,这种延迟会随着距离的增加而增长。在视频通话、自动驾驶汽车和实时医疗监测的时代,这种延迟正成为一个问题。为了解决这个问题,工程师们转向了“边缘计算”,这是一种将处理能力移至离人们实际所在地更近的地方的策略,在社区、工厂和通信塔中部署小型服务器。这把“仓库”搬到了你的家门口,承诺了速度与效率。
然而,一个新的复杂问题出现了。构建这些现代系统最流行的方式被称为“无服务器计算”(serverless computing)。在这种模式下,开发者编写小的、独立的程序片段,仅在需要时运行,就像一群只有在包裹准备好时才会出现的快递无人机。这个系统的美妙之处在于,基础设施负责处理这些无人机飞行的所有繁重任务。但问题在于:这些无人机被设计为是“无状态”的,这意味着它们没有关于过去发生过什么的记忆。如果一架无人机投递了一个包裹,它会立即忘记客户的名字和地址。对于简单的任务,这没问题。但对于需要记住用户进度、偏好或健康历史的复杂应用来说,这种缺乏记忆的状态是一个死胡同。因此,挑战在于如何将边缘的速度与无服务器计算的简洁性结合起来,同时赋予这些转瞬即逝的程序安全且高效地持有用户数据的能力。
这正是米兰理工大学(Politecnico di Milano)的一个研究团队致力于通过他们称之为 SCOPE 的新平台来解决的问题。他们的目标是创建一个系统,允许这些临时程序携带一个“会话”(session)——一个持有特定用户数据的数字容器——并随着用户的移动或网络的变化自动移动该容器。研究人员想知道,他们是否可以构建一个既能将数据保留在用户附近以确保速度,又能根据本地机器是否过于繁忙而自动将数据移动到更强大机器上的系统。他们不仅提出了一个理论,还构建了一个原型,并在一个模拟现实世界中局部边缘服务器与远程云数据中心之间挣扎的环境中进行了测试。
他们解决方案的核心是一个被称为“会话”的概念。可以将会话想象成一个属于特定用户的私人储物柜。在 SCOPE 系统中,当用户与应用程序交互时,系统会为他们创建一个储物柜。这个储物柜可以根据需要由不同的程序打开和关闭,但储物柜本身保持完整。创新之处在于系统如何管理这些储物柜。平台不断监测网络的健康状况。如果一个本地边缘服务器正在处理过多的请求并开始变慢,系统可以将用户的储物柜悄悄移动到附近更宽敞的服务器上,甚至在必要时移动到遥远的云数据中心。至关重要的是,用户永远不会知道这是在发生。他们只需继续他们的工作,系统会确保数据随他们移动到正确的地方、正确的时间。
为了测试这一点,研究人员设置了一个虚拟网络,包含三个不同的位置:代表用户的客户端设备、位于附近的边缘服务器,以及位于远方、模拟跨大西洋连接的云服务器。他们创建了几种类型的任务来对系统进行压力测试。一项任务涉及上传和下载大型视频文件,这需要大量的数据移动。另一项涉及语音转文本,这项任务需要极高的计算处理能力。他们还创建了简单的轻量级任务来测量系统的基本速度。目标是观察当本地边缘服务器变得不堪重负时,系统的表现如何。
结果是具有启发性的。当研究人员用请求淹没本地边缘服务器时,系统的响应时间开始下降,正如人们预期的那样。然而,当启用 SCOPE 平台时,系统检测到了过载并开始重定向流量。它并没有简单地崩溃或减速;它智能地转移了工作负载。对于新的请求,它立即将其发送到远端的云服务器,防止本地服务器发生拥堵。对于已经在运行中的现有会话,系统执行了精细的迁移。它将用户的会话数据从拥挤的本地服务器移动到更宽敞的云服务器。这个过程需要时间——大约 1.5 秒处理一个 2MB 的会话——但一旦移动完成,该用户的响应时间就会大幅下降。系统成功地用短暂的停顿换取了持久的速度提升。
研究人员还测试了系统如何处理用户的移动。他们模拟了一个客户端改变物理位置的过程,在现实场景中,这意味着从一个社区移动到另一个社区。随着客户端的移动,系统重新计算了存储其数据的最佳位置。他们发现,系统可以成功地将会话迁移到新的、更接近的节点,从而将数据保持在用户附近。不过,他们也指出了一个局限性:在节点较少的微型网络中,由于节点对整个网络的了解有限,系统有时难以在会话移动后找到绝对最佳的位置。但随着网络变得更大、更复杂,系统在保持数据靠近用户方面变得更加有效,即使资源在不断波动。
该研究还检查了移动数据的成本。研究人员发现,迁移会话所需的时间与数据的大小直接相关。移动一个空的会话大约需要 270 毫秒,而移动一个 5MB 的会话则大约需要 2 秒。这证实了网络带宽是主要的瓶颈,而非软件本身。系统的效率足以让移动会话带来的短暂中断成为值得的代价,因为随后带来了显著的性能提升。在一次测试中,将会话从远端云服务器移动到本地边缘服务器,使响应时间从 126 毫秒降低到了仅 21 毫秒。
这项工作的意义在于它弥合了该领域长期存在的一个鸿沟。以前的系统要么提供边缘的速度但无法处理复杂的、依赖内存的应用,要么提供内存但需要开发者自行管理数据移动的复杂逻辑。SCOPE 将这一过程自动化了。它允许开发者编写简单的代码,而不必担心数据存储在哪里,同时平台会根据实时情况处理存储和移动数据的复杂决策。研究人员证明,这种方法在异构环境中是可行的,即不同类型、不同能力的机器可以协同工作。
团队的研究结果表明,这种模式在现实世界部署中是可行的。他们展示了系统可以适应突发流量高峰,防止整个网络在压力下崩溃。他们还展示了系统可以响应用户的物理移动,将数据保持在用户身边。虽然系统并不完美——它仍然需要在移动数据时经历短暂的停顿,并且依赖于可能在极小规模设置中需要调优的分层网络结构——但它代表了一个重大进步。研究人员总结道,通过将数据视为“移动会话”而非“静态文件”,他们可以创建一个既快速又智能的计算环境。
最后,这篇论文呈现了一个更加流动且响应迅速的数字世界愿景。在这个系统中,基础设施不是一个固定的、僵化的服务器网格,而是一个能够根据用户需求进行移动的动态景观。研究人员并未声称解决了边缘计算的所有问题,但他们提供了一个具体的、可运行的范例,展示了如何让无服务器计算真正实现“有状态”。他们的工作表明,计算的未来不在于在边缘的速度和云端的动力之间做选择,而在于构建一个无缝的连续体,使两者协同工作,在需要的时候、在需要的地方,精准地移动数据和处理能力。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。