5G 年代来临，万物智联现已走入群众生活，对核算结构提出了全新要求。跟着终端算力上移、云端算力下沉，在边际构成算力交融，边际核算逐步深入多种运用场景，成为不可或缺的网络根底设施与支撑数字经济高质量开展的重要驱动力气。

阿里云博士后研讨员兼技能专家付哲，以《边际云技能立异 让“云”无处不在》为主题，共享阿里云在边际核算与边际云的技能演进道路、商业场景实践与学术探索。

边际核算的开展价值

跟着通讯技能的开展，通讯的主体从以人为中心，逐步向以物为中心迁移，信息流转也使得数据的生产消费办法发生巨变。数据的生产消费办法由会集生产、涣散消费，转变为涣散生产、泛在消费，这意味着技能上也需求进行运用的重构和工业的协同。

近年来，云核算和 5G 技能的结合，催生出一大批需求很多流量、超低时延、海量链接的新式运用与场景，例如 4K/8K 的超高清视频，工业控制与车联网，环境监测、才智家庭等等。

可是，传统的会集式的云的形式，现已逐步难以满足这些运用对网络带宽流量、网络传输时延以及衔接规划等等方面的需求。

边际核算开展趋势

在当时背景下，为了满足 5G 运用对增强移动宽带，海量终端互联以及高牢靠低时延衔接的需求，边际核算和边际云的价值日益凸显。

有机构报告预测，5G 年代，80%的数据和核算将发生在边际。边际云经过将流量在边际进行收敛，可以完结对大流量的本地化处理和分发，防止海量流量对骨干网络的冲击，一起也有用下降流量的长途传输本钱。

一起，依托散布式架构，边际云可以完结对海量终端高并发的散布式处理，有用提高核算功率。此外，边际云经过就近布置，也可以满足海量终端低延时处理的场景化需求。

边际云技能架构

相较于中心云或物联网，边际云是一个新的概念。

根据闻名信息技能研讨剖析公司 Gartner 的解读，边际核算是相对传统会集通用核算而言，将作业负载布置在边际的一种核算办法，其选用散布式的核算架构，在尽可能接近数据源或许用户的当地，进行核算和存储，仅将必要的效果送到云中心。

边际云与传统的云或许 IoT 是互补的定位，没有相互取代的联系，可以将边际云看作是云的延伸，为客户供给低推迟、本地化、自治、安全隐私的服务才能。

从用户的终端到云端，Gartner 将这中间的部分，分为了两类边际：

Gartner：边际分层结构

• 第一个是 Near Edge，通常是非规范服务器或设备，在距离端侧最近的当地，例如在工厂内部，包含 ARM、X86 等各种类型的设备。

• 另一类是 Far Edge，通常是规范的 IDC，或许 MEC，例如传统的 CDN 节点等等。

这两类边际都可以包含于广义的边际云的概念中。就近、散布式、场景化与差异化，是边际云有别于中心云的关键字。

阿里云在云核算根底设施服务方面，根据一起的飞天底座，供给了一云多芯、一云多态的云核算架构，从中心向边际辐射，让算力无处不在。

边际云界说与形状[1]

• 中心 region 通常坐落一线核心区域，作为全产品大体量的公共云形状，应对各种通用的弹性、高密、大并发、高可用场景，比方我们熟悉的互联网核算场景、大数据、AI 模型练习、高功用核算等场景。中心 Region 通常离终端用户较远，时延一般在 100 ms 以内。

• 物联网 IoT 现场核算节点坐落用户机房及事务现场，离用户最近，供给软硬一体的核算计划，时延在 5 ms 以内。

• 中心和现场之间的本地 Region，以及边际云节点，他们到用户的时延通常在 5 ms 到 20 ms 之间。这两者的区别是，本地 Region 坐落数字经济活泼区域，以中心云小型化输出的办法，供给比边际云节点更大规划的核算服务，重点支撑这些区域的企业数字化转型的场景。

边际云是由大规划地域涣散的边际节点，相互协同组成的一朵可长途管控，安全可信，规范易用的散布式云。[1]

边际云单节点规划较小，在百这一数量级，节点广泛掩盖离用户更近的热门区域，支撑边际设备管理、智能终端上云、视图流化、烘托、CDN、以及 5G + 边际云网交融等等边际场景，为用户供给更近、更低时延，且与中心体会一起的云服务。

阿里云作为国内最早界说和研发边际云的厂商之一，早在 2018 年联合中国电子规范化研讨院宣布了业界首份《边际云核算技能及规范化白皮书》[1]，对边际云的概念、架构和运用场景作了明确界说。

边际云典型运用坐标图

时延和带宽作为边际云最能带来价值的两个优势点，为各行各业的立异运用场景供给了根底。

根据对时延和带宽的需求，将边际云的典型运用列在如上的坐标图中。初期，边际云上现已跑着比如视频监控、才智工厂、VR、云游戏等运用。跟着边际云技能和运用本身的开展，中长期边际云还将支撑才智交通、自动驾驶、长途医疗等等立异运用。

边际云技能演进趋势

边际节点服务 ENS

边际节点服务 ENS，是根据运营商边际节点和网络构建的 IaaS 层服务， 供给“交融、开放、联动、弹性”的散布式算力资源，包含虚拟机、裸金属、容器等多种形状，可以有用帮助用户事务下沉至运营商侧边际，下降核算时延和本钱。

现在，ENS 在国内具有 2800+节点，完结中国大陆 31 个省份三大运营商全部掩盖，偏远地区也能就近接入。

一起，ENS 供给全国散布式资源的分钟级交付，用户可以按量付费，弹性扩缩容。依托边际云的优势，ENS 还供给了优质的边际网络，而且可以支撑边边加快、云边加快。

此外，ENS 还供给了多种事务场景计划的全体交付才能，例如供给老练的内容分发、视频上云等解决计划，有助于客户事务转型升级。

视图核算 VEC

依托于边际云底座，阿里云供给了视图核算服务。视图核算是面向视图设备，例如摄像头、车载终端、消费电子等等，为这些设备的上云场景供给衔接、AI 核算、云存储的 PaaS 服务，可以大大下降网络延时，提高视图类数据处理功率。

根据边际云构建VEC体系架构

根据视图核算服务和阿里云自研的接入协议，客户的视图设备可以一键上云，而且就近接入到边际节点，完结直播、录制、截图、转码等根底视频处理才能。

一起，阿里云也集成了阿里达摩院的 170 多项丰厚的视觉 AI 算子才能，包含交通拥堵、安全帽监测等等，支撑高速上云、才智工地等场景。

视图核算服务根据边际云，可以完结视频流的边际就近处理与存储，可以为客户优化流量与存储本钱。此外，渠道还供给可视化的流程编排才能，给用户供给易用的体会。

协同存储 EOS

针对边际大容量存储场景，阿里云推出了独立的服务——边际协同存储。

正如前文所述，终端上云场景往往具有位置涣散、数据规划大、价值密度低的特色，一起还有一点便是带宽反转，上行带宽远大于下行。长期的数据回云会造成较大的带宽压力以及存储本钱，一起最重要的一点，无法确保就近、低推迟。

边际协同存储，是将边际云多个散布式节点的对象存储资源进行一起管理和调度，供给位置无感、体会一起、大容量、高性价比的对象存储才能。

根据边际云构建EOS体系架构

为了完结这些优势，在架构设计上，边际协同存储选用了典型的云边协同管控计划，中心的元数据逻辑 Bucket 与边际的物理 Bucket 动态映射，确保数据的一起性。一起选用优化过的读写调度战略及算法，在保障功用及稳定性前提下的完结资源最优运用。另外，边际节点完结了一部分的自治管控，可以进一步下降拜访延时，一起提高服务的稳定性。

全球实时传输网 GRTN

第三个典型运用是根据中心云和边际云节点，构建的一张超低时延、全散布式下沉的通讯级流媒体传输网络 GRTN。

传统的流媒体传输，依靠的是根据 CDN 构建的树状网络。

从一个摄像头采集到的画面，到用户经过手机观看，需求经过 L1、L2、直播中心、L2、L1 等多级节点，链路相对比较固定，延时、本钱、扩展性都有很大的优化的空间。

GRTN设计概览[2]

GRTN 选用了一种树状和对等网结合的动态网络，GRTN 的各节点之间不再有层级联系，而是相互对等，最终构成的便是一个网状结构的体系。

此外，流媒体大脑作为 GRTN 的核心组件，担任途径勘探、途径核算、流媒体编排等。选路中心会周期性收集内部链路勘探的效果，并使用 KSP 算法来进行拓扑核算。

另一方面，节点之间的链路勘探数据，并不能彻底决议实践的最优途径，例如在多人视频会议的场景，参加的参会人员的数量、散布乃至先后，都会影响最终的途径决议计划。

因而流媒体大脑还需求对流媒体的详细信息进行感知，一起还需求结合各节点的容量规划、本钱、质量等等因素，一起编排出最优的传输途径。

GRTN优化效果展现[2]

经过根据实践线上事务进行了测验，比较传统的 CDN 树状结构，GRTN 的传输时延由 400ms 左右提高至 180ms 左右，时延折半。

此外，在用户体会上，98%的播映不会出现阻滞的现象，95%的播映可以在 1s 内开始。该作业的相关效果已被 SIGCOMM2022 接收，感兴趣的读者可以进一步查阅论文。[2]

边际 AI

使用边际节点广散布且接近数据源产生地的特色，可以进行特定的数据处理和辨认优化，供给低延时、省带宽、低功耗、安全的 AI 服务。

根据边际云构建边际AI体系架构

全体架构选用了云-边-端三层协同的计划。

在终端侧，手机、iot 等设备算力较弱，且功耗有限，因而很难运转比较复杂的 AI 模型，更适合做数据的采集、压缩、以及预过滤性质的作业。

边际云供给了 GPU、FPGA 等硬件加快的才能，可是相较于中心云，规划和算力还是比较有限的，因而不太适合在边际云进行大规划的模型练习以及数据的持久化存储，更适合对时延要求较高的推理部分。而模型的练习、效果的持久化存储，可以放在中心云进行。

因而，在云-边-端三者协同的边际 AI 场景，经过将 AI 算子从终端设备上移到边际云，将 AI 算力从中心下沉到边际云，一起供给低时延、高效能的 AI 服务。

除此之外，为了方便算法科学家将算子模型布置到边际云，阿里云一起开发了边际算子托管渠道，可以结合边际云散布式的特色，一站式、自动化地完结 AI 服务在边际节点的布置，将 AI 模型的推理进程转化为通用的 Restful API 接口形式，供终端用户调用。

阿里云在 2020 年发布于 IEEE EDGE 会议的一篇论文中的试验标明，边际 AI 在部分场景，可以大幅度提高推理功用，方针检测功用最多可以提高 50 倍。[3]

云烘托

云烘托，或许云游戏，是最近非常炙热的方向。

阿里云根据边际云的全散布式异构核算资源和网络带宽资源，针对游戏、AR/VR 等视频烘托场景，供给就近、低延时、位置无感的云上烘托服务。

根据边际云的云游戏体系架构

以云游戏为例，用户的游戏终端仅仅包含显现部分和操作部分，用户将控制指令发送到边际云节点，在边际云节点烘托出实时游戏画面后，游戏的视频流和音频流回传到用户游戏终端。

这样的话，用户不需求强大的游戏设备，仅仅经过手机、电视、乃至家中的智能音箱，就能畅玩现在最新、最火的游戏。

根据边际云的云游戏服务优化效果展现[4]

云游戏中，时延是最能影响用户体会的因素。由于边际云比较中心云能供给时延更低、质量更好、本钱也更廉价的网络才能，因而，根据边际云的云游戏服务的时延，要显着好于根据中心云的云游戏服务。

阿里云在 IMC 2021 与几所高校协作宣布的论文，测量了以云游戏为代表的边际云典型运用的功用和优势，可以经过该论文了解研讨的详细效果。[4]

边际云现在的应战

边际云协同应战

资源调度，特别是云核算中的资源调度，现已是一个相对老练、研讨效果也较为丰厚的领域了。可是，边际云的诞生为这个老练的场景带来了新的问题和新的机会。

边际云中，协同是一个重要概念。

以下将打开介绍与调度相关的三种协同：

首先是地理位置的协同。

传统的云资源调度往往是单个巨大的云数据中心，调度的时分一般不会关注离最终用户的距离、以及网络时延。而边际云的资源调度，单节点的规划更小，通常只要几百台乃至更少的服务器。

可是边际云节点或许边际云机房的数量又是非常大的，例如阿里云在国内有 2800 个节点，比较较而言，中心云的 region 大概只要十几二十个。

因而，面对这种散布式广掩盖的小型节点，而且地理位置有感的资源调度场景，传统的云资源调度办法难以获得比较好的调度效果，需求研讨更适合这种场景的调度办法。

第二，边际云考虑的资源维度更多。

除了时延之外，受限于单节点规划较小的特色，在做调度的时分还需求一起考虑磁盘大小、网络带宽、乃至节点的 IP 数量、NAT 网关的承载才能，等等。

这些不同维度的资源有可能是相互依靠、乃至是互斥的。因而，怎么做到以及做好多维资源的协同调度，也是边际云面临的应战之一。

第三，是产品形状的协同调度。

传统的云资源调度，虚拟机、容器、函数等等不同形状的产品所依靠的底层资源是分池的，他们之间的调度互不影响。

可是在边际云场景，是一起的交融调度，也便是说，在一台服务器上可能一起运转客户 A 的虚拟机、客户 B 的容器、以及客户 C 的函数服务。

因而，怎么可以在确保功用不相互影响的前提下，结合边际云产品的特色，经过调度充沛提高资源使用率，也是一个比较大的应战。

异构资源管理

第二个大的研讨应战，来自于异构资源管理方面。

前文介绍的云烘托云游戏场景，现在部分事务是由新式异构硬件承载的。

比方 ARM 服务器，或许手机 ARM 芯片组成的阵列服务器，等等。这些新式硬件对于云核算厂商来说，短少一套规范化的纳管、测验、评价规范。阿里云等待跟各大高校、科研单位协作，共建一套边际云异构硬件评价体系与规范。

此外，根据这些新式异构硬件，也需求进行虚拟化层面适配，例如，怎么在手机 ARM 芯片阵列服务器上，构建出功用完好的容器渠道，供给更灵活、扩展性更强的服务才能。

再者，部分异构硬件通常含有专用的硬件加快单元，这些硬件加快单元能否经过软硬件协同优化，更充沛地被上层事务所运用，加快比如编解码、AI 等等场景，也是阿里云感兴趣的研讨方向之一。

云游戏/VR 时延优化

最后，在云游戏、VR/AR、元世界等近期比较热门的运用服务中，阿里云相同有很多研讨机会点。

如针对云游戏或许 VR 相关场景的编解码、传输等方面，可以经过交融边际云特性进行专门的优化。

此外，现在大部分云游戏直接将游戏放在边际运转，只做到了“游戏云端化”，虽然在短期内完结了丰厚云游戏服务，可是并没有充沛发挥云的优势。

未来阶段，是否可以诞生真正的原生就运转在云上的游戏，这些游戏为云而生，弹性自若，可以充沛使用云的优势，给用户带来更极致的云游戏体会，也是阿里云等待和我们一起讨论和解答的问题。

参考文献

[1]《边际云核算技能及规范化白皮书》2018， 阿里云核算有限公司，中国电子规范化研讨院

[2] Li, J, et al. “LiveNet: A Low-Latency Video Transport Network for Large-Scale Live Streaming.” ACM SIGCOMM (2022).

[3] Fu, Zhe, et al. “Astraea: Deploy AI Services at the Edge in Elegant Ways.” 2020 IEEE International Conference on Edge Computing (EDGE). IEEE, 2020.

[4] Xu M, Fu Z, Ma X, et al. From cloud to edge: a first look at public edge platforms[C]//Proceedings of the 21st ACM Internet Measurement Conference. 2021: 37-53.