Spring Boot Serverless 实战系列

作者：西流（阿里云函数核算专家）

导读：Spring Boot 是基于 Java Spring 框架的套件，它预装了 Spring 的一系列组件，让开发者只需求很少的装备就可以创立独立运转的运用程序。在云原生的环境中，有很多的渠道可以运转 Spring Boot 运用，例如虚拟机、容器等。但其中最有吸引力的，是以 Serverless 的方法运转 Spring Boot 运用。

我将经过一系列文章，从架构，布置，监控、功能、安全等 5 个方面来分析 Serverless 渠道运转 Spring Boot 运用的优劣。为了让分析更有代表性，我挑选了 Github 上 star 数超越 50k 的电商运用 mall 作为示例。这是系列文章的第四篇，本文向咱们展示怎么对 Serverless 运用进行功能调优。

实例发动速度优化

在之前的文章实战教程中，相信咱们都感触到 Serverless 的快捷之美，只需上传代码包和镜像就可以轻松上线一个弹性高可用的 Web 运用。

但是它仍存在初次发动“冷发动延时”的问题，Mall 运用实例的发动大约 30 秒左右，用户会感触较长时刻的冷发动延时，在这个“即时年代”运用程序呼应慢多少会有些瑕不掩瑜。（“冷发动”是指函数服务于特定调用恳求时的状况，当一段时刻没有恳求后，Serverless 渠道则会收回函数实例；等到下一次再有恳求时，体系会再次实时拉起实例，该过程称之为冷发动。）

在优化冷发动之前，咱们要先分析清楚冷发动各个阶段的耗时。

首先在函数核算（FC）控制台的服务装备界面，敞开链路追寻功用。

在这里刺进图片描绘

对 mall-admin 服务建议恳求，成功后检查 FC 控制台，咱们可以看到相应的恳求信息。注意封闭“仅检查函数错误”，这样才会显现所有恳求。目标监控和调用链路数据收集会存在必定延时，假如没有显现，请等候一会再刷新。找到冷发动标记的恳求，点击 “更多” 下的 “恳求概况”。

在这里刺进图片描绘

调用链路会显现冷发动各个环节的耗时。冷发动包含以下几个环节：

代码准备（PrepareCode）：主要是下载代码包或许镜像。因为咱们已经启用了镜像加速功用，不需求下载全部的镜像，因而这一步的延时十分短。

运转时初始化（RuntimeInitialization）：从发动函数开始，到函数核算（FC）体系探测到运用端口就绪停止。这中间包含了运用发动时刻。在指令行履行 s mall-admin logs 检查相应的日志时刻，咱们也能看到 Spring Boot 运用的发动需求花很多的时刻。

运用初始化（Initialization）：函数核算供给了 Initializer 接口，用户可以将一些初始化逻辑放在 Initializer 中履行。

调用延时（Invocation）：处理恳求的延时，这个延时十分短。

在这里刺进图片描绘

从上述链路追寻图来看，实例发动时刻是瓶颈，但是咱们可以采纳多种方法来优化。

运用预留实例

Java 类运用遍及会发动较慢。运用在初始化时，也需求和很多外部服务交互，耗时较长。这类流程是事务逻辑需求的，很难优化延时。因而函数核算供给了预留实例功用。预留实例的起停由用户自己控制，没有恳求也会常驻在那，因而不会有冷发动的问题，当然用户需求为整个实例的运转付费，即使实例没有处理任何恳求。

在函数核算控制台，咱们可以在“弹性弹性”页面为函数设置预留实例。

在这里刺进图片描绘

用户在控制台中装备最小和最大实例数。渠道会预留最小实例数目的实例，最大实例是指该函数下实例的上限。用户也可以设置守时预留和按目标预留的规则。

在这里刺进图片描绘

创立预留规则后，体系就会创立预留实例。当预留实例就绪后，咱们再拜访函数就不会有冷发动。

在这里刺进图片描绘

优化实例发动速度

延迟初始化

在 Spring Boot 2.2 及更高版别中，可以敞开一个全局延迟初始化标志。这将进步发动速度，但价值是第一个恳求的延迟时刻或许变长，因为需求等候组件初次初始化。

可在 s.yaml 中为相关运用装备以下环境变量

SPRING_MAIN_LAZY_INITIATIALIZATION=true

封闭优化编译器

默认情况下，JVM 有多个阶段的 JIT 编译。尽管这些阶段可以逐渐进步运用的功率，但它们也会增加内存运用的开支，并增加发动时刻。关于短期运转的 Serverless 运用，请考虑封闭此优化，以牺牲长期功率换取更短的发动时刻。

可在 s.yaml 中为相关运用装备以下环境变量：

JAVA_TOOL_OPTIONS="-XX:+TieredCompilation -XX:TieredStopAtLevel=1"

s.yaml 中设置环境变量示例：

如下图所示，对 mall-admin 函数装备环境变量。然后履行 sudo -E s mall-admin deploy 布置。

在这里刺进图片描绘

登录实例检查环境变量是否装备正确：

在控制台函数概况页的恳求列表中找到对应的恳求，点击更多中的“实例概况链接”。

在这里刺进图片描绘

在实例概况页中点击“登录实例”。

在这里刺进图片描绘

在 shell 界面中履行 echo 指令，检查对应的环境变量是否设置正确。

注意：关于非预留实例，一段时刻没有恳求后，函数核算体系会自动收回实例。此时无法再登入实例（上面的实例概况页面中的登录实例按钮会变灰）。所以请履行调用后，在实例被收回之前尽快登录。

在这里刺进图片描绘

装备合理的实例参数

当咱们挑选了运用实例标准，比方 2C4G 或许 4C8G，接下来咱们期望知道一个实例处理多少恳求可以既能充分利用资源又可以确保功能。当处理的恳求超越一个约束后，体系可以快速弹出实例，确保运用功能滑润。

怎么衡量实例过载有多个维度，例如 qps 超越必定阈值，或许实例 CPU/Memory/Network/Load 等目标超越阈值等等。函数核算运用实例并发度（Instance Concurrency）来作为实例负载的衡量和实例弹性的根据。

实例并发度（Instance Concurrency）是指一个实例能同时履行的恳求数。例如将实例并发度设置为 20，则意味着一个实例在任意时刻最大能同时履行 20 个恳求。

注意：请区别实例并发度和 QPS 的区别。

运用实例并发度来衡量负载有如下优势：

体系可以迅速计算实例并发度目标值进行扩缩容。CPU/Memory/Network/Load 等实例等级的目标通常是后台计算，需求花费数十秒的目标计算后才干进行弹性，难以满足在线运用的弹性弹性要求。

在各种条件下，实例并发度目标都可以稳定的反映体系负载凹凸。假如以恳求延时作为目标，体系难以区别是实例过载导致延时变大，还是下流服务成为瓶颈导致延时变大。例如一个典型的 Web 运用，通常会拜访 MySQL 数据库。假如数据库成为瓶颈，恳求延时变大，此时扩容不光毫无意义，并且会压垮数据库，让情况愈加恶化。QPS 和恳求延时相关，也会有上述问题。

实例并发度作为弹性根据尽管有上述优点，但用户常常并不知道该设置多大的实例并发度。我推荐按照下述流程确认合理的并发度：

1、将运用函数的最大实例数设置为 1，确保压测到单个实例的功能。

2、运用负载压测东西对运用进行压测，检查 tps 和恳求延时等目标。

3、逐步调大实例并发度，假如功能仍然良好，则持续调大；假如功能不符合预期，则调小并发度。

Spring Boot Serverless 实战系列 | 性能调优