一、问题布景
设想，翻开一个 APP，咱们会看到什么？答案是：内容信息。
例如当咱们翻开转转 APP 时，目光所及的主页、产品列表页、产品详情页…以上咱们简称为信息聚合场景。在电商 APP 中，此类信息聚合场景往往需求聚合多种数据源才干完结终究烘托，这也意味着在微服务架构中，服务端呼应一次用户恳求需求聚合 N 个内部 RPC 恳求呼应的数据才干完结终究呼应。
而为了赶快呼应用户恳求，往往需求通过某些方法异步发起多个 RPC 恳求来获取成果数据，咱们把这样的进程称为并发场景。
二、杂乱并发场景释义
2.1 简略并发场景
较为简略的信息聚合场景，一次信息聚合进程只需求 N 个相互独立的 RPC 成果即可。如下图所示：
2.2 杂乱并发场景
较为杂乱，但却常见的重要信息聚合场景。一般意味着呼应一次用户恳求的进程：1，需求聚合多个 RPC 呼应成果；2，内部多个 RPC 恳求之间存在相互依靠联系，如下图所示：D 的 request 依靠 A、B 的 response；E 的 request 依靠 C、D 的 response；…
三、分组并发调度模型演进
3.1 简略异步并发调度
为了尽量提高服务端的恳求呼应速度，咱们能够有一些简略的方法，如：
根据 Future 等根底才能，在一次用户恳求的处理进程中，异步履行没有前后依靠联系的 RPC 进程。
这种方法一般更适用于简略并发场景，而杂乱并发场景下怎么办呢？
自然而然，咱们很简略想到一个方法：分组并发调度。
3.2 分组并发调度
分组并发调度首要适用于一次用户恳求处理进程需求聚合多个存在前后依靠联系的 RPC 查询成果的杂乱并发场景中，一般咱们会运用如下方案：
1，分组：将一切 RPC 查询进程依照依靠联系分组。如：没有前置依靠的 RPC 进程认为是第一组；依靠第一组的 RPC 进程认为是第二组；依此类推…
2，调度：根据 CompleteFuture、Future 等根底才能，依次从第一组开端并发履行组内的 RPC 进程。即：组间同步、组内异步。
为了提高开发功率，咱们能够根据 Future 等根底才能从头封装自己的分组并发调度工具，甚至集成并发管理等方面的才能，如：细粒度的超时调控、熔断降级机制，以大幅度降低管理作业成本。
四、自驱动并发调度模型演进
4.1 一个优化耗时的小方针及其完结
在 2020 年 Q2，转转根底生态有这么一个 OKR：完结全渠道中心接口均匀耗时稳定降低到 90ms 以下。不可疏忽的布景是彼时接口耗时在 120ms 上下，且受下游服务方影响，每周呈现 10ms 的上涨趋势。为了完结这个不太或许的方针，咱们做了这些事情：
1，剖析接口单位贡献值：首要根据接口 QPS，分别剖析单接口每降低 10ms 的呼应时刻对大局呼应的贡献值，确认优化方向。
2，了解每一毫秒的耗时：假设从监控渠道咱们能够看到某个接口耗时为 200ms，但具体耗时在哪是不明确的。为此，咱们在每个接口的内部履行逻辑，从代码行的维度监测耗时，测验去彻底了解每一毫秒。
3，并发调度调整：根据上述预备，进行接口耗时优化。期间咱们发现严格的分组并发调度模型并不能达到最佳调度，为此咱们又破坏了原本的分组模型，将一些没有前后依靠的长耗时 RPC 进程单独提取出来做大局异步调度。
在 Q2 结束，全渠道中心接口均匀耗时降低到 85ms，超额完结了既定方针。
4.2 下一步的疑问
随着耗时优化方针的完结，咱们产生了一些这样的疑问：
1，开发保护作业依旧繁琐：杂乱并发场景中，随着事务迭代，代码腐化严峻。一个小需求的迭代或许需求太多的前置熟悉代码的时刻。
2，接口耗时优化作业周而复始：回想过去，每到一定的时刻（例如一两周、一两个月），需求花费时刻去调整并发模型，优化安排分组逻辑以尽或许消除事务迭代带来的影响。
3，分组并发调度模型的折中：结合上述方针的完结进程，咱们为了功能而应用分组并发调度模型后又为了功能破坏既定模型。
信息聚合场景的接口耗时优化，下一步该怎么做？
4.3 对问题的从头考虑以及自驱动并发调度模型的诞生
4.3.1 从头考虑
回想以往，咱们做的是什么？不外乎：织造一幅图。
回首咱们的开发作业，会发现做的事情其实是：
1，画点：例如商列需求展现活动信息，此刻就会新增一个查询活动信息的 RPC 聚合节点。
2，连线：咱们根据依靠联系将能够同时并发查询的节点放置于同一组。
3，画图：安排各组的并发调度、数据同步、并串行驱动下一组。
整个进程归纳起来便是：点动成线，线动成面。或许这正是对杂乱并发场景下一系列外表问题背面的不可分割的根本组成的一种描绘。
4.3.2 自驱动并发调度模型
根据以上考虑，能够发现在事务开发中：
1，事务逻辑强相关的增量逻辑在于*“点”。
2，事务逻辑弱相关的重复作业成本在于“连线”、在于“图的织造”。
那么，有没有一种或许：开发者仅仅关怀“点”，由额定的结构才能来处理“线”与“图”？
便是“点动成线，线动成面”中“动”的作业由结构才能自动化支持*。
于是，自驱动并发调度模型根据此愿景而诞生，全体设计方向如下：
1，开发形式的聚焦：完结面向节点行为的开发方法
2，结构才能的聚焦：结构聚焦于任意两点之间的连线才能，然后完结全图的自动织造。
五、结语
本文的讲述侧重于并发调度模型演进的考虑进程，讲述了根据对问题的了解再了解的探究进程去寻觅当前最佳解决方案的思路，也是转转公司复仇者联盟技能生态系列之奥创组件的由来。
关于作者
陈奇恩，转转 B2C 事务供应链后端负责人。
转转复仇者联盟技能生态解决方案发起人之一。
转转研制中心及业界小伙伴们的技能学习交流渠道，定时分享一线的实战经验及业界前沿的技能话题。 关注大众号「转转技能」（综合性）、「大转转FE」（专注于FE）、「转转QA」（专注于QA），更多干货实践，欢迎交流分享~
