第五届字节跳动青训营讲师非常用心给我们整理了课前、中、后的学习内容,同学们自我评价,选择性查漏补缺,便于我们更好的跟上讲师们的节奏,祝我们学习愉快,多多提问交流~
课程一:微服务结构 – 不变的基建
概述
本课程内容首要分为以下4个方面:
-
微服务架构介绍
- 微服务架构的布景由来、架构概览、根本要素
-
微服务架构原理及特征
- 微服务架构的根本组件、工作原理、流量特征
-
中心服务管理功用
- 中心的服务管理功用,包含流量管理、服务均衡、安稳性管理
-
字节跳动服务管理实践
- 字节跳动在微服务架构安稳性管理中,对恳求重试策略的探究及实践
为了协助我们更好地预习及理解本节课程,该学员手册列出了课前、课中、及课后这三个阶段所涉及到的专业内容纲要,其间课前部分供同学们提早预习参阅,课中部分给出了课程纲要,协助同学们整理思路,课后部分列出一些扩展性的问题让同学们进一步延伸思考。
课前
微服务架构介绍
-
体系架构的演进前史
- 单体架构
- 笔直运用架构
- 分布式架构
- SOA架构
- 微服务架构
-
微服务架构的三大要素
- 服务管理
- 可观测性
- 安全
微服务架构原理及特征
-
微服务架构中的根本概念及组件
- 服务、实例……
-
服务间通讯
- RPC、HTTP
- 服务注册及服务发现
中心服务管理功用
-
服务发布
- 蓝绿布置
- 灰度发布(金丝雀发布)
- 流量管理
-
负载均衡
- Round Robin
- Ring Hash
- Random
-
安稳性管理
- 限流
- 熔断
- 过载维护
- 降级
字节跳动服务管理实践
- 恳求重试的含义
- 恳求重试的难点
课中
微服务架构介绍
体系架构的演进前史
-
单体架构
- All in one process
-
笔直运用架构
- 按照事务线笔直划分
-
分布式架构
- 抽出与事务无关的公共模块
-
SOA架构
- 面向服务
-
微服务架构
- 彻底的服务化
微服务架构概览
- 网关
- 服务配置和管理
- 链路追踪和监控
微服务架构的三大要素
-
服务管理(本课程内容)
- 服务注册
- 服务发现
- 负载均衡
- 扩缩容
- 流量管理
- 安稳性管理
-
可观测性
- 日志采集
- 日志剖析
- 监控打点
- 监控大盘
- 异常报警
- 链路追踪
-
安全
- 身份验证
- 认证授权
- 拜访令牌
- 审计
- 传输加密
- 黑产进犯
微服务架构原理及特征
微服务架构中的根本概念及组件
-
服务
- 一组具有相同逻辑的运转实体
-
实例
- 一个服务中的每个运转实体
-
实例与进程的联系
- 没有必然对应联系,一般一对一或许一对多
-
常见的实例承载形式
- 进程、VM、k8s pod……
服务间通讯
- 微服务之间通过网络进行通讯
- 常见的通讯协议包含 HTTP、RPC
服务注册及服务发现
-
根本问题
- 服务间调用中,怎么指定下流服务实例的地址?
-
简略方案
-
直接指定 ip:port?
- 没有任何动态能力
- 有多个实例下流实例怎么办?
-
运用 DNS?
- 本地 DNS 存在缓存,导致推迟
- DNS 没有负载均衡
- 不支持服务探活查看
- DNS 不能指定端口
-
-
服务注册发现
- 新增一个一致的服务注册中心,用于存储服务名到服务实例之间的映射联系
- 旧服务实例下线前,从服务注册中心删除该实例,下线流量
- 新服务实例上线后,在服务注册中心注册该实例,上线流量
-
微服务流量特征
- 一致网关入口
- 外网通讯大都选用 HTTP,内网通讯大都选用 RPC(Thrift, gRPC)
中心服务管理功用
服务发布
-
何为服务发布
- 让一个服务升级运转新的代码的进程
-
服务发布难点
- 服务不可用
- 服务颤动
- 服务回滚
-
蓝绿布置
- 将服务分成两个部分,分别先后发布
- 简略、安稳
- 但需要两倍资源
-
灰度发布(金丝雀发布)
- 先发布少部分实例,接着逐步添加发布份额
- 不需要添加资源
- 回滚难度大,根底设施要求高
流量管理
-
流量操控
- 在微服务架构中,能够从各个维度对端到端的流量在链路上进行准确操控
-
操控维度
- 区域维度
- 集群维度
- 实例维度
- 恳求维度
负载均衡
- Round Robin
- Random
- Ring Hash
- Least Request
安稳性管理
-
限流
- 约束服务处理的最大 QPS,拒绝过多恳求
-
熔断
- 中断恳求途径,添加冷却时刻然后让毛病实例尝试恢复
-
过载维护
- 在负载高的实例中,自动拒绝一部分恳求,防止实例被打挂
-
降级
- 服务处理能力不足时,拒绝低级别的恳求,只呼应线上高优恳求
字节跳动服务管理实践
-
恳求重试的含义
-
本地函数调用
- 通常没有重试含义
-
远程函数调用
- 网络颤动、下流负载高、下流机器宕机……
- 重试是有含义的,能够防止偶发性的过错,进步 SLA
-
重试的含义
- 下降过错率
- 下降长尾延时
- 容忍暂时性过错
- 避开下流毛病实例
-
-
恳求重试的难点
-
幂等性
- POST 恳求能够重试吗?
-
重试风暴
- 随着调用链路的添加,重试次数呈指数级上升
-
超时设置
- 假设调用时刻总共1s,通过多少时刻开始重试?
-
-
重试策略
-
约束重试份额
- 设定一个重试份额阈值(例如 1%),重试次数占一切恳求份额不超越该阈值
-
防止链路重试
- 返回特殊的 status code,表明“恳求失利,但别重试”
-
Hedged Requests
- 对于或许超时(或延时高)的恳求,从头向另一个下流实例发送一个相同的恳求,并等待先抵达的呼应
-
-
重试效果验证
- 字节跳动重试组件能够极大约束重试发生的链路放大效应
课后
- 结合 CAP 等原理,思考微服务架构有哪些缺点?
- 微服务是否拆分得越“微”越好?为什么?
- Service Mesh 这一架构是为了解决微服务架构的什么问题?
- 有没有或许有这样一种架构,从开发上线运维体会上是微服务,但实践运转又类似单体服务?
参阅文献
- A Design Analysis of Cloud-based Microservices Architecture at Netflix
- 字节跳动微服务架构体系演进
- 微服务架构的一知半解
课程二:【实践课】手把手教你做体系规划
手把手教你做体系规划之秒杀体系
概述
本节课程首要分为四个方面:
- 体系规划方法论
- 电商秒杀事务介绍
- 课程实践
- 课程总结
课前部分首要罗列课程中涉及到的中间件和相关布景知识。对于运用到的中间件,同学们需要体会了解概念,装置并正确运用。课中部分会详细解说体系规划的方法论和秒杀体系实践,协助同学们入门体系规划。课后部分会做一些总结,整理中心思维和要点。
课前 (必须)
了解根本的电商概念和流程
- 电商渠道事务
- 秒杀事务特色
MySQL
- 装置MySQL,引荐运用MySQL8及以上版别
- 了解ddl,dml等根底语法
- 了解sql优化
Redis
- 装置Redis,引荐最新版别
- 了解Redis的根本数据类型和运用场景
- 了解常用命令
- 了解Lua脚本的运用
- 了解Redis分布式锁
RocketMQ
- 装置RocketMQ,引荐最新版别
- 了解RocketMQ的根底概念和架构
- 了解MQ的运用场景
- 了解生产者怎么保证消息的可靠性发送
- 了解消费者怎么保证幂等
- 了解消费者pull和push形式的差异
OpenResty
- 装置OpenResty,引荐最新版别
- 了解Nginx的根底概念和运用
- 了解Lua脚本的语法
Linux
- 了解常用命令
- 了解进程和线程
- 了解Linux调优
Java
- 按照JDK,引荐JDK11
- 了解Java根底语法和lambda表达式
- 了解idea的运用
- 了解并发编程
- 了解springboot结构的运用
- 了解maven的运用
Jmeter
- 装置Jmeter
- 了解运用Jmeter压测
课中
导言
-
为什么要做体系规划
- 个人?
- 工作?
-
体系规划的概念是什么
-
怎么做体系规划
- 4S剖析法
-
怎么剖析体系瓶颈和优化
- 火焰图剖析
- 链路剖析
- 全链路压测
-
怎么验证体系的可用性和安稳性
- 链路整理
- 可观测性
- 全链路测验
- 安稳性操控
- 容灾演练
电商和秒杀
根本概念
- Spu
- Sku
- 秒杀事务的特色
秒杀的挑战
- 资源有限性
- 反诈骗
- 高性能
- 防止超卖
- 流量管控
- 扩展性
- 鲁棒性
规划秒杀体系
4S剖析
- 场景
- 存储
- 功用
- 扩展
体系架构图
实践
秒杀流程
总结
高性能体系的通用规划思维
课后
- 秒杀课程的总结
- 秒杀体系的扩展
代码链接
链接: pan.baidu.com/s/1U4j4Nh1v… 提取码: 6493
课程三:黑灰产监控与防御
1、概述
企业的信息安全体系是非常庞大的,任何一个环节都或许会呈现安全危险。其间,黑灰产是安全人员最为重视的一个危险来历,也是历年来导致企业和用户损失最大的要素。
假如某个渠道或许事务被黑灰产盯上,或许是因为这个事务存在安全隐患被黑灰产使用,也或许只是被黑灰产作为牟利的垫脚石。对黑灰产的监控和防御,就是要了解他们的意图、手段和行为形式,防止被黑灰产进犯或许使用。
本次或许会给我们简略介绍国内黑灰产的状况,挑选了几种比较经典的黑产作弊手段进行详细剖析,希望能协助我们对黑灰产这个集体有必定的了解,提升各位的安全意识,在日后的工作和生活中,多一些安全视点的思考。
2、课前预习
本次课程偏科普性质,但内容不是我们在网络上能够随便看到的,课前能够阅读一些国内黑灰产的调研报告
引荐 Freebuf 黑镜调查系列 ,其间部分内容是讲师参加调查编写,不必定威望,但内容和数据都比较真实
3、思考
- 身边是否有一些工作是或许与黑产有关的,怎么区分?
- 你当前所学习和研究的技能,是否存在一些揭露的安全问题,比如缝隙或许规划缺点?怎么防止他人使用这些问题来进犯你?
- 假如无法防止被进犯,怎么将损失下降到最小?
4、相关阅读
关于事务风控
《风控要略 互联网事务反诈骗之路》讲师参加编写
《互联网渠道智能风控实战》
关于安全攻防
《白帽子讲web安全》
《Web安全深度剖析》
《Web安全机器学习入门》
上述几本都是入门级的书,挑一本即可
《 SQL注入进犯与防御》数据库安全进阶
《 linux服务器安全攻防》 主机安全进阶
关于安全体系建设
《互联网企业安全高档指南》
《大型互联网企业安全架构》