背景

在体系运行时，为了确保中心服务能正常供给服务，不至于由于一些非中心功用而堵塞服务，需求对服务进行分级。当非中心服务影响到中心服务时，能经过装备或许其他手法快速堵截非中心服务然后确保中心服务能正常对用户供给服务。

怎么堵截非中心服务呢？常用的方法有限流、熔断、降级，市面上也有许多的组件能供给相应的功用，这些组件都供给了许多强壮的功用，但引入这些开源组件的一起也会带来一些杂乱的装备以及学习本钱，别的公司微服务是dubbo构建的，引入spring-cloud的一些组件会比较杂乱。

依据此，咱们决定自研一个降级组件，集成到公司的各个服务里边，供给最根底的降级服务。

服务毛病的场景：

服务毛病分为接口级毛病和体系级毛病

体系级的毛病：例如，机器宕机、机房毛病、网络毛病等问题，这些体系级的毛病尽管影响很大，但产生概率较小。

接口级毛病：在实践事务运行过程中，该毛病影响可能没有体系级那么大，但产生的概率较高

接口级毛病的典型表现便是体系并没有宕机，网络也没有中断，但事务却出现问题了。

例如，

事务呼应缓慢、许多拜访超时、许多拜访出现反常

，这类问题的首要原因在于体系压力太大、负载太高，导致无法快速处理事务恳求，由此引发更多的后续问题。

例如，最常见的数据库慢查询将数据库的服务器资源耗尽，导致读写超时，事务读写数据库时要么无法衔接数据库、要么超时，最终用户看到的现象便是拜访很慢，一会拜访抛出反常，一会拜访又是正常成果。接口毛病假如处理不及时，严峻的时分乃至会引起体系级毛病。如数据库慢查询导致数据库cpu升高，查询的服务短时刻内频繁fullgc，并因而形成连锁反应，牵一发而动全身，依靠该该服务的其他服务全都不可用，蝴蝶效应引起中心服务的不可用

毛病应对战略

优先确保中心事务和优先确保绝大部分用户

降级

降级指体系将某些事务或许接口的功用下降，可所以只供给部分功用，也可所以完全停掉一切功用。**降级的中心思维便是丢车保帅，优先确保中心事务。**例如，关于教育类App学习主链路是中心服务，其他的各种礼品活动弹窗，老师点评服务等假如出问题后不应该影响主学习链路，这时能够停掉这些非中心服务。常见的完成降级的方法有：

体系后门（装备）降级

为每一个可降级服务供给一个事务开关装备，在事务出现毛病后经过切换事务开关装备进行手动降级，但首要缺陷是假如服务器数量多，需求一台一台去操作，功率比较低，这在毛病处理争分夺秒的场景下是比较浪费时刻的。

独立降级体系

为了处理体系后门降级方法的缺陷，将降级操作独立到一个独自的体系中，能够完成杂乱的权限办理、批量操作等功用，但引入独立体系运维，集成等杂乱度会相应进步 Hystrix,sentinel等都有相应功用完成

熔断

熔断和降级是两个比较容易混淆的概念，由于单纯从姓名上看好像都有制止某个功用的意思，但其实内涵意义是不同的，原因在于降级的意图是应对体系自身的毛病，而熔断的意图是应对依靠的外部体系毛病的状况。

假定一个这样的场景：A 服务的 X 功用依靠 B 服务的某个接口，当 B 服务的接口呼应很慢的时分，A 服务的 X 功用呼应必定也会被拖慢，进一步导致 A 服务的线程都被卡在 X 功用处理上，此时 A 服务的其他功用都会被卡住或许呼应十分慢。这时就需求熔断机制了，即：A 服务不再恳求 B 服务的这个接口，A 服务内部只要发现是恳求 B 服务的这个接口就当即回来错误，然后防止 A 服务整个被拖慢乃至拖死。

熔断机制完成的要害是需求有一个一致的 API 调用层

由 API 调用层来进行采样或许计算，假如接口调用散落在代码各处就无法进行一致处理了。

熔断机制完成的别的一个要害是阈值的规划

例如 1 分钟内 30% 的恳求呼应时刻超越 1 秒就熔断，这个战略中的“1 分钟”“30%”“1 秒”都对最终的熔断效果有影响。实践中一般都是先依据分析确认阈值，然后上线调查效果，再进行调优。

限流

降级是从体系功用优先级的角度考虑怎么应对毛病，而限流则是从用户拜访压力的角度来考虑怎么应对毛病。限流指只允许体系能够接受的拜访量进来，超出体系拜访才能的恳求将被丢掉。依据限流作用规模，能够分为单机限流和分布式限流；依据限流方法，又分为计数器、滑动窗口、漏桶限令牌桶限流。

 限流一般都是体系内完成的，大致能够分为两类：

依据恳求限流

依据恳求限流指从外部拜访的恳求角度考虑限流，常见的方法有：约束总量、约束时刻量。

依据资源限流

依据恳求限流是从体系外部考虑的，而依据资源限流是从体系内部考虑的，即：找到体系内部影响功用的要害资源，对其运用上限进行约束。常见的内部资源有：衔接数、文件句柄、线程数、恳求队列等。

 依据资源限流比较依据恳求限流能够愈加有效地反映当前体系的压力，但实践中规划也面对两个首要的难点：怎么确认要害资源，怎么确认要害资源的阈值。一般状况下，这也是一个逐步骤优的过程，即：规划的时分先依据推断挑选某个要害资源和阈值，然后测验验证，再上线调查，假如发现不合理，再进行优化。

排队

排队实践上是限流的一个变种，限流是直接回绝用户，排队是让用户等待一段时刻。

最有名的排队当属12306网站排队了。
排队尽管没有直接回绝用户，但用户等了很长时刻后进入体系，体验并不一定比限流好。

由于排队需求暂时缓存许多的事务恳求，单个体系内部无法缓存这么多数据，一般状况下，排队需求用独立的体系去完成，例如运用 Kafka，RocketMQ这类音讯队列来消费用户恳求。

starter原理

springBoot starter依据约好大于装备思维，运用spi机制及主动安装原理，能够将一些通用的功用能够封装成一个独立组件并很便利的集成到不同的项目里边，简化开发，提高代码复用才能。

简略来讲便是引入了一些相关依靠和一些初始化的装备。

自界说一个降级starter组件

自界说一个starter组件名

spring官方starter一般命名为 spring-boot-starter-{name}

如spring-boot-starter-web

spring官方建议非官方starter命名应遵循 {name}-spring-boot-starter的格局例如由mybatis供给的mybatis-spring-boot-starter

因而咱们自界说的降级组件就叫degrade-spring-boot-starter

            <dependency>
                <groupId>org.degrade.spring.boot</groupId>
                <artifactId>degrade-spring-boot-starter</artifactId>
                <version>${version}</version>
            </dependency>

主动装备类

主动装备类便是Bean实例的工厂，将组件涉及的一些Bean，装备信息交给spring容器办理。现在降级组件界说了4种降级战略

抛出反常
取指定的默许值
调用指定方法
取apollo上装备的值 apollo相关请参阅分布式装备中心 Apollo

@Configuration @ConditionalOnProperty( name = {“degrade.enabled”}, matchIfMissing = true ) public class DegradeAutoConfiguration { @Bean @ConditionalOnMissingBean public ServiceDegradeAspect createDegradeAspect() { //降级切面中心逻辑 return new ServiceDegradeAspect(); } @Bean(name = “CALL_METHOD”) @ConditionalOnMissingBean public CallMethodHandler createCallMethodHandler(){ //调用指定方法降级 return new CallMethodHandler(); } @Bean(name = “DEFAULT_VALUE”) @ConditionalOnMissingBean public DefaultValueHandler createDefaultValueHandler(){ //取指定的默许值降级 return new DefaultValueHandler(); } @Bean(name = “FETCH_CONFIG_VALUE”) @ConditionalOnMissingBean public FetchConfigValueHandler createFetchConfigValueHandler(){ //取apollo上装备的值降级 return new FetchConfigValueHandler(); } @Bean(name = “THROW_EXCEPTION”) @ConditionalOnMissingBean public ThrowExceptionHandler createThrowExceptionHandler(){ //抛出反常降级 return new ThrowExceptionHandler(); } @Bean @ConditionalOnMissingBean public NullValueProvider createNullValueProvider(){ return new NullValueProvider(); } }

自界说降级注解

降级注解里边标识了需求降级的事务，场景降级后的成果，降级成果便是中心，支撑四种战略的装备，所以降级成果的装备也是放在注解里的

@Target({ElementType.METHOD, ElementType.TYPE})
@Retention(RetentionPolicy.RUNTIME)
@Documented
public @interface Degrade {
    /**
     * 降级事务key
     */
    String businessKey();
    /**
     * 降级场景key
     */
    String sceneKey() default StringUtils.EMPTY;
    /**
     * 降级后的成果（支撑多种降级战略）
     */
    DegradeResult result();
}

降级成果的注解

public @interface DegradeResult {
    /**
     * 支撑的降级处理枚举（降级战略）
     */
    DegradeResultEnum resultType();
    /**
     * 从apollo上获取指定值的key，与DegradeResultEnum#FETCH_CONFIG_VALUE 配合运用
     */
    String fetchKey() default StringUtils.EMPTY;
    /**
     * 将获取的装备内容转变成指定的目标
     */
    Class<?> fetchResult() default Void.class;
    /**
     * 履行回调的方法名称，与DegradeResultEnum#CALL_BACK_VALUE 配合运用
     */
    String methodName() default StringUtils.EMPTY;
    /**
     * 回调的class
     */
    Class<?> methodClass() default Void.class;
    /**
     * 默许值供给者，NullValueProvider默许供给，自界说杂乱目标的回来值构建能够完成该接口
     */
    Class<? extends DegradeValueProvider> defaultValueProvider() default NullValueProvider.class;
}
class NullValueProvider implements DegradeValueProvider<Void> {
    @Override
    public Void buildDegradeValue() {
        return null;
    }
}

降级装备

组件选用了从apollo上获取事务装备的方法来进行降级，与Apollo耦合比较严峻。假如不想选用apollo装备的方法进行事务降级装备，能够选用@ConfigurationProperties把装备在yml或许properties装备文件中的装备参数信息封装到装备的bean里，一般结合@EnableConfigurationProperties注解运用

@Data
public class ServiceDegradeConfig implements Serializable {
    private static final long serialVersionUID = -1628960982004214364L;
    /**
     * 降级总开关状态：true-全局开启服务降级；false-全局关闭服务降级
     */
    private Boolean state;
    /**
     * 场景开关
     */
    private Map<String, Boolean> sceneState;
}

降级处理器

选用战略模式，界说降级处理逻辑，详细的降级战略完成该接口即可，供给可扩展性的降级战略

public interface DegradeHandler {
    /**
     * 降级处理
     *
     * @return 处理后的成果
     */
    Object doDegrade(Degrade degrade, ProceedingJoinPoint point);
}

1.调用指定方法降级战略

@Slf4j
public class CallMethodHandler implements DegradeHandler {
    @Autowired
    private ApplicationContext applicationContext;
    @Override
    public Object doDegrade(Degrade degrade, ProceedingJoinPoint point) {
        DegradeResult result = degrade.result();
        String methodName = result.methodName();
        Class<?> handlerClass = result.methodClass();
        Object target = point.getTarget();
        Object targetObj = point.getThis();
        if (handlerClass == Void.class) {
            handlerClass = target.getClass();
        } else {
            targetObj = applicationContext.getBean(handlerClass);
        }
        Object[] args = point.getArgs();
        Class<?>[] parameterTypes = ((MethodSignature) point.getSignature()).getMethod().getParameterTypes();
        Method m = null;
        try {
            m = handlerClass.getMethod(methodName, parameterTypes);
            return m.invoke(targetObj, args);
        } catch (NoSuchMethodException | InvocationTargetException | IllegalAccessException e) {
            log.error("degrade call method={} error,message={}", methodName, e.getMessage());
            e.printStackTrace();
        }
        return null;
    }
}

2.获取apollo上的降级装备信息进行降级战略

public class FetchConfigValueHandler implements DegradeHandler {
    @Autowired
    private ApolloUtil apolloUtil;
    @Override
    public Object doDegrade(Degrade degrade, ProceedingJoinPoint point) {
        DegradeResult result = degrade.result();
        Class<?> aClass = result.fetchResult();
        String fetchKey = result.fetchKey();
        if (StringUtils.isEmpty(fetchKey)) {
            return null;
        }
        Optional<?> resultOpt = apolloUtil.getMessage(fetchKey, aClass);
        return resultOpt.orElse(null);
    }
}

3.供给默许回来值的降级处理战略（常用）

public class DefaultValueHandler implements DegradeHandler {
    @Autowired
    private ApplicationContext applicationContext;
    @Override
    @SuppressWarnings("rawtypes")
    public Object doDegrade(Degrade degrade, ProceedingJoinPoint point) {
        DegradeResult result = degrade.result();
        Class<? extends DegradeValueProvider> providerClass = result.defaultValueProvider();
        //获取指定的默许回来值结构供给者进行默许值构建并回来
        DegradeValueProvider provider = applicationContext.getBean(providerClass);
        return provider.buildDegradeValue();
    }
}

供给默许回来值的降级处理战略比较常用，可是回来值的类型许多，组件默许供给回来null目标的回来值，但事务上存在其他目标，如Boolean,以及自界说的杂乱目标等，因而这儿供给了默许回来值供给者函数式接口便利扩展

@FunctionalInterface
public interface DegradeValueProvider<T> {
    /**
     * 结构服务降级后的回来值
     * @return T
     */
    T buildDegradeValue();
}

降级服务的中心逻辑，切面完成

@Slf4j
@Aspect
public class ServiceDegradeAspect {
    @Autowired
    private ApplicationContext applicationContext;
    //apollo装备事务上的降级场景
    @ApolloJsonValue("${app.service.degrade.gray.config:{}}")
    private Map<String, ServiceDegradeConfig> appDegradeConfigMap;
    @Around("@annotation(degrade)")
    public Object doDegrade(ProceedingJoinPoint proceedingJoinPoint, Degrade degrade) throws Throwable {
        //获取注解里边装备的降级key标识
        String businessKey = degrade.businessKey();
        String sceneKey = degrade.sceneKey();
        if (StringUtils.isBlank(sceneKey)) {
            sceneKey = ((MethodSignature) proceedingJoinPoint.getSignature()).getMethod().getName();
        }
        boolean needDegrade = false;
        try {
        //查看是否需求降级
            needDegrade = checkNeedDegrade(businessKey, sceneKey);
        } catch (Exception e) {
            log.warn("checkNeedDegrade error。businessKey:{}, sceneKey:{}", businessKey, sceneKey, e);
        }
        if (needDegrade) {       
            //履行降级
            return doDegradeAction(degrade, proceedingJoinPoint);
        }
        return proceedingJoinPoint.proceed();
    }
    private Object doDegradeAction(Degrade degrade, ProceedingJoinPoint point) {
        DegradeResult result = degrade.result();
        DegradeResultEnum degradeResultEnum = result.resultType();
        String name = degradeResultEnum.name();
        //运用详细的降级战略进行降级
        DegradeHandler handler = applicationContext.getBean(name, DegradeHandler.class);
        return handler.doDegrade(degrade, point);
    }
    private boolean checkNeedDegrade(String businessKey, String sceneKey) {
        if (StringUtils.isBlank(businessKey)) {
            return false;
        }
        ServiceDegradeConfig config = appDegradeConfigMap.get(businessKey);
        if (config.getState() == null) {
            return false;
        }
        return config.getState() || (StringUtils.isNotBlank(sceneKey) && Optional.ofNullable(config.getSceneState())
            .map(m -> m.get(sceneKey)).orElse(false));
    }
    @Around("@within(org.degrade.spring.boot.Degrade)")
    public Object degrade(ProceedingJoinPoint joinPoint) throws Throwable {
        MethodSignature signature = (MethodSignature) joinPoint.getSignature();
        //方法上的降级注解优先于类上的
        Degrade degrade = AnnotationUtils.findAnnotation(signature.getMethod(), Degrade.class);
        if (Objects.isNull(degrade)) {
            degrade = AnnotationUtils.findAnnotation(joinPoint.getTarget().getClass(), Degrade.class);
        }
        Assert.notNull(degrade, "@Degrade must not be null!");
        return doDegrade(joinPoint, degrade);
    }
}

starter里Bean的发现与注册

META-INF目录下的spring.factories文件

# Auto Configure
org.springframework.boot.autoconfigure.EnableAutoConfiguration=\
org.degrade.spring.boot.DegradeAutoConfiguration

降级功用运用

例如针对app应用里边里程碑的一个活动功用进行降级，当该活动出现问题时，经过装备开关打开降级。即可不发送里程碑活动的相关信息，然后确保中心链路的正常拜访，不影响用户的中心学习功用

@Degrade(businessKey = "milestone", sceneKey = "app", result = @DegradeResult(resultType = DegradeResultEnum.DEFAULT_VALUE))
public void sendAppNotifyTemporary(ChallengeActivityMessageParam param) {
//详细事务省掉
    }

总结

本文讲解了服务降级的概念，并经过实践项目中的一个降级组件规划比如，从0到1完成了一个starter。

别的经过对不同事务场景的装备，咱们的降级组件不仅能够对体系内部服务做降级，还能够针对外部的一些依靠服务做没有阈值的手动熔断操作。如结合限流组件的一些阈值指标下，发现外部服务出毛病，即可手动装备降级组件，完成针对外部服务的一个简略熔断。

好了，关于服务降级咱们就介绍到这儿，喜欢本文的朋友，欢迎点赞和关注哦~~

从0为你讲解，什么是服务降级？如何实现服务降级？

背景

服务毛病的场景：

毛病应对战略

降级

熔断

限流

排队

starter原理

自界说一个降级starter组件

自界说一个starter组件名

主动装备类

自界说降级注解

降级装备

降级处理器

starter里Bean的发现与注册

降级功用运用

总结

作者信息

从0为你讲解，什么是服务降级？如何实现服务降级？

背景

服务毛病的场景：

毛病应对战略

降级

熔断

限流

排队

starter原理

自界说一个降级starter组件

自界说一个starter组件名

主动装备类

自界说降级注解

降级装备

降级处理器

starter里Bean的发现与注册

降级功用运用

总结

相关文章

从点击桌面APP图标，到APP界面显示的全流程（一）-基于Android 13(Android T)

理解SpringBoot的自动装配

ChatGPT API重大升级-必知必会

【从0-1 千万级直播项目实战】组员直呼这样写太优雅了 | 敏感词过滤与脱敏

作者信息