一、哪些要素会成为体系的瓶颈？

1、CPU，假如存在很多的核算，他们会长时刻不间断的占用CPU资源，导致其他资源无法抢夺到CPU而呼应缓慢，然后带来体系功能问题，例如频频的FullGC，以及多线程造成的上下文频频的切换，都会导致CPU繁忙，一般情况下CPU运用率<75%比较适宜。

2、内存，Java内存一般是经过jvm内存进行分配的，主要是用jvm中堆内存来存储Java创立的目标。内存的读写速度非常快，可是内存空间又是有限的，当内存空间被占满，目标无法收回时，就会导致内存溢出或内存泄漏。

3、磁盘I/O，磁盘的存储空间要比内存存储空间大很多，可是磁盘的读写速度比内存慢，虽然现在引进SSD固态硬盘，可是仍是无法跟内存速度比较。

4、网络，带宽的巨细，会对传输数据有很大影响，当并发量添加时，网络很简单就会成为瓶颈。

5、反常，Java程序，抛出反常，要对反常进行捕获，这个进程要耗费功能，假如在高并发的情况下，持续进行反常处理，体系的功能会受影响。

6、数据库，数据库的操作一般触及磁盘I/O的读写，很多的数据库读写操作，会导致磁盘I/O功能瓶颈，从而导致数据库操作延迟。

7、当在并发编程的时分，经常会用多线程操作同一个资源，这个时分为了保证数据的原子性，就要运用到锁，锁的运用会带来上下文切换，然后带来功能开支，在JDK1.6之后新增了倾向锁、自旋锁、轻量级锁、锁粗化、锁消除。

二、哪些目标做为衡量体系的功能

1、RT呼应时刻，包含如下

1.1 数据库呼应时刻，即数据库操作的时刻

1.2 服务端呼应时刻，服务端包含Nginx分发的恳求所耗费的时刻及服务端程序履行所耗费的时刻。

1.3 网络呼应时刻，网络传输，网络硬件需要对传输的恳求进行解析所耗费的时刻

1.4 客户端呼应时刻，一般Web、App客户端，耗费时刻能够忽略不计，可是假如客户端存在很多的逻辑处理，耗费的时刻有能能就会变长。

2、TPS吞吐量

2.1 磁盘吞吐量

IOPS（Input/Output Per Second）每秒的输入输出量，这种是单位时刻内体系能处理的I/O恳求数量，I/O恳求一般为读或写数据操作恳求，重视随机读写功能，适用于随机读写频频的运用，如小文件存储，邮件服务器。
数据吞吐量，这种是单位时刻能够传输的数据量，关于很多顺序读写频频的运用，传输很多连续数据，例如视频修改。

2.2 网络吞吐量

指网络传输时没有丢帧的情况下，设备能够承受的最大数据速率。网络吞吐量不只跟带宽有联系，还跟CPU处理才能、网卡、防火墙、以及I/O等紧密联系，吞吐量的巨细由网卡的处理才能、内部程序算法以及带宽巨细决定。

3、资源运用率

3.1 CPU运用率，首要能够先了解CPU的基本信息，包含物理CPU的个数、单个CPU的核数，然后能够经过指令检查运用率，vmstat、mpstat、top

3.2 内存运用率，free -m、vmstat、top

3.3 磁盘I/O， iostat、 iotop、

3.4 网络I/O，netstat、ifconfig、tcpstat、

三、功能测验留意的问题

1、咱们在做功能测验的时分，体系的运转会越来越快，后边的拜访速度比咱们第一次拜访的速度快了好几倍，这是因为Java语言编译的顺序是，.java文件先编译为.class文件，然后经过解说器将.class的字节码转换成本地机器码后，才能运转。为了节省内存和履行功率，代码最初被履行时，解说器会首先解说履行这段代码。跟着代码被履行的次数增多，虚拟机发现某个办法或代码运转的特别频频，就被认定为热门代码（Hot Spot Code）。为了进步热门代码的履行功率，在运转时虚拟机将会经过即时编译器（JIT）把这些代码编译成为本地平台相关的机器码，然后储存在内存中，之后每次运转代码时，直接从内存中获取。这样就会导致第一次体系运转慢，后边拜访的速度快几倍。

2、在做功能测验的时分，每次测验处理的数据集都是一样的，可是结果却有差异，这是因为测验时，伴跟着很多不稳定要素，比方机器其他进程的影响、网络动摇以及每个阶段JVM废物收回的不同等。咱们能够经过屡次测验，将测验结果求平均，只要保证平均值在合理规模之内，并且动摇不是很大，这种情况，功能测验就算经过。

四、定位功能问题的时分，能够运用自下而上的战略剖析排查

当咱们进行压测之后，咱们会输出一份功能测验报告，其中包含，RT、TPS、TP99，被压服务器的CPU、内存、I/O，以及JVM的GC频率。经过这些目标能够发现功能瓶颈。咱们能够采用自下而上的方式进行剖析。

1、首要从操作体系层面，检查体系的CPU、内存、I/O、网络的运用率是否反常，再经过指令查找反常日志，最后经过日志剖析，找到导致瓶颈的问原因。

2、还能够从Java运用的JVM层面，检查JVM的废物收回频率以及内存分配情况是否存在反常，剖析废物收回日志，找到导致瓶颈的原因。

3、假如体系和JVM层面都没有呈现反常情况，然后能够从运用服务事务层检查是否存在功能瓶颈，例如，Java编程问题，读写数据库瓶颈等。

五、优化功能问题的时分，能够运用自上而下的战略进行优化

全体的调优顺序，咱们能够从事务调优到编程调优，最后再到体系调优

1、运用层调优

首要是优化代码，代码问题往往会因为耗费体系资源而暴漏出来，例如代码导致内存溢出，使JVM内存用完，而产生频频的FullGC，导致CPU偏高。

其次是优化设计，主要是优化事务层和中间件层代码，例如能够采用署理形式，放在频频调用的创立目标的场景里，共享一个创立目标，削减创立目标的耗费。

再次是优化算法，挑选适宜的算法下降时刻复杂度。

2、中间件调优

MySQL调优

1)、表结构与索引优化。

主要是对数据库设计、表结构设计以及索引设置维度进行的优化，设计表结构的时分，考虑数据库的水平与垂直的拓展才能，提前规划好将来数据量、读写量的添加，规划好分库分表方案。对字段挑选适宜的数据类型，优先选用较小的数据结构。

2)、SQL句子优化。

主要是对SQL句子进行的优化，运用explain来检查履行计划，来检查是否运用了索引，运用了哪些索引。也能够运用Profile指令剖析句子履行进程中各个分步的耗时。

3)、MySQL参数优化。

主要是对MySQL服务的配置进行优化，例如连接数的管理，对索引缓存、查询缓存、排序缓存等各种缓存巨细进行优化

4)、硬件及体系配置。

对硬件设备和操作体系设置进行优化，例如调整操作体系参数、禁用swap、添加内存、升级固态硬盘。

3、体系调优

首要是操作体系调优，Linux操作的内核参数设置能够进行调优，已到达供给高功能的意图。
其次，JVM调优，设置合理的JVM内存空间，以及废物收回算法来进步功能，例如，假如事务逻辑会创立大目标，咱们就能够设置，将大的目标直接放到老时代中，这样能够削减年轻代频发产生YongGC，削减CPU的占用时刻。

4、调优的战略

首要是时刻交换空间，有的时分体系对查询速度要求不高，对存储空间要求较高，这个时分咱们能够考虑用时刻交换空间。

其次是空间交换时刻，用存储空间提高拜访速度，典型的便是MySQL的分库分表战略，MySQL表单数据存储千万以上的时分，读写功能就会下降，这个时分咱们能够将数据进行拆分，以到达查询的时分，每个表的数据是少数的，以到达提高功能的意图。

5、兜底战略

体系调优后，仍然还会存在功能问题，这个时分咱们需要有兜底战略，
首要是限流，对体系的入口设置最大拜访约束，同时采取断熔措施，回来没有成功的恳求。
其次是横向扩容，当拜访量超越某一个阈值时，体系能够自动横向添加服务。

作者：京东健康 牛金亮

内容来源：京东云开发者社区