【业务功能篇86】微服务-springcloud-系统性能压力测试-jmeter-性能优化-JVM参数调优

系统性能压力测试

一、压力测试

  压力测试是给软件不断加压，强制其在极限的情况下运行，观察它可以运行到何种程度，从而发现性能缺陷，是通过搭建与实际环境相似的测试环境，通过测试程序在同一时间内或某一段时间内，向系统发送预期数量的交易请求、测试系统在不同压力情况下的效率状况，以及系统可以承受的压力情况。然后做针对性的测试与分析，找到影响系统性能的瓶颈，评估系统在实际使用环境下的效率情况，评价系统性能以及判断是否需要对应用系统进行优化处理或结构调整。并对系统资源进行优化。

  在压力测试中我们会涉及到相关的一些性能指标：

  1. 响应时间(Response Time:RT):从客服端发送请求开始到获取到服务器的响应结果的总的时间
  2. HPS(Hits Per Second):每秒点击的次数
  3. TPS(Transaction Per Second):系统每秒处理的交易数，也叫会话次数
  4. QPS(Query Per Second):系统每秒处理查询的次数

  在互联网企业中，如果一个业务有且仅有一个请求连接，那么TPS=QPS=HPS的，而在一般情况下用TPS来衡量整个业务流程，用QPS来衡量接口查询的次数，用HPS来衡量服务器单击请求。

  我们在测试的时候就会通过这些指标(HPS,TPS,QPS)的数据来衡量系统的系统，指标越高说明系统性能越好，在一般情况下，各个行业的指标范围有着比较大的差异，下面简单的列举了下，仅供参考

  • 金融行业:1000TPS~50000TPS
  • 保险行业:100TPS~100000TPS
  • 制造业：10TPS~5000TPS
  • 互联网大型网站:10000TPS~1000000TPS
  • 互联网其他:1000TPS~50000TPS

  当然我们还会涉及到一些其他的名词，如下：

名词说明
最大响应时间用户发出请求到系统做出响应的最大时间
最少响应时间用户发出请求到系统做出响应的最少时间
90%响应时间指所有用户的响应时间进行排序，第90%的响应时间

  当我们从外部来看，性能测试主要要关注这三个性能指标

指标说明
吞吐量每秒钟系统能够处理的请求数，任务数
响应时间服务处理一个请求或一个任务的耗时
错误率一批请求中结果出错的请求所占的比例

二、JMeter

1.安装JMeter

官网地址：https://jmeter.apache.org/download_jmeter.cgi 下载后解压即可，然后进入到bin目录下双击 JMeter.bat文件即可启动

image.png

该工具支持中文

image.png

中文后的页面

image.png

2.JMeter基本操作

2.1 添加线程组

  线程组的作用就是定义任务的相关属性，比如每秒执行多少线程，重复多少次该操作

image.png

2.2 取样器

  在定义了线程组后，我们得继续定义每个线程的操作行为，也就是创建对应的取样器，在取样器中我们定义要访问的服务的协议及地址信息。

image.png

  然后我们需要在取样器中定义服务的信息

image.png

2.3 监视器

  在取样器中我们定义了要访问的服务信息，然后我们就要考虑请求后我们需要获取任务的相关的指标信息。这时就用到了监视器。

image.png

对应的结果数据有 查看结果树 汇总报告 聚合报告 ，查看结果对应的图形 汇总图 …

image.png

2.4 测试百度

  写好了取样器后，启动测试。

image.png

启动后我们就可以查询测试的结果数据

image.png

image.png

image.png

image.png

2.5 测试商城首页

image.png

image.png

启动后查看对应的结果

image.png

image.png

image.png

image.png

2.6 JMeter Address 占用的问题

image.png

搜索之后发现需要在regedit中添加注册表项MaxUserPort，TcpTimedWaitDelay重启一下就可以解决了。

解决方法：

打开注册表：ctrl+r 输入regedit
进入注册表，路径为：\HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters
新建DWORD值，（十进制）设置为30秒。名称:TcpTimedWaitDe,值:30
新建DWORD值，（十进制）最大连接数65534。名称:MaxUserPort,值:65534

修改完成后重启生效

image.png

三、性能优化

1.考虑影响服务性能的因素

数据库、应用程序，中间件(Tomcat,Nginx),网络和操作系统等

我们还得考虑当前的服务属于

  • CPU密集型：计算比较影响性能—>添加CPU，加机器
  • IO密集型：网络IO，磁盘IO，数据库读写IO，Redis读写IO --》缓存，加固态硬盘，添加网卡

2.JVM回顾

设置JVM参数，适当调整相应的堆空间的内存大小，也是提升效率的一个关键动作，本地环境idea中，配置启动环境，VM Options参数即可 -Xmx512m -Xmn512m
而运行生产环境，那么配置jvm参数，通过java -Xmx512 -Xmn512m xxx.jar

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-s4RvI9f0-1693209241788)(./images/1693****************208858173_image.png)]
JVM的内存结构

image.png

JVM中对象的存储和GC

image.png

image.png

1、JVM涉及的空间：堆：包括年轻代与老年代+字符串常量池，年轻代由一个Eden与两个Survivor区。方法区：持久代与元空间都是方法区的实现，JDK1.8改为元空间。
2、JVM参数设置，服务器配置的参数：

  • -Xms：初始堆内存大小，设定程序启动时占用内存大小，默认物理内存1/64 -Xms = -XX:InitialHeapSiz
  • -Xmx：最大堆内存，设定程序运行期间最大可占用的内存大小。如果程序运行需要占用更多的内存，超出了这个设置值，就会抛出OutOfMemory异常，默认物理内存1/4，-Xmx = -XX:MaxHeapSize。 上图中的-Xms与-Xmx设置的大小一样 6000M
  • -Xss：设置单个线程栈大小，一般默认512~1024kb。单个线程栈大小跟操作系统和JDK版本都有关系，-Xss = -XX:ThreadStackSize
  • -Xmn：设置年轻代大小。整个堆大小=年轻代大小 + 年老代大小 + 常量池。持久代一般固定大小为64m，所以增大年轻代后，将会减小年老代大小。此值对系统性能影响较大，Sun官方推荐配置为整个堆的3/8
  • -XX:MetaspaceSize ：元空间大小，元空间本质跟永久代类似，都是对JVM规范中方法区的实现。不过元空间与永久代最大的区别在于：元空间并不在虚拟机中，而是使用本地内存，由操作系统支配。因此，元空间大小仅受本地内存限制。
  • -XX:+PrintGCDetails ：打印GC详细日志信息
  • -XX:SurvivorRatio：幸存者比例设置，设置年轻代中Eden区与Survivor区的大小比值。设置为8，则两个Survivor区与一个Eden区的比值为2:8，一个Survivor区占整个年轻代的1/10
  • -XX:NewRatio：新生代比例设置（包括Eden和两个Survivor区）与年老代的比值（除去持久代）。设置为1，则年轻代与年老代所占比值为1：1，年轻代占整个堆栈的1/2。
  • -XX:MaxTenuringThreshold：进入老年代阈值设置
  • -XX:PermSize=128m：持久代内存初始值分配128M； -XX:MaxPermSize=512m：设置持久代最大为512m

3.jconsole和jvisualvm

  jconsole和jvisualvm是JDK自带监控工具。可以帮助我们更好的查看服务的相关监控信息，jvisualvm功能会更加的强大些。

3.1 jconsole

image.png

image.png

找到对应的进程

image.png

3.2 jvisualvm

因为是jdk6.0后自带的，我们同样的可以在cmd或者搜索框中找到

image.png

打开的主页面

image.png

找到对应的进程，双击进入

image.png

查看对应的监视信息

image.png

添加插件。如果插件不可用，那么需要更新

image.png

https://visualvm.github.io/pluginscenters.html 需要结合你的jdk的版本来选择对应的插件的版本

image.png

安装好之后重启jvisualvm即可

%image.png

4. 中间件的性能

  以下是一个完整的请求链路

image.png

  然后我们来测试下相关的组件的性能

  • Nginx测试，可以直接方法默认的html页面，在nginx的配置文件中放置一个index.html文件，浏览器访问 nginx的默认地址去做压测，端口是默认80

  • 初步得到测试后的一个情况，吞吐量等一些量化指标

  • 接着我们可以把docke中的容器状态打开 docker stats命令，然后再次进行压测，实时观察 Nginx服务的性能变化判断CPU密集型是IO密集型，通过压测过程看到CPU飙升到满，可以判断是CPU密集型 可通过增加机器或CPU优化

  • 其实也可以理解，因为Nginx不做业务处理，主要是做更多的请求的分发，创建更多子线程来进行维护，所以需要更多CPU支撑

  • 网关测试：同哩访问所在服务器地址加相应端口直接访问，这里都没用具体的接口地址请求 和Nginx一样都是直接方法地址:端口，即可达到测试效果

  • 单独测试服务：这里可以写一个简单的请求接口，直接返回一个字符串，不经过数据库数据，也就是针对应用服务的单独测试性能了

  • 网关+服务：就是通过网关配置请求，做转发即可，请求的是网关服务的端口，然后会路由到具体服务去做请求相应

  • 首页全量数据：这里涉及到一些静态资源的访问，那么就需要在jmeter工具中 高级设置去开启加载访问html资源，这样才能去访问到那些首页静态资源的图片，html,css,js等

压力测试内容压力测试的线程数吞吐量/s90%响应时间99%响应时间
Nginx507,3851070
Gateway5023,170314
单独测试服务5023,16037
Gateway+服务508,4611246
Nginx+Gateway50
Nginx+Gateway+服务502,8162742
一级菜单501,3214874
三级分类压测501240004000
首页全量数据502

image.png

中间件越多，性能损失就越大，大多数的损失都是在数据的交互

简单的优化：

中间件：单个的效率都很高，串联的中间件越多，影响越大，但是在业务面前其实就比较微弱

业务：

  • DB(MySQL，优化)
  • 模板页面渲染
压力测试内容压力测试的线程数吞吐量/s90%响应时间99%响应时间
Nginx507,3851070
Gateway5023,170314
单独测试服务5023,16037
Gateway+服务508,4611246
Nginx+Gateway50
Nginx+Gateway+服务502,8162742
一级菜单501,3214874
三级分类压测501240004000
首页全量数据(DB-Themleaf)502
一级菜单(DB-索引)5019004070
三级分类压测(索引)503415991700
首页全量数据(DB-Themleaf-放开缓存)5030。。。。。。

5.Nginx实现动静分离

  通过上面的压力测试我们可以发现如果后端服务及处理动态请求又处理静态请求那么他的吞吐量是非常有限的，这时我们可以把静态资源存储在Nginx中。

image.png

5.1 静态资源存储

  把服务中的静态资源上传到Nginx服务中，把静态资源文件打成一个zip包，然后拖拽到Linux中，然后我们通过

unzip index.zip

来解压缩

image.png

然后替换掉模板文件中的资源访问路径

image.png

5.2 Nginx配置

  然后我们在Nginx的配置文件中指定static开头的请求的处理方式

image.png

  保存后重启Nginx服务，然后就可以访问了

image.png

6.三级分类优化

  我们在获取三级分类的数据的时候，会频繁的操作数据库，我们可以对这段代码来优化

image.png

  在此处我们可以一次查询出所有的分类数据，然后每次从这个一份数据中获取对应的信息，达到减少数据库操作的次数的目的，从而提升服务的性能。

/*** 跟进父编号获取对应的子菜单信息* @param list* @param parentCid* @return*/private List<CategoryEntity> queryByParenCid(List<CategoryEntity> list,Long parentCid){List<CategoryEntity> collect = list.stream().filter(item -> {return item.getParentCid().equals(parentCid);}).collect(Collectors.toList());return collect;}/*** 查询出所有的二级和三级分类的数据* 并封装为Map<String, Catalog2VO>对象* @return*/@Overridepublic Map<String, List<Catalog2VO>> getCatelog2JSON() {// 获取所有的分类数据List<CategoryEntity> list = baseMapper.selectList(new QueryWrapper<CategoryEntity>());// 获取所有的一级分类的数据List<CategoryEntity> leve1Category = this.queryByParenCid(list,0l);// 把一级分类的数据转换为Map容器 key就是一级分类的编号， value就是一级分类对应的二级分类的数据Map<String, List<Catalog2VO>> map = leve1Category.stream().collect(Collectors.toMap(key -> key.getCatId().toString(), value -> {// 根据一级分类的编号，查询出对应的二级分类的数据List<CategoryEntity> l2Catalogs = this.queryByParenCid(list,value.getCatId());List<Catalog2VO> Catalog2VOs =null;if(l2Catalogs != null){Catalog2VOs = l2Catalogs.stream().map(l2 -> {// 需要把查询出来的二级分类的数据填充到对应的Catelog2VO中Catalog2VO catalog2VO = new Catalog2VO(l2.getParentCid().toString(), null, l2.getCatId().toString(), l2.getName());// 根据二级分类的数据找到对应的三级分类的信息List<CategoryEntity> l3Catelogs = this.queryByParenCid(list,l2.getCatId());if(l3Catelogs != null){// 获取到的二级分类对应的三级分类的数据List<Catalog2VO.Catalog3VO> catalog3VOS = l3Catelogs.stream().map(l3 -> {Catalog2VO.Catalog3VO catalog3VO = new Catalog2VO.Catalog3VO(l3.getParentCid().toString(), l3.getCatId().toString(), l3.getName());return catalog3VO;}).collect(Collectors.toList());// 三级分类关联二级分类catalog2VO.setCatalog3List(catalog3VOS);}return catalog2VO;}).collect(Collectors.toList());}return Catalog2VOs;}));return map;}

优化后的压测表现

压力测试内容压力测试的线程数吞吐量/s90%响应时间99%响应时间
Nginx507,3851070
Gateway5023,170314
单独测试服务5023,16037
Gateway+服务508,4611246
Nginx+Gateway50
Nginx+Gateway+服务502,8162742
一级菜单501,3214874
三级分类压测501240004000
三级分类压测(业务优化后)50448113227

image.png

可以看到系统性能的提升还是非常明显的。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.hqwc.cn/news/87357.html

如若内容造成侵权/违法违规/事实不符，请联系编程知识网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

【最强最全】视频号下载助手（支持视频号视频, 直播,回放下载）

【最强最全】视频号下载助手（支持视频号视频, 直播,回放下载）

视频号下载助手支持视频号视频, 直播,回放的下载&#xff0c;本工具基于秦天sunny中间件编写&#xff0c;无需再使用其它抓包软件&#xff0c;无需再使用其它下载软件。 当然&#xff0c;你也可以右键复制抓取后的视频源再用其它下载软件下载。 使用说明 解压文件&#xff0c;…
阅读更多...
Matlab(结构化程式和自定义函数)

Matlab(结构化程式和自定义函数)

目录 1.脚本编辑器 2.脚本流 2.1 控制流 2.2 关系&#xff08;逻辑&#xff09;操作符 3.脚本与函数 1.脚本编辑器 Matlab的命名规则&#xff1a; 常用功能&#xff1a; 智能缩进&#xff1a; 在写代码的时候&#xff0c;有的时候代码看起来并不是那么美观&#xff08;可读性…
阅读更多...
华为云Stack的学习（二）

华为云Stack的学习（二）

三、华为云Stack产品组件 FunsionSphere CPS 提供云平台的基础管理和业务资源&#xff08;包括计算资源和存储资源&#xff09;。采用物理服务器方式部署在管理节点。可以做集群的配置&#xff0c;扩容和运维管理。 Service OM 提供云服务的运维能力&#xff0c;采用虚拟化方…
阅读更多...
【数据结构大全】你想要的都有，数组、链表、堆栈、二叉树、红黑树、B树、图......

【数据结构大全】你想要的都有，数组、链表、堆栈、二叉树、红黑树、B树、图......

目录 1.概述 2.线性结构 3.时间复杂度 4.查找算法 5.树 6.图 1.概述 博主之前写过一个完整的关于数据结构的系列文章&#xff0c;一共十三篇&#xff0c;内容包含&#xff0c;数组、链表、堆栈、队列、时间复杂度、顺序查找、二分查找、二叉树、二叉搜索树、平衡二叉树、…
阅读更多...
LeetCode-406-根据身高重建队列

LeetCode-406-根据身高重建队列

题目描述&#xff1a; 假设有打乱顺序的一群人站成一个队列&#xff0c;数组 people 表示队列中一些人的属性&#xff08;不一定按顺序&#xff09;。每个 people[i] [hi, ki] 表示第 i 个人的身高为 hi &#xff0c;前面 正好 有 ki 个身高大于或等于 hi 的人。 请你重新构造…
阅读更多...
设计模式（一）

设计模式（一）

1、适配器模式 &#xff08;1&#xff09;概述 适配器中有一个适配器包装类Adapter&#xff0c;其包装的对象为适配者Adaptee&#xff0c;适配器作用就是将客户端请求转化为调用适配者中的接口&#xff1b;当调用适配器中的方法时&#xff0c;适配器内部会调用适配者类的方法…
阅读更多...
Node与Express后端架构：高性能的Web应用服务

Node与Express后端架构：高性能的Web应用服务

在现代Web应用开发中&#xff0c;后端架构的性能和可扩展性至关重要。Node.js作为一个基于事件驱动、非阻塞I/O的平台&#xff0c;以及Express作为一个流行的Node.js框架&#xff0c;共同构建了高性能的Web应用服务。 在本文中&#xff0c;我们将深入探讨Node与Express后端架构…
阅读更多...
Vue脚手架中安装ElementUi

Vue脚手架中安装ElementUi

目录 ElementUi简介&#xff1a; ElementUi下载&#xff1a; npm 安装&#xff1a; 引入ElementUi: 测试是否引入成功&#xff1a; Element-ui官网&#xff1a;组件 | Element ElementUi简介&#xff1a; ElementUi&#xff0c;是由国内的饿了么团队开发并开源的一套为开…
阅读更多...
SpringBootWeb案例 Part3

SpringBootWeb案例 Part3

目录 1. 新增员工 1.1 需求 1.2 接口文档 1.3 思路分析 PostMapping RequestBody //把前端传递的JSON数据填充到实体类中 1.4 功能开发 1.5 功能测试 1.6 前后端联调 2. 文件上传 2.1 文件上传简介 Spring中提供了一个API&#xff1a;MultipartFile&#xff0c;使…
阅读更多...
设计模式——装饰器模式

设计模式——装饰器模式

装饰器模式 装饰器模式&#xff08;Decorator Pattern&#xff09;允许向一个现有的对象添加新的功能&#xff0c;同时又不改变其结构。这种类型的设计模式属于结构型模式&#xff0c;它是作为现有的类的一个包装。 装饰器模式通过将对象包装在装饰器类中&#xff0c;以便动态…
阅读更多...
5G NR：PRACH时域资源

5G NR：PRACH时域资源

PRACH occasion时域位置由高层参数RACH-ConfigGeneric->prach-ConfigurationIndex指示&#xff0c;根据小区不同的频域和模式&#xff0c;38.211的第6.3.3节中给出了prach-ConfigurationIndex所对应的表格。 小区频段为FR1&#xff0c;FDD模式(paired频谱)/SUL&#xff0c;…
阅读更多...
W6100-EVB-PICO进行UDP组播数据回环测试（九）

W6100-EVB-PICO进行UDP组播数据回环测试（九）

前言 上一章我们用我们的开发板作为UDP客户端连接服务器进行数据回环测试&#xff0c;那么本章我们进行UDP组播数据回环测试。 什么是UDP组播&#xff1f; 组播是主机间一对多的通讯模式&#xff0c; 组播是一种允许一个或多个组播源发送同一报文到多个接收者的技术。组播源将…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023