mysql 提升tps_MYSQL的TPS优化

mysql 提升tps_MYSQL的TPS优化1、摘要系统初期使用的是分布式微服务,但是所有业务模型都在同一个数据库实例上,数据库的压力会非常大,这时需要找出系统执行频率比较高的SQL,进行优化。这里重点描述定位问题的方法,使用的数据也都是测试环境数据。2、统计数据2.1、统计SQL执行次数showGLOBALstatuslike’Com_insert%’;showGLOBALstatuslike’Com_select%’…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

1、摘要

系统初期使用的是分布式微服务,但是所有业务模型都在同一个数据库实例上,数据库的压力会非常大,这时需要找出系统执行频率比较高的SQL,进行优化。这里重点描述定位问题的方法,使用的数据也都是测试环境数据。

2、统计数据

2.1、统计SQL执行次数

show GLOBAL status like ‘Com_insert%’;

show GLOBAL status like ‘Com_select%’;

show GLOBAL status like ‘Com_update%’;

show GLOBAL status like ‘Com_delete%’;

选取至少两个时间段的数据

17:57分

Com_insert1609095

Com_select169588912

Com_update69325636

Com_delete980

17:58分

Com_insert1609124

Com_select169631946

Com_update69344475

Com_delete980

18:02分

Com_insert1609421

Com_select169769311

Com_update69403962

Com_delete980

17:57 到17:58 平均每秒的次数

Com_insert0.5次/秒

Com_select717次/秒

Com_update313次/秒

Com_delete0次/秒

17:58 到18:02 平均每秒的次数

Com_insert1.2次/秒

Com_select572次/秒

Com_update247次/秒

Com_delete0次/秒

计算mysql吞吐量

基于com_%计算tps ,qps

tps= Com_insert/s + Com_update/s + Com_delete/s

qps=Com_select/s + Com_insert/s + Com_update/s + Com_delete/s

根据公式将两次统计结果的值取平均值

Tps=280

Qps=924

2.2、general_log

模拟线上环境,系统没有开启 general_log,否则会影响性能,所以select 的执行日志暂时无法统计。

2.3、慢查询日志:

https://blog.csdn.net/weixin_41715077/article/details/83116520

2.4、binlog

通过命令获取上面第一个时间段的binlog日志

mysqlbinlog –no-defaults -s –start-datetime=’2018-11-07 17:57:00′ –stop-datetime=’2018-11-07 17:58:00′ mysql-bin.000564 -r 20181107-1757-1758

binglog中有 update delete 和insert 等事务型SQL,这也是我们重点需要优化的地方。

2.4.1、统计20181107-1757-1758文件中SQL执行次数

2.4.2、统计insert

共26次 ,可以先忽略。

80aa152374096ad8cc0a73337873daab.png

2.4.3、update

统计update次数。一分钟内共15885 次updat,平均每秒264。这个和上面统计数据基本一致。

f63fb76e5b04f43d08265e3448028800.png

2.4.4、分析哪些SQL执行频率比较高。

发现有两条SQL的执行频率最高,找到需要优化的地方。

989c7f73261d694b0420beea4269aa71.png

eca7b9d29e304e129f2d80dbd518b8c8.png

3、优化方式

先将需要Update 的数据放到redis 中,然后再定时或者根据设置数据条数的阈值来批量同步到mysql表中。比如当redis中数据超过1000时,按照上面的统计的TPS,大概是3秒钟同步一次。

但是要注意批量update的方式。使用mybatis 批量更新主要有两种方式。一种用for循环通过循环传过来的参数集合,循环出N条sql,另一种 用mysql的case when 条件判断变相的进行批量更新 。使用第一方式数据库连接必须配置:&allowMultiQueries=true

update t_customer set

user_top = #{cus.top},

user_co = #{cus.co},

user_cs = #{cus.cs},

user_cd = #{cus.cd},

user_ty = #{cus.ty}

where id = #{cus.id}

update t_customer

when id=#{us.id} then #{us.top}

when id=#{us.id} then #{us.co}

when id=#{us.id} then #{us.cs}

when id=#{us.id} then #{us.cd}

when id=#{us.id} then #{us.ty}

id in

(#{us.id})

两种方式对比,第一种方式根据主键或者唯一索引更新相对会快点,而且不容易产生死锁。第二种方式使用case when 且where条件中用in 无法利用索引,且容易产生死锁。

另外有使用spring batch 的效率可能会更高点,由于没有尝试过,这里无法判断。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/180009.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • Ubuntu镜像名称解释

    Ubuntu镜像名称解释Ubuntu 镜像名称解释例如阿里源中 ubuntu 的镜像前面的 Footer 和 Header 的 Html 文件不用管它 这是非官方镜像特有的 是官方镜像页面的美化文件 MD5SUMS 是 md5 校验表 SHA1SUM SHA256SUMS 性质一样只不过不同方式 打开之后大概是 MD5SUMS 为例 fa0893ffe218 ubuntu 12

    2025年12月14日
    2
  • 用docker部署jar包_docker run 参数

    用docker部署jar包_docker run 参数小小总结一、思路1、将docker容器中的指定文件夹挂载到宿主机上,更新jar包只需上传到宿主机指定路径,方便更新2、利用bash文件运行jar包,并构建该bash的镜像,代替构建直接运行jar包的镜像,利于镜像与jar包解耦。例如,app-1.0.0.jar升级到app-2.0.0.jar,只须更改bash文件的内容,而无须构建新的镜像。二、准备工作1、创建存放docker配置文件、jar包的文件夹在宿主机上,创建文件夹:/home/admin/app,用于存放bash文件和jar包。然

    2022年9月27日
    2
  • mysql DISTINCT 的实现与优化

    mysql DISTINCT 的实现与优化

    2021年8月29日
    51
  • sublime3激活码【在线注册码/序列号/破解码】

    sublime3激活码【在线注册码/序列号/破解码】,https://javaforall.net/100143.html。详细ieda激活码不妨到全栈程序员必看教程网一起来了解一下吧!

    2022年3月19日
    38
  • 电脑快速切换ip软件(好用的换ip软件)

    切换IP软件,切换电脑手机IP如此简单大家在工作和生活中肯定会时不时遇到需要换IP的情况,为了预防需要换IP的时候束手无策,小编在此给大家介绍一款专门用来换IP的软件。打开搜索引擎,不管是百度,狗搜还是360,只要在上面搜索“换IP软件”,立马就会出现非常多的换IP的品牌,有免费的也有付费的,功能都没什么区别,就是换IP。卖IP的这么多,说明换IP的市场还是非常大的!不管你是做什么行业,网络推…

    2022年4月18日
    82
  • 轻松几步搭建你的私有云

    轻松几步搭建你的私有云私有云增加了IT的灵活性,帮助前端用户实现自助式服务。许多企业通往私有云的过程是从虚拟化起步的。从这种角度看,私有云主要是额外增加了一层灵活性,让用户可以自行部署所需的IT资源。假如你正计划部署私有云

    2022年7月1日
    23

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号