百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

性能测试之数据库调优(数据库的性能优化有哪些方法)

nanshan 2024-11-17 00:16 10 浏览 0 评论

调优方向

硬件:选择磁盘IO读写性能高,磁盘空间大的

操作系统:优先选择linux ,且在ulimit -n中修改打开文件的数量和线程数

查看数据库本身的配置 show variables ;

数据库本身的配置项


max_connections :MySQL的最大连接数,默认151,并发高时可以适当调高此值,以增加并行连接数里,因MySQL会为每个连接提供连接缓冲区,就会开销越多的内存,所以要适当调整该值。可通过Conn%通配符查看当前状态的连接数量,确定该值的大小


open_files_limit:MySQL打开的文件描述符限制:当此值没有被配置的时候,比较max_connections*5 ulimit -n 的值,选择两者大的 。当此值被配置的时,比较open_files_limitmax_connections*5 的值,哪个大用哪个


table_open_cache :MySQL每打开一个表,都会读入一些数据到Table open cache缓存中,当MySQL在这个缓存中找不到相应信息时,才会去磁盘上读取,若系统有200并发连接,则需将此参数设置为20*N(N为每个连接所需的文件描述符数);若设置为过大大,系统处理不了那么多文件描述符,会导致出现客户端失效,连接不上


max_heap_table_size:定义了用户可以创建的内存表(memory table)的大小。这个值用来计算内存表的最大行数值。默认16M


tmp_table_size :临时表大小


read_buffer_size:读入缓冲区大小。对表进行顺序扫描的请求将分配一读入缓冲区,MySQL会为它分配一段内存缓冲区read bufer size变里控制这一缓冲区的大小;如果对表的顺序扫描请求非常频繁,并且你认为频繁扫描进行得太慢,可以通过增加read_buffer_size和内存缓冲区天小可以提高扫描性能


sort_buffer_size:控制排序使用的缓冲大小。如果想要增加ORDER BY的速度,首先看是否可以让MySQL使用索引而不是额外的排序阶段,如果不能,可以尝试增加sort_buffer_size 变量的大小


join_buffer_size :联合查询操作所能使用的缓冲区大小,和sort_buffer_size一样,该参数对应的分配内存也是连接独享


slow_query_log:是否开启慢查询日志

slow_query_log_file 慢查询开关开启启,慢查询脚本会自动写入文件


long_query_time :慢查询阀值时间 sql的执行时间超过这个设定时间,就是慢查询。单位: 秒


innodb_open_files:限制innodb能打开的表数据


wait_timeout: 服务器关交互连接之前等待活动的秒数。在线程启动时,根据全局wat tmeout值或全局interacive tmeout值初始化会wat timeout值,取决于客户端类型(由mysal real connect)的连接选项CLIENT INTERACTIVE定义)。参数默认值:28800秒(8小时)


模拟慢查询

获取到慢查询脚本的方法

1.开启 slow_query_log 开关,现在是关闭状态,需要操作配置文件进行修改

2,通过docker exec -it 容器名称 /bin/bash 进去数据库容器内部

找到容器中 mysql的配置文件路径 /etc/mysql/mysql.cnf

进入alternatives目录,查看到my.cnf 已经软链接到容器内的/etc/mysql 目录下

3. 从容器中,拷贝路径下 mysql.cnf文件到本机linux外

执行命令:docker cp 容器名称 :/etc/mysql/mysql.cnf $PWD


4.修改文件添加内容 :

slow_query_log=ON #开关

long_query_time=1 #超时1s


5.把修改好的mysqld.cnf文件,再次复制到容器中去 (cp 源 路径)

docker cp mysqld.cnf centos7_mysql57:/etc/mysql/mysql.conf.d/mysqld.cnf


6.重启容器之后,日志,就根据long_query_time的时间,判断,超过这个时间,那么就会写入slow_query_log_file文件中去


编写压测脚本对服务器进行压测

将慢sql日志文件复制出来 :docker cp 容器名称:/var/lib/mysql/e2d0077fb342-slow.log $PWD


常见错误: Too many connections

需要适当调整 max_connections的值

查看最大配置的最大连接数:show variables like 'max_connections%';

查看用户已建立的连接数:show GLOBAL status like 'max_used_connections%';

若:max_connections的值和 max_used_connections的值接近说明数据库连接数不足,需要进行以下操作

调整参数:适当修改max connections值 200-1000 的区间。

调整项目本身的配置,如连接池


  • initialSize 初始化连接数
  • maxActive 连接池的最大连接数,0表示无限制
  • maxldle 最大空闲连接,暂时不断开,随时待命
  • minldle 最小空闲连接
  • maxWait 超时等待时间,毫秒;-1表示无限等待,直到超时

在数据库机器执行下面的命令,可以看到数据库总连接数

netstat -ano|grep 数据库端口|grep ESTABLISHED |wc -l


在数据库机器中执行 可以看到 应用程序与 数据库建立连接数有多少

netstat -ano|grep 数据库端口|grep 服务端ip|grep ESTABLISHED |wc -l

相关推荐

服务器数据恢复—Raid5数据灾难不用愁,Raid5数据恢复原理了解下

Raid5数据恢复算法原理:分布式奇偶校验的独立磁盘结构(被称之为raid5)的数据恢复有一个“奇偶校验”的概念。可以简单的理解为二进制运算中的“异或运算”,通常使用的标识是xor。运算规则:若二者值...

服务器数据恢复—多次异常断电导致服务器raid不可用的数据恢复

服务器数据恢复环境&故障:由于机房多次断电导致一台服务器中raid阵列信息丢失。该阵列中存放的是文档,上层安装的是Windowsserver操作系统,没有配置ups。因为服务器异常断电重启后,rai...

服务器数据恢复-V7000存储更换磁盘数据同步失败的数据恢复案例

服务器数据恢复环境:P740+AIX+Sybase+V7000存储,存储阵列柜上共12块SAS机械硬盘(其中一块为热备盘)。服务器故障:存储阵列柜中有磁盘出现故障,工作人员发现后更换磁盘,新更换的磁盘...

「服务器数据恢复」重装系统导致XFS文件系统分区丢失的数据恢复

服务器数据恢复环境:DellPowerVault系列磁盘柜;用RAID卡创建的一组RAID5;分配一个LUN。服务器故障:在Linux系统层面对LUN进行分区,划分sdc1和sdc2两个分区。将sd...

服务器数据恢复-ESXi虚拟机被误删的数据恢复案例

服务器数据恢复环境:一台服务器安装的ESXi虚拟化系统,该虚拟化系统连接了多个LUN,其中一个LUN上运行了数台虚拟机,虚拟机安装WindowsServer操作系统。服务器故障&分析:管理员因误操作...

「服务器数据恢复」Raid5阵列两块硬盘亮黄灯掉线的数据恢复案例

服务器数据恢复环境:HPStorageWorks某型号存储;虚拟化平台为vmwareexsi;10块磁盘组成raid5(有1块热备盘)。服务器故障:raid5阵列中两块硬盘指示灯变黄掉线,无法读取...

服务器数据恢复—基于oracle数据库的SAP数据恢复案例

服务器存储数据恢复环境:某品牌服务器存储中有一组由6块SAS硬盘组建的RAID5阵列,其中有1块硬盘作为热备盘使用。上层划分若干lun,存放Oracle数据库数据。服务器存储故障&分析:该RAID5阵...

「服务器虚拟化数据恢复」Xen Server环境下数据库数据恢复案例

服务器虚拟化数据恢复环境:Dell某型号服务器;数块STAT硬盘通过raid卡组建的RAID10;XenServer服务器虚拟化系统;故障虚拟机操作系统:WindowsServer,部署Web服务...

服务器数据恢复—RAID故障导致oracle无法启动的数据恢复案例

服务器数据恢复环境:某品牌服务器中有一组由4块SAS磁盘做的RAID5磁盘阵列。该服务器操作系统为windowsserver,运行了一个单节点Oracle,数据存储为文件系统,无归档。该oracle...

服务器数据恢复—服务器磁盘阵列常见故障表现&解决方案

RAID(磁盘阵列)是一种将多块物理硬盘整合成一个虚拟存储的技术,raid模块相当于一个存储管理的中间层,上层接收并执行操作系统及文件系统的数据读写指令,下层管理数据在各个物理硬盘上的存储及读写。相对...

「服务器数据恢复」IBM某型号服务器RAID5磁盘阵列数据恢复案例

服务器数据恢复环境:IBM某型号服务器;5块SAS硬盘组成RAID5磁盘阵列;存储划分为1个LUN和3个分区:第一个分区存放windowsserver系统,第二个分区存放SQLServer数据库,...

服务器数据恢复—Zfs文件系统下误删除文件如何恢复数据?

服务器故障:一台zfs文件系统服务器,管理员误操作删除服务器上的数据。服务器数据恢复过程:1、将故障服务器所有磁盘编号后取出,硬件工程师检测所有硬盘后没有发现有磁盘存在硬件故障。以只读方式将全部磁盘做...

服务器数据恢复—Linux+raid5服务器数据恢复案例

服务器数据恢复环境:某品牌linux操作系统服务器,服务器中有4块SAS接口硬盘组建一组raid5阵列。服务器中存放的数据有数据库、办公文档、代码文件等。服务器故障&检测:服务器在运行过程中突然瘫痪,...

服务器数据恢复—Sql Server数据库数据恢复案例

服务器数据恢复环境:一台安装windowsserver操作系统的服务器。一组由8块硬盘组建的RAID5,划分LUN供这台服务器使用。在windows服务器内装有SqlServer数据库。存储空间LU...

服务器数据恢复—阿里云ECS网站服务器数据恢复案例

云服务器数据恢复环境:阿里云ECS网站服务器,linux操作系统+mysql数据库。云服务器故障:在执行数据库版本更新测试时,在生产库误执行了本来应该在测试库执行的sql脚本,导致生产库部分表被tru...

取消回复欢迎 发表评论: