采用 GTID 复制的优势-爱可生(gtid主从复制)
nanshan 2024-10-08 05:33 39 浏览 0 评论
一、背景
有 4 个地区工厂的数据,需要同步到 idc。之前有个方案是用阿里的 otter 管理平台去同步到 idc 机房。运行一段时间过后,发现 otter 平台会不断地往 idc 发包,建立几百个空连接,这样导致 idc 的网络造成拥堵。
后来经过讨论,还是采用 MySQL 源生自带的主从复制方案,那源生自带的主从复制方案又有两种:一种是 GTID;一种是 pos 位点信息。那为什么要采用 GTID 复制呢?肯定有他的优势。
这里简单列举了几点:
1. 如果是单源复制的情况下,可以很方便的搭建主从;
- 为什么方便?比如只需要开启 master_auto_Position=1 即可;
2. 基于 GTID 的复制可以忽略已经执行过的事务,减少了数据发生不一致的风险;
3. 避免因为设置位点信息不准确而造成主从不一致的情况。
下面开始做多源复制的操作。
二、服务器情况说明
MySQL 版本:8.0.18
三、导出数据
导出 4 个工厂的数据到 192.168.100.5,在该服务器上运行:
cd /data/backup
mysqldump -uroot -p -h192.168.100.1 --master-data=2 --single-transaction db01 >db01.sql
mysqldump -uroot -p -h192.168.100.2 --master-data=2 --single-transaction db02 >db02.sql
mysqldump -uroot -p -h192.168.100.3 --master-data=2 --single-transaction db03 >db03.sql
mysqldump -uroot -p -h192.168.100.4 --master-data=2 --single-transaction db04 >db04.sql
四、设置 GTID 值
4.1 导入数据
这里只先导入 3 个实例的数据,然后开启主从,最后再添加一个,我们看看这样是否方便添加。
4.2 导入三个实例
use db01;
source /data/backup/db01.sql;
use db03;
source /data/backup/db03.sql;
use db04;
source /data/backup/db04.sql;
stop slave ;
reset slave all;
reset master;
# 这个命令会把本地的 binlog 给清理掉,慎用
show master status \G
File: mysql-bin.000001
Position: 155
Binlog_Do_DB:
Binlog_Ignore_DB:
Executed_Gtid_Set: # GTID 为空
4.3 设置 GTID
SET @@GLOBAL.GTID_PURGED=/*!80000 '+'*/ '39e42c4d-876f-11ea-8229-286ed488e793:1-31,
8a426026-b5e7-11ea-8816-0050568399c4:1-62183,f3d8b026-ba76-11ea-985d-000c29b82d1f:1-36244,39e42c4d-876f-11ea-8229-286ed488e793:1-31,
5d7ef438-f249-11ea-a518-0894ef181fcf:1-5980,
8a426026-b5e7-11ea-8816-0050568399c4:1-56548';
4.4 设置主从关系
change master to master_host='192.168.100.1',master_user='repl',master_password='123456',master_auto_Position=1 for channel 'ims_guangzhou';
change master to master_host='192.168.100.3',master_user='repl',master_password='123456',master_auto_Position=1 for channel 'ims_tianjin';
change master to master_host='192.168.100.4',master_user='repl',master_password='123456',master_auto_Position=1 for channel 'ims_kunshan';
start slave;
show slave status\G
# 在 100.1 广州工厂建一个测试表试下,能不能同步
use db01;
create table tb1(id int primary key);
在 100.5 的 db01 的库上是可以查的,说明可以同步。
五、尝试添加从库
为什么要尝试添加一个从库,这里主要是测试下,看看添加一个从库,麻不麻烦?如果不麻烦的话,还是可以用 GTID 的模式的。
5.1 找到最后一个库的 GTID
SET @@GLOBAL.GTID_PURGED=/*!80000 '+'*/ 'a97612c1-b947-11ea-bcf9-005056812835:1-19065';
5.2 终止 slave
stop slave
5.3 加入其他的 GTID
先把主库的 binlog 先备份下,
/data/mysqlLog/logs
mkdir binlogbak
cp mysql-bin.000001 binlogbak/
# 设置多个 GTID
SET @@GLOBAL.GTID_PURGED=/*!80000 '+'*/ 'a97612c1-b947-11ea-bcf9-005056812835:1-19065,
39e42c4d-876f-11ea-8229-286ed488e793:1-31,
5d7ef438-f249-11ea-a518-0894ef181fcf:1-6107,
8a426026-b5e7-11ea-8816-0050568399c4:1-62290,
f3d8b026-ba76-11ea-985d-000c29b82d1f:1-36379'
5.4 添加从库
change master to
master_host='192.168.100.2',
master_user='repl',
master_password='123456',
master_auto_Position=1 for channel 'ims_chongqing';
5.5 查看是否同步
# 在 100.1 上删除 tb1
use db01;
drop table tb1;
# 在 100.5 上查看是否同步:
use db01;
show tables;
+--------------------------------+
| Tables_in_db01 |
+--------------------------------+
| equitment_info |
| event_code_info |
| ims_monitor |
| oee_data |
| oee_process_re |
+--------------------------------+
表不见了,说明已经同步。
六、总结
GTID 对于单源复制还是很方便,但是对于多源复制,这里就需要特别注意:
- 要先停止所有的从库 stop slave;
- 然后清理本机所有的 GTID,reset master;
- 再进行 SET @@GLOBAL.GTID_PURGED='xxxxx' gtid 设置
这里就会引入一个问题,如果是级联复制的情况下,reset master 的时候,会把本机的所有 binlog 清理掉。如果下一级的从库存在延迟,没有及时的把 binlog 传过去,就会造成主从中断,这里我们该怎么避免呢?看这里:
- 做 reset master 的时候,先看看下游的从库是否存在很大的延迟。如果存在,把当前的 binlog 和后面未同步的 binlog 全部备份下;
- 待添加好从库的 channel 后,再把未同步的 binlog 文件手动拷贝到 binlog 目录;
- 更新下 mysql-bin.index 文件;
- 注意,binlog 不能同名,需要手动更新下文件。
相关推荐
- 0722-6.2.0-如何在RedHat7.2使用rpm安装CDH(无CM)
-
文档编写目的在前面的文档中,介绍了在有CM和无CM两种情况下使用rpm方式安装CDH5.10.0,本文档将介绍如何在无CM的情况下使用rpm方式安装CDH6.2.0,与之前安装C5进行对比。环境介绍:...
- ARM64 平台基于 openEuler + iSula 环境部署 Kubernetes
-
为什么要在arm64平台上部署Kubernetes,而且还是鲲鹏920的架构。说来话长。。。此处省略5000字。介绍下系统信息;o架构:鲲鹏920(Kunpeng920)oOS:ope...
- 生产环境starrocks 3.1存算一体集群部署
-
集群规划FE:节点主要负责元数据管理、客户端连接管理、查询计划和查询调度。>3节点。BE:节点负责数据存储和SQL执行。>3节点。CN:无存储功能能的BE。环境准备CPU检查JDK...
- 在CentOS上添加swap虚拟内存并设置优先级
-
现如今很多云服务器都会自己配置好虚拟内存,当然也有很多没有配置虚拟内存的,虚拟内存可以让我们的低配服务器使用更多的内存,可以减少很多硬件成本,比如我们运行很多服务的时候,内存常常会满,当配置了虚拟内存...
- 国产深度(deepin)操作系统优化指南
-
1.升级内核随着deepin版本的更新,会自动升级系统内核,但是我们依旧可以通过命令行手动升级内核,以获取更好的性能和更多的硬件支持。具体操作:-添加PPAs使用以下命令添加PPAs:```...
- postgresql-15.4 多节点主从(读写分离)
-
1、下载软件[root@TX-CN-PostgreSQL01-252software]#wgethttps://ftp.postgresql.org/pub/source/v15.4/postg...
- Docker 容器 Java 服务内存与 GC 优化实施方案
-
一、设置Docker容器内存限制(生产环境建议)1.查看宿主机可用内存bashfree-h#示例输出(假设宿主机剩余16GB可用内存)#Mem:64G...
- 虚拟内存设置、解决linux内存不够问题
-
虚拟内存设置(解决linux内存不够情况)背景介绍 Memory指机器物理内存,读写速度低于CPU一个量级,但是高于磁盘不止一个量级。所以,程序和数据如果在内存的话,会有非常快的读写速度。但是,内存...
- Elasticsearch性能调优(5):服务器配置选择
-
在选择elasticsearch服务器时,要尽可能地选择与当前业务量相匹配的服务器。如果服务器配置太低,则意味着需要更多的节点来满足需求,一个集群的节点太多时会增加集群管理的成本。如果服务器配置太高,...
- Es如何落地
-
一、配置准备节点类型CPU内存硬盘网络机器数操作系统data节点16C64G2000G本地SSD所有es同一可用区3(ecs)Centos7master节点2C8G200G云SSD所有es同一可用区...
- 针对Linux内存管理知识学习总结
-
现在的服务器大部分都是运行在Linux上面的,所以,作为一个程序员有必要简单地了解一下系统是如何运行的。对于内存部分需要知道:地址映射内存管理的方式缺页异常先来看一些基本的知识,在进程看来,内存分为内...
- MySQL进阶之性能优化
-
概述MySQL的性能优化,包括了服务器硬件优化、操作系统的优化、MySQL数据库配置优化、数据库表设计的优化、SQL语句优化等5个方面的优化。在进行优化之前,需要先掌握性能分析的思路和方法,找出问题,...
- Linux Cgroups(Control Groups)原理
-
LinuxCgroups(ControlGroups)是内核提供的资源分配、限制和监控机制,通过层级化进程分组实现资源的精细化控制。以下从核心原理、操作示例和版本演进三方面详细分析:一、核心原理与...
- linux 常用性能优化参数及理解
-
1.优化内核相关参数配置文件/etc/sysctl.conf配置方法直接将参数添加进文件每条一行.sysctl-a可以查看默认配置sysctl-p执行并检测是否有错误例如设置错了参数:[roo...
- 如何在 Linux 中使用 Sysctl 命令?
-
sysctl是一个用于配置和查询Linux内核参数的命令行工具。它通过与/proc/sys虚拟文件系统交互,允许用户在运行时动态修改内核参数。这些参数控制着系统的各种行为,包括网络设置、文件...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- linux 查询端口号 (58)
- docker映射容器目录到宿主机 (66)
- 杀端口 (60)
- yum更换阿里源 (62)
- internet explorer 增强的安全配置已启用 (65)
- linux自动挂载 (56)
- 禁用selinux (55)
- sysv-rc-conf (69)
- ubuntu防火墙状态查看 (64)
- windows server 2022激活密钥 (56)
- 无法与服务器建立安全连接是什么意思 (74)
- 443/80端口被占用怎么解决 (56)
- ping无法访问目标主机怎么解决 (58)
- fdatasync (59)
- 405 not allowed (56)
- 免备案虚拟主机zxhost (55)
- linux根据pid查看进程 (60)
- dhcp工具 (62)
- mysql 1045 (57)
- 宝塔远程工具 (56)
- ssh服务器拒绝了密码 请再试一次 (56)
- ubuntu卸载docker (56)
- linux查看nginx状态 (63)
- tomcat 乱码 (76)
- 2008r2激活序列号 (65)