详解MySQL BinLog日志及Spring Boot如何监听BinLog?
nanshan 2025-03-06 17:50 11 浏览 0 评论
BinLog是MySQL中比较重要的一种日志形式,通过记录数据的数据库的所有变化操作,例如常见的数据的增、删、改操作,不仅可以用来实现数据的恢复操作和主从复制操作,还可以用来完成数据实时同步的操作。
随着微服务架构和数据实时分析操作的兴起,越来越多的系统都是基于MySQL数据来实现数据持久化操作,那么这样的话我们就可以通过MySQL的BinLog实现数据同步、数据监控等功能,下面我们就来深入的讨论一下MySQL BinLog 日志的工作原理以及如何在Spring Boot中监听和处理这些日志。
什么是 MySQL BinLog
BinLog(Binary Log)是MySQL数据库中用来记录数据库变化的日志文件。在MySQL中无论执行了任何修改数据库状态的操作都会被记录到BinLog中,例如INSERT、UPDATE、DELETE等,都会在BinLog中留下记录。BinLog记录中包括了如下的一些内容。
- 事件的类型(例如:INSERT、UPDATE、DELETE 等)。
- 事件触发的表。
- 被修改的数据。
基于这些内容,我们可以用BinLog来实现数据恢复、主从同步、数据同步等操作,我们可以在MySQL配置文件my.cnf中配置如下配置项来启动MySQL的BinLog日志记录操作。
[mysqld]
log-bin = /path/to/mysql-bin
binlog-format = ROW # 使用 row 格式
server-id = 1 # 每个 MySQL 实例必须有唯一的 server-id
然后重启MySQL服务器,BinLog就会开始记录了。
如何监听MySQL BinLog
MySQL BinLog 日志的监听通常需要专门的工具或者是框架来实现,比较常用的框架包括Debezium、Canal、Maxwell 等工具,通过这些工具我们可以实时的读取MySQL的BinLog日志并且将其转换成数据的操作事件。
在Spring Boot中监听BinLog日志,可以通过Debezium或Canal工具来实现。这里我们以Debezium为例,详细介绍如何在Spring Boot中实现监听BinLog。
Debezium是一个开源的分布式平台,能够实时捕获数据库变更(CDC)。它支持了对MySQL、PostgreSQL、MongoDB等多种数据库的数据变更操作的捕获。而对于MySQL数据库来讲,Debezium就是利用了MySQL的BinLog日志来获取数据变更操作。
我们可以通过Docker容器快速搭建Debezium的环境,如下所示。
docker run -d --name debezium-mysql \
-e MYSQL_ROOT_PASSWORD=root \
-e MYSQL_DATABASE=testdb \
-p 3306:3306 \
mysql:8
接下来,我们就需要启动Debezium的MySQL Connector它会连接到MySQL数据库,并通过 BinLog捕获数据库的变更,然后通过Kafka Connect服务来处理数据流。如下所示。
在Kafka Connect配置文件中,我们可以添加Debezium MySQL Connector的连接配置信息,如下所示。
{
"name": "mysql-connector",
"config": {
"connector.class": "io.debezium.connector.mysql.MySqlConnector",
"tasks.max": "1",
"database.hostname": "mysql_host",
"database.port": "3306",
"database.user": "root",
"database.password": "root",
"database.server.id": "223344",
"database.server.name": "mysql_server",
"database.include.list": "testdb",
"database.history.kafka.bootstrap.servers": "kafka:9092",
"database.history.kafka.topic": "dbhistory.fullfillment"
}
}
Spring Boot集成Debezium
接下来,我们可以通过Spring Kafka来监听Kafka消息队列中的BinLog数据,如下所示需要添加Kafka相关的配置依赖。
org.springframework.kafka
spring-kafka
然后在配置文件中添加Kafka的消费者信息。
spring:
kafka:
consumer:
bootstrap-servers: localhost:9092
group-id: my-group
key-deserializer: org.apache.kafka.common.serialization.StringDeserializer
value-deserializer: org.apache.kafka.common.serialization.StringDeserializer
接下来就是通过Kafka消息监听者来监听BinLog的处理事件,如下所示。
@Component
public class BinLogListener {
@KafkaListener(topics = "mysql_server.testdb", groupId = "my-group")
public void onMessage(ConsumerRecord record) {
System.out.println("Received BinLog event: " + record.value());
}
}
在上面的例子中,通过mysql_server.testdb指定了Kafka的对接主题,当MySQL数据中的testdb数据库发生了变化的时候,那么Debezium就会将对应的变化事件发送到Kafka的对应主题上,然后就可以通过Spring Boot来监听并处理相关的数据变更事件。
总结
作为MySQL中记录数据变化的重要文件之一,BinLog在数据恢复、主从复制以及数据同步中扮演着重要角色,随着实时数据处理需求的增加,通过监听BinLog来实现数据同步变得越来越重要。在实际开发过程中,我们可以根据实际业务需求来选择合适的技术手段来实现实时数据处理和同步。
相关推荐
- 小白初学linux之无法修改系统分辨率
-
/*此文是做为自己的一个总结还有就是最好也可以给大家提供一些帮助。*/时间:2020年7月14日11:28:41我安装的是Ubuntu20.04LTS,昨天处理的是,grub的引导问题,因为是...
- Ubuntu 如何启动、停止或重启服务
-
在本文中,我们向您介绍在Ubuntu中启动、停止和重启服务的方法。列出Ubuntu中的所有服务在开始之前,先获取计算机上所有服务的列表,因为我们需要知道服务名称来管理服务。service--...
- Win11学院:如何在Windows 11上使用WSL安装Ubuntu
-
IT之家2月18日消息,科技媒体pureinfotech昨日(2月17日)发布博文,介绍了3中简便的方法,让你轻松在Windows11系统中,使用WindowsSubs...
- Linux安装中文输入法-Google拼音输入法,搜狗输入法
-
主要步骤,选择适合自己的尝试:1)卸载之前没装好的搜狗输入法。@:~/Downloads$sudoapt-getremovefcitx*删除依赖库@:~/Downloads$sudoap...
- Ubuntu 22.04 请谨慎使用搜狗输入法,可能是你当机原因
-
在Ubunutu下没有什么有名的输入法,也就听说搜狗输入法有Linux版本,所以特意到官网去找了下载。在Ubuntu新版本里,他仍然用的是fcitx框架的输入引擎,而不是默认的ibus,所以要先把i...
- 前钢后胶!徐工XMR403VT小型压路机有点意思
-
【第一工程机械网原创】在越来越注重施工品质,对项目管理越来越精细化的今天,施工方在施工设备选择上,也越来越讲究设备的配套分工,因此小型压路机的应用场景也越来越多。徐工XMR403VT小型压路机高度集...
- 图大明白 | 404错误为什么是Not Found?为什么是404?
-
“404错误”大家都不陌生吧?常规来讲它长这样或者长这样艺术一点的长这样404NotFound意思就是所请求的页面不存在或者已被删除被称为“互联网最后一个界面”有很多同学发出疑问:为什么是404?...
- Nginx负载均衡安全配置说明2(nginx负载均衡部署)
-
上一节,我们对Nginx安全配置的几个知识点做了一个说明,例如限制IP访问、文件目录禁止访问限制、需要防止DOS攻击、请求方法的限制和限制文件上传的大小这个进行了一个分析说明,详细的文章请关注我的头条...
- 惊艳写真系列第403期,本期主人公—叶青
-
惊艳写真系列第403期,本期主人公—叶青制作不易,欢迎各位看官提供宝贵意见。如果您喜欢记得关注,么么哒。您的每一份点赞和关注都是对作者的最大认可(图片素材均来源于网络,如有侵权联系删除。)本篇是写惊艳...
- 先秦布币之尖足布、圆足布、方足布,今年圆足最高拍卖价16万一枚
-
在战国魏、韩地区诞生桥足平首布、锐角平首布之后,赵也诞生了尖足平首布,并且在尖足布的基础上,后来相继派生出了圆足布、三孔布,以及类圆足布和类方足布。一尖足布尖足布是从耸肩尖足空首布演变而来的,是黄河...
- 403 禁止访问错误的全面排查与解决方案
-
当遇到403Forbidden错误时,意味着服务器已接收并理解请求,但拒绝执行访问操作。以下从用户端、服务器端等多个维度,提供分步排查与解决方法。一、用户端基础排查1.检查URL准确性确认...
- 这才是2019年夏最高颜值的泳装(2019夏季泳装秀)
-
最近的天气是越来越热了,又到了暑期泳衣勇闯海滩的时刻了,打开ins,微博满满地都是各大博主晒的泳装照,明星们也纷纷跑到海边去度假了。虽然我们没有超模般地身材,但是到了海边我们也要成为人群中最亮眼的那颗...
- 朋友圈爆火!这组《衡中班主任的一天》漫画,感动了无数人!
-
很多人觉得做老师很轻松他们说有些老师一天一节课就下班了有双休,还有寒暑假,真让人羡慕呀······但事实真是这样吗?最近衡水中学的赵心扬同学画了一组漫画形象地还原了衡中班主任一天的生活那么衡中班主任一...
- 国家安全教育 | 一组漫画,带你走进国家安全!
-
当前,我国面临哪些安全威胁?下面带你来看一组漫画!①你要配合,注意保密。我绝不对别人讲。②这件事,千万别对别人讲。③咱单位的…喂!老k!你要当心,有风声了!④你的泄密行为已触犯了国家法律!①请你协助了...
- 400、403、404、405,访问网页时出现这些代码是什么意思?
-
今天小泽访问一个页面时,出现了403,很抱歉,您的访问请求被禁止的提示。相信经常用电脑访问网页的朋友都遇到过这种情况,有的网页提示错误代码403,有的提示404,那这些代码都代表了什么呢?有什么含义呢...
你 发表评论:
欢迎- 一周热门
-
-
如何在安装前及安装后修改黑群晖的Mac地址和Sn系列号
-
爱折腾的特斯拉车主必看!手把手教你TESLAMATE的备份和恢复
-
[常用工具] OpenCV_contrib库在windows下编译使用指南
-
Ubuntu系统Daphne + Nginx + supervisor部署Django项目
-
WindowsServer2022|配置NTP服务器的命令
-
WIN11 安装配置 linux 子系统 Ubuntu 图形界面 桌面系统
-
解决Linux终端中“-bash: nano: command not found”问题
-
极空间如何无损移机,新Z4 Pro又有哪些升级?极空间Z4 Pro深度体验
-
NBA 2K25虚拟内存不足/爆内存/内存占用100% 一文速解
-
Linux 中的文件描述符是什么?(linux 打开文件表 文件描述符)
-
- 最近发表
- 标签列表
-
- linux 查询端口号 (58)
- docker映射容器目录到宿主机 (66)
- 杀端口 (60)
- yum更换阿里源 (62)
- internet explorer 增强的安全配置已启用 (65)
- linux自动挂载 (56)
- 禁用selinux (55)
- sysv-rc-conf (69)
- ubuntu防火墙状态查看 (64)
- windows server 2022激活密钥 (56)
- 无法与服务器建立安全连接是什么意思 (74)
- 443/80端口被占用怎么解决 (56)
- ping无法访问目标主机怎么解决 (58)
- fdatasync (59)
- 405 not allowed (56)
- 免备案虚拟主机zxhost (55)
- linux根据pid查看进程 (60)
- dhcp工具 (62)
- mysql 1045 (57)
- 宝塔远程工具 (56)
- ssh服务器拒绝了密码 请再试一次 (56)
- ubuntu卸载docker (56)
- linux查看nginx状态 (63)
- tomcat 乱码 (76)
- 2008r2激活序列号 (65)