{{ item.name }}
{{ item.name }}

{{ it.name }}

{{ it.text }}

{{ it.name }}

{{ innerIt.name }}

{{ innerIt.text }}

{{news.time}}
{{news.title}}
MySQL binlog 分析工具 analysis_binlog 的使用介绍
2022-04-07发布 3,064浏览

一、概述

作为一个 MySQL DBA,查看分析 binlog 是日常工作的一部分。不知道你是否遇到过这样的需求:查询一个时间段内各个表的 dml 统计情况。但,如果 binlog 文件很多呢?又或者负责的业务线比较多,有多个业务都有这种需求呢?

其实需求很简单,只是操作起来有点头疼?所以,本文就针对这类需求做了一个测试。

如果你在工作中也有类似的烦恼,或者经常需要批量解析 binlog,这篇文章或许对你有帮助。

二、环境准备

1、centos1

(1)安装MySQL

analysis_binlog

2、centos2

(1)安装sysbench

analysis_binlog

提示:省略安装 sysbench 的步骤。centos 6 的 yum 可以参照如下操作配置。

备份源文件:
mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo-backup 

编辑文件:vi /etc/yum.repos.d/CentOS-Base.repo

[base]
name=CentOS-6
failovermethod=priority
#baseurl=https://vault.centos.org/6.9/os/x86_64/
baseurl=http://mirrors.sohu.com/centos/6.10/os/x86_64/
gpgcheck=0

清理软件源,重新建立源数据缓存

yum clean all && yum makecache


(2)准备测试脚本

analysis_binlog

3、centos3

analysis_binlog

analysis_binlog 是 git 开源项目,可实现高效分析 binlog,现有功能如下:

  • 统计各个表的 dml 次数,表的最后修改时间。

  • 业务表的 binlog to sql。

  • 多个 binlog 文件可并行解析。

analysis_binlog

常用参数介绍

analysis_binlog

(2)准备 MySQL

不需要安装 MySQL,但是分析工具依赖 mysqlbinlog 工具,所以需要用同版本的 MySQL 安装包。

三、测试

1、准备数据

利用测试脚本准备五张表,并分别 insert 1w 行的数据。请先创建测试库。

analysis_binlog

2、flush binlog

为了测试结果更加直观,建议先 flush MySQL 的 binlog。

analysis_binlog

3、MySQL 压测

利用 sysbench 并发十个线程开始压测。

select 操作时不会记录 binlog,为了结果更加直观,本次使用的 lua 脚本只有写操作。【oltp_update_non_index.lua】 压测时间为 60s,压测结果如下:2860 个 dml,即 2860 个事务。

4、解析 binlog

(1)拷贝 binlog 文件

将需要解析的 binlog 拷贝到分析服务器【centos1 centos3】。本次测试只需要分析【3306-binlog.000011】一个文件。

(2)解析 binlog- 统计 dml

统计各个表的 dml 情况。结果如下:统计到总共有 2860 个 update,2860 个事务。

(3)解析 binlog-binlog2sql

针对各个表可以实现 binlog2sql。

(4)解析 binlog- 并行

并行解析多个文件

四、总结

本文主要介绍了通过 analysis_binlog 工具解决开篇提出的需求,希望对你有帮助。

analysis_binlog 工具还有很多可选的参数,有兴趣的读者可以通过【--help】查看帮助手册。

analysis_binlog 工具利用内存换取时间,加上可以并行分析多个文件,所以能做到高效解析 binlog,但是这可能也是缺点。不建议在生产环境服务器使用,否则容易将内存打满。

使用 analysis_binlog 工具过程中有任何问题都可以在 git 上给我留言或者也欢迎广大读者提 Issues。


上一篇
MySQL 行锁超时排查方法优化
400-820-6580 13916131869
marketing@actionsky.com
上海市闵行区万源路2138号泓茂中心2号楼
产品详情
关系型数据库
AI数据库
数据库智能管理平台
数据库生态产品
行业案例
金融行业
新零售行业
制造业
通信行业
更多
公司动态
最新新闻
国产化信息
技术分享
关于我们
公司简介
公司分布
国家专利
资质认证
扫码关注公众号
© Copyright 2017, All rights reserved by: 上海爱可生信息技术股份有限公司 沪ICP备12003970号-1 | 法律声明 | 网站地图
沪公网安备 31010402003331号