MySQL诊断:从库 Seconds_Behind_Master 延迟总结

发布时间:2020-05-06 浏览次数:125

作者:高鹏

文章末尾有他著作的《深入理解 MySQL 主从原理 32 讲》,深入透彻理解 MySQL 主从,GTID 相关技术知识。

本文节选自《深入理解 MySQL 主从原理》第 32 节

到这里本系列已经接近尾声了,是时候对常见引起主从延迟的情形进行一个总结了。我想如果我一开始就把这些情形拿出来也许大家对具体的原因不是那么清楚,但是经过本系列的学习,我相信当我说起这些情形的时候大家都很清楚它的原因了。当然如果还有其他造成延迟的情形也欢迎大家一起讨论。


一、总结

有了前面的知识我们就能够从本质上了解造成延迟的可能有哪些,我先来总结一下这些可能,我将其分为两类:

第一类:

这一类延迟情况可能造成服务器有较高的负载,可能是 CPU/IO 的负载。因为从库在实际执行 Event,如果我们服务器的负载比较高应该考虑这几种情况,关于如何查看线程的负载可以参考 29 节(线程简介和 MySQL 调试环境搭建)。

  • 大事务造成的延迟,其延迟不会从 0 开始增加,而是直接从主库执行了多久开始。比如主库执行这个事务花费的 20 秒,那么延迟就会从 20 开始,可以自己细心观察一下很容易看到。这是因为 Query Event 中没有准确的执行时间,这个在上一节的计算公式中详细描述过了 ,可以参考第 8 节和第 27 节。

  • 大表 DDL 造成的延迟,其延迟会从 0 开始增加,因为 Query Event 记录了准确的执行时间。这个在上一节的计算公式中也详细描述过了,可以参考第 8 节和第 27 节。

  • 表没有合理的使用主键或者唯一键造成的延迟。这种情况不要以为设置 slave_rows_search_algorithms 参数为 INDEX_SCAN,HASH_SCAN 就可以完全解决问题,原因我们在第 24 节(从库数据的查找和参数 slave_rows_search_algorithms)进行了描述。

  • 由于参数 sync_relay_log,sync_master_info,sync_relay_log_info 不合理导致,特别是 sync_relay_log 会极大的影响从库的性能。原因我们在第 26 节进行过描述,因为 sync_relay_log 设置为 1 会导致大量 relay log 刷盘操作。

  • 是否从库开启了记录 binary log 功能即 log_slave_updates 参数开启,如果不是必要可以关闭掉。这种情况我遇到很多次了。

第二类:

这一类延迟情况往往不会造成服务器有较高的负载。它们要么没有实际的执行 Event ,要么就是做了特殊的操作造成的。

  • 长期未提交的事务可能造成延迟瞬间增加,因为 GTID_EVENT 和 XID_EVENT 是提交时间其他 Event 是命令发起的时间。这个我们在第 27 节中举例描述过了。

  • Innodb 层的行锁造成的延迟,这种是在从库有修改操作并且和 SQL 线程修改的数据有冲突的情况下造成的,因为我们前面 23 节说过 SQL 线程执行 Event 也会开启事务和获取行锁,下面我们进行测试。

  • MySQL 层的 MDL LOCK 造成的延迟,这种情况可能是由于 SQL 线程执行某些 DDL 操作但是从库上做了锁表操作造成,原因我们已经在 23 节描述过了,下面我们进行测试。

  • MTS 中不合理的设置参数 slave_checkpoint_period 参数导致,这个在第 27 节已经测试过了。

  • 在从库运行期间手动改大了从库服务器时间,这个也在第 27 节已经测试过了。


二、相关测试

因为上面的延迟情形很多我们都已经测试和讲述过了。下面我们测试锁造成的延迟情形。

Innodb 层的行锁造成的延迟

这个很容测试,我只要先在从库做一个事务和 SQL 线程修改的数据相同即可以出现,大概测试如下:

从库:mysql> begin;Query OK, 0 rows affected (0.00 sec)mysql> delete from tmpk;Query OK, 4 rows affected (0.00 sec)不要提交主库执行同样的语句mysql> delete from tmpk;Query OK, 4 rows affected (0.30 sec)

这个时候你会观察到延迟如下:

MySQL诊断:从库 Seconds_Behind_Master 延迟总结-爱可生


如果查看 sys.innodb_lock_waits 能看到如下的结果:

MySQL诊断:从库 Seconds_Behind_Master 延迟总结-爱可生


当然如果查看 INNODB_TRX 也可以观察到事务的存在,这里就不截图了,大家可以自己试试。

MySQL 层的 MDL LOCK 造成的延迟

这种情况也非常容易测试,我们只需要开启一个事务做一个 select ,然后主库对同样的表做 DDL 就可以出现如下:

从库:mysql> begin;Query OK, 0 rows affected (0.00 sec)mysql>mysql>mysql> select * from tkkk limit 1;+------+------+------+| a    | b    | c    |+------+------+------+|    3 |    3 |  100 |+------+------+------+1 row in set (0.00 sec)不要提交,表上MDL LOCK就不会释放主库执行语句:mysql> alter table tmpk add testc int ;Query OK, 0 rows affected (1.14 sec)Records: 0  Duplicates: 0  Warnings: 0

这个时候你将会看到如下的信息:

MySQL诊断:从库 Seconds_Behind_Master 延迟总结-爱可生


我们可以通过 state 看到这是等待 MDL lock 获取而导致的延迟,关于 MDL lock 的详情可以参考我的文章:

http://blog.itpub.net/7728585/viewspace-2143093/


三、总结

通过整个系列,我们应该清楚了 Seconds_Behind_Master 计算的方法,同时如果出现了延迟,我们首先查看从库是否有负载,根据是否有负载进行区别对待,注意这里的负载一定要使用 top -H 查看 io/sql/worker 线程的负载。我曾不止一次的遇到朋友问我延迟问题,当我问他负载如何的时候他告诉我负载不高啊整体负载也就不到 2,这里我们应该注意的是对于一个线程只能使用到一个 CPU 核,虽然整体负载不到 2 但是可能 io/sql/worker 线程已经跑满了,实际上负载已经很高了,我们来看下面的这个截图就是 sql 线程负载高的截图如下:

MySQL诊断:从库 Seconds_Behind_Master 延迟总结-爱可生


这个截图我们发现虽然整体负载不高在 1 多一点,但是 Lwp 号 20092 的线程已经跑满了,这个线程就是我们的 sql 线程,这个时候出现延迟是很可能的,这个截图正是来自一个没有合理使用主键或者唯一键造成的延迟的案例。

我们查看 CPU 负载应该使用 top -H 去查看,查看 io 负载可以使用 iotop,iostat 等工具。我需要强调一下看 MySQL 负载的时候我们必须用线程的眼光去看,第 29 节将让你获得这种能力。

到这里整个系列接近尾声,大家会发现主从的原理的还是比较复杂的,这可能颠覆了以前我们的认知,以前我们认为主从无非就是搭建起来能跑同时知道有 io/sql 线程就可以了(这确实很简单)。整个系列结论很简单,我们无非就是想配置出安全高效的从库同时知道延迟是怎么导致的,出现延迟后我们如何处理,我自认为本系列还是将这些问题讲解得很清楚了。当然如果本系列的原理部分都能够理解得很好,那么工作中解决主从问题一定会更加得心应手。

上一篇: 使用Apache Zookeeper分布式部署PHP应用程序

下一篇: MySQL 8.0新特性:什么是原子DDL?

咨询客服 在线咨询
400-820-6580 免费电话