{{ item.name }}
{{ item.name }}

{{ it.name }}

{{ it.text }}

{{ it.name }}

{{ innerIt.name }}

{{ innerIt.text }}

{{news.time}}
{{news.title}}
分布式ddl 失败在 dble 中排查过程
2020-06-02发布 1,144浏览

思考一个问题:

当我们用 dble 执行一个 ddl hang 住时,我们该如何下手,如何找到这条 ddl hang 住的原因?是我们自己的操作导致还是踩中了 dble 的 bug ?

下面我们从一个简单的场景着手来分析这个问题:

场景:对 shanging_4_t1 这张表执行 alter,结果 hang 住了

分布式ddl 失败在 dble 中排查过程-爱可生



分析第一步:查看 dble 日志看是否有报错?


结果找到这个告警,报错信息跟我们观察到的现象是一致的。

分析第二步:查看这个日志的上下文,找出这个阶段 dble 都做了什么,问题可能出现在哪个阶段?

如果日志信息比较多,我们可以简单删选一下。

命令:less dble.log|grep DDL

分布式ddl 失败在 dble 中排查过程-爱可生


从上面的信息我们大概可以看出,这个语句要发往 4 个分片,且这条 ddl 在 dble 执行中包括 2 个步骤。

  • 步骤一:测试连接可用性

  • 步骤二:真正下发 ddl

日志中可以很明显的看出,步骤一验证连接都成功完成了,但其中一个节点执行语句的状态一直处于 start。

分布式ddl 失败在 dble 中排查过程-爱可生


根据提示出问题的 connection 为 23,可以定位到问题所在的 dataNode:dn2。

分布式ddl 失败在 dble 中排查过程-爱可生


同时可以找到在对应节点上的 mysql 的线程号:29。

分布式ddl 失败在 dble 中排查过程-爱可生



分析步骤三:连接日志中提示的出问题的 mysql 节点上,执行 show @@processlist

分布式ddl 失败在 dble 中排查过程-爱可生


可以看出该节点上的 ddl 在等待一把锁。

分析到这一步,我们大概已经知道该 ddl 执行 hang 住的原因了,是因为其中一个节点上该语句的在等待锁的释放,无法成功返回结果。

总结

当在 dble 上遇到 ddl 执行失败的时候,我们的排查步骤大致为:

1. 观察 dble 日志,查找是否有相关的报错或告警。

2. 查找报错或告警的上下文,简单的理解 dble 的处理机制,找到该问题出现的环节。

3. 根据日志提示进一步到对应节点上查找原因。

上一篇
有关数据库的数据处理之Prometheus 数据采集
400-820-6580 13916131869
marketing@actionsky.com
上海市闵行区万源路2138号泓茂中心2号楼
产品详情
关系型数据库
AI数据库
数据库智能管理平台
数据库生态产品
行业案例
金融行业
新零售行业
制造业
通信行业
更多
公司动态
最新新闻
国产化信息
技术分享
关于我们
公司简介
公司分布
国家专利
资质认证
扫码关注公众号
© Copyright 2017, All rights reserved by: 上海爱可生信息技术股份有限公司 沪ICP备12003970号-1 | 法律声明 | 网站地图
沪公网安备 31010402003331号