技术分享 | MySQL 多源复制场景分析 - 技术分享 - 新闻资讯 - 爱可生

技术分享 | MySQL 多源复制场景分析

发布时间:2020-11-30 浏览次数:539

关键词:电力大数据分布式数据库关系型数据库

今天有客户问起:如何汇总多 MySQL 数据到一台上? 

我回答:可以尝试下 MySQL 的多源复制。

我们知道 MySQL 单主一从,单主多从,或者级联的主从架构我们都见的很多了。但是多主一从这种使用场景比较少,比如图 1:


这种架构一般用在以下三类场景

1. 备份多台 Server 的数据到一台

如果按照数据切分方向来讲,那就是垂直切分。比如图 2,业务 A、B、C、D 是之前拆分好的业务,现在需要把这些拆分好的业务汇总起来备份,那这种需求也很适用于多源复制架构。

实现方法我大概描述下:业务 A、B、C、D 分别位于 4 台 Server,每台 Server 分别有一个数据库来隔离前端的业务数据,那这样,在从库就能把四台业务的数据全部汇总起来,而不需要做额外的操作。那没有多源复制之前,要实现这类需求,只能在汇总机器上搭建多个 MySQL 实例,那这样势必会涉及到跨库关联的问题,不但性能急剧下降,管理多个实例也没有单台来的容易。


2. 用来聚合前端多个 Server 的分片数据。

同样,按照数据切分方向来讲,属于水平切分。比如图 3,按照年份拆分好的数据,要做一个汇总数据展现,那这种架构也非常合适。

实现方法稍微复杂些:比如所有 Server 共享同一数据库和表,一般为了开发极端透明,前端配置有分库分表的中间件,比如爱可生的 DBLE。


3. 汇总并合并多个 Server 的数据

第三类和第一种场景类似。不一样的是不仅仅是数据需要汇总到目标端,还得合并这些数据,这就比第一种来的相对复杂些。比如图 4,那这样的需求,是不是也适合多源复制呢?答案是 YES。

那具体怎么做呢?

我举个例子,比如下面一张表 A,字段分表为 ID(主键)、F1、F2、F3... 、F100。那按照这样的分法,前端 4 Server 的表分别

  • A1(ID,F1,F2,...,F25)

  • A2(ID,F26,F27,...,F50)

  • A3(ID,F51,F52,...,F75)

  • A4(ID,F76,F77,...,F100)





那上面几张表的数据如果要合并到表 A,可以建立一个 Event,定时的来给表 A 里插入数据。涉及到的核心 SQL 为:

insert ignore into A select A1.ID,F1,F2,...,F100 \from A1 natural join A2 natural join A3 natural join A4;

那我们发现这个和第一个类似,只不过,所有的表最后到复制到了相同的数据库里。

总结下,我上面简单说明了 MySQL 多源复制的三种常用使用场景,希望对大家有所帮助。


关键词:电力大数据分布式数据库关系型数据库

相关推荐

产品试用 产品试用
400-820-6580 免费电话