数据传输工具
产品概述
云树®DTS是爱可生自主研发的数据传输(Data Transmission)工具,提供数据复制、数据清洗、数据汇聚、数据消费等多功能的数据流服务。
云树®DTS通过对MySQL二进制日志进行解析、过滤、合并、压缩、并行回放等技术,能够实现高效的数据实时传输能力。
云树®DTS通过数据传输可实现不停服数据迁移、数据异地灾备、跨境数据同步、实时数据仓库、查询报表分流、缓存更新异步消息通知等多种业务应用场景,助您构建高安全、可扩展、高可用的数据架构。
架构示意
数据传输 监听MySQL增量数据,对增量数据进行数据传输 云树®DTS可监听MySQL的增量数据,形成持续 传输的数据通路 对MySQL数据进行全量+增量的数据传输 云树®DTS只需配置一个任务,便可将MySQL 的全量数据以及传输期间产生的增量数据完整 地进行数据传输 数据压缩 数据传输过程中,提供数据压缩和限流功能 云树®DTS可适应跨数据中心的窄带宽网络, 通过压缩数据降低流量使用,并可只占用限 定的网络带宽 数据变换 数据传输过程中,提供数据变换功能 云树®DTS可对数据的库名/表名/列名/列值 进行一定规则的变化,适用于源端和目标端 数据结构不同的场景 | 并行回放 数据回放过程中,可进行并行回放 云树®DTS可通过并行回放,加速数据入库的速度,进一步降低源端和目标端的数据差异 数据回放过程中,可适配多种消费端 云树®DTS可将数据传输到消息中间件(Kafka),可适配多种数据消费端 可配置多到多的数据传输通路 只需部署一套DTS,即可适应一到一(数据复制)、一到多(多个数据消费端)、多到一(数据汇聚)、多到多(复杂场景)等不同的场景 完备的任务控制 云树®DTS可随时查看任务状态,可随时添加/暂停/继续/取消传输任务 HTTP API接口 云树®DTS提供完备的HTTP API接口,方便接入外围系统,完成更大的场景故事 数据过滤 数据传输过程中,提供数据过滤功能 云树®DTS可根据库名/表名/列名/列值等规 则进行数据过滤,仅对符合条件的数据进行 数据传输 |
灾备复制
实现本地数据中心MySQL数据库高效复制及异地数据中心MySQL数据库容灾转移,从而确保在主数据中心故障或灾难时,备用数据中心数据的最大完整性。该服务通过对MySQL二进制日志进行解析、过滤、合并、压缩、并行回放等技术,准实时的在主备MySQL数据库之间进行数据同步复制,以最低成本确保主库数据中心准实时复制到备库数据中心。
数据汇聚
企业用户为了实现数据的统一分析,多个分中心数据汇总等功能,需要将多个数据源汇聚到一个目标数据库;DTS能充分满足此类用户需求,并提供比MySQL5.7多源复制更多的灵活和便利性;帮助用户实现数据的归档合并,汇聚分析等应用场景。
数据清洗
云树®DTS可对数据的库名/表名/列名/列值进行一定规则的过滤和变化,将不需要的字段数据过滤,仅对符合条件的数据进行传输,同时对其做变化以适用于源端和目标端数据结构不同的场景。
数据订阅
云树®DTS可将数据传输到消息中间件(Kafka),向第三方服务提供数据订阅功能。实时数据订阅功能旨在帮助用户获取实时增量数据,用户能根据自身业务需求自由消费增量数据,实现例如缓存更新策略、业务异步解耦、异构数据源数据实时同步及含复杂ETL过程的数据实时同步等多种业务场景。
安全稳定企业级数据处理技术整体解决方案