首页 > 其他 > 详细

大数据时代下的数据同步

时间:2019-11-02 15:55:44      阅读:82      评论:0      收藏:0      [点我收藏+]

大数据时代下的数据同步

1)、基于数据库日志(比如mysql的binlog)的同步

我们都知道很多数据库都支持了主从自动同步,尤其是mysql,可以支持多主多从的模式。那么我们是不是可以利用这种思想呢,答案当然是肯定的,mysql的主从同步的过程是这样的。

?  A、master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,binary log events,可以通过show binlog events进行查看);

?  B、slave将master的binary log events拷贝到它的中继日志(relay log);

?  C、slave重做中继日志中的事件,将改变反映它自己的数据。

技术分享图片

阿里巴巴开源的canal就完美的使用这种方式,canal 伪装了一个Slave 去和Master进行同步

技术分享图片

A、 canal模拟mysql slave的交互协议,伪装自己为mysql slave,向mysql master发送dump协议

 

B、 mysql master收到dump请求,开始推送binary log给slave(也就是canal)

C、 canal解析binary log对象(原始为byte流)

另外canal 在设计时,特别设计了 client-server 模式,交互协议使用 protobuf 3.0 , client 端可采用不同语言实现不同的消费逻辑。

另外canal 1.1.1版本之后, 默认支持将canal server接收到的binlog数据直接投递到MQ

 

大数据时代下的数据同步

原文:https://www.cnblogs.com/hnxxcxg/p/11782388.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!