阿里巴巴mysql数据库binlog的增量订阅&消费组件 。阿里云DRDS( https://www.aliyun.com/product/drds )、阿里巴巴TDDL 二级索引、小表复制powerd by canal.
Clone or download
Permalink
Failed to load latest commit information.
client-adapter 增加扁平Message用于卡夫卡数据投递 Sep 14, 2018
client-launcher 整理代码 Sep 14, 2018
client Merge branch 'master' into master Sep 18, 2018
common [maven-release-plugin] prepare for next development iteration Aug 20, 2018
dbsync 将当前的gtid,sequence no 和last committed信息增加至Entry(trx begin/end, rowdata… Sep 14, 2018
deployer Merge branch 'master' into master Sep 18, 2018
docker fixed docker run Aug 20, 2018
driver fixed issue #483 , show slave hosts Sep 4, 2018
example example 增加获取当前gtid相关信息示例 Sep 14, 2018
filter [maven-release-plugin] prepare for next development iteration Aug 20, 2018
images Update response time image. Aug 19, 2018
instance [maven-release-plugin] prepare for next development iteration Aug 20, 2018
meta [maven-release-plugin] prepare for next development iteration Aug 20, 2018
parse support filterTransactionEntry Sep 20, 2018
prometheus Canal metrics group mode support. Sep 15, 2018
protocol support filterTransactionEntry Sep 20, 2018
server support filterTransactionEntry Sep 20, 2018
sink support filterTransactionEntry Sep 20, 2018
store 单词拼写修正 Sep 19, 2018
.gitignore rds binlog 下载支持 Aug 8, 2018
LICENSE.txt init Sep 23, 2014
README.md rds binlog 下载支持 Aug 8, 2018
RELEASE.txt init Sep 23, 2014
codeformat.xml fixed code template and format Apr 28, 2015
codetemplates.xml fixed code template and format Apr 28, 2015
pom.xml Fix upgrade protobuf version Sep 7, 2018

README.md

最新更新

  1. canal QQ讨论群已经建立,群号:161559791 ,欢迎加入进行技术讨论。
  2. canal消费端项目开源: Otter(分布式数据库同步系统),地址:https://github.com/alibaba/otter
  3. Canal已在阿里云推出商业化版本 数据传输服务DTS, 开通即用,免去部署维护的昂贵使用成本。DTS针对阿里云RDS、DRDS等产品进行了适配,解决了Binlog日志回收,主备切换、VPC网络切换等场景下的订阅高可用问题。同时,针对RDS进行了针对性的性能优化。出于稳定性、性能及成本的考虑,强烈推荐阿里云用户使用DTS产品。DTS产品使用文档
  4. DTS支持阿里云RDS&DRDS的Binlog日志实时订阅,现推出首月免费体验,限时限量,立即体验>>>

背景

早期,阿里巴巴B2B公司因为存在杭州和美国双机房部署,存在跨机房同步的业务需求。不过早期的数据库同步业务,主要是基于trigger的方式获取增量变更,不过从2010年开始,阿里系公司开始逐步的尝试基于数据库的日志解析,获取增量变更进行同步,由此衍生出了增量订阅&消费的业务,从此开启了一段新纪元。

ps. 目前内部版本已经支持mysql和oracle部分版本的日志解析,当前的canal开源版本支持5.7及以下的版本(阿里内部mysql 5.7.13, 5.6.10, mysql 5.5.18和5.1.40/48)

基于日志增量订阅&消费支持的业务:

  1. 数据库镜像
  2. 数据库实时备份
  3. 多级索引 (卖家和买家各自分库索引)
  4. search build
  5. 业务cache刷新
  6. 价格变化等重要业务消息

项目介绍

名称:canal [kə'næl]

译意: 水道/管道/沟渠

语言: 纯java开发

定位: 基于数据库增量日志解析,提供增量数据订阅&消费,目前主要支持了mysql

关键词: mysql binlog parser / real-time / queue&topic

工作原理

mysql主备复制实现


从上层来看,复制分成三步:

  1. master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,binary log events,可以通过show binlog events进行查看);
  2. slave将master的binary log events拷贝到它的中继日志(relay log);
  3. slave重做中继日志中的事件,将改变反映它自己的数据。

canal的工作原理:

原理相对比较简单:

  1. canal模拟mysql slave的交互协议,伪装自己为mysql slave,向mysql master发送dump协议
  2. mysql master收到dump请求,开始推送binary log给slave(也就是canal)
  3. canal解析binary log对象(原始为byte流)

相关文档

See the wiki page for : wiki文档

wiki文档列表

相关资料

相关开源

  1. 阿里巴巴分布式数据库同步系统(解决中美异地机房):http://github.com/alibaba/otter
  2. 阿里巴巴去Oracle数据迁移同步工具(目标支持MySQL/DRDS):http://github.com/alibaba/yugong

相关产品

  1. 阿里云分布式数据库DRDS
  2. 阿里云数据传输服务DTS
  3. 阿里云数据库备份服务DBS
  4. 阿里云数据管理服务DMS

问题反馈

  1. qq交流群: 161559791
  2. 邮件交流: jianghang115@gmail.com
  3. 新浪微博: agapple0002
  4. 报告issue:issues
【招聘】阿里巴巴中间件团队招聘JAVA高级工程师
岗位主要为技术型内容(非业务部门),阿里中间件整个体系对于未来想在技术上有所沉淀的同学还是非常有帮助的
工作地点:杭州、北京均可. ps. 阿里待遇向来都是不错的,有意者可以QQ、微博私聊. 
具体招聘内容:https://job.alibaba.com/zhaopin/position_detail.htm?positionId=32666