Skip to content

xiaopengbilly/mybus

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

16 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

mybus

实现MySQL数据库到Redis,以及HBASE的全量,以及增量同步

  1. 支持通过正则表达式指定需要导出的db以及表
  2. bus程序无状态,每一行有自己的位置点,位置点信息存储在下游db中
  3. 增量同步通过解析MySQL的行复制日志,完成增量数据的同步
  4. 通过编写so,实现转换的业务逻辑
  5. 上下游ip,端口,需要导出的schema信息都存储在configservice中,configservice是一个用redis作为存储的基于django的pythonweb程序

程序作为基础组件,在新浪以及微博的数据运维中,其可靠性得到了充分验证

About

MySQL数据库同redis以及hbase高速全量,增量同步工具

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • C++ 92.9%
  • JavaScript 2.7%
  • C 2.2%
  • CSS 0.8%
  • HTML 0.7%
  • Python 0.6%
  • Other 0.1%