An open API service indexing awesome lists of open source software.

https://github.com/alibaba/yugong

阿里巴巴去Oracle数据迁移同步工具(全量+增量,目标支持MySQL/DRDS)
https://github.com/alibaba/yugong

Last synced: 10 months ago
JSON representation

阿里巴巴去Oracle数据迁移同步工具(全量+增量,目标支持MySQL/DRDS)

Awesome Lists containing this project

README

          

## 背景

2008年,阿里巴巴开始尝试使用 MySQL 支撑其业务,开发了围绕 MySQL 相关的中间件和工具,Cobar/TDDL(目前为阿里云DRDS产品),解决了单机 Oracle 无法满足的扩展性问题,当时也掀起一股去IOE项目的浪潮,愚公这项目因此而诞生,其要解决的目标就是帮助用户完成从 Oracle 数据迁移到 MySQL 上,完成去 IOE 的重要一步工作。

## 项目介绍

名称:   yugong

译意:   愚公移山

语言:   纯java开发

定位:   数据库迁移 (目前主要支持oracle / mysql / DRDS)

## 项目介绍

整个数据迁移过程,分为两部分:

1. 全量迁移
2. 增量迁移

![](https://camo.githubusercontent.com/9a9cc09c5a7598239da20433857be61c54481b9c/687474703a2f2f646c322e69746579652e636f6d2f75706c6f61642f6174746163686d656e742f303131352f343531312f31306334666134632d626634342d333165352d623531312d6231393736643164373636392e706e67)

过程描述:

1. 增量数据收集 (创建oracle表的增量物化视图)
2. 进行全量复制
3. 进行增量复制 (可并行进行数据校验)
4. 原库停写,切到新库

## 架构

![](http://dl2.iteye.com/upload/attachment/0115/5473/8532d838-d4b2-371b-af9f-829d4127b1b8.png){width="584"
height="206"}

说明: 

1. 一个Jvm Container对应多个instance,每个instance对应于一张表的迁移任务
2.  instance分为三部分
a.  extractor  (从源数据库上提取数据,可分为全量/增量实现)
b.  translator  (将源库上的数据按照目标库的需求进行自定义转化)
c.  applier  (将数据更新到目标库,可分为全量/增量/对比的实现)

## 方案设计

[DevDesign](https://github.com/alibaba/yugong/wiki/DevDesign)

## 快速开始

[QuickStart](https://github.com/alibaba/yugong/wiki/QuickStart)

## 运维管理

[AdminGuide](https://github.com/alibaba/yugong/wiki/AdminGuide)

## 性能报告

[Performance](https://github.com/alibaba/yugong/wiki/Performance)

## 相关资料

1. yugong简单介绍ppt: [ppt](https://github.com/alibaba/yugong/blob/master/docs/yugong_Intro.ppt?raw=true)
2. [分布式关系型数据库服务DRDS](https://www.aliyun.com/product/drds)
(前身为阿里巴巴公司的Cobar/TDDL的演进版本, 基本原理为MySQL分库分表)

## 沟通与交流

1. 详见 wiki home 页