2

centos7.9安装DataX

 1 year ago
source link: https://blog.51cto.com/u_13753753/5765069
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

centos7.9安装DataX

精选 原创

雍州无名 2022-10-18 09:06:55 博主文章分类:ETL ©著作权

文章标签 数据存储 python mysql 文章分类 其它 系统/运维 阅读数135

DataX 是阿里云 DataWorks数据集成 的开源版本,在阿里巴巴集团内被广泛使用的离线数据同步工具/平台。DataX 实现了包括 MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、Hologres、DRDS 等各种异构数据源之间高效的数据同步功能。

DataX目前已经有了比较全面的插件体系,主流的RDBMS数据库、NOSQL、大数据计算系统都已经接入,目前支持数据如下图:

Reader(读)

Writer(写)

RDBMS 关系型数据库

MySQL

 ​读​​​ 、​ ​写​

Oracle    

 ​读​​​ 、​ ​写​

OceanBase  

 ​读​​​ 、​ ​写​

SQLServer

 ​读​​​ 、​ ​写​

PostgreSQL

 ​读​​​ 、​ ​写​

 ​读​​​ 、​ ​写​

Apache Doris

 ​写​

StarRocks

 ​写​

通用RDBMS(支持所有关系型数据库)

 ​读​​​ 、​ ​写​

阿里云数仓数据存储

 ​读​​​ 、​ ​写​

 ​写​

 ​读​​​ 、​ ​写​

 ​写​

NoSQL数据存储

 ​读​​​ 、​ ​写​

Hbase0.94

 ​读​​​ 、​ ​写​

Hbase1.1

 ​读​​​ 、​ ​写​

Phoenix4.x

 ​读​​​ 、​ ​写​

Phoenix5.x

 ​读​​​ 、​ ​写​

MongoDB

 ​读​​​ 、​ ​写​

 ​读​​​ 、​ ​写​

Cassandra

 ​读​​​ 、​ ​写​

无结构化数据存储

TxtFile

 ​读​​​ 、​ ​写​

 ​读​​​ 、​ ​写​

 ​读​​​ 、​ ​写​

Elasticsearch

 ​写​

时间序列数据库

OpenTSDB

 ​读​

 ​读​​​ 、​ ​写​

TDengine

 ​读​​​ 、​ ​写​

1.环境准备

JDK(1.8以上,推荐1.8)

Python(2或3都可以)            #centos7默认已经安装了Python2

2.下载DataX

下载地址:​ ​http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz​

centos7.9安装DataX_数据存储
tar -zxvf datax.tar.gz

验证是否安装成功

python /opt/datax/bin/datax.py /opt/datax/job/job.json

如果遇到报错可以参考次文章:​ ​https://blog.51cto.com/u_13753753/5761114​

官方地址: ​https://github.com/alibaba/DataX/blob/master/userGuid.md​

  • 收藏
  • 评论
  • 分享
  • 举报

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK