SeaTunnel数据同步(Oracle to mysql)

news/2025/2/8 14:52:20/文章来源:https://www.cnblogs.com/muzisanshi/p/18704290

因为datax2023年9月以后就没有更新,所以想找个新的切活跃的etl开源工具。

apache SeaTunnel是一个非常易用、超高性能的分布式数据集成平台,支持实时海量数据同步。 每天可稳定高效同步数百亿数据,已被近百家企业应用于生产。

直接安装体验:

export version="2.3.9"
wget "https://archive.apache.org/dist/seatunnel/${version}/apache-seatunnel-${version}-bin.tar.gz"
tar -xzvf "apache-seatunnel-${version}-bin.tar.gz"

安装插件:

sh bin/install-plugin.sh

 

lib目录放入需要的jdbc jar包:

 

mysql的emp表是提前创建好的.

create table emp (    empno int, ename varchar(10), job varchar(9), mgr int, hiredate datetime, sal int, comm int, deptno int, constraint pk_emp primary key (empno));

 

编辑config文件

env {parallelism = 4job.mode = "BATCH"
}
source{Jdbc {url = "jdbc:oracle:thin:@10.40.12.219:1521:sharedb"driver = "oracle.jdbc.OracleDriver"user = "system"password = "xxxx"query = "SELECT * FROM scott.emp"}
}transform {# If you would like to get more information about how to configure seatunnel                                                                                                              and see full list of transform plugins,# please go to https://seatunnel.apache.org/docs/transform-v2/sql
}sink {jdbc {url = "jdbc:mysql://10.40.13.75:3306/ceshi?useUnicode=true&characterEnc                                                                                                             oding=UTF-8&rewriteBatchedStatements=true"driver = "com.mysql.cj.jdbc.Driver"user = "root"password = "xxxx"# Automatically generate sql statements based on database table namesgenerate_sink_sql = truedatabase = ceshitable = emp}
}

 

开始执行:

./bin/seatunnel.sh --config oracle_to_mysql.config -m local

 

安装简单,配置简单;赞!!!

参考官方文档:https://seatunnel.apache.org/zh-CN/docs/2.3.9/about

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/880823.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

锚索测力计长期预应力 水电、铁路、公路、矿山、国防、建筑安全监测

锚索测力计长期预应力 水电、铁路、公路、矿山、国防、建筑安全监测精准稳定的振弦式传感器,GEO ACxxxx型振弦式锚索测力计,是长期监测预应力锚索压力的最佳选择。该传感器采用特制的应变计作为传感部件,无需温度修正,可提供准确可靠的测值。适用于预应力锚索的岩体或建筑物…

vs调试.net应用,一运行断点就无法命中,未加载任何符号

原因:没有加载pdb文件导致 解决:右键程序集 -> 属性 -> 生成 -> 常规 -> 调试符号 由"无"改为"PDB文件,可跨平台移植" 再次运行,断点正常命中

Java教程_002

final关键字 final 关键字是最终的意思,可以修饰(类、方法、变量) 修饰类:该类被称为最终类,特点是不能被继承了。 修饰方法:该方法被称为最终方法,特点是不能被重写了。 修饰变量:该变量只能被赋值一次。 final修饰的变量必须赋值,要么在定义时赋值,要么在构造器中赋…

Java教程_003

集合进阶 集合容器中只能存放对象,基本数据类型需要使用对应的包装类 Collection单列集合 collection集合体系 collection常用方法package com.itheima.d1_collection;import java.util.ArrayList; import java.util.Arrays; import java.util.Collection; import java.util.…

2020-2025 WebStorm安装+激活

一、下载 1. webstorm各版本官方下载入口 官网下载地址 2. 选择左边,然后点击【20xx.x.x-Windows(exe)】 PS: 如需下载特定版本,可以往下拉,都是选择【202x.x-Windows(exe)】下载二、安装 1. 点击运行 ps: 安全警告是部分电脑有,没有跳过就可以了~2. 点击下一步3. 选择安…

Nacos基于MySQL作为数据源实战案例

作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任。 目录一 Nacos支持MySQL作为数据源1.Nacos支持MySQL作为数据源的起始版本2.Nacos基于MySQL数据存储流程说明二.Nacos基于MySQL作为数据源实战案例1.部署MySQL服务2.创建授权用户3.导入Nacos的表结构4.修改Naco…

C++封装静态链接库和使用 -转自 CSDN 零碎记事

C++封装静态链接库和使用 转自 CSDN 零碎记事距离上次发博客已经有一年半了,转眼间我也是从做图像研究到了做游戏开发,说起来看看前面的博文,本来就有前兆的东西呢(笑)......因为主要还是在使用虚幻引擎,所以C++的东西会碰到多一些。以后程序技术方面的文章就放博客,游…

datagrip2024如何安装?附安装包和激活方式

前言 大家好,我是小徐啊。datagrip是Jetbrain推出的一款数据库连接工具。非常实用,功能十分强大。今天,小徐就来介绍下如何安装和激活。文末附获取方式。 如何安装和激活datagrip 首先,我们需要双击打开datagrip,点击下运行按钮。然后,我们需要点击下下一步按钮。然后,我…

【6】线段树学习笔记

前言 太菜了,现在才写线段树的学习笔记。 由于线段树学习历时较长(大约 \(1\) 年),码风可能会严重不协调。以后我的线段树码风以线段树讲解板块为准。 长文警告:本文一共 \(1465\) 行,请合理安排阅读时间。 线段树 线段树是一种基于分治思想的二叉树结构,用于统计区间信息…

Real-time Scalable Dense Surfel Mapping 论文阅读

英文题目 Real-time Scalable Dense Surfel Mapping中文名称 实时可扩展密集表面建图发表时间 2019年9月10日平台 ICRA 2019作者 Kaixuan Wang, Fei Gao and Shaojie Shen邮箱 {kwangap, fgaoaa, eeshaojie}@ust.hk来源 HKUST Aerial Robotics Group关键词 实时稠密建图paper &…

【7】Tarjan学习笔记

前言 WFLS 暑假集训 Day 5 Day 6 Day 8 Day 9 Tarjan 是个巨佬,快来膜拜他 orz。 长文警告:本文一共 \(1092\) 行,请合理安排阅读时间。 强连通分量 强连通分量针对有向图,本篇目内图指有向图。 定义 强连通:如果一个图中任意两点可以相互到达,那么称这个图为强连通的。 …