实评实测 | ETL 行业也够卷,云化 ETL,ETL 软件不过了

news/2025/1/26 14:43:30/文章来源:https://www.cnblogs.com/tapdata/p/18690531

文章来源于:AustinDatabases,作者:liuaustin3

在数据管理中,“提取(Extract)、转换(Transform)、加载(Load)”是高效数据集成解决方案的支柱。正确的 ETL 工具可以将来自多个数据源的大量不同数据转化为滋养企业自主洞察分析能力的土壤。作为以低延迟数据移动为特色的实时数据集成工具,TapData 提供了 Cloud 以及 On-Prem 两种部署方式。本篇内容由 AustinDatabase 提供,内容围绕 TapData Cloud 的实测展开,希望能为大家提供更多角度的参考。

最近忙,更新率低了,今天说说其中的一个原因,最近和业内的 ETL 方面的更新的技术在进行学习,之前一些 ETL 的观念在这次的学习中,也彻底被更新了,这是整个的学习过程进行一个记录,每天都是新知识,每天都是崭新的。

在 ETL 数据传输和数据处理中,我们习惯使用的方法多是 Kettle,otter,canal,ogg 这样的数据迁移 ETL 软件。可时代变迁了,再用这些软件在很多场合已经不合时宜了。尤其是短平快的需求下,我实在是没有精力时间去研究这些东西,还要进行数据库对应的配置,而最近赶时髦,用上了云迁移的 ETL 软件,TapData Cloud,非常神奇的软件,如果要我用一句话来概括,彻底让我了解到现在的 ETL 是什么样子,或者该是什么样子,和之前的那些傻大笨粗已经毫无关系。

废话不说,马上进行测试。打开 https://tapdata.net/ 网站,点击 cloud 。

通过这个软件我两分钟内我就配置好了一个从 PolarDB 到 PolarDB 的数据流复制。

大家见上图数据已经开始进行了同步,非常的便捷,这里我简单的介绍一下,TapData 云 ETL,这个免费的工具可以干点什么。
1 云免费 ETL 可以进行各种开源数据库到国产数据库的同步,你知道的国产数据库基本都在支持列表
2 使用者根本不关心配置,因为都是自动的,我可以专心的搞我的数据库,复制的监控和过程都由 TapData 云来负责。
3 核心的数据不会经过 TapData 而是你自建的主机,让使用者完全不用担心数据的安全性的问题。

有了这个功能,基本上数据迁移的过程上步骤
1 云注册账号
2 开通免费的服务
3 安装好 agent
4 配置好本地和远程的连接
5 工作完毕

这个服务可以把数据从 MySQL , PostgreSQL ,Sql Server, Oracle 往国产数据库搬运,这里需要说明如果是企业性质可以开通收费的服务,他将提供更多的功能,服务等。

这里有官方的付费方式

这里我小声说一句,如果实在是不想花钱,还想要高性能,自己可以用自己的服务器利用 TapData 管理数据传输,比如我现在就是这么干的,我需要从 PolarDB 传输数据到另一个 PolarDB,数据量不大,TapData 可以直接将服务的 agent 自动安装在我的笔记本上,然后我就开始远程将一个 PolarDB 的数据,传输到另一个 PolarDB 上。在默认的情况下,简单的数据传输迁移,TapData 是不收费的。

操作界面异常的简单,源目的地,选择连接到你的数据库上,本地、远程、云均可,TapData 对于数据库的 ETL 是“不挑食的”。

关于大部分人可能担心自己安装 Agent 到服务器上的难度,这里可以看此页面,非常简单,支持 LINUX、WINDOWS、Docker、云上部署服务器等方式。同时你自己还可以通过云来监控你自己的 ETL 服务器,可以通过手动来启动自己的服务器的上的 ETL 服务,这里我简单的画一个图。

在建立好 Agent 后,我们就可以建立源库和目的库的链接测试了,在测试通过后,就直接可以进行数据库的传输了。

由于过程太简单,我就不叙述了,如同打开冰箱门,把大象塞进去,然后再关上门那么简单,如果我再详细叙述,是对看文章的人的不尊重。

工作到这里,我突然意识到一个问题,在之前各种本地安装,调试,各种问题的 ETL 的软件的生命历史中,他们意识到现在的 ETL 软件已经可以云化了吗,作为一个对新产品不拒绝,不挑食的 IT 工作者,我觉得我在 ETL 探索更先进了,这 ETL 使用的方式太简单了,这里我先看官方文档中详细的一些产品的介绍,看完介绍,在将一些疑问总结起来在和 ETL 方面的专家进行快速学习。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/874926.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

《CPython Internals》阅读笔记:p353-p355

《CPython Internals》学习第 18天,p353-p355 总结,总计 3 页。 一、技术总结 1.benchmark(基准测试) Python中常用的 benchmark 有 timeit, pyperformance。 (1)timeit $ ./python -m timeit -c "x=1; x+=1; x**x" 1000000 loops, best of 5: 258 nsec per loop …

解决qt 父级样式传递子控件导致QOpenGLWidget::paintGL绘制不生效(无效),被父级背景反复填充

当父级(当前控件的所有父级任意一个)设置background后,设置background下的子控件都会传递这个qss属性,导致OpenGL的paintGL绘制不生效 在代码中手动设置子控件任意颜色即可:ui->widget->setPalette(ui->widget->palette());手动调用一下setPalette后,paintGL绘制…

PKUWC 2025 CCFWC 2025 游记

跑步波特麦瑟姆,向你致意。省流:喜提四等奖 + 铁牌。 1.13 抵达绍兴! 酒店环境非常好,我算是棒球伪球迷,看见房间挂画是棒球还是比较激动的。 可惜没办法打棒球。去跑步了。 1.14 - PKUWC Day 1 上午报到 + 开幕式。 哇,呆呆鸟!帅帅帅!三个 HEZ 也太酷了吧! 哇,思路打…

【跟着阿舜学音乐-笔记】2.3架子鼓常用节奏型

2.3架子鼓常用节奏型 底鼓,一般音乐平稳进行时,强拍上都要有底鼓作为支撑,而次强拍上的使用则较为多样。 (关于加花时的切分节奏:底鼓不从强拍出现,并且出现于节拍切分处。切分节奏对织体影响较大,运用需节制)军鼓,其中频与底鼓的低频产生呼应形成主框架,一般在平稳进…

石头剪刀布

石头剪刀布题目 对于一个包含字符 \(\{R,P,S\}\) 的字符串 \(s\),满足每相邻两个字符都不同且 \(s_1=s_n=R\)。 你可以做两种操作:找出第一个 \(RS\) 或 \(SR\) 将其替换为 \(R\)。 找出第一个 \(SP\) 或 \(PS\) 将其替换为 \(S\)。 若无法进行任意一个操作则结束,否则继续执…

新春“码”启 | 0 基础开发微信小游戏,Cocos 游戏引擎 + AI 辅助编程(第1天)

春节期间,老牛同学计划借助 AI 开启一场挑战自我和为小朋友开发微信小游戏的系列计划,0 基础开始了第1天的体验。目标是采用 Cocos 游戏引擎框架,借助 AI 辅助编程,最终完成微信小游戏研发。目前已对相关概念有了初步了解,后续将持续探索……好羡慕小朋友们,已经放了快两…