【kettle001】访问国产达梦数据库并处理数据至execl文件

一直以来想写下基于kettle的系列文章,作为较火的数据ETL工具,也是日常项目开发中常用的一款工具,最近刚好挤时间梳理、总结下这块儿的知识体系。
熟悉、梳理、总结下达梦(DM)关系型数据库相关知识体系

1.环境准备

  • 搭建Linux(CentOS)虚拟机环境,以便能够快速完成实验所需环境。
  • 开发环境版本参数
    • CentOS 7.4 docker镜像服务器
    • DM Database Server 64 V8
    • Dbeaver
    • Kettle 8.2

在这里插入图片描述

  • docker版本太旧,yum update,配置镜像源,卸载旧版本重新安装解决问题。
    • 设置下载Docker的镜像源: yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
      在这里插入图片描述
      在这里插入图片描述

2.达梦数据库镜像下载、安装、运行

  • 2.1 达梦数据库Docker安装操作指南
  • 2.2 载入下载好的达梦数据库镜像,并运行容器
    docker load -i dm8_20220822_rev166351_x86_rh6_64_ctm.tar	# 载入镜像,替换为下载的文件名,不同下载名称可能不一致docker run -tid -p 15236:15236 --restart=always --name dm8_20 --privileged=true -e PAGE_SIZE=16 -e LD_LIBRARY_PATH=/opt/dmdbms/bin -e INSTANCE_NAME=dm8_01 -v /dm8_docker/data:/opt/dmdbms/data dm8_single:dm8_20230808_rev197096_x86_rh6_64docker logs -f dm8_20 	# 查看容器日志
    docker exec -it cab166f00a4f /bin/bash	# 进入容器登录数据库
    ps -ef|grep dmserverdocker stop  dm8_20		# 停止数据库命令
    docker start  dm8_20		# 启动数据库命令
    docker restart  dm8_20		# 重启数据库命令# 查看 Docker 镜像中数据库初始化的参数
    docker inspect dm8_20 
    
    • docker容器中登录正常,dbeaver连接异常,重新调整下端口映射(5236:5236),链接成功
    docker run -tid -p 5236:5236 --restart=always --name dm8_20 --privileged=true -e PAGE_SIZE=16 -e LD_LIBRARY_PATH=/opt/dmdbms/bin -e INSTANCE_NAME=dm8_01 -v /dm8_docker/data:/opt/dmdbms/data dm8_single:dm8_20230808_rev197096_x86_rh6_64# 其他命令
    # 查看防火状态
    systemctl status firewalld
    service  iptables status# 暂时关闭防火墙
    systemctl stop firewalld
    systemctl enable firewalld
    # 永久关闭防火墙
    systemctl disable firewalld# 重启防火墙
    service iptables restart# 开放端口
    sudo iptables -I INPUT -p tcp --dport 5236 -j ACCEPT
    sudo firewall-cmd --zone=public --add-port=5236/tcp --permanent# 重新加载防火墙规则
    sudo firewall-cmd --reload
    
    在这里插入图片描述
    在这里插入图片描述
  • 2.3 链接成功,创建测试表,并进行增、删、改、查操作
  • SQL建表及造数据语句
    create table employee
    (employee_id integer,employee_name varchar2(20) not null,hire_date date,salary integer,department_id integer not null
    );insert into employee VALUES (1, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (2, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (3, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (4, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (5, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (6, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (7, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (8, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (9, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (10, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (11, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (12, '王达梦','2008-05-30 00:00:00', 30000, 666);
    insert into employee VALUES (13, '王达梦','2008-05-30 00:00:00', 30000, 666);select * from employee;update employee set salary='35000' where employee_id=9999;
    
    在这里插入图片描述

3.kettle访问达梦数据库并处理数据至文件

  • 3.1 下载达梦数据库驱动包,官网下载地址:JAVA_Hibernate_lib.zip。驱动文件如下压缩包解压所示:
    • 注意驱动包版本跟JDK版本对应关系,本地安装jdk1.8,适配达梦数据库DmJdbcDriver18.jar
    在这里插入图片描述
    • 3.2 将驱动包 DmJdbcDriver18.jar 放入kettle中的lib目录中。如下图所示,重启、测试链接
    • 在这里插入图片描述
  • 3.3 kettle表输入链接成功,配置信息如下,链接效果如下图所示。
    jdbc:dm://192.168.10.183:5236/
    dm.jdbc.driver.DmDriver-- 镜像数据库默认用户名及密码
    SYSDBA / SYSDBA001
    
    在这里插入图片描述
  • 3.4 新建 表输入 、Execl输出 节点,测试后执行,并查看输出结果
    在这里插入图片描述

4.本次实验材料下载

  • 下载链接: 链接: https://pan.baidu.com/s/16loNVvvSw-032DeGPgOvsg?pwd=y6yu 提取码: y6yu
  • 材料详情如下图所示:
    在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/651390.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

iOS——NSCache

什么是NSCache NSCache是Foundation框架中的一个类,用于在iOS和macOS应用程序中进行临时性的内存缓存。它提供了一种轻量级的缓存机制,可以用于存储临时性的数据,例如图片、对象等。NSCache的主要特点和用法包括: 临时性缓存&…

谷歌搜索量在哪里查询?

如果您想查询的是谷歌搜索的流量数据,比如某个关键词的搜索频率或趋势,Google Trends 是一个很好的工具,它可以让您看到不同时间段内关键词的搜索流行度,也可以比较几个关键词的搜索量,您可以直接访问 Google Trends 网…

Oracle delete删除数据是否为逻辑删除、新插入数据占用的数据块位置实验

假设一:数据库delete删除为直接删除 假设二:数据库delete删除为逻辑删除,在数据块标记出来,但是实际并没有删除。 方式一:通过dump数据块的方式来实现 我们先用小数据量,通过dump数据块的方式来实现 -- 数…

单链表专题实验

答案&#xff1a; #define _CRT_SECURE_NO_WARNINGS 1 #include<stdio.h> #include<assert.h> #include<stdlib.h> typedef int SLTDataType; typedef struct SListNode {SLTDataType data;struct SListNode* next; }SLTNode; void PrintSLT(SLTNode* phead…

多输入多输出 | Matlab实现WOA-LSSVM鲸鱼算法优化最小二乘支持向量机多输入多输出预测

多输入多输出 | Matlab实现WOA-LSSVM鲸鱼算法优化最小二乘支持向量机多输入多输出预测 目录 多输入多输出 | Matlab实现WOA-LSSVM鲸鱼算法优化最小二乘支持向量机多输入多输出预测预测效果基本介绍程序设计往期精彩参考资料 预测效果 基本介绍 Matlab实现WOA-LSSVM鲸鱼算法优化…

【QT】ROS2 Humble联合使用QT教程

【QT】ROS2 Humble联合使用QT教程 文章目录 【QT】ROS2 Humble联合使用QT教程1. 安装ROSProjectManager插件2. 创建ROS项目3.一个快速体验的demoReference 环境的具体信息如下&#xff1a; ubunt 22.04ros2 humbleQt Creator 13.0.0ROS ProjectManager 13.0.0 本文建立在已经…

20.Nacos集群搭建

模拟Nacos三个节点&#xff0c;同一个ip,启动三个不同的端口&#xff1a; 节点 nacos1, 端口&#xff1a;8845 节点 nacos2, 端口&#xff1a;8846 节点 nacos3, 端口&#xff1a;8847 1.搭建数据库&#xff0c;初始化数据库表结构 这里我们以单点的数据库为例 首先新建一…

计算机网络—— book

文章目录 一、概述1.1互联网的核心部分1&#xff0e;电路交换的主要特点2&#xff0e;分组交换的主要特点 1.2.计算机网络的性能1&#xff0e;速率2&#xff0e;带宽3&#xff0e;吞吐量4&#xff0e;时延5&#xff0e;利用率 1.3.计算机网络体系结构协议与划分层次具有五层协议…

OpenHarmony语言基础类库【@ohos.util.LinkedList (线性容器LinkedList)】

LinkedList底层通过双向链表实现&#xff0c;双向链表的每个节点都包含对前一个元素和后一个元素的引用。当需要查询元素时&#xff0c;可以从头遍历&#xff0c;也可以从尾部遍历&#xff0c;插入、删除效率高&#xff0c;查询效率低。LinkedList允许元素为null。 LinkedList…

模拟信号的离散化

本文介绍模拟信号的离散化。 1.采样定理 定义&#xff1a;若想重建输入的模拟信号&#xff0c;采样频率必须大于等于输入模拟信号最高频率的2倍&#xff0c;即&#xff1a; 其中&#xff0c;为采样频率&#xff0c;为输入模拟信号最高频率 否则&#xff0c;信号会发生混叠 2…

基于JSP+Mysql+HTml+Css鲜花水果购物商城系统设计与实现

博主介绍&#xff1a;黄菊华老师《Vue.js入门与商城开发实战》《微信小程序商城开发》图书作者&#xff0c;CSDN博客专家&#xff0c;在线教育专家&#xff0c;CSDN钻石讲师&#xff1b;专注大学生毕业设计教育和辅导。 所有项目都配有从入门到精通的基础知识视频课程&#xff…

selenium入门篇(环境搭建、八大定位)

背景 Web自动化测现状 1. 属于 E2E 测试 2. 过去通过点点点 3. 好的测试&#xff0c;还需要记录、调试网页的细节 一、selenium环境搭建 一键搭建 pip3 install webdriver-helper 安装后自动的完成&#xff1a; 1. 查看浏览器的版本号 2. 查询操作系统的类型 …