Hadoop(三)环境准备

news/2024/9/18 3:47:06/文章来源:https://www.cnblogs.com/shihongpin/p/18403936

环境准备

模板虚拟机准备

1、安装模板虚拟机

  • IP地址192.168.10.100、主机名称hadoop100、内存4G、硬盘50G
  • 下载安装VWare Workstation Pro 16,因为Win11与VMWare15不兼容,在15中打开虚拟机会蓝屏
  • Linux系统全部以CentOS-7.5-x86-1804为例

2、hadoop100 虚拟机配置

  • 测试虚拟机联网情况
[root@hadoop100 ~]# ping www.baidu.com
  • 安装epel-release(这一步暂时没有成功,但没有影响后续使用)
[root@hadoop100 ~]# yum install -y epel-release

3、关闭防火墙,关闭防火墙开机自启

[root@hadoop100 ~]# systemctl stop firewalld
[root@hadoop100 ~]# systemctl disable firewalld.service

4、创建用户并修改密码

[root@hadoop100 ~]# useradd user
[root@hadoop100 ~]# passwd 123

5、配置user用户具有root权限,方便后期加sudo执行root权限的命令

[root@hadoop100 ~]# vim /etc/sudoers
  • 修改/etc/sudoers文件,在%wheel这行下面添加一行
user ALL=(ALL) NOPASSWD:ALL

6、在/opt 目录下创建文件夹,并修改所属主和所属组

  • 在/opt目录下创建module、software文件夹
[root@hadoop100 ~]# mkdir /opt/module
[root@hadoop100 ~]# mkdir /opt/software
  • 修改module、software文件夹的所有者和所属组均为user用户
[root@hadoop100 ~]# chown user:user /opt/module 
[root@hadoop100 ~]# chown user:user /opt/software
  • 查看module、software文件夹的所有者和所属组
[root@hadoop100 ~]# cd /opt/
[root@hadoop100 opt]# ll

7、卸载虚拟机自带的JDK

[root@hadoop100 ~]# rpm -qa | grep -i java | xargs -n1 rpm -e --nodeps

8、重启虚拟机

[root@hadoop100 ~]# reboot

克隆虚拟机

1、利用模板机hadoop100,克隆三台虚拟机

  • 克隆hadoop102、hadoop103、hadoop104
  • 克隆时,要先关闭hadoop100

2、修改克隆机IP

  • 修改克隆机的静态IP,以hadoop102为例
[root@hadoop100 ~]# vim /etc/sysconfig/network-scripts/ifcfg-ens33

其中IPADDR的值改为192.168.10.102
3、修改克隆机主机名

[root@hadoop100 ~]# vim /etc/hostname
hadoop102

4、重启克隆机

安装JDK

1、用XShell传输工具将JDK导入到opt目录下面的software文件夹下面
2、解压JDK到/opt/module目录下

[user@hadoop102 software]$ tar -zxvf jdk-8u212-linux-x64.tar.gz -C /opt/module/

3、配置JDK环境变量

  • 新建/etc/profile.d/my_env.sh文件
[user@hadoop102 ~]$ sudo vim /etc/profile.d/my_env.sh
  • 添加内容
#JAVA_HOME
export JAVA_HOME=/opt/module/jdk1.8.0_212
export PATH=$PATH:$JAVA_HOME/bin
  • 保存退出,source一下/etc/profile文件,让新的环境变量PATH生效
[user@hadoop102 ~]$ source /etc/profile

4、测试JDK是否安装成功

[user@hadoop102 ~]$ java -version

安装Hadoop

1、用XShell文件传输工具将hadoop-3.1.3.tar.gz导入到opt目录下面的software文件夹下面
2、进入到Hadoop安装包路径下

[user@hadoop102 ~]$ cd /opt/software/

3、解压安装文件到/opt/module下面

[user@hadoop102 software]$ tar -zxvf hadoop-3.1.3.tar.gz -C /opt/module/

4、查看是否解压成功

[user@hadoop102 software]$ ls /opt/module/
hadoop-3.1.3

5、将Hadoop添加到环境变量

  • 获取Hadoop安装路径
[user@hadoop102 hadoop-3.1.3]$ pwd /opt/module/hadoop-3.1.3
  • 打开/etc/profile.d/my_env.sh 文件
[user@hadoop102 hadoop-3.1.3]$ sudo vim /etc/profile.d/my_env.sh
  • 添加如下内容
#HADOOP_HOME
export HADOOP_HOME=/opt/module/hadoop-3.1.3
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin
  • 保存退出,让文件生效
[user@hadoop102 hadoop-3.1.3]$ source /etc/profile

6、测试是否安装成功

[atguigu@hadoop102 hadoop-3.1.3]$ hadoop version

7、Hadoop重要目录

  • bin目录:存放对Hadoop相关服务(hdfs,yarn,mapred)进行操作的脚本
  • etc目录:Hadoop的配置文件目录,存放Hadoop的配置文件
  • lib目录:存放Hadoop的本地库(对数据进行压缩解压缩功能)
  • sbin目录:存放启动或停止Hadoop相关服务的脚本
  • share目录:存放Hadoop的依赖jar包、文档和官方案例

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/795495.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Adafactor Adaptive Learning Rates with Sublinear Memory Cost

目录概符号说明AdafactorFactored Second Moment EstimationNo MomentumOut-of-Date Second Moment Estimator算法代码Shazeer N. and Stern M. Adafactor: Adaptive learning rates with sublinear memory cost. ICML, 2018.概 本文介绍了一种 memory-efficient 的优化器: Ada…

Oracle 19c OCP 认证考试 082 题库(第19题)- 2024年修正版

【优技教育】Oracle 19c OCP 082题库(Q 19题)- 2024年修正版 考试科目:1Z0-082 考试题量:90 通过分数:60% 考试时间:150min 本文为(CUUG 原创)整理并解析,转发请注明出处,禁止抄袭及未经注明出处的转载。 原文地址:http://www.cuug.com.cn/ocp/082kaoshitiku/3822886061…

如何用 Helm 安装指定版本的 GitLab Runner?

本分分享如何使用 Helm 来在 Kubernetes 集群上安装极狐GitLab Runner。整体步骤分为:Helm 的安装、vaules.yaml 文件的配置、Runner 的安装、Runner 的测试。 极狐GitLab 为 GitLab 在中国的发行版,中文版本对中国用户更友好。极狐GitLab 支持一键私有化部署,可以在 ubuntu…

安装程序在安装此程序包时遇到了错误2503

原文链接:https://blog.csdn.net/sisi_new/article/details/139180294 安装程序在安装此程序包时遇到错误2503通常是由于安装权限不足造成的解决方案如下:1.修改TEMP文件夹的权限:进入“C:\Windows\Temp”路径,右键单击Temp文件夹选择“属性”,在“安全”选项卡中修改权限…

安全测试工具(1)- Burp Suite Pro的安装教程

啥是Burp Suite 用于攻击web 应用程序的集成平台 程序员必备技能,不仅可以拿来做渗透测试、漏洞挖掘还能帮助程序员调试程序 Bug 它包含了许多Burp工具,这些不同的burp工具通过协同工作,有效的分享信息,支持以某种工具中的信息为基础供另一种工具使用的方式发起攻击。这些工…

高等数学 1.6 极限存在准则 两个重要极限

目录第一个准则第一个重要极限第二个准则第二个重要极限柯西(Cauchy)极限存在准则 第一个准则 准则Ⅰ:如果数列 \(\{ x_n \}\) ,\(\{ y_n \}\) 及 \(\{ z_n \}\) 满足下列条件: (1)从某项起,即 \(\exists n_0 \in \mathbb{N}_+\) ,当 \(n > n_0\) 时,有 \[y_n \le…

socket套接字通信---win和linux互通(1)

一、Windows下的网络调试工具-NetAssist 下载页面 下载后无需安装,解压缩就是个exe的执行文件。双击打开就可使用 软件界面二、linux下的网络调试工具 nc(netcat) 1、当前系统 $ cat /proc/version Linux version 6.6.47-current-x86 (build@armbian) (gcc (Ubuntu 11.4.0-1u…

第一次编程作业

这个作业属于哪个课程 计科22级34班这个作业要求在哪里 个人项目这个作业的目标 1.设计一个查重算法。2. 了解并学习项目的PSP表格3. 学习如何运用github进行代码管理4. 学习使用性能分析工具,分析代码性能5. 学习如何进行单元测试我的github仓库链接:https://github.com/zfi…

mysql 拼接字段

select spot_position,req_line,CONCAT(spot_position,-,req_line) from pdm_qc_apply where req_qctype != 2;结果展示:

Origin2024中绘制多因子分组柱状图,直观展示不同组别内的数据变化!

当我们需要对比多组平行数据时,采用Origin多因子分组柱状图,不仅可以直接的对比多组数据,同时还能够直观展示各个指标因子的数据变化及趋势操作步骤: 1、先打开Origin2024软件,然后在Book1中输入如下示例数据: 2、第一步,绘制分组柱形图图表,选中所有数据:3、点击菜单…

floorplan-reconsturtion-based-plane-triangle

一个iter算25s, 每个epoch31个iter,480个epoch需要 2531480/3600/24 = 4.3(天)改用30个epoch,训练5个小时Loss曲线