HDFS
一.HDFS概述
1.HDFS的产生背景和定义
(1)HDFS产生背景
随着数据量越来越大,在一个操作系统存不下所有的数据,那么就分配到 更多的操作系统管理的磁盘中,但是不方便管理和维护,迫切需要一种系 统来管理多台机器上的文件,这就是分布式管理系统.HDFS只是分布式文 件管理系统中的一种
(2)HDFS定义
HDFS是一个文件系统,用于存储文件,通过目录树来定位文件;其次,他是 分布式的,有很多服务器联合起来实现其功能,集群中的服务器有各自的 角色
HDFS的使用场景:适合一次写入,多次读出的场景.一个文件经过创建,写 入和关闭之后就不需要改变
2.优缺点
优点:
(1)高容错性
A.数据自动保存多个副本.它通过增加副本的形式,提高容错性
B.某一个人副本丢失以后,它可以自动恢复
(2)适合处理大数据
A.数据规模:能够处理数据规模达到GB,TB,甚至PB级别的数据
B.文件规模:能够处理百万规模以上的文件数量,数量相当之大
(3)可构建在廉价的机器上,通过多副本机制,提高可靠性
缺点:
(1)不适合低延时数据访问,比如毫秒级的存储数据,是做不到的
(2)无法高效的对大量小文件进行存储
A.存储大量小文件,他会占用namenode大量的内存来存储文件目录和块 信息.这样是不可取的,因为namenode的内存总是有限的
B.小文件存储的寻址时间会超过读取时间,他违反了HDFS的设计目标
(3)不支持并发写入,文件随机修改
A.一个文件只能有一个写,不允许多个线程同时写
B.仅支持数据append(追加),不支持文件的随机修改
3.组成
(1)namenode(nn):就是master,他是一个主管,管理者
A.管理HDFS的名称空间
B.配置副本策略
C.管理数据块(block)映射信息
D.处理客户端读写请求
(2)datanode:就是slave.namenode下达命令,datanode执行实际的操作
A.存储实际的数据块
B.执行数据块的读写操作
(3)Client:就是客户端
A.文件切分.文件上传HDFS的时候,Client将文件切分成一个一个的 block,然后进行上传
B.与namenode交互,获取文件的位置信息
C.与datanode交互,读取或者写入数据
D.client提供一些命令来管理HDFS,比如namenode格式化
E.client可以通过一些命令来访问HDFS,比如对HDFS增删查改操作
(4)Secondarynamenode:并非namdenode的热备.当namenode挂掉的时候,它并 不能马上替换namenode并提供服务
A.辅助namenode,分担其工作量,比如定期合并fsimage和edits,并推给 namenode
B.在紧急情况下,可辅助恢复namenode
4.文件块大小(面试重点)
HDFS中的文件在物理上是分块存储(block),块的大小可以通过配置参数 (dfs.blocksize)来规定,默认大小在hadoop2.x/3.x版本中是128m,1.x版本中是 64m
(1)集群中的block:block1,block2...
(2)如果寻址时间约为10ms,及查找到目标block的时间为10ms
(3)寻址时间为传输时间的1%时,则为最佳状态.因此传输时间=10ms/0.01=1s
(4)目前磁盘的传输速率普遍为100ms
思考:为什么块的大小不能设置太小,也不能设置太大
(1)HDFS的块设置太小,会增加寻址时间,程序一直在找块的开始位置
(2)如果块设置太大,从磁盘传输数据的时间会明显大于定位这个块开始位置 所需时间.导致程序在处理这块数据时,会非常慢
总结:HDFS块的大小主要取决于磁盘传输速率
二.HDFS的shell操作(开发重点)
1.基本语法
hadoop fs -具体命令
hdfs dfs -具体命令
2.命令大全
3.常见命令实操
3.1.准备工作
(1)启动hadoop集群
(2)-help:输入这个命令参数
(3)准备/sanguo文件夹
3.2.上传
(1)-moveFromLocal:从本地剪切粘贴到HDFS
(2)-copyFromLocal:从本地文件系统中拷贝文件到HDFS路径
(3)-put:等同于copyFromLocal,生产环境更习惯用put
(4)-appendToFile:追加一个文件到已经存在的文件末尾
3.3.下载
(1)-copyToLacol:从HDFS拷贝到本地
(2)-get:等同于copyToLoacl,生产环境习惯用get
3.4.HDFS直接操作
(1)-ls:显示目录信息
(2)-cat:显示文件内容
(3)-chgrp,-chmod,-chown:linux文件系统中的用法一样,修改文件所属权限
(4)-mkdir:创建路径
(5)-cp:从HDFS的一个路径拷贝到HDFS的另一个路径
(6)-mv:在HDFS目录中移动文件
(7)-tail:显示一个文件的末尾1kb的数据
(8)-rm:删除文件或文件夹
(9)-rm -r:递归删除目录及目录里的内容
(10)-du:统计文件夹的大小信息
(11)-setrep:设置HDFS中文件的副本数量
三.HDFS的api操作
1.客户端环境准备
(1)将windows所需的依赖放到非中文路径中(E:\software\hadoop-3.1.1)
(2)配置HADOOP_HOME环境变量
(3)在IDEA中创建一个maven工程,导入依赖坐标+日志添加
2.HDFS的api操作实例
封装相同的步骤
2.1.HDFS文件上传(测试参数优先级)
(1)文件的上传
(2)将hdfs-site.xml拷贝到项目的resources资源目录下
(3)参数优先级
参数优先级排序:A.客户端代码中设置的值>B.ClassPath下的用户自 定义配置文件>C.服务器的自定义配置(xxx.site.xml)>D.服务器 的默认 配置(xxx-default.xml)
2.2.HDFS文件下载
2.3.HDFS文件更名和移动
2.4.HDFS删除文件和目录
2.5.HDFS文件详情查看
2.6.HDFS文件和文件夹判断
四.HDFS的读写操作(面试重点)
1.HDFS写数据流程
1.1.剖析文件写入
1.2.网络拓扑-节点距离计算
在HDFS写数据的过程中,namenode会选择距离待上传数据最近距离的 datanode接收数据.那么这个最近的距离怎么计算呢?
节点距离:两个节点到达最近的共同祖先的距离总和
例如,假设有数据中心d1机架r1中的节点n1.该节点可以表示为 /d1/r1/n1.利用这种标记,这里给出了四种距离描述
1.3.机架感知(副本存储节点选择)
(1)机架感知说明
A.官方
B.源码
Ctrl+n查找blockplacementpolicydefault,在该类中查找 choosetargetinorder方法
(2)副本节点选择
2.HDFS读数据流程
读数据的时候选择哪个节点考虑两个因素:(1)距离最近(2)负载均衡
五.namenode和secondarynamenode
1.NN和2NN工作机制
思考:namenode中的元数据是存储在哪里的?
首先,我们做个假设,如果存储在namenode节点的磁盘中,因为经常需要进行 随机访问,还有响应客户请求,必然是效率过低.因此,元数据需要存放在内存 中.但如果只存在内存中,一旦断电,元数据丢失,整个集群就无法工作了.因此 产生在磁盘中备份元数据的fsimage
这样又会带来新的问题,当在内存中的元数据更新时,如果同时更新fsimage, 就会导致效率过低,但如果不更新,就会发生一致性问题,一旦namenode节点 断电,就会产生数据丢失.因此.引入edits文件(只进行追加操作,效率很高).每 当元数据有更新或者添加元数据时,修改内存中的元数据并追加到edits中. 这 样,一旦namenode节点断电,可以通过fsimage和edits的合并,合成元数据
(1)第一阶段:namenode启动
A.第一次启动nn格式化后,创建fsimage和edits文件.如果不是第一次 启动,直接加载编辑日志和镜像文件到内存
B.客户端对元数据进行增删改的请求
C.nn记录操作日志,更新滚动日志
D.nn在内存中对元数据进行增删改
(2)第二阶段:2nn工作
A.2nn询问nn是否需要checkpoint.直接带回nn是否检查结果
B.2nn请求执行checkpoint
C.nn滚动正在写的edits日志
D.将滚动前的编辑日志和镜像文件拷贝到2nn
E.2nn加载编辑日志和镜像文件到内存,并合并
F.生成新的镜像文件fsimage.chkpoint
G.拷贝fsimage.chkpoint到nn
H.nn将fsimage.chkpoint重新命名成fsimage
2.fsimage和edits解析
2.1.概念
nn被格式化之后,将在
目录中产生如下文件
(1)fsimage文件:HDFS文件系统元数据的一个永久性的检查点,其中包含 HDFS文件系统的所有目录和文件inode的序列化信息
(2)edits文件:存放HDFS文件系统的所有更新操作的路径,文件系统客户 端执行的所有写操作首先会被记录到edits中
(3)seen_txid文件保存的是一个数字,就是最后一个edits_的数字
2.2.操作
(1)oiv查看fsimage文件
A.查看oiv和oev命令
B.基本语法
hdfs oiv -p 文件类型 -i 镜像文件 -o 转换后文件输出路径
C.案例实操
(2)oev查看edits日志
A.基本语法
hdfs ove -p 文件类型 -i 编辑日志 -o 转换后文件输出路径
B.案例实操
3.checkpoint时间设置
(1)通常情况下,2nn每隔一小时执行一次
(2)一分钟检查一次操作次数,当操作次数达到1百万时,2nn执行一次
六.Datanode
1.dn工作机制
(1)一个数据块在dn上以文件的形式存储在磁盘上,包括两个文件,一个是数 据本身,一个是元数据包括数据块的长度,快数据的校验和,以及时间戳
(2)dn启动后向nn注册,通过后周期性(6小时)的向nn上报所有的块信息
dn向nn汇报当前解读信息的时间间隔,默认为6小时
Dn扫描自己节点块信息列表的时间,默认6小时
(3心跳是每3秒一次,心跳返回结果带有nn给该dn的命令如复制块数据到另 一台机器,或删除每个数据块.如超过十分钟没有收到某个dn的心跳,则认为 该节点不可用
(4)集群运行中可以安全加入和退出一些机器
2.数据完整性
思考:如果电脑磁盘里面存储的数据是控制高铁信号灯的红灯信号(1)和绿灯 信号(0),但是存储该数据的磁盘坏了,一直显示是绿灯,是否很危险?同理节点 上的数据损坏了,却没有发现,是否也很危险,那么如何解决
如下是datanode节点保证数据完整性的方法:
A.当dn读取block的时候,他会计算checksum
B.如果计算后的clecksum,与block创建时值不一样,说明block已经损 坏
C.client读取其他dn上的block
D.常见的校验算法crc(32),md5(128),sha1(160)
E.dn在其文件创建后周期验证clecksum
3.掉线时限参数设置
需要注意的是hdfs-site.xml配置文件中的heartbeat.recheck.interval的 单位为 毫秒,dfs.hearbeat.interval的单位为秒
