Redhat8.3上部署Lustre文件系统

Lustre文件系统

Lustre架构是用于集群的存储架构。Lustre架构的核心组件是Lustre文件系统,它在Linux操作系统上得到支持,并提供了一个符合POSIX *标准的UNIX文件系统接口。

Lustre存储架构用于许多不同类型的集群。它以支持世界上许多最大的拥有数万个客户端系统、pb (PiB)存储和每秒数百GB (GB/sec)的I/O吞吐量的高性能计算(HPC)集群而闻名,许多HPC站点使用Lustre文件系统作为站点范围的全局文件系统,为几十个集群提供服务。

Lustre文件系统能够根据任何需要扩展容量和性能,从而减少了部署许多独立文件系统的需要,例如为每个计算集群部署一个文件系统。通过避免在计算集群之间复制数据,简化了存储管理。除了聚合许多服务器的存储容量外,I/O吞吐量还可以通过额外的服务器进行聚合和扩展。此外,通过动态添加服务器,可以很容易地增加吞吐量和/或容量。

虽然Lustre文件系统可以在许多工作环境中运行,但它不一定是所有应用程序的最佳选择。它最适合于超过单个服务器所能提供的容量的使用,尽管在某些用例中,Lustre文件系统在单个服务器上比其他文件系统执行得更好,因为它具有强锁和数据一致性。

一个Lustre文件系统目前不是特别适合于“点对点”的使用模型,其中客户端和服务器运行在同一个节点上,每个共享少量的存储,因为Lustre软件级别缺乏数据复制。在这种情况下,如果一个客户机/服务器出现故障,那么存储在该节点上的数据将无法访问,直到该节点重新启动。

相关依赖安装

  • 1.zlib-devel,libffi-devel
  • 2.python-dev
  • 3.dkms

可直接yum下载,或者apt-get,如果是内网环境可以使用源码编译安装。环境配置脚本:

#!/bin/bash
cd /home/dkms
make install
yum install zlib-devel,libffi-devel
mkdir /usr/local/python38
cd /home/Python3.8.18
./configure --prefix=/usr/local/python38
make && make install
cd /usr/bin
mv python3 python3.bak
ln -s /usr/local/python38/bin/python3.8 /usr/bin/python3
python3 -V

lustre文档

https://www.lustre.org/documentation/

lustreRPM包下载

下载地址:https://downloads.whamcloud.com/public/lustre/
选择对应的版本下载(我用的8.3,选择2.14版本):
在这里插入图片描述
在这里插入图片描述
客户端服务端分别下载:
在这里插入图片描述

在这里插入图片描述
服务端需要的e2fsprogs包:
下载地址:https://downloads.whamcloud.com/public/e2fsprogs/latest/el8/RPMS/x86_64/

在这里插入图片描述

lustre安装脚本

自己修改下载的三个包的路径。

#!/bin/bash
cd /home/e2fsprogs
rpm -ivh * --nodeps --forcecd /home/lustre-2.14/client
rpm -ivh * --nodeps --forcecd /home/lustre-2.14/server
rpm -ivh * --nodeps --force

查看内核

uname -a

在这里插入图片描述

加载lustre

modprobe lustre
modprobe ldiskfs
lsmod | grep lustre

在这里插入图片描述

查看lustre版本

modinfo lustre

在这里插入图片描述
正常显示即为安装成功。

挂载lustre

可以添加新的磁盘进行分区挂载,也可以创建一个临时文件,用作虚拟磁盘设备。然后使用-o loop分配一个loop设备将文件作为块设备进行挂载。

dd if=/dev/zero of=/home/mgs bs=100M count=1
dd if=/dev/zero of=/home/mdt bs=100M count=1
dd if=/dev/zero of=/home/ost0 bs=100M count=1
dd if=/dev/zero of=/home/ost1 bs=100M count=1mkfs.lustre --fsname=vlustre --reformat --mgs --mgsnode=192.168.120.101@tcp --device-size=4000000 /home/mgs
mount -o loop -t lustre /home/mgs /mnt/loopmgs
mkfs.lustre --fsname=vlustre --reformat --mdt --index=0 --mgsnode=192.168.120.101@tcp --device-size=4000000 /home/mdt
mount -o loop -t lustre /home/mdt /mnt/loopmdt
mkfs.lustre --fsname=vlustre --reformat --ost --index=0 --mgsnode=192.168.120.101@tcp --device-size=8000000 /home/ost0
mount -o loop -t lustre /home/ost0 /mnt/loopost0
mkfs.lustre --fsname=vlustre --reformat --ost --index=1 --mgsnode=192.168.120.101@tcp --device-size=8000000 /home/ost1
mount -o loop -t lustre /home/ost1 /mnt/loopost1mount -t lustre 192.168.120.101@tcp:/vlustre /mnt/vlustre

mgs

在这里插入图片描述

mdt

在这里插入图片描述

ost0

在这里插入图片描述

ost1

在这里插入图片描述

查看挂载结果

在这里插入图片描述

感受lustre条带策略

一个条带:
在这里插入图片描述
设置条带数量为2:
在这里插入图片描述
对比:

在这里插入图片描述
在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/178850.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ubuntu22.04下hadoop3.3.6+hbase2.5.6+phoenix5.1.3开发环境搭建

一、涉及软件包资源清单 1、java 这里使用的是openjdk 2、hadoop-3.3.6.tar.gz 3、hbase-2.5.6-hadoop3-bin.tar.gz 4、phoenix-hbase-2.5-5.13-bin.tar.gz 5、apache-zookeeper-3.8.3-bin.tar.gz 6、openssl-3.0.12.tar.gz 二、安装 1、操作系统环境准备 换源 sudo vim /et…

uniapp基础学习笔记01

文章目录 本博客根据黑马教程学习uniapp一、技术架构二、创建项目2.1 Hbuilder创建2.2 插件安装2.3 微信开发者工具配置与运行2.3.1 简单修改基础页面 2.4 pages.json和tabBar2.4.1 pages.json与tabBar配置2.4.2 案例 三、uniapp与原生开发的区别 本博客根据黑马教程学习uniapp…

推出链上美债产品的 ProsperEx:RWA 衍生品赛道的早期玩家

美债是目前 RWA 市场中进展较快的领域之一,目前该市场的规模(TVL)已经达到了 $770 M,并且美债 RWA 市场目前正在以每月大约 10% 的增长速度扩大规模。 图源:app.rwa.xyz/treasuries 在该领域,固定收益类美债…

继承、多态

复习 需求: 编写一个抽象类:职员Employee,其中定义showSalary(int s)抽象方法;编写Employee的子类,分别是销售员Sales和经理Manager,分别在子类中实现对父类抽象方法的重写,并编写测试类Test查看输出结果 package cn.…

VulnHub Prime_Series_Level-1

一、信息收集 1.nmap扫描 ┌──(root💀kali)-[~/桌面] └─# arp-scan -l┌──(root💀kali)-[~/桌面] └─# nmap -sS -A -p- 192.168.103.202发现开放了22和80端口 2.web页面 打开80端口的web页面,是一张静态的图片,没什么价…

Mybatis-Plus条件构造器QueryWrapper

Mybatis-Plus条件构造器QueryWrapper 1、条件构造器关系介绍 介绍 : 上图绿色框为抽象类 蓝色框为正常类,可创建对象 黄色箭头指向为父子类关系,箭头指向为父类 wapper介绍 : Wrapper : 条件构造抽象类&#xff0…

ctfshow 文件上传 151-161

文件上传也好久没做了。。 手很生了 151 前端绕过 只能上传png文件 使用bp抓包,修改文件名后缀为php 上传成功,发现文件上传路径 使用蚁剑连接 找到flag 152 152 后端校验 跟上一关一样 表示后面即使执行错误,也不报错 抓包修改文件…

【C++面向对象】10. 多态

文章目录 【 前言 】【 虚函数 】【 纯虚函数 】 【 前言 】 多态按字面的意思就是多种形态。当 类之间存在层次结构,并且类之间是通过继承关联时 ,就会用到多态。 C 多态意味着调用成员函数时,会根据调用函数的对象的类型来执行不同的函数…

nodejs+express重定向

前言: 本篇代码中需要安装的依赖包包括:request、express 1.常用重定向方法 nodejs中的重定向可以使用.redirect()方法,该方法中可以传两个参数:code和path,code指重定向时,当前访问的这个接口的返回码3…

技巧篇:Mac 环境PyCharm 配置 python Anaconda

Mac 中 PyCharm 配置 python Anaconda环境 在 python 开发中我们最常用的IDE就是PyCharm,有关PyCharm的优点这里就不在赘述。在项目开发中我们经常用到许多第三方库,用的最多的命令就是pip install 第三方库名 进行安装。现在你可以使用一个工具来帮你解…

threejs (四) 纹理 Texture

定义:纹理图片(或canvas/video等)映射到物体表面,或者作为反射、折射贴图,也就是物体的皮肤。 1、纹理贴图分类 map:颜色贴图,存储颜色信息bumpMap:凹凸贴图,性能贴图&…

基于SpringBoot+Vue的在线外卖管理系统

基于SpringBootVue的在线外卖管理系统的设计与实现~ 开发语言:Java数据库:MySQL技术:SpringBootMyBatisVue工具:IDEA/Ecilpse、Navicat、Maven 系统展示 主页 下单界面 登录界面 商家界面 摘要 本文介绍了一种基于Spring Boot和…