Lustre 文件系统安装
制作一个本地镜像
reposync configfile: [root@localhost html]# cat lustre-repo.conf
[lustre-server]
name=lustre-server
baseurl=https://downloads.whamcloud.com/public/lustre/latest-release/el7.6.1810/server
# exclude=*debuginfo*
gpgcheck= [lustre-client]
name=lustre-client
baseurl=https://downloads.whamcloud.com/public/lustre/latest-release/el7.6.1810/client
# exclude=*debuginfo*
gpgcheck= [patchless-ldiskfs]
name=patchless-ldiskfs
baseurl=https://downloads.whamcloud.com/public/lustre/latest-release/el7.6.1810/patchless-ldiskfs-server
# exclude=*debuginfo*
gpgcheck= [e2fsprogs-wc]
name=e2fsprogs-wc
baseurl=https://downloads.whamcloud.com/public/e2fsprogs/latest/el7
# exclude=*debuginfo*
gpgcheck=
同步镜像:
[root@localhost html]# reposync -c lustre-repo.conf -n -r lustre-server -r lustre-client -r patchless-ldiskfs -r e2fsprogs-wc
如果因为网络问题,可以使用proxychains4 来进行代理访问:(proxychains4 安装教程)
[root@localhost repo]# proxychains4 reposync -c ../lustre-repo.conf -n -r lustre-server -r lustre-client -r patchless-ldiskfs -r e2fsprogs-wc
创建repo metadata:
cd /usr/share/nginx/html/repo
for i in e2fsprogs-wc lustre-client lustre-server patchless-ldiskfs; do
(cd $i && createrepo .)
done
制作lustre.repo文件:
[root@localhost html]# cat lustre.repo
[lustre-server]
name=lustre-server
baseurl=http://127.0.0.1/repo/lustre-server
# enabled=
gpgcheck=
proxy=_none_ [lustre-client]
name=lustre-client
baseurl=http://127.0.0.1/repo/lustre-client
# enabled=
gpgcheck= [e2fsprogs-wc]
name=e2fsprogs-wc
baseurl=http://127.0.0.1/repo/e2fsprogs-wc
# enabled=
gpgcheck= # patchless-ldiskfs [patchless-ldiskfs]
name=patchless-ldiskfs
baseurl=http://127.0.0.1/repo/patchless-ldiskfs
# enabled=
gpgcheck=
yum 安装教程,详细请参考lustre文档
保持更新,如果对你有帮助,请点击推荐。
lustre 具体安装步骤步骤,针对本地文件资源:
. 关闭防火墙,关闭 selinux
. 安装 repo
a. 安装 epel-release repo , yum install, yum makecache
b. 安装 nginx repo , yum install , yum makecache
c. 启动 nginx ; cd /usr/share/nginx/html
d. 覆盖 nginx 配置文件并reload; nginx -s reload
e. 创建 lustre repo; 运行 makerepo.sh 更新索引;
f. 复制repo 配置文件;yum makecache;
. 安装 lustre
a. 参考 lustre wiki; http://wiki.lustre.org/Installing_the_Lustre_Software
b. 安装dkms
c. 安装 Lustre Servers with LDISKFS OSD Support
d. 重新启动;进入新内核;
e. 继续完成安装;通过 modprobe -v lustre 检测lustre 模块是否能够加载;
. 安装 lustre client
a. 参考 https://docs.aws.amazon.com/fsx/latest/LustreGuide/install-lustre-client.html
b. 进行在 ubuntu 18.04 安装 deb
c. dpkg -i install lustre-client-modules & lustre-utils
d. curl -O -L http://10.134.150.13/client/lustre-client-modules-4.15.0-45-generic_2.12.2-1_amd64.deb
e. curl -O -L http://10.134.150.13/client/lustre-client-utils_2.12.2-1_amd64.deb
f. 安装 apt install perl-modules-5.22; apt install libperl5.; apt install libsnmp30;
g. 记得配置好ubuntu的源;
. 启动lustre
a. 服务端格式化硬盘,并启动 lustre 服务;绑定到指定的网卡;并创建挂载点 /mnt/mdt /mnt/ost0
b. mkfs.lustre --fsname=lustrefs --mgs --mdt --index= /dev/sdb 配置 MGS
c. mount.lustre /dev/sdb /mnt/mdt 挂载 mgs
d. mkfs.lustre --fsname=lustrefs --mgsnode=10.134.150.13@tcp --ost --index= /dev/sdc 配置 OSS
e. mount.lustre /dev/sdc /mnt/ost0
f. 启动lustre 服务器 systemctl restart lustre;
g. 客户端挂在 lustre: mount.lustre 192.168.83.128@tcp:/lustrefs /mnt/lustre
h. mkfs.lustre --fsname=lustrefs --mgsnode=192.168.83.128@tcp --ost --index= /dev/sdc 配置 OSS 防止网卡不够智能的时候出现找不到mgs的问题;
linux 创建虚拟块设备,制作文件系统并挂载,用于测试lustre:
参考链接:https://www.cnblogs.com/xuyaowen/p/lustre-loop-device.html
保持更新,更多内容请关注 cnblogs.com/xuyaowen;
Lustre 文件系统介绍:https://en.wikipedia.org/wiki/Lustre_(file_system)
阿里云Lustre 安装步骤:(2020年4月20日)
创建位于同一VPC的两台虚拟机;一台Ubuntu,一台Centos ;
在创建CentOS 实例的时候,注意多创建两块云盘;
设置好安全组,保证位于同一VPC两台机器可以互相访问;
上传Lustre安装包至其中一台VPC;
安装nginx: systemctl status nginx 在需要安装的Centos 上;
按照Lustre安装步骤进行安装;
Lustre Client 挂载步骤:
安装客户端(开启客户端扩展属性):
dpkg -i install lustre-client-modules & lustre-utils
apt --fix-broken install
mount.lustre -o user_xattr 192.168.83.128@tcp:/lustrefs /mnt/lustre
参考链接:http://wiki.lustre.org/Mounting_a_Lustre_File_System_on_Client_Nodes
Lustre 中国社区:http://lustrefs.cn/
Lustre 文件系统安装的更多相关文章
- Linux FastDFS 分布式文件系统安装
Linux FastDFS 分布式文件系统安装 2013 年 3 月 11 日 – 09:21 | 930 views | 收藏 (No Ratings Yet) FastDFS是一款类Google ...
- Lustre文件系统测试——obdfilter-survey测试
Lustre文件系统测试--obdfilter-survey测试 介绍 该测试主要是在lustre文件系统工作环境下进行,将直接在ost上生成工作负载模拟并行文件访问,可准确检测盘阵在lustre文件 ...
- lustre文件系统环境搭建及测试
目录 1.节点角色 2.硬件配置 3.软件版本 4.安装软件包 4.1.安装 e2fsprogs 相关包 4.2.安装 kernel 相关包 4.3.客户端安装 4.4.服务器端安装 4.5.配置 5 ...
- NFS网络文件系统安装配置
简介 NFS(Network File System)FS是由Sun开发并发展起来的一项用于在不同机器,不同操作系统之间通过网络共享数据.客户端用mount命令把远程的NFS文件系统挂载到本地即可,操 ...
- 吴裕雄--天生自然HADOOP操作实验学习笔记:hdfs分布式文件系统安装
实验目的 复习安装jdk 学习免密码登录 掌握安装配置hdfs集群的方法 掌握hdfs集群的简单使用和检查其工作状态 实验原理 1.hdfs是什么 hadoop安装的第一部分是安装hdfs,hdfs是 ...
- oracle 11.2.0.4单实例文件系统安装与补丁
[TOC] 一,预安装处理 1.版本准备 操作系统:RHEL 6.5 数据库版本:Oracle 11.2.0.4 相关包:p13390677_112040_Linux-x86-64_1of7.zip ...
- FastDFS分布式文件系统安装与使用(单节点)
http://blog.csdn.net/xyang81/article/details/52837974 http://download.csdn.net/detail/xyang81/966749 ...
- centos 下创建本地镜像源,结合 nginx
1. 创建同步文件 参考清华的Centos源,配置同步文件.https://mirrors.tuna.tsinghua.edu.cn/help/centos/ [root@localhost cent ...
- Lustre文件系统部署和应用探索
1. Lustre文件系统概述 2. Lustre文件系统部署 2.1 基本环境 本篇博客将在KVM虚拟机中部署Lustre文件系统. 操作系统版本为CentOS6.5_x86_64.Lustre软件 ...
随机推荐
- Zimbra
第一步:利用XXE读取配置文件 这里利用了CVE-2019-9670漏洞来读取配置文件,你需要在自己的VPS服务器上放置一个dtd文件,并使该文件能够通过HTTP访问.为了演示,我在GitHub上创建 ...
- axel 多线程下载工具
yum install axel-2.4-9.el7.x86_64 -y # 选项 --max-speed=x , -s x 最高速度x --num-connections=x , -n x 连接数x ...
- nvprof 使用记录; 以及使用 nvprof 查看tensorflow-gpu 核函数运行记录
最近需要使用 nvprof 此时cuda 程序运行的性能,下面对使用过程进行简要记录,进行备忘: 常用使用命令:nvprof --unified-memory-profiling off python ...
- requests---requests上传图片
我们在做接口测试的时候肯定会遇到一些上传图片,然后进行校验,今天我们一起学习通过requests上传图片,查看是否上传成功 抓取上传接口 这里我以百度为例子进行操作,为啥要用百度呢,主要上传文件比较简 ...
- JVM-3-JVM内存结构
JVM内存结构可以大致可划分为线程私有区域和共享区域, 线程私有区域由虚拟机栈.本地方法栈.程序计数器组成,而共享区域由堆.元数据空间(方法区)组成.
- ora-12505报错解决方法(转)
用oracle数据库新建连接时遇到ora-12505,此问题解决后又出现ora-12519错误,郁闷的半天,经过一番折腾问题解决,下面小编把我的两种解决方案分享给大家,仅供参考. 解决方案一: 今天工 ...
- 什么是uWSGI、WSGI、uwsgi、wsgiref、werkzeug
我不是代码的生产者,我只是知识的搬运工 uWSGI.WSGI.uwsgi.wsgiref.werkzeug
- windows10安装最新的redis
官方给的redis的windows版本最新为3,而linux版本是5 这里通过win10子系统安装,win10子系统的配置见另一篇博客https://www.cnblogs.com/MC-Curry/ ...
- Java连载45-继承举例、方法覆盖
一.Java语言中假设一个类没有显式的继承任何类,那么该类默认继承Java SE库中提供的java.lang.Object类 1.快捷键:Ctrl + shift + T:可以在Myeclipse中查 ...
- 05Shell循环语句
循环语句 for 语法结构 for 变量名 [ in 取值列表 ] do 循环体 done 注意 当for对文件内容进行逐行处理时,会忽略空行 示例 例1 ping 主机的脚本(初始版):缺点执行过程 ...