MooseFs-分布式文件系统系列(四)之简单聊聊MFS的日常维护
回顾
文件或目录的额外属性(noower,noattracache和noentrycache),可以通过MFS提供的命令(mfsgeteattr,mfsseteattr,mfsdeleattr等)检查、设置和删除。其行为类似于mfsgettoal/mfssetgoal或者mfsgettrashtime/mfssettrashtime。
维护MFS
维护MFS,最重要的是维护元数据服务器,而元数据服务器最重要的目录就是为/usr/local/mfs/var/mfs(源码安装就在这里)。MFS数据的存储、修改和更新操作变化都会记录在这个目录的某个文件中、因此要保证这个目录的数据安全,就能保证整个MFS文件系统的安全性和可靠性。
/usr/local/mfs/var/mfs目录下的数据由两部分组成:一部分是元数据服务器的改变日志文件,文件名是changelog.*.mfs:另一个部分就是元数据文件metadata.mfs,运行mfsmaster时该文件就会被命名为metadata.mfs.back。只要保证了这两部书的数据安全,即使管理服务器操作破坏,也可以通过备份的元数据文件重新部署一套。
启动MFS集群
最安全的启动MFS集群(避免任何读写错误数据或者类似的问题)步骤如下:
- 启动mfsmaster进程。
 - 启动所有的mfschunkserver进程
 - 启动mfsmetalogger进程(如果有mfsmetalogger服务器的话)
 
当所有的数据存储服务器连接到MFS管理服务器后,任何数目的客户端都可以利用mfsmount去连接共享出来的文件系统(可以通过mfscgiserver提供的web界面查看或者mfsmaster日志)
停止MFS集群。
安全停止MFS集群,按照如下步骤进行操作:
- 在所有的客户端卸载MFS文件系统(利用umount命令即可卸载)。
 - 利用mfschunkserver stop停止数据存储服务器进程。
 - 利用mfsmetalogger stop停止元数据日志服务器进程。
 - 利用mfsmaster stop停止管理服务器进程。
 
MFS存储服务器的维护
假如每个文件的goal(副本)都不小于2,并且没有under-goal文件(这些可以通过“mfsgetgoal -r”和mfsdirinfo命令来查看),那么一个数据存储服务器在任何时候都可以停止或重新启动。以后每当需要停止或者重新启动另一个数据存储服务器的时候,需要确定之前的数据存储服务器被链接,而且没有under-goal chunks。
MFS元数据备份
- 主要元数据文件metadata.mfs,在MFS的管理服务器master运行时会被命名为metadata.mfs.back。
 - 元数据改变日志changelog.*.mfs,存储过去N小时内的文件改变(N数值是由BACK_LOGS参数设置的。参数设置在mfschunkserver.cfg配置文件中进行)
 
主要的元数据文件需要定期备份,备份的频率取决于多少个小时改变日志的存储。元数据改变日志应该时时的自动复制。从MFS1.6.5版本后,这两项任务都是由元数据日志服务器进程完成的。
MFS管理服务器的恢复
一旦服务器奔溃,需要最后一个元数据改变日志changelog和主要的元数据文件metadata.mfs。这个操作可以通过mfsmaster(在1.7版本以前用mfsmetarestore)命令来完成。命令如下所示:
[root@localhost mfs]# mfsmaster -a   #执行这个命令的时候,确保mfsmaster进程处于停止状态。
working directory: /usr/local/mfs/var/mfs   # 源码安装指定了/usr/local/mfs,那么默认是在这里。
关于恢复的时候指定元数据存储目录,我这也没发现用哪个命令去指定,在1.7版本以前的是mfsmetarestore -d来指定的。
从备份恢复MFS管理服务器。
为了从备份中恢复一个管理服务器,需要以下步骤进行:
- 安装一个新管理服务器。
 - 利用通配的配置来配置新管理服务器(利用备份找回mfsmaster.cfg),配置文件需要备份的。
 - 找回metadata.mfs.back文件,从备份服务器中找,也可以从元数据日志服务器中找(如果启动了元数据日志服务),然后把metadata.mfs.back文件放入mfs的数据目录下,源码安装的一般为${prefix}/var/mfs。
 - 从管理服务器宕机之前任何运行元数据日志服务器上复制最后一个changelog.*.mfs文件,放入管理服务器的数据目录。
 - 利用mfsmaster -a来合并元数据日志,自动恢复模式。
 
通过冗余实现失败防护的解决方案。
如题所示,其实就是一主一备的模式,当主的宕机后,备用机马上顶上去。
对于高可用的方案,我们可以采用keepalived或者heartbeat来做高可用。
对于元数据的一致性,我们还可以通过unison来做主备之间的双向元数据的同步,确保数据一致。
MooseFs-分布式文件系统系列(四)之简单聊聊MFS的日常维护的更多相关文章
- 在CentOS上安装部署MooseFS分布式文件系统
		
参考资料: http://www.moosefs.org/tl_files/manpageszip/moosefs-step-by-step-tutorial-cn-v.1.1.pdf 环境介绍:OS ...
 - MFS分布式文件系统
		
一.MFS概述: MooseFS(moose 驼鹿)是一款网络分布式文件系统.它把数据分散在多台服务器上,但对于用户来讲,看到的只是一个源.MFS也像其他类unix文件系统一样,包含了层级结构(目录树 ...
 - FastDFS分布式文件系统
		
FastDFS分布式文件系统 阅读目录 相关文章 1 分布式文件系统介绍 2 系统架构介绍 3 FastDFS性能方案 4 Linux基本命令操作 5 安装VirtualBox虚拟机并配置Ubuntu ...
 - MooseFS分布式文件系统介绍及安装教程详解
		
MFS系统由4个部分构成:master.metalogger.chunkserver.client. 1.Master —— mfs的大脑,记录着管理信息,比如:文件大小,存储的位置,份数等,和inn ...
 - 分布式文件系统MFS(moosefs)实现存储共享(第二版)
		
分布式文件系统MFS(moosefs)实现存储共享(第二版) 作者:田逸(sery@163.com) 由于用户数量的不断攀升,我对访问量大的应用实现了可扩展.高可靠的集群部署(即lvs+keepali ...
 - 分布式文件系统MFS(moosefs)实现存储共享(一)
		
分布式文件系统MFS(moosefs)实现存储共享 作者:田逸(sery@163.com) from:[url]http://net.it168.com/a2009/0403/270/00000027 ...
 - 分布式文件系统MFS(moosefs)实现存储共享
		
分布式文件系统MFS(moosefs)实现存储共享(第二版) 作者:田逸(sery@163.com) 由于用户数量的不断攀升,我对访问量大的应用实现了可扩展.高可靠的集群部署(即lvs+keepali ...
 - 分布式系列四: HTTP及HTTPS协议
		
分布式系列四: HTTP及HTTPS协议 非常全面的一篇HTTP的文章: 关于HTTP协议,一篇就够了 还有一个帮助理解HTTPS的文章: 也许,这样理解HTTPS更容易 本文的一些描述摘自这篇文章 ...
 - Hive数据导入——数据存储在Hadoop分布式文件系统中,往Hive表里面导入数据只是简单的将数据移动到表所在的目录中!
		
转自:http://blog.csdn.net/lifuxiangcaohui/article/details/40588929 Hive是基于Hadoop分布式文件系统的,它的数据存储在Hadoop ...
 
随机推荐
- 从C++研发到前端工程师
			
前言 伴随着今天收到了网易的前端offer,我的转行面试告一段落.能拿到网易的offer很意外,也弥补了去年网易校招被刷的遗憾.虽然从c++转行到前端不是一件很困难的事,但是也说不上轻松,反正我用了整 ...
 - 备忘:hibernate, logback, slf4j实际应用一例
			
用hibernate写一些简单的数据库的Java应用.主要是温习一下.之前弄过的一些都忘了.发现还是得记下来,不然很快就忘. 1. Eclipse版本,用Juno, J2EE版本.最好下载zip版本的 ...
 - [BZOJ3156]防御准备(斜率优化DP)
			
题目:http://www.lydsy.com:808/JudgeOnline/problem.php?id=3156 分析: 简单的斜率优化DP
 - mysql的主从复制是如何实现的
			
前言 MySQL的主从复制是MySQL本身自带的一个功能,不需要额外的第三方软件就可以实现,其复制功能并不是copy文件来实现的,而是借助binlog日志文件里面的SQL命令实现的主从复制,可以理解为 ...
 - MVC的理解
			
一: MVC MVC是一种经典的设计模式,全名为Model-View-Controller,即模型-视图-控制器. 模型是用于封装数据的载体,例如,在Java中一般通过一个简单的POJO(Plain ...
 - json写入和读取代码
			
#写入new文件 import json dic = {'name':'alex'} i = 8 s = 'hello' l = [11,22] f = open("new_hello&qu ...
 - SpringMVC学习--参数绑定
			
spring参数绑定过程 从客户端请求key/value数据,经过参数绑定,将key/value数据绑定到controller方法的形参上.springmvc中,接收页面提交的数据是通过方法形参来接收 ...
 - exce生成随机数
			
有时候数据库没有数据,造数据专用. 来源于:http://jingyan.baidu.com/article/93f9803feba1f5e0e46f55f2.html 首先介绍一下如何用RAND() ...
 - openwrt的环境搭建、定制和编译
			
参考1:编译openwrt全过程 参考2: ARM9的OpenWRT系统的移植以及 无线视觉操控系统的软件开发 参考3:搭建OpenWrt开发环境(包括编译过程) 参考4:各个openwrt版本的sv ...
 - [转]servlet中的service, doGet, doPost方法的区别和联系
			
原文地址:http://m.blog.csdn.net/blog/ghyg525/22928567 大家都知道在javax.servlet.Servlet接口中只有init, service, des ...