首页 > 代码库 > MFS分布式文件系统管理

MFS分布式文件系统管理

MFS官方网站http://www.moosefs.org/reference-guide.html

mooseFS(moose驼鹿)是一款网络分布式文件系统,它把数据分散到多台服务器上,但对于用户来讲,看到的只是一个源.MFS也像其他类unix文件系统,包含了层级结构(目录树),存储着文件属性(权限,最后访问和修改时)可以创建特殊的文件(块设备,字符设备,管道,套接字)符号链接.

技术分享

MooseFS文件系统介绍:

MooseFS是一中分布式文件系统,MooseFS文件系统结构包括一下四种角色:

1.管理服务器master

管理服务器:负责各个数据存储服务的管理文件读写调度,文件空间回收以及恢复,多节点拷贝

2.元数据日志服务器:负责备份master服务器的变化日志文件,文件类型为changelog_ml.*.mfs,以便于在master server出现问题的时候解体器 进行工作

3.数据存储服务器data server(chunk servers)

   真正存储用户数据的服务器 ,存储文件时,首先把文件分成块,然后这些块在数据服务器chunkserver之间赋值(复制份数可以手工指定,建议设置副本数为数据服务器可以为多个,并且数据越多,可使用的“磁盘空间越大,”可靠性也越高 .

4.客户端挂在 使用clinet computers

使用MFS文件系统来存储和访问的主机名称为MFS的客户端,成功挂载MFS系统以后,就可以像以前NFS一样共享这个虚拟性的存储了。

技术分享

实验环境:

服务器:

masters:192.168.20.138

chunk-server:192.168.20.150

Metalogger-server192.168.20.163

客户端挂载使用(clinet computers):192.168.20.163

---------------------------------------------------------------------------------------------

实验环境准备:

fuse.ko

所有服务器端和客户端都要支持 fuse内核模块。

由于MFS的客户端程序也就是jiazaimfs磁盘系统的命令是使用了fuse.

用户空间文件系统(简称FUSE)是操作系统中的概念,指完全在用户状态实现的文件系统,目前linux通过内核模块对此进行支持,一些文件系统如NTFS-3G(作用:让linux中对NTFS文件系统提供支持)使用FUSE实现.

2.6以上内核,都自带fuse

一.Master

[root@master ~]#  yum install gcc fuse fuse-devel zlib-devel –y

[root@master ~]# useradd -M -s /sbin/nologin mfs

[root@master ~]# tar zxvf mfs-1.6.27-5.tar.gz -C /usr/src/

[root@master ~]# cd /usr/src/mfs-1.6.27/

[root@master mfs-1.6.27]# ./configure --prefix=/usr/local/mfs --with-default-user=mfs --with-default-group=mfs  --disable-mfschunkserver --disable-mfsmount

root@master mfs-1.6.27]# make

root@master mfs-1.6.27]# make install

[root@master mfs]# cp mfsexports.cfg.dist mfsexports.cfg

[root@master mfs]# cp mfsmaster.cfg.dist mfsmaster.cfg

[root@master mfs]# cp  mfstopology.cfg.dist mfstopology.cfg

[root@master mfs]# cd /usr/local/mfs/var/mfs

[root@master mfs]# ls

metadata.mfs.empty

[root@master mfs]# cp metadata.mfs.empty metadata.mfs

[root@master mfs]# cat /usr/local/mfs/etc/mfs/mfsexports.cfg

 [root@master mfs]# cat  /usr/local/mfs/etc/mfs/mfsmaster.cfg

[A1] [root@master mfs]# /usr/local/mfs/sbin/mfsmaster restart[A2] 

[root@master mfs]# netstat -anput | grep mfs

tcp        0      0 0.0.0.0:9419                0.0.0.0:*                   LISTEN      10761/mfsmaster    

tcp        0      0 0.0.0.0:9420                0.0.0.0:*                   LISTEN      10761/mfsmaster    

tcp        0      0 0.0.0.0:9421                0.0.0.0:*                   LISTEN      10761/mfsmaster 


 [A1]简单查看文件的配置,暂不做修改

 [A2]启动MFS

二.安装MataLogger(元数据日志服务器)

[root@Metalogger-server ~]#  yum install gcc fuse fuse-devel zlib-devel –y

[root@Metalogger-server ~]# useradd -M -s /sbin/nologin mfs

[root@Metalogger-server ~]# tar zxvf mfs-1.6.27-5.tar.gz -C /usr/src/

[root@Metalogger-server mfs-1.6.27]# ./configure --prefix=/usr/local/mfs --with-default-user=mfs --with-default-group=mfs --disable-mfschunkserver --disable-mfsmoumnt

[root@Metalogger-server mfs-1.6.27]# make

[root@Metalogger-server mfs-1.6.27]# make install

[root@Metalogger-server mfs-1.6.27]# cd /usr/local/mfs/etc/mfs

[root@Metalogger-server mfs]# cp mfsmetalogger.cfg.dist mfsmetalogger.cfg

[root@Metalogger-server mfs]# vim /usr/local/mfs/etc/mfs/mfsmetalogger.cfg

技术分享

[root@Metalogger-server mfs]#  /usr/local/mfs/sbin/mfsmetalogger restart

[root@Metalogger-server mfs]# ps -elf | grep mfs

5 S mfs       36452      1  0  61 -19 -  2764 poll_s 11:06 ?        00:00:00 /usr/local/mfs/sbin/mfsmetalogger restart

0 S root      36459   3535  0  80   0 - 25814 pipe_w 11:08 pts/1    00:00:00 grep mfs

三.Chunk-server(数据存储服务器)

[root@chunk-server ~]# yum install gcc fuse fuse-devel zlib-devel –y

[root@chunk-server ~]# useradd -M -s /sbin/nologin mfs

[root@chunk-server ~]# tar zxvf mfs-1.6.27-5.tar.gz -C /usr/src/

[root@chunk-server ~]# cd /usr/src/mfs-1.6.27/

[root@chunk-server mfs-1.6.27]# ./configure --prefix=/usr/local/mfs --with-default-user=mfs --with-default-group=mfs --disable-mfsmaster --disable-mfsmount

[root@chunk-server mfs-1.6.27]# make

[root@chunk-server mfs-1.6.27]# make install

[root@chunk-server mfs-1.6.27]# cd /usr/local/mfs/etc/mfs/

[root@chunk-server mfs]# cp mfschunkserver.cfg.dist mfschunkserver.cfg     

[root@chunk-server mfs]# cp mfshdd.cfg.dist mfshdd.cfg     

[root@chunk-server mfs]# vim /usr/local/mfs/etc/mfs/mfschunkserver.cfg

oot@chunk-server mfs]# cp mfschunkserver.cfg.dist   mfschunkserver.cfg     

 [root@chunk-server mfs]# vim /usr/local/mfs/etc/mfs/mfschunkserver.cfg

技术分享

[root@chunk-server mfs]# vim /usr/local/mfs/etc/mfs/mfshdd.cfg

技术分享

技术分享

root@chunk-server ~]# mkdir /data

[root@chunk-server ~]# chown -R mfs:mfs /data/

[root@chunk-server ~]# /usr/local/mfs/sbin/mfschunkserver restart

[root@chunk-server ~]# ps -elf | grep mfs

5 S mfs       25099      1  2  61 -19 - 42704 poll_s 21:44 ?        00:00:01 /usr/local/mfs/sbin/mfschunkserver restart

0 S root      25125  20503  0  80   0 - 25805 pipe_w 21:45 pts/1    00:00:00 grep mfs

[root@chunk-server ~]# netstat -anput | grep mfs

tcp        0      0 0.0.0.0:9422                0.0.0.0:*                   LISTEN      25099/mfschunkserve

四:客户部署与配置

yum install gcc fuse fuse-devel zlib-devel –y

[root@localhost ~]# tar zxvf fuse-2.9.2.tar.gz -C /usr/src/

[root@localhost ~]# cd /usr/src/fuse-2.9.2/

[root@localhost fuse-2.9.2]# ./configure

[root@localhost fuse-2.9.2]# make && makek install

[root@localhost fuse-2.9.2]# vim /etc/profile

技术分享

root@localhost fuse-2.9.2]# . /etc/profile

[root@localhost fuse-2.9.2]# source /etc/profile

[root@localhost ~]# useradd -M -s /sbin/nologin mfs

[root@localhost ~]# tar zxvf mfs-1.6.27-5.tar.gz -C /usr/src/

root@localhost ~]# cd /usr/src/mfs-1.6.27/

root@localhost mfs-1.6.27]# ./configure --prefix=/usr/local/mfs --with-default-user=mfs --with-default-group=mfs --disable-mfsmaster --disable-mfschunkserver --enable-mfsmount

如果还是有问题的,解决方法:yum -y install fuse-devel

root@localhost mfs-1.6.27]# make && make install

[root@localhost mfs-1.6.27]# cd

[root@localhost ~]# modprobe fuse

[root@localhost ~]# mkdir /xiaoyu

[root@localhost ~]# /usr/local/mfs/bin/mfsmount /xiaoyu/ -H 192.168.20.138

mfsmaster accepted connection with parameters: read-write,restricted_ip ; root mapped to root:root

[root@localhost ~]# mount

技术分享

[root@localhost ~]# df –Th

技术分享

root@localhost ~]# vim /etc/profile

export PATH=/usr/local/mfs/bin$PATH

[root@localhost ~]# source /etc/profile

[root@localhost ~]# ln -s /usr/local/mfs/bin/* /usr/local/bin/

[root@localhost ~]# mfsgetgoal -r /xiaoyu/

root@localhost ~]# mfsgetgoal -r  /xiaoyu/

/xiaoyu/:

 directories with goal  1 :          1

[root@localhost ~]# mfsgetgoal -r 3  /xiaoyu/

3: realpath error on (/root/3): ENOENT (No such file or directory)

/xiaoyu/:

 directories with goal  1 :    

 

 

 

 

MFS分布式文件系统管理