首页 > 代码库 > mogifs分布式文件系统
mogifs分布式文件系统
分布式文件系统：
1：系统的各个组件分布于网络上的多个计算机上
2：各组件彼此之间仅仅通过消息传递来通信并协调运行
分布式文件系统存在的意义：
A: 向上扩展的性价比越来越低；单机扩展存在性能的临界点
B: 出稳定性及可用性考虑，单机会存在多方面的问题
CPU 内存 IO：性能
网络IO
多进程；每个进程响应一个请求
多进程；每个进程生成多个进程，每个进程响应一个请求
多线程：每个线程响应多个请求
基于socket实现网络通信开发,实现方式
BIO：Blocaing IO：阻塞io
一个进程或者一个线程处理一个请求，
NIO：Nonblocking IO
基于事件驱动（epll）思想，采用Reactor模式
AIO：基于事件驱动（epll）思想，采用Proactor模式
如何把应用从单机扩展为多机
输入设备的变化
变得多了
输出设备的变化
分布式系统实现的难点
缺乏全局时钟
面对故障时的独立性
处理单点故障
事务处理麻烦：ACID
2pc BASE CAP Paxos
大型网站站点的架构演进方式：
LAMT LNMT
应用从资源占用的角度分类：
CPU bound：cpu 密集型
IO bound：IO密集型
引用mysql主从面临的问题：
数据复制的问题
应用选择数据源的问题
引用缓存
页面缓存：varnish ，squid
数据缓存：key-value：memcached
主库写数据操作压力：数据库拆分
垂直拆分：把数据库中不同的业务的数据拆分到不同的数据库中
难点 :单机的ACID保证被打破：要么放弃事务，要么引入分布式事务，
一些join查询操作将变得非常困难：
原来依赖于外键实现的约束将无法保证
水平拆分：把一个单独表中的数据拆分到多个不同的数据服务器上
难点：单机的ACID保证被打破，一些join查询操作将变得非常困难，原来依赖于外键实现的约束将无法保证，自增序列号的ID的产生会有影响，针对单张表的查询可能要垮库操作，
Nosql：非关系型数据库
文档数据库
列式数据库
DFS：非结构化数据
Tfs，MogileFS：适用于海量的小文件
HDFS，GFS：少量文件
分布式的事务的实现：
事务：事物的参与者，支持事务的服务器，资源服务器，事务管理器
2PC：两段式提交协议:就是当一个事务发出请求和响应请求是同步的
Paxos：比2PC更加轻量级：不存在拜占庭将军问题，通讯网络不安全，无法完成可靠的消息传输
要同时OK在commit，当上面的请求有一个出错时，就无法commit
CAP：一致性，可用性，网络分区容错性
只能同时满足三者中的两者，因此，分布式系统的目标：AP（大多数分布式系统都选择此项） CA（无法实现分布式） CP（用的少，代价大）
分布式的目标：加强A和P，在C上进行妥协：
满足BASE模型:基本可用性
同时大数据给我们带来的挑战：
数据采集，数据的存储，数据的搜索，数据的共享，数据的传输，数据的分析，数据的可视化都难以实现
挂载到一个目录就可以使用le
Tracker:mogilefsd进程，实现的功能：文件的复制{replication} 删除（deletion） query 监控（monitor）
Mysql节点：用于Tracker存储元数据：mogilefs的名称空间及文件名，实际是一个httpd服务
Storagenodes：mogstored进程，文件实际存储位置
Mogildfs:W R N W+R<N弱一致性
实现：三个节点：分别是172.16.249.97 172.16.249.85 172.16.249.165
172.16.249.85：tracker服务器mysql服务器
Lftp172.16.0.1/pub/Sources/6.x86_64下下载mogilefs包
Yum 安装如下包：MogileFS-Server-2.46-2.el6.noarch.rpm
MogileFS-Server-mogilefsd-2.46-2.el6.noarch.rpm
MogileFS-Server-mogstored-2.46-2.el6.noarch.rpm
perl-Net-Netmask-1.9015-8.el6.noarch.rpm
perl-Perlbal-1.78-1.el6.noarch.rpm
MogileFS-Utils-2.19-1.el6.noarch.rpm
perl-MogileFS-Client-1.14-1.el6.noarch.rpm
在yum install –y mysql-server
授权数据库用户，并初始化mysql
MariaDB [(none)]> grant all on mogdb.* to‘moguser‘@‘172.16.%.%‘ identified by ‘mogpass‘;
MariaDB[(none)]> flush privileges;
然后连接[root@www mogilefs]# mogdbsetup --dbname=mogdb --dbuser=moguser--dbhost=172.16.249.85 --dbpass=mogpass
会发现出现错误：大概意思需要一个root的远程连接
MariaDB[(none)]> grant all on *.* to ‘root‘@‘172.16.%.%‘ identified by ‘han‘;
Query OK, 0 rows affected (0.00 sec)
MariaDB [(none)]> flush privileges;
Query OK, 0 rows affected (0.00 sec)
再次连接：[root@www mogilefs]# mogdbsetup --dbname=mogdb --dbuser=moguser--dbhost=172.16.249.85 --dbpass=mogpass --dbrootuser=root --dbrootpass=han
出现如下错误：
Failed to connect to DBI:mysql:mysql;host=172.16.249.85;port=3306 asspecified root user (root): Access denied for user ‘root‘@‘www.http3.com‘(using password: NO)
解决：MariaDB [(none)]> grant all on *.* to ‘root‘@‘www.han3.com‘ identifiedby ‘han‘;
Query OK, 0 rows affected (0.00 sec)
MariaDB [(none)]> flush privileges;
Query OK, 0 rows affected (0.00 sec)
在次连接[root@www mogilefs]# mogdbsetup --dbname=mogdb --dbuser=moguser--dbhost=172.16.249.85 --dbpass=mogpass --dbrootuser=root --dbrootpass=han
就会成功了
修改配置文件：
[root@www mogilefs]# vimmogilefsd.conf
db_dsn = DBI:mysql:mogdb:host=172.16.249.85
db_user = moguser
db_pass = mogpass
listen = 172.16.249.85:7001
启用：root@www mogilefs]# service mogilefsd restart
如果出现错误：使用mogilefsd –-help查看
172.16.249.97：mogstored节点
172.16.249.165：mogstored节点
scp -r mogilefs/172.16.249.165:/root/
scp -r mogilefs/ 172.16.249.97:/root/
分别安装
Yum 安装如下包：MogileFS-Server-2.46-2.el6.noarch.rpm
MogileFS-Server-mogilefsd-2.46-2.el6.noarch.rpm
MogileFS-Server-mogstored-2.46-2.el6.noarch.rpm
perl-Net-Netmask-1.9015-8.el6.noarch.rpm
perl-Perlbal-1.78-1.el6.noarch.rpm
perl-IO-AIO
编辑配置文件
[root@www mogilefs]# vim /etc/mogilefs/mogstored.conf
docroot = /mogdata/data
mkdir –pv /mogdata/data
chown –R mogilefs.mogilefs /mogdata
启动mogstored：（750l）
[root@www mogilefs]# service mogstored start
会出现好多命令mog双击tab键盘：
我们查看当前的mogstored节点
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host list
加入一个mogstored节点
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host add node2（自己去的） --ip 172.16.249.97 --status=alive
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host add node3 --ip=172.16.249.165--status=alive
我们可以使用mogadm –help查看语法
使用mark时可以把各个节点下线
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host mark node3 down（下线）
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host list
node2 [1]: alive
IP: 172.16.249.97:7500
node3 [2]: down
IP: 172.16.249.165:7500
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host mark node3 alive（上线）
添加主机上的设备：device
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 device list（列出设备）
node2 [1]: alive
used(G) free(G) total(G) weight(%)
node3 [2]: alive
used(G) free(G) total(G) weight(%)
添加设备：[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 device add node2 dev1
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 device add node3 dev2
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 device list
node2 [1]: alive
used(G) free(G) total(G) weight(%)
dev1: alive 0.000 0.000 0.000 100
node3 [2]: alive
used(G) free(G) total(G) weight(%)
dev2: alive 0.000 0.000 0.000 100
查看整体摘要信息
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 device summary
Hostname HostID Status used(G) free(G) total(G) %Used
node2 [ 1]: alive 0.000 0.000 0.000
node3 [ 2]: alive 0.000 0.000 0.000
添加一个domain（名称空间）domain内部可以有一个class代表一个dirtory
查看domain
[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 domain list
domain class mindevcount replpolicy hashtype
-------------------- -------------------- -------------
添加一个域：
[root@wwwmogilefs]#mogadm --trackers=172.16.249.85:7001domain add files
我们要在响应的、/mogdata/data下建立相应的devn并且把其属主属组该我mogilefs这样就可以使用了在上传文件就好了
上传数据：
[root@www ~]# mogupload --trackers=172.16.249.85:7001 --domain=files--key=‘/fstab.html‘ --file=‘/etc/fstab‘
查看数据：
[root@www ~]# clear
[root@www ~]# mogfileinfo --trackers=172.16.249.85:7001 --domain=files--key=‘/fstab.html‘
- file: /fstab.html
class: default
devcount: 1
domain: files
fid: 6
key: /fstab.html
length: 921
- http://172.16.249.165:7500/dev2/0/000/000/0000000006.fid
我们也可以在浏览器上输入http://172.16.249.165:7500/dev2/0/000/000/0000000006.fid查看
[root@www ~]# mogadm --trackers=172.16.249.85:7001 domain add images也可以上传一个图片与其上
Mogilefs：W写节点 R读节点 N所有节点：
本文出自 “正则表达式和fgrep” 博客，请务必保留此出处http://9025736.blog.51cto.com/9015736/1561184
mogifs分布式文件系统