首页 > 代码库 > mogifs分布式文件系统

mogifs分布式文件系统

分布式文件系统:

    1:系统的各个组件分布于网络上的多个计算机上

    2:各组件彼此之间仅仅通过消息传递来通信并协调运行

分布式文件系统存在的意义:

    A:  向上扩展的性价比越来越低;单机扩展存在性能的临界点

    B: 出稳定性及可用性考虑,单机会存在多方面的问题

   CPU   内存   IO:性能

网络IO

   多进程;每个进程响应一个请求  

   多进程;每个进程生成多个进程,每个进程响应一个请求 

   多线程:每个线程响应多个请求

基于socket实现网络通信开发,实现方式

   BIOBlocaing IO:阻塞io

     一个进程或者一个线程处理一个请求,

   NIONonblocking IO

     基于事件驱动(epll)思想,采用Reactor模式

AIO:基于事件驱动(epll)思想,采用Proactor模式

如何把应用从单机扩展为多机

   输入设备的变化

变得多了

输出设备的变化

分布式系统实现的难点

   缺乏全局时钟

   面对故障时的独立性

   处理单点故障

   事务处理麻烦:ACID

             2pc BASE CAP Paxos

大型网站站点的架构演进方式:

      LAMT  LNMT

应用从资源占用的角度分类:

       CPU boundcpu 密集型

       IO boundIO密集型

引用mysql主从面临的问题:

      数据复制的问题

      应用选择数据源的问题

引用缓存

         页面缓存:varnish squid       

           数据缓存:key-valuememcached

主库写数据操作压力:数据库拆分

         垂直拆分:把数据库中不同的业务的数据拆分到不同的数据库中          

             难点 :单机的ACID保证被打破:要么放弃事务,要么引入分布式事务,

一些join查询操作将变得非常困难:

 原来依赖于外键实现的约束将无法保证

          水平拆分:把一个单独表中的数据拆分到多个不同的数据服务器上

                难点:单机的ACID保证被打破,一些join查询操作将变得非常困难,原来依赖于外键实现的约束将无法保证,自增序列号的ID的产生会有影响,针对单张表的查询可能要垮库操作,

 Nosql:非关系型数据库

      文档数据库

       列式数据库

  DFS:非结构化数据

       TfsMogileFS:适用于海量的小文件

HDFSGFS:少量文件

分布式的事务的实现:

      事务:事物的参与者,支持事务的服务器,资源服务器,事务管理器

   wKiom1Q0ufDybQ1dAAEBPiFQg8M957.jpg       

 2PC:两段式提交协议:就是当一个事务发出请求和响应请求是同步的

wKioL1Q0umLSXzr_AADqmJzIVU0340.jpg


  Paxos:比2PC更加轻量级:不存在拜占庭将军问题,通讯网络不安全,无法完成可靠的消息传输

要同时OKcommit,当上面的请求有一个出错时,就无法commit

   CAP:一致性,可用性,网络分区容错性

只能同时满足三者中的两者,因此,分布式系统的目标:AP(大多数分布式系统都选择此项)   CA(无法实现分布式)  CP(用的少,代价大)

分布式的目标:加强AP,在C上进行妥协:

       满足BASE模型:基本可用性



同时大数据给我们带来的挑战:

 数据采集,数据的存储,数据的搜索,数据的共享,数据的传输,数据的分析,数据的可视化都难以实现

wKioL1Q0u1rgn_VCAALJfAZHhlo925.jpg





挂载到一个目录就可以使用le

       Tracker:mogilefsd进程,实现的功能:文件的复制{replication} 删除(deletion  query 监控(monitor

         Mysql节点:用于Tracker存储元数据:mogilefs的名称空间及文件名,实际是一个httpd服务

       Storagenodesmogstored进程,文件实际存储位置

     Mogildfs:W  R N   W+R<N弱一致性

实现:三个节点:分别是172.16.249.97  172.16.249.85  172.16.249.165

172.16.249.85tracker服务器mysql服务器

   Lftp172.16.0.1/pub/Sources/6.x86_64下下载mogilefs

Yum 安装如下包:MogileFS-Server-2.46-2.el6.noarch.rpm

MogileFS-Server-mogilefsd-2.46-2.el6.noarch.rpm

MogileFS-Server-mogstored-2.46-2.el6.noarch.rpm

perl-Net-Netmask-1.9015-8.el6.noarch.rpm

perl-Perlbal-1.78-1.el6.noarch.rpm

MogileFS-Utils-2.19-1.el6.noarch.rpm

perl-MogileFS-Client-1.14-1.el6.noarch.rpm

yum install y mysql-server

授权数据库用户,并初始化mysql

MariaDB [(none)]> grant all on mogdb.* to‘moguser‘@‘172.16.%.%‘ identified by ‘mogpass‘;

 MariaDB[(none)]> flush privileges;

然后连接[root@www mogilefs]# mogdbsetup --dbname=mogdb --dbuser=moguser--dbhost=172.16.249.85 --dbpass=mogpass

会发现出现错误:大概意思需要一个root的远程连接

 MariaDB[(none)]> grant all on *.* to ‘root‘@‘172.16.%.%‘ identified by ‘han‘;

Query OK, 0 rows affected (0.00 sec)

MariaDB [(none)]> flush privileges;

Query OK, 0 rows affected (0.00 sec)

再次连接:[root@www mogilefs]# mogdbsetup --dbname=mogdb --dbuser=moguser--dbhost=172.16.249.85 --dbpass=mogpass --dbrootuser=root --dbrootpass=han

 出现如下错误:

Failed to connect to DBI:mysql:mysql;host=172.16.249.85;port=3306 asspecified root user (root): Access denied for user ‘root‘@‘www.http3.com‘(using password: NO)

解决:MariaDB [(none)]> grant all on *.* to ‘root‘@‘www.han3.com‘ identifiedby ‘han‘;

Query OK, 0 rows affected (0.00 sec)

 

MariaDB [(none)]> flush privileges;

Query OK, 0 rows affected (0.00 sec)

在次连接[root@www mogilefs]# mogdbsetup --dbname=mogdb --dbuser=moguser--dbhost=172.16.249.85 --dbpass=mogpass --dbrootuser=root --dbrootpass=han

就会成功了

 修改配置文件:

  [root@www mogilefs]# vimmogilefsd.conf

db_dsn = DBI:mysql:mogdb:host=172.16.249.85

db_user = moguser

db_pass = mogpass

listen = 172.16.249.85:7001

启用:root@www mogilefs]# service mogilefsd restart

如果出现错误:使用mogilefsd –-help查看

172.16.249.97mogstored节点

 172.16.249.165mogstored节点

scp  -r mogilefs/172.16.249.165:/root/

scp  -r mogilefs/ 172.16.249.97:/root/

分别安装

Yum 安装如下包:MogileFS-Server-2.46-2.el6.noarch.rpm

MogileFS-Server-mogilefsd-2.46-2.el6.noarch.rpm

MogileFS-Server-mogstored-2.46-2.el6.noarch.rpm

perl-Net-Netmask-1.9015-8.el6.noarch.rpm

perl-Perlbal-1.78-1.el6.noarch.rpm

perl-IO-AIO

编辑配置文件

[root@www mogilefs]# vim /etc/mogilefs/mogstored.conf

docroot = /mogdata/data

mkdir pv /mogdata/data

chown R mogilefs.mogilefs /mogdata

启动mogstored:(750l

[root@www mogilefs]# service mogstored start

 会出现好多命令mog双击tab键盘:

我们查看当前的mogstored节点

[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host list

 加入一个mogstored节点

[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host add node2(自己去的) --ip 172.16.249.97 --status=alive

[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host add node3 --ip=172.16.249.165--status=alive

我们可以使用mogadm help查看语法

  使用mark时可以把各个节点下线

[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host mark node3 down(下线)

[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host list

node2 [1]: alive

  IP:       172.16.249.97:7500

 

node3 [2]: down

  IP:       172.16.249.165:7500

[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 host mark node3 alive(上线)

添加主机上的设备:device

  [root@www mogilefs]# mogadm  --trackers=172.16.249.85:7001 device list(列出设备)

node2 [1]: alive

                    used(G)    free(G)  total(G)  weight(%)

 

node3 [2]: alive

                    used(G)    free(G)  total(G)  weight(%)

添加设备:[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 device add node2 dev1

[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 device add node3 dev2

[root@www mogilefs]# mogadm --trackers=172.16.249.85:7001 device list

   node2 [1]: alive

                    used(G)    free(G)  total(G)  weight(%)

   dev1:   alive     0.000      0.000      0.000        100

 

node3 [2]: alive

                    used(G)    free(G)  total(G)  weight(%)

   dev2:   alive     0.000      0.000      0.000        100

查看整体摘要信息

   [root@www mogilefs]# mogadm  --trackers=172.16.249.85:7001 device summary

Hostname        HostID  Status  used(G)  free(G) total(G)    %Used

node2           [   1]: alive     0.000    0.000   0.000

node3           [  2]:  alive     0.000   0.000    0.000

添加一个domain(名称空间)domain内部可以有一个class代表一个dirtory

 查看domain

 [root@www mogilefs]# mogadm  --trackers=172.16.249.85:7001 domain list

 domain               class                mindevcount   replpolicy  hashtype

-------------------- -------------------- -------------

添加一个域:

   [root@wwwmogilefs]#mogadm --trackers=172.16.249.85:7001domain add files

 我们要在响应的、/mogdata/data下建立相应的devn并且把其属主属组该我mogilefs这样就可以使用了在上传文件就好了

上传数据:

[root@www ~]# mogupload --trackers=172.16.249.85:7001 --domain=files--key=‘/fstab.html‘ --file=‘/etc/fstab‘

查看数据:

  [root@www ~]# clear

[root@www ~]# mogfileinfo --trackers=172.16.249.85:7001 --domain=files--key=‘/fstab.html‘

- file: /fstab.html

     class:              default

  devcount:                    1

    domain:                files

       fid:                    6

       key:          /fstab.html

    length:                  921

 - http://172.16.249.165:7500/dev2/0/000/000/0000000006.fid

我们也可以在浏览器上输入http://172.16.249.165:7500/dev2/0/000/000/0000000006.fid查看

[root@www ~]# mogadm --trackers=172.16.249.85:7001 domain add images也可以上传一个图片与其上 

  MogilefsW写节点 R读节点 N所有节点:


本文出自 “正则表达式和fgrep” 博客,请务必保留此出处http://9025736.blog.51cto.com/9015736/1561184

mogifs分布式文件系统