首页 > 代码库 > 玩好HBASE
玩好HBASE
什么事HBASE :
HBase —— Hadoop Database的简称,Google BigTable的另一种开源实现方式,从问世之初,就为了解决用大量廉价的机器高速存取海量数据、实现数据分布式存储提供可靠的方案。从功能上来讲,HBase不折不扣是一个数据库,与我们熟悉的Oracle、MySQL、MSSQL等一样,对外提供数据的存储和读取服务。而从应用的角度来说,HBase与一般的数据库又有所区别,HBase本身的存取接口相当简单,不支持复杂的数据存取,更不支持SQL等结构化的查询语言;HBase也没有除了rowkey以外的索引,所有的数据分布和查询都依赖rowkey。所以,HBase在表的设计上会有很严格的要求。架构上,HBase是分布式数据库的典范,这点比较像MongoDB的sharding模式,能根据键值的大小,把数据分布到不同的存储节点上,MongoDB根据configserver来定位数据落在哪个分区上,HBase通过访问Zookeeper来获取-ROOT-表所在地址,通过-ROOT-表得到相应.META.表信息,从而获取数据存储的region位置
HBase设计与实践入门:
ROW Key:行健可以是任意字符串,在hbase内部,保存为字节数组,存储时,数据按照row key的字典序(byte order)排序存储,与NoSQL数据库一样,row key 是用来检索记录的主键,访问hbase table 中的行,三种访问方式:
1、通过单个row key 访问
2、通过row key 的range
3、通过全表扫描
rowkey是HBase实现分布式的基础,HBase通过rowkey范围划分不同的region,分布式系统的基本要求就是在任何时候,系统的访问都不要出现明显的热点现象,所以rowkey的设计至关重要,一般我们建议rowkey的开始部分以hash或者MD5进行散列,尽量做到rowkey的头部是均匀分布的。禁止采用时间、用户id等明显有分段现象的标志直接当作rowkey来使用。
列族(COLUMNS FAMILY):hbase表中的每个列,都归属与某个列族。列族是表的chema的一部分,必须在使用表之前定义。列名都以列族作为前缀
put ‘t1‘,‘r1‘,‘f1:c1‘,‘b1‘
put ‘t1‘,‘r1‘,‘f1:c2‘,‘b2‘
put ‘t1‘,‘r1‘,‘f1:c3‘,‘b3‘ ##一个列族里多个列
HBase的表设计时,根据不同需求有不同选择,需要做在线查询的数据表,尽量不要设计多个列簇,我们知道,不同的列簇在存储上是被分开的,多列簇设计会造成在数据查询的时候读取更多的文件,从而消耗更多的I/O
单元Cell:通过row和columns确定的为一个贮存单元为cell,CELL中的数据没有类型,全部是字节码形式存贮。
时间戳timestamp:每个cell都保存着同一份数据的多个版本,版本通过时间戳来索引,类型是64位整形,不同版本的数据按照时间倒叙排序,最新的数据排列在最前面
选择合适的数据过期时间也是表设计中需要注意的一点,HBase中允许列簇定义数据过期时间,数据一旦超过过期时间,可以被major compact进行清理。大量无用历史数据的残余,会造成region体积增大,影响查询效率。
HBASE shell 的常用操作:
1、创建表:create ‘t1‘,‘f1‘,‘f2‘,‘f3‘ #t1为表名字,f1-f3为列族名
2、查看所有的表:list
3、查看表的结构:describe ‘t1‘
4、增加一个列族:a、先disable "表名"
b、alter ‘t1‘,NAME=>‘f4‘,VERSIONS =>3
c、enable ‘t1‘
5、删除某个列族:alter ‘t1‘, {NAME => ‘f1‘}, {NAME => ‘f2‘, METHOD => ‘delete‘}
a、先disable "表名"
b、alter ‘t1‘,NAME=>‘f4‘,METHOD =>‘delete‘
c、enable ‘t1‘
6、查看表是否存在: exists ‘t1‘
7、查看表是否允许修改:is_enable ‘t1‘
8、删除表:
a、disable ‘t1‘
b、drop ‘t1‘
9、写入数据:put ‘t1‘,‘r1‘,‘f1:c1‘,‘value‘ #给t1表的r1行健的f1的列族的c1列插入一个值,列族的列事先可以先不存在
put ‘t1‘,‘r1‘,‘f1:c1‘,‘b1‘
put ‘t1‘,‘r1‘,‘f1:c2‘,‘b2‘
put ‘t1‘,‘r1‘,‘f1:c3‘,‘b3‘ ##一个列族里多个列
10、查询数据:
get ‘t1‘,‘r1‘ #查询r1的所有值
get ‘t1‘,‘r1‘,‘f1:c1‘ #获取某列的值
get ‘t1‘,‘r1‘,‘f1‘,‘f2‘ 《==》get ‘t1‘,‘r1‘,"f1:c1","f2:c2"
11、删除某行数据:deleteall ‘t1‘,‘r1‘
12、获取表的所有行健值:scan ‘t1‘
获取前几行的数据:scan ‘t1‘,{LIMIT=>1}
获取表从指定的位置行开始:scan ‘t1‘,{STARTROW=>‘rowkey‘,LIMIT=>1}
获取表指定列的所有行数据:scan ‘t1‘,{COLUMNS=>‘f1:c1‘}
获取表从某一列根据时间来取:scan ‘t1′, {COLUMNS => ‘c1‘, TIMERANGE => [1303668804, 1303668904]}
13、清空表:truncate ‘t1‘
14、统计行数:count ‘t1‘
count ‘t1′, INTERVAL => 100000
count ‘t1′, CACHE => 1000
count ‘t1′, INTERVAL => 10, CACHE => 1000 #count一般会比较耗时,使用mapreduce进行统计,统计结果会缓存,默认是10行。统计间隔默认的是1000行(INTERVAL)。
本文出自 “DBAspace” 博客,请务必保留此出处http://dbaspace.blog.51cto.com/6873717/1950000
玩好HBASE