Memcache存储大数据的问题   huangguisu

      Memcached存储单个item最大数据是在1MB内，假设数据超过1M,存取set和get是都是返回false，并且引起性能的问题。

我们之前对排行榜的数据进行缓存，因为排行榜在我们全部sql select查询里面占了30%，并且我们排行榜每小时更新一次，所以必须对数据做缓存。为了清除缓存方便，把全部的用户的数据放在同一key中，因为memcached:set的时候没有压缩数据。在測试服測试的时候，没发现问题，当上线的时候，结果发现，在线人数刚刚490人的时候，serverload average飘到7.9。然后我们去掉缓存，一下子就下降到0.59。

所以Memcahce不适合缓存大数据，超过1MB的数据，能够考虑在client压缩或拆分到多个key中。大的数据在进行load和uppack到内存的时候须要花非常长时间，从而减少server的性能。

Memcached支持最大的存储对象为1M。这个值由其内存分配机制决定的。

memcached默认情况下採用了名为Slab Allocator的机制分配、管理内存。在该机制出现曾经，内存的分配是通过对全部记录简单地进行malloc和free来进行的。可是，这样的方式会导致内存碎片，加重操作系统内存管理器的负担，最坏的情况下，会导致操作系统比memcached进程本身还慢。Slab Allocator就是为解决该问题而诞生的。Slab Allocator的基本原理是依照预先规定的大小，将分配的内存切割成特定长度的块，以全然解决内存碎片问题.

今天（2012-03-16）我们又一次測试了memcached ::set的数据大小。可能是我们用php的memcached扩展是最新版，set数据的时候是默认压缩的。set 数据：

$ac = new memcahed();$data = http://www.mamicode.com/str_repeat(‘a‘, 1024* 1024); //1M的数据>
不论是1M的数据还是100M的数据，都能set成功。后来我发现，memcachedset数据的时候是默认压缩的。因为这个这个是反复的字符串，压缩率高达1000倍。因此100M的数据压缩后实际也就100k而已。
当我设置：
$ac->setOption(memcahed::OPT_COMPRESSION,0); //不压缩存储数据。$data = http://www.mamicode.com/str_repeat(‘a‘, 1024* 1024); //1M数据>
也就是说memcached server不能存储超过1M的数据，可是经过client压缩数据后，仅仅要小于1M的数据都能存储成功。
memcached相关知识：
1、memcached的基本设置 
1）启动Memcache的server端 
# /usr/local/bin/memcached -d -m 10 -u root -l 192.168.0.200 -p 12000 -c 256 -P /tmp/memcached.pid
-d选项是启动一个守护进程， 
-m是分配给Memcache使用的内存数量，单位是MB，我这里是10MB， 
-u是执行Memcache的用户，我这里是root， 
-l是监听的serverIP地址，假设有多个地址的话，我这里指定了server的IP地址192.168.0.200， 
-p是设置Memcache监听的port，我这里设置了12000，最好是1024以上的port， 
-c选项是最大执行的并发连接数，默认是1024，我这里设置了256，依照你server的负载量来设定， 
-P是设置保存Memcache的pid文件，我这里是保存在 /tmp/memcached.pid，
2）假设要结束Memcache进程，运行：
# kill `cat /tmp/memcached.pid`
哈希算法将随意长度的二进制值映射为固定长度的较小二进制值，这个小的二进制值称为哈希值。哈希值是一段数据唯一且极其紧凑的数值表示形式。假设散列一段明文并且哪怕仅仅更改该
段落的一个字母，随后的哈希都将产生不同的值。要找到散列为同一个值的两个不同的输入，在计算上是不可能的。
2、适用memcached的业务场景？
1）假设站点包括了訪问量非常大的动态网页，因而数据库的负载将会非常高。因为大部分数据库请求都是读操作，那么memcached能够显著地减小数据库负载。
2）假设数据库server的负载比較低但CPU使用率非常高，这时能够缓存计算好的结果（ computed objects ）和渲染后的网页模板（enderred templates）。
3）利用memcached能够缓存session数据、暂时数据以降低对他们的数据库写操作。
4）缓存一些非常小可是被频繁訪问的文件。
5）缓存Web ‘services‘（非IBM宣扬的Web Services，译者注）或RSS feeds的结果.。
3、不适用memcached的业务场景？
1）缓存对象的大小大于1MB 
Memcached本身就不是为了处理庞大的多媒体（large media）和巨大的二进制块（streaming huge blobs）而设计的。 
2）key的长度大于250字符 
3）虚拟主机不让执行memcached服务 
     假设应用本身托管在低端的虚拟私有server上，像vmware, xen这类虚拟化技术并不适合执行memcached。Memcached须要接管和控制大块的内存，假设memcached管理      的内存被OS或 hypervisor交换出去，memcached的性能将大打折扣。
4）应用执行在不安全的环境中 
Memcached为提供不论什么安全策略，只通过telnet就能够訪问到memcached。假设应用执行在共享的系统上，须要着重考虑安全问题。
5）业务本身须要的是持久化数据或者说须要的应该是database
4、 不能可以遍历memcached中全部的item
     这个操作的速度相对缓慢且堵塞其它的操作（这里的缓慢时相比memcached其它的命令）。memcached全部非调试（non-debug）命令，比如add, set, get, fulsh等不管
memcached中存储了多少数据，它们的运行都仅仅消耗常量时间。不论什么遍历全部item的命令运行所消耗的时间，将随着memcached中数据量的添加而添加。当其它命令由于等待（遍历全部item的命令运行完成）而不能得到运行，因而堵塞将发生。
5、  memcached能接受的key的最大长度是250个字符
memcached能接受的key的最大长度是250个字符。须要注意的是，250是memcachedserver端内部的限制。假设使用的Memcachedclient支持"key的前缀"或类似特性，那么key（前缀+原始key）的最大长度是能够超过250个字符的。推荐使用较短的key，这样能够节省内存和带宽。
6、  单个item的大小被限制在1M byte之内
由于内存分配器的算法就是这种。
具体的回答：
1）Memcached的内存存储引擎，使用slabs来管理内存。内存被分成大小不等的slabs chunks（先分成大小相等的slabs，然后每一个slab被分成大小相等chunks，不同slab的chunk大小是不相等的）。chunk的大小依次从一个最小数開始，按某个因子增长，直到达到最大的可能值。假设最小值为400B，最大值是1MB，因子是1.20，各个slab的chunk的大小依次是：
slab1 - 400B；slab2 - 480B；slab3 - 576B ...slab中chunk越大，它和前面的slab之间的间隙就越大。因此，最大值越大，内存利用率越低。Memcached必须为每一个slab预先分配内存，因此假设设置了较小的因子和较大的最大值，会须要为Memcached提供很多其它的内存。
2）不要尝试向memcached中存取非常大的数据，比如把巨大的网页放到mencached中。由于将大数据load和unpack到内存中须要花费非常长的时间，从而导致系统的性能反而不好。假设确实须要存储大于1MB的数据，能够改动slabs.c：POWER_BLOCK的值，然后又一次编译memcached；或者使用低效的malloc/free。另外，能够使用数据库、MogileFS等方案取代Memcached系统。
7、  memcached的内存分配器是怎样工作的？为什么不适用malloc/free！？为何要使用slabs？
实际上，这是一个编译时选项。默认会使用内部的slab分配器，并且确实应该使用内建的slab分配器。最早的时候，memcached仅仅使用malloc/free来管理内存。然而，这样的方式不能与OS的内存管理曾经非常好地工作。重复地malloc/free造成了内存碎片，OS终于花费大量的时间去查找连续的内存块来满足malloc的请求，而不是执行memcached进程。slab分配器就是为了解决问题而生的。内存被分配并划分成chunks，一直被重复使用。由于内存被划分成大小不等的slabs，假设item的大小与被选择存放它的slab不是非常合适的话，就会浪费一些内存。
8、memcached对item的过期时间有什么限制？
item对象的过期时间最长能够达到30天。memcached把传入的过期时间（时间段）解释成时间点后，一旦到了这个时间点，memcached就把item置为失效状态，这是一个简单但obscure的机制。
9、什么是二进制协议，是否须要关注？
二进制协议尝试为端提供一个更有效的、可靠的协议，降低client/server端因处理协议而产生的CPU时间。依据Facebook的測试，解析ASCII协议是memcached中消耗CPU时间最多的
环节。
10、 memcached的内存分配器是怎样工作的？为什么不适用malloc/free！？为何要使用slabs？
实际上，这是一个编译时选项。默认会使用内部的slab分配器，并且确实应该使用内建的slab分配器。最早的时候，memcached仅仅使用malloc/free来管理内存。然而，这样的方式不能与OS的内存管理曾经非常好地工作。重复地malloc/free造成了内存碎片，OS终于花费大量的时间去查找连续的内存块来满足malloc的请求，而不是执行memcached进程。slab分配器就是为了解决问题而生的。内存被分配并划分成chunks，一直被重复使用。由于内存被划分成大小不等的slabs，假设item的大小与被选择存放它的slab不是非常合适的话，就会浪费一些内存。
11、memcached是原子的吗？
全部的被发送到memcached的单个命令是全然原子的。假设您针对同一份数据同一时候发送了一个set命令和一个get命令，它们不会影响对方。它们将被串行化、先后运行。即使在多线程模式，全部的命令都是原子的。然是，命令序列不是原子的。假设首先通过get命令获取了一个item，改动了它，然后再把它set回memcached，系统不保证这个item没有被其它进程（process，未必是操作系统中的进程）操作过。memcached 1.2.5以及更高版本号，提供了gets和cas命令，它们能够解决上面的问题。假设使用gets命令查询某个key的item，memcached会返回该item当前值的唯一标识。假设client程序覆写了这个item并想把它写回到memcached中，能够通过cas命令把那个唯一标识一起发送给memcached。假设该item存放在memcached中的唯一标识与您提供的一致，写操作将会成功。假设还有一个进程在这期间也改动了这个item，那么该item存放在memcached中的唯一标识将会改变，写操作就会
失败。

具体了解Memcached的内存分配机制：
http://cjjwzs.javaeye.com/blog/762453