首页 > 代码库 > Memcached 集群的高可用(HA)架构

Memcached 集群的高可用(HA)架构

        Memcache自身并没有实现集群功能,如果想用Memcahce实现集群需要借助第三方软件或者自己设计编程实现,这里将采用memagent代理实现,memagent又名magent,大家注意下,不要将这二者当成两种工具。至于memcache、magent的安装请参考文章   在Linux上安装Memcached服务和 magent编译安装及常见错误      

整体架构

        直接上图:

从图中可以看到有两个magent节点,两个memcached节点,每个magent节点又分别代理两个memcached节点,应用系统端使用magent pool来调用memcache进行存储。硬件结构为两台linux服务器,每台服务器上分别安装magent和memcached服务,并设为开机启动。这样做的好处是任何一台服务器宕机后都不影响magent pool获取memcache信息,即实现了memcached的高可用(HA),如果两台机器都宕机了,只能说明你RP太差了。当然,也可以用三台、四台或者更多服务器来提高HA。

测试HA

        测试背景,本地局域网内两台服务器172.18.117.71(memcache端口11211,magent端口11210),172.18.117.113(memcache端口11211,magent端口11210),和两台服务器在同一局域网内的测试机器,下边是测试代码:

import com.danga.MemCached.MemCachedClient;
import com.danga.MemCached.SockIOPool;


public class MainTest {
	
	public static void main(String[] arg){
		SockIOPool pool = SockIOPool.getInstance();
		//magent连接池
		pool.setServers(new String[] { "172.18.117.71:11210","172.18.117.113:11210" });
		pool.setSocketTO(3000);
		pool.setNagle(false);
		pool.setSocketConnectTO(0);
		pool.initialize();
		MemCachedClient memCachedClient = new MemCachedClient();
		memCachedClient.set("becd0000", "测试例子");
		//System.out.println(memCachedClient.get("becd0000"));
		//System.out.println(memCachedClient.flushAll());
	}

}

步骤1:将key为“becd0000”,value为“测试例子”通过magent的pool放到memcache中

步骤2:修改magent连接池为单个memcache连接,代码如下

import com.danga.MemCached.MemCachedClient;
import com.danga.MemCached.SockIOPool;


public class MainTest {
	
	public static void main(String[] arg){
		SockIOPool pool = SockIOPool.getInstance();
		//magent连接池
		pool.setServers(new String[] { "172.18.117.71:11211"});
		pool.setSocketTO(3000);
		pool.setNagle(false);
		pool.setSocketConnectTO(0);
		pool.initialize();
		MemCachedClient memCachedClient = new MemCachedClient();
		//memCachedClient.set("becd0000", "测试例子");
		System.out.println(memCachedClient.get("becd0000"));
		//System.out.println(memCachedClient.flushAll());
	}

}

可以看到单独访问memcache是可以取到刚才所存储的值的。

步骤3:修改

pool.setServers(new String[] { "172.18.117.71:11211"});

pool.setServers(new String[] { "172.18.117.113:11211"});
再次执行可以看到和步骤2一样的结果,都可以取到值,说明通过magent代理存的值会分别放到两个memcache中

步骤4:停止172.18.117.113上的memcached服务

停止memcached服务命令:kill "cat /tmp/memcached.pid"

步骤5:再次通过magent代理取值,代码如下:

import com.danga.MemCached.MemCachedClient;
import com.danga.MemCached.SockIOPool;


public class MainTest {
	
	public static void main(String[] arg){
		SockIOPool pool = SockIOPool.getInstance();
		//magent连接池
		pool.setServers(new String[] { "172.18.117.71:11210","172.18.117.113:11210" });
		pool.setSocketTO(3000);
		pool.setNagle(false);
		pool.setSocketConnectTO(0);
		pool.initialize();
		MemCachedClient memCachedClient = new MemCachedClient();
		//memCachedClient.set("becd0000", "测试例子");
		System.out.println(memCachedClient.get("becd0000"));
		//System.out.println(memCachedClient.flushAll());
	}

}

可以看到依然能够取到值。

步骤6:启动刚才停掉的memcached服务,重启后memcache中所有信息将清空

步骤7:再次通过magent代理池去取key为“becd0000”的值,代码如下:

import com.danga.MemCached.MemCachedClient;
import com.danga.MemCached.SockIOPool;


public class MainTest {
	
	public static void main(String[] arg){
		SockIOPool pool = SockIOPool.getInstance();
		//magent连接池
		pool.setServers(new String[] { "172.18.117.71:11210","172.18.117.113:11210" });
		pool.setSocketTO(3000);
		pool.setNagle(false);
		pool.setSocketConnectTO(0);
		pool.initialize();
		MemCachedClient memCachedClient = new MemCachedClient();
		//memCachedClient.set("becd0000", "测试例子");
		System.out.println(memCachedClient.get("becd0000"));
		//System.out.println(memCachedClient.flushAll());
	}

}

可以看到这里取到的值为null。

结果分析

        通过以上测试可以得出结论

1、通过magent的连接池放的值会分别存在magent代理的所有memcached上去

2、如果有一个memcached宕机通过magent代理方式还能取到值

3、如果memcached修复重启后通过magent代理方式取到的值就会为Null,这是由于memcache重启后里边的值随着memcache服务的停止就消失了(因为在内存中),但是magent是通过key进行哈希计算分配到某台机器上的,memcache重启后会还从这台机器上取值,所有取到的值就没空。

        解决办法

1、在每次memcache宕机修复后可以写一个程序把集群中的其他memcache的所有信息全给拷贝到当前宕机修复后的memcache中。

2、自己写代理,当从一个memcached服务上取到的值为null时再去其他memcached上取值


注意事项

        magent的调用方式同memcached一样,客户端可以不用改代码即可实现切换到magent模式下


版权所有,转载请注明作者、出处。