首页 > 代码库 > CentOS 6.3下部署LVS(NAT)+keepalived实现高性能高可用负载均衡
CentOS 6.3下部署LVS(NAT)+keepalived实现高性能高可用负载均衡
一、系统环境
实验拓扑：
实验环境：
Vmware 9.01 + Windows 8 x64 企业版+8G内存
虚拟机步骤：
1、安装一台CentOS 6.3 x64主机，内存为1GB,网络为NAT模式，注意检查Vmware中EDIT菜单下Virtual Network Editor中VMnet8
2、 加电，安装系统。基础知识了，不再多说，注意:选择英文而不要选择中文，选择是Basic Server模式，系统名称：LVS-MASTER
3、安装系统后，用root用户登录进去，执行 ifconfig查看下网络情况，发现：
没有看到其物理网卡，我们需要想办法解决它。
vi /etc/sysconfig/network-scripts/ifcfg-eth0
按下面的样子进行修改之，设置随系统启动，IP为静态地址而不是DHCP，IP地址、掩码、网关、DNS等信息
测试一下PING，看看是不是能PING通BAIDU，对了，为什么上面GATEWAY是192.168.9.2，是因为在虚拟机中VMnet8中指定的IP。
开始克隆多台主机，组成测试环境：
关闭掉主机 init 0,然后在虚拟中右键LVS-MASTER,MANAGER-CLONE，注意选择Create a full clone,机器名输入LVS-BACKUP,大约三十秒时间可以克隆好。
给LVS-BACKUP主机加电，系统正常启动
我们需要做两件事，
一是主机名修改为LVS-BACKUP，这个容易
vi /etc/sysconfig/network
修改 LVS-MASTER为LVS-BACKUP就可以了。然后 reboot一下系统就发现系统名称修改完成了。
二是修改系统IP
1、删除 /etc/udev/rules.d/70-persistent-net.rules 后重启机器。70-persistent-net.rules这个文件确定了网卡与MAC地址的绑定，导入已经存在的虚拟机后，但网卡的MAC地址发生了变化，所以导致系统认为网络设备不存在。
2、经过这样的处理后eth0还不能正常启动，需要将 /etc/udev/rules.d/70-persistent-net.rules 文件最后的修改"eth1"为"eth0"，
然后将/etc/sysconfig/network-scripts/ifcfg-eth0中的MAC直接删除。
再重启机器，eth0可以正常启动了。
确定执行 ifconfig命令后能看到 eth0设备，然后继续下面的动作：
vi /etc/sysconfig/network-scripts/ifcfg-eth0
将系统IP修改为192.168.9.202
执行一下 service network restart,现在测试一下ping www.baidu.com，看看是不是能PING通。
重复上面的步骤，将WEB1和WEB2两台主机也克隆完成，IP分别是192.168.9.203,192.168.9.204
网络配置通过了，下面可以使用Securecrt进行网络连接设置了。
=====================================================================================
系统平台：CentOS 6.3
Kernel：2.6.32-279.el6.i686
查看内核方法：cat /proc/version,为啥重点说明下这里呢？因为下面有个步骤是创建软连接到这个内核的目录上，所以重点说明下为啥下面指定的是这个目录。
LVS版本：ipvsadm-1.26
keepalived版本：keepalived-1.2.4
三、安装
0、安装LVS前系统需要安装
yum -y install openssl-devel lftplibnl* popt* libnl* libpopt* gcc*
1、在两台Director Server上分别配置LVS+Keepalived
------------- -------------LVS install --------------------------
cd /usr/src
wget http://www.linuxvirtualserver.org/software/kernel-2.6/ipvsadm-1.26.tar.gz
如果已经创建了软连接，那么删除之: rm /usr/src/linux 注意不能带最后的/，否则无法删除。
ln -s /usr/src/kernels/2.6.32-279.el6.x86_64//usr/src/linux/
tar zxvf ipvsadm-1.26.tar.gz
cd ipvsadm-1.26
make && make install
Keepalived install -------------
cd ..
wget http://www.keepalived.org/software/keepalived-1.2.4.tar.gz
tar zxvf keepalived-1.2.4.tar.gz
cd keepalived-1.2.4
./configure
make && make install
######### 将keepalived做成启动服务，方便管理##########
\cp /usr/local/etc/rc.d/init.d/keepalived /etc/init.d/
\cp /usr/local/etc/sysconfig/keepalived /etc/sysconfig/
mkdir /etc/keepalived/
\cp /usr/local/etc/keepalived/keepalived.conf /etc/keepalived/
\cp /usr/local/sbin/keepalived /usr/sbin/
service keepalived start
2、开启路由转发
vi /etc/sysctl.conf
修改下面的值，从0修改到1：
net.ipv4.ip_forward = 1
刷新系统变量,使系统文件变更马上生效
sysctl -p
3、配置Keepalived
vi /etc/keepalived/keepalived.conf
输入
:.,$d
删除所有内容，在LVS-MASTER中输入以下内容：
! Configuration File for keepalivedglobal_defs { notification_email { king_819@163.com } notification_email_from king_819@163.com smtp_server smtp.163.com # smtp_connect_timeout 30 router_id LVS_DEVEL}# VIP1vrrp_instance VI_1 { state MASTER #备份服务器上将MASTER改为BACKUP interface eth0 lvs_sync_daemon_inteface eth0 virtual_router_id 51 priority 100 # 备份服务上将100改为90 advert_int 5 authentication { auth_type PASS auth_pass 1111 } virtual_ipaddress {
192.168.9.200 #(如果有多个VIP，继续换行填写.) }}virtual_server 192.168.9.200 80 { delay_loop 6 #(每隔10秒查询realserver状态) lb_algo wlc #(lvs 算法) lb_kind DR #(Direct Route) persistence_timeout 60 #(同一IP的连接60秒内被分配到同一台realserver) protocol TCP #(用TCP协议检查realserver状态) real_server 192.168.9.203 80 { weight 100 #(权重) TCP_CHECK { connect_timeout 10 #(10秒无响应超时) nb_get_retry 3 delay_before_retry 3 connect_port 80 } } real_server 192.168.9.204 80 { weight 100 TCP_CHECK { connect_timeout 10 nb_get_retry 3 delay_before_retry 3 connect_port 80 } }}在LVS-BACKUP中输入以下内容：
! Configuration File for keepalivedglobal_defs { notification_email { king_819@163.com } notification_email_from king_819@163.com smtp_server smtp.163.com # smtp_connect_timeout 30 router_id LVS_DEVEL}# VIP1vrrp_instance VI_1 { state BACKUP #备份服务器上将MASTER改为BACKUP interface eth0 lvs_sync_daemon_inteface eth0 virtual_router_id 51 priority 90 # 备份服务上将100改为90 advert_int 5 authentication { auth_type PASS auth_pass 1111 } virtual_ipaddress {
192.168.9.200 #(如果有多个VIP，继续换行填写.) }}virtual_server 192.168.9.200 80 { delay_loop 6 #(每隔10秒查询realserver状态) lb_algo wlc #(lvs 算法) lb_kind DR #(Direct Route) persistence_timeout 60 #(同一IP的连接60秒内被分配到同一台realserver) protocol TCP #(用TCP协议检查realserver状态) real_server 192.168.9.203 80 { weight 100 #(权重) TCP_CHECK { connect_timeout 10 #(10秒无响应超时) nb_get_retry 3 delay_before_retry 3 connect_port 80 } real_server 192.168.9.204 80 { weight 100 TCP_CHECK { connect_timeout 10 nb_get_retry 3 delay_before_retry 3 connect_port 80 } }}配置keepalived自启动
chkconfig --level 0123456 keepalived on
查看自启动状态
chkconfig --list keepalived
===下面的脚本是在WEB服务器上执行的================================================================================================
在WEB1和WEB2机器上编辑如下文件
vi /root/lvs_real.sh
#!/bin/bash# description: Config realserver#Written by : http://kerry.blog.51cto.comSNS_VIP=192.168.9.200 /etc/rc.d/init.d/functions case "$1" instart) /sbin/ifconfig lo:0 $SNS_VIP netmask 255.255.255.255 broadcast $SNS_VIP /sbin/route add -host $SNS_VIP dev lo:0 echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce sysctl -p >/dev/null 2>&1 echo "RealServer Start OK" ;;stop) /sbin/ifconfig lo:0 down /sbin/route del $SNS_VIP >/dev/null 2>&1 echo "0" >/proc/sys/net/ipv4/conf/lo/arp_ignore echo "0" >/proc/sys/net/ipv4/conf/lo/arp_announce echo "0" >/proc/sys/net/ipv4/conf/all/arp_ignore echo "0" >/proc/sys/net/ipv4/conf/all/arp_announce echo "RealServer Stoped" ;;*) echo "Usage: $0 {start|stop}" exit 1esac exit 0
赋给执行权限
chmod 755 /etc/rc.d/init.d/functions 别人的配置文档中没这个步骤，我不知道为什么总是说执行到这句时没有权限，所以我添加了执行权限
chmod 755 /root/lvs_real.sh
/root/lvs_real.sh start
添加自动启动
echo “/root/lvs_real.sh start” >> /etc/rc.local
================================================================================================
关闭iptables,因为CentOS 6.3 X64默认是开启IPTABLES的，这样我们不方便测试这个实验，所以暂时采用关闭IPTABLES的办法，以后需要时再测试如何使用IPTABLES的规则。
配置iptables关闭自启动
chkconfig --level 0123456 iptables off
查看自启动状态
chkconfig --list iptables
将四台机器的IPTABLES全部关闭，防止出现其它问题。
光是这样还是不行的，因为不重启不能停止掉iptables,所以在四台上执行如下命令：
service iptables stop
================================================================================================
4、在2台WEBSERVER中分别配置HTTP,这里使用了一个简单的WEB SERVER：HTTPD这个软件包，当然也可以使用APACHE或者TOMCAT。
在192.168.9.203和192.168.9.204上执行如下命令：
yum -y install httpd
cd /var/www/html/
vi index.html
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
192.168.9.203上内容：
<h1>WEB1/192.168.9.203</h1>
192.168.9.204上内容：
<h1>WEB1/192.168.9.204</h1>
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
/etc/init.d/httpd start
结果发现出错无法启动：
我们修改一下：
vi /etc/httpd/conf/httpd.conf
ServerName www.example.com:80
再次启动：
/etc/init.d/httpd restart
设定开机启动httpd
chkconfig --level 0123456 httpd on
另一台机器配置一样，过程略。
在两台LVS服务器上都要启动keepalvied，这点十分重要，否则不能正常查看到下面的界面：
service keepalived restart
四、测试
####高可用性测试####
模拟故障，将CentOS-LVS_MASTER上的keepalived服务停掉，然后观察CentOS-LVS_BACKUP上的日志，信息如下
从日志中可知，主机出现故障后，备机立刻检测到，此时备机变为MASTER角色，并且接管了主机的虚拟IP资源，最后将虚拟IP绑定在etho设备上。
将CentOS-LVS_MASTER 上的keepalived服务开启后，CentOS-LVS_BACKUP的日志状态。
从日志可知，备机在检测到主机重新恢复正常后，释放了虚拟IP资源重新成为BACKUP角色
####故障切换测试####
故障切换是测试当某个节点出现故障后，Keepalived监制模块是否能及时发现然后屏蔽故障节点，同时将服务器转移到正常节点来执行。
将WEB2节点服务停掉，假设这个节点出现故障，然后主、备机日志信息如下
从以上可以看出，Keepalived监控模块检测到192.168.9.204这台主机出现故障后，将WEB2从集群系统中剔除掉了。 此时访问http://192.168.9.200只能看到WEB1了)
重新启动WEB2节点的服务，日志信息如下：
Keepalived监控模块检测到192.168.9.204这台主机恢复正常后，又将此节点加入集群系统中，再次访问就可以访问到WEB2页面了）
==============================================================================================
参考文档：
http://blog.csdn.net/winsonyuan/article/details/7069884
转自：http://www.cnblogs.com/littlehb/archive/2012/12/13/2816652.html