首页 > 代码库 > OpenStack 部署总结之:在CentOS 6.5上使用RDO安装双结算结点的icehouse(Ml2+GRE)

OpenStack 部署总结之:在CentOS 6.5上使用RDO安装双结算结点的icehouse(Ml2+GRE)

本文主要介绍如何在CentOS6.5上通过RDO来安装一个双计算节点的icehouse环境,网络方式采用Ml2+Gre由于安装的过程中涉及的软件较多,以及依赖关系比较复杂,建议使用一个全新的操作系统来进行安装。

 

硬件环境

两台Dell的R720服务器机,每台机器有4个网卡,只用到em1,以及em2,且这两个网卡都接有网线。公网和管理网络合用em1,虚拟机网络使用em2。

交换机方面,由于条件原因,只采用一个交换机,不过理论上将em1和em2的交换机分开效率会更高。

服务器

公网/管理网络

VM Net

角色

服务器1

em1:192.168.100.242

em2:10.1.1.2

控制节点,网络节点,存储节点,计算节点

服务器2

em2:192.168.100.244

em2:10.1.1.3

计算节点

和vlan模式配置一个明显的区别,就是eth1,是需要配置一个私有的IP地址,必须配置。

由于使用的是GRE模式,所以就不需要麻烦网管设置Trunk

 

简单的逻辑图取自陈老师博客的图(忽略IP与设备名称)


虚拟机的通讯,是通过eth1(对应我的环境是em2),虚拟机访问外部网络,是通过服务器1上的L3agent,br-ex到eth0(对应我的环境是em1)上访问外部网络

 

安装步骤具体如下

安装操作系统

使用光盘或镜像文件安装操作系统.

分区的时候需要划分一个逻辑区,并且建立一个名称叫cinder-volumes的组。这个逻辑卷组会被cinder使用。

创建的效果类似于:


创建过程请参考:http://www.centos.org/docs/5/html/Deployment_Guide-en-US/s1-lvm-diskdruid-manual.html

也可以装完操作系统后通过命令的方式来创建

修改fstab

修改/etc/fstab 去掉cinder-volume的开机挂载,不然会导致你无法重启

sed -i ‘/cinder-volume/s/^/#/‘ /etc/fstab

配置网络

两台服务器的配置相同,只是IP与HWADDR/UUID不同,配置 vi/etc/sysconfig/network-scripts/ifcfg-em1,编辑内容如下

 

DEVICE=em1
HWADDR=C8:1F:66:E5:29:0D
TYPE=Ethernet
UUID=63d91b69-5c37-437e-898b-65403cef29a0
ONBOOT=yes
BOOTPROTO=static
IPADDR=192.168.100.242
GATEWAY=192.168.100.1
NETMASK=255.255.255.0
DNS1=8.8.8.8 

配置 vi/etc/sysconfig/network-scripts/ifcfg-em2,编辑内容如下

DEVICE=em2
HWADDR=C8:1F:66:E5:29:0E
TYPE=Ethernet
UUID=b2cdb6e2-37d9-4fd0-b3d6-01f107ed80e0
ONBOOT=yes
BOOTPROTO=static
IPADDR=10.1.1.2
NETMASK=255.255.255.0
DNS1=8.8.8.8

经过以上配置后,确定网络可以连接.

由于实例运行的过程中,可以将NetworkManager服务停止,以为这个服务没用的服务会占用大量的内存

chkconfig NetworkManager off  

安装相关的yum源

yum源是否正确安装直接影响到安装的正确性,本人安装的过程中出现的很多问题都和源有关

安装的过程主要涉及到三个源:

安装163源

 1,备份/etc/yum.repos.d/CentOS-Base.repo

  1. mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backup  

 2,下载对应版本repo文件, 放入/etc/yum.repos.d/(操作前请做好相应备份)

  • CentOS5
  • CentOS6

安装icehouse源

执行以下命令

  1. yum install -y http://rdo.fedorapeople.org/openstack-icehouse/rdo-release-icehouse.rpm  

安装epel源

选用的是64位系统,执行以下命令

  1. rpm -ivh http://download.fedora.redhat.com/pub/epel/6/x86_64/epel-release-6-5.noarch.rpm  

在安装上面源的时候会生成foreman.repo源,这个源可直接删掉

 

设置YUM的cache

由于网络问题,安装过程可能会经常失败,所以此时可以设置yum 的cache来提高失败后再次安装的效率

PackStack

安装openstack-packstack

执行下面的命令

yum install -y openstack-packstack  

可能会碰到计算节点安装某些程序总是失败,可以先在计算节点上安装完之后在到控制节点上再次执行

 

配置packstack

为了方便以后多次执行相同的packstack的配置,可以先导出一个原始的配置,然后在这个文件上做一些修改,以后就可以指定配置文件的方式安装openstack

生成自己的配置文件

packstack --gen-answer-file=myanswer.txt   

修改配置文件

#为了在环境中使用HEAT
CONFIG_HEAT_INSTALL=y
CONFIG_NTP_SERVERS=0.uk.pool.ntp.org
#配置两个计算节点
CONFIG_COMPUTE_HOSTS=192.168.100.242,192.168.100.244
#登陆控制台的密码
CONFIG_KEYSTONE_ADMIN_PW=admin
#前面的步骤已经创建了LVM
CONFIG_CINDER_VOLUMES_CREATE=n
#网络使用的配置
CONFIG_NOVA_COMPUTE_PRIVIF=em2
CONFIG_NOVA_NETWORK_PUBIF=em1
CONFIG_NOVA_NETWORK_PRIVIF=em2
CONFIG_LBAAS_INSTALL=y
CONFIG_NEUTRON_METERING_AGENT_INSTALL=y
#GRE模式的相关配置
CONFIG_NEUTRON_ML2_TYPE_DRIVERS=gre
CONFIG_NEUTRON_ML2_TENANT_NETWORK_TYPES=gre
CONFIG_NEUTRON_ML2_TUNNEL_ID_RANGES=100:1000
CONFIG_NEUTRON_OVS_TENANT_NETWORK_TYPE=gre
CONFIG_NEUTRON_OVS_TUNNEL_RANGES=100:1000
#使用em2作为通道
CONFIG_NEUTRON_OVS_TUNNEL_IF=em2
#不安装DEMO用户
CONFIG_PROVISION_DEMO=n
CONFIG_HEAT_CLOUDWATCH_INSTALL=y
CONFIG_HEAT_CFN_INSTALL=y


修改hosts

在两个节点的/etc/hosts文件中分别添加对方的IP以及名称,同事为了提高从源的下载速度,也可以在hosts文件中配置源的信息,例如在192.168.100.242上的hots文件如下:

::1         localhost localhost.localdomainlocalhost6 localhost6.localdomain6
127.0.0.1   develop5
192.168.100.244   develop6
::1         localhost localhost.localdomainlocalhost6 localhost6.localdomain6
192.118.12.243          mirrors.skyshe.cn
208.113.241.137         ceph.com
152.19.134.191          repos.fedorapeople.org
123.58.173.106          mirrors.163.com
152.19.134.191          repos.fedorapeople.org
69.56.251.103           openvswitch.org
66.109.26.212           mirror.centos.org
23.253.148.10           yum.theforeman.org 

执行配置文件

packstack --answer-file=myanswer.txt  

这个过程可能比较漫长,中间可能会因为网络中断几次,中断后请继续

 配置br-ex

安装完毕后,由于目前RDO的问题,没有创建br-ex,需要我们手工来创建,这个只需要在192.168.100.242上配置进行就可以,具体点说,应该是在网络节点上进行。

修改ifcfg-em1文件

DEVICE=em1
HWADDR=C8:1F:66:E5:29:0D
ONBOOT=yes
DEVICETYPE=ovs
TYPE=OVSPort
OVS_BRIDGE=br-ex

创建ifcfg-br-ex文件

DEVICE=br-ex
DEVICETYPE=ovs
TYPE=OVSBridge
ONBOOT=yes
OVSBOOTPROTO=none
IPADDR=192.168.100.242
NETMASK=255.255.255.0
DEFROUTE=yes
PREFIX=24
GATEWAY=192.168.100.1
DNS1=202.103.24.68
 

配置OVS

ovs-vsctladd-br br-ex
ovs-vsctladd-port br-ex em1; service network restart
 

成功配置OVS以及添加虚拟机后的配置如下:

控制+网络+计算

OVS的配置

[root@develop5~(keystone_admin)]# ovs-vsctl show
d3ac11c9-8d88-4abc-8ca0-19788ab1491b
    Bridge br-ex
        Port "em1"
            Interface "em1"
        Port "qg-158cc8c6-4f"
            Interface"qg-158cc8c6-4f"
                type: internal
        Port br-ex
            Interface br-ex
                type: internal
    Bridge br-int
        fail_mode: secure
        Port "tapa104132f-bd"
            tag: 1
            Interface"tapa104132f-bd"
                type: internal
        Port "qvo0715cfb5-b4"
            tag: 1
            Interface"qvo0715cfb5-b4"
        Port "tape8875e25-22"
            tag: 2
            Interface"tape8875e25-22"
                type: internal
        Port br-int
            Interface br-int
                type: internal
        Port "qvoeb74bfb0-1b"
            tag: 1
            Interface"qvoeb74bfb0-1b"
        Port "qvod119e70f-3f"
            tag: 1
            Interface"qvod119e70f-3f"
        Port patch-tun
            Interface patch-tun
                type: patch
                options: {peer=patch-int}
        Port "qvo948222df-c9"
            tag: 1
            Interface"qvo948222df-c9"
        Port "qr-da6f872b-7c"
            tag: 1
            Interface"qr-da6f872b-7c"
                type: internal
    Bridge br-tun
        Port "gre-0a010103"
            Interface "gre-0a010103"
                type: gre
                options: {in_key=flow,local_ip="10.1.1.2", out_key=flow, remote_ip="10.1.1.3"}
        Port patch-int
            Interface patch-int
                type: patch
                options: {peer=patch-tun}
        Port br-tun
            Interface br-tun
                type: internal
    ovs_version: "1.11.0"


Linux 网桥的配置



计算节点:

OVS配置

[root@develop6~]# ovs-vsctl show
17cbd24e-df55-4f3d-b6a4-446b88b47ac4
    Bridge br-int
        fail_mode: secure
        Port "qvo28484b00-f0"
            tag: 1
            Interface"qvo28484b00-f0"
        Port "qvo61070289-31"
            tag: 1
            Interface"qvo61070289-31"
        Port "qvo3207417a-bd"
            tag: 1
            Interface"qvo3207417a-bd"
        Port patch-tun
            Interface patch-tun
                type: patch
                options: {peer=patch-int}
        Port br-int
            Interface br-int
                type: internal
    Bridge br-tun
        Port patch-int
            Interface patch-int
                type: patch
                options: {peer=patch-tun}
        Port br-tun
            Interface br-tun
                type: internal
        Port "gre-0a010102"
            Interface "gre-0a010102"
                type: gre
                options: {in_key=flow,local_ip="10.1.1.3", out_key=flow, remote_ip="10.1.1.2"}
    ovs_version: "1.11.0"
Linux网桥的配置


 安装验证

  1. 可以打开登录页面,并用配置的密码进行登录
  2. 可以创建网络,实例
  3. 配置的实例可以与外部网络互通

 

OpenStack 部署总结之:在CentOS 6.5上使用RDO安装双结算结点的icehouse(Ml2+GRE)