首页 > 代码库 > 基于Xen实现一种domain0和domainU的应用层数据交互高效机制 - 3

基于Xen实现一种domain0和domainU的应用层数据交互高效机制 - 3

继续 上一篇 的研究,结合 xen4.2.3 的代码分析,发现 xen4.2.3 的应用层工具库 tools 包含一个工具叫 libvchan ,其头文件描述如下:

*  This is a library for inter-domain communication.  A standard Xen ring 34  *  buffer is used, with a datagram-based interface built on top.  The grant 35  *  reference and event channels are shared in XenStore under the path 36  *  /local/domain/<srv-id>/data/vchan/<cli-id>/<port>/{ring-ref,event-channel}

说明这个库是用于domain间交互数据用的,其控制信息放在 xenstore里。 下面就是基于这个库,我在两台 centos domain 之间的实验。

需要的文件:

 CentOS-6.2-x86_64-minimal.iso  : centos minimal iso 镜像

 kernel-3.10.20-11.el6.centos.alt.x86_64.rpm  :  xen4centos6 项目 维护的rpm包,这些rpm包已经配置为可以用作 xen domain0

domain0 : 先用 minimal 的 iso 安装系统,然后用 xen4centos6 项目的内核rpm包安装第二个内核,并重启为xen内核,作为domain0

domainU : 先用 minimal 的 iso 安装系统到 qcow2 文件,然后用 xen4centos6 项目的内核rpm包安装第二个内核,并重启3.10.20的内核

需要的配置:

domain0 重启为xen内核,grub.conf  配置如下:

title CentOS (3.10.20-11.el6.centos.alt.x86_64)        root (hd0,0)        kernel /xen.gz dom0_mem=57679020 loglvl=all guest_loglvl=all dom0_max_vcpus=12 dom0_vcpus_pin        module /vmlinuz-3.10.20-11.el6.centos.alt.x86_64 ro root=/dev/mapper/VolGroup00-LogVol--ROOT rd_NO_LUKS rd_LVM_LV=VolGroup00/LogVol-ROOT rd_LVM_LV=VolGroup00/LogVol-SWAP rd_NO_MD quiet SYSFONT=latarcyrheb-sun16 rhgb crashkernel=auto  KEYBOARDTYPE=pc KEYTABLE=us rd_NO_DM LANG=en_US.UTF-8        module /initramfs-3.10.20-11.el6.centos.alt.x86_64.img

然后配置http服务器,domainU 通过wget 从domainO 获取需要的文件。

domainU 重启为kernel3.10.20 后,需要做下面的配置:

modprobe xenfs modprobe xen_gntdev modprobe xen_evtchn modprobe xen_privcmd modprobe xen_gntalloc

安装的几个驱动为应用层提供libvchan需要的内核接口

代码的修改:

tools/libvchan/init.c: init_xs_srv 函数,修改如下:

#if 0        domid_str = xs_read(xs, 0, "domid", NULL);        domid_str = xs_read(xs, 0, buf, NULL);        printf("%s:%d,domid=%s\n",__func__,__LINE__,domid_str);        if (!domid_str)                goto fail_xs_open;        // owner domain is us        perms[0].id = atoi(domid_str);#endif        perms[0].id = 0;

这是因为在我的测试里,

domid_str = xs_read(xs, 0, "domid", NULL); 这句会失败,其读xenstore的domid节点,会找不到节点。所以我直接将 perms[0].id 写死为 0, 这样 vchan_node/vchan_node2 测试例子的server 端只能用 domain0

接下去我新建了一个目录 tools/test-vchan , 然后执行下面的脚本,将需要的头文件和测试文件拷贝进来,并建立静态库的软连接,之所以要这么搞,主要是想静态编译 xc 库, xs 库 , vchan库
到测试代码,这样修改调试的时候不需要每次都拷贝一堆so文件,只需要拷贝最终的可执行文件即可
mkdir libln -s ../libxc/libxenctrl.a lib/libxenctrl.aln -s ../xenstore/libxenstore.a lib/libxenstore.aln -s ../libvchan/libxenvchan.a lib/libxenvchan.amkdir includeln -s ../include/xen include/xencp ../libvchan/libxenvchan.h include/cp ../xenstore/xenstore.h include/cp ../xenstore/xenstore_lib.h include/cp ../libxc/xenctrl.h include/cp ../libvchan/node-select.c .cp ../libvchan/node.c .

tools/test-vchan 的 Makefile 文件如下:
 1 all:  2         gcc -o vchan-node1 node.c -L./lib -I./include -lxenvchan -lxenstore -lxenctrl -lpthread -ldl  3         gcc -o vchan-node2 node-select.c -L./lib -I./include -lxenvchan -lxenstore -lxenctrl -lpthread -ldl5 clean:  6         rm -f vchan-node1   7         rm -f vchan-node2 

 

执行 make 之后生成 vchan-node2. 将 vchan-node2 拷贝到 doman0,将 vchan-node2 和 xenctrl_osdep_linux.so ,libxenctrl.so 两个动态库拷贝到 domainU ,libxenctrl.so 库提供操作xen hypervisor的接口,xenctrl_osdep_linux.so这是linux平台相关的操作接口。然后 domainU 执行 vchan-node2 之前需要设置环境变量

export XENSTORED_PATH="/dev/xen/xenbus"export XENCTRL_OSDEP="/usr/lib64/xenctrl_osdep_linux.so"

 

domain0 启动为 server , 它会映射内存,并将共享内存的引用信息记录在xenstore , 然后监听 eventchannel , 如果有client发来的数据,则打印出来

 

domainU 启动为 client, 它从Xenstore得到共享内存的引用信息,mmap共享内存,然后往内存里写入数据


至此,一个基于libvchan的 inter-domain (domain is linux)数据交互例子就完成了。