首页 > 代码库 > Linux下多核环境Erlang的SMP測试

Linux下多核环境Erlang的SMP測试

目标

(1)       了解在多核cpu环境下,erlang并发进程调度对各个cpu核负载的影响;

(2)       Erlang虚拟机的内存添加机理;

(3)       Erlang进程的调度情况;

(4)       Linux下监控cpu的使用状况

实验环境

联想小型机:操作系统:RedHat Enterprise LinuxServer release6.4(Santiago)

            内核版本号:Linux server1 2.6.32-358.el6.x86_64#1 SMP

            CPU型号:Intel(R)Xeon(R)CPU E7-4820 @2.00Ghz;

                      4颗cpu,每颗cpu物理核数为8,总物理核数为32,逻辑核数为64

           内存:125G

磁盘:289G

Erlang OTP:Erlang/OTP 17[erts-6.0][source][64bit][smp:64:64][async-thread:10]

測试过程

Erlang并发进程

   測试代码

   -module(test).

-export([start_proc/1]).

start_proc(Num) ->

   case Num =:= 0 of

         true -> ok;

         false -> spawn(fun()-> loop() end),start_proc(Num-1)

    end.

loop() -> loop().

Cpu执行状况

test:start_proc(1000000)启动1000000个进程后,运行mpstat –PAll 2 10

技术分享

 

并发IO

測试代码

-module(testio).

-export([start_proc/1]).

name() ->

  {A,B,C} =erlang:now(),

Integer_to_list(A) ++Integer_to_list(B)++Integer_to_list(C).

io() ->

{ok,Fd} = file:open(“./data/”++name(),[write,raw,binary,append]),

file:write(Fd,”Hi zcc,nice to meet you”),

file:read(Fd,23),

file:close(Fd).

start_proc(Num) ->

  IO = fun()-> io() end,

  case Num =:= 0of

      true ->ok;

      false-> spawn(IO),timer:sleep(1),start_proc(Num-1)

end.

Linux下查看内核相关信息

vmstat –n 3每隔3s刷新一次

利用sar进行cpu利用率的分析  sar  –u  2  10

分析执行进程队列长度sar  –q  2   10

cpu %usr %nice%sys %iowait %irq %soft %steal %guest %idle

mpstat  –P  1:查看1号cpu的信息

%steal:虚拟cpu无意识等待时间百分比

%nice:cpu处在带有nice值的user模式下时间百分比

top –M 后按下F键,然后按j,回车,可看到进程在哪个核上执行

结论

(1)             在默认情况下Erlang的smp的调度进程schedualer是与cpu的核相应的,而不是与cpu的个数相应的,就如本环境下有4个cpu,32个物理核,开启超线程后为64个逻辑核,调度进程数为64;

(2)             当erlang并发多个进程后,通过cpu的负载能够看出,各个进程会均匀的分布在各个核上执行,而不会是某个核负载过大,某个核负载过小的情况发生,此件事情是有操作系统来做的,程序猿无须关心;

(3)             Erlang虚拟机的内存会随着进程数的添加,自己主动从主机内存中申请添加,这与java虚拟机不同,jvm1.6曾经内存不会自己主动添加内存,仅仅能手动配置添加jvm内存,从1.7以后才可以共享物理主机内存;Erlang虚拟机没有抑制内存增长机制。虚拟机不断的分配内存,迫使系统不得不使用交换区,直到虚拟机内存耗尽,变得很迟钝。Erlang虚拟机设计的‘私有堆’和基于队列的编程模型是长处也是缺点,当在生产环境下执行erlang虚拟机时,要配备一个系统级的检測,以便在erlang内存使用量飞涨时,可以杀死进程。

(4)             Erlang调度器执行于一个OS线程,由OS决定其是否执行在一个核上,一般来说,OS会保证线程在执行期间执行于一个核上;

(5)             估算一个系统的进程数上限=内存总量/erlang:process_info(self(),memory),得到erlang的wordsize=erlang:system_info(wordsize).Erlang中一个进程所占内存大概为2667字节。

(6)             測试结果

启动进程数

虚拟机内存

启动时间

10万

299M

12.3s

100万

2.7G

6.8s

1000万

27.2G

57.6s

55164851

132G

400s

Linux下多核环境Erlang的SMP測试