首页 > 代码库 > Linux下多核环境Erlang的SMP测试

Linux下多核环境Erlang的SMP测试

目标

(1)       了解在多核cpu环境下,erlang并发进程调度对各个cpu核负载的影响;

(2)       Erlang虚拟机的内存增加机理;

(3)       Erlang进程的调度情况;

(4)       Linux下监控cpu的使用状况

实验环境

联想小型机:操作系统:RedHat Enterprise LinuxServer release6.4(Santiago)

            内核版本:Linux server1 2.6.32-358.el6.x86_64#1 SMP

            CPU型号:Intel(R)Xeon(R)CPU E7-4820 @2.00Ghz;

                      4颗cpu,每颗cpu物理核数为8,总物理核数为32,逻辑核数为64

           内存:125G

磁盘:289G

Erlang OTP:Erlang/OTP 17[erts-6.0][source][64bit][smp:64:64][async-thread:10]

测试过程

Erlang并发进程

   测试代码

   -module(test).

-export([start_proc/1]).

start_proc(Num) ->

   case Num =:= 0 of

         true -> ok;

         false -> spawn(fun()-> loop() end),start_proc(Num-1)

    end.

loop() -> loop().

Cpu运行状况

test:start_proc(1000000)启动1000000个进程后,执行mpstat –PAll 2 10


 

并发IO

测试代码

-module(testio).

-export([start_proc/1]).

name() ->

  {A,B,C} =erlang:now(),

Integer_to_list(A) ++Integer_to_list(B)++Integer_to_list(C).

io() ->

{ok,Fd} = file:open(“./data/”++name(),[write,raw,binary,append]),

file:write(Fd,”Hi zcc,nice to meet you”),

file:read(Fd,23),

file:close(Fd).

start_proc(Num) ->

  IO = fun()-> io() end,

  case Num =:= 0of

      true ->ok;

      false-> spawn(IO),timer:sleep(1),start_proc(Num-1)

end.

Linux下查看内核相关信息

vmstat –n 3每隔3s刷新一次

利用sar进行cpu利用率的分析  sar  –u  2  10

分析运行进程队列长度sar  –q  2   10

cpu %usr %nice%sys %iowait %irq %soft %steal %guest %idle

mpstat  –P  1:查看1号cpu的信息

%steal:虚拟cpu无意识等待时间百分比

%nice:cpu处在带有nice值的user模式下时间百分比

top –M 后按下F键,然后按j,回车,可看到进程在哪个核上运行

结论

(1)             在默认情况下Erlang的smp的调度进程schedualer是与cpu的核对应的,而不是与cpu的个数对应的,就如本环境下有4个cpu,32个物理核,开启超线程后为64个逻辑核,调度进程数为64;

(2)             当erlang并发多个进程后,通过cpu的负载可以看出,各个进程会均匀的分布在各个核上运行,而不会是某个核负载过大,某个核负载过小的情况发生,此件事情是有操作系统来做的,程序员无须关心;

(3)             Erlang虚拟机的内存会随着进程数的增加,自动从主机内存中申请增加,这与java虚拟机不同,jvm1.6以前内存不会自动增加内存,只能手动配置增加jvm内存,从1.7以后才能够共享物理主机内存;Erlang虚拟机没有抑制内存增长机制。虚拟机不断的分配内存,迫使系统不得不使用交换区,直到虚拟机内存耗尽,变得非常迟钝。Erlang虚拟机设计的‘私有堆’和基于队列的编程模型是优点也是缺点,当在生产环境下运行erlang虚拟机时,要配备一个系统级的检测,以便在erlang内存使用量飞涨时,能够杀死进程。

(4)             Erlang调度器运行于一个OS线程,由OS决定其是否执行在一个核上,一般来说,OS会保证线程在执行期间运行于一个核上;

(5)             估算一个系统的进程数上限=内存总量/erlang:process_info(self(),memory),得到erlang的wordsize=erlang:system_info(wordsize).Erlang中一个进程所占内存大概为2667字节。

(6)             测试结果

启动进程数

虚拟机内存

启动时间

10万

299M

12.3s

100万

2.7G

6.8s

1000万

27.2G

57.6s

55164851

132G

400s