首页 > 代码库 > Linux下多核环境Erlang的SMP测试
Linux下多核环境Erlang的SMP测试
目标
(1) 了解在多核cpu环境下,erlang并发进程调度对各个cpu核负载的影响;
(2) Erlang虚拟机的内存增加机理;
(3) Erlang进程的调度情况;
(4) Linux下监控cpu的使用状况
实验环境
联想小型机:操作系统:RedHat Enterprise LinuxServer release6.4(Santiago)
内核版本:Linux server1 2.6.32-358.el6.x86_64#1 SMP
CPU型号:Intel(R)Xeon(R)CPU E7-4820 @2.00Ghz;
4颗cpu,每颗cpu物理核数为8,总物理核数为32,逻辑核数为64
内存:125G
磁盘:289G
Erlang OTP:Erlang/OTP 17[erts-6.0][source][64bit][smp:64:64][async-thread:10]
测试过程
Erlang并发进程
测试代码
-module(test).
-export([start_proc/1]).
start_proc(Num) ->
case Num =:= 0 of
true -> ok;
false -> spawn(fun()-> loop() end),start_proc(Num-1)
end.
loop() -> loop().
Cpu运行状况
test:start_proc(1000000)启动1000000个进程后,执行mpstat –PAll 2 10
并发IO
测试代码
-module(testio).
-export([start_proc/1]).
name() ->
{A,B,C} =erlang:now(),
Integer_to_list(A) ++Integer_to_list(B)++Integer_to_list(C).
io() ->
{ok,Fd} = file:open(“./data/”++name(),[write,raw,binary,append]),
file:write(Fd,”Hi zcc,nice to meet you”),
file:read(Fd,23),
file:close(Fd).
start_proc(Num) ->
IO = fun()-> io() end,
case Num =:= 0of
true ->ok;
false-> spawn(IO),timer:sleep(1),start_proc(Num-1)
end.
Linux下查看内核相关信息
vmstat –n 3每隔3s刷新一次
利用sar进行cpu利用率的分析 sar –u 2 10
分析运行进程队列长度sar –q 2 10
cpu %usr %nice%sys %iowait %irq %soft %steal %guest %idle
mpstat –P 1:查看1号cpu的信息
%steal:虚拟cpu无意识等待时间百分比
%nice:cpu处在带有nice值的user模式下时间百分比
top –M 后按下F键,然后按j,回车,可看到进程在哪个核上运行
结论
(1) 在默认情况下Erlang的smp的调度进程schedualer是与cpu的核对应的,而不是与cpu的个数对应的,就如本环境下有4个cpu,32个物理核,开启超线程后为64个逻辑核,调度进程数为64;
(2) 当erlang并发多个进程后,通过cpu的负载可以看出,各个进程会均匀的分布在各个核上运行,而不会是某个核负载过大,某个核负载过小的情况发生,此件事情是有操作系统来做的,程序员无须关心;
(3) Erlang虚拟机的内存会随着进程数的增加,自动从主机内存中申请增加,这与java虚拟机不同,jvm1.6以前内存不会自动增加内存,只能手动配置增加jvm内存,从1.7以后才能够共享物理主机内存;Erlang虚拟机没有抑制内存增长机制。虚拟机不断的分配内存,迫使系统不得不使用交换区,直到虚拟机内存耗尽,变得非常迟钝。Erlang虚拟机设计的‘私有堆’和基于队列的编程模型是优点也是缺点,当在生产环境下运行erlang虚拟机时,要配备一个系统级的检测,以便在erlang内存使用量飞涨时,能够杀死进程。
(4) Erlang调度器运行于一个OS线程,由OS决定其是否执行在一个核上,一般来说,OS会保证线程在执行期间运行于一个核上;
(5) 估算一个系统的进程数上限=内存总量/erlang:process_info(self(),memory),得到erlang的wordsize=erlang:system_info(wordsize).Erlang中一个进程所占内存大概为2667字节。
(6) 测试结果
启动进程数 | 虚拟机内存 | 启动时间 |
10万 | 299M | 12.3s |
100万 | 2.7G | 6.8s |
1000万 | 27.2G | 57.6s |
55164851 | 132G | 400s |