首页 > 代码库 > tomcat并发优化

tomcat并发优化

Tomcat 并发优化

首先先介绍一款知名的网站压力测试工具:webbench.

Webbench能测试处在相同硬件上,不同服务的性能以及不同硬件上同一个服务的运行状况。webbench的标准测试可以向我们展示服务器的两项内容:每分钟相应请求数和每秒钟传输数据量。webbench不但能具有便准静态页面的测试能力,还能对动态页面(ASP,PHP,JAVA,CGI)进 行测试的能力。还有就是他支持对含有SSL的安全网站例如电子商务网站进行静态或动态的性能测试,最多可以模拟3万个并发连接去测试网站的负载能力.

官方主页:http://home.tiscali.cz/~cz210552/webbench.html

WebBench安装:

1
2
3
4
5
6
sudoyum -y installctags
wget http://gitsea.com/wp-content/uploads/2013/06/webbench-1.5.tar.gz
tarzxvf webbench-1.5.tar.gz
cdwebbench-1.5
make
makeinstall

WebBench使用:

1
webbench -c 1000 -t 10 http://www.google.com.hk/

参数说明: webbench -c 并发数 -t 运行测试时间 URL

例子:

webbench.jpg

返回结果:每分钟响应请求数:2868 pages/min,每秒钟传输数据量373959 bytes/sec.成功请求478次,失败0次。

注意,在优化配置和测试前,需要修改系统默认的最大线程数和最大进程数,相应的修改方法 请参考http://gitsea.com/2013/05/23/linux-ulimit%E8%AF%A6%E8%A7%A3/

Tomcat 常用运行模式有3种,分别为 bio,nio,apr.生产环境建议用apr,从操作系统级别来解决异步的IO问题,大幅度的提高性能.

安装APR

1
2
3
4
5
6
sudoyum -y installapr apr-devel
tarzxvf tomcat-native.tar.gz //该文件在tomcat的bin目录下面
cdtomcat-native-1.1.24-src/jni/native
./configure--with-apr=/usr/bin/apr-1-config
make
makeinstall

安装完成之后 会出现如下提示信息

1
2
Libraries have been installed in:
/usr/local/apr/lib

安装成功后还需要对tomcat设置环境变量,方法是在catalina.sh文件中增加一 行:

1
CATALINA_OPTS="-Djava.library.path=/usr/local/apr/lib"

修改8080端对应的

1
protocol="org.apache.coyote.http11.Http11AprProtocol"

启动tomcat之后,查看日志

more TOMCAT_HOME/logs/catalina.out

1
2
3
4
六月 29, 2013 11:55:35 上午 org.apache.catalina.core.AprLifecycleListener init
INFO: Loaded APR based Apache Tomcat Native library 1.1.27 using APR version 1.3.9.
六月 29, 2013 11:55:35 上午 org.apache.catalina.core.AprLifecycleListener init
INFO: APR capabilities: IPv6 [true], sendfile [true], accept filters [false], random [true].

Tomcat 优化

1.JVM 调优

在TOMCAT_HOME/bin/catalina.sh 增加如下语句,具体数值视情况而定。

1
JAVA_OPTS="-Xms1024m -Xmx1024m -Xss1024K -XX:PermSize=64m -XX:MaxPermSize=128m"

参数详解

1
2
3
4
5
-Xms JVM初始化堆内存大小
-Xmx JVM堆的最大内存
-Xss 线程栈大小
-XX:PermSize JVM非堆区初始内存分配大小
-XX:MaxPermSize JVM非堆区最大内存

建议和注意事项:

-Xms和-Xmx选项设置为相同堆内存分配,以避免在每次GC 后调整堆的大小,堆内存建议占内存的60%~80%;非堆内存是不可回收内存,大小视项目而定;线程栈大小推荐256k.

2.关闭DNS反向查询

在Connector中加入如下参数

1
enableLookups="false"

3.使用APR

具体安装操作,见文章开头部分

4.优化tomcat参数

1
2
3
4
5
6
7
8
9
<Connector port="8080"
protocol="org.apache.coyote.http11.Http11AprProtocol"
connectionTimeout="20000"//链接超时时长
redirectPort="8443"
maxThreads="500"//设定处理客户请求的线程的最大数目,决定了服务器可以同时响应客户请求的数,默认200
minSpareThreads="20"//初始化线程数,最小空闲线程数,默认为10
acceptCount="1000"//当所有可以使用的处理请求的线程数都被使用时,可以被放到处理队列中请求数,请求数超过这个数的请求将不予处理,默认100
enableLookups="false"
URIEncoding="UTF-8"/>

5.优化网络参数

修改/etc/sysctl.cnf文件,增加如下内容

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
net.core.netdev_max_backlog = 32768
net.core.somaxconn = 32768
net.core.wmem_default = 8388608
net.core.rmem_default = 8388608
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
net.ipv4.ip_local_port_range = 1024 65000
net.ipv4.route.gc_timeout = 100
net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_keepalive_time = 1200
net.ipv4.tcp_timestamps = 0
net.ipv4.tcp_synack_retries = 2
net.ipv4.tcp_syn_retries = 2
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_mem = 94500000 915000000 927000000
net.ipv4.tcp_max_orphans = 3276800
net.ipv4.tcp_max_syn_backlog = 65536

保存退出,执行sysctl -p生效