首页 > 代码库 > 转:PHP超时处理全面总结
转:PHP超时处理全面总结
原文来自于:http://wulijun.github.io/2012/08/08/php-timeout-summary.html
概述
在PHP开发工作里非常多使用到超时处理的场合,我说几个场景:
- 异步获取数据如果某个后端数据源获取不成功则跳过,不影响整个页面展现
- 为了保证Web服务器不会因为当个页面处理性能差而导致无法访问其他页面,则会对某些页面操作设置
- 对于某些上传或者不确定处理时间的场合,则需要对整个流程中所有超时设置为无限,否则任何一个环节设置不当,都会导致莫名执行中断
- 多个后端模块(MySQL、Memcached、HTTP接口),为了防止单个接口性能太差,导致整个前面获取数据太缓慢,影响页面打开速度,引起雪崩
- 。。。很多需要超时的场合
这些地方都需要考虑超时的设定,但是PHP中的超时都是分门别类,各个处理方式和策略都不同,为了系统的描述,我总结了PHP中常用的超时处理的总结。
Web服务器超时处理
Apache
一般在性能很高的情况下,缺省所有超时配置都是30秒,但是在上传文件,或者网络速度很慢的情况下,那么可能触发超时操作。
目前 apache fastcgi php-fpm 模式 下有三个超时设置:
fastcgi 超时设置: 修改 httpd.conf 的fastcgi连接配置,类似如下: FastCgiExternalServer /home/forum/apache/apache_php/cgi-bin/php-cgi -socket /home/forum/php5/etc/php-fpm.sock ScriptAlias /fcgi-bin/ "/home/forum/apache/apache_php/cgi-bin/" AddHandler php-fastcgi .php Action php-fastcgi /fcgi-bin/php-cgi AddType application/x-httpd-php .php
缺省配置是 30s,如果需要定制自己的配置,需要修改配置,比如修改为100秒:(修改后重启 apache):FastCgiExternalServer /home/forum/apache/apache_php/cgi-bin/php-cgi -socket /home/forum/php5/etc/php-fpm.sock -idle-timeout 100 ScriptAlias /fcgi-bin/ "/home/forum/apache/apache_php/cgi-bin/" AddHandler php-fastcgi .php Action php-fastcgi /fcgi-bin/php-cgi AddType application/x-httpd-php .php
如果超时会返回500错误,断开跟后端php服务的连接,同时记录一条apache错误日志: [Thu Jan 27 18:30:15 2011] [error] [client 10.81.41.110] FastCGI: comm with server "/home/forum/apache/apache_php/cgi-bin/php-cgi" aborted: idle timeout (30 sec) [Thu Jan 27 18:30:15 2011] [error] [client 10.81.41.110] FastCGI: incomplete headers (0 bytes) received from server "/home/forum/apache/apache_php/cgi-bin/php-cgi"
其他 fastcgi 配置参数说明: IdleTimeout 发呆时限 ProcessLifeTime 一个进程的最长生命周期,过期之后无条件kill MaxProcessCount 最大进程个数 DefaultMinClassProcessCount 每个程序启动的最小进程个数 DefaultMaxClassProcessCount 每个程序启动的最大进程个数 IPCConnectTimeout 程序响应超时时间 IPCCommTimeout 与程序通讯的最长时间,上面的错误有可能就是这个值设置过小造成的 MaxRequestsPerProcess 每个进程最多完成处理个数,达成后自杀
Lighttpd
配置:lighttpd.conf Lighttpd配置中,关于超时的参数有如下几个(篇幅考虑,只写读超时,写超时参数同理): server.max-keep-alive-idle = 5 server.max-read-idle = 60 server.read-timeout = 0 server.max-connection-idle = 360
# 每次keep-alive 的最大请求数, 默认值是16server.max-keep-alive-requests = 100# keep-alive的最长等待时间, 单位是秒,默认值是5server.max-keep-alive-idle = 1200# lighttpd的work子进程数,默认值是0,单进程运行server.max-worker = 2# 限制用户在发送请求的过程中,最大的中间停顿时间(单位是秒),# 如果用户在发送请求的过程中(没发完请求),中间停顿的时间太长,lighttpd会主动断开连接# 默认值是60(秒)server.max-read-idle = 1200# 限制用户在接收应答的过程中,最大的中间停顿时间(单位是秒),# 如果用户在接收应答的过程中(没接完),中间停顿的时间太长,lighttpd会主动断开连接# 默认值是360(秒)server.max-write-idle = 12000# 读客户端请求的超时限制,单位是秒, 配为0表示不作限制# 设置小于max-read-idle时,read-timeout生效server.read-timeout = 0# 写应答页面给客户端的超时限制,单位是秒,配为0表示不作限制# 设置小于max-write-idle时,write-timeout生效server.write-timeout = 0# 请求的处理时间上限,如果用了mod_proxy_core,那就是和后端的交互时间限制, 单位是秒server.max-connection-idle = 1200
说明:对于一个keep-alive连接上的连续请求,发送第一个请求内容的最大间隔由参数max-read-idle决定,从第二个请求起,发送 请求内容的最大间隔由参数max-keep-alive-idle决定。请求间的间隔超时也由max-keep-alive-idle决定。发送请求内容的总时间 超时由参数read-timeout决定。Lighttpd与后端交互数据的超时由max-connection-idle决定。
延伸阅读: http://www.snooda.com/read/244
Nginx
配置:nginx.conf
http { #Fastcgi: (针对后端的fastcgi 生效, fastcgi 不属于proxy模式) fastcgi_connect_timeout 5; #连接超时 fastcgi_send_timeout 10; #写超时 fastcgi_read_timeout 10; #读取超时 #Proxy: (针对proxy/upstreams的生效) proxy_connect_timeout 15s; #连接超时 proxy_read_timeout 24s; #读超时 proxy_send_timeout 10s; #写超时}
说明: Nginx 的超时设置倒是非常清晰容易理解,上面超时针对不同工作模式,但是因为超时带来的问题是非常多的。
延伸阅读: http://hi.baidu.com/pibuchou/blog/item/a1e330dd71fb8a5995ee3753.htmlhttp://hi.baidu.com/pibuchou/blog/item/7cbccff0a3b77dc60b46e024.htmlhttp://hi.baidu.com/pibuchou/blog/item/10a549818f7e4c9df703a626.htmlhttp://www.apoyl.com/?p=466
PHP本身超时处理
PHP-fpm
配置:php-fpm.conf
<?xml version="1.0" ?><configuration>//... Sets the limit on the number of simultaneous requests that will be served. Equivalent to Apache MaxClients directive. Equivalent to PHP_FCGI_CHILDREN environment in original php.fcgi Used with any pm_style. #php-cgi的进程数量 <value name="max_children">128</value> The timeout (in seconds) for serving a single request after which the worker process will be terminated Should be used when ‘max_execution_time‘ ini option does not stop script execution for some reason ‘0s‘ means ‘off‘ #php-fpm 请求执行超时时间,0s为永不超时,否则设置一个 Ns 为超时的秒数 <value name="request_terminate_timeout">0s</value> The timeout (in seconds) for serving of single request after which a php backtrace will be dumped to slow.log file ‘0s‘ means ‘off‘ <value name="request_slowlog_timeout">0s</value> </configuration>
说明:在 php.ini 中,有一个参数 max_execution_time 可以设置 PHP 脚本的最大执行时间,但是,在 php-cgi(php-fpm) 中,该参数 不会起效。真正能够控制 PHP 脚本最大执行时:0s
就是说如果是使用 mod_php5.so 的模式运行 max_execution_time 是会生效的,但是如果是php-fpm模式中运行时不生效的。
延伸阅读: http://blog.s135.com/file_get_contents/
PHP
配置:php.ini 选项: max_execution_time = 30
或者在代码里设置: ini_set("max_execution_time", 30);
set_time_limit(30);
说明: 对当前会话生效,比如设置0一直不超时,但是如果php的 safe_mode 打开了,这些设置都会不生效。 效果一样,但是具体内容需要参考php-fpm部分内容,如果php-fpm中设置了 request_terminate_timeout 的话,那么 max_execution_time 就不生效。
后端&接口访问超时
HTTP访问
一般我们访问HTTP方式很多,主要是:curl, socket, file_get_contents() 等方法。 如果碰到对方服务器一直没有响应的时候,我们就悲剧了,很容易把整个服务器搞死,所以在访问http的时候也需要考虑超时的问题。
CURL 访问HTTP
CURL 是我们常用的一种比较靠谱的访问HTTP协议接口的lib库,性能高,还有一些并发支持的功能等。 CURL: curl_setopt($ch, opt)
可以设置一些超时的设置,主要包括:
- (重要) CURLOPT_TIMEOUT 设置cURL允许执行的最长秒数。
- (重要) CURLOPT_TIMEOUT_MS 设置cURL允许执行的最长毫秒数。 (在cURL 7.16.2中被加入。从PHP 5.2.3起可使用。 )
CURLOPT_CONNECTTIMEOUT 在发起连接前等待的时间,如果设置为0,则无限等待。
CURLOPT_CONNECTTIMEOUT_MS 尝试连接等待的时间,以毫秒为单位。如果设置为0,则无限等待。 在cURL 7.16.2中被加入。从PHP 5.2.3开始可用。
CURLOPT_DNS_CACHE_TIMEOUT 设置在内存中保存DNS信息的时间,默认为120秒。
curl普通秒级超时:
$ch = curl_init(); curl_setopt($ch, CURLOPT_URL,$url); curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); curl_setopt($ch, CURLOPT_TIMEOUT, 60); //只需要设置一个秒的数量就可以curl_setopt($ch, CURLOPT_HTTPHEADER, $headers); curl_setopt($ch, CURLOPT_USERAGENT, $defined_vars[‘HTTP_USER_AGENT‘]);
curl普通秒级超时使用: curl_setopt($ch, CURLOPT_TIMEOUT, 60); curl如果需要进行毫秒超时,需要增加: curl_easy_setopt(curl, CURLOPT_NOSIGNAL, 1L); 或者是: curl_setopt ( $ch, CURLOPT_NOSIGNAL, true); 是可以支持毫秒级别超时设置的
curl一个毫秒级超时的例子:
<?phpif (!isset($_GET[‘foo‘])) { // Client $ch = curl_init(‘http://example.com/‘); curl_setopt($ch, CURLOPT_RETURNTRANSFER, true); curl_setopt($ch, CURLOPT_NOSIGNAL, 1); //注意,毫秒超时一定要设置这个 curl_setopt($ch, CURLOPT_TIMEOUT_MS, 200); //超时毫秒,cURL 7.16.2中被加入。从PHP 5.2.3起可使用 $data = curl_exec($ch); $curl_errno = curl_errno($ch); $curl_error = curl_error($ch); curl_close($ch); if ($curl_errno > 0) { echo "cURL Error ($curl_errno): $curl_error\n"; } else { echo "Data received: $data\n"; }} else { // Server sleep(10); echo "Done.";}?>
其他一些技巧:
- 按照经验总结是:cURL 版本 >= libcurl/7.21.0 版本,毫秒级超时是一定生效的,切记。
- curl_multi的毫秒级超时也有问题。。单次访问是支持ms级超时的,curl_multi并行调多个会不准
流处理方式访问HTTP
除了curl,我们还经常自己使用fsockopen、或者是file操作函数来进行HTTP协议的处理,所以,我们对这块的超时处理也是必须的。
一般连接超时可以直接设置,但是流读取超时需要单独处理。 自己写代码处理:
$tmCurrent = gettimeofday(); $intUSGone = ($tmCurrent[‘sec‘] - $tmStart[‘sec‘]) * 1000000 + ($tmCurrent[‘usec‘] - $tmStart[‘usec‘]); if ($intUSGone > $this->_intReadTimeoutUS) { return false; }
或者使用内置流处理函数 stream_set_timeout() 和 stream_get_meta_data() 处理:
<?php // Timeout in seconds $timeout = 5; $fp = fsockopen("example.com", 80, $errno, $errstr, $timeout); if ($fp) { fwrite($fp, "GET / HTTP/1.0\r\n"); fwrite($fp, "Host: example.com\r\n"); fwrite($fp, "Connection: Close\r\n\r\n"); stream_set_blocking($fp, true); //重要,设置为非阻塞模式 stream_set_timeout($fp,$timeout); //设置超时 $info = stream_get_meta_data($fp); while ((!feof($fp)) && (!$info[‘timed_out‘])) { $data .= fgets($fp, 4096); $info = stream_get_meta_data($fp); ob_flush; flush(); } if ($info[‘timed_out‘]) { echo "Connection Timed Out!"; } else { echo $data; } }
file_get_contents 超时:
<?php$timeout = array( ‘http‘ => array( ‘timeout‘ => 5 //设置一个超时时间,单位为秒 ));$ctx = stream_context_create($timeout);$text = file_get_contents("http://example.com/", 0, $ctx);?>
fopen 超时:
<?php$timeout = array( ‘http‘ => array( ‘timeout‘ => 5 //设置一个超时时间,单位为秒 ));$ctx = stream_context_create($timeout);if ($fp = fopen("http://example.com/", "r", false, $ctx)) { while( $c = fread($fp, 8192)) { echo $c; } fclose($fp);}?>
MySQL
php中的mysql客户端都没有设置超时的选项,mysqli和mysql都没有,但是libmysql是提供超时选项的,只是我们在php中隐藏了而已。
那么如何在PHP中使用这个操作捏,就需要我们自己定义一些MySQL操作常量,主要涉及的常量有: MYSQL_OPT_READ_TIMEOUT=11; MYSQL_OPT_WRITE_TIMEOUT=12;
这两个,定义以后,可以使用 options 设置相应的值。
不过有个注意点,mysql内部实现: 1. 超时设置单位为秒,最少配置1秒 2. 但mysql底层的read会重试两次,所以实际会是 3 秒
重试两次 + 自身一次 = 3倍超时时间,那么就是说最少超时时间是3秒,不会低于这个值,对于大部分应用来说可以接受,但是对于小部分应用需要优化。
查看一个设置访问mysql超时的php实例:
<?php//自己定义读写超时常量if (!defined(‘MYSQL_OPT_READ_TIMEOUT‘)) { define(‘MYSQL_OPT_READ_TIMEOUT‘, 11);}if (!defined(‘MYSQL_OPT_WRITE_TIMEOUT‘)) { define(‘MYSQL_OPT_WRITE_TIMEOUT‘, 12);}//设置超时$mysqli = mysqli_init();$mysqli->options(MYSQL_OPT_READ_TIMEOUT, 3);$mysqli->options(MYSQL_OPT_WRITE_TIMEOUT, 1); //连接数据库$mysqli->real_connect("localhost", "root", "root", "test");if (mysqli_connect_errno()) { printf("Connect failed: %s/n", mysqli_connect_error()); exit();}//执行查询 sleep 1秒不超时printf("Host information: %s/n", $mysqli->host_info);if (!($res=$mysqli->query(‘select sleep(1)‘))) { echo "query1 error: ". $mysqli->error ."/n";} else { echo "Query1: query success/n";}//执行查询 sleep 9秒会超时if (!($res=$mysqli->query(‘select sleep(9)‘))) { echo "query2 error: ". $mysqli->error ."/n";} else { echo "Query2: query success/n";}$mysqli->close();echo "close mysql connection/n";?>
延伸阅读: http://blog.csdn.net/heiyeshuwu/article/details/5869813
Memcached
PHP扩展
php_memcache 客户端: 连接超时:bool Memcache::connect ( string $host [, int $port [, int $timeout ]] )
在get和set的时候,都没有明确的超时设置参数。
libmemcached 客户端:在php接口没有明显的超时参数。
说明:所以说,在PHP中访问Memcached是存在很多问题的,需要自己hack部分操作,或者是参考网上补丁。
C&C++访问MEMCACHED
客户端:libmemcached 客户端 说明:memcache超时配置可以配置小点,比如5,10个毫秒已经够用了,超过这个时间还不如从数据库查询。
下面是一个连接和读取set数据的超时的C++示例:
//创建连接超时(连接到Memcached)memcached_st* MemCacheProxy::_create_handle(){ memcached_st * mmc = NULL; memcached_return_t prc; if (_mpool != NULL) { // get from pool mmc = memcached_pool_pop(_mpool, false, &prc); if (mmc == NULL) { __LOG_WARNING__("MemCacheProxy", "get handle from pool error [%d]", (int)prc); } return mmc; } memcached_st* handle = memcached_create(NULL); if (handle == NULL){ __LOG_WARNING__("MemCacheProxy", "create_handle error"); return NULL; } // 设置连接/读取超时 memcached_behavior_set(handle, MEMCACHED_BEHAVIOR_HASH, MEMCACHED_HASH_DEFAULT); memcached_behavior_set(handle, MEMCACHED_BEHAVIOR_NO_BLOCK, _noblock); //参数MEMCACHED_BEHAVIOR_NO_BLOCK为1使超时配置生效,不设置超时会不生效,关键时候会悲剧的,容易引起雪崩 memcached_behavior_set(handle, MEMCACHED_BEHAVIOR_CONNECT_TIMEOUT, _connect_timeout); //连接超时 memcached_behavior_set(handle, MEMCACHED_BEHAVIOR_RCV_TIMEOUT, _read_timeout); //读超时 memcached_behavior_set(handle, MEMCACHED_BEHAVIOR_SND_TIMEOUT, _send_timeout); //写超时 memcached_behavior_set(handle, MEMCACHED_BEHAVIOR_POLL_TIMEOUT, _poll_timeout); // 设置一致hash // memcached_behavior_set_distribution(handle, MEMCACHED_DISTRIBUTION_CONSISTENT); memcached_behavior_set(handle, MEMCACHED_BEHAVIOR_DISTRIBUTION, MEMCACHED_DISTRIBUTION_CONSISTENT); memcached_return rc; for (uint i = 0; i < _server_count; i++){ rc = memcached_server_add(handle, _ips[i], _ports[i]); if (MEMCACHED_SUCCESS != rc) { __LOG_WARNING__("MemCacheProxy", "add server [%s:%d] failed.", _ips[i], _ports[i]); } } _mpool = memcached_pool_create(handle, _min_connect, _max_connect); if (_mpool == NULL){ __LOG_WARNING__("MemCacheProxy", "create_pool error"); return NULL; } mmc = memcached_pool_pop(_mpool, false, &prc); if (mmc == NULL) { __LOG_WARNING__(