libcurl 配合epoll 的异步并行server原理

有同步和异步两种方式，而在本文中，重点放在异步方式，并使用epoll进行socket事件管理。

在libcurl官方网站上提供了使用epoll进行事件管理的例子。 Example

步骤如下：

用来设置socket回调和timer回调，sock_cb是socket的回调函数，而multi_timer_cb是timeout之后的回到函数。

write_cb 是在libcurl接收到数据之后调用的回调函数，用来处理接收到的数据。

CURLOPT_PROGRESSFUNCTION 指定的函数正常情况下每秒被libcurl调用一次，为了使 CURLOPT_PROGRESSFUNCTION 被调 用， CURLOPT_NOPROGRESS 必须被设置为false， CURLOPT_PROGRESSDATA 指定的参数将作为 CURLOPT_PROGRESSFUNCTION 指定函数的第一个参数。

// 11. 接收完毕之后，状态变成EPOLLIN，触发event_cb()，调用curl_multi_socket_action()处理

几种常见的PHP超时处理方法

1 背景知识

2 libcurl 基础知识

3 libcurl两种模式

4 libcurl实例分析

1 背景知识:

1.1 基本网络通信cs模式,select 框架,网上例子很多.下面只介绍epoll的难点.其他内容请自行搜索.

1.2 epoll 用法

1.2.1 基础知识:

在自己端准备write之前,通过epoll ctrl设置成epoll out.

epoll in 是被动监听接收,epoll out是主动设置.

1.2.2 epoll 模型：网上例子很多.

这个是最简单异步，先发送--等待--接收，这种用法很少用了

https://blog.csdn.net/lijinqi1987/article/details/53925835 and https://blog.csdn.net/Rong_Toa/article/details/105712677 .

本文讨论curl_multi_socket_action 方案.

**3.1 easy 模式(这种模式比较简单) **

调用curl_easy_setopt函数设置传输的一些基本参数,CULROPT_URL必填.设置完成后,调用curl_easy_perform函数发送数据.

CURLcode curl_easy_setopt(CURL *handle, CURLOPT_WRITEDATA, void *pointer);

curl_easy_setopt(conn->easy, CURLOPT_URL, conn->url);

curl_easy_setopt(conn->easy, CURLOPT_WRITEFUNCTION, write_cb);

curl_easy_setopt(conn->easy, CURLOPT_WRITEDATA, conn);

第一句 curl建立与url 连接，第二句将respond 发送到write_cb,第三句是将write_cb处理内容写入conn指向的文件

3.2 multi 模式

1 ) 常用函数介绍(注意参数)

a ) CURLMOPT_SOCKETFUNCTION:设置socket的回调函数.是所有socket 变化都会调用callback(不仅仅是socket connect，read/write也调用).

对于接收的话，CURLMOPT_SOCKETDATA没用。socketp是返回值。

CURLMOPT_TIMERDATA and CURLOPT_WRITEDATA 都是对应 curl function的入参.

b) CURLMOPT_TIMERFUNCTION :set callback to receive timeout values

You can also use the curl_multi_timeout function to poll the value at any given time,

but for an event-based system using the callback is far better than relying on polling the timeout value.

系统超时操作触发callback.

c ) CURLOPT_WRITEFUNCTION:set callback for writing received data

CURLOPT_WRITEDATA:custom pointer passed to the write callback

设置CURLOPT_WRITEFUNCTION的参数4,把参数1 ptr指向的数据拷到参数4 userdata

d ) curl_multi_setopt

CURLMOPT_TIMERDATA:The userp pointer is set with CURLMOPT_TIMERDATA. 入参

curl_multi_setopt is used to tell a libcurl multi handle how to behave.

CURLMOPT_SOCKETFUNCTION,CURLMOPT_SOCKETDATA,CURLMOPT_TIMERFUNCTION,CURLMOPT_TIMERDATA

e) curl_multi_assign

set association sockfd with sockptr ;curl系统中将sockfd和sockpt结构体绑定

执行curl命令.curl_multi_socket_action=curl_multi_perform：reads/writes available data given an action.通知libcurl读写数据

执行curl_multi_add_handle中的东东. 注意参数3ev_bitmask是action.

比如: 设置了CURLMOPT_SOCKETFUNCTION就从server download file.设置CURLMOPT_UPLOAD就是上传file.

CURLOPT_WRITEFUNCTION 就调用CURLOPT_WRITEDATA将download data写入file.

curl同时和socket，epoll，file 同时打交道.

curl精华：curl_multi_socket_action可以自动get file from server(CURLOPT_URL) and 自动write file to local(CURLOPT_WRITEFUNCTION)

4.1 curl+ epoll

CURLOPT_URL=connect,CURLMOPT_SOCKETFUNCTION=epoll_ctrl, curl_multi_socket_action=get remote file and write file to local ,epoll=select.

实现步骤和时序:

https://curl.haxx.se/libcurl/c/ephiperfifo.html

[ https://www.jianshu.com/p/80274bc54aff]

( https://www.jianshu.com/p/80274bc54aff )

https://blog.csdn.net/Rong_Toa/article/details/105712677

https://blog.csdn.net/lijinqi1987/article/details/53996129

https://www.cnblogs.com/zl-graduate/articles/6724446.html

Web服务器超时处理

[ Apache ]

一般在性能很高的情况下，缺省所有超时配置都是30秒，但是在上传文件，或者网络速度很慢的情况下，那么可能触发超时操作。

目前apachefastcgiphp-fpm模式下有三个超时设置：

fastcgi超时设置：

修改的fastcgi连接配置，类似如下：

复制代码 代码如下:

FastCgiExternalServer/home/forum/apache/apache_php/cgi-bin/php-cgi-socket/home/forum/php5/etc/php-fpm.sock

ScriptAlias/fcgi-bin/"/home/forum/apache/apache_php/cgi-bin/"

AddHandlerphp-fastcgi.php

Actionphp-fastcgi/fcgi-bin/php-cgi

AddTypeapplication/x-

缺省配置是30s，如果需要定制自己的配置，需要修改配置，比如修改为100秒：(修改后重启apache)：

复制代码 代码如下:

FastCgiExternalServer/home/forum/apache/apache_php/cgi-bin/php-cgi-socket/home/forum/php5/etc/php-fpm.sock-idle-timeout100

ScriptAlias/fcgi-bin/"/home/forum/apache/apache_php/cgi-bin/"

AddHandlerphp-fastcgi.php

Actionphp-fastcgi/fcgi-bin/php-cgi

AddTypeapplication/x-

如果超时会返回500错误，断开跟后端php服务的连接，同时记录一条apache错误日志：

[ThuJan2718:30:152011][error][client10.81.41.110]FastCGI:commwithserver"/home/forum/apache/apache_php/cgi-bin/php-cgi"aborted:idletimeout(30sec)

[ThuJan2718:30:152011][error][client10.81.41.110]FastCGI:incompleteheaders(0bytes)receivedfromserver"/home/forum/apache/apache_php/cgi-bin/php-cgi"

其他fastcgi配置参数说明：

复制代码 代码如下:

IdleTimeout发呆时限

ProcessLifeTime一个进程的最长生命周期，过期之后无条件kill

MaxProcessCount最大进程个数

DefaultMinClassProcessCount每个程序启动的最小进程个数

DefaultMaxClassProcessCount每个程序启动的最大进程个数

IPCConnectTimeout程序响应超时时间

IPCCommTimeout与程序通讯的最长时间，上面的错误有可能就是这个值设置过小造成的

MaxRequestsPerProcess每个进程最多完成处理个数，达成后自杀

[ Lighttpd ]

配置：lig

Lighttpd配置中，关于超时的参数有如下几个（篇幅考虑，只写读超时，写超时参数同理）：

主要涉及选项：

server.max-keep-alive-idle=5

server.max-read-idle=60

server.read-timeout=0

server.max-connection-idle=360

复制代码 代码如下:

#每次keep-alive的最大请求数,默认值是16

server.max-keep-alive-requests=100

#keep-alive的最长等待时间,单位是秒，默认值是5

server.max-keep-alive-idle=1200

#lighttpd的work子进程数，默认值是0，单进程运行

server.max-worker=2

#限制用户在发送请求的过程中，最大的中间停顿时间(单位是秒)，

#如果用户在发送请求的过程中(没发完请求)，中间停顿的时间太长，lighttpd会主动断开连接

#默认值是60(秒)

server.max-read-idle=1200

#限制用户在接收应答的过程中，最大的中间停顿时间(单位是秒)，

#如果用户在接收应答的过程中(没接完)，中间停顿的时间太长，lighttpd会主动断开连接

#默认值是360(秒)

server.max-write-idle=12000

#读客户端请求的超时限制，单位是秒,配为0表示不作限制

#设置小于max-read-idle时，read-timeout生效

server.read-timeout=0

#写应答页面给客户端的超时限制，单位是秒，配为0表示不作限制

#设置小于max-write-idle时，write-timeout生效

server.write-timeout=0

#请求的处理时间上限，如果用了mod_proxy_core，那就是和后端的交互时间限制,单位是秒

server.max-connection-idle=1200

说明：

对于一个keep-alive连接上的连续请求，发送第一个请求内容的最大间隔由参数max-read-idle决定，从第二个请求起，发送请求内容的最大间隔由参数max-keep-alive-idle决定。请求间的间隔超时也由max-keep-alive-idle决定。发送请求内容的总时间超时由参数read-timeout决定。Lighttpd与后端交互数据的超时由max-connection-idle决定。

延伸阅读：

[ Nginx ]

配置：nf

复制代码 代码如下:

http{

#Fastcgi:(针对后端的fastcgi生效,fastcgi不属于proxy模式)

fastcgi_connect_timeout5;#连接超时

fastcgi_send_timeout10; #写超时

fastcgi_read_timeout10;#读取超时

#Proxy:(针对proxy/upstreams的生效)

proxy_connect_timeout15s;#连接超时

proxy_read_timeout24s;#读超时

proxy_send_timeout10s; #写超时

}

说明：

Nginx 的超时设置倒是非常清晰容易理解，上面超时针对不同工作模式，但是因为超时带来的问题是非常多的。

延伸阅读：

ml

ml

ml

PHP本身超时处理

[ PHP-fpm ]

配置：nf

复制代码 代码如下:

//...

Setsthelimitonthenumberofsimultaneousrequeststhatwillbeserved.

EquivalenttoApacheMaxClientsdirective.

EquivalenttoPHP_FCGI_CHILDRENenvironmentinoriginalphp.fcgi

Usedwithanypm_style.

#php-cgi的进程数量

128

Thetimeout(inseconds)forservingasinglerequestafterwhichtheworkerprocesswillbeterminated

Shouldbeusedwhen'max_execution_time'inioptiondoesnotstopscriptexecutionforsomereason

'0s'means'off'

#php-fpm 请求执行超时时间，0s为永不超时，否则设置一个 Ns 为超时的秒数

0s

Thetimeout(inseconds)forservingofsinglerequestafterwhichaphpbacktracewillbedumpedtoslow.logfile

'0s'means'off'

0s

说明：

在php.ini中，有一个参数max_execution_time可以设置PHP脚本的最大执行时间，但是，在php-cgi(php-fpm)中，该参数不会起效。真正能够控制PHP脚本最大执行时：

0s

就是说如果是使用mod_php5.so的模式运行max_execution_time是会生效的，但是如果是php-fpm模式中运行时不生效的。

延伸阅读：

[ PHP ]

配置：php.ini

选项：

max_execution_time=30

或者在代码里设置：

ini_set("max_execution_time",30);

set_time_limit(30);

说明：

对当前会话生效，比如设置0一直不超时，但是如果php的safe_mode打开了，这些设置都会不生效。

效果一样，但是具体内容需要参考php-fpm部分内容，如果php-fpm中设置了request_terminate_timeout的话，那么max_execution_time就不生效。

后端&接口访问超时

HTTP访问

一般我们访问HTTP方式很多，主要是：curl,socket,file_get_contents()等方法。

如果碰到对方服务器一直没有响应的时候，我们就悲剧了，很容易把整个服务器搞死，所以在访问http的时候也需要考虑超时的问题。

[ CURL 访问HTTP]

CURL 是我们常用的一种比较靠谱的访问HTTP协议接口的lib库，性能高，还有一些并发支持的功能等。

CURL:

curl_setopt($ch,opt)可以设置一些超时的设置，主要包括：

*(重要)CURLOPT_TIMEOUT设置cURL允许执行的最长秒数。

*(重要)CURLOPT_TIMEOUT_MS设置cURL允许执行的最长毫秒数。(在cURL7.16.2中被加入。从PHP5.2.3起可使用。)

CURLOPT_CONNECTTIMEOUT在发起连接前等待的时间，如果设置为0，则无限等待。

CURLOPT_CONNECTTIMEOUT_MS尝试连接等待的时间，以毫秒为单位。如果设置为0，则无限等待。在cURL7.16.2中被加入。从PHP5.2.3开始可用。

CURLOPT_DNS_CACHE_TIMEOUT设置在内存中保存DNS信息的时间，默认为120秒。

curl普通秒级超时：

$ch=curl_init();

curl_setopt($ch,CURLOPT_URL,$url);

curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);

curl_setopt($ch,CURLOPT_TIMEOUT,60);//只需要设置一个秒的数量就可以

curl_setopt($ch,CURLOPT_HTTPHEADER,$headers);

curl_setopt($ch,CURLOPT_USERAGENT,$defined_vars['HTTP_USER_AGENT']);

curl普通秒级超时使用：

curl_setopt($ch,CURLOPT_TIMEOUT,60);

curl如果需要进行毫秒超时，需要增加：

curl_easy_setopt(curl,CURLOPT_NOSIGNAL,1L);

或者是：

curl_setopt($ch,CURLOPT_NOSIGNAL,true);是可以支持毫秒级别超时设置的

curl一个毫秒级超时的例子：

复制代码 代码如下:

鹏仔微信 15129739599 鹏仔QQ344225443 鹏仔前端 pjxi.com 共享博客 sharedbk.com