Re: 关于ngx_lua module的使用问题

agentzh

Hello!

2015-03-25 18:47 GMT-07:00 林谡:
> 我们使用nginx做客户端web访问的接入， 后端各种service提供服务，service对外的接口
> 是公司内部实现的异步rpc协议（所有请求可以共用一个tcp连接请求，每个请求有唯一的
> sequence标记， 应答异步， 访问者通过sequence来匹配 request，response）
> 希望的流程是Nginx收到http request，处理模块 把请求转成内部rpc格式
> 通过一个tcp连接（所有处理共用的）向后端异步发，同时保持http request上下文，当后
> 端应答回来后， 要匹配到请求的上下文，然后给http response，
>  需求特别说明的是这个过程与redis， mysql访问不同，它们还是一种同步的机制，一个连接上只能并发一个请求。
> 请问，我们需要的这个机制ngx_lua能提供吗？
>

可以。你可以在 init_worker_by_lua 中通过 ngx.timer.at()
函数创建一个背景工作线程（还是“轻线程），然后所有的后端请求都委托给这个轻线程来分发。这个背景轻线程保持一个到后端的唯一连接。各个下游请求的处理程序（比如
content_by_lua）可以通过 lua-resty-lock [1] 来和工作轻线程同步。你可以使用每 nginx worker
进程一个后端连接的模式，也可以使用整个 nginx 实例一个后端连接的模式。对于后者，你需要通过共享内存字典来跨 worker
进程分发到后端的请求和应答数据，同时你需要确保只有一个 worker 能创建 timer（即背景工作线程）。

建议加入 openresty 中文邮件列表讨论这样的问题，谢谢合作！请见 http://openresty.org/#Community

P.S. 同时抄送给该列表。

Best regards,
-agentzh

[1] https://github.com/openresty/lua-resty-lock

ssdrliu

春哥，这儿我有点疑问：

如何确保只有一个worker创建timer？

在 2015年3月27日星期五 UTC+8上午3:48:00，agentzh写道：

Hello!

2015-03-25 18:47 GMT-07:00 林谡:
> 我们使用nginx做客户端web访问的接入，后端各种service提供服务，service对外的接口
> 是公司内部实现的异步rpc协议（所有请求可以共用一个tcp连接请求，每个请求有唯一的
> sequence标记，应答异步，访问者通过sequence来匹配 request，response）
> 希望的流程是Nginx收到http request，处理模块把请求转成内部rpc格式
> 通过一个tcp连接（所有处理共用的）向后端异步发，同时保持http request上下文，当后
> 端应答回来后，要匹配到请求的上下文，然后给http response，
> 需求特别说明的是这个过程与redis， mysql访问不同，它们还是一种同步的机制，一个连接上只能并发一个请求。
> 请问，我们需要的这个机制ngx_lua能提供吗？
>

可以。你可以在 init_worker_by_lua 中通过 ngx.timer.at()
函数创建一个背景工作线程（还是“轻线程），然后所有的后端请求都委托给这个轻线程来分发。这个背景轻线程保持一个到后端的唯一连接。各个下游请求的处理程序（比如
content_by_lua）可以通过 lua-resty-lock [1] 来和工作轻线程同步。你可以使用每 nginx worker
进程一个后端连接的模式，也可以使用整个 nginx 实例一个后端连接的模式。对于后者，你需要通过共享内存字典来跨 worker
进程分发到后端的请求和应答数据，同时你需要确保只有一个 worker 能创建 timer（即背景工作线程）。

建议加入 openresty 中文邮件列表讨论这样的问题，谢谢合作！请见 http://openresty.org/#Community

P.S. 同时抄送给该列表。

Best regards,
-agentzh

[1] https://github.com/openresty/lua-resty-lock

agentzh

Hello!

2015-12-01 12:25 GMT+08:00 牧童:
> 春哥，这儿我有点疑问：
> 如何确保只有一个worker创建timer？
>

很简单啊，你的第一个 worker 都在创建 timer 之前向你的某个 shdict 里面 add 一个固定的 key，显然只有其中一个
worker 能够 add 成功（因为 key 如果存在，则 add 操作会返回失败），于是只有 add 成功的 worker 才去创建
timer.

我记得 lua-resty-upstream-healthcheck 库正是用了这种技巧，可以参考一下。

Regards,
-agentzh

ssdrliu

感谢春哥的解答，上次看healthcheck居然没有发现这一点，我再去好好看看！

在 2015年12月1日星期二 UTC+8下午12:27:37，agentzh写道：

Hello!

2015-12-01 12:25 GMT+08:00 牧童:
> 春哥，这儿我有点疑问：
> 如何确保只有一个worker创建timer？
>

很简单啊，你的第一个 worker 都在创建 timer 之前向你的某个 shdict 里面 add 一个固定的 key，显然只有其中一个
worker 能够 add 成功（因为 key 如果存在，则 add 操作会返回失败），于是只有 add 成功的 worker 才去创建
timer.

我记得 lua-resty-upstream-healthcheck 库正是用了这种技巧，可以参考一下。

Regards,
-agentzh

yuansheng_2f16

这里要考虑 add 成功后，worker 进程会 crash 的可能。否则后面将没有 worker 再次执行这个 TIMER 。

调用 ngx.worker.id 区分不同worker，就可以准确控制。

2015-12-01 21:09 GMT+08:00 牧童 <ssd...@gmail.com>:

感谢春哥的解答，上次看healthcheck居然没有发现这一点，我再去好好看看！

在 2015年12月1日星期二 UTC+8下午12:27:37，agentzh写道：
Hello!

2015-12-01 12:25 GMT+08:00 牧童:
> 春哥，这儿我有点疑问：
> 如何确保只有一个worker创建timer？
>

很简单啊，你的第一个 worker 都在创建 timer 之前向你的某个 shdict 里面 add 一个固定的 key，显然只有其中一个
worker 能够 add 成功（因为 key 如果存在，则 add 操作会返回失败），于是只有 add 成功的 worker 才去创建
timer.

我记得 lua-resty-upstream-healthcheck 库正是用了这种技巧，可以参考一下。

Regards,
-agentzh

--

Membhis

My github: https://github.com/membphis

Our Book: OpenResty Best Practices