[release] lua-resty-limit-req

timebug.info · 2014-09-24T01:20:10+00:00

Hello! 2014-09-22 11:58 GMT-07:00 Yichun Zhang (agentzh): > 2014-09-20 20:43 GMT-07:00 小冶: >> >> 这个patch是&...

[release] lua-resty-limit-req

timebug.info

# lua-resty-limit-req

lua-resty-limit-req - Limit the request processing rate between multiple NGINX instances

## Synopsis

lua_package_path "/path/to/lua-resty-redis/lib/?.lua;;";
lua_package_path "/path/to/lua-resty-limit-req/lib/?.lua;;";

server {

    listen 9090;

    location /t {
        access_by_lua '
            local req = require "resty.limit.req"

            local ok = req.limit{ key = ngx.var.remote_addr, zone = "one",
                                  rate = "2r/s", interval = 2, log_level = ngx.NOTICE,
                                  rds = { host = "127.0.0.1", port = 6379 }}

            if not ok then
                return ngx.exit(503)
            end
        ';

        echo Logged in;
    }

}

----

最近参考 ngx_http_limit_req_module 写了一个 ngx_lua 的版本，在此分享给大家 :-)

特别地，利用了 redis 作为后端状态存储服务，这样就能使得多个 NGINX 实例之间能够共享和维护这些状态，相当与 ngx_limit_req 的集群版本。

项目地址：https://github.com/timebug/lua-resty-limit-req

hi.laowang

总感觉和nginx内置的limit模块相比，意义不大，虽然可以处理多实例，但引入了redis性能影响较大，而且nginx内置的limit虽然是单实例的，但也可以粗略模式多实例情况，相应阈值除以实例数之类的

On Wednesday, September 24, 2014 1:20:09 AM UTC+8, Monkey Zhang wrote:

# lua-resty-limit-req

lua-resty-limit-req - Limit the request processing rate between multiple NGINX instances

## Synopsis

lua_package_path "/path/to/lua-resty-redis/lib/?.lua;;";
lua_package_path "/path/to/lua-resty-limit-req/lib/?.lua;;";

server {

    listen 9090;

    location /t {
        access_by_lua '
            local req = require "resty.limit.req"

            local ok = req.limit{ key = ngx.var.remote_addr, zone = "one",
                                  rate = "2r/s", interval = 2, log_level = ngx.NOTICE,
                                  rds = { host = "127.0.0.1", port = 6379 }}

            if not ok then
                return ngx.exit(503)
            end
        ';

        echo Logged in;
    }

}

----

最近参考 ngx_http_limit_req_module 写了一个 ngx_lua 的版本，在此分享给大家 :-)

特别地，利用了 redis 作为后端状态存储服务，这样就能使得多个 NGINX 实例之间能够共享和维护这些状态，相当与 ngx_limit_req 的集群版本。

项目地址：https://github.com/timebug/lua-resty-limit-req

timebug.info

嗯，目前的适用场景确实比较窄，这样实现的原因是因为我们某个搜索集群有多个 NGINX 实例，前端 LVS 负载均衡（RR），请求会轮询落到不同实例上，当然此时将整个集群的阀值除以实例数分散到每个节点也是可以的，但我们同时希望某个 IP 或账号请求频率超过阀值后要禁用一段时间（此处的 interval 就是用作此用途的），这样一来，状态就有必要多实例共享了，否则禁了一个点，其他点可能还可以访问。

当然，如果用 ngx_lua 共享内存来实现这个 limit 的逻辑会更好些（至少不会引入太多的 redis 网络 IO 消耗），然后多实例共享禁用状态的话可以通过 redis + ngx_lua cache 的方式维护（只是时间上多个实例之间有些不一致而已，当然具体看 cache 策略，例如用 ngx.timer_at 定时去更新的话会更加一致些）。

PS. 上述说法可能有误，请多指教，看看是否有更好地解决办法 :-)

在 2014年9月24日星期三UTC+8上午10时09分54秒，老王写道：

# lua-resty-limit-req

lua-resty-limit-req - Limit the request processing rate between multiple NGINX instances

## Synopsis

lua_package_path "/path/to/lua-resty-redis/lib/?.lua;;";
lua_package_path "/path/to/lua-resty-limit-req/lib/?.lua;;";

server {

    listen 9090;

    location /t {
        access_by_lua '
            local req = require "resty.limit.req"

            local ok = req.limit{ key = ngx.var.remote_addr, zone = "one",
                                  rate = "2r/s", interval = 2, log_level = ngx.NOTICE,
                                  rds = { host = "127.0.0.1", port = 6379 }}

            if not ok then
                return ngx.exit(503)
            end
        ';

        echo Logged in;
    }

}

----

最近参考 ngx_http_limit_req_module 写了一个 ngx_lua 的版本，在此分享给大家 :-)

特别地，利用了 redis 作为后端状态存储服务，这样就能使得多个 NGINX 实例之间能够共享和维护这些状态，相当与 ngx_limit_req 的集群版本。

项目地址：https://github.com/timebug/lua-resty-limit-req

wangxi968

多台nginx服务器如果负载都比较大时，后端的redis会不会成为瓶颈？

timebug.info

目前的实现方式，redis 确实有可能会成为瓶颈。

1. 我们目前只对某几类少部分低频操作做全网限速保护（防止恶意访问），不影响其他请求。

2. 结合我们自己基于 ngx_lua 实现的 lua-resty-checkups 主/被动健康检查及负载均衡模块（暂未开源出来），redis 配置了主备两台，若两台都挂的话，请求就不会再经过这个模块逻辑了（因为主动健康检查模块已经剔除掉了所有可用 redis 节点，默认每 5s 检查一次，连接不上，超时都认为节点暂时不可用）。

在 2014年9月24日星期三UTC+8上午10时42分51秒，王曦写道：

多台nginx服务器如果负载都比较大时，后端的redis会不会成为瓶颈？

smallfish.xy

是不是直接用 ngx.shared.DICT 会简单一些？

smallfish http://chenxiaoyu.org

2014-09-24 11:02 GMT+08:00 Monkey Zhang <timeb...@gmail.com>:

目前的实现方式，redis 确实有可能会成为瓶颈。

1. 我们目前只对某几类少部分低频操作做全网限速保护（防止恶意访问），不影响其他请求。

2. 结合我们自己基于 ngx_lua 实现的 lua-resty-checkups 主/被动健康检查及负载均衡模块（暂未开源出来），redis 配置了主备两台，若两台都挂的话，请求就不会再经过这个模块逻辑了（因为主动健康检查模块已经剔除掉了所有可用 redis 节点，默认每 5s 检查一次，连接不上，超时都认为节点暂时不可用）。

在 2014年9月24日星期三UTC+8上午10时42分51秒，王曦写道：
多台nginx服务器如果负载都比较大时，后端的redis会不会成为瓶颈？

--

noisywolf

他要实现多台Ngnix的限制，不能用 ngx.shared.DICT

发自我的 iPhone

在 2014年9月24日，下午12:05，smallfish <small...@gmail.com> 写道：

是不是直接用 ngx.shared.DICT 会简单一些？

--
smallfish http://chenxiaoyu.org

2014-09-24 11:02 GMT+08:00 Monkey Zhang <timeb...@gmail.com>:
目前的实现方式，redis 确实有可能会成为瓶颈。

1. 我们目前只对某几类少部分低频操作做全网限速保护（防止恶意访问），不影响其他请求。

2. 结合我们自己基于 ngx_lua 实现的 lua-resty-checkups 主/被动健康检查及负载均衡模块（暂未开源出来），redis 配置了主备两台，若两台都挂的话，请求就不会再经过这个模块逻辑了（因为主动健康检查模块已经剔除掉了所有可用 redis 节点，默认每 5s 检查一次，连接不上，超时都认为节点暂时不可用）。

在 2014年9月24日星期三UTC+8上午10时42分51秒，王曦写道：
多台nginx服务器如果负载都比较大时，后端的redis会不会成为瓶颈？

--

--

level077_0b9b

能不能在上一层lvs上将IP禁用？

在 2014年9月24日星期三UTC+8上午10时39分52秒，Monkey Zhang写道：

PS. 上述说法可能有误，请多指教，看看是否有更好地解决办法 :-)

在 2014年9月24日星期三UTC+8上午10时09分54秒，老王写道：

# lua-resty-limit-req

lua-resty-limit-req - Limit the request processing rate between multiple NGINX instances

## Synopsis

lua_package_path "/path/to/lua-resty-redis/lib/?.lua;;";
lua_package_path "/path/to/lua-resty-limit-req/lib/?.lua;;";

server {

    listen 9090;

    location /t {
        access_by_lua '
            local req = require "resty.limit.req"

            local ok = req.limit{ key = ngx.var.remote_addr, zone = "one",
                                  rate = "2r/s", interval = 2, log_level = ngx.NOTICE,
                                  rds = { host = "127.0.0.1", port = 6379 }}

            if not ok then
                return ngx.exit(503)
            end
        ';

        echo Logged in;
    }

}

----

最近参考 ngx_http_limit_req_module 写了一个 ngx_lua 的版本，在此分享给大家 :-)

特别地，利用了 redis 作为后端状态存储服务，这样就能使得多个 NGINX 实例之间能够共享和维护这些状态，相当与 ngx_limit_req 的集群版本。

项目地址：https://github.com/timebug/lua-resty-limit-req

timebug.info

嗯，单实例上的 limit 逻辑完全可以用 ngx.shared.DICT 来实现，但状态要多个实例共享还是需要通过类似 Redis 的集中存储服务来实现，即某个节点判断超限后，其他节点也能感知到这个状态。只是这样无法保证整个行为的原子性了（当然，很长场景下这个不是问题），现在的实现通过 Redis/Lua script 实现能确保全网 limit 行为的原子性。

在 2014年9月24日星期三UTC+8下午12时05分40秒，smallfish写道：

是不是直接用 ngx.shared.DICT 会简单一些？

--
smallfish http://chenxiaoyu.org

2014-09-24 11:02 GMT+08:00 Monkey Zhang <timebu...@gmail.com>:
目前的实现方式，redis 确实有可能会成为瓶颈。

1. 我们目前只对某几类少部分低频操作做全网限速保护（防止恶意访问），不影响其他请求。

2. 结合我们自己基于 ngx_lua 实现的 lua-resty-checkups 主/被动健康检查及负载均衡模块（暂未开源出来），redis 配置了主备两台，若两台都挂的话，请求就不会再经过这个模块逻辑了（因为主动健康检查模块已经剔除掉了所有可用 redis 节点，默认每 5s 检查一次，连接不上，超时都认为节点暂时不可用）。

在 2014年9月24日星期三UTC+8上午10时42分51秒，王曦写道：
多台nginx服务器如果负载都比较大时，后端的redis会不会成为瓶颈？

--

timebug.info

禁用不单单是 IP，根据业务需求可能是某个账号或者其他，即 key 的值可以是多个纬度组合的，例如 Request Method, URI 之类，LVS 应该无法处理这样的逻辑。

在 2014年9月24日星期三UTC+8下午1时14分33秒，level077写道：

能不能在上一层lvs上将IP禁用？

在 2014年9月24日星期三UTC+8上午10时39分52秒，Monkey Zhang写道：

PS. 上述说法可能有误，请多指教，看看是否有更好地解决办法 :-)

在 2014年9月24日星期三UTC+8上午10时09分54秒，老王写道：

# lua-resty-limit-req

lua-resty-limit-req - Limit the request processing rate between multiple NGINX instances

## Synopsis

lua_package_path "/path/to/lua-resty-redis/lib/?.lua;;";
lua_package_path "/path/to/lua-resty-limit-req/lib/?.lua;;";

server {

    listen 9090;

    location /t {
        access_by_lua '
            local req = require "resty.limit.req"

            local ok = req.limit{ key = ngx.var.remote_addr, zone = "one",
                                  rate = "2r/s", interval = 2, log_level = ngx.NOTICE,
                                  rds = { host = "127.0.0.1", port = 6379 }}

            if not ok then
                return ngx.exit(503)
            end
        ';

        echo Logged in;
    }

}

----

最近参考 ngx_http_limit_req_module 写了一个 ngx_lua 的版本，在此分享给大家 :-)

特别地，利用了 redis 作为后端状态存储服务，这样就能使得多个 NGINX 实例之间能够共享和维护这些状态，相当与 ngx_limit_req 的集群版本。

项目地址：https://github.com/timebug/lua-resty-limit-req

hi.laowang

我通常喜欢用尽可能简单的方法来解决问题，如果是我的话，我可能会通过ip hash之类的策略吧请求分散到不同的nginx实例，每个用户的请求保证落在同一个实例上，然后就可以在单机使用nginx内置的limit模块做限制了。

On Wednesday, September 24, 2014 1:47:01 PM UTC+8, Monkey Zhang wrote:

能不能在上一层lvs上将IP禁用？

在 2014年9月24日星期三UTC+8上午10时39分52秒，Monkey Zhang写道：

PS. 上述说法可能有误，请多指教，看看是否有更好地解决办法 :-)

在 2014年9月24日星期三UTC+8上午10时09分54秒，老王写道：

# lua-resty-limit-req

lua-resty-limit-req - Limit the request processing rate between multiple NGINX instances

## Synopsis

lua_package_path "/path/to/lua-resty-redis/lib/?.lua;;";
lua_package_path "/path/to/lua-resty-limit-req/lib/?.lua;;";

server {

    listen 9090;

    location /t {
        access_by_lua '
            local req = require "resty.limit.req"

            local ok = req.limit{ key = ngx.var.remote_addr, zone = "one",
                                  rate = "2r/s", interval = 2, log_level = ngx.NOTICE,
                                  rds = { host = "127.0.0.1", port = 6379 }}

            if not ok then
                return ngx.exit(503)
            end
        ';

        echo Logged in;
    }

}

----

最近参考 ngx_http_limit_req_module 写了一个 ngx_lua 的版本，在此分享给大家 :-)

特别地，利用了 redis 作为后端状态存储服务，这样就能使得多个 NGINX 实例之间能够共享和维护这些状态，相当与 ngx_limit_req 的集群版本。

项目地址：https://github.com/timebug/lua-resty-limit-req

xinqiyang

赞同老玩的做法..

这个关键是看外层的负载均衡是咋个做的了. 如果能控制外层的话,尽量将一个来源比如ip的请求落到一台实例上是否更好一些, 实在不行的话,redis得加几台从库来分担压力了...

不过话说,每秒有 3000+ 的请求么?

2014-09-24 16:34 GMT+09:00 老王 <hi.l...@gmail.com>:

我通常喜欢用尽可能简单的方法来解决问题，如果是我的话，我可能会通过ip hash之类的策略吧请求分散到不同的nginx实例，每个用户的请求保证落在同一个实例上，然后就可以在单机使用nginx内置的limit模块做限制了。

On Wednesday, September 24, 2014 1:47:01 PM UTC+8, Monkey Zhang wrote:

能不能在上一层lvs上将IP禁用？

在 2014年9月24日星期三UTC+8上午10时39分52秒，Monkey Zhang写道：

PS. 上述说法可能有误，请多指教，看看是否有更好地解决办法 :-)

在 2014年9月24日星期三UTC+8上午10时09分54秒，老王写道：

# lua-resty-limit-req

lua-resty-limit-req - Limit the request processing rate between multiple NGINX instances

## Synopsis

lua_package_path "/path/to/lua-resty-redis/lib/?.lua;;";
lua_package_path "/path/to/lua-resty-limit-req/lib/?.lua;;";

server {

    listen 9090;

    location /t {
        access_by_lua '
            local req = require "resty.limit.req"

            local ok = req.limit{ key = ngx.var.remote_addr, zone = "one",
                                  rate = "2r/s", interval = 2, log_level = ngx.NOTICE,
                                  rds = { host = "127.0.0.1", port = 6379 }}

            if not ok then
                return ngx.exit(503)
            end
        ';

        echo Logged in;
    }

}

----

最近参考 ngx_http_limit_req_module 写了一个 ngx_lua 的版本，在此分享给大家 :-)

特别地，利用了 redis 作为后端状态存储服务，这样就能使得多个 NGINX 实例之间能够共享和维护这些状态，相当与 ngx_limit_req 的集群版本。

项目地址：https://github.com/timebug/lua-resty-limit-req

xinqiyang