测试openresty的性能高于nginx的疑问？

hippo3137 · 2018-03-01T12:00:26+00:00

对的在 2018年2月28日上午10:40，green missing <miss...@gmail.com> 写道： >...

测试openresty的性能高于nginx的疑问？

hippo3137

HI,ALL:

最近尝试使用openresty自己编写一个简单网关进行openresty的学习，主要想实现动态的upsream和server，参考openresty给的demo编写，逻辑类似下面这样

http{
    send_timeout 60s;    keepalive_timeout 75s;
    keepalive_requests 10000;
    client_body_timeout 60s;
    client_header_timeout 60s;
    charset UTF-8;
    lua_code_cache on;    server {
        listen 80;
        location / {
            set $backend '';
            rewrite_by_lua_block {                rewrite()
            }
            proxy_pass http://$backend;        }
    }
    server {        listen 8111;
        location / {
            proxy_pass http://stable_ups;
        }
    }    upstream dynamic_ups {
        server 0.0.0.1;        balancer_by_lua_block {
            balancer()
        }
        keepalive 20;    }
    upstream stable_ups {        server 127.0.0.1:1111;        keepalive 20;    }}

在ubuntu16.04下，开启单个worker，跑满cpu，访问1Kb的静态文件做测试

I7 6700HQ 4C8T 16GB内存

分别测试以下的几种情况

1、直接使用nginx -> proxy_pass -> stable_ups，tps大概在1.5W

2、开启lua代码rewrite -> proxy_pass -> stable_ups，tps大概在1.9W 这里非常奇怪？为何tps会更高了呢？

3、开启lua代码rewrite -> proxy_pass -> dynamic_ups -> balancer，tps大概在1.5w 开启balancer之后下降了很多，我的代码应该有问题

以上lua中的upstream+sever数据都预先加载在lrucache

请问在2的情况下，resty的性能似乎高过了nginx，是因为我的测试方式有问题还是resty的性能十分优秀？

我在性能测试上没有什么经验，希望各位能帮我解惑。THX ！

zchao1995

Hi!

在测试往后端 proxy 的时候，有没有出现一些 Connection reset 之类的情况。

如果达到极限，可能你压测当中的一部分请求实际上都是 nginx 返回的 5xx，这部分请求没有 body，很快会结束。

在开启 rewrite 的情况下，不管怎么说每个请求都是需要多执行一些逻辑，理论上说 QPS 应该会少。

hippo3137

感谢您的回复！

我使用jmeter进行的测试开启10个线程，每个线程执行200000请求，最终的测试报告中，所有请求的状态码都是200，返回数据长度均为1279个字节，错误率也是0%

在 2018年3月1日星期四 UTC+8下午1:30:44，tokers写道：

Hi!

在测试往后端 proxy 的时候，有没有出现一些 Connection reset 之类的情况。
如果达到极限，可能你压测当中的一部分请求实际上都是 nginx 返回的 5xx，这部分请求没有 body，很快会结束。

在开启 rewrite 的情况下，不管怎么说每个请求都是需要多执行一些逻辑，理论上说 QPS 应该会少。

moonbingbing

检查下是否关闭了访问日志，以及错误日志里面是否有什么信息？

在 2018年3月1日上午5:56，张洋 <hipp...@gmail.com>写道：

感谢您的回复！

我使用jmeter进行的测试开启10个线程，每个线程执行200000请求，最终的测试报告中，所有请求的状态码都是200，返回数据长度均为1279个字节，错误率也是0%

在 2018年3月1日星期四 UTC+8下午1:30:44，tokers写道：
Hi!

在测试往后端 proxy 的时候，有没有出现一些 Connection reset 之类的情况。
如果达到极限，可能你压测当中的一部分请求实际上都是 nginx 返回的 5xx，这部分请求没有 body，很快会结束。

在开启 rewrite 的情况下，不管怎么说每个请求都是需要多执行一些逻辑，理论上说 QPS 应该会少。

--

zchao1995

另外，题主你上面说的 tps 的结构，是一次测试的结果，还是若干次测试后取得的平均值？

hippo3137

多次测试结果都是类似的，我使用ab重新进行测试，情况2的tps在10并发1000000请求下甚至可以达到2.7W，而情况1依然只有1W6-1W7

在 2018年3月1日星期四 UTC+8下午4:17:08，tokers写道：

另外，题主你上面说的 tps 的结构，是一次测试的结果，还是若干次测试后取得的平均值？

hippo3137

我关闭了访问日志，日志级别为error，没有错误日志，所有请求响应数据也是正确的

在 2018年3月1日星期四 UTC+8下午4:15:21，WenMing写道：

检查下是否关闭了访问日志，以及错误日志里面是否有什么信息？

在 2018年3月1日上午5:56，张洋 <hipp...@gmail.com>写道：
感谢您的回复！

我使用jmeter进行的测试开启10个线程，每个线程执行200000请求，最终的测试报告中，所有请求的状态码都是200，返回数据长度均为1279个字节，错误率也是0%

在 2018年3月1日星期四 UTC+8下午1:30:44，tokers写道：
Hi!

在测试往后端 proxy 的时候，有没有出现一些 Connection reset 之类的情况。
如果达到极限，可能你压测当中的一部分请求实际上都是 nginx 返回的 5xx，这部分请求没有 body，很快会结束。

在开启 rewrite 的情况下，不管怎么说每个请求都是需要多执行一些逻辑，理论上说 QPS 应该会少。

--

hippo3137

关于这个性能测试的问题，有人能帮帮我吗？

在 2018年3月1日星期四 UTC+8下午12:00:26，张洋写道：

HI,ALL:

最近尝试使用openresty自己编写一个简单网关进行openresty的学习，主要想实现动态的upsream和server，参考openresty给的demo编写，逻辑类似下面这样

http{
    send_timeout 60s;    keepalive_timeout 75s;
    keepalive_requests 10000;
    client_body_timeout 60s;
    client_header_timeout 60s;
    charset UTF-8;
    lua_code_cache on;
    server {
        listen 80;
        location / {
            set $backend '';
            rewrite_by_lua_block {                rewrite()
            }
            proxy_pass http://$backend;
        }
    }
    server {        listen 8111;
        location / {
            proxy_pass http://stable_ups;
        }
    }
    upstream dynamic_ups {
        server 0.0.0.1;        balancer_by_lua_block {
            balancer()
        }
        keepalive 20;
    }
    upstream stable_ups {        server 127.0.0.1:1111;        keepalive 20;
    }
}

在ubuntu16.04下，开启单个worker，跑满cpu，访问1Kb的静态文件做测试

I7 6700HQ 4C8T 16GB内存

分别测试以下的几种情况

1、直接使用nginx -> proxy_pass -> stable_ups，tps大概在1.5W

2、开启lua代码rewrite -> proxy_pass -> stable_ups，tps大概在1.9W 这里非常奇怪？为何tps会更高了呢？

3、开启lua代码rewrite -> proxy_pass -> dynamic_ups -> balancer，tps大概在1.5w 开启balancer之后下降了很多，我的代码应该有问题

以上lua中的upstream+sever数据都预先加载在lrucache

请问在2的情况下，resty的性能似乎高过了nginx，是因为我的测试方式有问题还是resty的性能十分优秀？

我在性能测试上没有什么经验，希望各位能帮我解惑。THX ！

hongliang5316

Hello!

测试的时候观察下cpu, 硬盘io, 网卡io有没异常吗?

建议觉得性能有问题的跑下火焰图, 详见:

https://github.com/openresty/stapxx

在 2018年3月4日星期日 UTC+8下午9:23:09，张洋写道：

关于这个性能测试的问题，有人能帮帮我吗？

在 2018年3月1日星期四 UTC+8下午12:00:26，张洋写道：

HI,ALL:

最近尝试使用openresty自己编写一个简单网关进行openresty的学习，主要想实现动态的upsream和server，参考openresty给的demo编写，逻辑类似下面这样

http{
    send_timeout 60s;    keepalive_timeout 75s;
    keepalive_requests 10000;
    client_body_timeout 60s;
    client_header_timeout 60s;
    charset UTF-8;
    lua_code_cache on;
    server {
        listen 80;
        location / {
            set $backend '';
            rewrite_by_lua_block {                rewrite()
            }
            proxy_pass http://$backend;
        }
    }
    server {        listen 8111;
        location / {
            proxy_pass http://stable_ups;
        }
    }
    upstream dynamic_ups {
        server 0.0.0.1;        balancer_by_lua_block {
            balancer()
        }
        keepalive 20;
    }
    upstream stable_ups {        server 127.0.0.1:1111;        keepalive 20;
    }
}

在ubuntu16.04下，开启单个worker，跑满cpu，访问1Kb的静态文件做测试

I7 6700HQ 4C8T 16GB内存

分别测试以下的几种情况

1、直接使用nginx -> proxy_pass -> stable_ups，tps大概在1.5W

2、开启lua代码rewrite -> proxy_pass -> stable_ups，tps大概在1.9W 这里非常奇怪？为何tps会更高了呢？

3、开启lua代码rewrite -> proxy_pass -> dynamic_ups -> balancer，tps大概在1.5w 开启balancer之后下降了很多，我的代码应该有问题

以上lua中的upstream+sever数据都预先加载在lrucache

请问在2的情况下，resty的性能似乎高过了nginx，是因为我的测试方式有问题还是resty的性能十分优秀？

我在性能测试上没有什么经验，希望各位能帮我解惑。THX ！