关于 websocket的内存问题

winding.lee

hi all,春哥

我用如下代码 建立了一个websocket server
但是 如果连接数达到万级，并全部断开连接，所有申请的内存，并不释放，如果再连，内存持续增长，直到将服务器内存耗尽为止，不知道为何？
有和我遇到相同问题的人吗？
用的openresty-1.11.2.1 ，即便强制lua回收内存，内存也不下降多少。
另外 nginx-push-stream-module 配合 openresty使用 同样也存在内存耗尽，不会回收的问题。
我应该怎么查？ 

function chatServer:connect(id,token)

  local wb, err = Server:new{
    timeout = 5000,
    max_payload_len = 65535
  }
  if not wb then
    ngx.log(ngx.ERR, "failed to new websocket: ", err)
    return ngx.exit(444)
  end
  while true do
    local data, typ, err = wb:recv_frame()
    if wb.fatal then
      ngx.log(ngx.ERR, "failed to receive frame: ", err)
      --ngx.exit(444)
      break
    end
    if not data then
      local bytes, err = wb:send_ping()
      if not bytes then
        ngx.log(ngx.ERR, "failed to send ping: ", err)
        --ngx.exit(444)
        break
      end
    elseif typ == "close" then break
    elseif typ == "ping" then
      local bytes, err = wb:send_pong()
      if not bytes then
        ngx.log(ngx.ERR, "failed to send pong: ", err)
        --ngx.exit(444)
        break
      end
    elseif typ == "pong" then
      ngx.log(ngx.INFO, "client ponged")
    elseif typ == "text" then
      --wb:send_text(data)
      local result = self:chat(id,data)
      if result ~= nil then
        wb:send_text(json.encode(result))
      end
    else
      break
    end
  end
  --ngx.exit(444)
  wb:send_close()
  wb = nil
  collectgarbage('collect')

end

doujiang24

Hello

在 2016年10月14日下午8:30，winding lee <windi...@gmail.com>写道：

hi all,春哥我用如下代码建立了一个websocket server 但是如果连接数达到万级，并全部断开连接，所有申请的内存，并不释放，如果再连，内存持续增长，直到将服务器内存耗尽为止，不知道为何？有和我遇到相同问题的人吗？

用的openresty-1.11.2.1 ，即便强制lua回收内存，内存也不下降多少。另外 nginx-push-stream-module 配合 openresty使用同样也存在内存耗尽，不会回收的问题。我应该怎么查？

请用 sample-bt-leaks

https://github.com/openresty/stapxx#sample-bt-leaks

另外一个简单的事情是，区分一下内存泄露在 Lua VM 内，还是 nginx 侧

如果是 Lua VM 测，估计是你的 Lua 代码有错误的时候全局变量

你可以简单的用 collectgarbage("count") 来统计 Lua VM 的内存占用情况

https://www.lua.org/manual/5.1/manual.html#pdf-collectgarbage

function chatServer:connect(id,token) local wb, err = Server:new{ timeout = 5000, max_payload_len = 65535 } if not wb then ngx.log(ngx.ERR, "failed to new websocket: ", err) return ngx.exit(444) end while true do local data, typ, err = wb:recv_frame() if wb.fatal then ngx.log(ngx.ERR, "failed to receive frame: ", err) --ngx.exit(444) break end if not data then local bytes, err = wb:send_ping() if not bytes then ngx.log(ngx.ERR, "failed to send ping: ", err) --ngx.exit(444) break end elseif typ == "close" then break elseif typ == "ping" then local bytes, err = wb:send_pong() if not bytes then ngx.log(ngx.ERR, "failed to send pong: ", err) --ngx.exit(444) break end elseif typ == "pong" then ngx.log(ngx.INFO, "client ponged") elseif typ == "text" then --wb:send_text(data) local result = self:chat(id,data) if result ~= nil then wb:send_text(json.encode(result)) end else break end end --ngx.exit(444) wb:send_close() wb = nil collectgarbage('collect') end

--

winding.lee

http://api.elite.grindrcn.com/a.svg

这是我的火焰图

WARNING: Start tracing 29313 (/usr/local/openresty/nginx/sbin/nginx)...
WARNING: Wait for 30 sec to complete.
WARNING: free misses: 13179

在 2016年10月15日星期六 UTC+8下午5:18:56，doujiang写道：

Hello

在 2016年10月14日下午8:30，winding lee <windi...@gmail.com>写道：
hi all,春哥我用如下代码建立了一个websocket server 但是如果连接数达到万级，并全部断开连接，所有申请的内存，并不释放，如果再连，内存持续增长，直到将服务器内存耗尽为止，不知道为何？有和我遇到相同问题的人吗？
用的openresty-1.11.2.1 ，即便强制lua回收内存，内存也不下降多少。另外 nginx-push-stream-module 配合 openresty使用同样也存在内存耗尽，不会回收的问题。我应该怎么查？

请用 sample-bt-leaks
https://github.com/openresty/stapxx#sample-bt-leaks

另外一个简单的事情是，区分一下内存泄露在 Lua VM 内，还是 nginx 侧
如果是 Lua VM 测，估计是你的 Lua 代码有错误的时候全局变量
你可以简单的用 collectgarbage("count") 来统计 Lua VM 的内存占用情况
https://www.lua.org/manual/5.1/manual.html#pdf-collectgarbage

function chatServer:connect(id,token) local wb, err = Server:new{ timeout = 5000, max_payload_len = 65535 } if not wb then ngx.log(ngx.ERR, "failed to new websocket: ", err) return ngx.exit(444) end while true do local data, typ, err = wb:recv_frame() if wb.fatal then ngx.log(ngx.ERR, "failed to receive frame: ", err) --ngx.exit(444) break end if not data then local bytes, err = wb:send_ping() if not bytes then ngx.log(ngx.ERR, "failed to send ping: ", err) --ngx.exit(444) break end elseif typ == "close" then break elseif typ == "ping" then local bytes, err = wb:send_pong() if not bytes then ngx.log(ngx.ERR, "failed to send pong: ", err) --ngx.exit(444) break end elseif typ == "pong" then ngx.log(ngx.INFO, "client ponged") elseif typ == "text" then --wb:send_text(data) local result = self:chat(id,data) if result ~= nil then wb:send_text(json.encode(result)) end else break end end --ngx.exit(444) wb:send_close() wb = nil collectgarbage('collect') end

--

agentzh

Hello!

2016-10-14 5:30 GMT-07:00 winding lee:
> 我用如下代码 建立了一个websocket server
> 但是 如果连接数达到万级，并全部断开连接，所有申请的内存，并不释放，如果再连，内存持续增长，直到将服务器内存耗尽为止，不知道为何？
> 有和我遇到相同问题的人吗？
> 用的openresty-1.11.2.1 ，即便强制lua回收内存，内存也不下降多少。
> 另外 nginx-push-stream-module 配合 openresty使用 同样也存在内存耗尽，不会回收的问题。
> 我应该怎么查？
>

建议把你的 openresty 里面的 lua-nginx-module 升级到 github 仓库里 master
分支上的最新版本。然后在 nginx.conf 里面配置

    lua_malloc_trim 1;

用于测试。生产上不建议使用 1 这么小的数字。但测试时，为了效果明显，用 1 比较清楚。

我估计是因为你使用的 glibc 自己缓存了很多由应用释放掉的内存块，而没有把这些内存及时归还给操作系统。

你可以用上面讲的方法确认一下。

Regards,
-agentzh