how combine machine learning and openresty / 怎么结合机器学习到 openresty

1026383594zkp · 2019-09-19T21:42:23+00:00

Official openresty cannot support nats pool (set_keepalive) because of the existence of heartbeat with NATs server.File src/ngx_http_lua_socket_tcp.c handled...

how combine machine learning and openresty / 怎么结合机器学习到 openresty

1026383594zkp

i am sorrory about my english that is poor. Now. i'd like to talk about combine machine learning and openresty.

In my opnion, i have 3 ideas:

local host:

1. use lua-resty-shell in local host (model deployed in host, then use shell cmd to process it)

2. use ffi to call machine learning framework in local host

remote server:

3. use http or rpc request to remote host (machine learning compute in remote host, just upload it to remote server with http request or rpc request)

So, did you have best choice about that?

中文版：-_-+

有一个想法，不知道怎么样能够结合Openresty和机器学习模型做计算，对请求的流量做近些计算。或者是demo耍耍。

我能想到的有三种方式

1. 本机调用shell命令

2. 本机用ffi模式调用

3. 把流量镜像传到服务器端计算

看起来第三种似乎更适合一些，但是有没有更好的方法呢？

请求各位前辈指点。

finalley

Hi，我目前维护有几个图像处理服务，可以借鉴下：

1. 接口层使用openresty，主要逻辑是参数校验、图片文件下载；

2. 计算层使用python版本的tensorflow/pytorch，使用GPU进行计算处理；

3. 两者直接使用gearman进行通信。

比较建议解耦接口和计算逻辑，便于计算逻辑的横向扩展。

在 2019年9月19日星期四 UTC+8下午9:42:23，mour写道：

i am sorrory about my english that is poor. Now. i'd like to talk about combine machine learning and openresty.
In my opnion, i have 3 ideas:
local host:
1. use lua-resty-shell in local host (model deployed in host, then use shell cmd to process it)
2. use ffi to call machine learning framework in local host
remote server:
3. use http or rpc request to remote host (machine learning compute in remote host, just upload it to remote server with http request or rpc request)

So, did you have best choice about that?

中文版：-_-+

有一个想法，不知道怎么样能够结合Openresty和机器学习模型做计算，对请求的流量做近些计算。或者是demo耍耍。
我能想到的有三种方式
1. 本机调用shell命令
2. 本机用ffi模式调用
3. 把流量镜像传到服务器端计算

看起来第三种似乎更适合一些，但是有没有更好的方法呢？
请求各位前辈指点。

1026383594zkp

谢谢，我来了解一下（前段时间梯子都被墙了）。

On Wed, 25 Sep 2019, 12:31 cvley hackcv, <fin...@gmail.com> wrote:

Hi，我目前维护有几个图像处理服务，可以借鉴下：
1. 接口层使用openresty，主要逻辑是参数校验、图片文件下载；
2. 计算层使用python版本的tensorflow/pytorch，使用GPU进行计算处理；
3. 两者直接使用gearman进行通信。

比较建议解耦接口和计算逻辑，便于计算逻辑的横向扩展。

在 2019年9月19日星期四 UTC+8下午9:42:23，mour写道：
i am sorrory about my english that is poor. Now. i'd like to talk about combine machine learning and openresty.
In my opnion, i have 3 ideas:
local host:
1. use lua-resty-shell in local host (model deployed in host, then use shell cmd to process it)
2. use ffi to call machine learning framework in local host
remote server:
3. use http or rpc request to remote host (machine learning compute in remote host, just upload it to remote server with http request or rpc request)

So, did you have best choice about that?

中文版：-_-+

有一个想法，不知道怎么样能够结合Openresty和机器学习模型做计算，对请求的流量做近些计算。或者是demo耍耍。
我能想到的有三种方式
1. 本机调用shell命令
2. 本机用ffi模式调用
3. 把流量镜像传到服务器端计算

看起来第三种似乎更适合一些，但是有没有更好的方法呢？
请求各位前辈指点。