关于 lua-resty-lock#for-cache-locks 的疑惑及某功能实现思路

mayuxiang · 2013-10-23T18:14:28+00:00

时刻在脑子里告诉自己非阻塞呵呵在 2013年10&#x6708...

关于 lua-resty-lock#for-cache-locks 的疑惑及某功能实现思路

mayuxiang

春哥，您好~

https://github.com/agentzh/lua-resty-lock#for-cache-locks

-- step 4:

local val = fetch_redis(key)

if not val then

-- do.

end

我对 fetch_redis(key) 理解为：再次取cache的数据做判断，是否准确？

-- step 4:

local val = cache:get(key)

if not val then

-- do.

end

有个功能的实现思路：

取缓存数据

存在：则判断是否快过期（阀值为改值过期时间的10%）

未到阀值：返回

到阀值：写锁

写锁成功：ngx.eof() & 更新缓存数据 & 解锁

写锁失败：返回

不存在：写锁

写锁成功：更新缓存数据 & 解锁

写锁失败：返回

问题1：DICT的过期好像不能取？

问题2：如采用 DICT:get_stale(key) 方式则实现思路改为：

取缓存（陈旧）数据

陈旧数据：写锁

写锁成功：ngx.eof() & 更新缓存数据 & 解锁

写锁失败：返回

非陈旧数据：返回

无数据：写锁

写锁成功：ngx.eof() & 更新缓存数据 & 解锁

写锁失败：返回

问题3：是否还有其他更为优雅的实现方式？

xingxing

agentzh

Hello!

2013/10/23 myx:
> https://github.com/agentzh/lua-resty-lock#for-cache-locks
>
> -- step 4:
> local val = fetch_redis(key)
> if not val then
>     -- do.
> end
>
> 我对 fetch_redis(key) 理解为：再次取cache的数据做判断，是否准确？

不对。step 4 是访问后端数据源。这里使用的示例假设使用 ngx_lua 的共享内存字典作 cache，而使用 redis
作后端数据源。我觉得文档里面已经交待得比较清楚了 :)

我的同事 Matthieu Tourne 开源了我们生产使用的一个 Lua 库，名为 shcache. 这个库正是使用了
lua-resty-lock 作 cache lock：

    https://github.com/mtourne/ngx.shcache

可以参考一下它的实现和文档（文档中有一个状态机示意图）。

>
> 问题1：DICT的过期好像不能取？

这个需求有些奇怪，memcached 协议中的 get 命令也没有返回过期时间。

> 问题2：如采用 DICT:get_stale(key) 方式则实现思路改为：

get_stale() 的引入正是为了和 cache lock 一起应对 dog-pile effect 问题。

Regards,
-agentzh

lancelijade

如果用 get_stale，并且对缓存过期不那么敏感的情况下，可以实现得更简单些，以下是伪码

r, stale = get_stale(key)

print r

ngx.eof();

if stale then

lock = get_lock(key)

if not lock then exit end

r, stale = get_stale(key)

if not stale then exit end

r = fetch_new(key)

set(key, r)

unlock(key)

end

这段代码的特点是
1. 无论是否命中缓存都能最快返回结果，适合对结果集要求不是特别高的应用，比如搜索，因为有可能过期比较长时间的结果被输出
2. 可以通过调整输出 r 的位置，得到相对更新的结果，比如把 print r 放到第二个 get_stale 后，当stale 为 false 时
3. 如果有类似 redis 提供的 ttl 命令 http://redis.io/commands/ttl ，可以象 myx 提到的那样，取还没过期的 cache 的有效时间，当小于某一个阈值（比如总ttl的10%）时，触发刷新缓存，那样应该更优雅一些

Lance

2013/10/24 Yichun Zhang (agentzh) <age...@gmail.com>

Hello!

2013/10/23 myx:

> https://github.com/agentzh/lua-resty-lock#for-cache-locks
>
> -- step 4:
> local val = fetch_redis(key)
> if not val then
> -- do.
> end
>
> 我对 fetch_redis(key) 理解为：再次取cache的数据做判断，是否准确？

不对。step 4 是访问后端数据源。这里使用的示例假设使用 ngx_lua 的共享内存字典作 cache，而使用 redis
作后端数据源。我觉得文档里面已经交待得比较清楚了 :)

我的同事 Matthieu Tourne 开源了我们生产使用的一个 Lua 库，名为 shcache. 这个库正是使用了
lua-resty-lock 作 cache lock：

https://github.com/mtourne/ngx.shcache

可以参考一下它的实现和文档（文档中有一个状态机示意图）。

>
> 问题1：DICT的过期好像不能取？

这个需求有些奇怪，memcached 协议中的 get 命令也没有返回过期时间。

> 问题2：如采用 DICT:get_stale(key) 方式则实现思路改为：

get_stale() 的引入正是为了和 cache lock 一起应对 dog-pile effect 问题。

Regards,
-agentzh

--

mayuxiang

原邮件中 step4 的部分是理解错误咯.. 多谢春哥指正~

像实现的基本原则就是快速响应（可牺牲当前请求的准确性），正如像 lance 提到的“是否命中都能快速返回结果”，而在程序中未命中时继续重构缓存数据（也是想把业务逻辑和数据层分得更开些）。

如能取到 DICT 的过期时间那么可以在某个缓存即将失效前做重构处理，尤其是在同类请求频繁且并发时做些优化。

> 我的同事 Matthieu Tourne 开源了我们生产使用的一个 Lua 库，名为 shcache. 这个库正是使用了
> lua-resty-lock 作 cache lock：
>
> https://github.com/mtourne/ngx.shcache
>
> 可以参考一下它的实现和文档（文档中有一个状态机示意图）。

已拜读，很赞的模块~

myx

发件人： Lance

发送时间： 2013-10-24 11:48

收件人： openresty

主题： Re: [openresty] 关于 lua-resty-lock#for-cache-locks 的疑惑及某功能实现思路

如果用 get_stale，并且对缓存过期不那么敏感的情况下，可以实现得更简单些，以下是伪码

r, stale = get_stale(key)

print r

ngx.eof();

if stale then

lock = get_lock(key)

if not lock then exit end

r, stale = get_stale(key)

if not stale then exit end

r = fetch_new(key)

set(key, r)

unlock(key)

Lance

2013/10/24 Yichun Zhang (agentzh) <age...@gmail.com>

Hello!

2013/10/23 myx:

> https://github.com/agentzh/lua-resty-lock#for-cache-locks
>
> -- step 4:
> local val = fetch_redis(key)
> if not val then
> -- do.
> end
>
> 我对 fetch_redis(key) 理解为：再次取cache的数据做判断，是否准确？

不对。step 4 是访问后端数据源。这里使用的示例假设使用 ngx_lua 的共享内存字典作 cache，而使用 redis
作后端数据源。我觉得文档里面已经交待得比较清楚了 :)

我的同事 Matthieu Tourne 开源了我们生产使用的一个 Lua 库，名为 shcache. 这个库正是使用了
lua-resty-lock 作 cache lock：

https://github.com/mtourne/ngx.shcache

可以参考一下它的实现和文档（文档中有一个状态机示意图）。

>
> 问题1：DICT的过期好像不能取？

这个需求有些奇怪，memcached 协议中的 get 命令也没有返回过期时间。

> 问题2：如采用 DICT:get_stale(key) 方式则实现思路改为：

get_stale() 的引入正是为了和 cache lock 一起应对 dog-pile effect 问题。

Regards,
-agentzh

--

mayuxiang

Matthieu Tourne 您好，

https://github.com/mtourne/ngx.shcache

这个模块的例子中

local my_cache_table = shcache:new(

ngx.shared.cache_dict

{ external_lookup = lookup,

encode = cmsgpack.pack,

decode = cmsgpack.decode,

{ positive_ttl = 10, -- cache good data for 10s

negative_ttl = 3, -- cache failed lookup for 3s

name = 'my_cache', -- "named" cache, useful for debug / report

}

)

ngx.shared.cache_dict 后面是不是应该有个 , 来划分参数~

myx

发件人： myx

发送时间： 2013-10-25 09:58

收件人： openresty

主题： 回复: Re: [openresty] 关于 lua-resty-lock#for-cache-locks 的疑惑及某功能实现思路

原邮件中 step4 的部分是理解错误咯.. 多谢春哥指正~

如能取到 DICT 的过期时间那么可以在某个缓存即将失效前做重构处理，尤其是在同类请求频繁且并发时做些优化。

已拜读，很赞的模块~

myx

发件人： Lance

发送时间： 2013-10-24 11:48

收件人： openresty

主题： Re: [openresty] 关于 lua-resty-lock#for-cache-locks 的疑惑及某功能实现思路

如果用 get_stale，并且对缓存过期不那么敏感的情况下，可以实现得更简单些，以下是伪码

r, stale = get_stale(key)

print r

ngx.eof();

if stale then

lock = get_lock(key)

if not lock then exit end

r, stale = get_stale(key)

if not stale then exit end

r = fetch_new(key)

set(key, r)

unlock(key)

Lance

2013/10/24 Yichun Zhang (agentzh) <age...@gmail.com>

Hello!

2013/10/23 myx:

> https://github.com/agentzh/lua-resty-lock#for-cache-locks
>
> -- step 4:
> local val = fetch_redis(key)
> if not val then
> -- do.
> end
>
> 我对 fetch_redis(key) 理解为：再次取cache的数据做判断，是否准确？

不对。step 4 是访问后端数据源。这里使用的示例假设使用 ngx_lua 的共享内存字典作 cache，而使用 redis
作后端数据源。我觉得文档里面已经交待得比较清楚了 :)

我的同事 Matthieu Tourne 开源了我们生产使用的一个 Lua 库，名为 shcache. 这个库正是使用了
lua-resty-lock 作 cache lock：

https://github.com/mtourne/ngx.shcache

可以参考一下它的实现和文档（文档中有一个状态机示意图）。

>
> 问题1：DICT的过期好像不能取？

这个需求有些奇怪，memcached 协议中的 get 命令也没有返回过期时间。

> 问题2：如采用 DICT:get_stale(key) 方式则实现思路改为：

get_stale() 的引入正是为了和 cache lock 一起应对 dog-pile effect 问题。

Regards,
-agentzh

--

agentzh

Hello!

2013/10/24 myx:
> Matthieu Tourne 您好，
>
[...]
>
> ngx.shared.cache_dict 后面是不是应该有个 , 来划分参数~
>

我刚给 Matthieu 发了一封邮件，转达了你发现的这个问题（注意，他并不懂中文，所以依赖 Google Translate
来阅读这里的邮件，而且只是偶尔为之）。

建议未来直接在 github 上面创建 issue 或者提交 pull request，这样更方便一些。毕竟这不是我维护的项目 :)

Thanks!
-agentzh

agentzh

Hello!

2013/10/23 Lance:
> 3. 如果有类似 redis 提供的 ttl 命令 http://redis.io/commands/ttl ，可以象 myx 提到的那样，取还没过期的
> cache 的有效时间，当小于某一个阈值（比如总ttl的10%）时，触发刷新缓存，那样应该更优雅一些
>

嗯，对于 ngx_lua 的共享内存字典而言，ttl() 方法在这里确实是很有用的。欢迎贡献补丁 :)

Best regards,
-agentzh