请教 balancer_by_lua 如何实现一个简单的熔断机制

abistey · 2016-08-03T10:54:20+00:00

Hello, 错误提示很明显嘛按照你这样的写法，请&#x6C...

请教 balancer_by_lua 如何实现一个简单的熔断机制

abistey

目前是使用 balancer_by_lua 加上 https://github.com/rrfeng/lua-resty-upstream-etcd 实现了基于 etcd 的简单服务发现。

然后如果后端不够稳定或者流量过高的时候可能会直接压垮，所以通常服务治理框架都有熔断机制，即在发现后端失败率过高的时候，限制访问频率，进行服务降级等。

所以想请问各位大侠这方面有什么好的建议？

例如在某个 phase 统计 upstream peer 返回的错误数量，达到比如 10% 就减少 10% 的流量（随机丢弃，返回空数据等）。

各位感觉如何？

yuansheng

2016-08-03 10:54 GMT+08:00 rr Feng <abi...@gmail.com>:

目前是使用 balancer_by_lua 加上 https://github.com/rrfeng/lua-resty-upstream-etcd 实现了基于 etcd 的简单服务发现。

然后如果后端不够稳定或者流量过高的时候可能会直接压垮，所以通常服务治理框架都有熔断机制，即在发现后端失败率过高的时候，限制访问频率，进行服务降级等。

所以想请问各位大侠这方面有什么好的建议？

例如在某个 phase 统计 upstream peer 返回的错误数量，达到比如 10% 就减少 10% 的流量（随机丢弃，返回空数据等）。

我理解的思路也差不多。

其他特定 phase 或 back worker 收集后端任务健康信息，并计算好每个负载自身的状态，比如权重等。

balancer by lua 里，直接使用这些状态值，从而达到熔断或降级目的。

各位感觉如何？

--

YuanSheng Wang

---------------------------------------

My Github: https://github.com/membphis

OpenResty lover ^_^

abistey

暂时想到两种办法，一种是 balancer 里通过 get_last_failure 来统计，这样的话比较切入自己编写的 balancer 模块。但是可能需要一些额外的配置，比如 proxy_next_upstream off 的情况下就不行了。并且可能需要在 set_current_peer 同时将 peer 保存到 ctx 里（不知道是否 retry 的时候 last tried peer 是否会带进来的）？

另一种是在 log phase，然后将统计信息反馈到 balancer module 里去。

On Wednesday, August 3, 2016 at 9:42:07 PM UTC+8, YuanSheng wrote:

2016-08-03 10:54 GMT+08:00 rr Feng <abi...@gmail.com>:
目前是使用 balancer_by_lua 加上 https://github.com/rrfeng/lua-resty-upstream-etcd 实现了基于 etcd 的简单服务发现。

然后如果后端不够稳定或者流量过高的时候可能会直接压垮，所以通常服务治理框架都有熔断机制，即在发现后端失败率过高的时候，限制访问频率，进行服务降级等。

所以想请问各位大侠这方面有什么好的建议？

例如在某个 phase 统计 upstream peer 返回的错误数量，达到比如 10% 就减少 10% 的流量（随机丢弃，返回空数据等）。

我理解的思路也差不多。

其他特定 phase 或 back worker 收集后端任务健康信息，并计算好每个负载自身的状态，比如权重等。

balancer by lua 里，直接使用这些状态值，从而达到熔断或降级目的。

各位感觉如何？

--

--

YuanSheng Wang
---------------------------------------
My Github: https://github.com/membphis
OpenResty lover ^_^

millken

log阶段统计各种状态码，balancer处理。这种方法最好。